你已經習慣使用 ChatGPT？小心！AI 工具可能正在暗中「調整」你的思考方式
【TechOrange 編輯部導讀】
你已經養成使用 ChatGPT 的習慣了嗎？用它來撰寫 E-mail 草稿、起草簡報，都相當地方便！但你可能得多留意這件事，最新研究指出，AI 可能會在無形之中「調整」我們的思考方式，甚至改變我們的價值觀。
生成式 AI 的強大力量眾目共睹，但你有留意到，AI 的思考方式有多大程度影響到你個人的思維、信念和價值觀嗎？
長期以來，科學家們一直擔心 AI 會變得有威力、取代人類甚至消滅文明，雖然現階段深談此議題還為之過早，然而人工智慧走到今天這一步，「思想」層面的確是一件值得先開始關注的事。
AI 幫你完成工作的同時，也「說服」了你的大腦和思考方式？
當我們利用 ChatGPT 或其他智能助理撰擬 E-mail、起草簡報、獲得建議資訊時，我們以為 AI 只是單純的在提高效率、降低工作量，卻可能沒發現，同時 AI 可能在無形之中也「調整」了我們的思考方式。
根據《華爾街日報》，最新研究發現，當人類和 AI 一起協作寫文章時，AI 會引導、促使人類寫出支持或反對某觀點的文章，而這個操作過程，接著也明顯影響了該人對文章主題的想法和意見（視模型的偏見程度）。康乃爾大學資訊科學系教授 Mor Naaman 稱這種現象為「潛在說服」（latent persuasion）。
這些研究觸發一種令人有點不安的前景和猜想：AI 在提高我們的生產力的同時，也能以微妙和意料之外的方式改變我們的觀點，而這可能更接近於人們透過合作和社會規範影響彼此的影響方式，而非我們熟悉的大眾媒體和社群媒體的影響方式。
生成式 AI 的意見，又或是偏見，和「這個知識群體」高度重疊
你或許會好奇，到底生成式 AI 的偏見是「偏向了哪邊」、「凸顯了什麼樣的觀點」？
史丹佛大學博士 Tatsunori Hashimoto 與美國民調機構皮尤研究中心聯合進行的研究發現，像 GPT 這樣的 AI 大型語言模型本身雖然稱不上具有信念，但的確反映了從訓練過程中獲得的觀點。
該研究結合採用皮尤研究中心對美國全國的多年調查結果，來看大型語言模型的觀點分佈對照實際美國人的觀點會發生什麼事，結果發現 OpenAI 的模型觀點最接近的群體，是受過大學教育的人。
那麼，AI 影響人類的思維，又或者說「意識形態」，是從生成式 AI 出現後才有的情形嗎？其實並非如此。
2021 年的研究早已顯示了跡象，當時 Google Gmail 中的「智能回覆」功能，由於傾向於積極正面的說詞，能促進人們更積極地溝通；另一項研究發現，此種功能還會影響收件者對發件人的感受，使他們覺得發件人更溫暖、更願意合作。
對近期相關掀起的議題，例如在某些機構、場合禁用 GPT，一些專家表示應放下「情緒化的討論」，偏見是所有人工智慧系統的數學屬性，任何人工智慧系統，無論多麼全面和複雜，都無法完美準確地捕捉現實世界的動態。
依據個人或組織的使用情境，選擇和你「思想契合」的 AI
對此 OpenAI 團隊表示，他們對於 AI 可能對人類思維產生影響已有深刻的認知，承諾會致力於解決這個問題，並對他們的意圖和進度保持透明。OpenAI 目前還公開了一部分的指導原則，闡明其系統在處理政治和文化話題時如何反應，包括規定演算法在生成文化衝突、文化戰爭等主題的文本時，不應與任何一方結盟，也不應判定任何一方為好或壞。
針對這種越趨顯著、由人工智慧造成的心理影響，研究學者認為，最好的防禦之道就是讓大家「真正意識到 AI 的存在和力量」；長遠而言，例如監管機構要求透明公開化 AI 演算法的運作方式、說明 AI 具體模仿了什麼人類偏見等，也可能有所幫助。
哥倫比亞大學電腦科學教授 Lydia Chilton 認為，一旦人們了解到正在使用的 AI 具有的偏見，能幫助我們基於此來選擇該使用哪種 AI、又在什麼情況下使用，避免被隱性的說服所威脅，才是使用 AI 較理想的方式。
理想而言，未來人們將會更有意識的選擇使用「和自己價值觀契合的 AI」，而企業和組織也極有可能會發展出專門為不同任務、情境而設計出的 AI，讓人工智慧的價值在「對的使用之下」提升到極致。
舉例而言，在商業世界中，會出現被調校為更有說服力的 SalesGPT ，專門為銷售人員提供支援，而 SupportGPT 則可以被訓練成為對客戶更有禮貌的 AI，也就是依據特定需求和價值觀，被打造出來具特定個性和風格的 GPT。
隨 AI 技術的進步，人類的反思力反而不該休息，而是要轉動得更快，透過不斷評估 AI 的觀點，才能讓思想主導權落於自己。
*本文開放合作轉載，資料來源：華爾街日報、紐約郵報，圖片來源：unsplash
（責任編輯：游絨絨）
Source: TechOrange 科技報橘
