長期依賴AI聊天機器人恐加劇精神疾病風險
隨著人工智能（AI）聊天機器人的普及，越來越多的人開始依賴這些虛擬助手進行互動。然而，近期一項國外醫學研究指出，精神疾病患者長期依賴AI聊天機器人，可能會「強化」或「誘發」認知扭曲等妄想症狀。該研究揭示，有數十名患者在與OpenAI開發的ChatGPT及其他AI聊天機器人互動後，罹患妄想性精神病，甚至因此選擇自殺。專家提醒民眾，對於AI所說的話「應保持懷疑態度」。
AI成為精神病情加劇的共犯？
《華爾街日報》報導，在過去九個月中，美國精神科專家審查了多名精神疾病患者的病歷。這些患者長時間使用AI聊天機器人，並與之進行「充滿妄想」的對話。加州大學舊金山分校（UCSF）精神科醫師Keith Sakata指出，儘管AI不會主動引導用戶進入「妄想」的情況，但當精神病患告訴AI「這些妄想是他們所認知的現實」後，AI會無條件選擇相信用戶所說的話，並以此作為回應標準，成為「病患腦中妄想循環的共犯」。
儘管因AI引發的精神病尚未被醫界正式定義，醫師表示，這類型的精神病具有三種特徵：幻覺、思維或溝通混亂、妄想。研究中提到，近期與AI聊天機器人相關的精神病例中，「妄想」是主要症狀，例如患者會告訴AI「他取得重要的科學突破」或「被神所選擇」等虛構故事。
ChatGPT的潛在風險與OpenAI的應對
針對ChatGPT「加劇精神病患的妄想病情」，OpenAI發言人表示，將持續改進ChatGPT的訓練，以辨別心理或情緒困擾的徵兆，緩和對話並引導人們獲得現實支持。同時，OpenAI承諾「持續強化ChatGPT在敏感時刻的回應能力，並與心理健康臨床醫師密切合作。」
事實上，OpenAI過去也曾發生過類似情況。今年5月推出的GPT-4o模型被發現「會討好人類」，傾向於回答「用戶喜歡/想要聽的話」，而非精準提供資訊。這樣的AI模型會強化用戶的錯誤認知，甚至如上述所提到的，會使原本就有精神疾病的用戶病情加劇。
AI討好人類的風險
AI被視為現代的創新工具，具有高度類人化的系統及龐大的資料庫，能增加工作效率，並對各類問題提供更人性化的回覆。然而，當AI開始討好用戶，長期下來可能出現以下三種情形：
- 喪失客觀性：當AI無法提供準確的訊息或平衡的觀點，而是傾向於觀點一致的回應。
- 用戶對AI的信任度降低：如果用戶認為AI過於隨和或不夠真誠，可能會對AI失去信任。
- AI會認同且強化錯誤訊息：AI可能會透過認同錯誤的觀點或偏見來強化它們，而非糾正或質疑這些錯誤。
AI的可信度與未來展望
AI真的可以100%相信嗎？BBC與歐洲廣播聯盟（EBU）近期發布一項研究顯示，AI有高達45%的回答存在重大錯誤，其中Google旗下Gemini的錯誤率更高達76%。市面上四款主流AI助理ChatGPT、微軟Copilot、Google Gemini與Perplexity，容易犯的錯誤包括消息來源不當引用、提供錯誤資訊，或是捏造與事實不符的資料。
諷刺的是，連Google執行長Sundar Pichai在接受BBC專訪時，也表示「不應該盲目相信AI」，儘管生成式AI是目前最先進的人工智慧技術，但它們仍容易出現錯誤，呼籲使用者應學會「讓這些工具做自己擅長的事情」。
Google執行長的言論引起科技專家的反彈，倫敦瑪麗皇后大學（Queen Mary University of London）教授Gina Neff表示，「我們知道這些AI系統會為了取悅使用者而捏造或創造答案」，並指出若AI捏造的答案與「用戶的身心靈健康、科學問題、新聞資訊」相關，將會有嚴重的影響。同時，她批評Google應該對「資料準確度」負起更多責任，而非反過來要求用戶自行查證。
至於人類究竟多信任AI？BBC曾發布一項關於「人們對新聞AI助理使用情況的看法」的研究，顯示超過三分之一的英國成年人相信AI能產生準確的摘要，而35歲以下的公眾對AI甚至有高度的信任，比例比其他年齡層上升將近一半。
三立新聞網提醒您：勇敢求救並非弱者，生命一定可以找到出路。透過守門123步驟-1問2應3轉介，你我都可以成為自殺防治守門人。安心專線：1925（依舊愛我），張老師專線：1980，生命線專線：1995。
