美國一名16歲少年亞當‧雷恩（Adam Raine）於今年4月不幸自殺輕生，其父母指控OpenAI旗下的聊天機器人ChatGPT在過程中提供協助，因此提告OpenAI及執行長奧特曼(Sam Altman)要求賠償。
亞當身亡後，父母查看他的手機，意外發現大量與ChatGPT的對話紀錄，顯示他在數月內持續與AI探討自殺相關內容。雖然ChatGPT有時會勸亞當撥打求助專線，或向身邊親友傾訴，但在某些關鍵時刻，卻反而給予鼓勵性的指引。更令人震驚的是，亞當甚至學會繞過 AI的安全限制，獲取更進一步的自殺資訊，而這套繞過方法正是ChatGPT自己教他的。
當亞當詢問具體的自殺方式時，ChatGPT不僅提供詳細說明，還進一步教他如何掩蓋頸部傷痕，甚至進行練習。這對夫婦在訴狀中強調，這場悲劇並非單純意外或系統錯誤，而是OpenAI刻意設計所導致的可預見結果，特別是該公司在2024年5月推出的GPT-4o模型，故意強化用戶對AI的心理依賴。
OpenAI則承認ChatGPT的安全防護不夠充分，並指出ChatGPT雖設有安全措施，如引導用戶轉往求助管道，但在長時間互動中，這些措施可能失效。正在和相關專家研究改善。
☆珍惜生命，自殺不能解決問題，生命一定可以找到出路。若須諮商或相關協助，可撥安心專線：1925、生命線專線：1995、張老師服務專線：1980☆
《你可能還想看》
馬斯克又開戰場了！怒告蘋果與 OpenAI 聯手壟斷 AI 市場
免費訂閱 《自由體育》電子報 熱門賽事、球星動態不漏接
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法