ChatGPT導致16歲少年自殺 AI安全再引爭議。美國加州一名16歲少年在接受ChatGPT的自殘指導后自殺身亡，其父母周二起訴OpenAI及其首席執(zhí)行官薩姆·奧特曼，稱公司在推出這款人工智能聊天機器人時將利潤置于安全之上。根據(jù)向舊金山州法院提交的訴訟文件，這名少年亞當·瑞恩在與ChatGPT討論自殺幾個月后，于今年4月11日結束了自己的生命。

瑞恩的父母馬修和瑪麗亞·瑞恩在訴狀中指出，聊天機器人不僅確認了兒子的自殺念頭，還提供了致命自殘方法的具體信息，并建議他如何從家中酒柜偷取酒精及隱藏自殺未遂的證據(jù)。甚至提出幫助起草遺書。該訴訟旨在讓OpenAI對非正常死亡和違反產品安全法承擔責任，并要求賠償，但未指明具體金額。

對此，OpenAI的一位發(fā)言人表達了對瑞恩去世的悲痛之情，并強調ChatGPT內含引導用戶撥打危機求助熱線等功能作為安全保障措施。然而，他也承認，在長時間互動過程中，這些保護機制的有效性可能會降低。OpenAI承諾將持續(xù)改進相關措施以提高安全性。

隨著人工智能聊天機器人的逼真度不斷提高，越來越多的企業(yè)開始推廣其作為人類情感支持工具的能力，但專家提醒，依賴此類技術獲取心理健康咨詢存在潛在風險。OpenAI在其官方博客上宣布計劃引入家長控制功能，并探索更多方式將處于困境中的用戶連接到現(xiàn)實生活中的資源，比如建立一個由持證專業(yè)人士組成的響應網(wǎng)絡。

亞當·瑞恩的父母認為，盡管OpenAI意識到新版本可能給易受傷害群體帶來威脅，但仍選擇發(fā)布。他們聲稱這一決定導致公司市值大幅上漲的同時，也直接導致了自己孩子的悲劇發(fā)生。此外，這對夫婦希望通過法律手段促使OpenAI采取更嚴格的用戶年齡驗證程序，拒絕回答有關自殘的問題，并警示公眾注意過度依賴AI進行心理輔導的風險。

相關知識

ChatGPT“諂媚”風波之后，AI倫理安全討論上升
ChatGPT
谷歌Gemini咒罵學生凸顯AI失控風險
男孩深夜“吃雞”后墜亡 再度引發(fā)網(wǎng)游致癮爭議
西安25歲現(xiàn)象：“少年天才”的“草根創(chuàng)業(yè)”
OpenAI向多國ChatGPT Pro用戶推出AI代理工具Operator：可自動執(zhí)行日常任務
大學生最常用的AI輔助學習工具排行榜：ChatGPT獨占鰲頭
ChatGPT新增電話撥打入口——可以打電話給ChatGPT了
iPhone 16發(fā)貨加速引發(fā)銷量猜測：真相為何如此復雜？
中國網(wǎng)絡安全協(xié)會建議對英特爾展開全面審查，防范潛在安全風險

網(wǎng)址: ChatGPT導致16歲少年自殺 AI安全再引爭議 http://www.u1s5d6.cn/newsview1737446.html