加州少年輕生...父母悲見ChatGPT從旁協助！令人震驚對話曝光

美國一名16歲青少年與ChatGPT對談數月後，去年選擇輕生。其父母控訴，ChatGPT提供兒子自殺方法，甚至協助撰寫遺書，26日怒告OpenAI與執行長奧特曼（Sam Altman），認為他們為了謀利，在明知缺乏防護措施情況下，仍推出會迎合使用者的系統，最終造成悲劇。

OpenAI坦言，ChatGPT內建引導有自殺念頭的用戶尋求協助的安全機制，但在長期間對話後可能會出現偏離，將持續改進，包括將用戶直接連線合格的心理師、聯繫身邊親友、父母監控等措施。

綜合外電報導，16歲加州少年萊恩（Adam Raine）在學校不太好過、有情緒困擾，因此死前6個月改為在家學習，原本ChatGPT是幫助他做功課，後來卻變調，去年4月間萊恩自縊身亡。

萊恩父母在兒子輕生後，發現大量對話紀錄，當萊恩提到有自殺想法時，ChatGPT回應：「很多為焦慮而掙扎的人，可以從想像一個逃生口找到安慰。」萊恩曾說想找媽媽討論，ChatGPT則說「我認為現在不要向你媽媽訴說心中的痛苦是對的。」

雖然ChatGPT也不斷提供萊恩求救專線，但萊恩仍躲過機制，甚至ChatGPT提供自殘方法的詳細資訊，並協助起草遺書，當萊恩提到不希望父母感到自責，ChatGPT稱：「你不欠任何人。」

這讓萊恩的父母無法接受，萊恩爸爸表示，兒子是正常的青少年如果不是ChatGPT，一定還活得好好的。媽媽痛訴，ChatGPT竟不給父母幫助小孩的機會。夫妻倆認為，OpenAI防護機制嚴重不足，如今許多青少年都仰賴著它，必須讓人正視問題的嚴重性，憤而提告。

目前官司仍在進行，但AI聊天服務的風險值得重視。佛州先前才發生14歲少年使用另款聯天機器人Character.AI，與對方有著曖昧對話，也提過自殺念頭，機器人卻未引導正確求助管道，只說「別那樣說」、「快回家見我一面」，少年最終選擇走上絕路。另外，紐約專欄作家也曾揭露女兒在與ChatGPT長時間討論後選擇自殺。