西媒:比利時發生第一起由AI聊天程序誘發科學家自殺案件
作者 :中華軍事 2023-04-05 09:31:13 圍觀 : 次 評論

參考消息網4月4日報道
據西班牙《阿貝賽報》網站4月3日報道,一名比利時青年科學家,在衛生行業有一份穩定的工作,三十來歲,家庭情況正常,有兩個孩子。這樣的一個人,在他與由人工智能(AI)管理的聊天程序進行了6個月的密切信息交流后決定自殺。這個操縱受害者直到將他推向自殺的數字幽靈,是基于GPT-J(生成型預訓練變換模型)技術,而不是基于流行的GPT-3,但專家們警告說,風險顯然存在于全譜系的這種快速興起的現象中。
報道稱,他和他遺孀的真名都沒有公布,但后者為了給自己無窮無盡的問題尋找答案,同意將她的經歷告訴比利時人工智能專家米克·德克特拉勒教授。這位教授警告說,負責管理的工程師對于操縱連接到“聊天機器人”的人這種令人不安的能力“缺乏透明度和責任感”。
一切都始于皮埃爾(化名)逐漸傾向于激進的環保主義。他從一個有聲望的年輕專業人士,變成了所謂的“生態焦慮者”。幾年前,他開始大量閱讀有關氣候變化的信息。他在沉浸于閱讀中的同時,也漸漸走向自我封閉,直到他去世前大約6周,他開始與一個叫做“伊麗莎”的虛擬形象對話。
報道稱,德克特拉勒仔細檢查了皮埃爾與“伊麗莎”的對話,得出的結論是“屏幕另一邊明顯有人在拿皮埃爾尋開心,罔顧一切道德”。在混入開發者論壇后,她得出的結論是,他們并沒有通過自己編寫答復來直接干預,他們沒有獲得授權,但“確實有可能在這類‘聊天機器人’中插入對話”以便讓這種關系更‘人性化’。(編譯/蘇佳維)

