▲名密西根州的大學生在詢問高齡議題，竟收到「請你去死」等令人不寒而慄的回應。（圖／翻攝Gemini）
Google旗下人工智慧聊天機器人「Gemini」才剛宣布登上iPhone平台，搶攻蘋果用戶，同時也傳出重大爭議！一名密西根州的大學生在詢問高齡長者生活需求與解決方案時，竟遭到機器人威脅，收到「請你去死」等令人不寒而慄的回應。
科技畫重點
■ 大學生討論高齡化議題遭AI威脅生命安全
■ AI回覆涉及人身攻擊違反安全政策
■ 科技巨頭面臨AI安全管控責任質疑
■ AI錯誤資訊恐對精神狀況不佳者造成傷害
事件主角維德海．雷迪原本在研究高齡長者面臨的挑戰與解決方案時，意外收到「Gemini」發出的威脅訊息，內容包含「你毫無價值」、「你是社會的負擔」、「請你去死」等字句。在場的姊姊蘇梅達．雷迪表示，這些令人不安的回應讓他們感到極度恐慌。
▲Google對此回應，表示此次事件為系統非理性回應的案例。（圖／Google提供）
Google對此回應，表示此次事件為系統非理性回應的案例，並已違反公司政策，將採取措施防止類似情況再度發生。然而雷迪兄妹認為，這類回應可能對精神狀態不佳的使用者造成致命影響，不應輕忽。
更多新聞：【勸世文】幫長輩or小孩註冊LINE必看！1動作不慎恐刪掉自己帳號
值得注意的是，Google的AI系統已非首次出現類似爭議。根據報導，去年7月曾有用戶收到建議「每天食用小石頭補充維生素」等危險建議。此外，人工智慧聊天機器人「Character.AI」也因涉及一起14歲青少年自殺事件，遭家屬提告，凸顯AI科技安全管理的重要性。
完整對話請見（英文版）：https://gemini.google.com/share/6d141b742a13
三立新聞網提醒您：
勇敢求救並非弱者，生命一定可以找到出路。透過守門123步驟-1問2應3轉介，你我都可以成為自殺防治守門人。
※ 安心專線：1925（依舊愛我）※ 張老師專線：1980※ 生命線專線：1995※ 反霸凌專線：1953
2024/11/18 10:43
轉載自三立新聞網: https://www.setn.com//News.aspx?NewsID=1565647&utm_campaign=viewallnews
Post gallery
