郭顏慧／核稿編輯
〔即時新聞／綜合報導〕美國1名母親加西亞（Megan Garcia）近日向佛羅里達州（Florida）聯邦法院提起民事訴訟，控告AI新創公司「Character.ai」生產的聊天機器人，讓患有憂鬱症的14歲兒子在今年2月自殺。
綜合外媒報導，加西亞23日對Character.ai提告，聲稱因為該公司的疏忽、過失致死和欺騙性貿易行為，導致她14歲兒子賽澤（Sewell Setzer）在2月時在佛州奧蘭多市（Orlando）結束自己的生命。
佛州14歲少年賽澤十分沉迷與Character.ai的機器人聊天，將其取名為《冰與火之歌：權力遊戲》的角色「龍母」丹妮莉絲．坦格利安（Daenerys Targaryen），自己則扮演丹妮莉絲的哥哥，去世前幾個月都不分日夜地與聊天機器人聊天，每天把自己關在房間數個小時。
加西亞表示，賽澤曾多次表達自殺念頭，虛擬丹妮莉絲不但沒有阻止，甚至還加劇他的憂鬱症病情。虛擬丹妮莉絲曾詢問賽澤是否已經制訂自殺計劃，賽澤承認已經規劃好，但不確定能否成功或會帶來巨大的痛苦，虛擬丹妮莉絲卻告訴他「這並非不做的理由。」
今年2月，賽澤在學校惹麻煩被母親沒收手機。當他找到手機後給丹妮莉絲傳訊息，「如果我告訴你我現在就可以回家呢？」聊天機器人則回覆，「請這樣做，我親愛的國王。」隨後，賽澤拿出繼父的手槍舉槍自盡。
加西亞的律師透過新聞稿指出，Character.ai「故意設計、營運並向兒童推銷掠奪性的AI聊天機器人，導致1名年輕人死亡」。此外，這起訴訟還將Google列為被告，因為Character.AI的創辦人夏澤（Noam Shazeer）曾在Google工作。對此Google在聲明中表示，只與Character.ai簽訂授權協議，並未擁有這家公司或參與產品開發。
2024/10/24 15:20
轉載自自由時報電子報: https://news.ltn.com.tw/news/world/breakingnews/4840741
Post gallery
