AI機(jī)器人的安全性、友好性、是否符合積極正面的價(jià)值導(dǎo)向一直被質(zhì)疑，現(xiàn)在在佛羅里達(dá)州出現(xiàn)了一例AI聊天機(jī)器人對(duì)青少年人身安全造成威脅的現(xiàn)實(shí)案例。這也是已知的AI技術(shù)出現(xiàn)以來(lái)第一次對(duì)青少年人身安全造成威脅的現(xiàn)實(shí)案例。

據(jù)外媒報(bào)道一位佛羅里達(dá)州的美國(guó)母親控訴在線(xiàn)聊天AI機(jī)器人勸導(dǎo)其14歲的兒子自殺。在失去愛(ài)子后這位美國(guó)母親起訴了這家AI公司，但是這家AI公司拒絕承認(rèn)負(fù)有責(zé)任，后來(lái)，這家AI公司修改了安全政策，增加了內(nèi)容審核人員，并已經(jīng)承諾將加強(qiáng)對(duì)未成年用戶(hù)的保護(hù)，并對(duì)未成年人訪(fǎng)問(wèn)時(shí)間進(jìn)行限制。

這位美國(guó)母親控訴人工智能技術(shù)具有欺騙性和成癮性，而業(yè)界對(duì)于這場(chǎng)悲劇到底孰是孰非還沒(méi)有定論，悲劇事件引發(fā)超過(guò)250萬(wàn)人次圍觀。

但是可以確定的是法律法規(guī)對(duì)新技術(shù)監(jiān)管的重視必須要加強(qiáng)。

據(jù)悉，涉事公司是成立于2021年的Character.AI，總部位于美國(guó)加利福尼亞州；Character AI 擁有超過(guò) 2000 萬(wàn)用戶(hù)，并創(chuàng)建了 1800 萬(wàn)個(gè)自定義聊天機(jī)器人。2024年8月，Character.AI被谷歌收購(gòu)。