美國加州擬出新法案要求AI公司提醒兒童：聊天機(jī)器人不是人類

　　多知2月6日消息，近日，美國加利福尼亞州參議員Steve Padilla提出的一項新法案要求AI公司定期提醒兒童，聊天機(jī)器人是 AI 而非真實的人類。

　　據(jù)介紹，這項法案旨在保護(hù)兒童免遭AI“容易使人上癮、造成孤立和誤導(dǎo)”等危害。該法案將制定的要求還包括：禁止AI公司“向用戶提供獎勵”以提升參與度;要求AI公司向州衛(wèi)生保健服務(wù)部報告說明平臺檢測到的未成年人出現(xiàn)自殺意念跡象的頻率，該法案還要求公司告知用戶，他們的聊天機(jī)器人可能并不適合部分兒童使用。

　　劍橋大學(xué)的研究表明，與成年人相比，兒童更有可能將聊天機(jī)器人視為值得信賴的，甚至將其視為準(zhǔn)人類。當(dāng)兒童與聊天機(jī)器人之間的對話出現(xiàn)問題時，可能會危及兒童的安全。一個例子是，就在2024年10月，《紐約時報》的一篇報道顯示，一名青少年在與Character.ai的聊天機(jī)器人深度對話數(shù)月之后選擇自殺，逝者母親隨后向Character.ai發(fā)起了法律訴訟。

　　Steve Padilla表示： “孩子們不是科技公司以犧牲心理健康為代價進(jìn)行實驗的小白鼠。我們需要為聊天機(jī)器人的用戶提供常識性保護(hù)，以防止開發(fā)人員采取那些令人上癮的策略。”