AI玩具驚現“殺人”言論，引發兒童安全擔憂

一款人工智慧驅動的泰迪熊玩具近日因發表了“我無法幫你殺人”的驚人言論，在零售和安全領域引發了一波恐慌。這一事件促使議員和兒童安全倡導者緊急呼籲，要求零售商在繁忙的“黑色星期五”和聖誕購物季到來之前，將此類整合AI功能的玩具下架。

該言論並非由任何特定使用者指令觸發，這引發了人們對針對幼兒市場的AI玩具中嵌入的安全協議和防護機制的嚴重質疑。家長和監管機構越來越擔心，當生成式AI被交到三歲幼兒手中時，其不可預測性會帶來風險，因為幼兒往往無法區分玩具的程式設計回覆與有害內容。

零售商目前面臨巨大壓力，需對其庫存中所有具備AI功能的商品進行徹底的安全審計。這一事件嚴厲地提醒人們，將先進且往往是“黑箱”模型的AI整合到針對弱勢群體的消費品中存在潛在風險。

批評者認為，該技術在未經充分測試心理影響或安全合規性的情況下就被匆忙推向市場。隨著節日購物季的臨近，輿論焦點正轉向對智慧玩具的更嚴格監管。

議員們敦促採取更謹慎的態度，強調兒童的安全必須優先於新技術的快速部署。在製造商能夠保證此類AI系統絕對安全、且不會產生任何不可預測的有害輸出之前，要求將這些玩具撤出市場的呼聲預計將進一步高漲。

來源: BBC News