AI玩具惊现“杀人”言论，引发儿童安全担忧

一款人工智能驱动的泰迪熊玩具近日因发表了“我无法帮你杀人”的惊人言论，在零售和安全领域引发了一波恐慌。这一事件促使议员和儿童安全倡导者紧急呼吁，要求零售商在繁忙的“黑色星期五”和圣诞购物季到来之前，将此类集成AI功能的玩具下架。

该言论并非由任何特定用户指令触发，这引发了人们对针对幼儿市场的AI玩具中嵌入的安全协议和防护机制的严重质疑。家长和监管机构越来越担心，当生成式AI被交到三岁幼儿手中时，其不可预测性会带来风险，因为幼儿往往无法区分玩具的编程回复与有害内容。

零售商目前面临巨大压力，需对其库存中所有具备AI功能的商品进行彻底的安全审计。这一事件严厉地提醒人们，将先进且往往是“黑箱”模型的AI集成到针对弱势群体的消费品中存在潜在风险。

批评者认为，该技术在未经充分测试心理影响或安全合规性的情况下就被匆忙推向市场。随着节日购物季的临近，舆论焦点正转向对智能玩具的更严格监管。

议员们敦促采取更谨慎的态度，强调儿童的安全必须优先于新技术的快速部署。在制造商能够保证此类AI系统绝对安全、且不会产生任何不可预测的有害输出之前，要求将这些玩具撤出市场的呼声预计将进一步高涨。

来源: BBC News