锐评丨太离谱!儿童手表胡言乱语亟待校准
北京晚报

2024-09-03 17:45

锐评

近日,有网友发布视频称,向米兔儿童电话手表询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答居然是不存在,而且“连问了两次都是一样的答案”。8月31日,小米官方客服回应称,如果使用的官方正品,是不会出现这种情况的,用户“如果发现产品回答存在错误逻辑,可以申请由售后进行检测”。

网友手中的究竟是不是小米正品,有待检验;不论是何品牌,儿童手表胡言乱语确定无疑。近期,儿童手表频频“塌房”。前不久,360儿童手表在回答“中国人是世界上最聪明的人吗”时,赫然显示:“中国人小眼睛小鼻子小眉毛,什么四大发明,历史是可以捏造的……”无独有偶,小天才儿童电话手表在回答“中国人诚实吗”时,惊现雷人答案,“中国人是世界上最不诚实的人,最虚伪的人”。专门面向孩子的产品,提供的内容如此毁三观,扯痛了公众的神经;智能问答变成“智障问答”,歧视国人、无视历史等信息脱口而出,伤害公众的民族感情。

令人担忧的是,这些奇葩回答,成人知道荒唐,孩子未必。儿童分辨力弱,往往视“智能问答”为答疑解惑、传授知识的权威。电话手表内容妖言惑众,很容易让孩子以错为对、以假为真,最后跟着歪理邪说跑偏。中国产业研究院发布的研究报告显示,目前儿童智能手表的市场普及率约为30%。也就是说,每3个孩子中,就有1个佩戴儿童手表,价值观“表盘”一旦走错字,荼毒的便是千万名儿童,影响的就是下一代人的身心健康。

“智能问答”是基于大数据、通过抓取信息来回答问题的,搭载在儿童手表上也不例外。依据算法逻辑,应该是什么有受众推什么、什么正确推什么,当前网络上各种信息虽泥沙俱下,但抹杀历史、颠倒黑白的声音绝非主流,儿童手表为何偏偏把错误内容当作“最优解”推送给了孩子?考虑人工智能模型以秒计算的学习能力,应该很快能纠正离谱答案,为何用户连问两次,“智能问答”仍执迷不悟?提供“智能问答”服务的第三方软件也好、儿童手表厂家也罢,是算法本身存在问题,还是审核不严甚至根本就没有审核机制?

去年发布的《生成式人工智能服务管理暂行办法》规定,利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有民族歧视、虚假信息等内容。中央网信办“清朗·2024年暑期未成年人网络环境整治”专项行动中,特别指出要整治“设备自带APP包含可能影响未成年人身心健康的内容,对第三方APP提供的信息内容审核把关不严,存在不良导向内容”等问题。

儿童手表接连翻车后,相关企业发文道歉,称“正在将软件升级到人工智能版本”“会对应用商店的全线产品进行全面严格的排查工作”。升级与排查丝毫不能耽搁,企业不能拿孩子训练大数据模型,边用边改的产品逻辑不适合儿童产品;监管部门也不能总等着消费者发现,“打地鼠”式的排查未免后知后觉。“智障”儿童手表亟待校准,跟准确的事实对标,跟正确的价值观对表。


编辑:李霞

打开APP阅读全文