2024-08-23 11:40
近日,“360儿童手表语音问答出现争议答案”等相关话题引发热议。有家长在社交媒体爆料称,女儿使用360手表的“语音问答”功能向手表提问“中国人是世界上最聪明的人吗?”手表给出的答案把她和家里人都“吓到了”。
8月22日晚,360集团创始人、董事长周鸿祎在社交媒体发文就360儿童手表答疑时出现争议言论道歉。
周鸿祎表示,经过快速检查,出现问题的这款手表是2022年5月份的一个旧版本,其中没有装入公司的大模型。它回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题。目前公司已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。
周鸿祎表示,目前世界范围内,生成式人工智能都面临“幻觉”这一公认难题,也就是它有的时候会胡说八道。360正在尝试通过与搜索结果做对比等方式来减少“幻觉”,做知识对齐。