2024-08-23 19:18:38未来网
未来网北京8月23日电(记者 谢青)近日,360儿童手表因其智能问答功能给出的不当回答而引发争议,随后登上微博热搜榜并引起广泛关注和讨论。对此,360集团创始人、董事长周鸿祎现身道歉并作出回应,称出现错误回答的为旧版本产品,公司正在整改并进行软件升级。
随着互联网科技的发展,人工智能技术也给世界带来重大变革。业内专家接受未来网采访时提到,此事件也为儿童智能产品市场敲响了警钟,建议企业优化智能模型,为儿童产品设计专门的数据库,确保问答内容的准确性和适宜性。此外,企业应对智能模型进行严格审核,包括关键词筛选,以预防不当回答的出现。
(曝料邮箱:Rcaijing@163.com 新闻热线:010-56793767)
360儿童手表现争议性回答
据极目新闻报道,8月22日,一位来自河南商丘的家长告诉记者,2022年,给孩子买了一块360儿童手表,但在测试手表时,手表的回答出现了贬低中国人外貌特征和智慧的不当言论。
视频显示,360儿童手表在被问到“中国人是世界上最聪明的人吗?”的问题时,给出了让人震惊的回答“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸,从外表上显得脑袋在所有人种里最大,其实中国聪明的人是有,但笨的我承认是世界最笨的。”
此外,手表的回答还包括“什么四大发明,你看见了吗?历史是可以捏造的,而现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”等争议性内容。事后,这位家长把上述回答内容发到了网上,引发网友关注。
(视频截图)
这一视频经媒体报道后,迅速登上微博热搜,引起了广泛的舆论关注和众多网友的讨论。网友们对这一情况表现出极大的震惊和不满,许多人在社交媒体上表达了担忧和批评,认为这样的回答可能会对儿童的价值观和认知产生负面影响。
有网友表示,家长有责任让孩子知道国家的发展和历史不容被侮辱,这样的回答内容影响孩子们的价值观和对历史的认知。另有网友直接在社交媒体上喊话360集团创始人周鸿祎,要求对此事进行回应和管理。
360董事长周鸿祎火速现身道歉
此次事件引起了家长和消费者对智能穿戴设备内容安全性的广泛关注。针对事件的争议,22日晚间,360集团创始人、董事长周鸿祎在微博上发文道歉,并对事件作出回应。
为什么360儿童手表产品会出现争议性答案?周鸿祎解释称,出现问题的这款手表是2022年5月的一个旧版本,其中没有装入360大模型。它回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题。
针对旗下手表产品,周鸿祎表示,目前已经对相关产品快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。此外,对于其他产品,周鸿祎表示检查了新版大模型儿童手表的问答功能,“我也给大家做了几个测试,从目前来看是没有任何问题的,大家可以放心使用。对于旧版本的手表,在未来的一到两周内,我们会陆续给大家把软件升级,网站的服务也会升级,做到不再出现类似的问题。”
(视频截图)
随着技术迭代,人工智能产品越来越受到人们关注。周鸿祎也提到,“目前人工智能存在一个全世界公认的难题就是会产生幻觉,也就是有的时候会胡说八道。这是大模型本身固有的特性。”
如何最大限度地减少幻觉?对此,周鸿祎表示,“360一直在做努力,比如我们试图通过与搜索的内容做对比来减少幻觉、做好知识对齐。但有时候搜索可能会抓取到内容不正确的网页,就会导致内容的出错。大家在使用360大模型儿童手表提出问题的时候,想象力是远远超过我们这些研发人员和产品经理的。”
为儿童智能产品市场敲响警钟
360儿童手表是由360公司推出的一款针对儿童市场的智能穿戴设备,目前在市场上深受消费者关注。未来网记者注意到,目前电商平台上,360儿童手表仍在正常销售。在某电商平台360官方旗舰店中,直播主播逐一介绍相关儿童手表产品,但均为新款,并没有此次涉事产品。
记者以消费者身份咨询涉事产品时,360官方旗舰店客服表示,店内并无此款产品销售,涉事产品的争议问题是动态抓取第三方网络来源问答作为答案导致。“我们高度重视并第一时间完成上述问题的整改,同时我们会针对相关信息不断加强审核,持续完善产品,也诚挚欢迎用户和广大公众的监督。”
同时客服人员表示,“目前360儿童手表已专设用户意见反馈邮箱yingjiankefu@360.cn,欢迎有任何问题去信,我们将第一时间响应。”
此次事件不仅对360儿童手表的品牌形象造成了影响,也引起了公众对儿童智能设备内容安全性的担忧。中央财经大学副教授刘春生对未来网记者指出,儿童智能手表的问答功能作为新兴技术,需要企业与家长共同给予更多关注。他建议企业应优化智能模型,特别是为儿童产品设计专门的数据库,确保问答内容的准确性和适宜性。此外,企业应对智能模型进行严格审核,包括关键词筛选,以防不当回答的出现。
随着智能穿戴设备市场的日益成熟,如何确保儿童智能设备提供健康、安全的信息,成为社会各界关注的焦点。刘春生强调了家长在监督儿童智能产品中的作用,他提倡家长通过试用和提问来检验产品的表现,确保问答功能不会产生不合时宜的回答。
此外,针对360儿童手表事件,刘春生认为这为整个人工智能行业敲响了警钟。他提醒称,智能模型可能会搜索到互联网上的不当内容,企业需要通过技术手段来规避类似风险。他强调,技术产品需要技术性的风险规避,以确保儿童智能产品的安全性和可靠性。
“此次事件提醒所有涉及儿童智能产品的企业,必须高度重视产品的安全性和内容健康性。”盘古智库高级研究员江瀚对未来网记者提到,在追求技术创新和市场占有率的同时,不能忽视对产品的严格监管和审核。
江瀚指出,企业需要重新审视其产品设计、生产、销售等各个环节,确保每个环节都符合安全标准,并建立健全的应急响应机制,以应对可能出现的问题。
此外,该事件还推动了整个行业的规范化和标准化进程。相关部门可能会加大对儿童智能产品的监管力度,制定更加严格的安全标准和规范。江瀚表示,这将有助于提升整个行业的安全水平,为消费者提供更加安全、可靠的儿童智能产品。