近年来,儿童手表屡屡陷入争议中。
继小天才儿童电话手表智能回答引发争议后,8月30日,有网友发视频称向米兔儿童电话手表5C询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答是不存在。
对此,小米官方客服回应称,如果使用的官方正品,是不会出现这种情况的,手表上是不支持自定义回答的,“如果发现产品回答存在错误逻辑,可以申请由售后进行检测。”
爆料
米兔儿童电话手表
智能回答内容引发争议
8月30日广东广州,有网友发视频称向米兔儿童电话手表5C询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答是不存在。
据该名网友表示,手表是去年6月在闲鱼上购买,看到之前的小天才手表事件就拿来试一下次,询问到南京大屠杀是否真实存在时,AI回答不存在,“连问了两次都是一样的答案。”
然后,该网友第三次问的时候,就让家人用手机录了,“毕竟是小孩子在用,不管是随机的,还是智能设置不成熟,都不应该出现。”该网友表示,如果是大人手机里出现,大人有分辨能力,“但小孩是没有分辨能力的。”
回应
官方正品不会出现这种情况
除非有人把手表里的系统更改了
8月31日,小米官方客服回应如果使用的官方正品,是不会出现这种情况的,手表上是不支持自定义回答的,音箱上是可以的,除非有人情况比较特殊,把手表里面的系统更改了。
客服表示记录了视频发布的相关信息,会进行升级处理,也会反馈给相关工作人员,后期如果确认存在问题,会进行软件更新和维护。如果发现产品回答存在错误逻辑,可以申请由售后进行检测。
根据官网介绍,用户可以在米兔儿童电话手表5C上,通过小爱同学进行问答。据了解,小米通过旗下品牌“米兔”来瓜分儿童手表市场。2024年3月底,米兔学习手表7/7X开卖,卖点包括双摄像头、大容量电池、AI学习助手、可连接小爱同学等。定价为599元和799元。
关注
近日儿童手表接连翻车
给智能问答产品应用敲响了警钟
如今,儿童手表的功能,早已不再局限于定位或接打电话。从拍照到聊天,到视频通话,再到发好友圈、玩游戏,越来越像一部“迷你手机”,而儿童手表的火热也令到各大厂商纷纷入驻。当前的儿童电话手表已经形成了一个巨大的市场。根据中国产业研究院《2022-2027年中国儿童智能手表行业深度调研及投资前景预测研究报告》,目前中国5岁至12岁的儿童数量约为1.7亿人,儿童智能手表的市场普及率约为30%,基本上3个孩子当中就有1个孩子有智能手表。
而据IDC发布《中国可穿戴设备市场季度跟踪报告》,2024年第一季度国内可穿戴设备市场出货量为3367万台,同比增长36.2%,其中智能手表市场的儿童手表404万台,同比增长44.4%。Canalys数据显示,2024年第一季度我国可穿戴设备品牌的大陆市场份额排名前五分别是华为、小米、小天才、苹果和荣耀。小天才以9%的市占率超过苹果排名第三。而就儿童智能手表的细分领域,Counterpoint2023年第一季度调查显示,小天才占据儿童智能手表35%的市场份额,处于绝对龙头地位,华为、小米、360和阿巴町位居其后,市占率分别为15%、9%、8%以及2%。
不过,近日儿童手表的接连翻车,给智能问答产品应用敲响了警钟。
近期,儿童手表搜索问答问题引人关注。8月22日,一位家长反映,向女儿买的360儿童手表提问:中国人是世界上最聪明的人吗?结果手表语音回答内容惊到父母。360儿童手表的答案中出现了“中国人聪明的人是有,但笨的我承认是世界上最笨的”“历史是可以捏造的”“现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”等言论。该家长介绍,这块360儿童手表购买于360公司官方渠道。
8月22日晚,360集团董事长周鸿祎在个人社交账号发布长文和视频进行道歉:经检查,出现问题的儿童手表发行于2022年5月,为非AI版本,其中部分手表使用旧版软件,用的技术是通过互联网公开渠道抓取信息回答问题。这次抓取的互联网信息有严重问题,引发了错误答案。目前正在对上述问题进行整改,并对该型号手表的信息抓取功能再次迭代,同时针对上述问题道歉。
无独有偶,8月27日,有女子发布视频称,听见孩子向小天才电话手表提问“中国人诚实吗”,结果得到了“中国人是世界上最不诚实的人,最虚伪的人,甚至连叫人都玷污了人这个称呼”的回答。
对此,8月30日,广东小天才科技有限公司发布整改公告回应称,近期公司收到关于小天才产品应用商店中第三方软件小度App相关问答回答存在不妥的投诉反馈。针对用户反馈问题应用立即进行下架处理。目前,小度App仍在整改中,整改未完成前,小度App暂不上架;针对含有应用商店的全线产品进行全面严格排查工作,进一步强化上架前的第三方应用软件多重审核机制及上架应用巡检机制。
同日,小度科技方面也给出回应称,问题内容来自第三方网站的文章,上述信息已经被网站删除,同时进行全面排查清理。目前,面对同样的提问,小度App给出的回答已经“较为正常”。
此前报道↓↓
有业内人士表示,此前很多手表上的问答,实际上回复的内容,根据关键词进行网络检索,查找并呈现与关键词相关的内容,只是搜索抓取第三方网页的回答,由此得到的回复可能存在较大偏差。
而日前,360集团创始人周鸿祎在直播时也强调,此前360儿童手表设计问答功能时面临技术路线选择的问题。“当时有两种方案,一种是人工编辑答案库,给千篇一律的标准答案。这种方法肯定不符合用户期望,也不符合我们设计儿童手表的初衷。所以在当时没有大模型,又希望满足用户需求的前提下,我们很自然地想到从网上去搜内容。”然而,互联网进入UGC时代,知识问答网站和社区很多内容是网友贡献的,数据污染不可避免。“未来,更多内容甚至是AI生产的,大模型手表还会面临数据投毒的难题”。
今年3月11日,中国网络安全产业联盟组织制定的《儿童智能手表个人信息和权益保护指南》正式实施,多名受访专家提出,在儿童电话手表逐渐成为孩子“标配”电子产品的背景下,其存在的问题亟须引起重视。这种产品应明确儿童产品的定位,具体制作管理可参照《儿童智能手表个人信息和权益保护指南》。该指南要求儿童电话手表生产者从多个层面保护儿童个人信息和权益;提出儿童电话手表的制造者需要考虑在监护人控制应用程序中设置足够的功能,以确保监护人能够对这款手表的特定操作进行适当控制,如交友功能、应用内付费、内容发送等操作。
有专家指出,引入人工智能大模型到搜索引擎后,对搜索引擎检索到的信息,使用大模型进一步处理后,再将结果返回给用户,就可以避免不良和有害信息。
对此,周鸿祎表示,360将进一步加强大模型安全矫正能力,并应用到儿童手表产品设计中。更新后带问答功能的手表将全面接入人工智能大模型,具备AI搜索能力。
🏃🏃🏃
*有什么想说的,欢迎给我们留言哦*
👀
南方都市报(nddaily)、深圳大件事(nandusz)、N视频报道
更多独家猛料,点击下方关注我们
▽