近期,在社交媒体上,有部分家长反映,自己通过小天才电话手表App跟孩子聊天时,“我是你妈”“打断你腿”等表述被系统提示“可能含有不适宜内容”,令人哭笑不得。最近,郑州的罗星(化名)在社交媒体上刷到小天才电话手表对于一些“敏感词”的限制,觉得不可思议。出于好奇,她也试了试。“‘我是你妈’‘我是你妈妈啊’‘宝贝儿子,我是你妈’‘赶紧回来不然狗腿给你打断’‘打你狗腿’这些话都是发不出去的,系统提示‘该消息可能含有不适宜内容’,发‘儿子,我是妈妈’是可以发出去的。”罗星说,自己之前通过小天才电话手表App与孩子沟通时,并未出现过这种情况。“之前没跟孩子发过‘打断腿’等类似内容,不知道是不是没有出现违禁词,还是说小天才电话手表之前没有这些限制。”罗星称。宋怡(化名)近期给孩子发送的一条消息,也被小天才电话手表判定为违禁词。“孩子问我咳嗽药一天喝几次,我说一天三次,然后系统就提示‘该消息可能含有不适宜内容’。”小天才电话手表对于图片的发送也有限制。去年11月,北京的杜华(化名)准备给孩子买一套名为《莫西西魔法日记》课外阅读,于是就把书的封面通过小天才电话手表发给孩子询问她的意见,结果一直发不出去。20日,针对前文中提到的违禁词限制,中新经纬以家长身份致电小天才电话手表官方客服,对方表示,因为电话手表使用的群体大多都是孩子,小天才电话手表设计了一些保护孩子的功能。“我们也是想创造一个绿色的沟通环境,一些敏感词汇或者不文明用语都是发送不出去的。不管是家长跟孩子聊天,还是孩子之间聊天,这些内容都发不出去。”提到违禁词的审核逻辑,小天才电话手表官方客服表示,系统既有过滤机制,也有人工审核。有网友反映,自己在安排孩子晚上做作业时给孩子发消息“晚上做”,被系统提示“可能含有不适宜内容”。提到该案例,上述客服表示,“(发)‘晚上做’得加一下后缀,做什么。这个‘做’系统是有判断的。因为有别的手表用户会发那些(违禁词),所以系统就统一都提醒一下。”网友调侃,“小天才电话手表在违禁词方面是有自己的理解的,逼疯每一个爸妈”“留给小天才的词不多了”。学生观点
1、我觉得这样的屏蔽毫无意义,电话手表上语言文明了,就能说明人的语言文明了?
2、让我觉得有意思的是,它没有差别的屏蔽了所有认为不文明的语言,包括家长的话,那是不是也从另一个角度说明了,家长说的不文明语言也不少?
3、哪些话是不能说的,哪些话又是能说的呢?就现在看到的这些来看,着实是好笑大于实效吧?这也是AI的弊端;
4、小天才电话手表的发家史,就是跟炒作概念联系在一起的。我严重怀疑这次事件也是他们自导自演的一出戏。
小霏没有电话手表,所以严格来说,我也没有与电话手表打交道的经验。今天,我无意批评电话手表的种种弊端,毕竟凡事有利有弊方为常态。
就这次事件来说,其实更多的还是暴露出来了AI智能的阶段性局限。如果缺少正常的人工审核,靠AI来判定什么话能发什么话不能发,确实容易出笑话。但是,如果真如小天才厂家方所说理由,态度和方向,似乎还是好的。
另外,作为教育者,我很喜欢你们提的醒:为人师长,也确实要注意自己语言的文明性和准确性。
1、在手机化发展趋势之下,由于服务对象的敏感性和特殊性,儿童智能手表发展中带来的隐患备受关注,功能冗余、诱导消费、隐私侵犯等问题屡禁不止。多位受访对象表示,儿童智能手表主要依靠硬件来赚取利润,但在软件需求越来越大的今天,这门生意很容易跑偏。
2、孩子的鉴别力比较弱,手表应用商城中的第三方应用程序核心以工具、生活类为主,还要有严格的应用规范。比如,严禁所有App自动续费和免密支付、手表不能安装非官方认证的应用,不能打开未知链接。孩子的自制力比较弱,手表支持多种时间管理功能,如限制连续使用时长、每日使用时长、支持上课禁用等,协助家长对孩子进行正确的引导,养成良好的使用习惯。
3、实际上,AI客服“逼疯”消费者背后,不只是AI技术尚未完全成熟的问题,说到底,还是态度问题、理念问题。除了饱受诟病的“人工智障”,有的商家或服务提供者会在“人工服务”前设置重重障碍,消费者要么需要在网页上不停点击、“拿着放大镜寻找”,要么需要在打客服电话时按语音提示拨一连串数字,稍有错误又返回最初菜单。在这些情景中,数字技术、AI客服已经不是提质降本增效的工具,而成了一道无形的挡箭牌。把“人工服务”藏得越深,就可能把消费者推得越远。倘若偏离了更好服务消费者的初衷、丢掉了以用户为本的追求,即便再智能,最终带来的,也只能是难以修复的隔阂,以及逐渐褪色的口碑。4、AI客服的“困境”带来的更深层次启示在于:新技术赋能治理与服务的同时,永远不要忽视人类最本真的情感、最真实的需求。在高铁一日千里的时代,许多地方却仍然保留着服务当地群众基本需求的“慢火车”;当智能设备成为“我们身体的一部分”,也有越来越多人渴望“关一天手机”,深入自然,寻觅乡愁。只有坚持以人为本,在快与慢、新与旧、未来与传统之间找到平衡,我们才能推动新技术新应用健康可持续发展,更好造福群众。