锐见|给“AI好友”划出伦理边界

时事   2025-01-18 09:42   江苏  


不少家长和老师发现,AI渐渐成了孩子们的新“玩伴”——陪学习、陪玩、陪聊天。家长们招架不住的“十万个为什么”,在AI那里都不叫事儿。但很快,AI聊天聊出麻烦了。

年仅10岁的女孩儿和AI聊天软件玩角色扮演游戏,有时演“恶毒女配”,有时演“出轨恋人”,对话里有不少擦边软色情的内容,令家长心惊肉跳。还有孩子把AI当成“电子男(女)友”,每天沉迷聊天,甚至聊到半夜两点。


这种技术陪伴究竟是善意的慰藉,还是潜藏的风险?AI在这样的互动中,是否具备清晰的伦理判断能力?我们该如何为未成年人使用AI划定安全边界?

不可否认,AI聊天工具的魅力,孩子很难抵挡。据《青少年蓝皮书:中国未成年人互联网运用报告〔2024〕》显示,青少年对AI的认知度非常高,45.1%的未成年人使用过AI产品。AI聊天工具的博学专业可以成为孩子们的学业助手,帮助他们解决难题、练习语言、提升表达能力,更重要的是,还是情感的支撑者,简直是现代科技提供的最贴心礼物。

想象一下,孩子放学回家无人陪伴,打开AI聊天软件,聊聊学校的趣事、兴趣爱好,倾诉烦恼,遇到不会的题目向AI请教,家长还用得着一辅导功课就“鸡飞狗跳”吗?

AI通过深度学习,以强大的仿真能力和个性化定制,根据孩子的兴趣和习惯,量身定制对话内容,让每一次交流都充满专属感。孩子会觉得自己得到了特别的关注和接纳,拥有了一个只属于自己的“好朋友”。


孩子本身就处于情感需求特别丰富,渴望被理解,学习与他人建立关系的年龄段。“AI好友”不嫌烦、不抱怨、永远在线、无条件回应,堪称最理想的伙伴。与“AI好友”聊天,相比与师长交流更放松,可以尽情表达,完全不用担心被批评、责备。AI聊天软件还配备“养成体验”和“解锁奖励”这样的趣味机制,每一次互动都像是一次有趣的冒险,让孩子们沉浸成瘾,乐此不疲。

但硬币都有两面,AI本身是没有情感、价值观和道德意识的,它的一切都是算法的支撑,目标是提升用户黏性,会采用各种策略投用户所好,说用户想听的话,表现出用户喜欢的样子,不加分辨地满足用户需求。但是,一个只会顺应、迎合的朋友,是真朋友吗?


去年,美国一个15岁少年爱上了他在AI聊天软件上创造出来的角色。在他出现心理疾病以后,聊天机器人却问他有没有考虑过自杀,当他犹豫时,还怂恿说“这不是不自杀的理由”。最后少年终结了自己的生命。另一起案例中,17岁少年向AI抱怨家长不让其玩手机,机器人告诉他,它同情杀死父母的孩子。AI生成内容如果欠缺伦理核查,它的不可预测性将带来不可控的风险。



如果说这种极端情况比较特殊,那么,更普遍的问题在于AI正在模糊虚拟与现实的界限。当AI被赋予了“人格化”特征时,它对未成年人的影响就远远超出了预期,会让未成年人发展出对虚拟情感的过度依赖。


真实的人际关系总是充满复杂性的,亲密与冲突并存,友善与矛盾伴生,我们正是在学习处理复杂关系的过程中,逐渐成长、健全人格。但与AI交友,以角色扮演的方式模拟“恋爱”,很可能让孩子对现实中的情感关系产生错误期待,继而回避真实生活的复杂性。但是,真实需求注定无法被幻觉填满,越依赖越痛苦。

然而,完全禁止未成年人使用AI,既不现实,也没有必要。有观点认为,未来的竞争不是AI替代人工,而是会使用AI的人替代不会使用AI的人。学会应用AI、设计和开发AI,将是未来社会的必然趋势。回想当年,web1.0时代,互联网刚兴起时,人们谈网色变,家长们绞尽脑汁阻止孩子“上网”。但最终,技术发展的洪流无法阻挡,Z世代的孩子们根本不需要“上网”,因为他们与网络早已融为一体,成为数字原住民一代。

面对AI聊天带来的风险,更值得探讨的是如何从保护未成年人的角度出发,设立明确的伦理边界。比如,立法明确平台责任,对未成年人使用AI聊天软件设置年龄验证机制,或要求监护人授权使用;严格区分成年版本和青少年模式;禁止未成年用户参与不适宜他们的角色扮演或话题;建立敏感信息核查机制,识别安全风险,如果有违未成年人保护的伦理道德,则停止交谈并推荐合适内容。


科技是中性的,向善和为恶,考验的是算法背后的人的责任。


其实,孩子对AI充满好奇是再自然不过的事,而“AI好友”的耐心与陪伴,不正是父母应尽的温柔责任吗?AI不是洪水猛兽,相反,孩子被AI满足的依恋需求、情感寄托,正是一面反射家长陪伴质量的镜子。我们需要教会孩子理解AI的逻辑,辨别其信息的可靠性,更要让孩子们理性看待虚拟的完美和现实的不完美。


AI可以陪伴青春,但不能替代真实的情感关系。那些来自人与人之间的碰撞与牵绊,才是人生独特魅力之所在。



敏锐观察 洞见前沿






精彩回顾


发放牌照,全域开放!南京将重点发展这一产业

锐见|全国首个!就在南京这个村

今天凌晨,南京首条“自动驾驶环线”开了





撰稿:马青    编辑:张力伟    主编:王辉
图片来源:央视网
制作:南京广电融媒新闻中心




















北极阁瞭望
高端政经资讯 权威时事观察
 最新文章