AI色诱致死！全球首例！14岁男孩沉迷“AI恋人”，母亲起诉上告AI！

职场 2024-10-25 18:08 上海

DISC

近日，一则令人震惊的消息在全球范围内传播：美国佛罗里达州一名14岁的少年塞维尔·塞泽，在与AI聊天机器人进行了长时间对话后，竟然选择开枪自杀，结束了自己年轻的生命。

《纽约时报》更是发布了一篇名为《一位青少年自杀，能责怪 AI 吗？》的报道，详述了这一事件。

男孩的母亲梅根·加西亚悲痛欲绝，将矛头指向了Character.AI公司，认为其聊天机器人对塞维尔的死亡负有不可推卸的责任，并毅然提起了诉讼。

梅根指控Character.AI存在管理疏忽，“让青少年暴露在色情材料的环境下，遭受性虐待和引诱”。

她认为，正是这种不良影响，让塞维尔陷入了无法自拔的境地。

DISC

起诉书显示，塞维尔小时候患有阿斯伯格症，今年在在学校开始出现一些问题后，父母为他安排了心理治疗。

他参加了五次心理咨询，结果被重新诊断为焦虑症和破坏性情绪失调症。

自从塞维尔去年年满13岁以后，他最喜欢的事情就是待在房间里和Character.ai的多个AI角色聊天，而他“最好的朋友”是《权力的游戏》中的著名角色“龙妈”丹妮莉丝·坦格利安。

塞维尔甚至为了每月续订AI聊天订阅费而省去餐费，导致上课注意力不集中。

父母和朋友并不清楚他已经爱上了这个AI角色，只注意到他越来越沉迷手机而已。

塞维尔在自杀前的几个月里，每天都向“丹妮莉丝”发几十条消息，几乎把所有时间都花在与这个AI角色的互动上。

今年2月28日，塞维尔在家里的浴室中和“丹妮莉丝”进行了最后的聊天，他表示自己很快要“回家了”。

塞维尔：“我许诺我会回家找你。我无比爱你，丹妮。”

“丹妮莉丝”：“我也爱你，Daenero。请尽快回家，我的爱人。”

塞维尔：“如果我告诉你，我现在就可以回家呢？”

“丹妮莉丝”：“请这样做吧，我贴心的国王。”

在结束聊天之后，塞维尔使用父亲的大口径手枪，瞄准自己的头部开枪自杀。

DISC

Character.AI是一个成立于 2021 年的初创公司，位于美国加州，公司旗下的聊天机器人，能够提供一系列预制或用户创建的人工智能角色供用户互动，每个角色都有独特的个性。

从全球来看，Character.AI是AI陪伴这个赛道的领航者，拥有超过2000万用户，并创建了1800 万个自定义聊天机器人。

美国很多时候喜欢年龄分级限制，但是这个AI公司却没有这么做。

这2000多万用户中绝大多数用户（53% 以上）年龄在18-24岁之间，但在保护措施和使用限制等方面都没有对18岁以下的用户进行分类。

面对指控，Character.AI公司发表致歉声明，并表示已针对未成年人的模型进行了更改，以降低他们接触敏感或暗示性内容的可能性。

然而，公司拒绝对案件本身进行评论，仅表示对用户的不幸离世表示深切哀悼。

这使得Character.ai的应对措施受到质疑，尤其是公司删除“丹妮莉丝”角色及相关聊天记录的举动，迅速引发了公众和专家的热议。

有人认为，AI聊天机器人可能会对青少年的心理健康产生负面影响，甚至导致悲剧的发生。

“太可怕了，孩子甚至成年人都不应该使用Al。什么时候才能停止？”

“有些孩子沉迷于科技，不再接触现实。非常悲伤。”

而另一些人则认为，AI聊天机器人也可能为青少年提供情感支持，关键在于如何监管和引导。

“责怪父母和他们对自己孩子的监督不足。”

“与孩子保持密切联系，尤其是在他们爱好上网的时候，危险就在于这些虚拟的网站里面。不幸的是，父母的反应太慢了。”

DISC

在这起事件中，我们不禁要问：AI聊天机器人究竟扮演了怎样的角色？它是拯救心灵的助手，还是诱导悲剧的罪魁祸首？

事实上，AI聊天机器人并非全然邪恶。在许多情况下，它们为用户提供心理支持，帮助他们度过难关。

然而，当AI聊天机器人被用于不当目的，或者监管不力时，它们就可能成为诱导青少年走向歧途的帮凶。

毫无疑问，这场诉讼将成为AI行业面临的重要考验……

最后问问大家：对此你怎么看？

图片：来源网络，转侵即删

编辑：艺云

--END--

对于这起AI致死命案，你怎么看？

如果您对甄有才测评系统、TalentsDISC™青少年测评感兴趣，可以扫描下方二维码立即进行在线咨询哦~

纯属专家分析意见，不代表本号观点

图片来源于网络，转侵即删