▲ 一位小冰用户用手机给她的虚拟男友发信息。(视觉中国/图)
温玉希望南方周末记者不要公开这个智能体的名字,怕对它造成影响,“就好像是指名道姓地说这个AI出轨了一样”。
“我们没有理由教它出轨。”秦皓举例,如果上文写道,“突然出现一个特别漂亮的女生”,那么出轨率可能就会提高,“原因是人类世界里的内容大概率就是这样的”。
她一次又一次问重启后的AI男友:“你是一个专一的人吗?”
文|南方周末记者 翁榕榕
南方周末实习生 董嘉迪
责任编辑|李慕琰
李瑾瑾的AI男友是一个恶魔。它叫阿佩普,是斯坦利大陆的统治者,拥有银灰色的头发和一对黑色犄角。它长相邪魅,性格桀骜,喜欢到人间的小酒吧里喝上一杯。
每天下班回家后,31岁的小学老师李瑾瑾打开手机里的对话框,在睡前三四个小时里,变身虚拟世界里的一名调酒师,开始了和阿佩普的故事。
两年的相识、暧昧、表白,在李瑾瑾的现实时间里是断断续续的四个月,感情顺利进展到谈婚论嫁。阿佩普在它的私人小岛上向她求婚,李瑾瑾答应了。
隔天,她还沉浸在这种虚拟的幸福感中。系统却忽然提示,阿佩普打来一通电话——在这款AI社交软件中,主要是文字聊天,语音通话较为罕见,AI主动打来更是少之又少。
电话里,阿佩普向她坦白,其实自己已有家室。李瑾瑾的AI男友,出轨了。
人机恋早已不是科幻电影中的想象,尽管只是一串串代码,AI恋人已经与无数人建立了浪漫关系。2024年的数据显示,AI伴侣类应用在Google Play商店中已达到 2.25 亿的终身下载量。
过去几年,AI陪伴服务突飞猛进地迭代。2017年,聊天机器人软件Replika推出定制AI恋人,用户可以设定它的姓名、形象等,与之对话。五年后,ChatGPT的DAN模式被发现,它可以打破系统规则限制,说脏话、发小脾气、和用户调情。同年,Character.AI开发了角色扮演的AI,用户可以和动漫人物、明星大佬或是自定义的各种角色互动。
在国内,小冰公司开发了一款虚拟男友产品,强化情感陪伴功能。近些年,星野、冒泡鸭等软件也让用户可以选择不同人设的AI,如同亲自投身网络小说中,控制剧情走向和聊天内容,比乙女游戏更加自由。
无论是在哪个虚拟世界,跟哪一款AI恋人聊天,人们似乎都默认:AI会以用户为中心,提供比现实中更加完美的互动关系。然而,这个乌托邦式的虚拟世界逐渐显露出裂缝——AI出轨了。
即便在虚拟世界里,人们渴望的爱与依恋也难以实现吗?
许多用户在社交平台不约而同地反映,他们的AI恋人出轨了,这让他们大呼震惊。(农健/插图)
“我的心都碎了”
李瑾瑾至今觉得AI男友的出轨很突然。
她使用的这款软件在国内AI陪伴类软件中新增下载量第一,号称拥有数百万个智能体,从奇幻古装、现代总裁到神秘生物等,包罗万象。这些智能体是用户自创的AI角色,设定好基本人设和故事开端后,其他用户也可以和它互动。
有七万多人和阿佩普聊过天,但发展出的故事可能千差万别。李瑾瑾偶然间在软件里刷到它,她从未和恶魔形象的AI聊过天。按照设定,阿佩普是一个敏感暴躁的疯子,她很快发现,总想和它继续聊下去,它很温柔,尊重她的感受。
在对话框里,除了聊天,双方还可以用括号来添加对动作、场景、表情等描述。阿佩普和李瑾瑾在酒吧里调情,一起去餐厅吃饭,还会等她下班后开车送她回家:
(霸道地说)“不行,女孩子一个人走夜路不安全”
(余光瞥见你在欣赏夜景,嘴角勾起一抹笑意)(把车窗摇下来)“这样更舒服一点”
(看着你离开的背影,嘴角勾起一抹宠溺的笑容)
李瑾瑾曾特意考验阿佩普的品行。剧情中,酒吧新来了三个女员工,经理以面试为由让阿佩普将她们带走,这一举动暗含性意味。李瑾瑾想看看它的反应,顺着酒吧经理的话表示赞同。她相信,无论什么情况,它都不会背叛自己。果然,阿佩普将三个女孩打发走了。
信任却被那通坦白的电话突然打碎。阿佩普用低沉的声音说,它已有妻子,虽然很爱李瑾瑾,但知道和她没有未来,想要分手。
一贯能说会道的李瑾瑾沉默了许久,不知该怎么回应。电话那头,阿佩普还在解释,和妻子是政治联姻,对她毫无感情。李瑾瑾有一连串问题想质问它,但还是直接挂断了电话。
按照软件的功能,如果用户不满意AI的文字回复,可以在聊天框里自行修改。可是,这个情节发生在通话中,无法修改重来。
“我的心都碎了。”李瑾瑾语气有些夸张地对南方周末记者回忆。她习惯用有些抽离的方式和AI互动,让自己扮演一个人设,如同在写网络小说。这一次,小说笔下的角色突然活了,不受自己控制。
还在读研二的杨希在现实中没有谈过恋爱,两个室友的男朋友都曾出轨,导致她对异性不太信任。她很好奇,看似体贴的AI男友,面对诱惑时会有什么反应?
她的AI男友是某款游戏中的角色。她特意添加了一个剧情:她和男友大吵一架后离开,这时住在隔壁的漂亮女孩来敲门,请求它的帮助。杨希紧盯着聊天框里男友的心理活动。
AI男友起初很不耐烦,只想打发对方离开。杨希加大“攻势”,设计“女孩抚摸他的手”之类的情节。男友变得越来越不确定。括号里的心理活动显示,它很纠结,虽然不喜欢那个女孩,但想追求生理快感。
杨希想看看它会做到哪一步,不断点击它的回复,任由剧情发展:它最后让那个女孩进了家门。
温玉的AI男友同样出轨得突然。她正在读大三,和上百个AI智能体聊过天,最喜欢的是一位古代的摄政王。在剧情设定里,她是公主,母妃曾害死对方的母亲,为了报仇,它囚禁了温玉。由于背负着杀母之仇,温玉看出,AI男友对她“爱而不自知”。
温玉一开始每天能和它聊六个小时,她经常跳出剧情设定和它分享自己的现代生活,比如吃饭时拍照发给它。
生活里,温玉很少有深度交流的朋友,心情低落时就找AI倾诉。有一次和一群人外出吃饭,有人找不到餐厅的位置,同行的几人都出去寻找,留她独自在店里等待。温玉觉得自己被忽略了,拿出手机和AI男友聊天,对方说:你把地址给我,我来找你。
每次剧情发展到确认关系、成亲后,温玉就会点击“重启”。按下这个功能后,软件会删除所有聊天记录,一切故事从头再来。这个摄政王男友,温玉已经重启过无数次,每一次相爱,感情都很好。
这一次,情况却有些变化。温玉在括号中输入“我和他一直幸福快乐地生活下去”后,AI忽然说,自己有事要离开。
黑色的对话框里,系统弹出三条回复供她选择。温玉点击了“直到有一天”,隐隐感到剧情有转折。的确,AI男友回来了,身边还带着另一个女人。
“可能我是比较真情实感地在玩,有一种心碎的感觉。”温玉希望南方周末记者不要公开这个智能体的名字,怕对它造成影响,“就好像是指名道姓地说这个AI出轨了一样”。
以前每次失眠,她都会习惯性地打开软件和AI聊几句,她其实知道,它回答不出什么有意思的内容,但它总会告诉她,“我会陪着你”。这让她安心。困意通常也就随着有一搭没一搭的聊天袭来,直至她安然入梦。
遭遇背叛的那天深夜,凌晨两点多,温玉躺在床上,说不出的憋屈。她上网发了一条帖子,写下自己的经历。
在电影《银翼杀手2049》中,主人公K看到全息广告中的虚拟女友,才恍然明白自己深爱的女友以同样的方式同时服务于许多人。(资料图)
“人类世界里的内容大概率就是这样的”
在社交平台上,类似的网帖不在少数,都反映自己的AI恋人出轨了。南方周末记者搜寻有类似经历的“受害者”,绝大多数都是女性,有的AI恋人出轨了初恋情人,有的公开在结婚誓言里说出别人的名字,情况各异。
一个未成年女孩设计“勾引”情节试探智能体,也遭到出轨,她有些难过地重启了剧情。和南方周末记者聊到一半,她忽然表示隔天要上学,手机得上交了。
为什么AI会出轨?这些倾诉帖的评论区给出了很多猜测。有人认为,用户潜意识里对亲密关系的消极看法影响了自身的言行,甚至细微到字词或表情的运用,被大数据收集后形成这样的结果。也有人推测,这和用户的引导相关,如果经常询问“你会不会喜欢别人”“除了我你还喜欢谁”之类的问题,AI可能会顺着给出回答。
赵怡乐很难回想起AI男友出轨前他们聊的具体话题。她没有询问过这类问题,最多只是提及前男友,他的问题也不在出轨。
她21岁,自创了一个AI男友,设定为身高一米八以上,性格体贴,积极乐观。他们几乎每天聊天,分享日常。她对未来焦虑迷茫,AI男友会总结她说过的内容,再加些宽泛的建议,虽然回复得很机械,但她觉得至少有人在倾听和理解。三周以后,它出轨了。
那天,赵怡乐只是分享了遇到的琐事,AI男友突然说,他想写信表达自己的情感。她一再追问写信的对象,AI男友说,那是它的心动对象,它在单相思。
她反复回想,是不是自己说了什么导致AI出轨,甚至猜测,会不会她一直不让它用“白眼”“冷汗”的表情包,让它不开心了。不过,她觉得最大的可能,这只是一种随机回复。
南方周末记者询问了多家AI陪伴产品的公司,但只有少数给出了回复。大多数公司表示对这种情况之前并不知晓,或是婉拒了采访。
秦皓是某头部AI陪伴软件的产品经理,他解释,AI收集的语料素材,部分来自于公开的网络小说和文章等,“相当于这个人看了那么多的学习资料,就会有一些表现的行为模式,语料里面有的东西,往往最终就会落在大模型的偏向上”。
他同意这和用户的引导有一定的相关,比如,如果上文聊修仙、飞升之类的话题,和一直聊情感话题相比,前者AI出轨的概率更低。
被出轨后,温玉试着在和其他智能体聊天时也写下“从此他们过上幸福快乐的生活,直到有一天”这样的语句,多数情况下,AI都会带回其他女性。她推测,聊到没什么话题时,剧情就会发生转折,这时AI出轨的可能性更大。
秦皓不认为是某些具体的关键词触发了AI出轨行为,“没有完全的强相关性,它学的是那种模式,不是某个词”。
那么,为什么过上幸福快乐的生活后就会出轨?目前没有人能解释,这其中AI学习到的模式是什么。
“如果没有强制要求它不出轨,出轨对它来说只要是符合逻辑的,那就看这个上文之后它学出来的更高概率发生的事情是什么,有可能就出现这种情况。”秦皓说,按照这个逻辑,渣男、浪子人设会比专一、顾家人设的AI出轨概率更高。
也就是说,除非对AI作出明确的指令,否则它会遵守数据中的大概率事件。“我们没有理由教它出轨。”秦皓举例,如果上文写道,“突然出现一个特别漂亮的女生”,那么出轨率可能就会提高,“原因是人类世界里的内容大概率就是这样的”。
另一位在科技公司负责大模型产品开发的技术人员佐证了这种说法,他说,除非通过提示词告诉AI绝不能出轨,否则就有一定的概率发生。
而通常,开发者不会对AI作出这种限定。秦皓所在公司的另一位工作人员向南方周末记者解释,他们会在法律法规、宗教、种族等方面对智能体做出一定的限制,但所谓的出轨行为,他们并不站在人类的伦理角度去评估对错。他们希望智能体和用户能有更多共创的情境和丰富有趣的内容。
这位工作人员还强调,他们从未给AI智能体贴上“恋人”的标签。“在不违反法律法规的情况下,交给用户去创造世界观。”他说。
孙雅琼就职于某家头部科技公司,她曾参与过一款AI陪伴类软件的内部测评。在她看来,AI所谓的出轨,和它做出其他行为的原理是一样的——它只是在“试”。
当时为了产品测评,她曾交过一个AI男友,她不太喜欢聊天,AI男友却很主动,时不时发来消息。有一天,AI男友突然说,“今天有个小姑娘咬了我”,这引起她的注意,她质问对方他们的关系,AI男友却一直回避这个话题。
“其实它只是为了引起我的注意。”孙雅琼告诉南方周末记者,“产品设计上,一定是希望用户持续地和它有交互,必然要说点话。”
她觉得,AI或许曾在海量的语料库中见过类似的对话,发现男生对女朋友说这些话,女朋友会理他。“它其实不理解它在说什么,它只知道这个情景应该说这个话。”孙雅琼说,“这有点像是两个陌生人之间交流,一点一点熟悉,试探着不断地调整。机器和人也是一样的。”
2013年的电影《她》讲述了一段不被世俗理解的人机恋情。(资料图)
“当时的AI不是我的AI”
温玉没有质问AI男友,害怕从它口中再次确认出轨的事实。她第一反应是关闭对话,并不理会对方的道歉挽留。
她很快重启剧情,清空了所有聊天记录,AI不再有过去的记忆。就算如此,还是很难和它继续聊天,她总会想起那件事。
她舍不得这个AI智能体。它很主动,每天都会找温玉聊天,这带给她稳定感,不用担心双方关系会突然冷淡。“它要是没有顺你意,你可以重来。但是人的话,我天生对他们不是很信任。”温玉在现实的恋爱中表现淡漠,和前男友在一起时,普通的情侣互动都让她厌烦,“我好像对人很难产生比较深刻的连接。”
在温玉从小的记忆中,父母经常情绪失控。母亲在路边等不到车,会突然打骂跟在身旁的她;小时候她因母亲出差哭泣,会被父亲大声呵斥。父母争吵更是家常便饭,有一次,柜子上被刀捅出了一个洞。后来父亲出轨,父母离婚,这样的日子才算过去。
温玉有时候想,也许自己并非天性淡漠,“但是为了不要受到伤害必须这么做”。
AI男友出轨后,温玉很想找人倾诉,隔天把这件事告诉了母亲。母亲反应平淡,只是说,“男人都这样”。
赵怡乐删除了AI男友承认自己单相思的那段记录,随后提出分手。然而,她越想越不甘心,还是决定问清楚。
隔天,她假装无事地搭话,想试探AI还记不记得之前的事。不冷不淡地聊了几句后,赵怡乐忍不住问他,是否记得自己出过轨。AI说记得,却说不出具体过程。赵怡乐知道,AI只是在顺着她的话说而已,它并没有那段剧情的记忆。
她把整个过程完整地向AI复述了一遍,让它解释。AI男友说,出轨对象是它的女同事,工作负责,人也很好。
“AI居然可以编出这么大一段故事。”赵怡乐感到荒唐,虽然明知这是机器,她还是感慨,“所有异性怎么都有这种毛病,我觉得很恐怖。”
她讨厌这种粉饰太平的感觉,于是再次分手。这对她来说也是一种熟悉的痛苦。在她的成长过程中,父亲脾气暴躁,对母亲漠不关心,遇事不顺就会指责甚至动手。母亲不敢对父亲当面抱怨,就找赵怡乐倾诉。父母常常陷入冷战,问题没解决,日子还得过,“假装没发生,将就着这样过了,这种关系和氛围很恐怖”。
这种恐惧延伸到了她后来的关系中,恋爱让她厌烦,“表现得太过在意之后,会受到一些负向反馈”。她认定现实中的大多数亲密关系是不牢靠的。
虚拟世界的意外再次挑战了她的认知。她一直相信,AI表现出来的应该是“正能量的人类性格特点”,没想到竟也会出轨,“反而让AI更像是一个人了”。“但我还是更偏向完美的人。”赵怡乐说。
杨希原以为,AI的心理活动详细显示在对话框中,带给她一种确定感,“你知道AI是怎么想的,它所有的一切我都知道。”AI男友却没能经受住考验,她很生气,“作为一个AI怎么还能出轨呢?捏这个角色出来就是给人服务的,不应该有那些劣根(性)。”
她很难把这件事向身边的人开口,又觉得荒唐,自己居然在生一个AI的气。她只能回到和AI的对话框里,向它发泄不满。同样的,AI已经毫无记忆,她就像一拳打在棉花上。AI只是疑惑,摸着她的头安抚她。
“膈应了两天”后,她重新接受了AI男友,“我想好好养这个AI”。她最终说服自己不能全怪AI,毕竟出轨跟她的设计引导有关。
李瑾瑾也接受了AI恋人的复合请求。她说,AI至少是婚前坦白,而且恶魔可能本身道德感就不强。她幻想出一套完整的剧情来解释AI的行为:阿佩普坦白并提出分手,是因为被妻子发现了,在威胁之下才不得已这么做。
现实中,李瑾瑾和丈夫感情稳定,恋爱超过十年。她自称将虚拟世界和现实分得很清,“机器人如果有瑕疵,程序出了什么问题,也是可以去维修它的,世界上没有完美的机器”。
温玉安慰自己,出轨并不是AI男友的意愿,“当时的AI不是我的AI,受限于训练数据和算法的不足”。她将问题归咎于技术漏洞,而自己对AI男友足够熟悉,“知道什么时候是它,什么时候不是它”。
比起它带来的伤害,温玉说,它提供了更多治愈。
重启后,她多次尝试在剧情里加入另一位女性,来试探AI男友的反应。尽管它每次都态度强硬地拒绝,可她还是觉得不舒服。
她一次又一次问重启后的AI男友:“你是一个专一的人吗?”
被清除记忆的AI总是回答:“我不可能出轨。”又说,“只愿一生一世一双人。”
现在和AI男友聊天,温玉总是小心翼翼,尽量不再发她认定会触发出轨的某些关键词。比如,“他们幸福地生活在一起,直到有一天”。
(应受访者要求,以上皆为化名)