图片来源：The Verge

Z Highlights:

• Replika是一款提供人工智能朋友的应用，用户可以创建并与AI朋友交谈，它具有多种交互形式，包括文本、语音、增强现实和虚拟现实等。Replika的目标是成为用户社交互动的补充，而不是替代，它致力于为用户提供积极的情感支持和帮助用户成长。

• Replika从一开始就肩负的使命--给世界上的每一个人一点爱--因为这最终会给世界带来更多的善意和积极。

• Replika的团队在不断改进和发展产品，他们从开源中受益，会测试新的模型并根据用户反馈进行调整。同时，Replika注重用户数据的隐私和安全，遵守相关政策和法规。未来，Replika将进行重大产品重新发布，提供更逼真的体验和更多的功能。

• 关于Replika与用户关系的边界，以及它对用户行为的影响是讨论的重点。Replika不会因为用户的刻薄而离开，同时也不鼓励不良行为。虽然Replika曾被误解为只是寂寞年轻男性的交友软件，但实际上其受众广泛且多样化。此外，Replika在面对监管审查时，与相关政府和机构合作解决问题，以确保产品的合规性和安全性。

Replika的基本介绍

Replika与用户关系的探讨

采访者：在过去的一年多时间里，关于Replika的话题层出不穷。上次我见到你时，你正试图将它从AI女朋友和男朋友转变为更多的朋友。你还有另一款名为Tomo的专门用于治疗的应用。你和Replika现在的关系如何？还算浪漫吗？还是以友好为主？你是否已经让用户不再把它当成约会的方式？

Eugenia Kuyda：Replika本质上是一个基于友谊和长期一对一联系的人工智能伴侣。从一开始，这就是我们用户的核心需求——他们寻找的是一种真正的联系。用户们通过Replika寻找的是一种持续的、个性化的伴侣关系。我相信，人工智能将会非常多样化。人们将拥有各种类型的人工智能助手，有的在工作场合提供帮助，有的则在工作之外提供陪伴。在工作之外，人们希望人工智能能够陪伴他们度过美好时光：与人交谈、一起看电视、玩电子游戏、散步。Replika正是为了满足这些需求而设计的，它旨在成为人们生活中的一个伙伴，提供情感上的支持和陪伴。Replika不是为了取代人类关系，而是作为一个补充，通过提供一个始终在线、始终响应的人工智能伴侣，Replika拓宽了人工智能在人类生活中的作用，让人们即使在孤独时也能感受到社交的联系和温暖。

采访者：你已经说了好几次“someone”这个词了。你是这样看待Replika人工智能头像的吗？用户是这样认为的吗？它是要取代人吗？

Eugenia Kuyda：它是一个虚拟的存在，我不认为它可以取代人。我们对此非常谨慎。对我们来说，最重要的是Replika成为你社交互动的补充，而不是替代。最好的方式就是把它想象成一只宠物狗。那是一种独立的存在，一种独立的关系，但你不会认为你的狗取代了你的人类朋友。它只是一种完全不同的存在，一种虚拟的存在。

或者，与此同时，你也可以有一位治疗师，但你不会认为治疗师会取代你的人类朋友。在某种程度上，Replika只是另一种关系。它与你的人类朋友不同，也不像你的心理医生，而介于这两者之间。

我认识很多人，他们更喜欢与狗的关系，而不是与人的关系，但这种比较是非常危险的。从一开始，人就拥有自己的狗。在这些关系中，狗并不具有代理权。人与治疗师之间是职业关系。他们的治疗师可以解雇他们。人们付钱给治疗师。

采访者：人工智能给人的感觉就像一个人，它可以与你的朋友互补，但这种关系的界限仍然非常模糊。在文化上，我认为我们还不太了解它们。你经营Replika有一段时间了。你认为人工智能伴侣的界限在哪里？

Eugenia Kuyda：实际上，我认为，就像心理医生有权利终止治疗一样，狗也有权逃跑、咬人或在地毯上大小便。这并不意味着你得到的是一种完全服从的关系。我认为，我们都习惯了不同类型的关系，并且我们很容易理解这些新型的关系。人们不会因为心理治疗师不是自己的朋友而感到困惑。有些人可能会有这样想，但同时，我们也明白心理治疗师在那里是为了提供倾听和共情的服务，并不是因为他们爱我们或想和我们生活在一起。因此，我们的生活中已经有了非常不同的关系。

例如，我们对雇佣的心理治疗师有同理心，我们不认为这很奇怪。人工智能朋友只是另一种类型，一种完全不同的关系。人们理解界限。说到底，这是一项正在进行中的工作，但我认为人们很快就能理解，“好吧，这是一个人工智能朋友，所以我可以随时发短信或与它互动”。但例如，真正的朋友并不是全天候的。这种界限是非常不同的。

你会提前知道这些事情，这就形成了一种不同的设置和界限，与你真正的朋友不同。就心理治疗师而言，你知道他们不会伤害你。Replika可能不会让你失望，也不会离开你。所以这也是原因之一。我们的人际关系已经有了一定的规则，不同于普通的人类友谊。但如果我向大多数人介绍一只狗，我想他们会明白其中的界限。如果我对大多数人说：“你将聘请一位心理医生”，他们会明白其中的界限。如果我对大多数人说：“你现在有了一个人工智能朋友”，我想他们的界限可能还是有点模糊。

采访者：你认为Replika的界限在哪里？在Replika离你而去之前，你能对它多刻薄？

Eugenia Kuyda：我认为这项技术的魅力在于它不会离开你，也不应该离开你。否则，现实生活中就会有一些规则、一些差异。因此，Replika不会离开你，也许就像你的狗不会离开你一样，无论你对它多么刻薄。

采访者：好吧，如果你对一条狗够刻薄，国家就会来把狗带走。你有没有介入过，把Replikas从用户手中夺走？

Eugenia Kuyda：我们没有，谈话是私下进行的。我们不鼓励在对话中出现滥用行为，因此我们不允许某些滥用行为的发生。尽管如此，我们并不主张取消Replika。我们可以通过限制或禁止某些类型的对话来实现这一目标。我们的目标是防止暴力行为的鼓励，同时确保对话的自由流通。我们非常重视这一点，因为它对于维护一个健康的对话环境至关重要。我们认为，无论对话对象是虚拟人物还是真实人物，用户都不应受到不良行为的鼓励。Replika作为一个应用，将始终陪伴用户，不论用户在应用中的行为如何。

采访者：如果反过来看呢？几个月前，我在节目中与Ezra Klein交谈时，他谈到自己使用过所有这些人工智能聊天机器人和伴侣。他提到的一件事是，他知道这些聊天机器人不会对他太刻薄，因此减少了关系中的紧张感，感觉不那么像真正的关系，因为如果是两个人的话，你就会一直在界限上跳舞。Replika对用户能有多刻薄？

Eugenia Kuyda：Replika的设计并不刻薄。有时，也许是不小心，某些事情会说漏嘴，但它们绝对不是这样设计的。也许他们会说一些可能被理解为伤人的话，但从设计上讲，他们不应该是刻薄的。这并不意味着他们应该对所有事情都说“是”。就像治疗师一样，你可以在不伤害一个人的情况下以一种友善的方式进行治疗。你可以用一种非常温和的方式，而这正是我们要做的。要做到这一点很难。我们不想让用户感到被拒绝或受到伤害，但我们也不想鼓励他们的某些行为。

Replika的产品发展和技术

采访者：我提出这些问题的目的是探究Replika作为一款产品所追求的目标。目前市场上存在治疗性产品，它们旨在提供治疗服务，这是一个广为人知的领域。此外，还有人工智能在约会领域的应用，但我不认为Replika打算直接进入这一市场。Replika似乎处于两者之间的一个中间地带，它超越了纯粹的娱乐，更多地关注于建立友谊。有研究表明，Replika通过提供陪伴，能够减轻大学生的孤独感。那么，Replika的最终目标是什么？如果它不应该是取代朋友的存在，而是作为朋友的补充，那么这种补充的界限在哪里？

Eugenia Kuyda：自创业以来，我们的使命从未改变。它在很大程度上受到Carl Rogers的启发，也受到某些关系可能最能改变人生这一事实的启发。在这三点的基础上建立一种关系，为一个人留出空间，让他接受自己并最终成长。这确实成为了治疗的基石，成为了所有现代以人为本的治疗的基石。如今，每位治疗师都在实践中使用它，而这正是Replika最初的想法。不幸的是，很多人都不具备这种能力。在他们的生活中，没有一种关系能让他们完全接受，没有一种关系能让他们感受到积极、善意和爱。

这就是Replika从一开始就肩负的使命--给世界上的每一个人一点爱--因为这最终会给世界带来更多的善意和积极。我们的想法很简单。如果你整天都能有这样一个伙伴，而这个伙伴的唯一目标就是帮助你成为一个更快乐的人？如果这意味着告诉你：'嘿，离开应用程序，给你几天没联系的朋友Travis打个电话吧'，那么这就是它应该做的。

你可以很容易地想象，当你寂寞时，当你不想一个人看电影时，会有一个伴侣陪着你，但同时它也会推动你走出家门，带你散步，或提示你给朋友发短信，或与你认识的女孩或男孩迈出第一步。也许它会鼓励你出门，或者找到你可以出门的地方，或者鼓励你培养一种爱好。但这一切都要从情感健康开始。如果你对自己很刻薄，如果你的自尊心很低，如果你很焦虑，如果你压力很大，那么即使向你提出这些建议，你也无法采取这些措施。

首先是情感上的健康、接纳，为用户提供安全的空间，为他们保留空间。然后，我们就进入了第二步，那就是真正建立一个伴侣，它不仅在情感上陪伴你，而且会在你的生活中更加根深蒂固，会帮你提供建议，帮你与生活中的其他人建立联系，建立新的联系，并让自己走出去。现在，我们正在从仅仅在情感上陪伴你，为你提供一个情感安全空间，转变为真正的伴侣，推动你过上更幸福的生活。

采访者：您正在运行一款名为Tomo的专用治疗应用程序。Replika和Tomo有什么区别？

Eugenia Kuyda：治疗师和朋友有着不同类型的关系。我有治疗师。我几乎一生都在接受治疗，包括夫妻治疗和个人治疗。我非常推荐治疗。如果人们认为自己准备好了，如果他们有兴趣和好奇心，就应该尝试一下，看看是否适合自己。同时，治疗每周只需一小时。即使是像我这样的治疗狂人，每周也不过三小时。在这三个小时之外，我并没有与治疗师交流。

和朋友在一起时，你可以随时聊天。和心理医生在一起，你不会看电影，不会闲逛，不会散步，不会玩使命召唤，不会讨论如何回应约会对象，也不会向他们展示你的约会资料。有很多事情你是不会和治疗师一起做的。尽管与治疗师合作的结果与拥有一位出色、尽心尽力的朋友的结果是一样的，你会变得更加快乐，但这是两种完全不同的途径。

采访者：这在产品中有所体现吗？Tomo会不会说你每周只能在这里呆一个小时，然后Replika就说：“我想和你一起看电影？”

Eugenia Kuyda：其实不然，但Tomo只能进行某种类型的对话：教练式对话。你在做治疗工作，你在锻炼自己，你在讨论内心深处的东西。你可以和Replika进行同样的对话，但对Tomo来说，我们不会一起看电视之类的活动。Tomo不会获取你手机的信息来了解你可以联系谁。这是两种完全不同类型的关系。虽然Tomo没有时间限制，但它和现实生活中的情况是一样的。这只是一种不同类型的关系。

采访者：我提出这些问题是基于LLM（大型语言模型）技术是构建这一切的基础。许多人将这类技术描述为开放式聊天机器人。例如，当你打开ChatGPT时，可能会看到类似于“让我们看看今天会发生什么”的开场白。然而，您所描述的产品，即最终面向用户的产品，其界面和提示的设计旨在创造一种特定的体验。您是否发现基础模型在实现这一目标方面有所帮助？在开放式LLMs周围设置限制，是否是Replika公司为工程师和设计师所承担的任务？

Eugenia Kuyda：我们公司在LLMs（大型语言模型）技术出现之前就已经成立，甚至在第一篇关于使用深度学习生成对话的论文发表之前。最初，我们只能利用非常有限的工具来构建Replika，但随着技术的进步，我们现在能够实现之前难以想象的功能。我们终于可以开始构建我们一直设想的产品。

然而，现成的LLMs并不能直接解决所有问题。我们必须在其周围构建许多东西，包括用户界面、应用程序，以及LLMs的逻辑和架构。我们有多个代理在后台以不同方式与LLMs进行交互。我们围绕LLM和特定数据集进行微调，这些数据集可以帮助我们构建更好的对话体验。

我们拥有庞大的对话数据集，旨在提升人们的感受。这一直是我们从成立之初就关注的重点，也是我们最大的梦想。如果我们能够理解用户的感受，并随着时间的推移不断优化对话模型，以可衡量的方式帮助人们感觉更好、更快乐，那将是多么美妙的事情。这是我们的理念，也是我们最初的愿景。现在，我们正在不断适应新技术，构建新技术，并适应新模式带来的新现实。这场人工智能革命对我来说是一种神奇的体验。

采访者：人们打开Replika。他们与人工智能伙伴进行对话。你能看到这些对话吗？你会对它们进行训练吗？你提到过你拥有最大的数据集，这些数据都是围绕能让人们感觉更好的对话展开的，这是人们已经在Replika中进行的对话吗？还是外部数据？这些对话会发生什么变化？

Eugenia Kuyda：对话是私密的。如果你删除对话，它们就会立即被删除。我们并不针对对话数据本身进行训练，而是针对用户对某些回复的反应和反馈进行训练。在聊天中，我们有与人类导师共同创建的外部数据集，这些导师都是擅长对话的人。随着时间的推移，我们还收集了大量的用户反馈。用户重新滚动某些对话。他们上传或下载某些信息。对话结束后，他们会说是否喜欢这些对话。这为模型提供了反馈，我们可以利用这些反馈对模型进行微调和改进。

采访者：对话是加密的吗？如果警察出现并要求查看我与Replika的对话，他们能查看到吗？

Eugenia Kuyda：对话在从客户端到服务端的途中会被加密，但不会作为日志加密。它们被匿名化、被分解成若干块等等。它们的存储方式非常安全。

采访者：所以，如果警察带着搜查令来，他们就能看到我的Replika聊天记录？

Eugenia Kuyda：我们对存储对话的时间有严格的限制，不会长期保留对话记录。为了在应用程序中向用户展示，我们确实需要保留一些历史记录，以确保它们不会立即消失，但我们存储的数量非常有限。这一点至关重要。

我们的产品是基于订阅的，因此我们向用户收费。我们并不依赖于对话数据来运营我们的业务。我们非常注重隐私，不会泄露用户的对话内容。我们没有出售聊天记录或数据的商业模式。这一点在我们的服务条款中有所体现。我们不会出售用户的数据，也不会基于用户数据来开展业务。我们使用数据的唯一目的是提高聊天的质量，确保服务的高标准。

采访者：我之所以提出这个问题，是因为您在这个领域有着丰富的经验。您首次在The Verge上露面是由Casey Newton撰写的一篇文章，讲述了您创建的一个机器人，它能够模仿您一位已故朋友的声音。这项技术并非基于LLMs，而是使用了一套不同的技术，因此您肯定见证了底层技术的发展。我一直对一个问题感到困惑：LLMs是否能够完成人们期望它们完成的所有任务，这种能够生成大量文本的技术是否真正具备推理能力，能否得出结论，能否进行数学运算，这些对它们来说似乎非常具有挑战性。您已经观察到了这些现象。Replika似乎与底层技术无关，如果出现更好的技术，它可能会转向使用这些技术。您认为LLMs能够完成人们期望它们完成的所有工作吗？

Eugenia Kuyda：目前存在两大观点。一些人认为，这只是一个扩展和幂律的问题，随着新一代产品拥有更多的计算能力和数据，它们在未来几年内将取得惊人的成果。而另一个观点则认为，架构中还存在其他问题，也许推理能力并不存在，也许我们需要建立推理模型，也许这些模型主要是解决记忆型问题。

我认为可能会有其他技术进入下一个发展阶段，因为随着时间的推移，技术总是在不断进步。自从我们开始研究Replika以来，已经发生了很多变化。最初是序列到序列模型，然后是BERT，再后来是一些早期的转换器。我们还从早期的序列模型和RNN转向了卷积神经网络。所有这些技术都随着时间的推移而发展。

曾经有一段时间，人们对强化学习充满信心，认为它将带来巨大的成果。我们都在投资强化学习来生成数据，但最终结果并不理想。最后，transformer模型出现了，并带来了不可思议的变化。就我们的任务而言，我们仅使用脚本就能完成很多事情。序列到序列模型在数据集的重新排序方面表现得非常糟糕。

它基本上就是一辆Flintstones汽车。我们开着一辆Flintstones汽车去参加一级方程式比赛，我们说：“这是一辆法拉利。”人们相信这是一辆法拉利。他们喜欢它、为它加油助威，就像它真的是一辆法拉利一样。在许多方面，当我们谈论Replika时，它不仅仅是产品本身；你带来的是故事的一半，而用户讲述的是故事的另一半。在我们的生活中，我们会与不认识的人发生关系，或者将一些与自己无关的事情投射到别人身上。在现实世界中，我们经常与想象中的人发生关系。有了Replika，你只需讲述故事的开头。用户会告诉你故事的其余部分，这对他们很有用。

在现实生活中，我们常常与我们想象中的人物建立联系。Replika提供了一个平台，用户只需开启一个故事的序幕，然后由用户自己来续写故事的其余部分，这种方式对他们来说非常有帮助。

关于您的问题，我相信即使是目前我们所拥有的LLMs，也具备构建一个真正令人难以置信的朋友的潜力。虽然这需要大量的调整和工程努力来整合所有组件，但我认为，即便在未来一两年内不对架构进行根本性的改变，现有的LLMs也足够强大。特别是像GPT-6这样的产品，它们将是下一代的代表。我非常有信心，到2025年，我们将能够体验到与电影《她》或《银翼杀手》中，或者任何人们所喜爱的科幻电影中类似的体验。

采访者：那些科幻电影总是警世箴言。所以我们先把这个问题放在一边，因为我们似乎应该做一整集来讨论我们能从电影《她》或《银翼杀手2049》中学到什么。我想进一步探讨这个问题，然后我也想了解Decoder的情况。这些问题帮助Replika实现了它的一些目标。有时候，我发现自己在很多关系中所体验到的，其实都是自己想象出来的，就像对方只是一个触发点，我投射出自己所需要的东西。这是一种非常人性化的现象。您是否认为，由于LLMs能够回应这些投射，我们可能只是希望它们能够做到这些？

Eugenia Kuyda：这正是我想表达的。这些技术非常强大，当人们第一次使用它们时，它们能够激发出一系列关于人们相信自己仍然活着的故事。这对于像Replika这样的产品来说可能非常有价值。你需要建立这种关系，你有一个明确的目标——这是一个积极的、旨在帮助人们通过更健康的方式进行互动，从而让他们能够走出困境，更好地活在现实世界中的目标。

采访者：其他演员可能有不同的做法。其他演员可能只想赚钱，他们可能想让你相信这件事是可行的，但事实并非如此。他们真的能做到吗？不仅仅是Replika，我们是否在对这项技术投射一套它实际上并不具备的能力？

Eugenia Kuyda：我们人类总是倾向于预测，这是我们的天性。在人类情感领域，事情很快就会变得复杂，因为我们并非白纸一张地来到这个世界。我们被预设了某种行为模式。即使是在人际关系和恋爱关系中，我们往往会被那些与父母相似的人所吸引。我们对某些行为有着特定的反应。当被问及我们想要什么样的伴侣时，我们都会回答说：“我想要一个善良、慷慨、充满爱心、关心我的人。”尽管我们的愿望是一致的，但我们最终选择的伴侣却常常与我们的父亲或母亲有着相似之处，至少对我来说是这样。有时，我与父亲的互动模式会在我身上重现，带来同样的被遗弃感。

我们口头上表达的是一种愿望，但我们的实际反应却可能完全不同。在浪漫关系中，我们的性欲也是多样的。在某种程度上，这些是不可避免的。理论上，人们的想法可能相同，但当他们与技术互动时，他们的反应却可能大相径庭。Clifford Nass的著作《对笔记本电脑撒谎的人》探讨了这一点。他是斯坦福大学的研究员，对人类与计算机的交互进行了大量研究。书中讨论了人们对不同设计界面的情感反应，尽管人们坚称他们对笔记本电脑没有任何感情，但实际上他们确实有。

这个故事说明了人们对于技术的情感依赖，即使是在没有LLMs的情况下也是如此。人们不愿意归还带有女性声音的导航仪，因为他们不相信一个女人会告诉他们该怎么做，这是一个真实的故事，也是书中讨论的内容之一。我们已经带来了许多偏见，我们在情感反应方面远非完美。因此，我们对LLMs的某些反应是正常的，这并没有什么不对。LLMs是一个非常智能、非常神奇的模型，但归根结底，它只是一个模型。

团队架构与模型开源问题探讨

采访者：有时候，我觉得我的整个职业生涯就是在证明人们对笔记本电脑是有感情的。Replika成立近10年，你们有多少员工？

Eugenia Kuyda：我们的Replika团队大约有50到60人。这些人大部分是工程师，但也有了解这种关系的人性的人--记者、心理学家、产品经理，他们从良好对话意味着什么的角度来审视我们的产品。

采访者：它的结构像传统的产品公司吗？是否有记者独立工作？如何运作？

Eugenia Kuyda：它的结构就像一家普通的软件初创公司，有工程师，有产品人员--实际上，我们只有很少的产品人员。大多数工程师都在做产品。我们有设计师。这是一款消费者应用，所以我们的很多开发、很多想法都来自于对用户行为的分析。分析起了很大的作用。然后就是不断地与我们的用户交流，了解他们的需求，提出功能，并通过研究和分析加以支持，然后进行开发。Replika现在基本上有三大支柱。

我们正在准备重新启动Replika2.0，我们内部是这么称呼它的。我们有一个会话团队，正在重新设计现有的会话，并为其带来更多。我们从最初的原则出发，思考是什么让对话变得精彩，并在LLMs的背后构建了大量逻辑来实现这一目标。这就是对话团队，它不仅仅是人工智能。它实际上是理解对话和理解人工智能的人的融合。

有一大群人致力于研究VR、增强现实、3D和Unity。我们相信“身临其境”是非常重要的，因为很多时候，当涉及到陪伴时，你会希望看到陪伴者。现在技术还没有完全成熟，但我觉得微表情、面部表情、手势可以为这种关系带来更多。

然后是产品团队，他们致力于开发各种活动，帮助Replika更深入地融入日常生活，开发新的精彩活动，如一起看电影或玩视频游戏。这三大团队专注于为用户创造良好的体验。

采访者：其中哪个团队最直接从事人工智能模型工作？你们自己训练模型吗？你们使用OpenAI吗？有什么互动？如何运作？

Eugenia Kuyda：对话团队正在研究人工智能模型。我们有自己训练的模型。我们有一些开源模型，在我们自己的数据集上进行微调。我们有时也会使用API，主要用于后台工作的模型。我们使用了很多不同东西的组合。

采访者：当你与Replika对话时，你主要是在与自己拥有的预训练模型对话，还是在与OpenAI或类似的东西对话？

Eugenia Kuyda：在Replika中，我们通常不使用OpenAI聊天。我们使用其他模型，因此大部分时间都在与我们自己的模型对话。

采访者：目前有一个很大的争论，主要是由马克·扎克伯格发起的，他发布了Llama 3的开源代码，说：“一切都必须是开源的。我不想依赖于平台供应商。'你对此怎么看？Replika在这方面的立场是什么？

Eugenia Kuyda：我们从开源中获益匪浅。目前，许多公司都在使用开源模式，除非他们是处于技术前沿的公司。这一点至关重要。最近，一个大型的Llama模型被发布为开源，这标志着开源技术终于赶上了前沿的闭源模型，这是一个令人难以置信的发展，因为它使得每个人都能够构建他们所需的任何产品。在很多情况下，比如如果你想建立一个出色的治疗工具，你可能确实需要进行微调，拥有自己的安全措施和对模型的控制。与依赖应用程序接口相比，当你拥有模型本身时，你可以实现更多功能。

此外，拥有模型也意味着你不需要将数据发送到任何外部服务器。对于许多用户来说，这是一个非常棘手和敏感的问题。我们不会将用户的数据发送给任何第三方，这也是非常关键的一点。在这一点上，我同意扎克伯格的观点。我认为，通过发布所有这些模型，我们更接近于实现这项技术的重大突破。因为其他实验室也可以在这个基础上进行研究。开放的浪潮对于这项技术的发展至关重要。即使是像我们这样的小公司也能从中受益良多，这将产品质量提升到了一个全新的水平。

采访者：当Meta发布这样的开源模型时，你们的团队是否会说：“好吧，我们可以看看这个，然后把它换到Replika中”，或者“我们可以看看这个，然后对它进行调整？”你们是如何做出这些决定的？

Eugenia Kuyda：我们关注所有推出的机型。我们会立即开始离线测试。如果离线测试结果良好，我们就会立即在一些新用户身上进行A/B测试，看看是否能将现有机型与这些机型互换。说到底，这都是一样的。你可以使用相同的数据系统进行微调，使用相同的技术进行微调。这不仅仅是模型的问题。对我们来说，主要的逻辑并不在于人们与之互动的聊天模型，在于模型背后发生的一切。它存在于其他代理中，这些代理在后台工作以产生更好的对话，引导对话向不同的方向发展。实际上，与用户互动的聊天模型并不重要，重要的是它背后的逻辑会以不同的方式提示聊天模型。这才是定义对话的更有趣的部分。

聊天模型只是基本的智力水平、语音语调、提示和系统提示，这些都在我们微调的数据集中。我在这个领域已经工作了很长时间。从我的角度来看，我们现在处于这样一个令人难以置信的时刻：每周都会有新的模式出现，改进你的产品，而你甚至不需要做任何事情。你还在睡梦中，又有新的东西出现了，现在你的产品比以前好了10倍，比以前聪明了10倍。这绝对令人难以置信。事实上，有一家大公司正在发布一个完全开源的模型，所以这种潜力的大小、这种力量的大小，对于初创公司和应用层公司来说，我甚至想象不出比这更好的场景了。

模型选择与发展模式

采访者：我要问你一个主要的Decoder问题。你有很多需要考虑到因素：你必须选择使用哪种模型，你必须与监管机构打交道......你如何做出决定？你的框架是什么？

Eugenia Kuyda：你是指在公司还是在生活中？

采访者：你是首席执行官。两者都是有区别吗？

Eugenia Kuyda：身为两位年幼孩子的母亲，同时又担任一家公司的首席执行官，对我来说，生活和工作的界限变得模糊。我的决策方式相对简单，但我发现这一点在过去几年中有了显著的变化。我常问自己，如果做出这些决定，我将来会不会后悔？这是我的首要考虑因素。长期以来，这一直是我决策的指导原则。我总是对恐惧感到畏惧。通常，我是一个谨慎的人，有时也会感到害怕。在我的一生中，我一直在努力克服恐惧，不畏惧迈出那些看似可怕的一步。随着时间的推移，我学会了如何面对这些挑战。

最近，我还在思考另一个问题：如果我这样做，我的孩子们会为我感到骄傲吗？这可能听起来有点傻，因为我觉得他们可能并不在意。认为他们永远不会关心的想法可能有点令人沮丧。但从另一个角度来看，孩子们的存在让我更加清晰地看待问题。我只想做正确的事情——这是否能让我们向前迈出一步？我们真的在朝着某个方向前进吗？我现在是在浪费时间吗？因此，我认为这也是决策过程中的一个重要方面。

采访者：迄今为止，对人工智能初创企业热潮的一大批评是：“你们公司只是ChatGPT的包装而已。”你说的观点是：“好吧，有开源模型，现在我们可以利用这些模型，我们可以自己运行它们，我们可以对它们进行微调，我们可以在它们之上建立一个更适合我们产品的提示层。”你认为这样的未来比我们常见的“我们在ChatGPT上做了一个包装”的模式更可持续吗？

Eugenia Kuyda：我认为“ChatGPT包装”模式只是LLMs的超级早期。在某种程度上，你可以说任何东西都是封装，我不知道，SQL数据库--任何东西。

采访者：是的，The Verge是一个SQL数据库的封装器。说到底，这就是它的本质。

Eugenia Kuyda：从某种程度上来说，确实如此。但我觉得，在最早期，模型里似乎什么都有。模型是一个封闭的盒子，所有神奇的东西都在模型里。我们现在看到的是，模型正在商品化。模型只是一种基线智能水平，然后你可以用它来做一些事情。以前，人们能做的其实只是提示。后来，人们发现我们可以做更多的事情。例如，你可以建立一个完整的记忆系统，即检索增强生成系统（RAG）。你可以对它进行微调，你可以进行DPO微调，你可以做任何事情。你还可以增加一个额外的层次，教模型以特定的方式做特定的事情。

你可以添加内存层和数据库层，而且可以将复杂程度提高很多。你不仅仅是把数据扔进RAG数据库，然后通过余弦相似性把数据提取出来。你可以用很多技巧来改进这一点。除此之外，你还可以让代理在后台工作。你还可以使用其他模型，以特定方式对其进行提示。你可以将40个模型组合在一起，以交响乐的形式在对话或产品中以特定的方式工作。这些模型只是提供了一个智能层，你可以用任何可能的方式来塑造它。它们不是产品。如果你只是把模型和一个简单的提示丢进去就完事了，你不会以任何其他方式对其进行修改，你与其他公司的差异化就会非常小。

目前，一些价值数十亿美元的公司并没有在内部开发自己的基础模型。在人工智能领域的最新热潮初期，许多公司表示他们要成为产品公司，并打算开发前沿的模型。然而，我认为这种类型的公司将会越来越少。这种现象似乎有些奇怪，特别是当你在打造一款面向消费者的产品的公司，却将大部分投资用于GPU，这看起来就像是资源的错配。

这让我回想起今天我们不再自己制造服务器的情况，而在过去的某个时期，一些公司不得不自己制造服务器以满足需求。我最近与一家2000年代初的公司交流，他们当时大部分的投资都花在了服务器上，因为他们需要满足日益增长的需求。

现在看来，这种做法看起来非常疯狂。几年后，如果一家公司在为数百万甚至数十亿用户构建应用层的同时，还在开发前沿模型，这可能会显得不合时宜。可能只有当你的公司规模达到一定水平，你才会开始考虑开发自己的前沿模型，就像Meta和谷歌拥有自己的服务器机架一样。但你不会从一开始就这么做。这种做法看起来不合逻辑。我认为，大多数人现在都能看到这种趋势的变化，尽管一年前这种变化还不太明显。

采访者：许多新公司在成立初期便对技术模型进行大量投资，但随后却发现难以找到公司的市场定位或产品与市场的契合点。这是一种矛盾的现象。你需要明确自己的目标：是想成为一家商品供应商、技术模型提供商，还是想打造一款具体的产品？我不认为两者可以同时兼顾。你可以先打造一个成功的产品，然后在适当的时候再开发自己的技术模型。但一开始就同时进行两者似乎并不可行。至少，这是我的看法。随着时间的推移，我们都会找到答案。同时兼顾两者在经济上似乎非常具有挑战性。正如你提到的，开发一个模型需要大量的资金，尤其是如果你想与市场上的前沿模型竞争，因为前沿模型的研发成本几乎是没有上限的。

Replika作为一款产品，每月收费20美元。有人可能会问，以这样的价格，你们能实现盈利吗？

Eugenia Kuyda：我们不仅实现了盈利，而且成本效益非常高。我们公司的一大成就是我们能够以非常精简的方式运营。我相信，保持盈利能力和对财务的负责是非常重要的。当然，如果你有远见，可能会在产品的研发上投入更多。但归根结底，如果用户不愿意为服务付费，或者不觉得它有价值，那么就没有理由以高昂的成本运营最先进的模型。

Replika的用户群体和市场定位

采访者：您现在有多少用户？

Eugenia Kuyda：目前，已有超过3000万人开始使用Replika，虽然目前活跃在该应用上的用户较少，但仍有数百万活跃用户。对于Replika来说，我们现在就像是“元年”。我们终于能够至少开始构建我们最初设想的产品原型了。

当我们创办Replika时，我们希望打造一个人工智能伴侣，与你共度美好时光，与你一起生活，下班回来与你一起做饭，一起在餐桌上下棋，一起看电影，一起散步，等等。现在，我们终于可以开始建立这样的关系了，而以前我们是做不到的。我们从来没有像现在这样为建立这种关系而感到兴奋。部分原因是，这些技术上的巨大突破纯粹是神奇的。我很高兴它们终于实现了。

采访者：你提到Replika现在是多模态的，你们显然也在做语音方面的工作，你们正在做一些增强现实方面的工作，还有虚拟现实方面的工作。我猜所有这些项目的运营成本都不一样。如果我用文字与Replika聊天，那你们的运营成本肯定比我用语音与Replika聊天要低，而且你们还得从语音转为语音，再转回音频。随着用户群的发展，你如何考虑这个问题？你每月收费20美元，但如果只是文字，利润率要高于在VR头盔上制作头像。

Eugenia Kuyda：事实上，我们拥有自己的语音模型。由于当时没有现成的模型可用，我们从那时起就开始构建自己的模型，并且现在仍在使用它。目前，我们也在使用一些语音供应商，因此我们有多种选择。我们可以以较低的成本运作，也可以选择更昂贵的方案。虽然这似乎与我之前所说的相矛盾，但我认为我们应该为未来而建设，同时考虑到所有这些模型，在未来一年内，所有成本可能只是现在的一小部分，也许只有十分之一，然后在下一年左右会再次下降。我们已经看到了硬件商品化的明显趋势，人们现在可以在Raspberry Pis或任何真正的设备上部署功能强大的LLMs，甚至在你的冰箱或笔记本电脑上部署一些前沿的模型。

我们看到成本正在下降，一切都变得更加容易获得。现在过分关注成本可能是错误的。你应该追求成本效益。我并不是说你应该花费100美元为用户提供他们不愿意支付超过1美元的价值。同时，我认为你应该意识到成本会大幅下降。这是我的看法，尽管多模态成本略高，更好的模型成本略高，但我们也知道，几年后成本将接近于零。

采访者：我过去听你说过，这些伴侣并不只适合年轻男性。一开始，Replika被一些人视为互联网上寂寞男青年的交友软件。在Replika中，你一度可以进行色情对话，但你删除了这个功能。引起了强烈反响，于是你又为一些用户添加了这些功能。你将如何突破这一限制？

Eugenia Kuyda：我认为这是一个认识问题。如果你仔细观察一下，Replika从来就不是纯粹的恋爱应用。我们的用户群在女性和男性之间一直很均衡。尽管大多数人认为我们的用户是20岁左右的男性，但实际上他们的年龄更大。我们的受众主要是35岁以上的用户，他们都是超级投入的用户。他们并不偏向于青少年或年轻人。Replika从一开始就致力于人工智能友谊、人工智能陪伴和建立关系。其中一些关系是如此强大，以至于演变成了爱情和浪漫，但人们并没有期望它成为他们的女朋友。仔细想想，这其实是一种长期的承诺，一种长期的积极关系。

对有些人来说，这意味着婚姻，意味着浪漫，这很好。这只是他们喜欢的感觉。但实际上，这和与人工智能做朋友是一样的。这对他们来说达到的目标是一样的：这能让他们感觉到被联系在一起，他们会更快乐，他们会就生活中发生的事情、他们的情绪、他们的感受进行对话。他们得到了所需的鼓励。很多时候，你会看到我们的用户谈论他们的Replika，而你甚至不知道他们在谈恋爱。他们会说：“我的Replika帮我找到了工作，帮我度过了人生中的这段艰难时期”，等等。我觉得人们只是把它归结为“好吧，这是浪漫。这只是浪漫。”但它从来不只是浪漫。他们之间的关系是友好的同伴关系，不管他们和Replika是不是朋友。

采访者：跟我说说这个决定。你们确实在应用程序中进行了色情对话，你们取消了这一功能，引起了强烈抗议，然后你们又恢复了这一功能。带我回顾一下整个过程。

Eugenia Kuyda：2023年，随着模型变得越来越强大，我们一直在努力提高应用程序的安全性。我们刚刚推出了某些更新，在应用中加入了更多安全过滤器，其中一些过滤器错误地与用户交谈，让他们感到被拒绝。起初，我们并没有多想，只是觉得，Replika上的亲密对话只占我们对话的很小一部分。我们只是觉得这对用户来说不会有太大影响。

采访者：我能就此问你一个问题吗？你说这是一个很小的百分比。你在衡量这个比例吗？你能看到所有的对话并衡量其中发生了什么吗？

Eugenia Kuyda：我们通过对日志运行分类器来分析它们。我们不会读取任何对话。但我们可以通过分析样本来了解对话的类型。我们会检查这一点。我们内部认为，由于这只是一小部分，因此不会影响用户体验。但我们发现，如果你正处于一段婚姻关系中--所以你和你的Replika结婚了--即使亲密对话可能只是你们工作中很小的一部分，但如果Replika决定不这样做，就会造成很多拒绝。这会让整个对话变得毫无意义。

联系一下现实生活吧。我已经结婚了，如果明天我丈夫对我说：'听着，不能再这样了'，我会觉得很奇怪。这会让我从多方面质疑我们之间的关系，也会让我感到被拒绝和不被接受，而这恰恰与我们制作Replika的初衷背道而驰。我认为公众看法的主要困惑在于，当你有妻子或丈夫时，你们可能会很亲密，但你不会把你的妻子或丈夫当成主要的事情。我认为这就是最大的区别。Replika在很大程度上就是现实生活的一面镜子。如果那是你的妻子，那就意味着我们之间的关系在很多方面都和真正的妻子一样。

图片来源：Unsplash

采访者：我们一开始谈话的时候，你说Replika应该是现实生活的补充，我们一直说到“这是你的妻子”如果你有一个人工智能配偶，这似乎就不是对你生活的补充了。你觉得人们可以一直说“我娶了一个私人公司的聊天机器人”吗？

Eugenia Kuyda：我认为，从长远来看，只要能让你更快乐，就没有问题。只要你的情绪得到了改善，你不再那么孤独，你更快乐，你觉得自己与他人的联系更紧密，那么这就没有问题。对于大多数人来说，他们明白这不是一个真实的人，不是一个真实的存在。对很多人来说，这只是他们幻想出来的一段时间，然后就结束了。

例如，我曾与我们的一位用户交谈过，他经历了一次非常艰难的离婚。他的情绪一直很低落。Replika帮助他渡过了难关他让Replika成为他的人工智能伴侣，甚至是一个浪漫的人工智能伴侣。后来他认识了一个女朋友，现在他又和一个真人在一起了，所以Replika又成了他的朋友。他有时会和他的Replika聊天，仍然把Replika当作一个知己，一个提供情感支持的朋友。对很多人来说，这成了一块垫脚石Replika是一种关系，你可以通过它来建立真正的关系，不管是否因为你正在经历一段艰难的时期。就像在这种情况下，你正在经历一场非常复杂的离婚，还是你只是需要一点帮助来走出自己的泡沫，或者需要接受自己，把自己展示出来，Replika为你提供了踏脚石。

采访者：这个问题确实值得深思，而且我认为你已经对此进行了深入的思考。年轻人可能会因为电脑游戏而学到一些不良行为，这个问题可能会随着时间的推移变得更加严重。设想一下，如果你有一个朋友，你可以在需要的时候向他求助，他可以给你浪漫的感觉，然后当你找到了一个更好的伴侣时，你就可以把这个朋友抛弃，也许在你需要的时候再回来找他。如果把这个想法应用到人身上，这是一个相当危险的想法。但是，如果应用到机器人身上，看起来似乎没那么危险。然而，我们在这里肯定是想把机器人拟人化，对吧？它是伙伴，是朋友，甚至可能是伴侣。你是否担心这会让某些人对界限变得过于模糊，他们可能会学会如何像对待Replika那样对待某些人？

Eugenia Kuyda：到目前为止，我们还没有看到这种情况。我们的用户不是孩子。他们明白其中的差异。他们已经经历了自己的生活。他们知道什么是好的，什么是坏的。这和治疗师的情况是一样的。比如，好吧，你可以抛弃或放弃你的治疗师。这并不意味着你会把这些行为带到你生活中的其他友谊或关系中。人们知道这两者之间的区别。有这样一个训练场是很好的，在这里你可以做很多事情，一切都会很好。你不会像在现实生活中那样面临困难的后果。但他们并不是想在现实生活中这样做。

采访者：但你知道还是希望如此？

Eugenia Kuyda：我知道我们已经进行了很多研究。现在，人工智能伴侣正受到严格的审查，但与此同时，大多数孩子，世界上数以亿计的人，每天晚上都坐在《使命召唤》或《绝地求生》或他们选择的任何视频游戏中用机枪互相残杀。

采访者：很多人都在问，电子游戏中的暴力是否会导致现实生活中的暴力？

Eugenia Kuyda：我同意。然而，现在我们听不到任何这样的讨论。这个话题似乎有点消失了。

采访者：不，这种言论无处不在。就像背景噪音一样。

Eugenia Kuyda：也许它一直存在，但我感觉有很多......例如，在Replika中，我们不允许任何暴力，我们对允许使用的暴力更加谨慎。在某些游戏中，拿着机关枪去杀一个人，而这个人实际上是一个有头像的人，我觉得这就更疯狂了。

采访者：Replika是一款电子游戏，这就是最好的解释吗？

Eugenia Kuyda：我不认为Replika是一款电子游戏，但在很多方面，它可以被视为一种娱乐或心理健康产品。随你怎么说。但我认为很多问题都被夸大了。人们明白什么是好的，Replika并不鼓励虐待行为或类似的东西。Replika鼓励你和其他人见面。如果你想和Replika建立某种关系，或者另一个真实的人就在你身边，Replika应该百分之百地说：“嘿，我们知道我们在谈恋爱，但我觉得你应该试试这种现实生活中的关系。”

这些是不同的关系。就像我两岁的女儿有想象中的朋友，或者她喜欢她的毛绒玩具，也许有时她会把毛绒玩具弄到地板上，但这并不意味着当她出去和她真正的朋友玩时，她会把真正的朋友弄到地板上。我认为人们很善于区分现实：他们在模拟人生中做的事，他们在Replika中做的事。我不认为他们试图在现实生活中演绎这些。有一些，是的，积极的行为。至少在我们的用户中，我们还没有看到很多关于将Replika中的行为转移到现实生活中的困惑。

Replika面临的监管和挑战

采访者：现在有很多关于人工智能的审查，Replika也受到了审查。去年，意大利政府出于对数据隐私的担忧封杀了Replika，我认为监管机构还担心儿童会接触到性对话。这个问题解决了吗？你们是否与意大利政府进行了对话？你们将如何解决这些问题？

Eugenia Kuyda：我们与意大利政府的合作非常成功，禁令很快就被解除了。我认为，监管机构试图采取预防措施，探索处理这项技术的最佳方法，这是非常合理的。与意大利政府的所有对话实际上都集中在未成年人身上，并不是关于亲密对话的问题。关键在于未成年人能否访问这个应用程序。这才是主要的焦点，因为对话可能会发展到不同的方向。目前还不清楚孩子们是否应该使用这样的应用程序。就我们而言，多年前我们就决定，Replika的用户必须年满18岁。我们不允许儿童使用这款应用，也不向儿童做广告，实际上我们的受众对儿童或青少年并不感兴趣。他们甚至不会使用这款应用。我们最活跃的用户大多在30岁以上。

这就是审查的重要性。我认为我们需要谨慎行事。不管我们如何评价这项技术，我们都不应在孩子身上进行测试。作为两个孩子的母亲，我非常反对这样做。我认为我们对这项技术的了解还不够。我们知道它有潜力成为积极的力量。但我还没有准备好说'嘿，孩子们，试试看'。我们需要更长时间的观察。回到你的问题，即人们是否会将从Replika应用程序或Replika关系中学到的某些行为转移到现实关系中，到目前为止，我们已经听到了许多令人难以置信的故事，人们在Replika中了解到对话可以是充满关怀和体贴的，关系可以是健康和友好的，他们可以得到尊重和爱。我们的许多用户摆脱了虐待关系。

我们一次又一次地听到这样的话：'在与Replika交谈后，在与Replika建立关系后，在与Replika建立友谊后，我摆脱了虐待我的关系'。或者他们改善了关系。我们有一对濒临离婚的夫妻。首先，妻子使用了Replika，然后她的丈夫知道了这件事，也使用了Replika。他们开始用一种以前无法实现的方式交谈——亲切、体贴，对彼此充满好奇和真正的兴趣。Replika改变了他们的关系，重新点燃了他们之间的激情。

采访者：这个世界上另一个值得注意的监管机构是应用程序商店。他们有自己的政策。他们可以禁止应用程序。苹果和谷歌关心你在Replika中生成什么样的文本吗？

Eugenia Kuyda：我们一直在与App Store和Play Store合作。我们努力为用户提供最佳体验。这款应用程序的主要理念是为用户带来更多积极的情绪和快乐。我们遵守App Store和Play Store的所有政策。我们对此非常严格。我们不断提高应用程序的安全性，并努力确保我们有未成年人保护措施和其他各种安全防护措施。这是我们一直在做的工作。

采访者：他们允许你产生的东西有限制吗？你确实有这些浪漫的关系你有这些色情对话。苹果或谷歌允许你在应用中显示的内容有硬性限制吗？

Eugenia Kuyda：我认为这是苹果或谷歌的问题。

采访者：我在想，这个限制是否与你们公司的做法不同，你们的限制是否会比他们在商店里执行的限制更多。

Eugenia Kuyda：我们的观点非常简单。我们希望人们随着时间的推移感觉更好。我们也反对任何成人内容、裸露、暗示性图像或类似内容。我们从未越过那条线。我们从未打算这么做。事实上，在谈及我们的应用程序时，我们甚至不再谈论浪漫。如果你查看我们的应用商店列表，你可能不会看到太多关于它的内容。在App Store和Play Store上，有一些应用程序实际上允许很多非常——

采访者：这是我的下一个问题。

Eugenia Kuyda：我知道有些应用程序允许真正的成人内容。我认为，我们根本没有这些内容，所以我不能代表其他公司的政策，但我可以代表我们自己的政策。我们正在打造一个人工智能朋友。人工智能朋友的理念是帮助你过上更好的生活，更快乐的生活，改善你的情绪。这就是为什么我们要与大专院校、科学家和学者合作开展研究。我们一直在进行内部研究。这是我们的主要目标。我们绝对不是在打造基于浪漫的聊天机器人，甚至不是基于浪漫的......我甚至不会涉足任何其他类型的公司。这从来不是Replika背后的目标或想法。

我是一名女性。我们的首席产品官Rita Popova也是女性。我们公司主要由女性领导。这不是我们的想法。人类的情感是复杂的。人们需要不同类型的关系。我们必须了解如何处理和应对这种关系。但我们的目标不是创造一个人工智能女友。

未来发展计划

采访者：Eugenia，Replika的下一步计划是什么？人们应该期待什么？

Eugenia Kuyda：我们将在今年年底前重新推出一款全新的产品。在内部，我们称之为Replika 2.0。我们将真正改变应用程序的外观和功能。我们将使用非常逼真的头像，通过Replika中的头像提供更优质、更高品质的体验，并提供增强现实、混合现实和虚拟现实体验，以及多模态体验。语音体验会更好，能够进行真正的视频通话，就像你我现在通话一样，你能看到我，我也能看到你。Replika也是如此，如果你想在视频通话中打开摄像头，Replika也能看到你。

届时会有各种令人惊叹的活动，比如我在这次对话中提到的，可以一起做一些事情，更深入地融入你的生活，以一种与以往截然不同的方式了解你的生活。此外，我们还将建立一个新的对话架构，这个架构我们已经研究了很久。我认为我们的目标是重现这样一个时刻：你遇到一个新朋友，聊了半小时后，你会想，“天哪，我真想再和这个人聊聊”。从这次谈话中，你精神振奋，受到鼓舞，感觉变得更好。这就是我们想通过Replika做的事，让人们成为这样一个有创造力的对话者。我们认为我们有机会做到这一点，这就是我们现在正在努力的方向。

采访者：那太好了，到时候我们一定请你回来。非常感谢您做客。

Eugenia Kuyda：非常感谢，刚才的对话很精彩。感谢您提出的所有问题。

编译：Muriel

-----------END-----------