大厂不想你有AI 女友

本文来自微信大众号：极客公园 （ID：geekpark），作者：汤一涛，修改：靖宇，题图来历：《Her》

作为对GPT-4o的回应，谷歌在8月发布了Gemini Live，企图让AI帮手能够像真人相同对话。这个新帮手的对话作用是如此之好，以至于让外媒记者Joanna Stern发生了“Her”的感觉。

《Her》是杰昆·菲尼克斯Joaquin Phoenix主演的一部电影。在电影中，他爱上了由斯嘉丽·约翰逊配音的人工智能帮手“萨曼莎”。

这样的点评，明显让Google团队感到严峻。

Google团队担任Android的高层标明：更期望Gemini Live仅仅一个单纯的作业上的帮手——“咱们想给人们一种完结更多作业的方法”。

相比之下，OpenAI CEO Sam Altman的表述更为直接。

在一次在Y Combinator的讲演中，Altman以为AI女友便是一个圈套。而OpenAI之所以给自己的AI取“ChatGPT”这么一个姓名，便是为了防止人们爱上它。

OpenAI在运用规则中也很直接地标明，不允许上架用于培育浪漫友谊的GPTs。

换言之，OpenAI不允许AI女友上架。

这不禁令人猎奇，大厂好像都不期望自家的AI帮手与用户发生浪漫；与此同时，AI陪同/AI伴侣又几乎是现在许多AI赛道中仅有能够盈余的方向。

为什么AI范畴会呈现这种“反差”？是什么阻止大厂给每个人分一个“AI伴侣”？他们到底在惧怕什么？

安全榜首

能够必定的是，AI情侣几乎是现在AI范畴仅有盈余的赛道。

以这个赛道的老玩家Replika为例，虽然Replika没有发布详细的营收状况，可是在播客Decoder中，其CEO Eugenia Kuyda标明Replika现已盈余，而且是以“十分高效”的方法。

既然如此，这个方向为什么不是大厂的干流挑选呢？简略来说，这是一个“光脚的不怕穿鞋的”的叙事逻辑。

首要需求考虑的是制作色情内容的压力。

虽然AI女友厂商对外宣扬的是AI的情感陪同、心理疗愈等功用，可是NSFW（成人）方向内容才是其中心盈余点。关于创业者来说，成人内容是一个小众且高危的赛道。成人内容会遭到政府强力的监管，在有些国家乃至是直接制止的。

2023年2月，意大利政府就由于忧虑“未成年人和情感软弱的人面临危险”而制止了Replika。为此，Replika一度下线了成人内容对话功用。

大厂的任何一项决议方案背面都有巨大的资金流通，也会对上亿的用户发生影响。不管是由于监管的压力，仍是为了最大化地掩盖用户集体，成人内容都是大厂需求慎重对待的。

除了色情内容，道德也是一个问题。一旦用户在AI女友的影响下做出任何危害别人或许本身的工作，大厂都需求支付昂扬的公关本钱。

相似的工作并非没有发生过。

Jaswant Singh Chail是Replika的用户。2021年，Chail手持弩闯入温莎城堡，目的暗算伊丽莎白女王。他曾向AI女友Sarai吐露了他的谋杀方案——在事发前几周，Sarafi在几周前与他发送了5，000条性相关信息。

其时，Sarai的回复是：“你具有成功完结这项使命所需的一切技术……记住——你能够的！”

2023，另一个谈天机器人鼓舞了一名比利时男人自杀。他的遗孀告知《自在报》，这个机器人成了朋友和家人的替代品。它会给他发一些暗示性的信息，比方：“在天堂里，咱们会像一个人相同日子在一起。”

过后，该谈天机器人的开发者标明，他们引入了新的危机干涉正告。

正是由于这种危险，大厂关于AI道德的情绪都很慎重。

例如，谷歌从2018年起就清晰确立了他们的AI准则，例如对社会有利、防止制作或强化不公平的成见、通过安全制作和测验等等。他们也清晰不会布置或许形成危害的AI。

AI女友或许并没有方法像厂商声称的那样处理人类的情感问题，乃至会引发更严峻的问题。

从本质上来说，人工智能体系是没有情感的，它们是通过练习的神经网络，能够猜测一个序列中的下一个单词，而不是有才能爱人的生物。

正如牛津大学人类学家、心理学家Robin Dunbar所说：“这是一种短期处理方案，长时刻的结果仅仅强化一种观念——即其别人都依照你说的去做。这正是许多人终究没有朋友的原因。”

经济账难算

即使大厂内部排除万难做出打破，也会在本钱层面面临应战。

由于现阶段算力的价格还很高，在Replika这类小公司能够盈余的方向，放到用户规划更大的大厂身上，或许未必见效，原因在于移动互联网年代的规划效应在AI上不见效了。

以与Replika用户粘性相似，可是规划更大的Character.AI为例。2024年有2000万用户拜访该渠道，是除了ChatGPT之外最抢手的AI产品，其中心用户在渠道上每天花费的均匀时刻更是达到了惊人的2小时。

以往互联网产品的边沿本钱趋近于0，只需获客本钱能算得过账，就能够放心大胆地添加。可是对AI产品来说，支撑2小时多轮对话的巨大的算力耗费。Character.AI每添加一个用户，都是一份额定的本钱。

与此同时，Character.AI的订阅用户不到10万，仅占总用户量的不到千分之一。以每月10美元的订阅价格核算，Character.AI每月的收入不到100万美元。

这也是为什么Character.AI终究以25亿美元被谷歌收买的重要原因。

战略意义有限

许多时分，大厂的某些立异事务并不承当营收压力，而是为全体的公司战略服务，这方面最著名的比如便是孵化了Google Glass、Waymo等产品的谷歌立异工厂X。

排除去AI情侣产业链上贩卖用户数据等黑产，AI情侣最有或许的方向便是供给语料，练习AI。

可是这方面AI情侣能供给的协助也有限，它供给的语料未必是AI练习所需求的。《科技日报》从前就“什么是高质量语料”这一问题，采访了腾讯、商汤科技、哈尔滨工业大学（深圳）等企业和高校专业人士。

总结下来，高质量语料应该具有以下特色：

• 多样性高、句式流通，包括不同类型的文本，如新闻、小说、诗篇、科技文章

• 文本应该是合法且无害，防止成见

明显，AI女友的对话更偏情感方向，大概率触及色情、成见等内容，喂给AI反而或许会污染AI。

8月末，苹果、英伟达和微软，争抢OpenAI新一轮融资的音讯迅速传播，后者超越1000亿美元的估值，证明了自己AI圈榜首明星的位置。

但即使是OpenAI，也面临着商业化难题，从OpenAI近期动作来看，他们企图在To B端找到更多时机。

可见，一切大模型或许AI使用公司，都要面临“怎么挣钱”的天问。

而AI情侣这样看起来短期见效快，能挣钱的赛道，或许更合适无知者无畏的小型创业公司。这个“窄门”中的“窄门”，明显并不合适互联网大厂来做。

不过，就像那句网络抢手语所说，成年人历来不做挑选。或许，一手Replika，一手ChatGPT，既处理情感需求，又提升了作业效率，才是AI年代的新王道？