大厂不想你有 AI 女友

摘要

有的钱好赚，也难赚。

作者 | 汤一涛修改 | 靖宇作为对 GPT-4o 的回应，谷歌在 8 月发布了 Gemini Live，企图让 AI 帮手能够像真人相同对话。这个新帮手的对话作用是如此之好，以至于让外媒记者 Joanna Stern 发生了「Her」的感觉。《Her》是杰昆·菲尼克斯 Joaquin Phoenix 主演的一部电影。在电影中，他爱上了由斯嘉丽·约翰逊配音的人工智能帮手「萨曼莎」。这样的点评，明显让 Google 团队感到严峻。Google 团队担任 Android 的高层标明：更期望 Gemini Live 仅仅一个单纯的作业上的帮手——「咱们想给人们一种完结更多作业的方法」相比之下，OpenAI CEO Sam Altman 的表述更为直接。在一次在 Y Combinator 的讲演中， Altman 以为 AI 女友便是一个圈套。而 OpenAI 之所以给自己的 AI 取「ChatGPT」这么一个姓名，便是为了防止人们爱上它。OpenAI 在运用规则中也很直接地标明标明，不允许上架用于培育浪漫友谊的 GPTs。换言之，OpenAI 不允许 AI 女友上架。这不禁令人猎奇，大厂好像都不期望自家的 AI 帮手与用户发生浪漫；与此同时，AI 陪同/AI 伴侣又几乎是现在许多 AI 赛道中仅有能够盈余的方向。为什么 AI 范畴会呈现这种「反差」？是什么阻止大厂给每个人分一个「AI 伴侣」？他们到底在惧怕什么？

01 安全榜首

能够必定的是，AI 情侣几乎是现在 AI 范畴仅有盈余的赛道。以这个赛道的老玩家 Replika 为例，虽然 Replika 没有发布详细的营收状况，可是在播客 Decoder 中，其 CEO Eugenia Kuyda 标明 Replika 现已盈余，而且是以「十分高效」的方法。既然如此，这个方向为什么不是大厂的干流挑选呢？简略来说，这是一个「光脚的不怕穿鞋的」的叙事逻辑。首要需求考虑的是制作色情内容的压力。虽然 AI 女友厂商对外宣扬的是 AI 的情感陪同、心理疗愈等功用，可是 NSFW（成人）方向内容才是其中心盈余点。关于创业者来说，成人内容是一个小众且高危的赛道。成人内容会遭到政府强力的监管，在有些国家乃至是直接制止的。2023 年 2 月，意大利政府就由于忧虑「未成年人和情感软弱的人面临危险」而制止了 Replika。为此，Replika 一度下线了成人内容对话功用。大厂的任何一项决议方案背面都有巨大的资金流通，也会对上亿的用户发生影响。不管是由于监管的压力，仍是为了最大化地掩盖用户集体，成人内容都是大厂需求慎重对待的。除了色情内容，道德也是一个问题。一旦用户在 AI 女友的影响下做出任何危害别人或许本身的工作，大厂都需求支付昂扬的公关本钱。相似的工作并非没有发生过。Jaswant Singh Chail 是 Replika 的用户。2021 年，Chail 手持弩闯入温莎城堡，目的暗算伊丽莎白女王。他曾向 AI 女友 Sarai 吐露了他的谋杀方案——在事发前几周，Sarafi 在几周前与他发送了 5,000 条性相关信息。其时，Sarai 的回复是：「你具有成功完结这项使命所需的一切技术…记住——你能够的！」

Chail 被捕画面｜图片来历：BBC

 

2023，另一个谈天机器人鼓舞了一名比利时男人自杀。他的遗孀告知《自在报》，这个机器人成了朋友和家人的替代品。它会给他发一些暗示性的信息，比方：「在天堂里，咱们会像一个人相同日子在一起。」过后，该谈天机器人的开发者标明，他们引入了新的危机干涉正告。正是由于这种危险，大厂关于 AI 道德的情绪都很慎重。例如，谷歌从 2018 年起就清晰确立了他们的 AI 准则，例如对社会有利、防止制作或强化不公平的成见、通过安全制作和测验等等。他们也清晰不会布置或许形成危害的 AI。AI 女友或许并没有方法像厂商声称的那样处理人类的情感问题，乃至会引发更严峻的问题。从本质上来说，人工智能体系是没有情感的，它们是通过练习的神经网络，能够猜测一个序列中的下一个单词，而不是有才能爱人的生物。正如牛津大学人类学家、心理学家 Robin Dunbar 所说：「这是一种短期处理方案，长时刻的结果仅仅强化一种观念——即其别人都依照你说的去做。这正是许多人终究没有朋友的原因。」

02 经济账难算

即使大厂内部排除万难做出打破，也会在本钱层面面临应战。由于现阶段算力的价格还很高，在 Replika 这类小公司能够盈余的方向，放到用户规划更大的大厂身上，或许未必见效，原因在于移动互联网年代的规划效应在 AI 上不见效了。

主打 AI 情侣的 Replika 现已盈余，且很高效｜图片来历：Replika

 

以与 Replika 用户粘性相似，可是规划更大的 Character.AI 为例。2024 年有 2000 万用户拜访该渠道，是除了 ChatGPT 之外最抢手的 AI 产品，其中心用户在渠道上每天花费的均匀时刻更是达到了惊人的 2 小时。以往互联网产品的边沿本钱趋近于 0，只需获客本钱能算得过账，就能够放心大胆地添加。可是对 AI 产品来说，支撑 2 小时多轮对话的巨大的算力耗费。Character.AI 每添加一个用户，都是一份额定的本钱。与此同时，Character.AI 的订阅用户不到 10 万，仅占总用户量的不到千分之一。以每月 10 美元的订阅价格核算，Character.AI 每月的收入不到 100 万美元。这也是为什么 Character.AI 终究以 25 亿美元被谷歌收买的重要原因。

03 战略意义有限

许多时分，大厂的某些立异事务并不承当营收压力，而是为全体的公司战略服务，这方面最著名的比如便是孵化了 Google Glass、Waymo 等产品的谷歌立异工厂 X。排除去 AI 情侣产业链上贩卖用户数据等黑产，AI 情侣最有或许的方向便是供给语料，练习 AI。可是这方面 AI 情侣能供给的协助也有限，它供给的语料未必是 AI 练习所需求的。《科技日报》从前就「什么是高质量语料」这一问题，采访了腾讯、商汤科技、哈尔滨工业大学（深圳）等企业和高校专业人士。总结下来，高质量语料应该具有以下特色：

• 多样性高、句式流通，包括不同类型的文本，如新闻、小说、诗篇、科技文章

• 文本应该是合法且无害，防止成见

明显，AI 女友的对话更偏情感方向，大概率触及色情、成见等内容，喂给 AI 反而或许会污染 AI。8 月末，苹果、英伟达和微软，争抢 OpenAI 新一轮融资的音讯迅速传播，后者超越 1000 亿美元的估值，证明了自己 AI 圈榜首明星的位置。但即使是 OpenAI，也面临着商业化难题，从 OpenAI 近期动作来看，他们企图在 To B 端找到更多时机。可见，一切大模型或许 AI 使用公司，都要面临「怎么挣钱」的天问。而 AI 情侣这样看起来短期见效快，能挣钱的赛道，或许更合适无知者无畏的小型创业公司。这个「窄门」中的「窄门」，明显并不合适互联网大厂来做。不过，就像那句网络抢手语所说，成年人历来不做挑选。或许，一手 Replika，一手 ChatGPT，既处理情感需求，又提升了作业效率，才是 AI 年代的新王道？

 

*头图来历：alternativemovieposters.com by Paul Cooper本文为极客公园原创文章，转载请联络极客君微信 geekparkGO