C.AI 卖身本相：好技能，好方向，「坏」产品

Character.AI 创始人 Noam，用技能发现了一个产品新大陆，但没有好的产品团队，就无法占据这个新大陆。

上一年 AI 范畴的注意力在大模型，本年变成了 AI 使用，Character.AI（下称 C.AI）是最出圈的 AI 使用，乃至没有之一。

在 AI 陪聊这个赛道，C.AI 跑得最快、最早，本年 7 月份最新日活数据是 600 万，均匀用户时长在 2 个小时。即使是放在整个交际陪同赛道，有这么长用户时长的使用，也不多，放在 AI 使用里，更是寥寥。

意外的是，8 月 3 日，Character.AI 在官方博客文章中，宣告与 Google 达到协议，包含两位创始人在内的 30 位职工参与 Google，剩余大部分团队留在 C.AI，继续打造产品。作为条件，Google 以 C.AI 此前 10 亿美元估值的 2.5 倍，向 C.AI 出资方完结出资报答。

近来，极客公园视频号「今夜科技谈」直播栏目，约请硅基活动联合创始人&CEO 袁进辉、立异工场联合首席履行官&办理合伙人汪华，与极客公园创始人&总裁张鹏对这一论题进行了讨论，详尽拆解了从 C.AI 到近一年来 AI 创业圈的抢手事例与未来走向。

以下为本次直播沉积，由极客公园收拾：

01｜ 25 亿美金买一个「Jeff Dean」回来，不贵

张鹏：进辉是最早投身 AGI 浪潮的创业者，不论是之前的「光年之外」，仍是现在的创业项目「硅基活动」。我信任 Character.AI（下称 C.AI）推出时，你必定研讨过。那时，你对 C.AI 这家公司、对创始人，有哪些调查和了解？

袁进辉：我重视 Character.AI 确实比较早，由于创始人 Noam Shazeer 既是学界大咖，在 Google 的声威也很厚，所以一向有研讨这个公司的走向。

最早重视到，引起 Transformer 革新的这样一个科学家，为什么不在大厂里寻找科学的制高点，而是要出去创业做产品，做一个通用人工智能（AGI）的公司。必定程度上，他的起点是对 Google 的产品动作、节奏的不满，期望有更好的自主性、灵活性。

Noam 团队做出的 Character.AI，应该是最早有比较大流量的 To C 产品，十分接地气。咱们做光年之外的那个阶段（2023 年），许多人在研讨「怎样做 AI 年代的 Super App」，其时适当多人看好、信任、研讨 Character.AI 的方向，它确实是一个标杆。

张鹏：一个这么有影响力的创始人，做出给创投界许多决计和期望的标杆型 AI 使用。忽然，就被「并购」了。你其时听到后的「心里戏」是怎样的？

袁进辉：我确实懵了一瞬间。其实本年 3 月去参与英伟达 GTC 大会的时分，就听到 C.AI 有寻求被收买的主意，可是靴子一向没落地，当实在发生的时分，是有点意外。由于这对咱们这个职业的从业者必定会有所影响，比方，我觉得会影响「职业大气候」，像融资、咱们的创业方向之类的。

后来揣摩了一会，我觉得它确实反映了一些比较底层的逻辑改动。比方更早的时分，许多公司在讲模型和使用的双轮驱动、产模一体等等。这个改动是，一同想搞好模型和使用是有一些应战的。别的，C.AI 公开信里边也以为开源模型现已可用了，能满足他们未来的产品需求，这也会对许多使用从业者有所启示。

可是从长时刻来说，我仍是觉得整个职业处在十分前期的阶段。从很长的周期来看的话，这件事也是一个正常的动摇。

张鹏：汪华怎样看 Character.AI 被「并购」？最早 C.AI 给你们留下什么形象和启示？汪华：我相对了解 C.AI，由于我跟开复之前都在 Google 作业，许多朋友也都知道 Noam Shazeer。

Noam 其时挑选出来做 C.AI，是其时 Google 不让他发布大模型产品——LaMDA。

其实 Google 做出 LaMDA 要比 ChatGPT 早许多，至少一年。其时 Noam 就想发布 LaMDA，由于他想到实在用户里看这个东西的反响，由于没有人类反响，永久做欠好。可是 Google 不让，所以有了 Noam 出走创业。

C.AI 处于十分拧巴的情况现已有一段时刻了，Character.AI 做出了一个很好的产品，但其实是由于它的模型很强。上一年 4 月份，我跟 C.AI 的同学有许多沟通。那时分我就觉得有一些比较奇特的当地。比方上一年 4 月，C.AI 一共有 21 个人，其间 20 个都是算法和工程，没有产品司理、没有运营，剩余的一名职工适当所以行政之类的人物。

张鹏 ：如同C.AI 在本年4 月份之前，都没有实在做产品的团队。

汪华：对，他们其时做产品，是由工程和算法来做。你会发现这个产品的迭代底子上是靠模型驱动的，并没有在产品的交互层面迭代，包含用户新的交际方式、用户需求等，其实没有做太多。即使有一些晋级也是惯例动作，比方加各种语音、做商业化。所以它尽管是一个产品公司，但实际上并没有像一个产品公司那样运作。

第二，Noam 其实对 AGI 很有爱好，但他其时并没有趁上一年的 AI 热潮、以模型公司的身份去融满足多的钱。

在 C.AI 这波改动之前，我有一些预见，这样做下去不对。假如做一个产品公司，C.AI 没有依照，比方当年字节那样正儿八经的产品公司来做引荐算法。一同，Noam 有十分强的志愿做 AGI，手里又没有满足资源去做。

当地时刻 2022 年 10 月 6 日，美国加州，Noam Shazeer 与前谷歌工程师 Daniel De Freitas 一同创立 Character.AI。｜图片来历：视觉我国

张鹏：很少能看到一个创业者，做了一个让国际冷艳的产品，但其实他并不是要做这个产品，C.AI 是他通向 AGI 的一个实验品，Noam 实在的爱好点在 AGI。所以 Noam 是个什么样的人？

汪华：C.AI 有两个创始人，但实话说，我觉得 Google 收买仅仅为了 Noam Shazeer 一个人，尽管 Daniel De Freitas 也很凶猛。当年 Transformer 论文的作者有 8 个人，但在我看来，实际上实在重要的就两位，一个是最原始提 self-attention（自注意力机制）的 Jakob Uszkoreit，另一个便是 Noam，假如没有 Noam 进来，Transformer 后来根柢就做不出来。

他是超级工程师，既懂 research（研讨）又懂 engineering（工程）。朴实从他的实力来讲，他彻底能够是 AI 年代的 Jeff Dean。所以 Google 花 25 亿美金买一个「Jeff Dean」回来，你觉得贵吗？

（补白：Jeff Dean，Google 首席科学家，领导了 Google 多项关键技能的研制）张鹏：赤贫约束了我的梦想（哈哈）。汪华：我个人觉得这儿最大的疑问是，Noam 回到 Google 后究竟有没有空间？Google 究竟有没有把之前让 Noam 走，或许让 Noam 无法发挥空间的问题处理掉？假如没有，就算 Noam 回来了，他在 Google 系统里边做不了什么事，也是白费。

其实他也是一个很有远见的人。其时做完 Transformer 之后，他就提出要把查找、把整个互联网悉数向量化、模型化。其时被以为过于极点，但现在咱们再看这个问题，是不是觉得这是必定的？

张鹏：Google 里边确实就有能看到未来的人，可是看起来，一个巨大的安排却让这些人没能充沛发挥，终究仍是要出走，再请回来。你觉得 Google 能改动吗？给 Noam 一个充沛的发挥的空间。

汪华：其实你跟 Google 一线的同学聊，哪怕到现在为止，每个人都是「槽多无口」的情况。

在我看来，这个问题只需创始人能处理，可是实话说，我不是特别承认 Larry Page 和 Sergey Brin（Google 两位联合创始人）处在这样的人生情况。假如能有 Elon Musk 当年的那种，卷着铺盖直接睡到 Tesla 的流水线上，彻底从底层、榜首性原理，去再造公司，我觉得是有或许的。

张鹏：前段时刻我在硅谷期间听到的音讯是马斯克要买 C.AI，律所现已开端介入买卖商洽了，可是回来没两天，马斯克在 X.com 上驳斥谣言了，大约率是真谈过，但没谈拢。进辉，你怎样看这笔买卖，假如马斯克想买，它会用来干嘛？

袁进辉：对，我也听闻 Elon Musk 要买 C.AI，但终究为什么 Google 达到买卖，我赞同方才汪华的观念，Noam 究竟在那儿作业过、声威卓著，而 Google 在眼下这个阶段也需求一个有声威的人，来鼓舞士气。

我听 Google 的朋友说，Google 创始人在内部表达过，一向在想方法让 Noam 再回来，在做技能的人眼里，仍是比较敬佩 Noam，所以假如 Noam 回来，整个团队的士气或许会不相同。从这个视点来看，Google 是乐意付出溢价的。可是其他潜在买家 Meta 或许是 X.ai，或许给不了这么好的 offer。或许他们是以抄底的主意来谈的，Google 的姿势会更尊重一些。

张鹏：一个叫回家，一个叫抄底。单就 Google25 亿美元带走 C.AI30 位职工，这笔买卖对各方的利益是什么样的？

汪华：我没有细心看这个买卖的结构，但全体上，出资人应该都被溢价买回来了。对出资人来讲，一个一年多的出资项目，哪怕你是在 10 亿美金估值的时分投的，ROI 和报答都适当不错，更不必说更早投的 VC 了。对出资人来讲不论怎么都是一个成功。

职工里有两部分，一部分参与 Google，Google 的股票也适当于现金了；另一部分留在 C.AI 继续做，可是职工鼓励也获得了现金兑换。

所以 Google 真的是把各方的报答都满足了，十分面子。我更猎奇的是，里边一些纸面下的东西。Noam 拿到了一些什么样的许诺？他回到 Google，究竟有多大的权限？精干多少作业？

张鹏：Google 当年收买 DeepMind 也就花了 5.4 亿美金，现在花 25 亿美金请回 Noam。对 Google 来说，值吗？

汪华：其实我个人觉得 Google 未必吃亏了，一是要看将来怎样履行这笔买卖，另一个，我个人觉得 Google 这么做可不仅仅为了做 AGI。

在几家大公司里，我觉得 Google 的查找和广告事务根底是最危险的。当年移动互联网年代，查找和广告其完结已被大大削弱一次了。你看今天的百度就知道了，许多查找引荐引擎把查找在手机上、移动设备上淡化了。但 Google 其时很有远见，一开端就收买、操控了 Android，所以在移动互联网年代，它没有受影响，乃至还增强了。

但 AI 年代会更进一步地削弱查找，由于查找是为了用户做下一步使命，但将来 AI 是直奔成果、直接帮用户完结使命了，所以 AI 对查找的削弱比移动互联网还狠，广告也是相同。在新一代的商业方式上，广告是不是还会像曾经相同长得这么大？

所以 Google 这笔买卖可不仅仅为了做 AGI。在我看来，Google 出这个十分面子的价格，必定也是要花大决计重构它的查找和广告，乃至重构整个事务根底。这便是我刚为什么把 Noam 比成 Jeff Dean，Google 花 25 亿美金，万一又买回来一个「Jeff Dean」，这个视点来看未必就贵了。袁进辉：对，我也十分赞同，这个人才值这个价。何况这儿边或许要再细分一点，25 亿美金是 C.AI 这个公司的评价，里边依据出资人股权，给出资人完结的现金或许也不超越 10 亿美元。别的一部分就如同雇佣一批人才，通过 Google 的 package（权益组合）——现金加股票。

所以对 Google 来说，实际上是可控的，让出资人赚一笔，对团队来说，应该主要是用未来的薪资来付出。汪华：其实要雇这样一批人，原本就要付出股份、期权。张鹏：归根究竟并不是由于 Google 缺 C.AI 这么一个产品，实在有价值的是人。

02｜OpenAI 人才丢失背面，Sam Altman 其实挺难的

张鹏：前两天 OpenAI 又有中心团队脱离去创业了。曩昔一年，OpenAI 当年那个黄金团队也被分裂得挺多，走了不少人。你怎样看 OpenAI 不断丢失人才这件事？

汪华：我觉得应该仍是 OpenAI 上一年 11 月份（Sam Altman 被辞退又召回）的余波，这事还没完。

其实抛开是不是安全、与人类价值观对齐之类，OpenAI 还有另一条线——想做 AGI 的人跟做商业化的人之间的对立抵触，实话说 Sam Altman 也挺难的。在 OpenAI 做研讨和想做 AGI 的人眼里，商业化团队做的那些事朴实是糟蹋卡、糟蹋资源，「你们在那里搞什么？糟蹋名贵的研讨时刻」。

所以其实 OpenAI 最原始的这波人脱离，不论是出于「对齐」、安全，仍是想完结 AGI，对 Sam Altman 的商业化、产品化道路都挺有主意的。

可是问题是，本来的 OpenAI、本来最中心的人都是在榜首种思维下，做到现在这个情况的。对他们来说，OpenAI 现在不说 180 度大转弯，也至少是 90 度。

OpenAI 首席履行官 Sam Altman｜图片来历：视觉我国

张鹏：现在业界也在堆集压力——「GPT 5 怎样还不出来」，既忧虑 GPT-5 出来，现在做的作业就没含义了，又忧虑 GPT-5 出来不及预期。

袁进辉：你说的这两种对立心态很实在。但站在从业者视点来说，仍是期望 GPT-5 有打破，由于它联系到整个职业、整个社会对 AI 的决计。

可是客观来说必定是，从 90 分再往上提难度越大，越往后难度越大。

一同，技能打破有必定的偶然性，前面整个职业的开展我觉得如同太高歌猛进、太抱负化了，实际上应该有一个客观清醒的知道，在这个进程中必定有重复、有动摇，会遇到困难。

03｜把 Character.AI 交给张小龙，或许就没有今天的窘境了

张鹏：回到 Character.AI 产品自身，现已做到赛道头部，但创始人无法把它抛弃。除了创始人志不在此，还应该怎样了解这件事？汪华：C.AI 其实「生」得有点早，账算不过来。假如到了下一年，整个推理优化得更好、本钱更低，账或许会算得过来。

实话说，现在推出 C.AI 还不如 AI 查找。AI 查找，一天撑死搜十次；当年我在 Google 的时分，一个用户均匀查找不超越 7 次。所以 AI 查找耗费的 token 数是有限的，哪怕你加堆一大堆 RAG（检索增强）。可是交际文娱产品的逻辑是，一个产品的用户时长越长，产品越好。可是 C.AI 这个产品动不动便是两个小时的用户时长、上百轮的对话，假如再加上语音等其他东西，一个日活用户轻轻松松就需求耗费掉几十万、上百万 token。

所以用户添加对 C.AI 来说是一把双刃剑。要想产品好，用户时长要越长越好，可是关于算账来说，用户时长越长，越算不过帐。C.AI 最近为了降本钱，现已在跟用户体会做博弈了，比方把模型拼命往小紧缩，所曾经段时刻有许多用户反响「模型怎样变笨了」，「我的体会欠好了」。

所以从推理、多模态等各方面的开展来说，其实都有点早。当然这仅仅时刻问题，他假如融到满足多的钱，捱到推理本钱下降，比方下一年又下降到 1/ 10 了。

张鹏：假如上一年他再拿 10 亿美金，依照今天的现状即使算不过账，也能够继续往前跑。汪华：对。C.AI 在没有细心做产品的情况下，都能招引那么多日活，而且均匀用户时长那么长，反而更说明晰这个范畴的用户需求很强。要知道，C.AI 的用户时长是超越一个小时的。超越一个小时用户时长的使用其实不多。

除了推理本钱，C.AI 的第二个问题，是产品。即使不考虑算力本钱、大规划做用户添加，C.AI 的产品在我看来也是一个十分重度的、十分中心向的一个产品。

一小部分重度用户的忠实度特别高、时长特别长，但轻度用户其实不太玩得进去。原因其实很简略，抛开荷尔蒙需求的玩家不说，C.AI 里边的一些中心玩法，比方人物扮演、名人对话，或许互动小说，其实是需求用户许多输入文字。用户要想在人物扮演的进程中有很好的体会，对他/她自己的要求首要很高，由于跟 bot 聊便是这样，你聊得越好，bot 才干跟你聊得越好。

Character.AI 使用程序｜图片来历：视觉我国

张鹏：假如用户你很无聊，bot 那儿也很难跟你一同表演很好的戏。这是个「双人舞」。汪华：对。但你要知道，现在的一般人的文娱是什么，我举个极点比方，抖音。你只需齐截划就行了。

其实为什么现在 C.AI 许多的中心用户是二次元？他们真的是重度用户，有点像当年互联网的天边用户，他们有很好的表达才干，能输出、能承受十分深度和杂乱的设定，也能享用到许多趣味。

他们也很像当年玩魔兽国际的那波玩家，公会、上班式地玩，重度地玩，但现在大部分一般的轻度玩家，其实更像原神的用户，看看剧情、刷刷使命就行了，你要让他们回去像当年魔兽国际相同，重交际、公会式地，一天几个小时像上班相同玩游戏，他们根柢承受不了。

更不必说现在由于模态的约束，还仅仅以文字为主。

所以从产品形状的视点来讲，它没有实在花许多时刻打磨产品，把产品去做扩圈下沉。在这一点上，我对 C.AI 也有点绝望，由于 C.AI 其实挺好的，把重度用户群都占了，可是作为首领产品，却没有好好打磨产品。

作为首领，应该为整个同类产品拓荒前路，不然，当一个范畴里边排名榜首的产品，在产品视点、用户扩张视点、体会扩张视点不思进取的时分，你了解我的意思，整个范畴都会受损。

而且这个情况不光是 C.AI，一切相似产品都有这个问题，局限于重度用户，重度用户之外的轻度用户作用欠好，而且对一般用户来讲，长留存很差。其他的相似产品也是如此，哪怕是比较闻名的产品像 Talkie，依据外部的可盯梢到的数据，它的长留存也很低。C.AI 的留存好一点，由于 C.AI 榜首个推出产品，把那些最中心的重度用户全都靠拢曩昔了，所以 C.AI 全体的长留存还能够，可是这个赛道一切其他产品的长留存都不太好。

由于这实质上是一个交际产品，中心的模型仅仅一小块要素。心情价值、包含人的交际方式有许多种，一对多、多对多，人和 bot，bot 跟 bot 等等。

张鹏：让 Transformer 的大神来揣摩人道和人世的逻辑，太难为 Noam 了，这事或许仍是，比方张小龙这样的产品人比较适宜。进辉，你怎样看 C.AI 产品的窘境？袁进辉：我听到的音讯是，C.AI 重度用户基数或许有几千万，可是再扩展的话比较困难。C.AI 有一个特别的集体，比方说爱玩游戏的，还有爱和虚拟人物沟通的，而且有个专门的术语叫「乙女」，二次元等等，这个集体她特别享用 C.AI 这个产品，可是问题是有更多人不是这个集体。

按理说做好这个集体，让这部分集体有几千万人喜爱，也十分可贵。可是最主要的仍是，创始人志不在此。

C.AI 这个用户根柢，假如让我国的创业者去做，不论从产品仍是商业化，或许会做得更好。国内的创业者去做相似的东西，能够想出让玩家氪金、抽卡什么的各种玩法。

张鹏：Noam 缺一个我国合伙人，一个我国产品合伙人。汪华：假如把 Character.AI 交给米哈游，把 Character.AI 交给张小龙，这个必定会有不同的故事了。

04｜AI 陪同，比 AI 查找商场大多了

张鹏：反过来说，从 C.AI 身上，咱们看到了哪些有含义的东西？心情价值这个赛道，曾经是用什么样的产品在被满足，C.AI 究竟带来了什么样新的改动？

袁进辉：大模型出来之后，发现言语对话才干比曾经愈加天然、流通，还有对知识的了解，这些都是曩昔做谈天机器人，想尽各种方法打破头都无法霸占的。但现在用大模型处理了言语的流通问题，处理了一部分知识问题，进程中还有 Fine-Tune（微调）机器人说话的风格，能更好地满足心情价值。

而且不必定是在单纯处理心情价值、陪聊的场景，凡是需求言语才干、知识、对话才干的场景，必定程度上都被解锁了，这是对职业的启示。

Character.AI 答应人们创立自己的定制谈天机器人，仿照任何有生命、逝世或无生命的人或物。｜图片来历：C.AI 官网

汪华：其实 Character.AI 证明的作业还挺多。一是证明晰广义的交际和心情，这部分价值能被模型处理和满足。第二，它还证明晰新一代的内容消费方法。

Character.AI 里边，许多人在做人物扮演、互动小说，它是新年代里心情价值的内容消费的一个雏形。许多人在里边扮演人物、玩虚拟游戏，但这个游戏的国际或许虚拟的国际实际上彻底为「他/她」定制。

曩昔不论是 TikTok 这样的引荐引擎，仍是玩游戏，它仅仅把做好的内容，千人千面地引荐给你罢了。

比方玩原神的人许多也仅仅为了内容消费，原神实质上是一个内容供应商，而不是传统的游戏厂商，它供应的是带心情价值的内容消费。哪怕在原神里，理论上你能够在里边互动，但这种互动其实是根据固定脚本的。

张鹏：实在的沙盒并不是一个预设好的空间，它是为你而实时烘托、生成的一个国际。

汪华：对，Character.AI 最少证明晰根据文字的，一个新年代的、彻底互动的内容消费和文娱形状的赛道。

所以现在看似乙女或许二次元玩家如同比较会集，但实际上，不论是心情价值的或许性，仍是新年代的全新内容形状、带心情价值的互动内容形状，可比乙女和二次元要大得多得多。

现在的 Character.AI 其实有点像 2012 年咱们刚刚开端做移动视频的年代，把 YouTube 直接往手机上搬。C.AI 把 AI 直接搬到谈天机器人的形状，但实际上或许要到两三年之后，终究的产品形状才会展示出来，而且或许还不止一个方向。我觉得 Character.AI 将来能够分叉出两三个不同的方向。

张鹏：C.AI 给我一个很重要的启示是智能的供应，由于心情价值背面需求一些智能的才干来完结，这种智能才干的供应在今天准备好，而且能够批量供应的时分，这种智能供应的结尾便是支撑咱们这么多年在商业系统里一向要寻求的——大规划个性化。

就像方才汪华说的，国际为你而发明、为你而闪烁，在这一个时空里跟你的对话，只为你，不是为任何人，不是被设定好有无数人来消费的东西，它只由于你存在，且由于你在此时时空切面的这句话而去生成新东西。

这是历史上不论游戏、内容消费等等一切东西里，从未呈现过的东西，这是它实在的改动。而它背面的原因，是智能的供应获得了打破。

汪华：对，之前的引荐引擎其完结已改动了许多东西，比方抖音、头条，电商里的阿里、京东、拼多多。所以移动互联网的光辉，一半是由于移动互联网，另一半是由于引荐引擎。不然，几千个小二，几千个新浪小编，支撑不起来这代东西。

可是你刚说的这一点，我觉得比当年的引荐引擎还要大的多得多。

张鹏：没错，我特别认同，从整个经济学的视点来看，供应、需求、衔接这三者之间是相关的。

方才你说的，今天咱们看到二次元、乙女这样的人群，对这事很喜爱。但假如这种供应的本钱不断地下降，也有打磨得很好的产品，终究实质处理的，是「心情价值上的大规划个性化服务」。而充沛的供应呈现之后，需求就会改动，需求假如变了，衔接就会改动，这几个东西其实是一种连锁反响。

所以 C.AI 尽管没有完结这个闭环，可是敞开了对这一点的考虑。未来不同的产品形状，不同的场景，游戏、内容消费、心思、健康等许多范畴，都会有相同的主旋律——智能的供应，在这个进程中或许会改动需求——把本来的窄需求变成广泛的需求。但 Noam 他们还没有把这个窄需求拓展，终究停留在这个点上了，再加上今天智能供应的本钱仍是太高，算不过账。

汪华：其实张一鸣做到了这一点，他把引荐算法无限扩张。

张鹏：我觉得那个年代的智能也是缺乏的，可是他通过交互的规划，单列、齐截下，弥补了这件事。我能够划三下都不满足，我还能承受。那个时分的智能有限，内容也有限，但我通过交互仍然能够有更大的用户兼容性，看起来也蛮个性化的。

汪华：最早他的引荐算法仅仅用在今天头条上，后来扩充到视频、广告算法、电商等等其他事务上。现在的 Noam 有点像停步于榜首个产品，而且是还没有做完今天头条，就抛弃了，而没有后边的抖音、直播，也没有后边的完结商业化。

但张一鸣打造了乃至比百度更凶猛的广告引擎，实质上都是根据同一套算法，搜广推这套算法，当年张一鸣把搜广推这套算法一向延伸到现在，完结了整个闭环。

张鹏：这个类比我觉得挺到位。但这一次我觉得是真的改动了供应，在供应这一侧，它为你而生成，针对的是实在的个性化。

汪华：对，假如能把这件事做对，坚持往下做，必定比当年的字节会更大。搜广推我仅仅类比它的开展进程，可是这次智能的革新性是比当年的搜广推要大得多得多。

05｜推理本钱再降两个数量级，C.AI 就会生逢其时

张鹏：方才咱们还聊到一个论题，「C.AI 算不过账」，所以这个账要怎样算？袁进辉：曾经互联网产品边沿本钱趋于零，只需获客本钱能算得过账，能够放心大胆地做添加。但现在一方面要算获客本钱，另一方面每添加一个用户、日活，每天耗费的核算资源本钱也在继续添加，GPU 比较贵。假如服务单个客户的本钱不变，本钱是线性添加的。

所以关于 AI 产品，有必要算两个账，一个是获客本钱、一个叫运营本钱。当运营本钱或许核算本钱进一步下降，比方 10 倍、100 倍时，或许会像移动互联网产品的本钱那样，用户添加的边沿本钱为零。

详细到 Character.AI，它除了在预练习模型上继续投入，每添加一个用户，推理本钱也有比较高的开销。数据显现，它每天日活是几百万，付费是几万订阅用户，每个月收入大几十万、上百万美元。每个月的算力开销、光推理本钱或许就四五百万美元，确实捉襟见肘。

假如推理本钱再降 10 倍到 100 倍的话，Character.AI 的运营本钱就和曩昔移动互联网的产品十分挨近了。

2024 年 6 月 20 日，C.AI 创始人 Noam 在交际途径共享了 C.AI 近期在优化推理本钱上的开展｜截图来历：X.com

张鹏：听他们团队说，曩昔一段时刻十分尽力地在优化产品的推理本钱，降了不少了。

汪华：但即使降了那么多，仍是要继续降。由于要前进用户体会，或许得用更好的模型，仅仅文字不行，得上多模态。抱负情况，要能给用户 GPT-4o 相同的语音体会。

其实这有点像当年的英特尔和微软，需求像硅基活动这样的公司把推理本钱不断地下降，然后 AI 产品这边再把用户体会做起来，又把降下来的本钱再升上去的进程。

张鹏：智能密度提高，一同单位智能的本钱下降。算得过账未来有什么好的解法？未来一段时刻应该重视哪些关键？

袁进辉：我觉得本钱下降是一个必定趋势，能够作为 AI 创业的一个底子假定，比方未来一段时刻本钱会下降 10 倍到 100 倍，根据此来做产品和商业的规划。

下降本钱，其实有许多种方法，底子上能够分红几类：

从模型视点，现在有方法把模型变得更小，比方小 10 倍，一同它的才干和原先模型的才干差不多。模型上也有投机采样、巨细模型的合作这种方法。

Infra 层，比方咱们常听到的量化、调度，根据 MOE 的结构等方法。

芯片视点现在也有一些方法，除了通用芯片，国内外一些创业公司瞄准了 Transformer 的专有芯片，比方根据相似 Llama 这种结构去规划芯片，这种芯片有望带来一个数量级的提高。

从云核算规划效应的视点也有许多方法，比方说潮汐现象，怎样把白天和晚上的流量能够都用满，比方把核算放在电价更廉价的当地，马上就能下降一倍等方法。

所以推理本钱下降是一个确认性的作业，而且是不必忧虑的一个问题。

张鹏：一边是 Scaling Up 模型才干要往上走，一边是边沿本钱要无限向下，由于寻求无限供应的智能，才干解锁新的年代。

在本钱优化的方针上，要降几个数量级，就到了「让 C.AI 生逢其实」的情况？

汪华：我其时做过一个简略的核算，假如是大用户量的东西类产品，我个人觉得底子只需降 10 倍就能算得过帐。张鹏：相似于 AI 查找这样的产品，降 10 倍就能够。汪华：对，东西类不仅仅查找了，写作或许其他的东西也是。

但假如是长时长，乃至是要加上多模态，底子上要两个数量级。由于长时长自身（本钱添加）就将近 10 倍，而且多模态都不说视频，像语音和图片的 token 都挺耗本钱的。

当然还有方才说的模型调度，假如端侧模型再能承载一些压力的话，我觉得云侧只需提高两个数量级就能够。由于许多编码、解码和一些前端的作业能够在端侧挖一层。所以我的假定是，假如要完结完好的两个数量级的云侧推理本钱下降，底子上能够敞开这个新年代（智能供应自在）了。

张鹏：推理本钱下降两个数量级，靠今天在工程上的尽力，是否便是确认能够完结的？仍是仍然需求一些技能上的立异，有新的方法才有或许完结？

袁进辉：未来必定还有立异，但假如把现在的手法都用上，应该是能够完结的。比方说，100 万 token 今天是几块钱，可是优化今后能做到几毛钱或许是一毛钱的这种价格。

方才说的那些模型手法，把模型变得更小、把 MOE 做得更好，大、小模型的路由做得更好，比方说 Apple Intelligence 那样，有在端侧推理的、有云侧推理的，这种把模型使命之间的路由做得好的话，也能处理十分多问题。

软件根底设施这层还在往前推动，用更低精度、更好地调度。芯片的潜力还没出来，由于芯片规划出产的周期长，现在都还在用之前规划的芯片架构去做。

汪华：我再弥补一个，假如产品自身是确认的，除了通用本钱下降的方法以外，针对产品去额定做优化，不论是在模型推理阶段对产品和硬件架构去做专门的相互规划，仍是能够在里边加许多 kv cache，乃至是成果 cache 的缓存层之类的特定产品场景的优化，又能够再下降好几倍。

06｜先把使用做好，有钱了再抓大模型

张鹏：这么一看，Noam 确实压力大，刚剖析的是降推理本钱的空间，还没说练习模型的本钱。由于 C.AI 就拿了 2 亿美金，手里如同有 8000 张卡，万卡都到不了。

一同，这也带来另一个论题，创业公司要不要去做大模型，走双轮驱动、产模一体的道路？袁进辉：假如能够像 OpenAI 和 Anthropic 融那么多钱的话，能够做。

假如没有那么雄厚资金的话，更实际、更理性的做法是，不把钱花在训模型上，由于现在有许多，比方 Meta 开源的 Llama405B 模型是可用的，国内也有一些开源模型挨近 GPT-4 水平。

关于一些 AI 使用，比方说像 C.AI 这种使用，现在开源模型的才干应该够做产品初期的 PMF 等等需求，这也是更理性的做法。张鹏：从创业者的视点，手里有多少钱会让你乐意挑选用双轮驱动的方法走？袁进辉：我觉得几亿美元到 10 亿美元必定都够，不必定像 OpenAI 要寻求 10 万卡或许是几十万卡这种等级。

由于现在训模型的技能愈加成熟了，相同的数据，有技能手法能够训出水平更高的模型。

实际上今天有许多挨近 GPT-4 水平的模型在预练习时没有用那么多卡，或许 2000 张卡就交付了挨近 GPT-4，或许在某些方面比 GPT 4 还好的模型。

所以从算账视点来说，依照每 1000 台 H100，租金 1 亿美元一年，有几亿美金能够挑选双轮驱动。汪华：我首要说，假如做双轮驱动的使用公司，指的是要做大用户体量的使用公司，假如去做一个中小用户体量的使用，根柢不需求。张鹏：至少方针得瞄着千万日活的使用。汪华：对，瞄准这种量级的使用去，才值得双轮驱动。

第二，产品的 PMF 阶段不必自己的模型都没联系，用市面上最好的模型就能够。可是假如产品想要上量的话，必定要用自己的模型。

这么做一是由于本钱，二是由于要跟竞争对手之间发生差异化优势。真的要把一个产品做得廉价，做出差异化优势，其实是要按产品需求去做一系列模型的，哪怕看上去比较简略的 AI 查找，假如想下降本钱、作用又特别好的话，其实需求做一堆模型。比方用户的目的侦测、分类的模型、re-rank 的模型，包含 summary 的模型也要专门定制，这样作用才干做得好。由于假如都用通用的模型、参数量大的模型，哪怕是开源的，其实功率也并不高。

图片来历：视觉我国

就像 Google 做查找，要支撑这么大规划用户量的查找，里边的许多技能栈都不能用开源的现有技能产品，就得自己来做。这些模型也不必定是特别大，反而都做得特别小，或许说是针对产品特定使命的模型。

别的，跟竞争对手做出差异化，必定要做出自己的特征功用，依托开源模型做特征功用不必定行，至少也得根据开源模型进行大体量地魔改 config 串。但实际上，一个开源模型假如加满足多的数据 config 串，其实耗费的算力也跟训一个新模型差不多量级，大约适当于训新模型 1/3 的核算量了。

所以在我看来，验证产品要多快好省，但假如一旦产品验证了，而且你是要做大用户量的使用，往上 scaling（规划化）跟竞争对手打出差异，既能做大体量又能算得过来账，就得双轮驱动。

其实哪怕移动互联网年代也是这样的，一开端咱们都用开源的东西随意搭个东西。但一旦做大了，你成了一个大互联网公司开端有大使用了，都在搭自己的技能栈。

张鹏：终究假如用户量做起来了，铁定需求双轮驱动，假如瞄准的用户体量不大或许终究没做成大体量的使用，玩双轮驱动只能「死」得更快。

07｜AI 出资仍旧炽热，可是逻辑变了

张鹏：最近半年，硅谷几家最被看好的几家 AI 使用都以某种方式并入大厂，你们觉得这反响了什么趋势？

袁进辉：从 Adept 参与亚马逊、Inflection 参与微软、还有 C.AI 参与 Google 这几个比方来看，我个人觉得是创业者高位套现的阶段成功。他们或许在职业开展激动期、泡沫期呈现，但并不必定实在有耐性。

后边的阶段其实更检测耐性，这儿有一个短期的动摇，比方本来的判别失误、职业模型或许开源模型的前进、融资的节奏，应该说，仍是会有更长时刻主义、更有耐性、更酷爱的人继续往前跑，处理职业更细节的问题。

图片来历：视觉我国

汪华：这段时刻的收买兼并我觉得是必定的。

上一年 AI 范畴投了许多钱，但实际上大部分钱并没有投在使用上，而是投在 Infra、模型、底层架构、技能上，而且投得蛮多，所以这波出资自身到了要开端收敛的阶段，由于不需求那么多底层模型、算力途径。

像 Coreweave 之类的算力途径，包含做推理的公司、做中间件的公司，原本在通过那么多出资之后，也到了要收敛的时分，所以会看到各种收敛的方式，不论是并购、相互兼并、消失，或许是一些头部公司的建立。

另一方面，你会发现本年拿到钱的公司，实际上是广义的使用公司。最近根底模型拿到钱的公司少了，由于咱们觉得根底模型差不多了，但你会看到像做音乐的模型，像 Eleven Labs 做语音的模型，各式各样使用模型的公司，还在继续不断地融到钱，融到越来越多钱。

包含 To B 范畴各式各样的使用，像 DevOPS，或许各种笔直商业使用，最近几个月的融资事情实际上越来越多，所以实际上是出资的趋向和阶段变了。

所以之前阶段的项目现在到了该整合清算、清盘的阶段，一同现在搬运到了第二个阶段。

别的，现在的出资，哪怕是投使用，海外投 To B 的项目比 To C 还要多一点，即使投 To C 咱们也会投一些确认性比较高的项目。比方 C.AI 本年没有拿到融资，但 Perplexity 拿到了，由于 Perplexity 的创始人不做 AGI，正儿八经要一向要做产品，商业方式和用户添加也比较厚实。

可是出资人，确实也是要等你产品跑出来才给钱。像国内出海的 HeyGen 拿到了不少钱，它是归于收入现已被验证了。

张鹏：整个出资的心态跟移动互联网时分不同。

汪华：对，移动互联网年代究竟是量化宽松，钱太多了，而且整个国际处于经济上行期，资金本钱又特别低，钱没当地走，所以那个年代里，出资人整个的危险偏好十分强，出资主题底子上是愿景和添加。

这个年代，出资人仍然仍是乐意投，但实际上要更多确实认性。这便是为什么上一年咱们一股脑地投算力、投底层大模型，由于上一年这些底层根底设施是确认性更高的。

本年咱们看 To B 使用多、看 To C 使用少，也是这个原因。To B 的商业方式一开端便是定下来的，东西做对了收入总是有的。To C 其实有点 hit-driven（抢手产品驱动的），像电影相同，不必定能爆。

所以出资人的心态，原本就跟之前移动互联网不相同，更寻求确认性，偏慎重。

出资人还有一个心态，便是等候。千万不要听出资人说，「我是出资未来」，我自己也是出资人，我自黑一下，出资人说出资未来、创业周期、出资价值，这是崇奉上的，可是身体很诚笃。身体是跟着当时的倾向、趋势，实质上是跟风的。出资人都以为 To C 假如能跑出来会比 To B 大得多。但咱们在等一个、两个、乃至是一批成功的事例和方式出来，我再开端。

你说最近明星公司参与大厂会不会影响 AI 出资，其完结在的问题是，对出资人心态影响的东西太多了，我说实话，这件事的影响不必定有美联储降息或许美股科技股暴降这事，对出资人心态的影响大。

张鹏：最近一段时刻，两位看到什么觉得有意思、有启示的 AI 使用？

袁进辉：跟着 AI 根底设施，比方大模型开源、 Infra 云服务的完善，我最近重视到一些「超级个别」，全栈工程师一个人能搞定一个很有意思的使用。比方说「艾逗比」，一个个人开发者做了一个 AI 查找——「thinkany」。还有像之前做哄哄模拟器的王及第，也是个人开发者，现在也在创业。还有像胡修涵他们做的「捏 Ta」，AI 驱动的人物梦想创造途径等等。

汪华：有意思的东西其实挺多，包含硅谷那儿一些技能性的开展。

我共享一些接地气的方向，榜首个是做出海东西，我看到有不少公司现已完结正循环了，比方咱们之前都知道的 HeyGen。海外的竞争对手其实不是特别强。而且，许多出海东西能够一同做 To B 和 To C。一开端先从中小业主、专业用户起步，做到必定规划再向 ToB 客户扩展。

第二，对规划小的新创业公司来说，我个人觉得就别在国内做 AI 查找了，太卷了。假如出海能找到自己的共同定位，还能够考虑。

第三，现在多模态技能开展很快，不论是开源模型仍是闭源模型的 API。假如你能成为榜首波尝鲜者，比方把一些美国多模态公司新出的 AI API，榜首波产品化、东西化，也或许会获得很好的添加盈利。

我还有一个感觉，有时分咱们去做 AI 使用，把重视点都放在 AI 上了，忘了使用是主语，AI 仅仅定语。不要为了 AI 做 AI，仍是要想方法发挥自己本来堆集多年的特长，看 AI 怎么在里边起作用。

别的，由于现在 AI 技能栈还没有收敛，咱们如同太重视 AI 自身的改动，追是追不过来的，仍是想方法找一些不变的东西，和自己特别拿手的东西，比方特别拿手做交际、做狼人杀，特别拿手有途径、有资源、有了解的东西，求助于内，再去找 AI 的结合点，不符合能够算了。