高文院士：百模大战耗费太多资源，需高效使用开源和闭源模型

9月8日，在2024浦江立异论坛的科技道德论坛上，中国工程院院士、国家科技道德委员会委员、人工智能道德分委员会主任、鹏城试验室主任高文表明，国内百“模”大战也耗费了许多资源，“整个社会用电里，大约1%~3%的耗电用在核算方面。”他主张加强国产算力和国发生成式大模型构建，把开源和闭源模型高效运用起来。

面对人工智能带来的道德问题，中国工程院院士高文表明，要加强技能研究和准则规划。

从完好概念提出至今，人工智能的展开前史只要68年。高文表明，这68年里，人工智能阅历了三个阶段：第一阶段是根据逻辑推理的人工智能，大约阅历了20年；第二阶段是根据规矩的专家系统阶段，这些规矩由人类一条条罗列出来，也由神经网络练习而来，这个阶段继续了大约30年。

从2006年至今是人工智能展开的第三阶段，也便是根据深度神经网络的阶段。这一阶段实际上又阅历了两次浪潮，其间第一次浪潮是可用神经网络对图画分类的判别式人工智能，第2次浪潮则是从2017年起步的生成式人工智能。

生成式人工智能会带来深度假造、欺诈、抄袭、轻视、侵略隐私和数据安全、“劳作降级”等社会问题。高文表明，判别式人工智能和生成式人工智能如火如荼，但对当时的劳作力商场影响不大，下一轮热潮很可能是具身智能、人形机器人等，真正对劳作力商场发生大规模影响的，也是这一轮。“假如机器人被许多运用，怎样使作为劳作力的人仍有作业，是咱们必需求面对的问题。”

高文表明，要从道德上监管人工智能带来的社会问题。当时的人工智能道德面对两个派系，一派以为要坚决操控危险，另一派以为现在的人工智能没有展开到需求马上踩刹车的阶段，现在只需规划好刹车，但不需求踩刹车。

“咱们必需求有满足的技能手法，在数据、算法或运用中建立规范和规范。”他以为，要想躲避这些损害，就需求加强技能研究和准则规划，将来有必要能对人工智能踩刹车、关电源，在规划人工智能时要留有处理手法。“刹车的好坏、灵敏度都和技能有关，所以要加强技能研究。装不装刹车、什么时候装刹车，这需求准则合作。”

他也说到，除了文生文 ，还要考虑文生图、文生视频，“大言语模型是一维的数据串，到了图画就变成了两维数据，到了视频就变成三维数据，这些数据怎样在一致架构下练习和学习？所以有许多技能上的问题需求考虑。”高文表明，要加强技能研究，完善理论基础验证，提高模型可解释性，严格操控生成式人工智能的底层价值取向，完成安全价值对齐，“现在仍是靠人来做对齐，把人答复的一些解读一点点输入来对齐，有没有更好的对接办法，这也需求技能跟进。”

在算力能耗方面，“现在人工智能给咱们带来的一个技能和社会问题便是耗能太高。整个社会用电里，大约1%~3%的耗电用在核算方面。人工智能略微再往前走一两年，大约有10%的耗电用在算力上，再往前走很可能要30%左右被算力耗掉。”高文表明，怎么有用运用电力做恰当的算力是当时面对的应战，国内百“模”大战也耗费了许多资源，要把开源和闭源模型高效运用起来，加强国产算力和国发生成式大模型构建。

与此同时，要保证数据要素可信流转。在准则规划方面，要展开与生成式人工智能道德相关的理论研究，完善生成式人工智能的法律法规建造。“咱们要在管理范畴构成一致，加强国际合作。”高文表明。