如果强人工智能明天降临，今天的我们是否做足了准备？

对于人工智能来说，2021会是伟大的一年。

在过去的2020年，全球人工智能（AI）行业可谓是在疫情下逆势而行，仅仅在中国，该领域的投融资金额就创下新高，达到1748 亿元，相比 2019 年同比增长 73.8%。

而到了今年，这一涨势继续保持，各大型科技公司在大型人工智能项目上投入越来越多。这也使得越来越多的人开始笃信终点“通用人工智能”（AGI）即将到来。

据麦肯锡报道，许多学者和研究人员坚持认为，至少有机会在未来十年实现人类水平的人工智能，“AGI并不是什么遥远的幻想，它将比我们大多数人设想的更快降临世间。”

近期，谷歌旗下知名人工智能研究实验室DeepMind就向《人工智能》（Artificial Intelligence）杂志提交了一篇引人注目的同行评审论文，题为《奖励就够了》（Reward is Enough）。他们认为，强化学习有朝一日会复制人类的认知能力，并实现AGI。

虽然这篇“散文”味道极其浓厚的论文公关属性较强，但它仍然再次掀起了业界对于AGI的讨论甚至担忧。

▍我们为AGI做好准备了吗？

对于拥护通用人工智能的人来说，他们始终强调的一点就是AGI将造福全人类。但事实上，从如今已经发展到一定程度上弱人工智能看来，这一结论似乎有点草率。

《哈佛商业评论》举了一个最典型的例子，当预测性监控或自动信用评分算法不受控制时，它们就对我们的社会构成了严重威胁。

皮尤研究公司（Pew Research）最近公布的一项针对技术创新者、开发者、商业和政策领导人、研究人员和活动家的调查显示，他们对人工智能伦理原则能否在2030年得到广泛实施持怀疑态度。

归根结底，这是由于人们普遍认为企业总是会优先考虑利润，且技术会被越来越少的几家寡头所垄断。而如果连确保弱人工智能符合道德准则都如此困难，那么AGI失控的后果似乎就更难以想象了。

▍技术成熟也许会更快

除了DeepMind，我们还可以举另外一个例子——OpenAI的GPT-3。

实际上，GPT-3正处于一个从弱人工智能向AGI的过渡阶段。GPT-3不需要额外的训练就能完成许多不同的任务，如能够产生令人信服的文字叙述，生成计算机代码，自动完成图像，在不同语言之间进行翻译，进行数学计算，以及其他一些不在创造者计划内的壮举。

可即便如此，今天的深度学习算法（包括GPT-3）也无法适应不断变化的环境，这是今天的人工智能与AGI之间的一个根本区别。而通用性的一个步骤是多模态人工智能，它要求将GPT-3的语言处理与其他能力（如视觉处理）相结合。

例如，在GPT-3的基础上，OpenAI推出了DALL-E，它根据它所学到的概念生成图像。使用一个简单的文本提示，DALL-E可以产生“一幅日出时坐在田野里的水豚画”。

尽管它以前可能从未“见过”这样的图片，但它可以把它所学到的关于绘画、水豚、田野和日出的知识结合起来，产生几十种图像。因此，它是多模态的，虽然仍然不是AGI，但能力和通用性更强。

本月初，北京智源人工智能研究院在2021北京智源大会上发布超大规模智能模型“悟道2.0”。据悉，其参数规模达1.75万亿，是AI模型GPT-3的10倍，打破之前由Google Switch Transformer预训练模型创造的1.6万亿参数记录，是目前中国首个、全球最大的万亿级模型。

与GPT-3一样，多模态“悟道2.0”可以执行自然语言处理、文本生成、图像识别和图像生成任务。但它可以做得更快，可以说更好，甚至可以唱歌。

传统观点认为，实现 AGI 并不一定需要增加计算能力和深度学习系统的参数数量。然而，另一派的观点则认为，复杂性会催生智能。

去年，深度学习的先驱、图灵奖得主、多伦多大学教授杰弗里·辛顿（Geoffrey Hinton）指出，“在一立方厘米的大脑中，有一万亿个突触。如果存在通用人工智能，那么该系统可能需要一万亿个突触。”而突触是深度学习模型参数的生物等价物。

悟道2.0显然已经达到了这个数字。智源研究院理事长张宏江也表示，目前，“大模型+大算力”是迈向通用人工智能的一条可行路径。大模型对于人工智能发展具有重大意义，未来将基于大模型形成类似电网的变革性AI产业基础设施。AI大模型相当于“发电厂”，将数据，也就是“燃料”，转换为智能能力，驱动各种AI应用。如果将大模型和所有的AI应用相连接，为用户提供统一的智能能力，全社会将形成一个智能能力生产和使用的网络，即“智网”。大模型就是下一个AI的基础平台，是未来AI发展的战略基础设施。

就在悟道2.0发布的几周后，谷歌大脑（Google Brain）宣布了一个包含20亿个参数的深度学习计算机视觉模型。虽然不能确定最近在这些领域的成果趋势将继续快速发展，但有模型表明，到2025年，计算机可能拥有与人脑一样的能力。

▍“大模型+大算力”开辟了一条道路

目前，深度学习技术已经被广泛使用，并获得了进一步的应用。例如，像Waymo这样的自动驾驶汽车公司正在使用强化学习来开发其汽车的控制系统。军方正积极使用强化学习来开发协作式智能体系统，如可与未来士兵并肩作战的机器人团队。

谷歌最近在1万个计算机芯片设计的数据集上使用强化学习来开发其下一代TPU，这是一种专门用于加速AI应用性能的芯片。原本需要人类设计工程师团队花费许多个月的工作，现在可以由人工智能在六个小时之内完成。因此，谷歌正在利用人工智能设计可用于创建更复杂的人工智能系统的芯片，通过创新的良性循环进一步加快已经呈指数级增长的性能。

在此背景下，随着诸如悟道2.0这样的人工智能模型和计算能力都在成倍增长，那么强化学习机器学习是否会像 DeepMind 所认为的那样最终促成 AGI呢？

坦白来说，虽然以上这些例子很有说服力，但它们仍然是弱人工智能用例。AGI在哪里？DeepMind的论文指出，“奖励足以驱动表现出自然和人工智能中所研究的能力的行为，包括知识、学习、感知、社会智能、语言、概括和模仿”。这意味着，随着模型的成熟和计算能力的扩大，AGI将自然产生于强化学习。

如果DeepMind是正确的，那么在整个行业和政府强调的道德和负责任的人工智能实践和规范就显得更加重要。随着人工智能的快速加速和进步，我们显然不能承担通用人工智能失控的风险。

参考资料：https://venturebeat.com/2021/06/26/deepmind-agi-paper-adds-urgency-to-ethical-ai/