我想告诉你们 我预见接下来会发生一些什么。
我有幸能在人工智能领域 工作了将近 15 年。
回到我刚开始的时候， 称之为“前沿”还是轻描淡写了。
研究人员说：“不，不， 我们只是在研究机器学习。”
因为人们觉得 研究 AI 还差得远呢。
2010 年， 只要提到 “AGI” 这个词语，
即“人工通用智能”，
就能收获一些相当异样的眼神，
甚至是不屑一顾。
“你真的在做 AGI？” 人们会这么说。
“那不是科幻小说里的东西吗？”
人们觉得还要 50 年、100 年呢，
还建立在它真的是可能的前提上。
我觉得谈论 AI 有点尴尬。
人们普遍觉得我们很奇怪。
我觉得在某种程度上确实如此。
但是不久之后， AI 就开始战胜人类，
胜任人们以前以为 遥不可及的各种任务。
理解图像、
翻译语言、
抄录演说、
下围棋、下象棋，
甚至诊断疾病。
人们开始意识到
AI 将产生巨大的影响，
于是他们理所当然地 向我这样的技术专家提出了
一些非常棘手的问题。
AI 真的能解决气候危机吗？
它能为所有人提供个性化教育吗？
是不是意味着 我们都将获得统一的基本收入，
不必再工作了？
我应该害怕吗？
这对武器和战争意味着什么？
当然还有：中国会赢吗？
我们在比赛吗？
我们是在走向 大规模错误信息的世界末日吗？
都是好问题。
但其实有一个更简单、
更基础的问题让我感到困惑。
它才是我日常工作的核心。
有一天早上吃早餐时，
我六岁的侄子凯斯宾 （Caspian） 正在玩 Pi，
是我在上一家公司 Inflection 搭建的。
他塞满了一嘴炒蛋，
直视着我的脸说：
“但是穆斯塔法， AI 到底是什么？”
他可真是个真诚、 好奇、乐观的小伙子。
他一直在和 Pi 说， 要是未来有一天
他能去动物园看恐龙， 那会有多酷。
他怎么能在家里 制作无限量的巧克力。
还有为什么 Pi 还不会玩 《I SPY 视觉大发现》。
“好吧，” 我说， “它是一款聪明的软件，
能阅读开放互联网上的大多数文本，
和你谈论任何你想谈论的内容。”
“对。
像人那样吗？”
我一时语塞。
着实让我陷入了沉思。
我的脑海里闪现了各种 无聊又老套的答案，
“不，AI 只是一项新的通用技术，
就像印刷或蒸汽机那样。
它会是一个提升我们、
让我们更聪明、更高效的工具。
随着时间的推移， 它改进得越来越好，
就会像一个无所不知的预言机一样，
帮助我们解决重大的科学挑战。”
我感觉这些回答 有点太冠冕堂皇了。
更适用于一场政策研讨会，
而不是与天真无邪的 六岁孩童的早餐桌上。
“我为什么要犹豫？”我心想。
说实话。
我的侄子问了我一个简单的问题，
简单到我们这些从事 AI 行业的人 都不太常遇到这样的问题。
我们到底在创造什么？
创造一个史无前例、
与我们从前的认知 截然不同的东西，意味着什么？
很显然我们正处于人类历史的转折点。
按照我们目前的发展轨迹，
我们的眼前会出现
一个我们都难以描述的东西，
然而，我们无法控制 我们不能理解的东西。
因此，比喻、
心理模型、
名称，这些都很重要，
如果我们要限制其潜在的负面影响， 发挥它最大的价值的话。
作为一个接受这项技术可能性，
但也一直非常关心其伦理的人，
我认为我们
理应轻而易举地 描述出我们在创造的是什么。
也包括六岁的孩子。
秉承这一精神， 我今天要提出以下比喻，
帮助我们努力理解 眼下到底是一个怎样的时刻。
我认为最好将 AI
当作一种新的数字物种。
不要太注重书面含义，
但我预计我们最终会 将它们视作我们一生中的
数字伴侣和新搭档。
不管你认为我们走在这条 10 年、 20 年或 30 年长的道路上，
在我看来，这就是最准确、 最诚实地描述
未来所见的方式。
最重要的是，这让所有人 都能为接下来要发生的事
做好准备，动手塑造。
我完全理解 这是一个强势的观点，
我将尽我所能向各位解释 为什么我会这么说。
但首先，让我描述一下背景。
从最初的微观生物开始，
地球上的生命 可以追溯到数十亿年前。
在那段时间里， 生命不断演变、多样化。
然后在几百万年前， 情况开始发生变化。
在经历了无数次的成长 和适应周期之后，
生命中的一个分支开始使用工具， 这个分支发展成了我们。
我们接着创造了琳琅满目的工具，
起初是缓慢的，后来势如破竹，
我们从石斧和火转向了
语言、写作， 最终出现了工业技术。
一项发明引出了上千项发明。
随着时间的推移， 我们变成了单一技术的狂热粉丝。
大约 80 年前，
一个新的技术分支出现了。
随着计算机的发明，
我们迅速从最初的大型机和晶体管
飞跃到了如今的智能手机 和虚拟现实头显。
信息、知识、通信、计算。
在这场革命中，
创造以前所未有的方式涌现。
眼下新的浪潮正在袭来。
人工智能。
这些历史浪潮显然正在加速，
因为每一波浪潮都会 受到上一波的增强和加速。
回头看，
很显然，我们正处于有史以来最快、
影响最大的浪潮中。
人类与科技的旅程 深深地交织在一起。
在短短 18 个月内，
超过 10 亿人使用了大语言模型。
我们目睹了一个又一个 具有里程碑意义的事件。
就在几年前， 人们说 AI 永远不会有创造力。
然而，现在的 AI 感觉可以无限地思如泉涌，
创作诗歌、图像、音乐和视频， 以扩展想象力。
人们说 AI 永远不会有同理心。
然而今天，数百万人享受着 与 AI 的深刻对话，
谈论他们的希望和梦想，
帮助他们应对艰难的情感挑战。
AI 现在可以驾驶汽车、
管理能源网，
甚至发明新分子。
就在几年前，这一切都是不可能的。
这一切都是由螺旋式增长的数据 和计算所推动的。
去年，我们最新的模型 Inflection 2.5
使用的计算量
比 10 多年前通关 雅达利游戏的 DeepMind AI
多 50 亿倍。
计算量要多出九个数量级。
每年翻 10 倍，
近十年来每年翻一次。
同时，这些模型的规模
从最初的数千万个参数增长 到了后来的数十亿个参数，
很快又增长到了数万亿个参数。
如果有人一辈子 每天 24 小时都在读书，
他/她将读到 80 亿个单词。
当然，这是大量的单词。
但如今，最先进的 AI 能在一个月的训练中
阅读超过八万亿个单词。
这是大势所趋。
科技的历史长河 现在到了一个非同寻常的新阶段。
在实践中意味着什么呢？
正如互联网给了我们浏览器，
智能手机给了我们应用程序一样，
基于云的超级计算机正在开创一个
AI 无处不在的新时代。
很快，一切都会以对话界面的形式呈现。
或者换句话说，个人 AI。
而且这些 AI 将拥有无限的知识，
很快它们就会掌握准确和可靠的事实。
它们的智商将接近完美。
它们还将拥有出色的情商。
它们友善、助人、具备同理心。
这些要素本身将是变革性的。
试想一下，如果每个人的口袋里 都有一个个性化的导师，
可以获得低成本的医疗建议。
律师、医生、
商业策略师和教练，
每天 24 小时都在你的口袋里。
但当它们发展出我口中的 “AQ”， 即“行动商”（actions quotient）时，
情况才真正开始发生变化。
就是它们在数字和现实世界中
真正完成任务的能力。
不久之后， 拥有 AI 的将不仅仅是人类。
尽管听起来很奇怪， 但每个组织，
从小型企业 到非营利组织再到国家政府，
都会有自己的 AI。
每个城镇、建筑物和物体
都将由独特的互动角色呈现。
不仅仅是机械助手。
它们将成为同伴、知己、
同事、朋友和伙伴，
就像我们所有人一样 多种多样、独一无二。
到那时，AI 将在大多数任务中 可靠地模仿人类。
我们将以最亲密的程度 感觉到这一点。
AI 为年长邻居组织一场邻里聚会。
一位富有同情心的专家 帮助您理解复杂的诊断。
但我们也会以最大的规模感受到它。
加速科学发现，
自动驾驶汽车上路，
无人机飞向空中。
它们同时具备点外卖 和运营发电厂的能力。
它们将与我们互动， 当然也会互相互动。
它们会说每种语言，
采集传感器数据、
视觉、声音、
源源不断的信息流中的每一种模式，
远远超过我们任何人 在一千次人生中所能吸收的水平。
那它是什么呢？
这些 AI 是什么？
如果我们将安全置于首位，
确保这一新浪潮始终 为人类服务且增强人类，
我们需要找到正确的比喻来描述 它可能会变成什么样子。
多年来，我们在 AI 社区中， 尤其是我，
一直倾向于将其称为“工具”。
但这并不能真正反映 实际发生的情况。
显然，AI 比单纯的工具 更变化多端、
更神秘莫测、更完整、
更新兴，
因为工具完全受到人类的控制。
为了应对这一浪潮，
以人类的能动性为中心，
减轻不可避免的意外结果，
很有可能会出现这样的结果，
我们应该开始将它们 视作一种新的数字物种。
这只是一个类比，
不是字面描述，也不是完美的。
首先，从任何传统意义上讲， 它们显然不是生物，
但只要暂停一下，
认真思考它们已经做了些什么。
它们用我们的语言交流。
它们看到了我们所看到的。
它们摄取了难以想象的大量信息。
它们有记忆。
它们有性格。
它们有创造力。
它们甚至可以在某种程度上 推理并制定基本的计划。
如果我们允许，它们可以自主行动。
它们完成这些任务的高超水平
远超我们见过 单纯的工具所能展现的水平。
因此，要是说 AI 大致就是数学或代码，
就像是说 我们人类大致就是碳和水一样。
说得没错，但只是以偏概全。
我知道，这是一个 非常引人注目的想法，
但老实说，我认为这个框架 有助于我们更加聚焦于关键问题。
有哪些风险？
我们需要设定的边界是什么？
我们想要创造 或允许创造什么样的 AI？
故事还没写完。
任何事情都不应被视为理所当然。
我们都必须选择我们创造的东西。
我们要给世界带来什么样的 AI， 或者没有带来什么样的 AI。
这些是我们今天在座的所有人
以及此刻活着的所有人 面临的问题。
对我来说， 这项技术的好处是显而易见的,
它们每一天都在激励着我， 成为奋斗一生的工作。
但坦率地说， 它们会为自己代言。
多年来，我从不避讳强调风险、
谈论缺点。
以这种方式思考有助于我们 关注所有人面临的巨大挑战。
但是，我们来说清楚。
如果我们抛下技术， 就没有向前进步的道路。
整个文明的回报是巨大的。
我们需要医疗保健和教育方面的 解决方案应对气候危机。
AI 只需发挥一小部分潜力，
未来的十年就会是人类历史上 生产力最高的十年。
我们可以换种思路思考。
过去，
激发经济增长 往往会带来严重的不利影响。
随着人们发现新大陆、 开拓新前沿，经济不断增长。
但是他们同时殖民了人民。
我们建造了工厂，
但它们是阴森又危险的工作场所。
我们开采了石油，
但我们污染了地球。
由于我们仍在设计和打造 AI，
我们有潜力和机会把它做得更好、
好得多。
眼下，我们并没有 发现一个新的大陆
并掠夺其资源。
我们正在从头开始建造一个。
有时人们说数据或芯片 是 21 世纪的新型石油，
但这是完全错误的形象。
AI 之于思想
就如同核聚变之于能源。
无限、丰富、
改变世界。
而且 AI 真的不一样，
意味着我们必须大开脑洞地、 诚实地看待它。
我们必须将我们的类比和隐喻
发挥到极致，
才能应对即将发生的事情。
因为这不只是一项新发明。
AI 本身就是一个 没有上限的发明家。
没错，这令人兴奋 又充满希望，既令人担忧
又让人着迷。
说实话，太不可思议了。
但是往前回溯，
从冰川时代的长远角度来看，
这些确实是我们现在 能找到最恰当的比喻。
自地球生命开始以来，
我们一直在进化、改变，
然后在当今人类世界中 创造我们周围的一切。
AI 并不是这个故事的局外人。
实际情况恰恰相反。
它是我们创造的一切
凝聚成我们所有人 都可以与之互动
并从中受益的东西。
它是人类跨越时空的写照，
从这个层面来说，
它根本不是一个新物种。
比喻到此结束。
凯斯宾下次问， 我就会这么告诉他。
AI 不是独立的。
从某种意义上说， AI 甚至不是新的。
AI 就是我们。
是我们所有人。
这也许是连六岁孩子都能理解的
最有希望、最关键的一点。
在我们创造 AI 的过程中，
我们可以，也必须 反映出所有美好的、
所有我们热爱的、
所有人类的特别之处：
我们的同理心、我们的善良、
我们的好奇心和我们的创造力。
我认为，这是 21 世纪最大的挑战，
也是我们所有人最美妙、
最振奋人心、最有希望的机会。
谢谢。
（掌声）
克里斯·安德森（Chris Anderson）： 谢谢穆斯塔法。
这是一个美好的愿景， 也是一个非常有力的比喻。
你现在身处一个了不起的位置。
你与 OpenAI 正在进行的 令人叹为观止的工作紧密相关。
你能接触到资源，
有报道这些新的大型数据中心，
投资了 1000 亿美元等等。
从中会产生一个新物种。
你在书里
除了描绘相当乐观的愿景外，
还在 AI 的危险上耗费了大量笔墨。
我很好奇， 从你现在的角度来看，
最让你彻夜难眠的是什么？
穆斯塔法·苏莱曼（Mustafa Suleyman）： 我认为最大的风险
是我们陷入了我所谓的 “悲观情绪厌恶陷阱”。
我们必须有勇气面对 黑暗情形的出现，
才能最大限度地利用 我们所看到的各种益处。
好消息是， 如果你回顾过去的两三年，
负面结果非常非常少，对吧？
很难言之凿凿 LLM 造成了什么伤害。
但这并不意味着这就是
未来 10 年的发展轨迹。
所以我认为， 如果你留意一些特定的能力，
例如自主性。
自主性显然是一个 我们增加社会风险的门槛。
这是我们要尽可能靠近的一个目标。
另一个能力是递归自我改进。
如果你让模型独立自我改进，
更新自己的代码，
在不受监督的情况下探索环境，
在没有人类控制的情况下 改变其运行方式，
显然会更加危险。
但我认为， 我们距此还有一定距离。
我认为我们离真正面对这个问题 还有 5 到 10 年的时间。
但现在是时候开始讨论这个问题了。
CA：与任何生物物种不同， 数字物种不是在九个月内复制，
而是在九纳秒内复制，
并产生无限个自身复制体，
所有复制体在许多方面 都比我们拥有更强大的力量。
我想说，出现意想不到的 后果的可能性似乎非常大。
如果确实如此， 如果问题要出现了，
是不是在一个小时内就会出现呢？
MS：不是。
这确实不是真的。
我认为没有证据表明这一点。
而且我认为，
这通常被称为“智能爆炸”。
我认为它也许是 理论上的、假想的，
我们都好奇地去探索，
但是没有证据表明它确实要发生了。
而且我认为 非常谨慎地斟酌用词非常重要。
因为你说得对， 这是物种定义的缺陷之一，
如果人们想这么做的话，
我们就能把自我复制的能力加进去。
其实我会说我们不该这么做，
这应该是我们要远离的 最危险的一种能力，对吧？
因此，它不可能意外“出现”。
我真的认为这种可能性很低。
如果工程师故意设计出这些功能， 才会发生这种情况。
而且是在他们没有尽全力 想方设法把它排除出去的情况下。
所以这正是 在尽早考虑“安全”的过程中
保证公开透明的意义。
CA：谢谢，你的愿景 是人类将自己最美好的部分
注入这个新事物，
避免我们在某些情况下可能出现的所有 奇怪的、生物的、怪异的、可怕的情形，
这是一个非常鼓舞人心的愿景。
非常感谢你来到这里， 在 TED 作分享。
谢谢，祝你好运。
（掌声）