我们已经打造出了在某些任务上 比人类表现更佳的人工智能。
有会下国际象棋 并击败人类特级大师的 AI。
但自从几年前 生成式 AI 的问世，
人们更常讨论通用人工智能， 即 AGI，
这一概念指的是
有一种以匹敌或超越人类水平
完成一众任务的 AI， 就如同我们人类的能力。
思考 AGI 的人们在顾虑它意味着什么，
当这项科技达到了那种能力水平。
如今，科技届的人们跑出来说：
“我们打造的 AI 太强大了，太危险了，
可能危害人类文明。”
他们跑去政府说：
“也许你得管管我们。”
通常当一个行业做出了 一个强大的新工具，
他们不会说它 置人类于危急存亡之秋中，
也不会说它该受到限制， 那我们为什么会听到这种说法呢？
我认为有两个主要原因。
一是如果你的科技太强大了，
甚至有可能摧毁文明,
那么从现在开始到毁灭前，
其间能赚一笔大钱。
还有什么比警告别人 你的工具太危险了
更能说服投资人 给你多投点钱的呢？
另一个原因是 AI 超越人类这一想法
完全是个电影里的概念。
我们都看过这种电影。
现在再去想想那些电影的意义 还是挺有意思的，
当我们真的有了摸得着的工具，
有意思到它其实有效地让人们不去想
世界上那些由 AI 带来的真实问题。
我们对这种低可能的未来想得越多，
我们就会花更少的时间 思考如何纠正深度伪造，
或者纠正现在用 AI 决定
囚犯该不该出狱，
即使我们知道 AI 带有种族歧视。
但我们很快要真正实现 AGI 了吗？
有些人认为是的。
埃隆·马斯克说 我们会在一年内实现。
他应该几周前发了这个帖子。
但与此同时，
谷歌推出了 AI 搜索工具， 不用点击链接即可得到答案，
效果不是特别好。
[“我应该吃多少石头？”]
[“……至少一份鹅卵石、 晶洞或砾石……”]
不要去吃石头。
（笑声）
当然这些工具会变好的。
但如果我们要实现 AGI，
或者要让它彻底改变我们工作的方式，
我们需要让它一直处于 能力飞速提升的趋势中。
这可能是一种趋势。
但我们还看到了另一种可能性： 这些工具已经达到了
它们能够做到的水平，
未来是基于稳定水平的逐步改良。
要理解 AI 未来，
我们得看穿关于它的 各种炒作，深入研究，
看看从技术上什么是有可能的。
我们也要考虑 我们需要担心哪几块，
不需要担心哪几块。
如果我们想实现 AI 相关的炒作，
我们需要解决的 一个主要问题就是可靠性。
这些算法一直是错的， 就像我们看到谷歌的例子。
谷歌其实曾站出来表示过，
在这些糟糕的搜索结果广泛传播后，
称他们也不知道 该怎么解决这个问题。
我每天都用 ChatGPT。
我在写一份订阅新闻稿， 总结极右翼留言板上的讨论，
我下载了这些数据，
ChatGPT 帮我写一份总结。
比起我手动去完成要高效多了。
但是我每天都得纠正它，
因为它会误解一些事，
会断章取义。
因此，
我不能完全依赖它帮我完成工作。
这种可靠性非常重要。
这一领域中的可靠性 有一部分是 AI 幻觉，
这是一个很好的技术术语， 描述了 AI 很多时候都在乱编。
我在我的新闻稿里这么做了。
我说：“ChatGPT， 有没有人威胁要使用暴力？
有的话，给我原句。”
然后它输出了这三条 显然是威胁使用暴力的信息，
但是听起来并不像 人们会发在留言板上的内容。
于是我回到数据中， 根本没人说过。
它就是凭空捏造出来的。
如果你用过 AI 图片生成器， 你可能也见过这种情况。
我让它给我一张人们牵手的特写。
这就是一种 AI 幻觉， 让人看着挺不舒服的。
（笑声）
我们得解决幻觉问题，
如果 AI 要匹配炒作的水平。
我觉得这不是一个可以解决的问题，
鉴于这项技术的工作原理，
有些人会说我们在几个月内 就能搞定这个问题，
但是这种言论并没有什么技术依据。
因为生成式 AI 总是在瞎编。
你问了一个问题，
它就在你问的时候 凭空创造一个答案或者图片。
而不是像搜索引擎那样 找出某个页面上的正确答案。
由于它的任务就是每次乱编，
我都不知道我们能不能 让它编出正确的东西，
不要编别的东西。
这不是它被训练做的事情。
我们距离实现这一点还有很远。
事实上有一些人们正在 为之努力的领域。
热衷于使用 AI 的一个领域
是法律领域，
人们希望 AI 可以帮忙 写法律摘要或者进行法律研究。
有些人折腾了一番以后发现
现在还不能用 ChatGPT 写法律摘要、
发给联邦法院，
因为它会编出一些 听起来没问题的案件。
这会轻轻松松激怒法官，
拒绝受理你的案件。
现在有些法律研究公司
号称他们在使用“无幻觉”生成式 AI。
我对此非常怀疑。
斯坦福的研究人员参与并进行了调查，
他们发现这些“无幻觉”工具中 表现最好的一个
也有 17% 的时候会产生幻觉。
所以说，一方面，
这是一项伟大的科学成就， 我们打造了一个工具，
可以向它提出任何查询内容，
60%、70% 甚至是 80% 的时间
它能给出合理的答案。
但如果我们要依赖这些工具，
而它们有 20% 或 30% 的概率是错的，
那就没有一个真的很有用的模型。
这就引出了一个问题，
我们怎么能让这些工具变得有用呢？
因为即使你不相信我，
认为我们可以解决这个幻觉问题，
我们可以解决可靠性问题，
这些工具仍然需要 比现在的水平更进一步。
为此需要两件事。
第一，更多的数据，
第二，技术本身得进步。
那么我们从哪儿获取这些数据呢？
因为它们几乎已经获取了 线上所有可靠的内容了。
如果我们要寻找 比现在已有更多一倍的数据，
并不代表它会变两倍的聪明。
我不知道有没有足够的数据，
而且情况比较复杂，
因为生成式 AI 很擅长的一点就是
生成线上的低质量内容。
社交媒体上的机器人、虚假信息，
还有那些搜索引擎优化的 推荐网页，言之无物，
但是有一大堆广告， 在搜索结果中遥遥领先。
如果 AI 开始基于它生成的网页训练，
根据数十年来的 AI 研究， 我们都知道它们会逐渐退步。
那就像数字版本的疯牛病。
（笑声）
假设我们解决了数据问题。
你还是得改良技术。
过去几年里， 我们看到了 500 亿美元
被投入改良生成式 AI。
得到了 30 亿美元的收入。
所以这是不可持续的。
但是当然它还在早期，对吧？
企业可能会找到用这项技术的方式。
但是它的价值是否足以
证明数百亿，甚至数千亿美元
在优化这些模型所需购置的 硬件上的花费是值得的呢？
我觉得不能。
我们看看实际的例子就知道了。
那能让我们思考我们 需要担心、不需要担心什么领域。
因为每个人对此担心的一点是
AI 会抢走我们所有的工作。
很多人告诉我们会是这样的，
于是人们对此非常担心。
我认为其中有一个关键的误解。
想象这个场景。
有一家公司，
他们请得起两位软件工程师。
如果我们给这两位工程师 一些生成式 AI，帮助他们写代码，
这是 AI 很擅长的，
假设他们的效率翻了一番。
这是过高的估计了， 但是简单起见就这么算吧。
这样这家公司就有了两个选择。
他们可以炒掉一位软件工程师，
因为另一位现在可以 一人干两个人的活，
或者他们本来就请得起两位，
现在效率翻倍，
于是能赚更多钱。
为什么把两位都留着，多赚点钱呢？
唯一不成立的一点就是 如果 AI 太昂贵了，
价值配不上成本。
但是这等同于 AI 每年花十万美元
完成一人份的工作。
听起来非常昂贵。
实际上，
这些工具有很多开源版本，
价格低廉，企业可以 自行安装、运行。
虽然它们的性能不如旗舰模型，
但如果它们能达到一半的效果， 而且相当廉价，
你难道会不选它们， 而去选每年花掉十万美元
完成一人份工作的 AI 吗？
你当然会选它们。
即使我们解决了 可靠性问题、数据问题，
我们提升了模型性能，
有可用的廉价版本这一事实
表明了企业并不会花费
上亿美元用 AI 取代人力。
但还是有我们需要担心的领域。
因为现在看看 AI，
还是有很多无法解决的问题。
我已经从事人工智能建设超过 20 年，
我们知道有一点，
那就是如果我们用人类数据训练 AI，
那么 AI 就会沿袭人类的偏见，
而我们对此束手无策。
我们已经在生成式 AI 中 开始看见这些偏见，
我们的直觉反应一直都是
那就加上一些防护措施， 阻止 AI 做出一些带有偏见的事。
但是其一，这无法消除偏见， 因为 AI 会见招拆招。
其二，防护措施本身就会出问题。
谷歌有一款 AI 图片生成器，
他们试图加上防护措施， 避免输出中出现偏见。
结果发现做错了。
有人要求生成一张 签署《独立宣言》的图片。
图片不错，但是与事实不符。
为了试图阻止偏见，
结果创造了更多可靠性问题。
我们还无法解决这种偏见问题。
如果我们在考虑延迟决策、
取代人类决策者、 依靠这项技术，
还是解决不了这个问题，
那么这就是值得担心的一件事，
需要解决方法，
必须赶在它们因看似酷炫 而被广泛使用之前。
我觉得还有一点没讲到，
那就是我们的人类智慧
并不由我们的工作效率定义。
核心上，它是由我们 与他人的联结能力定义的。
我们产生情绪反应的能力，
将我们的过往与新信息结合，
有创意地想到新点子。
这是人工智能无论现在，
还是未来都无法做到的事。
它也许可以模仿，
拙劣地模仿真情实感的联结、
同理心和创造力。
但是它无法做到人类的核心。
这就是为什么我不是很担心 AGI 取代人类文明。
但是如果你结束时不相信我刚说的，
你现在在担心
人类会被 AI 魔王毁灭，
那么请记住一点，
无论电影告诉你什么，
如果真的回天乏术，
我们总还是可以关机的。
（笑声）
谢谢。
（掌声）