我想给你讲一个
关于人工智能与农民的故事。
这听起来是个奇怪的组合，对吧？
这两个话题听起来简直完全不相干。
但你知道现代农业 其实与科技息息相关吗？
比如，计算机视觉 用于预测作物产量。
人工智能用于发现、
识别和消灭昆虫。
预测分析有助于找出干旱，飓风等
极端天气状况。
但是这项技术 也疏远了农民。
在 2017 年， 这一切到达了顶峰。
拖拉机公司约翰迪尔 推出了智能拖拉机，
在此之前，如果农民的拖拉机坏了，
他们可以自己修理或者交给机械师。
虽然，该公司实际上 将农民私自维修设备
视为非法。
农民必须聘请有执照的技术人员。
农民将不得不等上好几个星期， 直到他们的农作物腐烂，
虫害已然占据上风的时候。
因此，他们想把事情掌握在自己手中。
他们中的一些人学会了编程，
他们与黑客合作开发了 补丁来修复自己的系统。
在 2022 年，
在世界上最大的 黑客会议之一 DEFCON 上
一位名叫 Sick Codes 的黑客 和他的团队向所有人
展示了如何闯入约翰迪尔拖拉机，
这首先表明了，该技术很脆弱，
但是，这也代表 你可以研发自己的设备了。
当然，这是非法的，
但有人试图改变这种状况。
现在，该运动被称为 “维修权”。
维修权是这样的。
如果你拥有一项技术，
它可能是拖拉机、智能牙刷、
洗衣机，如果它坏了，
你应该 有权修理它。
那我为什么要告诉你这个故事？
维修权需要扩展 到人工智能。
现在，人工智能似乎每周
都有一项令人兴奋的新创新。
但是你知道公众的信心 实际上在下降吗？
皮尤最近的一项民意调查 显示，美国人对这项技术的
担忧多于兴奋
这在全世界都得到了共鸣。
世界风险民意调查显示
来自中南美洲和非洲的受访者
都表示，他们认为人工智能 对人民带来的弊大于利。
作为一名社会科学家和 人工智能开发人员，
这让我感到沮丧。
我是一个技术乐观主义者，
因为我真的相信 这项技术可以带来好处。
那么，脱节是如何发生的？
事实上，在过去的几年里， 我和数百人谈过话。
建筑师和科学家、 记者和摄影师、
拼车司机和医生，
他们都有同样的想法。
他们都有同样的后知后觉。
他们都知道，他们的数据 通常是在未经允许的情况下收集的，
用于创建这些复杂的系统。
他们知道这些系统 正在改变他们的生活。
他们也知道从来没有人过问他们的意见
来如何构建系统，
他们也无从得知如果 系统出现问题该去哪里解决。
我们可能不拥有人工智能系统，
但它们正在慢慢主导我们的生活。
我们需要建立一个良好的反馈循环
在系统研发者
与大众之间构建一个桥梁
来帮助AI系统更好地融入大众的生活
而“红队合作” ，是我们 迈向这个目标的一步。
红队合作是一种源于军队的做法，
现在，它被用于网络安全。
在传统的红队活动中，
外部专家被邀请进入一个系统，
有点像 Sick Codes 对拖拉机所做的那样，但合法。
因此，红队合作是测试 你的防御能力的一种方式，
当你弄清楚 哪里会出现问题时，
你就能想出解决问题的方法。
但是，当人工智能系统变成盗贼时。
不仅仅是黑客的入侵。
该模型可能会出现故障或歪曲现实。
因此，举例来说，不久前，
我们看到一个人工智能系统试图
通过显示历史上不准确 的照片来实现多样性。
任何对西方历史有基本了解的人
都可以告诉你无论是 开国元勋还是纳粹时代的士兵，
都不会是黑人。
在这种情况下， 谁有资格成为专家？
你。
我正在与世界各地成千上万的人
一起进行各规模的红队练习，
通过不断的练习，我们发现 并修复了AI 模型中的缺陷。
我们还与世界上一些最大的 科技公司合作：
OpenAI、Meta、Anthropic、谷歌。
通过这种方式，
我们使模型更好地 适用于更多的人。
以下是我们学到的一些东西。
我们与伦敦皇家学会合作，与疾病科家
一起举办了一次 关于科学与虚假信息的活动。
这些科学家发现，
人工智能模型实际上具有很多
针对 COVID 错误信息的保护措施。
但同样保护措施并不适用于
麻疹、流行性 腮腺炎和流感等其他疾病，
我们报告了这些变化，
它们得到了改进， 而我们都得到了更好的保护，
让我们免受科学错误 和虚假信息的侵害。
我们对 Autodesk 大学的建筑师 做了一个非常相似的练习，
我们问了他们一个简单的问题：
人工智能会让他们失业吗？
或者更具体地说，
他们能否想象一个 能够设计现代艺术博物馆的
现代人工智能系统？
答案很明显，是否定的。
这就是建筑师所做的 不仅仅是画建筑物的原因。
他们必须了解物理学 和材料科学。
他们必须了解建筑规范，
而且他们必须制作
引起大众共鸣的东西。
建筑师他们想要的是一个 可以与他们互动的人工智能系统，
可以向他们提供反馈，
也许可以主动提供设计建议。
而当今的人工智能系统， 还没有完全到来。
但这些都是技术问题。
构建人工智能的人非常聪明，
也许他们可以在几年内解决 所有这些问题。
但这并不是他们最关心的问题。
他们最担心的是信任。
现在，如果建筑物出现问题， 建筑师要承担责任。
他们可能会失去执照，
可能会被处以罚款， 甚至可能入狱。
失败可能 以一百万种不同的方式发生。
例如，出口门 开错了方向，
导致人们在疏散危机 中被压伤，
或者
由于风吹得太厉害，窗户被打碎， 碎玻璃落到街上的行人身上。
那么，建筑师要如何信任人工智能 来完成自己的工作
他们会失去自主权
无法干预或修正 AI 的在工作上失误
因此，我们今天 需要弄清楚这些问题，
下一波人工智能系统， 即代理人工智能，
是一个真正的转折点。
要么保留人类能动性，
要么人工智能系统来 完全为我们做出决策。
想象一下 AI 代理有点像私人助理。
因此，举例来说， 医疗代理人可能会决定你的家人
是否需要预约医生，
它可能会补充处方药， 或者在紧急情况下向医院
发送病历。
但是，人工智能代理 无法真正地诞生
如果我们没有真正的修复权
没有家长会将孩子的健康委托 给人工智能系统
除非你能进行一些基本的判断
哪位专业人士会相信人工智能 能做出专业的决策
除非你能对人工智能系统 进行专业培训？
现在，维修权 可能看起来像这样。
你可以有一个诊断板
来运行你设计的基本测试，
如果出现问题， 你可以向公司报告，
并在修复后收到回复。
或者你可以与第三方合作， 比如道德黑客，
他们像我们今天一样 为系统制作补丁。
你可以下载它们并使用它们
来按照你想要的方式改进系统。
或者你可以像这些干劲十足的 农民一样，学会编程
和微调自己的系统。
我们需要想出如何让人们 参与开发过程，
否则我们将无法实现 人工智能所承诺的好处。
我的职业生涯一直 致力于负责任的人工智能，
在这个领域我们问一个问题， 企业可以建立
什么来确保人们信任人工智能？
现在，通过这些红队练习， 通过与你们的交谈，
我意识到我们一直在问错误的问题。
我们应该问的是，我们可以开发
哪些工具，让人们能够让 人工智能为他们带来好处？
技术人员无法独自完成这项工作。
我们只能和你一起做。
谢谢。
（掌声）