我想告訴你一個
關於人工智慧和農民的故事。
多麼奇怪的組合，對吧？
兩個主題聽起來風馬牛不相及，
但你知道現代農業 其實涉及很多科技嗎？
電腦視覺用於預測農產量、
人工智慧用於發現、 識別和消滅昆蟲，
預測分析有助於找出 乾旱或颶風等
極端天氣情況。
但科技也會讓農民感到格格不入。
在 2017 年，拖拉機公司 約翰·迪爾 (John Deere)
推出智慧拖拉機時， 一切都到達緊要關頭。
在以前，如果農民的拖拉機壞了，
他們可以自行或帶給技工修理。
而該公司實際上
將農民自行修理設備視為非法。
農民必須找有執照的技術人員維修，
即使當農作物腐爛、害蟲侵佔，
他們也得等上數星期。
所以他們親力親為。
有些人學會了編程，
並且與駭客合作， 建立修補程序來修復自己的系統。
2022 年，
在世上最大的駭客會議 DEFCON 上，
名為 Sick Codes 的 駭客和他的團隊
向大家展示了如何入侵 約翰迪爾拖拉機，
首先指出，該技術易受攻擊，
同時也表明，你可以、 也應該擁有自己的設備。
明確地說，這是非法的，
但有些人想改變這點。
這個行動被稱為「維修權」。
維修權是這樣：
如果你擁有一件科技產品，
可能是拖拉機 、智慧牙刷 、
洗衣機，
萬一損壞，你應有權去維修它。
那我為何要告訴你這故事？
維修權需要擴展到人工智慧。
現在，似乎每週
都有令人振奮的 AI 創新。
但你知道公眾信心其實正下降嗎？
最近的皮尤民意調查 (Pew) 顯示，
美國人對該技術的擔心多於興奮。
世界各地都有同感。
世界風險調查顯示，
來自中南美洲和非洲的受訪者，
大都表示認為 AI 對人們是弊大於利。
作為社會科學家和 AI 開發者，
這令我沮喪。
我是技術樂觀主義者，
因為我真誠相信 這種技術可以帶來益處。
那當中障礙是什麼？
我在過去幾年裡和數百人談過，
建築師和科學家 、 記者和攝影師、
共乘車司機和醫生，
他們都有同樣想法。
他們覺得自己後知後覺。
他們都清楚自己的數據 通常在未經許可下被收集，
用來建立這些複雜的系統。
他們知道這些系統 正決定他們的命運。
他們也知道， 沒有人會費心問他們
系統該如何建構，
他們當然不知道如果問題出現時， 應該去找誰負責。
我們也許不能擁有 AI 系統，
但它們正慢慢地主導我們的生活。
我們需要更好的反饋迴路，
在系統製造者
及普羅大眾之間架設渠道，
去使 AI 系統更好地融入人們生活。
邁向這目標的一步， 是靠稱為紅隊演練的過程。
紅隊演練是從軍事而來的一種做法，
應用於網絡安全。
在傳統的紅隊演練過程中，
外部專家被招募去入侵系統，
如同 Sick Codes 對拖拉機 所做的事， 但是合法。
因此，紅隊演練可以作為 測試防禦的方法，
當你能找出問題所在時，
你就能找出解決方案。
但當 AI 系統變得異常，
它不只是駭客入侵般簡單。
該模型可能發生故障或歪曲現實。
例如不久之前，我們看到 AI 系統
使用不準確的歷史照片 來嘗試展現多元。
任何對西方歷史 有基本了解的人都知道，
美國開國元勛或納粹時代的 士兵都不會是黑人。
在這種情況下，誰有資格成為專家？
你。
我正與世界各地成千上萬的人合作，
進行各種大小的紅隊演練，
通過這些演練，我們發現 並修正了 AI 模型的錯誤。
我們還與世界上 一些最大的科技公司合作：
OpenAI、Meta、 Anthropic、谷歌。
通過這些演練，我們使模型 更適合給更多人使用。
以下是我們所學到的。
我們與倫敦皇家學會合作，
和疾病科學家舉辦一場關於 科學、錯誤和虛假信息的活動。
這些科學家發現到，
AI 模型實際上具有
很多針對新冠肺炎 錯誤信息的保護措施。
但對於麻疹，腮腺炎和 流感等其他疾病，
同樣的保護措施並不適用。
我們舉報該有這些改變，
它們已被修復， 現在我們都得到更好的保護，
免受科學錯誤和虛假信息的侵害。
我們與 Autodesk 大學的建築師 進行了一項非常類似的練習，
我們問了個簡單問題：
AI 會令他們失業嗎？
更具體說，
他們能否想像一個能夠設計
現代藝術博物館規格的 現代 AI 系統？
答案清脆利落，是否定的。
原因是建築師不單單是繪製建築物，
他們必須了解物理和材料科學。
他們必須清楚建築規範，
並且同時，還要能 喚起情感，引發大眾共鳴。
建築師想要的是
與他們互動的 AI 系統， 可以給他們反饋，
或主動提供設計建議，
而現今的 AI 系統仍未達標。
但這些是技術問題。
建立 AI 的人非常聰明，
也許他們可以在幾年內 解決所有問題。
但這並非是建築師的最大擔憂。
他們最大的擔憂是信任。
若建築物出現問題， 建築師就要承擔責任。
他們可能會失去執照，
可能被罰款， 甚至有牢獄之災。
失敗能以百萬種不同方式發生。
例如，逃生門的打開方向出錯，
導致人們在緊急疏散中被擠壓，
或因為強風打破窗戶，
玻璃碎落在街道上的行人身上。
那為何建築師要信任一個 AI 系統，
押上自己的工作和人身自由，
但當發現系統錯誤時 ， 卻不能親自修復它？
所以我們需要弄清楚這些問題， 我會告訴你原因。
下一波人工智慧系統， 稱為代理型 AI ，
是個真正轉折點，
要麼我們保留人類自主性，
要麼 AI 系統替我們作出決策。
想想一個像個人助理般的 AI 代理人。
例如，醫療代理可能會判斷
你的家人是否需要醫生預約、
補充處方藥物、 或在緊急情況下
將醫療記錄發送到醫院。
但除非我們有真正的維修權，
否則 AI 代理無法，也不會存在。
除非可以執行一些基本診斷，
否則哪有家長會將孩子的健康 交託給 AI 系統？
除非可以按照初級員工的方式 重新培訓 AI，
否則哪有專業人員 會信任 AI 系統進行工作決策？
維修權可能看起來像這樣。
有一個診斷板，
你可以在其中執行 自己設計的基本測試，
如果出現問題，則可以向該公司報告，
並在問題修復後得到回覆。
或者你可以與第三方合作， 例如道德駭客，
為系統製作修補程序， 跟我們所做一樣。
你可以下載並使用它們， 按你想要的方式改進系統。
或者你可以像這些堅毅的農民一樣，
學習編程和微調自己的系統。
除非我們弄清楚 如何將人們帶入開發過程，
否則我們將無法實現 人工智慧所承諾的益處。
我投入「負責任 AI」 的事業，
在這個領域我們提出問題，
「企業能建立什麼 來確保人們信任 AI？」
現在，通過這些紅隊演練 及跟你們的交談，
我發現我們一直問錯問題了。
我們應該問的是：
「我們能建立哪些工具， 讓人們可以使用 AI 而獲益？」
技術人員無法獨自做到；
我們只能與你一起做到。
謝謝。
（掌聲）