Tôi muốn kể cho bạn nghe một câu chuyện
về trí tuệ nhân tạo và nông dân.
Bây giờ, thật là một sự kết hợp kỳ lạ, phải không?
Hai chủ đề nghe có vẻ không khác nhau hơn.
Nhưng bạn có biết là nông nghiệp hiện đại thực sự liên quan đến rất nhiều công nghệ?
Vì vậy, thị giác máy tính được sử dụng để dự đoán năng suất cây trồng.
Và trí tuệ nhân tạo được sử dụng để tìm,
xác định và loại bỏ côn trùng.
Phân tích dự đoán giúp tìm ra các điều kiện thời tiết khắc nghiệt
như hạn hán hoặc bão.
Nhưng công nghệ này cũng xa lạ với nông dân.
Và tất cả điều này đã đạt đến đỉnh điểm vào năm 2017
với công ty máy kéo John Deere khi họ giới thiệu máy kéo thông minh.
Vì vậy, trước đó, nếu máy kéo của nông dân bị hỏng,
họ có thể tự sửa chữa nó hoặc đưa nó đến một thợ cơ khí.
Vâng, công ty đã cho việc nông dân sửa
chữa thiết bị của họ là bất hợp pháp.
Bạn phải có giấy phép kỹ thuật
và nông dân sẽ phải đợi nhiều tuần
trong khi cây trồng của họ bị thối rữa và sâu bệnh xâm chiếm.
Vì vậy, họ đã tự mình giải quyết vấn đề.
Một số người họ đã học lập trình
và họ đã làm việc với tin tặc để tạo ra các bản vá để sửa chữa hệ thống.
Vào năm 2022,
tại một trong những hội nghị tin tặc lớn nhất thế giới, DEFCON,
một hacker tên là Sick Codes và nhóm của anh ta đã chỉ
cho mọi người cách đột nhập vào máy kéo John Deere,
cho thấy rằng, trước hết, công nghệ này dễ bị tổn thương,
nhưng bạn cũng có thể và nên sở hữu thiết bị của riêng mình.
Nói rõ ràng, điều này là bất hợp pháp,
nhưng có những người đang cố gắng thay đổi điều đó.
Bây giờ phong trào đó được gọi là “quyền sửa chữa”.
Quyền sửa chữa giống như thế này.
Nếu bạn sở hữu một công nghệ,
đó có thể là máy kéo, bàn chải đánh răng thông minh,
máy giặt,
bạn nên có quyền sửa chữa nó nếu nó bị hỏng.
Vậy tại sao tôi lại kể cho bạn chuyện này?
Quyền sửa chữa cần mở rộng sang trí tuệ nhân tạo.
Giờ đây, dường như mỗi tuần đều
có một sự đổi mới và đáng kinh ngạc trong AI.
Nhưng bạn có biết rằng niềm tin của công chúng đang thực sự giảm sút?
Một cuộc thăm dò gần đây của Pew cho thấy nhiều người Mỹ quan tâm
hơn là họ hào hứng về công nghệ này.
Điều này được gây tiếng vang trên toàn thế giới.
Cuộc thăm dò của World Risk
cho thấy những người được hỏi từ Trung, Nam Mỹ và Châu Phi
đều nói rằng họ cảm thấy AI sẽ có hại hơn là có lợi đối với con người.
Là một nhà khoa học xã hội và một nhà phát triển AI,
điều này làm tôi thất vọng.
Tôi là một người lạc quan về kỹ thuật
vì tôi thực sự tin rằng công nghệ này có thể dẫn đến điều tốt đẹp.
Vậy cái ngắt kết nối là gì?
Tôi đã nói chuyện với hàng trăm người trong vài năm qua.
Các kiến trúc sư, nhà khoa học, nhà báo và nhiếp ảnh gia,
tài xế và bác sĩ chia sẻ xe,
và tất cả họ đều nói cùng một điều.
Mọi người cảm thấy như một suy nghĩ sau cùng
Họ đều biết rằng dữ liệu của họ được thu thập thường xuyên một cách trái phép
để tạo ra các hệ thống tinh vi này.
Họ biết rằng những hệ thống này đang xác định cơ hội sống của họ.
Họ cũng biết rằng không ai bận tâm đến việc hỏi họ
nên xây dựng hệ thống như thế nào,
và họ chắc chắn không biết phải đi đâu nếu có sự cố xảy ra.
Chúng ta không sở hữu các hệ thống AI,
nhưng chúng đang dần thống trị cuộc sống của chúng ta.
Chúng ta cần một vòng lặp phản hồi tốt hơn
giữa những người đang tạo ra các hệ thống này,
và những người quyết tâm nhất cho chúng ta biết
các hệ thống AI này nên tương tác như thế nào trong thế giới của họ.
Một bước hướng tới điều này là một quá trình được gọi là Red Teaming.
Giờ đây, nhóm đỏ là một thực hành được bắt đầu trong quân đội,
và nó được sử dụng trong an ninh mạng.
Trong một cuộc tập trận đồng đội đỏ truyền thống,
bên ngoài được đưa vào để đột nhập vào một hệ thống,
giống như những gì Sick Codes đã làm với máy kéo, nhưng hợp pháp.
nên việc hồng quân hoạt động như một cách để kiểm tra khả năng phòng thủ của bạn
và khi bạn có thể tìm ra điều gì đó sẽ xảy ra sai sót
bạn có thể tìm ra cách khắc phục nó.
Nhưng khi các hệ thống AI trở nên tồi tệ,
đó không chỉ là một tin tặc đột nhập.
Mô hình có thể bị trục trặc hoặc trình bày sai thực tế.
Vì vậy, ví dụ, cách đây không lâu,
chúng ta đã thấy một hệ thống AI cố gắng đa dạng
bằng cách hiển thị những bức ảnh không chính xác trong lịch sử.
Bất cứ ai có hiểu biết cơ bản về lịch sử phương Tây đều
có thể nói với bạn rằng cả những người sáng lập và những người
những người lính thời Đức Quốc xã đều không phải Da đen.
Trong trường hợp đó, ai đủ điều kiện làm chuyên gia?
Là bạn.
Tôi đang làm việc với hàng ngàn người trên khắp thế giới
trong các bài tập nhóm nhỏ và lớn, và thông qua đó,
chúng tôi đã tìm thấy và sửa lỗi trong các mô hình AI.
Chúng tôi cũng làm việc với một số công ty công nghệ lớn nhất trên thế giới:
OpenAI, Meta, Anthropic, Google.
Và thông qua điều này, chúng tôi làm ra những mô hình tốt hơn cho mọi người
Đây là một chút những gì chúng tôi đã học được.
Chúng tôi đã hợp tác với Hiệp hội Hoàng gia London để thực hiện một nghiên cứu,
thiếu và sai lệch thông tin với các nhà khoa học về bệnh tật.
Những nhà khoa học này tìm thấy
là các mô hình AI thực sự có rất nhiều biện pháp bảo vệ
chống lại thông tin sai lệch COVID.
Nhưng đối với các bệnh khác như sởi, quai bị và cúm,
các biện pháp bảo vệ tương tự không được áp dụng.
Chúng tôi ghi lại những thay đổi,
chúng đã được sửa chữa và bây giờ chúng ta đều được bảo vệ
tốt hơn trước thông tin sai lệch và sai lệch khoa học.
Chúng tôi đã thực hiện một bài tập giống với các kiến trúc sư tại Đại học Autodesk,
và chúng tôi đã hỏi một câu đơn giản:
Liệu AI có khiến họ nghỉ việc không?
Hay cụ thể hơn,
họ có thể tưởng tượng một hệ thống AI hiện đại
có thể thiết kế kính của một bảo tàng nghệ thuật hiện đại không?
Câu trả lời, vang dội, là không.
Đây là lý do tại sao, các kiến trúc sư làm nhiều việc hơn là chỉ vẽ các tòa nhà.
Họ phải hiểu vật lý và khoa học vật liệu.
Họ phải biết các quy tắc xây dựng,
và họ phải làm điều đó
trong khi tạo ra một cái gì đó gợi lên cảm xúc.
Những gì các kiến trúc sư muốn là một hệ thống AI
tương tác với họ, sẽ cung cấp cho họ phản hồi,
có thể chủ động đưa ra các đề xuất thiết kế.
Và hệ thống AI ngày nay, vẫn chưa hoàn toàn ở đó.
Nhưng đó là những vấn đề kỹ thuật.
Những người xây dựng AI cực kỳ thông minh,
và có lẽ họ có thể giải quyết tất cả những điều đó trong một vài năm.
Nhưng đó không phải là mối quan tâm lớn nhất.
Mối quan tâm lớn nhất của họ là sự tin tưởng.
Các kiến trúc sư phải chịu trách nhiệm nếu có sự cố xảy ra với tòa nhà của họ.
Họ có thể mất giấy phép,
họ có thể bị phạt, thậm chí họ có thể đi tù.
Và thất bại có thể xảy ra theo một triệu cách khác nhau.
Ví dụ, cửa ra vào mở sai đường,
dẫn đến người dân bị nghiền nát trong một cuộc khủng hoảng sơ tán,
hoặc kính vỡ đổ xuống người đi bộ trên đường
vì gió thổi quá mạnh và làm vỡ cửa sổ.
Vậy tại sao một kiến trúc sư lại tin tưởng vào một hệ thống AI với công việc của họ,
với sự tự do theo nghĩa đen của họ,
nếu họ không thể vào và sửa lỗi nếu họ tìm thấy nó?
Vì vậy, chúng ta cần tìm ra những vấn đề ngày hôm nay và tôi sẽ nói bạn biết lý do.
Làn sóng tiếp theo của các hệ thống trí tuệ nhân tạo, được gọi là AI đại lý,
là một điểm bùng phát thực sự
giữa việc chúng ta có giữ quyền tự quyết của con người hay không,
hoặc liệu các hệ thống AI có đưa ra quyết định cho chúng ta hay không.
Hãy tưởng tượng một nhân viên AI giống như một trợ lý cá nhân.
Vì vậy, ví dụ, một nhân viên y tế có thể xác định
xem gia đình bạn có cần cuộc hẹn với bác sĩ hay không,
họ có thể bổ sung thuốc theo toa hoặc trong trường hợp khẩn cấp,
gửi hồ sơ y tế đến bệnh viện.
Nhưng các nhân viên AI không thể và sẽ không tồn tại
trừ khi chúng ta có quyền sửa chữa thực sự.
Cha mẹ nào sẽ tin tưởng sức khỏe của con mình vào hệ thống AI
trừ khi bạn có thể chạy một số chẩn đoán cơ bản?
Chuyên gia nào sẽ tin tưởng vào một hệ thống AI với các quyết định công việc,
trừ khi bạn có thể đào tạo lại nó theo cách bạn có thể là một nhân viên cấp dưới?
Bây giờ, quyền sửa chữa có thể trông giống như thế này.
Bạn có thể có một bảng chẩn đoán
nơi bạn chạy các bài kiểm tra cơ bản mà bạn thiết kế
và nếu có gì đó không ổn, bạn có thể báo cáo nó cho công ty
và nghe lại khi nó được sửa chữa.
Hoặc bạn có thể làm việc với các bên thứ ba như tin tặc có đạo đức,
những người tạo ra bản vá giống với chúng ta làm ngày nay.
Bạn có thể tải chúng xuống và sử dụng để cải thiện hệ thống
theo cách bạn muốn nó được cải thiện.
Hoặc bạn có thể giống như những nông dân gan dạ này và học cách lập trình
và tinh chỉnh hệ thống của riêng bạn.
Chúng ta sẽ không đạt được những lợi ích hứa hẹn của trí tuệ nhân tạo
trừ khi chúng ta tìm ra cách đưa mọi người vào quá trình phát triển.
Tôi đã cống hiến sự nghiệp của mình cho AI có trách nhiệm,
và trong lĩnh vực đó, chúng tôi đặt câu hỏi,
các công ty có thể xây dựng gì để đảm bảo rằng mọi người tin tưởng AI?
Bây giờ, qua những bài tập đồng đội đỏ này, và bằng cách nói chuyện với bạn,
tôi đã nhận ra rằng chúng tôi đã hỏi sai câu hỏi từ đầu.
Điều mà chúng ta nên hỏi là chúng ta có thể xây dựng những công cụ nào
để mọi người có thể làm cho AI có lợi cho họ?
Các nhà công nghệ không thể làm điều đó một mình.
Chúng tôi chỉ có thể làm điều đó với bạn.
Cảm ơn các bạn.
(Vỗ tay)