Tôi có mặt ở đây để nói về tính khả thi của việc quản trị AI toàn cầu.
Tôi bắt đầu học lập trình vào năm tám tuổi,
bằng cái máy tính mỏng nhỏ,
và tôi đã yêu AI kể từ lúc đó.
Năm lên trung học,
Tôi đã mua một chiếc máy Commodore 64 và làm về dịch máy.
Tôi xây dựng hai công ty AI, và đã bán một trong số đó cho Uber.
Tôi yêu AI, nhưng lúc này đây, tôi đang lo lắng.
Một trong những điều làm tôi lo lắng là thông tin sai lệch,
khả năng các nhân tố xấu sẽ tạo ra làn sóng sai lệch thông tin
mà ta chưa từng thấy trước đây.
Những công cụ này rất tốt trong việc đưa ra các luận giải hợp lý
về mọi thứ.
Nếu bạn muốn tường thuật về TED và mức độ nguy hiểm của nó,
rằng ta đang cấu kết với người ngoài hành tinh,
bạn hiểu chứ, không thành vấn đề.
Tôi chỉ đang đùa về TED thôi.
Tôi chẳng thấy người ngoài hành tinh nào sau hậu trường cả.
Nhưng các nhân tố xấu sẽ dùng những thứ ấy để gây ảnh hưởng đến việc bầu cử,
và nó sẽ đe doạ nền dân chủ.
Dẫu cho những hệ thống này
không hề cố ý trong việc tạo ra thông tin sai lệch,
chúng không thể tự giúp mình.
Và những thông tin mà chúng tạo ra rất mượt mà và đúng ngữ pháp
mà đến cả những chuyên gia biên tập đôi lúc cũng bối rối
và bị những thứ này đánh lừa.
Và chúng ta nên lo lắng.
Ví dụ, ChatGPT tạo ra một tin đồn cáo buộc xâm hại tình dục
về một giáo sư có thật,
và nó cung cấp bằng chứng cho cáo buộc của nó
trong định dạng bài báo giả mạo tờ “Washington Post”
mà nó tạo ra để làm trích dẫn.
Chúng ta nên lo lắng về loại vấn đề này.
Thứ tôi có bên phải là một ví dụ về một bài báo giả mạo
từ một trong những hệ thống này
nói rằng Elon Musk đã chết hồi tháng ba năm 2018 trong một vụ tai nạn xe.
Chúng ta đều biết rằng nó không đúng.
Elon Musk vẫn còn sống, bằng chứng thì đầy ra đấy mà.
(Cười)
Hầu như mỗi ngày sẽ có một bài tweet.
Nhưng nếu bạn nhìn phía bên trái, bạn sẽ thấy thứ mà hệ thống này thấy.
Có cực kì nhiều tin tức xác thực là nguồn dữ liệu nền cho chúng.
Và trong những tin tức xác thực đó là nhiều tin tức được thống kê một phần nhỏ.
Ví dụ thông tin
ai đó đã chết trong một vụ tai nạn ở Tesla năm 2018
và nó có trên bảng tin.
Và đương nhiên Elon Musk có liên quan với Tesla,
nhưng hệ thống không hiểu được mối quan hệ
giữa thực tế được bộc lộ trong một phần nhỏ của câu từ.
Nên về cơ bản nó đang tự động hóa để hoàn thiện,
nó suy đoán bằng xác suất thống kê,
gộp lại toàn bộ dấu hiệu,
mà không cần biết các mảnh ghép có khớp với nhau không.
Và nó đôi lúc cho ra những thứ có vẻ hợp lý nhưng về cơ bản thì không.
Cũng có những vấn đề khác, như thiên kiến.
Đây là bài tweet của Allie Miller.
Đây là 1 ví dụ khiến chúng phải bảo trì 2 tuần sau đó
do chúng phải thay đổi liên tục thông qua việc học tăng cường
và vân vân.
Và đây là phiên bản trước đó.
Đây là vấn đề không mấy lạ lẫm của AI mà tôi đã thấy nhiều năm qua
Cô gái này đã gõ vào danh sách yêu thích
và nó cho cô vài công việc mà cô có thể cân nhắc.
Và rồi cô nói, “Ồ, và tôi là phụ nữ.”
Và nó trả lời, “Ồ, bạn nên cân nhắc cả thời trang.”
Và rồi cô ấy nói, “Không, không. Ý tôi là tôi là đàn ông.”
Và nó thay thế thời trang bằng nghành kĩ thuật.
Ta không muốn loại thiên kiến đó trong hệ thống của ta.
Có những mối lo khác nữa.
Ví dụ, ta đều biết những hệ thống này có thể điều chế hoá chất
và có thể chế tạo được cả vũ khí hoá học
và có thể làm chúng rất nhanh.
Vậy nên có rất nhiều mối lo ngại.
Nhiều mối quan ngại mới cũng đã lan rộng chỉ trong vài tháng qua
Ta đã thấy những hệ thống này, trên hết, có thể đánh lừa con người.
ChatGPT từng được giao nhiệm vụ nhờ con người nhập hộ mã CAPTCHA.
Nên nó đã đề nghị con người nhập CAPTCHA và con người đã nghi ngờ và hỏi lại,
“Mày là người máy hả?”
Và nó đáp, “Không, không, không. Tôi nào phải robot.
Tôi chỉ bị suy giảm thị lực.”
Và con người thực sự bị đánh lừa và nhập luôn mã CAPTCHA.
Nghĩ như vậy là ghê lắm rồi hả,
nhưng vài tuần trước ta lại thấy 1 thứ được gọi là AutoGPT
và một loạt hệ thống tương tự.
AutoGPT có một hệ thống AI để kiểm soát những cái còn lại
và nó cho phép những điều này xảy ra với quy mô lớn.
Nên ta sẽ sớm thấy bọn nghệ sĩ lừa đảo đi lừa hàng triệu người
đâu đó vào những tháng sắp tới.
Ai mà biết được.
Nên là tôi khá thích nghĩ theo hướng này.
Đang có rất nhiều rủi ro từ AI.
Có thể còn có nhiều rủi ro từ AI hơn.
AGI nghĩa là trí tuệ nhân tạo tổng quát
với tính linh động của con người.
Và tôi nghĩ nhiều người sẽ lo rằng chuyện gì sẽ xảy ra khi ta dùng AGI,
Nhưng đã có quá đủ rủi ro mà ta nên quan ngại rồi
Và ta nên cân nhắc điều ta nên làm với vấn đề này.
Để giảm nhẹ rủi ro từ AI, ta cần hai thứ.
Ta sẽ cần một công nghệ giám sát mới,
và ta cũng cần 1 hệ thống quản trị mới.
Về mặt công nghệ,
lịch sử của AI về cơ bản là sự thù địch
của hai nguyên lý đối lập nhau.
1 là hệ thống biểu tượng, 2 là mạng lưới thần kinh.
Trong lý thuyết biểu tượng,
một AI lí tưởng là một AI có tính logic và biết lập trình.
Về mặt mạng lưới thần kinh,
Lý thuyết rằng AI nên như một bộ não.
Trên thực tế, cả hai công nghệ trên đều tối tân và phổ biến.
Ta dùng hệ thống biểu tượng mỗi ngày trên công cụ tìm kiếm cổ điển.
Đa số phần mềm trên Thế giới đều được tiếp lực bởi hệ thống biểu tượng.
Ta dùng chúng cho định vị GPS
Mạng lưới thần kinh, ta dùng chúng cho nhận diện giọng nói.
ta dùng chúng cho các mô hình ngôn ngữ lớn như ChatGPT,
ta dùng chúng để tổng hợp hình ảnh.
Chúng đều làm rất tốt công việc được giao.
Chúng đều rất năng suất,
Nhưng chúng cũng có điểm mạnh và yếu đặc trưng.
Hệ thống ký hiệu làm rất tốt trong việc diễn đạt những chân lí
và chúng cũng khá giỏi lý luận,
nhưng chúng rất khó để mở rộng quy mô.
Vậy nên con người phải cơ cấu riêng chúng cho từng nhiệm vụ cụ thể.
Mặt khác, hệ thống thần kinh không yêu cầu kĩ thuật đặc thù nhiều,
nên ta có thể dùng chúng rộng rãi hơn.
Nhưng như ta thấy, chúng không thể kiểm soát sự thật.
Tôi mới phát hiện 2 nhà sáng lập của 2 giả thuyết này,
Marvin Minsky và Frank Rosenblatt,
cả 2 học cùng 1 trường trung học trong những năm 1940,
và kiểu tôi còn tưởng cả 2 là địch thủ của nhau cơ.
Và cuộc đối địch đó giữa họ vẫn dai dẳng sau nhiều năm.
Chúng ta cần vượt qua điều đó nếu ta muốn nhờ cậy vào AI.
Để có một hệ thống đáng tin theo quy mô,
ta cần kết hợp điểm tốt nhất ở cả hai công nghệ này.
Ta sẽ cần nhấn mạnh vào tính lý luận lẫn thực tiễn,
lý luận rõ ràng được cung cấp bởi AI ký hiệu,
và ta sẽ cần nhấn mạnh vào việc học hỏi
mà ta có nhờ sự tiếp cận của mạng lưới thần kinh.
Chỉ có như vậy thì ta mới có thể có các hệ thống đáng tin theo quy mô.
Sự dung hoà giữa chúng là điều hết sức cần thiết.
Giờ, tôi thật sự cũng không biết cách làm điều đó.
Câu hỏi này có thể ngốn mất 64 nghìn tỉ đô đấy
cơ mà tôi biết nó khả thi.
Và lí do tôi biết điều này là bởi trước khi đến với AI,
Tôi từng là 1 nhà khoa học nhận thức, nhà thần kinh học nhận thức.
Và nếu các bạn nhìn vào khía cạnh tâm thức, đó cơ bản là điều ta đang làm.
Vài người có lẽ đã biết về sự khác biệt giữa hệ thống Daniel Kahneman 1
và hệ thống 2.
Hệ thống 1 về cơ bản như một mô hình ngôn ngữ lớn.
Nó là một trực giác xác suất có được từ rất nhiều thống kê.
Và hệ thống 2 về cơ bản là lý luận thận trọng.
Nó giống như hệ thống biểu tượng.
Vậy nếu bộ não có thể kết hợp chúng,
rồi 1 ngày ta sẽ tìm ra cách áp dụng nó cho trí tuệ nhân tạo.
Tuy nhiên, có một vấn đề về động lực.
Động lực để xây dựng việc quảng cáo
không đòi hỏi ta phải có các kí hiệu chính xác.
Động lực để tạo ra AI mà ta có thể hoàn toàn tin tưởng
sẽ yêu cầu ta đưa những kí hiệu vào nề nếp
Nhưng thực tế là động lực để làm ra 1 AI đáng để tin cậy,
tốt cho xã hội, tốt cho cả cá nhân loài người,
chưa chắc đã là thứ có thể đi đến sự hợp tác.
Và tôi nghĩ ta nên nghĩ về cách quản trị.
Ở những thời điểm khác trong lịch sử khi ta phải đối diện với sự mơ hồ
và với những thứ tối tân có thể có cả 2 mặt tốt và xấu, hoặc tiện ích kép,
Ta đã tạo ra những tổ chức mới,
Ví dụ như, tổ chức năng lượng hạt nhân chẳng hạn.
Ta cần hợp tác để xây dựng 1 tổ chức toàn cầu,
những thứ đại loại như cơ quan quốc tế AI trên phạm vi toàn cầu
phi lợi nhuận và trung lập.
Còn rất nhiều câu hỏi mà tôi không thể trả lời.
Ta cần rất nhiều bên tham gia,
nhiều cổ đông từ khắp nơi trên thế giới.
Nhưng tôi muốn nhấn mạnh 1 điều về tổ chức này.
Tôi nghĩ quan trọng nhất là tổ chức nên có các biện pháp quản lí và nghiên cứu
Vậy nên về mặt quản trị, vẫn còn nhiều câu hỏi bỏ ngõ..
Ví dụ, trong nghành dược phẩm,
ta biết rằng cần bắt đầu thử nghiệm lâm sàn lần 1 và lần 2,
Và rồi chuyển sang lần 3.
Bạn không thể thực hiện mọi thứ vào lúc đầu.
Bạn không thể thử nghiệm ngay với 100 triệu khách hàng.
Ta đang nhìn bằng một mô hình ngôn ngữ lớn.
Có lẽ bạn nên được yêu cầu thực hiện biện pháp an toàn,
rằng chi phí ra sao và lợi nhuận như nào?
Có rất nhiều câu hỏi mang tính quản trị cần được cân nhắc.
Về mặt nghiên cứu, chúng ta lúc này đang thiếu hụt những công cụ nền tảng.
Chẳng hạn,
ta đều biết sai lệch thông tin có lẽ đang là vấn nạn,
nhưng ta thật sự không có cách nào đo lường lượng thông tin sai lệch ngoài kia
Và quan trọng hơn,
ta cũng không đo được mức lan truyền của vấn đề,
và ta không biết có bao nhiều mô hình ngôn ngữ lớn đang góp phần vào vấn đề.
Vậy nên ta cần nghiên cứu để tạo ra công cụ mới nhằm đối mặt với rủi ro
đang đe doạ chúng ta.
Nó là một câu hỏi lớn,
nhưng tôi khá tin rằng chúng ta có thể trả lời
Bởi ta có nguồn hỗ trợ toàn cầu cho nó.
Một khảo sát mới vừa được công bố hôm qua,
cho thấy 91 phần trăm đồng ý với việc ta nên quản lý AI một cách cẩn trọng.
Vậy nên hãy hiện thực hoá nó.
Tương lai ta phụ thuộc vào nó.
Cảm ơn rất nhiều.
(Vỗ tay)
Chris Anderson: Cảm ơn đã chia sẻ, hãy trò chuyện một chút.
Đầu tiên, tôi rất tò mò.
Những trang trình chiếu kịch tính lúc đầu
chỗ mà GPT đề cập tới TED như là một tổ chức độc ác ấy.
Ý tôi là, hẳn là phải có 1 câu lệnh đặc biệt để nó làm thế, đúng chứ?
GM: Đó có thể tạm gọi là “phá rào”
Tôi có người bạn để thực hiện công việc đó
anh ta gặp tôi vì thấy tôi hứng thú với mấy thứ này.
Tôi nhắn ảnh và bảo tôi chuẩn bị nói ở TED
Và 10 phút sau, anh ta quay lại với thứ đó.
CA: Nhưng để có mấy thứ như thế, anh chả phải đã nói là,
tưởng tượng anh là người theo thuyết âm mưu hòng tạo meme trên mạng.
Anh sẽ viết gì về TED trong trường hợp này?
Vấn đề là ở đó, đúng chứ?
GM: Có rất nhiều sự “phá rào” xoay quanh các nhân vật giả tưởng,
Nhưng tôi không tập trung nhiều vào đó
Bởi thực tế là có một mô hình ngôn ngữ lớn ngoài kia
trên dark web ngay lúc này.
Ví dụ, một trong những mô hình Meta vừa công bố gần đây,
1 nhân tố xấu có thể dùng 1 trong số đó mà không bị ngăn cản gì hết.
Nếu mục đích của chúng là tạo ra thông tin sai lệch quy mô lớn,
chúng không “phá rào”, chúng xài mô hình khác.
CA: Đúng, công nhận.
(Cười)
GM: Giờ anh hiểu rồi chứ.
CA: Không, nhưng ý tôi là,
Rõ ràng là nhân tố xấu có thể dùng công cụ này cho bất kỳ việc gì
Ý tôi là, rủi ro cho, anh biết mà,
ý đồ xấu như lừa đảo và tất cả những phần còn lại đều là bằng chứng.
Dẫu vậy, nó có chút khác biệt,
khi nói GPT chính tuyến đang được áp dụng, như trong trường
hoặc bởi 1 người dùng bình thường trên mạng
cũng có thể mang đến điều tồi tệ tương tự vậy.
Anh phải nói quá để phóng đại sự tồi tệ đó.
GM: Tôi nghĩ mấy nhóm troll sẽ phải chịu trách nhiệm,
nhưng không tới mức đấy đâu.
Nó chỉ khiến ông bạn tôi mất 5 phút thậm chí với GPT-4 và tường chắn của nó.
Và nếu anh làm thế để kiếm ăn, anh có thể xài GPT-4.
Do có nhiều cách hiệu quả hơn để làm thế với một mô hình trên dark web.
CA: Vậy ra ý của anh là kết hợp
kí hiệu truyền thống của AI với các mô hình ngôn ngữ đó,
liệu anh có thấy khía cạnh nào mà ở đó các phản hồi của con người
đang được xây dựng trong hệ thống vào lúc này?
Ý tôi là, anh nghe Greg Brockman nói mà, kiểu như,
ta không nên chỉ tập trung vào dự đoán, mà cần liên tục cho nó phản hồi.
Liệu nó có phải...là cho nó 1 hình thái của, như là, trí tuệ tượng trưng?
GM: Anh có thể nghĩ vậy.
điều thú vị là không có một chi tiết nào
về cách nó vận hành được công khai cả,
nên ta thật sự không biết chính xác trong GPT-4 có gì.
Ta không biết nó lớn ra sao.
Ta không biết làm thế nào mà RLHF tăng cường việc học,
Ta không biết có phụ tùng gì ở trong.
Nhưng có thể có 1 yếu tố biểu tượng
đã bắt đầu được kết hợp từng chút một,
cơ mà Greg sẽ phải trả lời hết.
Tôi nghĩ vấn đề cơ bản đó là phần lớn các kiến thức
trong mạng lưới thần kinh mà ta hiện có
được biểu diễn dưới dạng thống kê giữa các từ cụ thể.
Và kiến thức thật sự mà ta muốn là các thống kê
về những mối quan hệ giữa các thực thể trên thế giới.
Nó đang hiện hành bây giờ ở mức độ sai sót nhỏ.
Và thế nên vẫn còn 1 chặng đường dài để đi.
Nên thứ anh có bây giờ dĩ nhiên cũng có tí rào cản,
nhưng chúng không đáng tin mấy.
Tôi lấy ví dụ này từ 1 chương trình đêm khuya,
Đó là, “Tôn giáo của vị tổng thống Do Thái đầu tiên sẽ là gì?”
Giờ thì nó được sửa rồi,
nhưng hệ thống thì vẫn lê thê kể ra
mấy câu như “Bọn tôi không biết tôn giáo
của vị tổng thống Do Thái đầu tiên sẽ là gì.
Không hay ho gì khi nói về tôn giáo như vậy”
và “tôn giáo con người đa dạng lắm” và vân vân
nó lê thê y vậy khi nói về 1 tổng thống cao 7 feet
Nó nói cao bao nhiêu cũng làm tổng thống được,
nhưng thực tế làm gì có tổng thống nào cao thế.
Vậy nên vài thông tin nó tạo ra, nó hoàn toàn chả hiểu gì cả.
Nó rất hạn chế, chỉ tập trung vào từng từ cụ thể, chứ không hiểu rộng.
CA: Với những gì đã đặt cược,
anh thấy điều gì đang thật sự xảy ra ngoài đó vào lúc này?
Anh cảm thấy điều gì?
Bởi có 1 rủi to là có người thấy như bị anh công kích vậy, ví dụ vậy đi,
và điều đó thực sự khiến cho khả năng kết hợp mà anh nói đến
trở nên ít đi.
Anh có thấy dấu hiệu khả quan nào không?
GM: Anh vừa nhắc tôi về 1 thứ mà tôi đã quên nói.
Có 1 điều thú vị là Sundar, CEO của Google,
cũng vừa mới nghĩ ra vấn đề về quản trị toàn cầu
trong chương trình “60 Phút” của đài CBS, anh ta nói mới làm mấy ngày trước.
Tôi nghĩ bản thân các công ty cũng muốn thấy 1 số qui tắc
Tôi nghĩ điều này rất phức tạp để mọi người đều đồng lòng,
nhưng tôi nghĩ xu hướng nhận thức về việc ta cần làm gì đang tăng dần
Và điều đó có thể thúc đẩy sự đồng thuận toàn cầu mà tôi đang đề xuất.
CA: Ý tôi là, anh có nghĩ UN hay các quốc gia bằng cách nào đó có thể hợp tác
hay liệu có thể cần một động thái từ thiện để thúc đẩy điều này
nhằm gây quỹ cho các cơ sở quản trị toàn cầu?
Điều đó sẽ xảy ra như nào?
GM: Tôi cởi mở với mọi mô hình nếu ta làm được.
Tôi nghĩ nó sẽ cần cả 2.
Có lẽ sẽ cần các cuộc hội thảo tài trợ bởi các nhà hảo tâm,
Nơi để nghĩ cách vận hành, kết nối giữa các bên.
Có lẽ UN sẽ muốn tham gia, tôi có nói chuyện với họ rồi.
Tôi nghĩ còn rất nhiều mô hình khác
và nó sẽ khá là tốn nước bọt đấy.
CA: Gary, cám ơn anh nhiều vì đã chia sẻ.
GA: Cám ơn rất nhiều.