אני רוצה לספר לכם סיפור
על בינה מלאכותית וחקלאים.
שילוב מוזר, נכון?
שני נושאים שלא יכלו להישמע שונים יותר זה מזה.
אבל האם ידעתם שהחקלאות המודרנית כרוכה למעשה בהרבה טכנולוגיה?
ראיית מחשב משמשת לחיזוי גודל היבולים,
והבינה המלאכותית משמשת לאיתור, זיהוי וחיסול חרקים.
ניתוח חיזוי עוזר להבין תנאי מזג אוויר קיצוניים
כמו בצורות או הוריקנים.
אבל הטכנולוגיה הזו גם מדירה חקלאים,
וכל זה הגיע לשיא בשנת 2017
כשחברת הטרקטורים “ג’ון דיר” הציגה טרקטורים חכמים.
לפני כן, אם הטרקטור של החקלאי התקלקל,
הוא יכול היה פשוט לתקן אותו בעצמו או לקחת אותו למכונאי.
ובכן, החברה קבעה שזה בלתי-חוקי
שחקלאים יוכלו לתקן את הציוד שלהם.
עליהם להיעזר בטכנאי מורשה
והחקלאים ייאלצו לחכות שבועות
ובינתיים, יבוליהם יירקבו והמזיקים ישתלטו.
אז הם לקחו את העניינים לידיהם.
חלקם למדו לתכנת,
והם עבדו עם פצחנים ויצרו טלאים כדי לתקן את המערכות שלהם.
בשנת 2022,
באחד מכנסי הפצחנים הגדולים בעולם, “דפקון“,
פצחן בשם “סיק קודס” והצוות שלו
הראה לכולם כיצד לפרוץ לטרקטור של ג’ון דיר,
ובכך הראה שקודם כל, הטכנולוגיה פגיעה,
אבל גם שאדם יכול וצריך להיות אחראי לציוד שלו.
שיהיה ברור, זה לא חוקי,
אבל יש אנשים שמנסים לשנות את זה.
התנועה הזו נקראת היום “זכות לתיקון“.
זכות לתיקון אומרת בערך ככה:
אם אתם בעלים של משהו טכנולוגי --
טרקטור, מברשת שיניים חכמה,
מכונת כביסה,
אמורה להיות לכם הזכות לתקן אותם אם הם מתקלקלים.
למה אני מספרת לכם את הסיפור הזה?
את הזכות לתיקון יש להחיל גם על הבינה המלאכותית.
נראה שבכל שבוע ושבוע
מופיע בבינה המלאכותית איזה חידוש חדש ומרתק.
אבל האם ידעתם שאמון הציבור דווקא יורד?
סקר “פיו” שנערך לאחרונה הראה
שהאמריקנים מודאגים יותר מאשר נלהבים מהטכנולוגיה.
זה הדהד בעולם כולו.
“סקר הסיכון העולמי” מראה
שהעונים עליו ממרכז ודרום אמריקה ומאפריקה
אמרו כולם שלדעתם הבינה המלאכותית תביא לאנשים יותר נזק מאשר תועלת.
כמדענית חברתית וכמפתחת בינה מלאכותית,
זה מתסכל אותי.
אני אופטימיסטית טכנולוגית
כי אני באמת מאמינה שהטכנולוגיה הזו יכולה להוביל לטוב.
אז איפה הנתק?
ובכן, שוחחתי בשנים האחרונות עם מאות אנשים.
אדריכלים ומדענים, עיתונאים וצלמים,
נהגי שיתוף-נסיעות ורופאים,
וכולם אומרים את אותו הדבר:
אנשים מרגישים שלא לקחו אותם בחשבון.
כולם יודעים שהנתונים שלהם נאספים לעתים קרובות ללא רשותם
כדי ליצור מערכות מתוחכמות אלה.
הם יודעים שמערכות אלה קובעות את ההזדמנויות שלהם בחיים שלהם.
הם גם יודעים שאיש מעולם לא טרח לשאול אותם
איך יש לבנות את המערכת,
ובוודאי שאין להם מושג לאן לפנות אם משהו משתבש.
אנו אולי לא הבעלים של מערכות הבינה המלאכותית,
אבל הן משתלטות אט-אט על חיינו.
אנו זקוקים ללולאת משוב טובה יותר
בין האנשים שמייצרים את המערכות הללו,
לבין האנשים שיכולים הכי טוב לספר לנו
איך מערכות הבינה המלאכותית האלה אמורות לנהל יחסי-גומלין עם עולמם.
צעד אחד בכיוון זה הוא תהליך בשם “צוות אדום“.
“צוות אדום” הוא תרגולת שמקורה בצבא,
והוא משמש באבטחת סייבר.
בתרגיל מסורתי של צוות אדום,
מובאים מומחים חיצוניים כדי שיפרצו למערכת,
בערך כמו מה ש“סיק קודס” עשה עם טרקטורים, אבל באופן חוקי.
אז צוות אדום משמש כאמצעי לבחון את ההגנות שלכם
וכשאתם יכולים לגלות איפה משהו ישתבש,
תוכלו למצוא איך לתקן את זה.
אבל כשמערכות בינה מלאכותית יוצאות משליטה,
זה יותר מסתם פריצה של פצחן.
המודל עלול להתקלקל או לייצג באופן שגוי את המציאות.
כך, למשל, לפני זמן לא רב,
ראינו מערכת בינה מלאכותית שמנסה ליצור מגוון
על ידי הצגת תמונות לא-מדויקות מבחינה היסטורית.
כל אדם בעל הבנה בסיסית בהיסטוריה המערבית
יכול היה לומר לכם שלא האבות המייסדים
ולא החיילים הנאציים היו שחורים.
במקרה כזה, מיהו המומחה המוסמך?
אתם.
אני עובדת עם אלפי אנשים ברחבי העולם
בתרגילי צוות אדום גדולים וקטנים,
והודות להם מצאנו ותיקנו טעויות במודלים של בינה מלאכותית.
אנו עובדים גם עם כמה מחברות הטכנולוגיה הגדולות בעולם:
“אופן איי-איי“, “מטא“, “אנטרופיק“, “גוגל“.
וכך גרמנו למודלים לעבוד טוב יותר למען רבים יותר.
הנה קצת ממה שלמדנו.
שיתפנו פעולה עם “החברה המלכותית” בלונדון
בעריכת אירוע סביב מידע שגוי ומסולף יחד עם מדעני מחלות.
מדענים אלה מצאו
שלמודלים של בינה מלאכותית יש למעשה הגנות רבות
מפני מידע שגוי על הקורונה.
אבל לגבי מחלות אחרות כמו חצבת, חזרת ושפעת,
לא חלו אותן הגנות.
דיווחנו על השינויים האלה,
הם תוקנו ועכשיו כולנו מוגנים טוב יותר
מפני מידע מדעי שגוי ומסולף.
עשינו תרגיל ממש דומה עם אדריכלים באוניברסיטת “אוטודסק“,
ושאלנו אותם שאלה פשוטה:
האם הבינה המלאכותית תהפוך אותם למובטלים?
או ליתר דיוק,
האם הם יכולים לדמיין מערכת בינה מלאכותית מודרנית
שתוכל לעצב בפרוטרוט מוזיאון לאמנות מודרנית?
התשובה, פה אחד, היתה “לא“.
כי אדריכלים עושים יותר מאשר סתם לצייר בניינים.
עליהם להבין בפיזיקה ובמדעי החומר.
עליהם להכיר את חוקי הבנייה,
ועליהם לעשות זאת
בעודם יוצרים משהו שמעורר רגש.
האדריכלים רצו במערכת בינה מלאכותית
שתעבוד יחד איתם, שתתן להם משוב,
שאולי תיזום המלצות עיצוב.
ומערכות הבינה המלאכותית של ימינו עדיין לא לגמרי שם.
אבל אלה בעיות טכניות.
האנשים שבונים בינה מלאכותית הם חכמים להפליא,
ואולי הם יוכלו לפתור את כל זה בעוד כמה שנים.
אבל זו לא היתה הדאגה הכי גדולה שלהם.
הדאגה הכי גדולה שלהם היתה אמון.
האדריכלים אחראים לכך שמשהו משתבש בבניינים שלהם.
הם עלולים לאבד את הרישיון שלהם,
הם עלולים להיקנס, הם עלולים אפילו להיכנס לכלא.
וכשלים עלולים לקרות במיליון דרכים שונות.
לדוגמה, דלתות יציאה שנפתחות בכיוון הלא-נכון,
ואז אנשים יימחצו בעת פינוי חירום,
או שברי זכוכית שייפולו על הולכי הרגל ברחוב
כי הרוח נושבת חזק מדי ומנפצת חלונות.
אז למה שאדריכל יאציל את עבודתו למערכת בינה מלאכותית,
לחופש שיש לה, פשוטו כמשמעו,
אם הוא לא יכול להתערב ולתקן טעות אם ימצא כזאת?
עלינו להבין את הבעיות האלה היום, ואגיד לכם למה.
הגל הבא של מערכות בינה מלאכותית, “אג’נטיק איי-איי“,
הוא נקודת מפנה אמיתית
בין זה שנקפיד על נוכחות אנושית ובין אם לא,
או בין זה שמערכות בינה מלאכותית יחליטו במקומנו או לא.
דמיינו גורם בינה מלאכותית כלשהו כמו עוזר אישי.
כך, למשל, גורם רפואי עשוי לקבוע
אם המשפחה שלכם זקוקה צריכה להיפגש עם רופא או לא,
גורם כזה אולי ידאג למלאי תרופות המרשם, או במקרה חירום,
ישלח לבית החולים את התיק הרפואי.
אבל גורמי בינה מלאכותית לא יכלו להתקיים ולא יתקיימו
אלא אם תהיה לנו זכות אמיתית לתקן.
איזה הורה יפקיד את בריאות ילדיו בידי מערכת בינה מלאכותית
בלי שיוכל להריץ איזה אבחון בסיסי?
איזה איש מקצוע יפקיד איוש משרות בידי מערכת בינה מלאכותית,
אלא אם כן יוכל להכשיר אותה מחדש כמו שעושים עם עובד זוטר?
הזכות לתקן עשויה להיראות בערך כך.
יכול להיות לכם לוח אבחון
שבו תבצעו בדיקות בסיסיות לפי תכנון שלכם,
ואם משהו לא בסדר, תוכלו לדווח על כך לחברה
ולקבל תשובה כשזה מתוקן.
או שתוכלו לעבוד עם צד שלישי כמו פצחנים אתיים
שמכינים טלאים למערכות כמו שאנו עושים היום.
תוכלו להוריד אותם ולשפר בעזרתם את המערכת שלכם
כפי שאתם רוצים שהיא תשתפר.
או שתוכלו להיות כמו החקלאים האמיצים האלה,
וללמוד לתכנת ולכייל את המערכות שלכם.
לא נשיג את היתרונות המובטחים של הבינה המלאכותית
אם לא נבין כיצד לשלב אנשים בתהליך הפיתוח.
הקדשתי את הקריירה שלי לבינה מלאכותית אחראית,
ובתחום זה אנו שואלים את השאלה,
מה החברות יכולות לבנות כדי להבטיח שאנשים יסמכו על הבינה המלאכותית?
בעזרת תרגילי צוות אדום אלה, והשיחות איתכם,
הבנתי ששאלנו כל הזמן את השאלה הלא-נכונה.
מה שהיינו צריכים לשאול הוא אילו כלים נוכל לבנות
כדי שאנשים יוכלו להפוך את הבינה המלאכותית למועילה עבורם?
אנשי הטכנולוגיה לא יכולים לעשות את זה בעצמם.
נוכל לעשות את זה אך ורק יחד איתכם.
תודה לכם.
(מחיאות כפיים)