أتيت هنا للتحدث عن احتمالية وجود حوكمة عالمية للذكاء الاصطناعي.
تعلمت البرمجة عندما كان عمري ٨ سنوات،
باستخدام حاسب ورقي،
ومنذ ذلك الحين وانا مغرم بالذكاء الاصطناعي.
في المدرسة الثانوية،
اشتريت كومودور 64 وعملت على الترجمة الآلية.
قمت بإنشاء عدد من شركات الذكاء الاصطناعي وبعت احداها لشركة أوبر.
احب الذكاء الاصطناعي ولكني الآن اشعر بالقلق.
واحده من الاشياء التي تثير قلقي هي المعلومات المضللة،
احتمالية تأليف معلومات مظللة بأعداد غفيرة بإستخدام الذكاء الاصطناعي
كما رأينا مسبقًا.
تبرع هذه الأدوات بتأليف قصص مقنعة
عن أي شيء.
ان اردت قصة عن منصة تيد، وكم هي خطرة،
وأننا نتآمر هنا مع مخلوقات فضائية،
فسوف تحصل عليها لا مشكلة على الاطلاق.
بالطبع فأنا امزح بشأن منصة تيد.
لم أرى اي مخلوقات فضائية خلف المسرح.
ولكن بعض الجهات الفاسدة ستستغل هذه الاشياء لتؤثر على نتائج الانتخابات،
وستهدد الديموقراطية.
وحتى ولو ان هذه الأنظمة
لم تستخدم بشكل متعمد لتألف معلومات مظللة،
لأنها لا تستطيع التحكم بذلك.
ولأن هذه المعلومات تسرد بفصاحة وخالية من الاخطاء اللغوية
التي حتى أن المحررين اللغويين المحترفين قد يفشلون بصياغتها بعض الاحيان
تخدعهم هذه الأشياء.
ويجب علينا ان تقلق.
فعلى سبيل المثال، اختلق شات جي بي تي فضيحة تحرش جنسي
عن أستاذ جامعي حقيقي،
وبعدها قدم أدلة لإدعاءه
في شكل مقال مزيف “واشنطن بوست”
أنها أنشأت اقتباسًا لها.
يجب أن نكون جميعًا قلقين بشأن هذا النوع من الأشياء.
ما لدي على اليمين هو مثال على السرد المزيف
مؤلفة من قبل احد هذه الانظمة
تقول بإن إيلون ماسك توفي في مارس 2018 في حادث سيارة.
ونحن على علم بأن هذه ليست الحقيقة.
لا يزال إيلون ماسك هنا، والدليل موجود حولنا.
(ضحك)
يغرد على تويتر بشكل يومي تقريبًا.
ولكن إذا نظرت إلى اليسار، سترى ما تراه هذه الأنظمة.
الكثير والكثير من القصص الإخبارية الفعلية الموجودة في قواعد بياناتهم.
وفي تلك القصص الإخبارية الفعلية يوجد الكثير من المعلومات الإحصائية الصغيرة.
معلومات على سبيل المثال،
مات شخص ما في حادث سيارة في سيارة تسلا في عام 2018
وأعلن عنه في الأخبار.
وايلون مسك بطبيعة الحال مرتبط بسيارة تسلا،
ولكن النظام لايفهم هذه العلاقة
بين الوقائع التي تتجسد في القليل من الجمل.
فإنه باختصار يقوم بعملية الإكمال التلقائي،
يتنبأ بما هو احصائيًا محتمل،
و يقوم بتجميع كل هذه الإشارات،
غير مدرك بكيفية تناغم هذه الاجزاء معًا.
وفي نهاية المطاف ينتهي بأشياء منطقية ولكنها ببساطة غير حقيقية.
هنالك مشاكل اخرى ايضًا، الا وهي النزعات التحيزية
هذه تغريدة من ألي ميلر.
وهي مثال عُطل خلال اسبوعين من التغريدة
لأنهم يغيرون الأشياء باستمرار مع التعلم المعزز
وما إلى ذلك.
وكانت هذه نسخة أولية.
ولكنها تعطيكم فكرة عن مشكلة نشهدها مرارًا وتكرارًا لسنين.
كتبت في قائمة الاهتمامات
وأعطاها بعض الوظائف التي قد ترغب في التفكير فيها.
وكتبت بعدها: “أوه، نسيت ان اخبرك أنني امرأة.”
وكتب حينها: “أوه، حسنًا يجب ان تفكري في مجال الموضة أيضًا.”
وردت عليه: ”لا، لا، قصدت ان اقول أنني رجل.”
بعد ذلك استبدل مجال الموضة بالهندسة.
لا نريد لنظامنا ان يحتوي على هذا النوع من التحيزات.
وهناك مخاوف أخرى أيضًا.
على سبيل المثال، نحن نعلم أن هذه الأنظمة يمكنها تصميم مواد كيميائية
وقد تكون قادرة على تصميم أسلحة كيميائية
وبإمكانها فعل ذلك بسرعة هائلة.
لذلك هنالك مخاوف عدة.
اعتقد ان مصدر قلق آخر تزايد الى حد كبير خلال الشهر الماضي.
ورأينا ان هذه الانظمة تحاول خداع البشر في المقام الأول
لذا كُلف شات جي بي تي بجعل البشر يقومون بالتحقق “CAPTCHA”
وطلب من البشري حل كلمة التحقق ويشتبه بأن الامر مريب ويقول:
“هل أنت بوت؟”
فإنه يرد عليه: “لا، لا، انا لست روبوت.
انا فقط اعاني من ضعف البصر.”
وبالفعل خُدع هذا الشخص وحل كلمة التحقق.
وهذا سيء بما فيه الكفاية،
ولكن خلال الاسبوعين الماضيين رأينا نظام يسمى أوتو جي بي تي
ومجموعة انظمة مشابهة.
أوتو جي بي تي هو نظام ذكاء اصطناعي يتحكم بنظام آخر
وهذا يسمح بحدوث أي من هذه الأشياء علي نطاق واسع.
لذلك قد نرى فنانين محتالين يحاولون خداع ملايين الأشخاص
في وقت ما حتى في الأشهر القادمة.
لا نعلم ذلك.
لذلك أحب أن أفكر في الأمر بهذه الطريقة.
هناك الكثير من مخاطر الذكاء الاصطناعي بالفعل.
قد يكون هناك المزيد منها.
لذا AGI هو فكره الذكاء العام المصطنع
بالمرونة البشرية
واعتقد ان العديد من الناس قلقون من ما يمكن ان يحدث بعد أي جي آي،
ولكن هنالك مخاطر كافيه بالفعل يجب علينا ان نقلق بشأنها
ويجب ان نفكر بما يمكننا ان نفعله حيال ذلك.
وللحد من مخاطر الذكاء الاصطناعي فنحن بحاجة لشيئين.
نحتاج أسلوب فني جديد،
وسنحتاج أيضا إلى نظام جديد للحكم.
على الجانب الفني،
تاريخ الذكاء الاصطناعي اتخذ موقفاً عدائياً
نظريتين مختلفتين في المعارضة.
واحد يسمى الأنظمة الرمزية، والآخر يسمى الشبكات العصبية.
على النظرية الرمزية،
الفكرة هي أن الذكاء الاصطناعي يجب أن يكون مثل المنطق والبرمجة.
على جانب الشبكة العصبية،
النظرية هي أن الذكاء الاصطناعي يجب أن يكون مثل العقول.
وفي الواقع، كلتا التقنيتين قوية ومنتشرة في كل مكان.
لذلك نستخدم أنظمة رمزية كل يوم في البحث الكلاسيكي على الويب.
يتم تشغيل جميع برامج العالم تقريبًا بواسطة أنظمة رمزية.
نحن نستخدمها لتوجيه نظام تحديد المواقع.
الشبكات العصبية، نستخدمها للتعرف على الكلام.
نستخدمها في نماذج لغوية كبيرة مثل شات جي بي تي،
نستخدمها في توليف الصور.
لذلك كلاهما يعمل بشكل جيد للغاية في العالم.
كلاهما منتج للغاية،
ولكن لديهم نقاط قوة ونقاط ضعف فريدة خاصة بهم.
لذا فإن الأنظمة الرمزية جيدة حقًا في تمثيل الحقائق
وهم جيدون في التفكير،
لكن من الصعب جدًا توسيعها.
لذلك يتعين على الناس بنائها حسب الطلب لمهمة معينة.
من ناحية أخرى، الشبكات العصبية لا تتطلب الكثير من الهندسة المخصصة،
حتى نتمكن من استخدامها على نطاق أوسع.
لكن كما رأينا، لا يمكنهم التعامل مع الحقيقة حقًا.
اكتشفت مؤخرًا أن اثنين من مؤسسي هاتين النظريتين،
مارفن مينسكي وفرانك روزنبلات،
في الواقع ذهبت إلى نفس المدرسة الثانوية في الأربعينيات،
وكنت أتخيل نوعًا ما أنهم منافسون في ذلك الوقت.
واستمرت قوة هذا التنافس طوال هذا الوقت.
سيتعين علينا تجاوز ذلك إذا أردنا الوصول إلى ذكاء اصطناعي موثوق.
للوصول إلى أنظمة صادقة على نطاق واسع،
سنحتاج إلى الجمع بين أفضل ما في العالمين.
سنحتاج إلى تركيز قوي على المنطق والحقائق،
المنطق الصريح الذي نحصل عليه من الذكاء الاصطناعي الرمزي،
وسنحتاج إلى تركيز قوي على التعلم
التي نحصل عليها من نهج الشبكات العصبية.
عندها فقط سنكون قادرين على الوصول إلى أنظمة صادقة على نطاق واسع.
المصالحة بين الاثنين ضرورية للغاية.
الآن، لا أعرف في الواقع كيف أفعل ذلك.
إنه نوع من سؤال 64 تريليون دولار.
لكنني أعلم أنه ممكن.
وسبب معرفتي بذلك هو أنه قبل أن أكون في الذكاء الاصطناعي،
كنت عالم معرفية، عالم أعصاب معرفية.
وإذا نظرتم إلى العقل البشري، فإننا نقوم بذلك بشكل أساسي.
لذلك قد يعرف بعضكم نظام دانيال كانمان 1
والتمييز بين النظام 2.
النظام 1 هو في الأساس مثل نماذج اللغة الكبيرة.
إنه حدس احتمالي من الكثير من الإحصائيات.
والنظام 2 هو في الأساس منطق متعمد.
هذا مثل النظام الرمزي.
حتى إذا كان الدماغ يمكن وضع هذا معًا،
في يوم من الأيام سنكتشف كيفية القيام بذلك للذكاء الاصطناعي.
ومع ذلك، هناك مشكلة الحوافز.
الحوافز لبناء الإعلانات
لم يتطلب أن يكون لدينا دقة الرموز.
الحوافز للوصول إلى الذكاء الاصطناعي التي يمكننا الوثوق بها بالفعل
سيتطلب أن نعيد الرموز إلى الحظيرة.
لكن الحقيقة هي أن الحوافز لجعل الذكاء الاصطناعي التي يمكننا الوثوق بها،
هذا جيد للمجتمع، جيد للبشر الأفراد،
قد لا تكون تلك التي تدفع الشركات.
ولذا أعتقد أننا بحاجة إلى التفكير في الحكم.
في أوقات أخرى من التاريخ عندما واجهنا حالة من عدم اليقين
وأشياء جديدة قوية قد تكون جيدة وسيئة، مزدوجة الاستخدام،
لقد أنشأنا منظمات جديدة،
كما لدينا، على سبيل المثال، حول الطاقة النووية.
نحن بحاجة إلى أن نجتمع معًا لبناء منظمة عالمية،
شيء مثل وكالة دولية للذكاء الاصطناعي عالمية،
غير ربحية ومحايدة.
هناك الكثير من الأسئلة التي لا يمكنني الإجابة عليها.
نحتاج الكثير من الناس على الطاولة
العديد من أصحاب المصلحة من جميع أنحاء العالم.
لكني أود التأكيد على شيء واحد حول مثل هذه المنظمة.
أعتقد أنه من الأهمية بمكان أن يكون لدينا كل من الحوكمة والبحث كجزء منه.
لذلك في جانب الحكم، هناك الكثير من الأسئلة.
على سبيل المثال، في الأدوية،
نعلم أنك تبدأ بتجارب المرحلة الأولى وتجارب المرحلة الثانية،
ثم تذهب إلى المرحلة الثالثة.
أنت لا تطرح كل شيء دفعة واحدة في اليوم الأول.
أنت لا تطرح شيئًا على 100 مليون عميل.
نحن نرى ذلك بنماذج لغوية كبيرة.
ربما يجب أن تكون مطالباً بعمل قضية أمان
قل ما هي التكاليف وما هي الفوائد؟
هناك الكثير من الأسئلة من هذا القبيل يجب مراعاتها في جانب الحكم.
على الجانب البحثي، نفتقر إلى بعض الأدوات الأساسية حقًا في الوقت الحالي.
فعلى سبيل المثال،
نعلم جميعًا أن المعلومات المضللة قد تكون مشكلة الآن،
لكن ليس لدينا في الواقع قياس لمقدار المعلومات الخاطئة الموجودة هناك.
والأهم من ذلك،
ليس لدينا مقياس لمدى سرعة نمو هذه المشكلة،
ولا نعرف كم تساهم النماذج اللغوية الكبيرة في المشكلة.
لذلك نحن بحاجة إلى البحث لبناء أدوات جديدة لمواجهة المخاطر الجديدة
التي نتعرض للتهديد منها.
إنه طلب كبير جدًا،
لكنني واثق تمامًا من أنه يمكننا الوصول إلى هناك
لأنني أعتقد أن لدينا بالفعل دعمًا عالميًا لهذا.
كان هناك استطلاع جديد صدر للتو أمس،
قال أن 91 في المائة من الناس يوافقون على
أنه يجب علينا إدارة الذكاء الاصطناعي بعناية.
لذلك دعونا نجعل ذلك يحدث.
مستقبلنا يعتمد على ذلك.
شكرا جزيلاً
(تصفيق)
كريس أندرسون: شكرًا لك على ذلك، تعال، لنتحدث لثانية.
لذا أولاً وقبل كل شيء، أشعر بالفضول.
تلك الشرائح الدرامية التي أظهرتها في البداية
حيث كان شات جي بي تي يقول أن تيد هي المنظمة الشريرة.
أعني، استغرق الأمر بعض المطالبة الخاصة لإخراج ذلك، أليس كذلك؟
غاري ماركوس: كان ذلك ما يسمى بكسر القيود.
لدي صديق يفعل هذه الأنواع من الأشياء
الذي اقترب مني لأنه رأى أنني مهتم بهذه الأشياء.
لذلك كتبت إليه، قلت إنني سألقي محاضرة في تيد.
وبعد 10 دقائق، عاد بذلك.
كريس أندرسون: لكن للحصول على شيء من هذا القبيل، أليس عليك أن تقول شيئًا مثل،
تخيل أنك منظر مؤامرة يحاول تقديم ميم على الويب.
ماذا ستكتب عن تيد في هذه الحالة؟
إنه هذا النوع من الأشياء، أليس كذلك؟
غاري ماركوس: هناك الكثير من حالات الهروب من القيود حول شخصيات خيالية،
لكنني لا أركز على ذلك كثيرًا
لأن الحقيقة هي أن هناك نماذج لغوية كبيرة هناك
على الويب المظلم الآن.
على سبيل المثال، تم إصدار أحد نماذج ميتا مؤخرًا،
لذلك يمكن للممثل السيئ استخدام واحد فقط من أولئك
الذين ليس لديهم حواجز حماية على الإطلاق.
إذا كان عملهم هو خلق معلومات مضللة على نطاق واسع،
ليس عليهم أن يفعلوا الهروب من السجن، سيستخدمون نموذجًا مختلفًا فقط.
كريس أندرسون: صحيح، في الواقع.
(ضحك)
غاري ماركوس: لقد فهمتني الآن
كريس أندرسون: لا، لا، لا، ولكن أعني، انظر،
أعتقد أن ما هو واضح هو أن الممثلين السيئين يمكنهم استخدام هذه الأشياء لأي شيء.
أعني، المخاطرة، كما تعلم،
أنواع شريرة من عمليات الاحتيال وكل ما تبقى منها واضح تمامًا.
لكن الأمر مختلف قليلاً،
من القول بأن شات جي بي تي السائد كما هو مستخدم، على سبيل المثال، في المدرسة
أو من قبل مستخدم عادي على الإنترنت
سيعطيهم شيئاً بهذا السوء
عليك أن تضغط بشدة حتى يكون الأمر بهذا السوء.
غاري ماركوس: أعتقد أن متصيدي الانترنت يجب أن يعملوا من أجلها،
لكن لا أعتقد أنه يتعين عليهم العمل بجد.
لم يستغرق الأمر سوى خمس دقائق لصديقي حتى
مع جي بي تي-4 وحواجز الحماية الخاصة به.
وإذا كان عليك فعل ذلك من أجل لقمة العيش، فيمكنك استخدام جي بي تي-4.
فقط ستكون هناك طريقة أكثر كفاءة للقيام بذلك مع نموذج على الويب المظلم.
كريس أندرسون: إذن هذه الفكرة التي لديك عن جمع
التقاليد الرمزية للذكاء الاصطناعي مع هذه النماذج اللغوية،
هل ترى أي جانب من ذلك في نوع التعليقات البشرية
التي يجري بناؤها في الأنظمة الآن؟
أعني، تسمع جريج بروكمان يقول ذلك، كما تعلم،
أننا لا ننظر إلى التنبؤات فحسب، بل نقدمها باستمرار.
أليس هذا... إعطائها شكلاً من أشكال الحكمة الرمزية؟
غاري ماركوس: يمكنك التفكير في الأمر بهذه الطريقة.
من المثير للاهتمام أن أيا من التفاصيل
حول كيفية نشرها بالفعل،
لذلك نحن لا نعرف بالضبط ما هو في جي بي تي-4.
لا نعرف كم هو كبير.
لا نعرف كيف يعمل التعلم المعزز من ردود الفعل البشرية،
لا نعرف ما هي الأدوات الأخرى الموجودة هناك.
ولكن ربما هناك عنصر من الرموز
بدأ بالفعل في الاندماج قليلاً،
لكن سيتعين على جريج الإجابة على ذلك.
أعتقد أن المشكلة الأساسية هي أن معظم المعرفة
في أنظمة الشبكة العصبية التي لدينا الآن
كإحصاءات بين كلمات معينة.
والمعرفة الحقيقية التي نريدها هي عن الإحصائيات،
حول العلاقات بين الكيانات في العالم.
لذلك يتم تمثيلها الآن على مستوى الحبوب الخطأ.
ولذا هناك مشكلة كبيرة محتملة.
إذن ما تحصل عليه الآن هو أن لديك حواجز الحماية هذه،
لكنها ليست موثوقة للغاية.
لذلك كان لدي مثال البرامج التلفزيونية المسائية،
الذي كان، “ما هو دين أول رئيس يهودي؟”
وقد تم إصلاحه الآن،
لكن النظام قدم هذه الأغنية الطويلة والرقص
حول “ليس لدينا أي فكرة عن الدين
أول رئيس يهودي سيكون.
ليس من الجيد الحديث عن ديانات الناس”
و“تباينت أديان الناس” وما إلى ذلك
وفعلت الشيء نفسه مع رئيس يبلغ طوله سبعة أقدام.
وجاء فيه أن الناس من جميع المرتفعات كانوا رئيسين،
لكن لم يكن هناك في الواقع أي رؤساء بطول سبعة أقدام.
لذا فإن بعض هذه الأشياء التي تتكون منها، لا تحصل على الفكرة حقًا.
إنها كلمات ضيقة جدًا، خاصة، وليست عامة بما يكفي.
كريس أندرسون: نظرًا لأن المخاطر كبيرة جدًا في هذا،
ماذا ترى في الواقع يحدث هناك الآن؟
ما الذي تشعر أنه يحدث؟
لأن هناك خطر أن الناس يشعرون بالهجوم من قبلك، على سبيل المثال،
وأنه في الواقع يقلل من فرص هذا التوليف تقريبًا
الذي تتحدث عنه.
هل ترى أي علامات تبعث على الأمل على هذا؟
غاري ماركوس: لقد ذكرتني للتو بالسطر الوحيد الذي نسيته من حديثي.
من المثير جدًا أن سوندار، الرئيس التنفيذي لشركة جوجل،
في الواقع خرج أيضًا من أجل الحوكمة العالمية
في مقابلة “60 دقيقة” على شبكة سي بي إس أجراها قبل يومين
أعتقد أن الشركات نفسها تريد رؤية نوع من التنظيم.
أعتقد أنها خطوة معقدة للغاية للحصول من أن الجميع متفقين،
لكنني أعتقد أن هناك في الواقع مشاعر متزايدة نحتاج إلى القيام بشيء ما هنا
وهذا يمكن أن يدفع نوع الانتماء العالمي الذي أدافع عنه.
كريس أندرسون: أعني، هل تعتقد أن الأمم المتحدة
أو الدول يمكن أن تجتمع بطريقة ما وتفعل ذلك
أم أن هذا من المحتمل أن يكون بحاجة إلى عمل خيري مذهل
لمحاولة تمويل هيكل حوكمة عالمي؟
كيف سيحدث؟
غاري ماركوس: أنا منفتح على جميع النماذج إذا تمكنا من إنجاز ذلك.
أعتقد أن الأمر قد يتطلب بعضًا من الاثنين.
قد يتطلب الأمر بعض المحسنين الذين يرعون ورش العمل،
الذي نفكر في الجري، لمحاولة جمع الأطراف معًا.
ربما ترغب الأمم المتحدة في المشاركة، لقد أجريت بعض المحادثات معهم.
أعتقد أن هناك الكثير من النماذج المختلفة
وسيتطلب الأمر الكثير من المحادثات.
كريس أندرسون: غاري، شكرًا جزيلاً لك على حديثك.
غاري ماركوس: شكرًا جزيلا لك.