لقد بنينا الذكاء الاصطناعي بالفعل،
والذي يؤدي بشكلٍ أفضل في مهام محددة.
والذي يمكنه التغلب على أساتذة لعبة الشطرنج.
ولكن منذ تقديم الذكاء الاصطناعي التوليدي،
لعامة الناس قبل بضع سنوات،
كان هناك المزيد من الحديث عن الذكاء العام الاصطناعي، أو AGI،
ومدار الحديث كالآتي:
أنه هناك ذكاءً اصطناعيًا يماثل الأداء المستوى البشري أو أعلى منه حتى،
في مهامٍ كثيرة، تمامًا كقدرتنا نحن البشر.
يشعر الناس بالقلق حول الذكاء الإصطناعي العام وما يعنيه،
إذا وصلنا فعلًا إلى هذا المستوى من الأداء تقنيًا.
بعض الناس في الشركات التقنية،
خرجوا علنًا ليقولوا:
“إن الذكاء الاصطناعي الذي نقوم ببنائه قوي للغاية وخطير،
لدرجة أنه يشكل تهديداً على الإنسانية“.
وتوجهوا إلى الحكومة،
وأشاروا إلى ضرورة تدخل الحكومة لضبط صناعة هذه التقنية.
عادةً، عندما تخترع الشركات التقنية أداة جديدة قوية،
فإنهم لا يقولون أبدًا إنها تشكل تهديدًا وجوديًا للإنسانية
وأنه يجب تقييدها وضبطها، فلماذا يصرحون بذلك الآن؟
برأيي أنه هناك سببان رئيسيان لذلك:
الأول هو إذا كانت التقنية التي صنعتَها قوية جدًا،
فبإمكانها أن تدمر الحضارة، ما بين الآن وحتى ذلك الوقت،
ستجني الشركات أرباحاً هائلة.
وهل هناك أي طريقة أفضل لإقناع المستثمرين
ليستثمروا أموالهم في شركتك،
من خلال التحذير من خطر الأداة التي صنعتها لهذه الدرجة؟
السبب الآخر هو أن فكرة تفوق الذكاء الاصطناعي على البشرية
هي حقا مفهوم سينمائي.
لقد رأينا جميعًا تلك الأفلام.
ومن الممتع التفكير في مطابقة الخيال السينمائي مع الواقع الآن،
بالأدوات التي هي حاليًا تحت أيدينا.
في الواقع، إنها لعبة مسلية جدًا لدرجة أنها تلهينا تمامًا
عن المشاكل الحقيقية التي تحدث بالفعل في العالم بسبب الذكاء الاصطناعي.
كلما فكرنا أكثر في هذه المشاكل غير المنظورة في المستقبل،
كلما قل الوقت الذي نقضيه في معالجة أشياء مثل التزييف العميق،
أو مشكلة أن الذكاء الاصطناعي يُستخدم الآن لاتخاذ القرار،
بشأن هل يُطلق سراح الناس من السجن أم لا،
ونحن نعلم مسبقاً أن الذكاء الاصطناعي متحيز عنصريًا.
ولكن هل اقتربنا فعلًا من إنجاز الذكاء الاصطناعي العام؟
بعض الناس يعتقدون ذلك.
إيلون ماسك قال إننا سنحقق ذلك في غضون عام.
أعتقد أنه نشر هذا قبل بضعة أسابيع.
ولكن في تاريخ منشور أيلون ماسك ذاته،
طرحت Google أداة البحث “عدسة غوغل” والتي يفترض أن تعطيك الإجابة
دون حاجة للنقر فوق الرابط،
واضح أن الأمور هنا ليست صحيحة!
["كم عدد الصخور التي يجب أن آكلها؟"]
[“... على الأقل حصة واحدة من الحصى أو الحجارة...“]
من فضلك لا تأكل الصخور!.
(ضحك)
بالطبع سوف تتحسن هذه الأدوات.
ولكن إذا أردنا إنجاز الذكاء الاصطناعي العام
أو إذا قُدر لهذا الذكاء الاصطناعي العام أن يغير جذريًا طريقة عملنا،
فنحن بحاجة إلى أن يعمل صانعوا هذه التقنية،
على تطوير قدرات هذه الأدوات بقوة وصقلها بشكل متصاعد،
هذا هو الاحتمال الأول،
الاحتمال الثاني،
هو أن هذه الأدوات قد حققت أساسًا
كل ما بمقدورها فعله،
ولا مجال مستقبلًا سوى لتحسينات تدريجية لهذه التقنيات.
لذا، لفهم مستقبل الذكاء الاصطناعي،
نحن بحاجة إلى تفحّص كل هذه الضجة حولها،
لمعرفة حقيقتها، ولنرى ما هو ممكن من الناحية الفنية.
وعلينا أيضًا التبصّر فيما يقلقنا بشأن هذه التقنيات
وجوانبها الأخرى التي لا قلق بشأنها.
لذا، إذا أردنا أن نعرف حقيقة الضجة حول الذكاء الاصطناعي،
فإن التحدي الرئيسي الوحيد الذي يتعين علينا حله هو الموثوقية.
هذه الخوارزميات تخطئ باستمرار، كما رأينا مع غوغل قبل قليل.
وفي الواقع خرج المسؤولون في غوغل،
بعد انتشار نتائج البحث السيئة هذه،
وقالوا أنهم لا يعرفون كيفية حل هذه المشكلة.
أنا أستخدم ChatGPT كل يوم،
أكتب رسالة إخبارية تلخص المناقشات على المنصات اليمينية المتطرفة،
أقوم بتنزيل المناقشات، وأرفعها لـChatGPT،
ليساعدني في كتابة ملخص لها.
وهذا يجعلني أكثر كفاءة مما لو اضطررت إلى القيام بكل ذلك يدويًا.
ولكن لا بد لي - على الدوام - من إجراء تصحيحات على ملخصاته،
لأنه يسيء فهم بعض الأشياء،
فيخرج عن السياق.
ولهذا السبب،
لا يمكنني الإعتماد عليه ليقوم بمهمتي،
وهذه الإعتماد مهمة حقًا.
من مشاكل الموثوقية في هذا المجال، ما يُسمى بهلوسة الذكاء الاصطناعي،
مصطلح تقني رائع لحقيقة أن الذكاء الاصطناعي يختلق الأشياء فحسب.
دائمًا يختلق الأشياء.
جربت هذا في رسالتي الإخبارية
سألت ChatGPT هل هناك أي شخص يهدد بالعنف؟
إذا كان الأمر كذلك، فأخبرني من قال ذلك؟.
قدم لي ثلاثة تهديدات عنيفة واضحة،
ولأن إجابته لا تشبه ما يقوله الناس،
على منصاتهم هذه
راجعت المنصات، ولم أجد أحدًا قالها على الإطلاق.
لقد صنع ChatGPT ذلك من لا شيء!
تعرفون الصور المنشأة بالذكاء الاصطناعي التوليدي
طلبت منه أن يمنحني صورة مقربة لأشخاص تتماسك أيديهم.
هذه هلوسة، وهلوسة مزعجة أيضًا
(ضحك)
علينا أن نحل مشكلة الهلوسة هذه،
إذا أردنا أن يرتقي هذا الذكاء الاصطناعي إلى مستوى هذه الضجة حوله.
ولا أعتقد أنها مشكلة قابلة للحل.
مع الطريقة التي تعمل بها هذه التكنولوجيا،
هناك من يقول، ستحل هذه المشكلة خلال بضعة أشهر،
ولكن لا يوجد سبب فني يؤيد هذا القول.
لأن الذكاء الاصطناعي التوليدي يختلق الأشياء دائمًا.
عندما تطرح عليه سؤالاً،
فإنه يُنشئ لك تلك الإجابة، أو تلك الصورة من الصفر
كإجابة لسؤالك،
إنه ليس مثل محرك البحث الذي يذهب ويجد الإجابة الصحيحة على صفحة ما.
ولأن وظيفته هي اختلاق الأشياء في كل مرة،
فلا أعلم متى سنكون قادرين على الحصول على الإجابات الصحيحة
ونميّزها من الأشياء الأخرى التي يختلقها.
وهذا ليس ما تم تدريبه على القيام به،
ونحن بعيدون جدًا عن تحقيق ذلك.
وفي الواقع، هناك من يبذلون قصارى جهدهم.
هناك الكثير من الحماس في المجال القانوني،
فيما يخص استخدام الذكاء الاصطناعي
حيث يأملون أن يساعدنا في كتابة الملخصات القانونية والأبحاث.
وقد تعلم بعض القانونيين من أخطائهم،
تعلموا ألا يستعينوا بـ ChatGPT لكتابة المذكرات القانونية،
لإرسالها إلى المحكمة الفيدرالية،
لأنه فقط يختلق قضايا ويجعلها تبدو صحيحة.
وهذه طريقة سريعة حقًا لإثارة غضب القاضي عليك،
وإنهاء قضيتك.
بعض شركات الأبحاث القانونية،
أعلنت عن أدوات ذكاء اصطناعي توليدي
خالية من الهلوسة.
وأنا كنت متشككة حقًا بشأنها.
وقد قام الباحثون في جامعة ستانفورد بالفعل بفحصها،
وقد وجدوا أن أفضل الأدوات الخالية من الهلوسة أداءً
لا تزال تهذي بنسبة 17 بالمائة من الوقت.
لذلك فإذا سلمنا بأنه إنجاز علمي عظيم؛ إذ بنينا أداة
يمكننا أن نطرح عليها أي استفسار،
وتعطينا إجابة معقولة بنسبة 60 أو 70 بالمائة،
أو ربما حتى 80 بالمائة،
ولكن إذا كنا سنعتمد على استخدام تلك الأدوات،
وهي تخطئ بنسبة 20 أو 30 بالمائة،
فلا يوجد نموذج مفيد حقًا.
وهذا الأمر يقودنا إلى التساؤل،
كيف نجعل هذه الأدوات مفيدة؟
لأنه حتى لو كنت لا تصدقني،
وتعتقد أننا سنحل مشكلة الهلوسة هذه،
كما سنقوم بحل مشكلة الموثوقية،
فإن هذه الأدوات لا تزال بحاجة إلى تحسين أدائها الحالي
وهناك شيئان تحتاجهما تلك الأدوات لتتحسن،
الأول هو الكثير والكثير من البيانات،
والثاني هو أن التقنية نفسها يجب أن تتحسن.
إذن من أين سنحصل على تلك البيانات؟
لأنهم أخذوا فعلًا جميع الأشياء الموثوقة على الإنترنت.
وإذا تمكنوا من العثور على ضعف ما لديهم من البيانات،
فإن هذا لا يعني أن ذكاء هذه الأدوات سيتضاعف
لا أعرف إذا كان هناك ما يكفي من البيانات،
هذا غير أن حقيقة أن ما نجح فيه الذكاء الاصطناعي التوليدي،
بشكل كبير للغاية،
هو إنتاج محتوى منخفض الجودة عبر الإنترنت.
مثل ما تنتجه الروبوتات على وسائل التواصل الاجتماعي، المعلومات المضللة،
وصفحات تحسين نتائج البحث (SEO) التي لا تفيد بشيء،
ولكنها مليئة بالكثير من الإعلانات التي تظهر في أعلى نتائج البحث.
وإذا بدأ الذكاء الاصطناعي في التدريب على الصفحات ذاتها التي أنشأها،
فإن أبحاثنا عن الذكاء الاصطناعي تخبرنا أن الأمور تزداد سوءًا بالتدريج.
إنه مثل النسخة الرقمية من مرض جنون البقر.
(ضحك)
لنفترض أننا حللنا مشكلة البيانات.
لا يزال يتعين عليك تحسين التكنولوجيا.
وقد رأينا أن 50 مليار دولار تم استثمارها في مجال الذكاء الاصطناعي التوليدي،
في العامين الماضيين
قد جلبت إيرادات بقيمة 3 مليارات دولار.
لذلك هذا استثمار غير مستدام.
لكن طبعًا من المبكر الحكم عليه صحيح؟
قد تجد الشركات طرقًا للبدء في استخدام هذه التكنولوجيا.
ولكن هل ستكون ذات قيمة كافية
لتبرير عشرات وربما مئات المليارات من الدولارات
من الأجهزة التي يجب شراؤها
لجعل هذه النماذج تتحسن؟
لا أعتقد ذلك.
ويمكننا أن نبدأ بالنظر إلى أمثلة عملية لمعرفة ذلك.
ويقودنا ذلك إلى التفكير في الجوانب التي تثير القلق.
لأن الجانب الذي أثار القلق لدى الجميع،
هو إستيلاء الذكاء الاصطناعي على وظائفنا.
الكثير من الناس يقولون أن هذا سيحدث،
والناس قلقون بشأن ذلك.
وأعتقد أن هناك سوء فهم أساسي في جوهر هذه الفكرة.
تخيل هذا السيناريو:
لدينا شركة،
يمكنها سداد مرتبات اثنين من مهندسي البرمجيات.
ودعمنا هؤلاء المهندسَين بالذكاء الاصطناعي التوليدي لمساعدتهما في البرمجة،
وهو أمر يجيده الذكاء الاصطناعي وبجدارة،
لنفترض أن ذلك ضاعف الكفاءة مرتين،
وهذه مبالغة كبيرة في التقدير، لكنها تسهل علينا الحساب،
ففي هذه الحالة، أمام الشركة خياران:
إما طرد واحد من المهندسين الإثنين،
لأن الآخر يمكنه القيام بعمل شخصين الآن،
أو يمكنهم بالفعل تحمل تكلفة الإثنين،
لأنهم أصبحوا أكثر كفاءة بمرتين،
لذلك فهما سيجلبان المزيد من الأرباح،
فلماذا لا تحتفظ بكليهما وتأخذ هذا الربح الإضافي؟
إن كان ما يُفشل هذه الحَسبة، فهو أن يكون الذكاء الاصطناعي باهظ الثمن جدًا
وأنه لا يستحق كل هذا العناء.
ولكن ماذا إن كان الذكاء الاصطناعي يكلف مائة ألف دولار سنويًا
للقيام بعمل شخص واحد؟
يبدو هذا مكلفًا حقًا.
من الناحية العملية،
هناك بالفعل إصدارات مفتوحة المصدر من هذه الأدوات،
وهي منخفضة التكلفة، ويمكن للشركات تركيبها وتشغيلها بنفسها،
ربما لا يكون أداؤها مماثلًا لأداء النماذج المشهورة،
ولكن إذا كانت بنصف الجودة ورخيصة حقًا،
ألن تقبل بها عوضًا عن تلك التي تكلف مائة ألف دولار سنويًا،
للقيام بعمل شخص واحد؟
بالطبع سوف تقبل.
وهكذا، حتى لو حللنا مشكلة الموثوقية، وحللنا مشكلة البيانات،
وتمكنّا من جعل النماذج أفضل،
فإن كون أن هناك إصدارات رخيصة متاحة من هذه الأدوات،
يشير إلى أن الشركات لن تنفق مئات الملايين من الدولارات،
لاستبدال طاقمهم العامل بالذكاء الاصطناعي
ومع ذلك، هناك مجالات تستحق أن نقلق عليها.
لأنه إذا نظرنا إلى الذكاء الاصطناعي الآن،
هناك الكثير من المشاكل التي لم نتمكن بعد من حلها.
لقد ساهمتُ ببناء الذكاء الاصطناعي لأكثر من 20 عامًا،
وهناك شيء أنا متأكدة منه:
وهو أنه إذا قمنا بتدريب الذكاء الاصطناعي على البيانات البشرية،
فإنه سوف يتبنى تحيزاتنا البشرية،
ولم نتمكن بعد من معالجة ذلك الخلل.
لقد رأينا بداية ظهور تلك التحيزات في الذكاء الاصطناعي التوليدي،
ودائمًا تكون رد فعلنا التلقائية: حسناً،
لنضع قيودًا لمنع الذكاء الاصطناعي من التحيّز.
لكن أولًا القيود لا تعالج التحيز أبدًا، لأن الذكاء الاصطناعي يستطيع تجاوزها.
وثانيًا، يمكن أن تسبب قيود الحماية نفسها مشكلات.
لذا لدى جوجل مولد صور يعمل بالذكاء الاصطناعي،
وحاولوا وضع حواجز حماية في مكانها الصحيح لوقف التحيز في النتائج.
واتضح أنه أخطأ.
هذا طلب للصورة
بمناسبة التوقيع على إعلان الاستقلال.
وهي صورة رائعة، ولكنها ليست صحيحة من الناحية الواقعية.
وهكذا في محاولة لوقف التحيز،
ينتهي بنا الأمر إلى خلق المزيد من مشاكل الموثوقية.
لم نتمكن من حل مشكلة التحيز هذه.
وإذا كنا نفكر فيما يخص تأجيل صنع القرار،
بإحلال هذه التكنولوجيا مكان صناع القرار البشري،
ولا تزال تواجهنا مشكلة التحيّز هذه،
فهذا شيء يجب أن نقلق بشأنه،
وأن نطالب بإيجاد بحلول له،
قبل أن يتم اعتماده واستخدامه على نطاق واسع .
وأعتقد أن هناك شيء أخير مفقود هنا،
وهو أن ذكاءنا البشري
لا يتم تعريفه فقط من خلال إنتاجيتنا في العمل.
بل يُعرّف ذكاؤنا البشري من خلال قدرتنا على التواصل مع الآخرين،
وقدرتنا على الحصول على استجابات عاطفية،
أن نأخذ ماضينا وندمجه مع المعلومات الجديدة
والتوصل بشكل خلاق إلى أشياء جديدة.
وهذا شيء لا يستطيعه الذكاء الاصطناعي الآن
ولن يستطيع القيام به أبدًا.
ربما يكون قادرا على تقليده،
وإعطائنا نسخة مقلدة رخيصة من التواصل البشري الحقيقي،
والتعاطف والإبداع.
لكنه لا يستطيع القيام بهذه الأشياء التي هي من صميم إنسانيتنا.
ولهذا السبب فأنا لست قلقة حقًا بشأن سيطرة الذكاء الاصطناعي العام على الحضارة.
ولكن إن خرجتم من هنا غير مصدقين لكل ما قلته لكم،
ولا زلتم قلقين من فكرة
أن يدمر أسياد الذكاء الاصطناعي البشرية،
فتذكروا شيئًا واحدًا:
ورغم ما قالته لك الأفلام،
إذا ساءت الأمور بالفعل،
فلا يزال بإمكاننا إيقاف تشغيله دائماً!
(ضحك)
شكراً لكم.
(تصفيق)