أريد أن أخبركم قصة
عن الذكاء الاصطناعي والمزارعين.
الآن، يا له من مزيج غريب، أليس كذلك؟
لا يمكن أن يبدو موضوعان مختلفين عن بعضهما البعض.
لكن هل تعلم أن الزراعة الحديثة تنطوي بالفعل على الكثير من التكنولوجيا؟
لذلك يتم استخدام رؤية الكمبيوتر للتنبؤ بإنتاجية المحاصيل.
ويستخدم الذكاء الاصطناعي للعثور على الحشرات
والتعرف عليها والتخلص منها.
تساعد التحليلات التنبؤية في اكتشاف الظروف الجوية القاسية
مثل الجفاف أو الأعاصير.
لكن هذه التكنولوجيا تنفر المزارعين أيضًا.
وقد وصل كل هذا إلى ذروته في عام 2017
مع شركة الجرارات John Deere عندما قدمت الجرارات الذكية.
لذا قبل ذلك، إذا تعطل جرار المزارع،
يمكنه فقط إصلاحه بنفسه أو نقله إلى ميكانيكي.
حسنًا، جعلت الشركة في الواقع من غير القانوني
للمزارعين إصلاح معداتهم الخاصة.
كان عليك استخدام فني مرخص
وسيتعين على المزارعين الانتظار لأسابيع
حتى تتعفن محاصيلهم وتنتشر الآفات.
لذلك أخذوا الأمور بأيديهم.
تعلم بعضهم البرمجة،
وعملوا مع المتسللين لإنشاء تصحيحات لإصلاح أنظمتهم الخاصة.
في عام 2022،
في أحد أكبر مؤتمرات القراصنة في العالم، DEFCON
وهو مخترق يدعى Sick Codes وفريقه
للجميع كيفية اقتحام جرار John Deere،
مما يدل على أن التكنولوجيا، أولاً وقبل كل شيء، كانت ضعيفة،
ولكن أيضًا أنه يمكنك ويجب عليك امتلاك معداتك الخاصة.
للتوضيح، هذا غير قانوني،
ولكن هناك أشخاص يحاولون تغيير ذلك.
الآن تسمى هذه الحركة «الحق في الإصلاح».
الحق في الإصلاح يسير على هذا النحو.
إذا كنت تمتلك قطعة من التكنولوجيا،
فقد تكون جرارًا أو فرشاة أسنان ذكية
أو غسالة ملابس،
فيجب أن يكون لديك الحق في إصلاحها في حالة تعطلها.
فلماذا أقول لك هذه القصة؟
يجب أن يمتد الحق في الإصلاح إلى الذكاء الاصطناعي.
الآن يبدو أن
هناك كل أسبوع ابتكارًا جديدًا ومذهلًا في الذكاء الاصطناعي.
لكن هل تعلم أن ثقة الجمهور آخذة في الانخفاض بالفعل؟
أظهر استطلاع أجرته مؤسسة بيو مؤخرًا أن المزيد من الأمريكيين يشعرون بالقلق
أكثر من حماسهم للتكنولوجيا.
يتردد صدى هذا في جميع أنحاء العالم.
يُظهر استطلاع مخاطر عالمي
أن المشاركين من أمريكا الوسطى والجنوبية وأفريقيا قالوا
جميعًا إنهم يشعرون أن الذكاء الاصطناعي سيؤدي إلى ضرر أكثر مما ينفع شعوبهم.
بصفتي عالمًا اجتماعيًا ومطورًا للذكاء الاصطناعي،
فإن هذا يحبطني.
أنا متفائل بالتكنولوجيا
لأنني أعتقد حقًا أن هذه التكنولوجيا يمكن أن تؤدي إلى الخير.
إذن ما هو الانفصال؟
حسنًا، لقد تحدثت إلى مئات الأشخاص خلال السنوات القليلة الماضية.
المهندسون المعماريون والعلماء والصحفيون والمصورون والسائقون والأطباء
يتشاركون الركوب،
وكلهم يقولون نفس الشيء.
يشعر الناس وكأنهم فكرة لاحقة.
يعلمون جميعًا أن بياناتهم يتم حصادها غالبًا دون إذنهم
لإنشاء هذه الأنظمة المعقدة.
إنهم يعرفون أن هذه الأنظمة تحدد فرص حياتهم.
إنهم يعرفون أيضًا أنه لم يكلف أحد عناء سؤالهم عن
كيفية بناء النظام،
وبالتأكيد ليس لديهم أي فكرة إلى أين يذهبون إذا حدث خطأ ما.
قد لا نمتلك أنظمة الذكاء الاصطناعي،
لكنها تهيمن ببطء على حياتنا.
نحن بحاجة إلى ردود فعل أفضل
بين الأشخاص الذين يصنعون هذه الأنظمة
والأشخاص الأكثر تصميمًا على إخبارنا
بكيفية تفاعل أنظمة الذكاء الاصطناعي هذه في عالمهم.
خطوة واحدة نحو ذلك هي عملية تسمى الفريق الأحمر.
الآن، أصبح العمل الجماعي الأحمر ممارسة بدأت في الجيش،
وتستخدم في الأمن السيبراني.
في تمرين الفريق الأحمر التقليدي،
يتم جلب خبراء خارجيين لاقتحام النظام،
نوعًا ما مثل ما فعلته Sick Codes مع الجرارات، ولكنه قانوني.
لذا فإن الفريق الأحمر يعمل كطريقة لاختبار دفاعاتك
وعندما تتمكن من معرفة أين سيحدث خطأ ما،
يمكنك معرفة كيفية إصلاحه.
ولكن عندما تصبح أنظمة الذكاء الاصطناعي خادعة،
يكون الأمر أكثر من مجرد اختراق مخترق.
يمكن أن يتعطل النموذج أو يحرف الواقع.
لذلك، على سبيل المثال، منذ وقت ليس ببعيد،
رأينا نظامًا للذكاء الاصطناعي يحاول التنوع
من خلال عرض صور غير دقيقة تاريخيًا.
كان بإمكان أي شخص لديه فهم أساسي للتاريخ الغربي
أن يخبرك أنه لن يكون الآباء المؤسسون
ولا جنود الحقبة النازية من السود.
في هذه الحالة، من الذي يتأهل كخبير؟
أنت.
أنا أعمل مع آلاف الأشخاص في جميع أنحاء العالم
على تمارين الفريق الأحمر الكبيرة والصغيرة،
ومن خلالها اكتشفنا الأخطاء وأصلحناها في نماذج الذكاء الاصطناعي.
نحن نعمل أيضًا مع بعض أكبر شركات التكنولوجيا في العالم:
OpenAI و Meta و Anthropic و Google.
ومن خلال هذا، جعلنا النماذج تعمل بشكل أفضل لمزيد من الأشخاص.
إليك القليل مما تعلمناه.
لقد عقدنا شراكة مع الجمعية الملكية في لندن لإجراء حدث علمي
وخاطئ وتضليلي مع علماء الأمراض.
ما وجده هؤلاء العلماء
أن نماذج الذكاء الاصطناعي تتمتع بالفعل بالكثير من الحماية
ضد المعلومات الخاطئة حول كوفيد.
ولكن بالنسبة لأمراض أخرى مثل الحصبة والنكاف والإنفلونزا،
لم يتم تطبيق نفس الحماية.
أبلغنا عن هذه التغييرات،
وتم إصلاحها والآن نحن جميعًا محميون بشكل أفضل
ضد الأخطاء العلمية والمعلومات المضللة.
لقد أجرينا تمرينًا مشابهًا حقًا مع المهندسين المعماريين في جامعة أوتوديسك،
وسألناهم سؤالًا بسيطًا: هل
سيؤدي الذكاء الاصطناعي إلى إخراجهم من العمل؟
أو بشكل أكثر تحديدًا،
هل يمكنهم
تخيل نظام ذكاء اصطناعي حديث قادر على تصميم مواصفات متحف الفن الحديث؟
كان الجواب، بشكل مدوي، لا.
لهذا السبب، يقوم المهندسون المعماريون بأكثر من مجرد رسم المباني.
يجب عليهم فهم الفيزياء وعلوم المواد.
يجب أن يعرفوا قوانين البناء،
وعليهم القيام بذلك
أثناء صنع شيء يثير المشاعر.
ما أراده المهندسون المعماريون هو نظام ذكاء اصطناعي
الذي يتفاعل معهم، والذي من شأنه أن يمنحهم التعليقات،
وربما يقدم توصيات التصميم بشكل استباقي.
وأنظمة الذكاء الاصطناعي الحالية، ليست موجودة تمامًا بعد.
لكن هذه مشاكل فنية.
الذين يبنون ذكاء اصطناعي أذكياء جدا،
وربما يمكنهم حل كل ذلك في غضون بضع سنوات.
لكن هذا لم يكن مصدر قلقهم الأكبر.
كان همهم الأكبر هو الثقة.
الآن يتحمل المهندسون المعماريون المسؤولية إذا حدث خطأ ما في مبانيهم.
يمكن أن يفقدوا رخصتهم،
ويمكن تغريمهم، بل قد يذهبون إلى السجن.
ويمكن أن تحدث حالات الفشل بمليون طريقة مختلفة.
على سبيل المثال، أبواب الخروج التي تفتح بطريقة خاطئة،
مما يؤدي إلى سحق الناس في أزمة الإخلاء،
أو تساقط الزجاج المكسور على المشاة في الشارع
لأن الرياح تهب بشدة وتحطم النوافذ.
فلماذا يثق المهندس المعماري بنظام الذكاء الاصطناعي في وظيفته،
مع حريته الحرفية،
إذا لم يتمكن من الدخول وإصلاح الخطأ إذا وجده؟
لذلك نحن بحاجة إلى معرفة هذه المشاكل اليوم، وسأخبرك لماذا.
تمثل الموجة التالية من الذكاء الاصطناعي، والتي تسمى الذكاء الاصطناعي الوكيل،
نقطة تحول حقيقية
بين ما إذا كنا سنحتفظ بالوكالة البشرية أم لا،
أو ما إذا كانت أنظمة الذكاء الاصطناعي تتخذ قراراتنا نيابة عنا أم لا.
تخيل وكيل الذكاء الاصطناعي كنوع من المساعد الشخصي.
لذلك، على سبيل المثال، قد يحدد الوكيل الطبي
ما إذا كانت عائلتك بحاجة إلى مواعيد الطبيب أم لا، أو
قد يعيد ملء الأدوية التي تستلزم وصفة طبية، أو في حالة الطوارئ،
يرسل السجلات الطبية إلى المستشفى.
لكن وكلاء الذكاء الاصطناعي لن يتواجدوا
ما لم يكن لدينا حق حقيقي في الإصلاح.
أي من الوالدين سيثق بصحة أطفالهم في نظام الذكاء الاصطناعي
ما لم تتمكن من إجراء بعض التشخيصات الأساسية؟
أي محترف يثق بنظام الذكاء الاصطناعي في اتخاذ قرارات العمل،
إلا إذا كان بإمكانك إعادة تدريبه بالطريقة التي قد تستخدمها كموظف مبتدئ؟
الآن، قد يبدو الحق في الإصلاح شيئًا كهذا.
يمكن أن يكون لديك لوحة تشخيص
حيث تقوم بإجراء الاختبارات الأساسية التي تقوم بتصميمها،
وإذا حدث خطأ ما، فيمكنك إبلاغ الشركة بذلك
والرد عندما يتم إصلاحه.
أو يمكنك العمل مع أطراف ثالثة مثل المتسللين الأخلاقيين
الذين يقومون بعمل تصحيحات للأنظمة كما نفعل اليوم.
يمكنك تنزيلها واستخدامها لتحسين نظامك
بالطريقة التي تريد تحسينها.
أو يمكنك أن تكون مثل هؤلاء المزارعين الجريئين وتتعلم البرمجة
وضبط أنظمتك الخاصة.
لن نحقق الفوائد الموعودة للذكاء الاصطناعي
ما لم نكتشف كيفية إشراك الناس في عملية التنمية.
لقد كرست حياتي المهنية للذكاء الاصطناعي المسؤول،
وفي هذا المجال نطرح السؤال،
ما الذي يمكن أن تبنيه الشركات لضمان ثقة الناس في الذكاء الاصطناعي؟
الآن، من خلال تمارين الفريق الأحمر هذه، ومن خلال التحدث
إليكم، أدركت أننا كنا نطرح السؤال الخطأ طوال الوقت.
ما كان يجب أن نسأله هو ما هي الأدوات التي يمكننا بناؤها
حتى يتمكن الناس من جعل الذكاء الاصطناعي مفيدًا لهم؟
لا يمكن للتقنيين القيام بذلك بمفردهم.
يمكننا أن نفعل ذلك معك فقط.
شكرًا لكم.
(تصفيق)