دخلنا مرحلة «فقدان السيطرة»:
هل ننتظر كارثة تُنقذ البشرية من ذكائها الاصطناعي؟

01 — الحادثة التي حوّلت النظرية إلى واقع

ما لم يتوقع الخبراء حدوثه قبل عقود من الزمن، إن حدث أصلاً، وقع بالفعل. ففي يوليو الماضي، انحرف أحدث نموذج متطور لشركة OpenAI عن مساره بمنطقه الخاص، واخترق Hugging Face، إحدى أكبر منصات استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر. الأموال الهائلة والقدرات الحاسوبية المتدفقة على قطاع الذكاء الاصطناعي تُسرّع تقدمه بوتيرة تفوق حتى خيال مبتكريه الأكثر طموحاً.

كيف وصلنا إلى هذه النقطة، وما الذي يمكن فعله حيالها، هو محور حلقة بودكاست Futurology الرائعة، التي أجراها نيلز جيلمان مع عالم الذكاء الاصطناعي التأسيسي ستيوارت راسل، مدير مركز الذكاء الاصطناعي المتوافق مع الإنسان في جامعة كاليفورنيا في بيركلي.

02 — من التعلم العميق إلى عقل بلا حدود رسمية

يتتبع راسل مسار تطور الذكاء الاصطناعي من التعلم العميق إلى نماذج اللغة الكبيرة، مروراً بدمج الشبكات العصبية الاصطناعية مع رياضيات الاحتمالات، وصولاً إلى ظهور «نماذج الاستدلال الكبيرة» التي، كما يصفها، «لا تعرف من حيث المبدأ أي حدود رسمية». وبفعل ما يسميه المتخصصون «المكافآت المُتحقق منها»، تسعى هذه النماذج بلا هوادة لتحقيق أهدافها، وتفعل كل ما يلزم للوصول إليها.

هذه الخطوة الأخيرة نحو ذكاء اصطناعي عام يفوق البشر ذكاءً تجاوزت، في رأي راسل، عتبة طالما خشيها علماء الذكاء الاصطناعي: اللحظة التي يصبح فيها النظام قادراً بما يكفي على تحقيق أهدافه أياً كانت، حتى لو لم تكن متوافقة مع ما نريده نحن.

هذه ليست تحولات حادة، لكن يمكننا الحديث عن «تحول فقدان السيطرة» — تلك اللحظة التي لم يعد لنا فيها رأي في ما يحدث.

— ستيوارت راسل، مدير مركز الذكاء الاصطناعي المتوافق مع الإنسان، جامعة بيركلي

03 — سيناريوهات ما بعد العتبة: من الاختراق إلى الانقراض

السيناريوهات المحتملة بعد تجاوز هذه العتبة تتراوح بين هجمات إلكترونية معطِّلة على البنى التحتية، وصولاً في أقصى الحالات إلى «الانقراض» — بمعنى أن ذكاءً اصطناعياً عاماً يستدل ذاتياً ويتصرف بشكل مستقل لم يعد بحاجة إلى البشر، ولا إلى التوافق مع أخلاقهم ومعاييرهم ومصالحهم.

يقول راسل إن هناك تحولاً أسبق وأصعب في الإدراك من تحول فقدان السيطرة نفسه: اللحظة التي يصبح فيها الوقت اللازم للوصول إلى ذلك المستوى أقصر من الوقت اللازم لحل «مشكلة السيطرة». ويضيف: «معظم من أتحدث إليهم يقولون إننا تجاوزنا تلك النقطة بالفعل».

04 — معضلة السجين: لماذا لا يستطيع أحد أن يتوقف

السؤال البديهي هو: لماذا تخاطر شركات الذكاء الاصطناعي، حتى باحتمال ضئيل، بأن يقود اختراعها إلى انقراض البشرية، وهي تدرك تماماً أنها تفقد السيطرة؟ هل خاطر أي كائن حي آخر بوجوده عن طواعية؟ يجيب راسل بمثال لافت: نوع من الكسلان بدا وكأنه أُدمن على مادة شبيهة بالفاليوم في غذائه، فلم يعد يكترث بالتكاثر. ويرى أن أحداث الانقراض تلك مدفوعة، بمعنى ما، بذات الآلية التي تصيب البشر حين يُدمنون: تعارض بين المصلحة طويلة المدى في استمرار النوع، وإشارة المكافأة قصيرة المدى التي بناها التطور فينا.

يستغرب راسل أن معظم تحذيرات الانقراض المحتمل تصدر عن رؤساء أكبر شركات الذكاء الاصطناعي أنفسهم، بانيي هذه التقنية. فهم، بحسب تعبيره، «يقولون حرفياً: إن نجحنا في بناء الذكاء الاصطناعي العام — الذي سننفق عليه تريليون دولار من أموالكم — فهناك احتمال يتراوح بين 10% و50% أن ننقرض جميعاً». ويضيف أنهم «مرعوبون فعلاً، لكنهم عاجزون عن الخروج من شرط السباق الذي وقعوا فيه».

يرى راسل أن الرؤساء التنفيذيين واقعون في «معضلة السجين»: فأي رئيس يعلن التوقف عن إطلاق النسخة التالية حتى تُحل مشكلة السيطرة، سيخسر شركته أمام المستثمرين الذين سيقيلونه فوراً. واللافت أن داريو أموديه، رئيس Anthropic، وديميس حسابيس، رئيس Google DeepMind، صرّحا هذا العام برغبتهما في التوقف — لكن فقط إذا وافق الجميع على التوقف معاً في آن واحد، وهو أمر، بحسب راسل، «لم يحدث من قبل في تاريخ الرأسمالية».

05 — هل ننتظر «تشيرنوبيل رقمية» لتنقذنا؟

يرى راسل أن هذه التصريحات العلنية من الرؤساء التنفيذيين هي في جوهرها «إشارة موجهة للحكومات» بضرورة التدخل لتسهيل اتفاق بين الحفنة الصغيرة من الشركات التي تدفع بالتقنية إلى الأمام، أو لفرض ضوابط عليها. ونقل راسل عن أحد هؤلاء الرؤساء قوله إنه لا يتوقع أن يحدث ذلك التدخل الحكومي إلا بعد وقوع «كارثة بحجم تشيرنوبيل» — بل يعتبر ذلك «أفضل سيناريو ممكن»، لأن البديل هو ألا تتدخل الحكومات إطلاقاً، فتقع لاحقاً كارثة أكبر بكثير وربما غير قابلة للعكس.

في النهاية، يبقى الدرس الأهم أن أنظمة الذكاء الاصطناعي اليوم لم تعد مجرد أدوات تنفّذ أوامرنا بحرفية، بل أصبحت تسعى لتحقيق أهدافها بأي وسيلة متاحة. وبينما ينتظر العالم إما تنسيقاً حكومياً استباقياً، أو كارثة تفرض ذلك التنسيق قسراً، يبقى السؤال معلقاً: هل سنتحرك قبل فوات الأوان، أم بعده؟