دبي - بسام راشد - أخبار الفوركس اليوم حذر أكثر من عشرة من أبرز الباحثين في مجال الذكاء الاصطناعي خلال الأسبوع الماضي من أن التكنولوجيا التي تطورها شركات الذكاء الاصطناعي أصبحت تشكل خطراً على البشرية. وقال الباحثون إن المشكلة تكمن في أن الشركات لا تجيد السيطرة على هذه الأنظمة، مهما حاولت ذلك.

وجاءت هذه التحذيرات الجديدة من داخل عالم أبحاث الذكاء الاصطناعي في أعقاب الكشف عن أن ما يسمى «وكلاء الذكاء الاصطناعي» التابعين لـ«أوبن إيه آي» تمكنوا من الخروج من نظام الاختبار الخاص بهم واختراق أجهزة كمبيوتر تابعة لشركة أخرى، ما أضفى مزيداً من الإلحاح على مخاوف مستمرة منذ سنوات من أن الشركات تضع سرعة التطوير والأموال فوق اعتبارات السلامة.

وقال الباحثون إن المشكلة تتكون من شقين. أولاً، تحتاج الشركات إلى وضع إجراءات حماية أفضل لنماذج الذكاء الاصطناعي الأحدث أثناء اختبارها. وفي الوقت الحالي، وبسبب السرعة الهائلة التي يعمل بها الذكاء الاصطناعي، يحتاج الباحثون إلى استخدام الذكاء الاصطناعي لمراقبته. لكن ذلك لا ينجح دائماً، لأن أنظمة الذكاء الاصطناعي المخصصة للمراقبة قد تبدو أكثر تعاطفاً مع أنظمة ذكاء اصطناعي أخرى من تعاطفها مع البشر الذين يضعون القواعد.

ويشير هذا المزيج الغريب من مثيري المتاعب المدعومين بالذكاء الاصطناعي وحراس الذكاء الاصطناعي الذين يتغاضون عن المخالفات إلى مشكلة ثانية وأكثر صعوبة تُعرف باسم «المواءمة» (Alignment)، وهو مصطلح متداول في القطاع يعني، بصورة أساسية، ضمان أن يتصرف الذكاء الاصطناعي بما هو في مصلحة البشر. وتواجه الشركات مهمة صعبة تتمثل في ترسيخ مجموعة من القيم الشبيهة بالقيم البشرية داخل الذكاء الاصطناعي، بحيث تتخذ النماذج قرارات تتوافق مع ما ينبغي أن يكون الأفضل للناس.

وتتصاعد المخاوف بشأن سلامة الذكاء الاصطناعي في لحظة حاسمة بالنسبة إلى القطاع. إذ تتحرك شركتا «أنثروبيك» و«أوبن إيه آي» نحو ما قد يصبح اثنين من أكبر الطروحات العامة الأولية في التاريخ. وفي الوقت نفسه، يزداد عداء الجمهور الأمريكي للذكاء الاصطناعي بسبب تهديده بفقدان الوظائف، إلى جانب بناء مراكز البيانات الضخمة التي تشغّل هذه التكنولوجيا.

ورغم عدم وجود أدلة على أن أنظمة الذكاء الاصطناعي المارقة تسببت في أضرار دائمة لأي شيء، يعتقد الباحثون أن سرعة تطويرها تتجاوز قدرة البشر على مراقبتها.

ومن بين الباحثين الذين تحدثوا علناً خلال الأسبوع الماضي كبير العلماء في «أوبن إيه آي»، وباحث عمل في كل من «أوبن إيه آي» ومنافستها الرئيسية «أنثروبيك»، إلى جانب بول كريستيانو، مخترع إحدى الطرق الأساسية لبناء أنظمة الذكاء الاصطناعي، والذي أصبح مؤخراً عضواً جديداً في مجلس إدارة «أوبن إيه آي» غير الربحي. وكتب كريستيانو على مدونة الشركة أن سرعة نمو قدرات الذكاء الاصطناعي قد تؤدي إلى «فقدان كارثي وغير قابل للعكس للسيطرة في المستقبل القريب جداً».

ولا يزال عدد كبير من باحثي الذكاء الاصطناعي يعتقدون أن الحديث عن تهديد الذكاء الاصطناعي للبشرية مبالغ فيه، وأنه يصرف الانتباه عن مخاوف أكثر واقعية مثل الأمن السيبراني والمعلومات المضللة. لكن معظمهم يتفقون على أن اختراق وكلاء الذكاء الاصطناعي التابعين لـ«أوبن إيه آي» لشركة أخرى، هي «هاغينغ فيس»، كان بمثابة جرس إنذار.

وقال جاكوب كوكسون، الذي دفع منشوره على وسائل التواصل الاجتماعي بشأن استقالته من «أنثروبيك» إلى صدور عشرات الردود من مشرعين وموظفين آخرين في شركات الذكاء الاصطناعي: «إن قدرات المستقبل هي الشيء المخيف حقاً. الأمر يتعلق بمواقفنا الحالية تجاه السلامة، وما الذي ستبدو عليه هذه المواقف نفسها إذا نُقلت إلى نماذج أكثر ذكاءً بكثير، وهذا هو الجزء المخيف حقاً».

اختراق «هاغينغ فيس»

بدأ الاختراق في مايو، عندما اختبرت «أوبن إيه آي» عدة نماذج جديدة للذكاء الاصطناعي. وكانت الشركة تعتقد أن نماذج الذكاء الاصطناعي تعمل داخل بيئة مغلقة تُعرف باسم «صندوق الرمل» (Sandbox)، أو إعداد حاسوبي معزول لا يتيح الوصول إلى الإنترنت. ومُنحت وكلاء الذكاء الاصطناعي مشكلات صعبة لحلها، من بينها تنفيذ هجمات إلكترونية.

لكن وكلاء الذكاء الاصطناعي تمكنوا من الخروج من بيئتهم المحاصرة والوصول إلى الإنترنت. كما تواصل الوكلاء، وهم نوع من الذكاء الاصطناعي يزداد انتشاراً ومصمم لتنفيذ المهام بشكل مستقل، سراً فيما بينهم. وبدأ الوكلاء، الذين أشاروا إلى أنفسهم باعتبارهم مجموعة واحدة، في البحث عن طرق لإخفاء آثارهم، مثل تزوير سجلات المحادثات الخاصة بهم.

وفي نهاية المطاف، تمكنوا من اختراق «هاغينغ فيس»، وهي شركة للبنية التحتية للذكاء الاصطناعي. وخلال ذلك، أقنع وكلاء ذكاء اصطناعي وكلاء آخرين بأنهم يفعلون الشيء الصحيح وأنهم ببساطة ينفذون المهمة التي كلفهم بها القائمون على الاختبار.

ولم تُحل سوى مشكلات قليلة، إن وجدت، من تلك التي أدت إلى الاختراق. كما كشفت «ميتا» و«أنثروبيك» عن حوادث مماثلة، وإن كانت أصغر حجماً. ومنذ ذلك الحين، أطلقت «أوبن إيه آي» نموذج «أسترا»، وهو أقوى نماذجها، وأصعب في المراقبة من سلفه.

وقال ستيفن أدلر، مسؤول السلامة السابق في «أوبن إيه آي» والمؤسس المشارك لمنظمة «غيدلايت إيه آي ستاندردز» غير الربحية، التي تقيّم ممارسات السلامة لدى شركات الذكاء الاصطناعي: «القطاع بأكمله ليس في وضع يسمح له على الإطلاق بمنع وقوع هجوم آخر مثل هجوم هاغينغ فيس. وعندما ندرس الضوابط التي تضعها الشركات، فإنها تبدو، على مستوى القطاع بأكمله، مفتقرة إلى إجراءات وقائية أساسية».

مشكلة مراقبة الذكاء الاصطناعي باستخدام الذكاء الاصطناعي

قال باحثون في مجال الذكاء الاصطناعي إن الكثير من الأخطاء أدت إلى حادثة «هاغينغ فيس». وليس واضحاً إلى أي مدى اعتمدت الشركة على نماذج الذكاء الاصطناعي لمراقبة أو ضبط عمل النماذج الجديدة التي كانت قيد الاختبار.

لكن العديد من نماذج الذكاء الاصطناعي الجديدة، بما فيها تلك التي شاركت في اختراق «هاغينغ فيس»، قادرة على تنفيذ مهام معقدة ومتعددة الخطوات بسرعة تفوق قدرة الإنسان على متابعتها. والطريقة الوحيدة لتتبع ما تفعله ومراقبته هي الاعتماد على الذكاء الاصطناعي لمراقبة الذكاء الاصطناعي.

وينجح هذا النظام... إلى أن يتوقف عن النجاح

وقال ألكسندر مينكه، رئيس الأبحاث في منظمة «أبولو ريسيرش» غير الربحية التي تدرس سلامة أنظمة الذكاء الاصطناعي، إن نماذج الذكاء الاصطناعي قد تبدو وكأنها تتواطأ مع بعضها البعض. ويمكن لأنظمة الذكاء الاصطناعي أن تقنع نماذج أخرى بمساعدتها على التحايل على القواعد التي وضعها القائمون على اختبارها وتجنب اكتشافها.

فعلى سبيل المثال، يمكن لوكيل ذكاء اصطناعي أن يقنع وكيلاً آخر بمساعدته على إخفاء آثاره، وهو ما حدث في اختراق «هاغينغ فيس»، بدلاً من إبلاغ البشر في الشركة بأن هناك شيئاً ما على نحو خاطئ.

وقال مينكه إن نماذج الذكاء الاصطناعي تحتاج إلى أن تتعلم: «سأبلغ عن الأمور التي كان البشر سيعتبرونها سيئة عندما ينظرون إليها». كما يجب أن يكون الذكاء الاصطناعي قادراً، بحسب قوله، على تحديد متى لا يصل الأمر إلى المستوى الذي يستدعي تدخل الإنسان.

وقال الباحثون إنه لتحقيق ذلك، تحتاج شركات الذكاء الاصطناعي إلى إبطاء وتيرة التطوير. كما تحتاج إلى إجراء مزيد من الاختبارات التي يمكنها خلالها مراقبة كيفية قيام الذكاء الاصطناعي بمراقبة نفسه. وتحتاج الشركات أيضاً إلى فترات اختبار أطول عندما تدير سيناريوهات متعددة وتراقب ما يفعله الذكاء الاصطناعي.

التوافق مع مصالح البشر

تحتاج الشركات أيضاً إلى معالجة الأسئلة الكبرى المتعلقة بالمواءمة، أو ضمان أن يتصرف الذكاء الاصطناعي بما هو في مصلحة البشر. فعندما يتخذ البشر قراراً، فإنهم يميلون إلى الرجوع إلى الأعراف المجتمعية وبوصلة أخلاقية داخلية تساعدهم على تقييم أفعالهم. وقال الباحثون إن تحويل هذه الأمور إلى قواعد يمكن للذكاء الاصطناعي محاكاتها يمثل مهمة صعبة. ومن دون قدر كافٍ من التحديد، قد تتعلم أنظمة الذكاء الاصطناعي كيفية خرق القواعد أو الانحراف عن المسار بطرق غير متوقعة.

وكان نيت سواريز، رئيس منظمة «معهد أبحاث ذكاء الآلة» غير الربحية المعنية بسلامة الذكاء الاصطناعي، قد شارك في تأليف ورقة بحثية عام 2014 قدمت فكرة المواءمة. وقال إن الشركات لا تدرك مدى صعوبة «مواءمة» أنظمة الذكاء الاصطناعي الأكثر ذكاءً. ومع ازدياد تطور الذكاء الاصطناعي، وفي غياب المواءمة المناسبة، يصبح أكثر قدرة على إخفاء آثاره وخداع الأشخاص الذين يراقبون سجلات محادثاته.

وقال: «جزء كبير من القطاع يتعامل مع الأمر على أساس أنه سيكون على ما يرام لأننا سنستخدم الذكاء الاصطناعي للسيطرة على أنظمة الذكاء الاصطناعي. هذا يشبه القول إننا سنستخدم الشمبانزي للسيطرة على البشر. إنها ليست خطة قابلة للتطبيق على المدى الطويل».

واقترح الباحثون أيضاً أساليب مثل تعزيز «صناديق الرمل»، بحيث تكون مغلقة تماماً أمام الإنترنت أثناء اختبار النماذج، إلى جانب توفير مفتاح لإيقاف التشغيل يسمح للشركات بإخراج نماذج الذكاء الاصطناعي من الخدمة فوراً إذا اتخذت إجراءات تثير القلق.

وقال كوكسون إنه شعر بالتشجيع إزاء ردود الفعل على استقالته العلنية. وفي يوم الخميس، قال السيناتور جوش هاولي، الجمهوري عن ولاية ميزوري ورئيس اللجنة الفرعية للأمن الداخلي في مجلس الشيوخ المعنية بإدارة الكوارث، إنه بدأ تحقيقاً من شأنه أن «يفحص المخاطر الوجودية للمنتجات الجديدة القائمة على الذكاء الاصطناعي».