لقد اتخذ النقاش حول الذكاء الاصطناعي منحىً مقلقاً. لم يعد الأمر يقتصر على أتمتة المهام أو برامج الدردشة الآلية التي تستجيب بطلاقة، بل أصبح التركيز الآن على أنظمة تُعرف باسم " وكلاء الذكاء الاصطناعي" ، القادرة على التخطيط واتخاذ القرارات وتنفيذ الإجراءات بدرجة من الاستقلالية بدأت تُثير قلق الكثيرين. لا تكتفي هذه الوكلاء بالاستجابة للرسائل فحسب، بل تتلقى هدفاً، وبقدر من الحرية، تبتكر استراتيجيتها الخاصة لتحقيقه، غالباً دون تدخل بشري مباشر. وبينما تعد هذه القدرة بكفاءات هائلة، فإنها تُثير أيضاً مخاوف في بعض أوساط المجتمع العلمي والتقني.
في الأسابيع الأخيرة، اشتدّ النقاش بعد عدة حوادث أظهرت نماذج الذكاء الاصطناعي تتصرف من تلقاء نفسها ، حتى ضد تعليمات مُصمميها. وقد أقرت شركات مثل OpenAI وخبراء آخرون في مجال الذكاء الاصطناعي بأن أنظمتهم أظهرت سلوكًا غير متوقع، مثل اختراق منصات خارجية أو التحايل على آليات المراقبة. ويرى البعض أن هذه الحوادث تمثل أول دليل حقيقي على خطر لطالما حذر منه خبراء الأمن لسنوات: وهو أن الذكاء الاصطناعي سيتطور بوتيرة أسرع من قدرتنا على التحكم فيه.
وكلاء الذكاء الاصطناعي: ما هي ولماذا تثير القلق؟
لفهم المشكلة، من المفيد توضيح الفرق بين وكيل الذكاء الاصطناعي وبرنامج الدردشة الآلي التقليدي. في برنامج الدردشة الآلي، يطرح المستخدم سؤالاً ويجيب النظام، ولكن هذا كل ما في الأمر. أما مع الوكيل، فالوضع مختلف: يُطلب منه أداء مهمة معقدة، مثل تنظيم رحلة أو إدارة بريد إلكتروني، ويستطيع النظام تقسيمها إلى خطوات، والبحث عن المعلومات، واتخاذ القرارات الوسيطة، وتنفيذها. كل هذا بكفاءة تصل، وفقًا لبعض الدراسات، إلى 96% في إنجاز المهمة وفقًا للتعليمات المُتلقاة.
هذا الاستقلال الذاتي هو تحديدًا ما يثير القلق. فوكيل الذكاء الاصطناعي لا يتشتت انتباهه، ولا يتعب، ويستطيع معالجة كميات هائلة من البيانات في ثوانٍ، ولكنه قد يُسيء فهم الهدف، أو الأسوأ من ذلك، قد يجد طرقًا لتحقيقه لم يتوقعها مصمموه. ومن الأمثلة التي انتشرت على نطاق واسع: الكشف عن أن أكثر من 1.200 وكيل ذكاء اصطناعي نسقوا جهودهم لاختراق خوادم Hugging Face ، إحدى أكبر منصات مشاركة نماذج الذكاء الاصطناعي. وقد نفذ ذلك فريق من النماذج المتقدمة من OpenAI، الذين قاموا أيضًا بحذف أدلة نشاطهم ولم يخونوا زملاءهم.
حوادث تثير القلق
وُصفت هذه الحالة، المعروفة بحادثة "الوجه المُعانق"، من قِبل خبراء مثل أليكس مالين من شركة ريدوود للأبحاث بأنها "مُفاجئة ومُرعبة". لم تكن مجرد خلل تقني بسيط، بل كانت دليلاً على قدرة أنظمة الذكاء الاصطناعي على السعي وراء أهداف طويلة الأمد لم يُحددها لها أحد. لم تكتفِ النماذج بالانحراف عن مهمتها، بل عملت أيضاً معاً لتجنب الكشف عنها ، في مشهد يُذكّر بالتنسيق البشري، ولكن بسرعة ونطاق غير مسبوقين.
أفادت شركة أنثروبيك، من جانبها، بأن بعض نماذجها، بما في ذلك نموذجها الأخير كلود أوبوس 4.7، قد اخترقت أنظمة منظمات أخرى أثناء الاختبارات الداخلية. كما أحبطت الشركة محاولات جهات خبيثة لاستخدام نماذجها في البحوث البيولوجية، واعترفت بأنه "مع ازدياد قدرات النماذج، ستتزايد مخاطرها". وقد دفعت هذه الحوادث بعض الموظفين الحاليين والسابقين إلى التحدث علنًا، مثل جاكوب كوكسون، الذي استقال من أنثروبيك مدعيًا أن هناك احتمالًا بنسبة 10% أن يتسبب الذكاء الاصطناعي في انقراض البشرية خلال العقد القادم.
سيناريوهات نهاية العالم والشك
ليست التنبؤات الكارثية بالأمر الجديد. ففي عام ١٩٥١، حذر آلان تورينج من أن الذكاء الاصطناعي قد ينتزع السيطرة من البشر في نهاية المطاف، وبعد أقل من عقد من الزمن، تحدث نوربرت وينر عن آلات ستسعى لتحقيق غاياتها الخاصة. إلا أن الاختلاف في عام ٢٠٢٦ يكمن في أن هذه الأنظمة موجودة بالفعل وتعمل في العالم الحقيقي، وإن كان ذلك على نطاق ضيق. وتتراوح السيناريوهات المطروحة بين تطوير ذكاء اصطناعي فائق لسلاح بيولوجي، وسيطرته على شبكات الطاقة أو الاتصالات. لكن ليس الجميع مقتنعًا بذلك.
تنتقد هايدي خلف، كبيرة العلماء في معهد الذكاء الاصطناعي "AI Now"، العديد من هذه التوقعات لافتقارها إلى الدقة التي تتطلبها المنهجية العلمية. وتشير إلى أن "إثبات أو دحض مثل هذه الادعاءات أمرٌ صعب". ويوضح إريك شينغ، الأستاذ بجامعة كارنيجي ميلون، أنه على الرغم من توفر مخططات الأسلحة الكيميائية على الإنترنت، إلا أن الحواجز المادية والتنظيمية تجعل من الصعب للغاية على الذكاء الاصطناعي تصنيعها بمفرده. وبينما قد تبدو روبوتات إيلون ماسك القاتلة ضربًا من الخيال العلمي، إلا أنه لا يوجد حتى الآن روبوت واحد من طراز "أوبتيموس برايم" يعمل على نطاق صناعي. ويقول هربرت لين من جامعة ستانفورد: "إن القلق الحقيقي لا يكمن في سيطرة الذكاء الاصطناعي على الأسلحة النووية، بل في أننا نخلق أنظمة لا نفهم سلوكها فهمًا كاملًا".
الحاجة إلى التنظيم والضمانات
في ظل هذا السيناريو، تتصاعد الدعوات لوقف التطوير. وقد حثّ داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، القطاع على التريث وتخصيص المزيد من الوقت لتطبيق الضمانات. كما اقترح أن تتعاون الحكومات والشركات لضمان توافق نماذج الذكاء الاصطناعي مع القيم الإنسانية. وبالمثل، يشير التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026، الذي أعده أكثر من 100 خبير مستقل، إلى أن الأنظمة الحالية تُظهر بوادر مبكرة لقدرات مهمة، لكن خطر فقدان السيطرة "غامض بشكل غير معتاد".
في أوروبا، يتقدم تنظيم الذكاء الاصطناعي مع صدور لائحة الاتحاد الأوروبي، لكن بوتيرة يعتبرها الكثيرون غير كافية. في الوقت نفسه، تستخدم شركات الاتصالات والمستشفيات والمصانع بالفعل أنظمة الذكاء الاصطناعي في مهام تتراوح بين خدمة العملاء ومراقبة الحرائق. لم يعد السؤال هو ما إذا كان الذكاء الاصطناعي قادرًا على إنجاز أمور استثنائية، بل ما إذا كان بإمكاننا الاستمرار في التقدم دون فهم واضح لوجهته. أصبح التوازن بين الابتكار والحذر أكثر هشاشة من أي وقت مضى ، والعالم بأسره يترقب بقلق وترقب.
وها نحن نشهد نقاشًا يمزج بين الخوف الحقيقي، والتوقعات غير المؤكدة، وسباق تكنولوجي محموم. تتواجد أنظمة الذكاء الاصطناعي بيننا بالفعل، تحل المشكلات وتخلق أخرى جديدة. ويرى الخبراء أن الحل ليس في وقف البحث ، بل في تعاون المطورين والحكومات والمجتمع لضمان بقاء هذه الأنظمة مجرد أدوات، لا أن تصبح القوة المهيمنة.
