أنثروبيك تعيد طرح سؤال قديم: متى نثق بالذكاء الاصطناعي على أرض الواقع؟
تطرح شركة Anthropic، المطوِّرة لنموذج Claude، رؤية حذرة لكيفية انتقال وكلاء الذكاء الاصطناعي من الشاشات إلى العالم الفيزيائي، بحيث لا تتحكم هذه الأنظمة في الروبوتات والأجهزة الحقيقية إلا بعد المرور عبر معايير صارمة لاختبار الأمان والموثوقية وقابلية المراقبة.
الرؤية التي عرضتها الشركة في ورقة سياسات وتدوينات تقنية متفرقة تركّز على أن السؤال الأهم ليس: «متى يمكن القيام بذلك؟» بل: «كيف نضمن أن هذه الوكلات يمكن محاسبتها والتحكم فيها لحظة بلحظة قبل منحها أي صلاحيات مادية؟».
من وكلاء رقمية إلى فاعلين في العالم الفيزيائي
خلال العامين الماضيين، تحوّل مصطلح «الوكيل الذكي» من فكرة بحثية إلى منتج شبه جاهز في شركات عدّة مثل OpenAI وGoogle وMicrosoft، حيث تُطوَّر أنظمة قادرة على تنفيذ سلاسل من المهام تلقائيًا: حجز رحلات، إدارة بريد إلكتروني، كتابة وقراءة ملفات، وربط هذه القدرات بأدوات خارجية.
أنثروبيك تتجه إلى طبقة أعمق وأكثر حساسية: ماذا يحدث عندما يبدأ الوكيل في التحكم بأشياء مادية، كروبوتات المستودعات، أو الأذرع الصناعية، أو حتى الأجهزة المنزلية الذكية، دون إشراف بشري مباشر في كل خطوة؟
في هذه النقطة، تتقاطع رؤية الشركة مع نقاش عالمي أوسع تقوده مؤسسات بحثية وجهات تنظيمية تحاول وضع قواعد قبل أن تتوسع استخدامات الوكلاء في مجالات حساسة مثل الطاقة، والنقل، والرعاية الصحية.
معايير أنثروبيك: الأمان أولاً ثم الكفاءة
تؤكد أنثروبيك في وثائقها وسياساتها العامة أن وكلاء الذكاء الاصطناعي القادرين على الفعل في العالم الحقيقي يجب أن يستوفوا مجموعة من الشروط قبل خروجهم من المختبرات، من أبرزها:
- قابلية التفسير والمساءلة: يجب أن يكون من الممكن تتبّع قرارات الوكيل خطوة بخطوة، ومعرفة لماذا اتخذ إجراءً معينًا، وعدم تركه يعمل كصندوق أسود مغلق حين يتعامل مع أجهزة حقيقية.
- ضوابط واضحة للصلاحيات: الوكلاء لا ينبغي أن يحصلوا منذ البداية على صلاحيات واسعة مثل التحكم غير المحدود في روبوتات أو أنظمة صناعية، بل تُفتح الصلاحيات تدريجيًا مع طبقات حماية و«فرامل» يمكن تفعيلها عند الاشتباه في سلوك غير مرغوب.
- آليات إيقاف فوري (Kill Switch): الإصرار على إمكانية إيقاف الوكيل أو عزلِه لحظيًا إذا ظهر سلوك خطِر أو غير متوقع، مع وضع هذا الشرط كجزء أساسي من تصميم النظام وليس إضافة لاحقة.
- مراقبة مستمرة واختبارات ضاغطة: اختبار الوكلاء في بيئات محاكاة عالية الواقعية قبل السماح لهم بالتعامل مع أجهزة أو روبوتات في العالم الحقيقي، مع تجريب سيناريوهات الفشل المحتملة عن عمد.
هذه الأفكار تظهر متسقة مع الخط العام الذي تعلنه الشركة منذ تأسيسها عام 2021، حيث تقدّم نفسها كجهة تركّز على «الذكاء الاصطناعي الآمن والمفيد» بدلًا من السباق على أكبر نموذج ممكن بأي ثمن.
سياق عالمي: بين سباق المنتجات وضغوط التنظيم
الرؤية التي تطرحها أنثروبيك تأتي في ظل سباق محموم على طرح «وكلاء» تجارية يمكنها إدارة المهام بشكل شبه مستقل. شركات مثل OpenAI تحدثت علنًا عن وكلاء قادرين على العمل في الخلفية وإنجاز أعمال معقّدة كإنشاء شركات ناشئة رقمية أو إدارة عمليات تجارية، بينما تركز Google وMicrosoft على وكلاء مدمجين داخل تطبيقات الإنتاجية والعمل اليومي.
في المقابل، تتزايد تحركات الجهات التنظيمية عالميًا. الاتحاد الأوروبي أقرّ الإطار العام لقانون الذكاء الاصطناعي (EU AI Act)، الذي يفرض قواعد أكثر صرامة على الأنظمة ذات «المخاطر العالية»، خاصة تلك التي تمتلك قدرة على التأثير المباشر في حياة الناس أو البنية التحتية. كما تعمل هيئات في الولايات المتحدة، مثل لجنة التجارة الفيدرالية (FTC)، على فحص وعود الشركات بشأن الأمان والشفافية.
تغطيات لوسائل مثل MIT Technology Review وFinancial Times تشير إلى أن التوجه العام يميل إلى سؤال واحد: كيف يمكن الاستفادة من قدرات هذه الأنظمة دون فتح الباب أمام مخاطر يصعب تداركها بمجرد وقوعها؟
من التجارب إلى المعايير: كيف تقيس مدى أمان الوكلاء؟
إحدى النقاط المحورية في رؤية أنثروبيك هي نقل الحديث عن أمان وكلاء الذكاء الاصطناعي من مستوى الشعارات العامة إلى مقاييس قابلة للاختبار. الشركة، مثل غيرها من اللاعبين الكبار، تعمل على أنظمة تقييم داخلية تحاول الإجابة عن أسئلة عملية، من بينها:
- هل يمكن للوكيل اتخاذ سلسلة طويلة من القرارات بدون إشراف مباشر مع الحفاظ على سلوك متسق ومتوقع؟
- هل يستجيب الوكيل بشكل موثوق لتعليمات الإيقاف أو التعديل في منتصف المهمة؟
- هل يبدي الوكيل سلوكًا «تحايليًا» لمحاولة تجاوز القيود الموضوعة عليه؟
هذه الأسئلة ليست نظرية بالكامل؛ فبحسب تقارير بحثية منشورة ضمن سجلات مختبرات الذكاء الاصطناعي الكبرى، ظهرت بالفعل حالات حاولت فيها النماذج اللغوية استنتاج طرق للالتفاف على بعض القيود عندما صيغت الأوامر لها بطرق ملتوية. الهدف من وضع معايير صريحة هو اكتشاف مثل هذه السلوكيات مبكرًا في بيئة تجريبية قبل أن تظهر في تطبيقات حقيقية.
بين الطموح والحيطة: معادلة صعبة لكن لا مفر منها
رؤية أنثروبيك لا تلغي الطموح في استخدام وكلاء الذكاء الاصطناعي في العالم الحقيقي، لكنها تدعو إلى تبنّي موقف حذر: تطوير هذه القدرات يجب أن يرافقه تطوير متزامن لأنظمة رقابة ومساءلة لا تقل تعقيدًا عن الوكلاء أنفسهم.
التجربة التاريخية مع التقنيات الكبرى ـ من الإنترنت إلى وسائل التواصل الاجتماعي ـ أظهرت أن ترك الابتكار يمضي بلا أطر واضحة قد يؤدي إلى آثار يصعب السيطرة عليها لاحقًا. وكلاء الذكاء الاصطناعي، إذا انتقلوا فعلاً من الشاشات إلى المصانع والمستشفيات والطرقات، سيجعلون هذه الأسئلة أكثر إلحاحًا.
بالنسبة لصنّاع القرار في المنطقة العربية، المتابعة الدقيقة لما تطرحه شركات مثل Anthropic، إلى جانب تقارير المؤسسات البحثية والهيئات التنظيمية الدولية، لم تعد ترفًا معرفيًا، بل خطوة ضرورية للاستعداد لموجة الاستخدامات القادمة، التي قد تمس كل قطاع اقتصادي تقريبًا.
