لم تعد المسألة الأساسية في الذكاء الاصطناعي هي قدرة النظام على الإجابة، بل ما الذي نسمح له بفعله بعد الإجابة.
حين ينتقل وكيل الذكاء الاصطناعي من اقتراح رسالة إلى إرسالها، أو من تحليل طلب إلى اعتماده، يتغير مستوى المخاطرة جذريًا. ففي اللحظة التي يمتلك فيها الوكيل صلاحية التنفيذ، نحتاج إلى حوكمة تتجاوز جودة النموذج إلى حدود السلطة والمساءلة.
ثلاثة أسئلة قبل منح الاستقلالية
- ما المسموح؟ تحديد مهام الوكيل والأدوات والبيانات التي يحق له استخدامها، وفق مبدأ أقل قدر من الصلاحيات.
- ما الذي يتطلب موافقة بشرية؟ إجراء تمييز واضح بين إعداد المسودة والنشر، وبين التوصية واعتماد القرار، وبين القراءة والتعديل.
- كيف نعرف ما حدث؟ تسجيل كل عملية تنفيذ ونتيجتها، ووضع آلية لإيقاف الوكيل أو التراجع عن أثره عند الحاجة.
التطبيق أهم من الشعار
لنأخذ مثالًا بسيطًا: منظومة لنشر المقالات. يمكن للذكاء الاصطناعي إعداد مقال وصوره وحفظهما كمسودة، لكن النشر على الموقع أو منصات التواصل ينبغي أن يرتبط بموافقة واضحة من صاحب المحتوى. وعندما تتم الموافقة، يجب أن تمنع المنظومة الإرسال المكرر، وتحتفظ بسجل يبيّن إن كانت العملية قد نجحت بالفعل.
بهذا المنطق نصمم ذكاءً اصطناعيًا قادرًا على العمل، لكنه غير متحرر من المسؤولية. فالابتكار الحقيقي ليس في إعطاء الوكيل مزيدًا من الصلاحيات؛ بل في بناء الثقة التي تجعل تلك الصلاحيات قابلة للضبط والقياس والمراجعة.
أحمد الحنبلي | عقلية اللانهاية ♾️