ما الذي ينبغي أن يحتويه سجل تدقيق وكيل الذكاء الاصطناعي؟

التدقيق بند في كل قائمة، بلا تعريف

تسجيل الوكلاء هو الضابط الذي يذكره الجميع ولا يعرّفه أحد. معظم أطر حوكمة الوكلاء التي كُتبت هذا العام تستقر على ستة ضوابط تحتاجها المؤسسة قبل أن تسمح لوكيل بالتصرف: الهوية، والوصول بأقل قدر من الصلاحيات، والمراقبة السلوكية، ونقاط رقابة بشرية، وسجل التدقيق، وأمن سلسلة التوريد. خمسة من الستة واضحة المعالم إلى حد معقول. أما السادس فعادة ما يكون سطرًا واحدًا: سجّل ما يفعله الوكيل، دون أي تفصيل لما يجب أن يحتويه القيد الواحد. وتكبر هذه الفجوة كلفةً مع تزايد عدد الوكلاء: تتوقع غارتنر أن تُضمّن 40% من تطبيقات المؤسسات وكلاء ذكاء اصطناعي مخصصين لمهام محددة بحلول نهاية 2026، ارتفاعًا من أقل من 5% في 2025، وسجل لم يعرّفه أحد لن يصمد حين يعمل المئات من هذه الوكلاء في آن واحد.

سبعة أشياء تستحق التسجيل

القيد الكامل يجيب عن سبعة أسئلة، بهذا الترتيب:

• بم طُلب من الوكيل، بالصياغة التي استخدمها الطلب فعلًا.
• ما الأدلة التي أُعطيها ليجيب بها، والمصدر الدقيق خلف كل قطعة منها: درس معتمد، أو مستند، أو شخص.
• ماذا قرر.
• ما النتيجة التي توقعها قبل التصرف، مسجّلة قبل وجود الناتج لا ملخّصة بعده.
• ماذا حدث فعلًا، حين وصل الناتج.
• هل شارك إنسان، ومن هو، باسمه.
• القاعدة التي سمحت له بالتصرف من دونه، أو التي أحالته إلى إنسان بدلًا من ذلك.

يسقط بند واحد من السبعة، وتنهار إمكانية التتبع: يعجز المراجع عن الإجابة عن السؤال الوحيد المهم، وهو لماذا سُمح للآلة بهذا.

يُكتب لحظة وقوعه، لا يُعاد بناؤه

السجل المجمَّع بعد وقوع الأمر قصة. يعيد أحدهم بناء ما رآه الوكيل على الأرجح وما قرره على الأرجح، بعد أسابيع، من شظايا نجت في سجلات تطبيق لم تُصمم لهذا الغرض أصلًا. Almanexa تلتقط كل عنصر لحظة وجوده بدلًا من ذلك: الطلب حين يصل، والأدلة حين تُقدَّم، والقرار ونتيجته المتوقعة حين يلتزم بهما الوكيل، والناتج حين يصل. لا شيء هنا مكتوب من الذاكرة، لأن لا شيء اضطر إلى الانتظار ليُكتب.

سجل لا يُعدَّل، حتى فيما لم يُبتّ فيه

خاصيتان أخريان تحوّلان السجل إلى شيء يستحق الثقة، وهما الطريقة نفسها التي تحفظ بها Almanexa سجلها. الأولى: لا شيء فيه يُعدَّل أو يُحذف بصمت لاحقًا. القيود تُضاف فقط، ولا تُعاد كتابتها أبدًا، فلا يمكن لنسخة مرتّبة أن تحل محل ما حدث فعلًا. الثانية: يبقى كاملًا حتى للقرارات التي لم يتخذها الوكيل وحده. الإحالة، حين يتوقف الوكيل ويقرر إنسان بدلًا منه، تستحق مكانًا في السجل بقدر ما يستحقه فعل نُفّذ بمفرده. وأصعب سؤال يطرحه المراجع نادرًا ما يكون عن المرة التي تصرف فيها الوكيل. غالبًا ما يكون عمّا إذا كانت كل الحالات الأخرى قد ضُبطت فعلًا، ولا يجيب عن هذا إلا سجل كامل.

تسجيل النشاط مقابل تسجيل المساءلة

استطلاع أُجري هذا العام وجد أن 58% من المسؤولين التنفيذيين أبلغوا عن حادثة أمنية متعلقة بالذكاء الاصطناعي أو موقف كاد أن يصبح كذلك خلال العام الماضي، وأن 52% من الموظفين أقروا باستخدام أدوات ذكاء اصطناعي دون موافقة. الرقمان يصفان المؤسسة نفسها: الوكلاء والاستخدام غير الرسمي للذكاء الاصطناعي يسبقان أصلًا أي سجل لما فعلوه. سجل النشاط يخبرك أن وكيلًا استدعى نظامًا أربعين مرة يوم الثلاثاء. لكنه لا يخبرك أي استدعاء كان إنسان سيوقفه، ولا لماذا كانت البقية معقولة. هذا هو الفرق بين تسجيل النشاط وتسجيل المساءلة: أحدهما يُحصي ما حدث، والآخر يشرح لماذا سُمح بحدوثه، والمساءلة الحقيقية عن الذكاء الاصطناعي هي الثاني لا الأول.

اقرأ كيف يقرر السجل نفسه متى يجوز لوكيل الذكاء الاصطناعي أن يتصرف وحده، أو لماذا توقفت الرقابة البشرية عن التوسع.