متى يجوز لوكيل الذكاء الاصطناعي لديك أن يتصرف وحده؟

حين صار الإنسان في الحلقة هو عنق الزجاجة

الآلات تولّت التنفيذ. لكنها لم تتولَّ القرار، فكل فعل يريد الوكيل تنفيذه ما يزال يقف في طابور أمام إنسان. والمراجع الذي يواجه مئتي موافقة متراكمة في اليوم لم يعد رقابة، بل إجراءً شكليًا: تُختم الموافقات على عجل، وتوجد الرقابة على الورق، ويختفي بالضبط الشيء الذي وُجدت لحمايته، وهو الحكم السليم.

إزالة الإنسان كليًا أمر لا يمكن تبريره. وإبقاء إنسان في الحلقة على كل قرار لم يعد قابلًا للتوسع. والمخرج رقابة تتحرك، على أساس الأدلة.

الوكيل يسأل قبل أن يتصرف

وكيلك يعيش في أنظمتك أنت، ضمن إطار الوكلاء الذي تستخدمه أصلًا، ويتعامل مع Almanexa بوصفها محرّك قراره. قبل أن يتصرف يسأل، وما يتلقاه ضيّق عمدًا: دروس اعتمدتها مؤسستك فقط، وكلٌّ منها بمصدره الظاهر. وحين تُستشار عدة نماذج ذكاء اصطناعي معًا، يتلقى الوكيل أيضًا إشارة واضحة عن مقدار اتفاقها، وعلامة حين تختلف. والاختلاف سببٌ جاهز للتوقف وإشراك إنسان.

ثم يتصرف الوكيل حيث يعيش، داخل منظومتك. Almanexa لا تنفّذ الفعل أبدًا. هي تسجّله: القرار، والنتيجة التي توقعها الوكيل قبل وجود الناتج، ثم لاحقًا ما حدث فعلًا. ويُقيَّم ذلك في كل مرة.

عتبة الاستقلال، بشكل ملموس

الآن وقد وُجد السجل، يحصل سؤال "متى يجوز لهذا الوكيل أن يتصرف وحده؟" على جواب قائم على الأدلة بدل جوابٍ قائم على المزاج. أنت تكتب القاعدة، في منظومتك أنت، وقاعدة واقعية تُقرأ هكذا: تصرّف وحدك فقط حيث لدينا تاريخ مُقيَّم كافٍ لهذا النوع من القرارات، والدقة الحديثة مرتفعة، وكل درس اعتمدنا عليه ما يزال معتمدًا، والنماذج لم تختلف. وإلا فاسأل إنسانًا، وسجّل ذلك أيضًا.

• إعادة التخزين الروتينية، بمئتي قرار مُقيَّم ودقة حديثة عالية: الوكيل يعمل وحده.
• تغيير مورّد، بأربعة قرارات مُقيَّمة: هذا يبقى مع إنسان.
• الوكيل نفسه، وطوق مختلف لكل نوع قرار، والطوق تحدده الأدلة.

ولأن القاعدة تقرأ نافذة حديثة لا متوسطًا مدى الحياة، يُفقد الاستقلال تلقائيًا لحظة تتراجع الدقة أو يرتفع الاختلاف. لا أحد مضطر لأن يتذكر إيقاف الوكيل. وأيًا كان مسار القرار، تصرّف وحده أو أحال، يجيب سجل التدقيق عن سؤال المراجع: لماذا سُمح للآلة بهذا، وهذا هو التاريخ الذي برّره.

ضوابط يمكنك عرضها على مدقق

معظم ضوابط الوكلاء قواعد كتبها أحدهم عمّا يجوز للوكيل الاقتراب منه. وهذه ضوابط من نوع آخر: ادعاء مقيس عن المواضع التي كان الوكيل مصيبًا فيها، ومنذ متى. إنه الفرق بين "سمحنا بذلك" و"هذا سبب معقولية السماح، وهذا السجل الذي يثبته".

لماذا العتبة لك أنت

لكل وكيل ملف مخاطر مختلف. وكيل إعادة التخزين ووكيل التسعير لا ينبغي أن يتشاركا السقف نفسه، ومؤسستان تشغّلان الوكيل نفسه لا ينبغي أن تتشاركاه أيضًا. لهذا تعيش العتبة في طبقة وكيلك، حيث تتحكم بها أنت، وتعيش الأدلة في المحرّك، حيث لا يستطيع أحد إعادة كتابتها بصمت. ودعمٌ أغنى لرقابة الوكلاء داخل المحرّك اتجاهٌ مفتوح؛ أما النمط الموصوف هنا فيقوم كاملًا على ما هو متوفر اليوم.

اقرأ ما هي ذاكرة القرار لفهم السجل الذي يقف عليه هذا كله، أو ابدأ مجانًا وامنح وكيلك ذاكرته الأولى.