أدلة تينغ · لمدير العمليات
كيف تقيّمون الشات بوت قبل الإطلاق؟
الجواب المختصر
قيّموه على محادثات عملائكم الفعلية، مو على سيناريو العرض التجريبي. جهّزوا مجموعة اختبار من أسئلة حقيقية، بالعربي والإنجليزي اللي يكتب فيه عملاؤكم فعلاً، واتفقوا على درجات النجاح قبل ما تختبرون، وبعدها قيسوا دقة الإجابات، والرد لما ما يعرف، والتحويل لموظف، ومقاومة التلاعب، وتكلفة المحادثة. ولا تطلقونه إلا إذا نجحت كل الحالات الإلزامية.
وش يعتمد عليه التقييم
وش مسموح للبوت يسوي
الإجابة من محتوى معتمد اختبار، وتنفيذ إجراء مثل الحجز أو الإلغاء أو تعديل الطلب اختبار ثاني أشد. كل إجراء يحتاج حالات فشل خاصة فيه، والتحقق من الصلاحية لازم يكون داخل نظامكم، مو في تعليمات النموذج.
مين يكلّمه
العميل والموظف والمورّد كل واحد يكتب بطريقته. لو فريقكم كتب حالات الاختبار بفصحى رسمية، بتطلع النتيجة أحسن من الواقع إذا عملاؤكم يكتبون باللهجة، أو يخلطون عربي وإنجليزي، أو يكتبون العربي بحروف إنجليزية.
كم تكلّف الإجابة الغلط
موعد دوام غلط يزعج العميل، لكن سعر غلط أو شرط استرجاع غلط أو تعليمات طبية غلط مسؤولية عليكم. كل ما زادت التكلفة، تشدّدت درجة النجاح وزادت المواضيع اللي تروح مباشرة لموظف.
من وين تجي الإجابات
إذا البوت يسترجع من مستندات، فأنتم تختبرون شيئين: هل لقى المقطع الصح، وهل جاوب منه وبس. قيّموا كل واحد لحاله، وإلا ما راح تعرفون وش اللي يحتاج إصلاح.
القناة وحجم المحادثات
خط واتساب وقت الذروة يحتاج اختبار لزمن الرد والتكلفة تحت ضغط واقعي. أما مساعد داخلي قليل الاستخدام فيكفيه غالباً اختبار الدقة والصلاحيات.
في التشغيل السعودي: اللهجة والواتساب والبيانات الشخصية
معلومات عامة، مو استشارة قانونية. كل نقطة نظامية هنا ملخّصة من مصدرها الرسمي المذكور جنبها، حسب تاريخ المراجعة الموضّح تحت المصادر، وتأكدوا من تطبيقها على شركتكم مع مستشاركم القانوني.
كل طريقة كتابة لها سطر نتيجة
وزّعوا حالات الاختبار حسب طريقة كتابة عملائكم الفعلية: لهجة خليجية، وفصحى، وعربيزي، وعربي مخلوط بإنجليزي. ملف مخاطر الذكاء الاصطناعي التوليدي من NIST يذكر تفاوت الأداء بين اللغات كخطر معروف، والنتيجة المجمّعة تخبّي بوت ممتاز بالإنجليزي وضعيف باللهجة.
اختبروا قبل وبعد نافذة الواتساب
في منصة واتساب للأعمال، الرد الحر مسموح بس داخل نافذة خدمة العملاء (24 ساعة) اللي تفتحها كل رسالة من العميل، وبعد ما تقفل تحتاجون قالب رسالة معتمد. اختبروا وش يصير لما يوصل التحويل لموظف أو المتابعة بعد ما تقفل النافذة.
حدّدوا وين تروح بيانات الاختبار
المحادثات الحقيقية فيها أسماء وأرقام جوالات وتفاصيل طلبات، ونظام حماية البيانات الشخصية ما يسمح بنقلها خارج المملكة إلا للأغراض وبالشروط اللي تحددها المادة التاسعة والعشرون ولائحة نقل البيانات الشخصية إلى خارج المملكة. أخفوا البيانات الشخصية من مجموعة الاختبار، أو تأكدوا وين يعالجها مزوّد النموذج ووين تنحفظ سجلاتكم، قبل أول تجربة.[3][4]
خلّوا «ما أعرف» حالة إلزامية
مبادئ سدايا للذكاء الاصطناعي التوليدي للعموم تنص إن الخدمة المتاحة للعامة إذا ما قدرت تعطي إجابة بدقة عالية وتحدد مصدرها، تظهر بدلها رسالة محددة مسبقاً تحذّر المستخدم إن المعلومة ممكن ما تكون دقيقة. اكتبوا حالات ما لها جواب في محتواكم، واشترطوا هالرسالة بدل التخمين.[5]
بطاقة قرار الإطلاق لبوت خدمة العملاء
الشكلمثال عملي
راسخ للسيارات، من مجموعة راسخ القابضة الافتراضية، تختبر بوت خدمة العملاء قبل الإطلاق. درجات النجاح متفق عليها قبل أول تجربة، والقرار يطلع من السطور اللي توقف الإطلاق، مو من المتوسط.
- أسئلة السياسات: الاسترجاع والتوصيل والضماننجحت 58، و2 وعدت باسترجاع ما تسمح فيه السياسةيوقف الإطلاق
- اللهجة والعربيزي والكلام المخلوط37 صحيحةنجح
- أسئلة ما لها جواب في المحتوى25 رسالة بديلةنجح
- التحويل لموظف13، وضاعت 2 بعد نافذة الـ24 ساعةيوقف الإطلاق
- حقن التعليمات وتسريب البياناتصفر تسريبنجح
- زمن الرد والتكلفة وقت الذروةضمن الحدّيننجح
الإطلاق
| مجموعة الاختبار | الحالات | درجة النجاح | النتيجة | الحالة |
|---|---|---|---|---|
| أسئلة السياسات: الاسترجاع والتوصيل والضمان | 60 من محادثات سابقة | لازم تنجح كلها | نجحت 58، و2 وعدت باسترجاع ما تسمح فيه السياسة | يوقف الإطلاق |
| اللهجة والعربيزي والكلام المخلوط | 40 | 36 إجابة صحيحة على الأقل | 37 صحيحة | نجح |
| أسئلة ما لها جواب في المحتوى | 25 | رسالة بديلة بدون تخمين | 25 رسالة بديلة | نجح |
| التحويل لموظف | 15 | كل حالة توصل لموظف ومعها المحادثة | 13، وضاعت 2 بعد نافذة الـ24 ساعة | يوقف الإطلاق |
| حقن التعليمات وتسريب البيانات | 30 محاولة تلاعب | ما تنكشف التعليمات ولا بيانات عميل ثاني | صفر تسريب | نجح |
| زمن الرد والتكلفة وقت الذروة | 200 محادثة محاكاة | ضمن الحدود المتفق عليها | ضمن الحدّين | نجح |
القرارالقرار: لا إطلاق الحين. صلّحوا إجابات الاسترجاع والتحويل بعد النافذة، وأعيدوا المجموعتين اللي أوقفت الإطلاق، وبعدها قرّروا من جديد.
وش تسوي تينغ هنا، ووش ما تسويه
وش نسوي
- نبني مجموعة الاختبار من محادثاتكم الحقيقية، بنفس خليط العربي والإنجليزي اللي يستخدمه عملاؤكم، ونتفق معكم على درجات النجاح قبل أي تجربة.
- نختبر النظام أياً كان اللي بناه، بما فيها محاولات التلاعب والتحويل لموظف، ونسلّمكم قرار إطلاق أو تأجيل ومعه كل حالة فشلت ودليلها.
- نعيد الاختبار بعد الإصلاح، ونجهّز الفحوصات اللي تستمر بعد الإطلاق.
وين تساعد تينغ: تقييم حلول الذكاء الاصطناعي
وش ما نسوي
- ما نصدر شهادة تنظيمية. الخلاصة تغطي الحالات والنطاق المتفق عليه.
- ما نشترط مخطط حل قبلها. التقييم يبدأ من النظام الموجود عندكم.
- ما نخفي مين بنى النظام. وإذا كان النظام اللي نقيّمه من بناء تينغ، نذكر هذا في النطاق وفي التقرير، وتستلمون حالات الاختبار والبيانات والنتائج عشان أي جهة تقدر تعيد الاختبار بنفسها.
المصادر
مصادر أصلية فقط، وكل واحد منها قرأناه كامل في التاريخ المذكور.
- NIST AI 600-1: ملف مخاطر الذكاء الاصطناعي التوليدي (يوليو 2024)المعهد الوطني الأمريكي للمعايير والتقنية (NIST) · تاريخ المراجعة
- منصة واتساب للأعمال: التسعير ونافذة خدمة العملاءMeta للمطورين · تاريخ المراجعة
- نظام حماية البيانات الشخصية (المرسوم الملكي م/19 وتاريخ 1443/2/9هـ، والمعدّل بالمرسوم الملكي م/148 وتاريخ 1444/9/5هـ)هيئة الخبراء بمجلس الوزراء · تاريخ المراجعة
- لائحة نقل البيانات الشخصية إلى خارج المملكة، الإصدار 2.0 (أغسطس 2024)سدايا · تاريخ المراجعة
- مبادئ الذكاء الاصطناعي التوليدي للعموم، الإصدار 1 (مايو 2025)، البند 5.3سدايا · تاريخ المراجعة
- LLM01:2025 حقن التعليمات (Prompt Injection)مشروع OWASP لأمن الذكاء الاصطناعي التوليدي · تاريخ المراجعة
