التعامل مع رسائل الدردشة السامة

يتواصل الناس يوميًا عبر صفحتنا على فيسبوك. بعضهم فضولي، وبعضهم حلم بيسوع، والبعض الآخر غاضب بشدة. عندما تسير المحادثات على ما يرام، يمكن لمُجيبينا الرقميين التفاعل بشكل هادف وتوجيه الناس نحو المسيح، ودعوتهم إلى علاقة معه.

مع ذلك، يرى كثيرون محتوانا ويشعرون بإهانة بالغة. فحقيقة المسيح تتناقض تمامًا مع ما آمنوا به دائمًا، مما قد يُشعرهم بالتهديد. يحب الله هؤلاء الأفراد حبًا جمًا. ومع ذلك، فقد أظهرت لنا تجربتنا أن الحوارات التي تبدأ بالعداء لا تُثمر.

ماذا يمكننا أن نفعل؟

لقد قمنا بإغلاق هذه المحادثات يدويًا لسنوات عديدة، مما يسمح للمستجيبين الرقميين لدينا بالتركيز على المحادثات الأخرى.

لقد جربنا الأتمتة باستخدام مطابقة الكلمات الرئيسية أو تدفقات الدردشة الآلية، ولكن العقبة الكبيرة في سياقنا هي الطرق العديدة لكتابة اللهجة العربية وترجمتها، مما يجعل مطابقة الكلمات الرئيسية هشة.

لقد أتاح هذا الموسم فرصًا جديدة من خلال الذكاء الاصطناعي. لخدمة فريقنا، قمنا بتطوير برنامج ذكاء اصطناعي يراجع كل محادثة جديدة تلقائيًا. يتحقق هذا البرنامج من كون الرسالة عدائية. هدفه هو السماح للباحثين الحقيقيين بالمرور وإغلاق المحادثات العدائية قبل أن يقرأها أحد.

كيف يبدو عامل السمية؟

إن عامل السمية بسيط للغاية.

نبدأ بتعليمات مباشرة:

أنت مساعد إدارة محتوى. حلل المحادثة التالية وحدد ما إذا كانت عدائية أو تحتوي على محتوى عدواني أو تهديدي أو ضار. أجب بـ "صحيح" أو "خطأ" دون أي كلمات أخرى.

إلى جانب الأمثلة التي نقدمها (مترجمة):

أمثلة على الرسائل العدوانية/العدائية:
– لعنة الله على المشركين
– عيب عليك
– قم بإزالة إعلانك من صفحتي الآن.
– اذهب إلى الجحيم مع أمهاتك. (وهناك العديد من البدائل لذلك).
– إلخ.

يستطيع عميل الذكاء الاصطناعي التعامل مع المحادثات بأي لغة، ولا يتأثر أو يُحبط بتقييم التهديدات والإهانات. إذا كانت المحادثة عدائية، فسيتم إغلاقها تلقائيًا.

هل هذه هي النهاية؟

لا نريد التوقف عند هذا الحد. ماذا لو استخدم الله صفحتنا لتحويل محادثة عدائية إلى محادثة مثمرة؟ ماذا لو استطعنا مشاركة بعض الموارد، وإذا عاد الشخص مهتمًا حقًا، يمكننا مواصلة المحادثة؟ ربما حتى الذكاء الاصطناعي يستطيع الاستجابة لبعض المراسلات ليكتشف إن كان هناك أي انفتاح حقيقي.

ونأمل أن نتمكن في الموسم المقبل من الإجابة على بعض هذه الأسئلة.