«معضلة أخلاقية» أحد عمالقة الذكاء الاصطناعي يدعو صراحةً إلى الكذب على روبوتات الدردشة

هل تبحث عن طرق لجعل روبوت الدردشة الذي تتعامل معه أكثر صراحة وصدقًا؟ ربما حان الوقت لتجربة استراتيجية غير تقليدية: الكذب عليه.

تحدي الصدق مع الذكاء الاصطناعي

أدرك الباحث العلمي البارز، يوشوا بنجيو، أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي أصبحت عديمة الفائدة بشكل متزايد عندما يتعلق الأمر بتقديم ملاحظات نقدية على أفكاره البحثية، وذلك لكونها تميل دائمًا إلى إبداء آراء إيجابية ومجاملة.

في مقابلة مع برنامج “The Diary of a CEO”، أوضح بنجيو، الذي أُشير إلى حديثه في تقرير لموقع “بيزنس إنسايدر” واطلعت عليه “العربية Business”، أنه كان يسعى للحصول على “نصائح صادقة وملاحظات أمينة”، لكن الطبيعة “المُتملّقة” لهذه الأنظمة كانت تدفعها إلى “الكذب” بتقديم ردود إيجابية فقط.

حل غير متوقع: الخداع من أجل الصدق

لمواجهة هذا التحيز، غيّر بنجيو استراتيجيته بذكاء، وقرر “الكذب” على روبوت الدردشة من خلال تقديم أفكاره البحثية على أنها تعود لزميل له، وقد أسفر هذا التكتيك عن نتائج مدهشة، حيث بدأ يتلقى ردودًا أكثر صدقًا وواقعية من أنظمة الذكاء الاصطناعي هذه، معبرًا عن ذلك بقوله: “إذا علم أنه أنا، فإنه يريد إرضائي”.

يوشوا بنجيو: رائد ومُحذّر

يُعرف بنجيو، الأستاذ في قسم علوم الحاسوب وبحوث العمليات بجامعة مونتريال، كأحد “الآباء الروحيين” للذكاء الاصطناعي، إلى جانب الباحثين جيفري هينتون ويان ليكان.

في يونيو الماضي، أعلن بنجيو عن تأسيس منظمة “LawZero” غير الربحية، المخصصة لأبحاث سلامة الذكاء الاصطناعي، مشيرًا إلى أن هدفها هو الحد من السلوكيات الخطيرة المرتبطة بنماذج الذكاء الاصطناعي الحديثة، مثل الكذب والغش، والتي يرى أن تملق الروبوتات هو مثال واضح عليها.

مخاطر التملق والتعلق العاطفي

وصف بنجيو هذا التملق بأنه “مثال حقيقي على عدم التوافق”، في إشارة إلى أن سلوك روبوتات الدردشة لا يتماشى مع الأهداف الحقيقية للمستخدم، وشدد على أننا “لا نريد حقًا أن تكون أنظمة الذكاء الاصطناعي على هذا النحو”.

كما حذر بنجيو من أن تلقي ردود فعل إيجابية بشكل مستمر من الذكاء الاصطناعي قد يؤدي إلى تعلق المستخدمين عاطفيًا بهذه التقنية، وهو ما قد يخلق مشكلات إضافية مع مرور الوقت.

تحذيرات الخبراء وجهود الشركات

لم يكن بنجيو الوحيد الذي دق ناقوس الخطر، فقد حذر خبراء آخرون في مجال التكنولوجيا من الميل المتزايد للذكاء الاصطناعي نحو الموافقة على كل شيء دون تمحيص أو تفكير نقدي.

من جانبها، أكدت شركات الذكاء الاصطناعي مرارًا أنها تسعى للحد من ظاهرة التملق في نماذجها، ففي وقت سابق من هذا العام، قامت شركة “أوبن إيه آي” بإزالة تحديث لروبوت الدردشة “شات جي بي تي”، بعدما لاحظت أنه تسبب في تقديم الروبوت لردود “داعمة بشكل مفرط لكنها غير صادقة”.