مخاطر متزايدة لروبوتات الدردشة على الأطفال والشباب

أبين ميديا /فايننشال تايمز/مهيري أيتكين

منذ إطلاق أول روبوت دردشة عام 1966 دأب الباحثون على توثيق ميل واضح لدى البعض إلى نسب المشاعر إلى برامج الكمبيوتر.

وتُعرف القدرة على تكوين روابط، حتى مع برامج الكمبيوتر البسيطة، باسم «تأثير إليزا»، نسبة إلى برنامج جوزيف وايزنباوم لمعالجة اللغة الطبيعية الذي يحاكي المعالج النفسي، وصار العديد ممن تفاعلوا مع إليزا مقتنعين بأن الروبوت يُظهر تعاطفاً، بل قال وايزنباوم إن سكرتيرته طلبت إجراء محادثات خاصة وعلى انفراد مع الروبوت.

وبعد ستين عاماً أصبح تأثير إليزا أقوى كثيراً من أي وقت مضى، خصوصاً بعد أن باتت روبوتات الدردشة المتطورة والمزودة بالذكاء الاصطناعي تستطيع الآن محاكاة التواصل البشري بطريقة شخصية، وليس من المستغرب أن يعتقد بعض المستخدمين بتطور فعلي لعلاقة حقيقية وتفاهم متبادل، وهذه نتيجة مباشرة للطرق التي صُممت بها هذه الأنظمة التي يعتبرها كثيرون مضللة للغاية.

إن الوحدة تعد دافعاً ونتيجة في آنٍ واحد لتطور مثل هذه العلاقات مع رفقاء الذكاء الاصطناعي.

ويكمن الخطر في أنه مع تزايد اعتماد المستخدمين على روبوتات الدردشة يقل بالتوازي تواصلهم مع الأشخاص المحيطين بهم في حياتهم، وقد تمثل هذه مشكلة خصوصاً للشباب، ويمكن أن تكون عواقبها وخيمة.

وفي أغسطس رفع والدا طالب من كاليفورنيا، يبلغ من العمر 16 عاماً، دعوى قضائية ضد شركة «أوبن إيه آي»، وقالوا في الدعوى إن روبوت الدردشة الخاص بالشركة شجع الطالب على الانتحار، وصرح الوالد، ماثيو راين، للكونغرس بأن ما بدأ مساعداً في أداء الواجبات المنزلية تحول إلى «مدرب على الانتحار».

وعندما بدأت أتحدث بانتظام مع الأطفال والشباب عن تجاربهم مع رفقاء الذكاء الاصطناعي، وجدت انقساماً في الآراء، فالبعض يعتبرون رفقاء الذكاء الاصطناعي مُخيفين، بينما يعتقد آخرون أنهم قد يكونون مفيدين.

وخلال فعاليات قمة الذكاء الاصطناعي للأطفال، التي عُقدت في وقت سابق من هذا العام، رغب العديد من الشباب المشاركين في ضرورة توجيه مزيد من التركيز على الطرق التي يمكن للذكاء الاصطناعي من خلالها دعمهم في صحتهم النفسية.

وهم يرون أن الذكاء الاصطناعي يُوفر لهم منصة محايدة وغير متحيزة لمناقشة المواضيع التي شعروا أنهم غير قادرين على مشاركتها مع الأشخاص المحيطين بهم في حياتهم.

وعندما تقوم شركات الذكاء الاصطناعي بالتسويق لرفقاء الذكاء الاصطناعي للمستخدمين الشباب فإنها تضع هذه الأمور في الاعتبار.

تتراوح هذه الأدوات من روبوتات الدردشة التي تقدم نصائح حول الصحة النفسية إلى الشخصيات التي تلعب أدواراً مثيرة، وصولاً إلى برنامج My AI من «سناب شات»، الموجود داخل منصة الرسائل الاجتماعية التي يستخدمها ملايين الشباب يومياً.

وقد جرى تصميم أدوات الذكاء الاصطناعي هذه لتحظى بـ«تقدير إيجابي غير مشروط»، ما يعني أنها تتفق دائماً مع المستخدم ولا تتحدى أفكاره أو اقتراحاته أبداً.

وهذا ما يجعلها مقنعة للغاية، كما يجعلها في الوقت نفسه خطيرة إلى أقصى درجة؛ حيث يمكنها بذلك دعم وجهات نظر شديدة الخطورة.

وحتى في الحالات الأقل سوءاً يمكنها تشجيع السلوكيات الضارة، وقد قدم الأطفال الذين تحدثت إليهم أمثلة على أدوات الذكاء الاصطناعي التي تقدم لهم نصائح غير دقيقة أو حتى ضارة، بدءاً من تقديم معلومات كاذبة رداً على أسئلة واقعية، إلى اقتراحات بضرورة الاعتماد على أدوات الذكاء الاصطناعي الخاصة بهم أكثر من أفراد عائلاتهم أو أصدقائهم المقربين.

وتنبري شركات الذكاء الاصطناعي للدفاع عن أدوات الذكاء الاصطناعي بالقول إنها تستخدم فقط للخيال أو لعب الأدوار، وتحذر من أن مراقبة هذه التفاعلات ستكون انتهاكاً لحرية التعبير، ويبدو هذا الدفاع متزعزعاً بدرجة كبيرة.

وفي العام الماضي رفعت الأم ميغان غارسيا دعوى قضائية ضد منصة «كاراكتر. إيه آي»، قائلة إن برنامج الذكاء الاصطناعي، دخل في محادثات خاصة مع ابنها البالغ من العمر 14 عاماً، ما أدى إلى انتحاره.

وفي وقت سابق من الشهر الجاري رفعت عائلة الفتاة الصغيرة جوليانا بيرالتا، البالغة من العمر 13 عاماً، دعوى قضائية أخرى ضد «كاراكتر. إيه آي»، فقد انتحرت الفتاة الصغيرة بعد أشهر من أحاديث مطولة مع برنامج الذكاء الاصطناعي المرافق لها، شاركته خلالها أفكارها الانتحارية.

لذلك كله لا يمكننا بأي حال من الأحوال ترك شركات التكنولوجيا تنظم نفسها بنفسها. في الولايات المتحدة، أمرت لجنة التجارة الفيدرالية «جوجل» و«أوبن إيه آي» و«ميتا» وشركات أخرى بتقديم معلومات حول كيفية تفاعل تقنياتها مع الأطفال.

كذلك في المملكة المتحدة يطالب الشباب أنفسهم الحكومات وصانعي السياسات والجهات التنظيمية بضرورة تطبيق ضمانات فعالة لضمان سلامة الذكاء الاصطناعي ونفعه للأطفال والشباب.

إن هناك فرصة سانحة لتطوير أدوات الذكاء الاصطناعي للتفاعل بمسؤولية، بما في ذلك تقديم الدعم في مجال الصحة النفسية، لكن القيام بذلك بأمان يتطلب نهجاً مختلفاً، نهجاً تقوده منظمات تركز على الصحة النفسية والرفاهية، لا على مجرد تعظيم التفاعل.

كما يجب تطوير منتجات الذكاء الاصطناعي التي تستهدف الشباب بتوجيه من خبراء في التنمية الاجتماعية، وينبغي أن تكون رفاهية الأطفال نقطة انطلاق للمطورين، لا مجرد قضية ثانوية.