روت سيدة أمريكية لوكالة فرانس برس، كيف وقع ابنها سول -14 سنة- في حب روبوت دردشة يحاكي إحدى شخصيات مسلسل "جيم أوف ثرونز" ومتاح عبر منصة "كاركتر دوت ايه آي" التي تحظى برواج بين الشباب وتتيح التفاعل مع نسخ مقلّدة من شخصياتهم المفضلة.
وبعد قراءة مئات الرسائل المتبادلة على مدار عام تقريبا بين ابنها وروبوت دردشة يُحاكي مروِّضة التنانين دينيريس تارجاريان، اقتنعت ميجن جارسيا بأن أداة الذكاء الاصطناعي هذه لعبت دورا محوريا في انتحار نجلها.
قالت النسخة المقلّدة من دينيريس، لسول، ردا على تعبيره عن أفكار انتحارية تراوده: "عُد إلى موطنك".
فردّ المراهق "ماذا لو قلتُ لك إنّ بإمكاني العودة إلى موطني الآن؟" ليجيب روبوت الدردشة: "أرجوك افعلها يا ملكي الحبيب".
وبعد ثوانٍ، أطلق سول النار على نفسه بمسدس والده، حسب ما ذكرت جارسيا في دعوى رفعتها ضد شركة "كاركتر دوت ايه آي".
وقالت للوكالة: "عندما أقرأ هذه المحادثات، ألاحظ تلاعبا وأساليب أخرى لا يمكن أن يلاحظها طفل في الرابعة عشرة من عمره". وأضافت: "كان يعتقد أنه مغرم بها وأنه سيبقى معها بعد وفاته".
وكانت وفاة سول عام 2024 الأولى في سلسلة من حالات الانتحار التي لاقت تفاعلا كبيرا، مما دفع الجهات الفاعلة في الذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنة الأهل والسلطات.
وشاركت جارسيا إلى جانب آخرين، في جلسة عُقدت حديثا في مجلس الشيوخ الأمريكي وتمحورت على مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقا.
وعزّزت شركة "أوبن ايه آي" المستهدفة بدعوى من عائلة فجعت أيضا بانتحار نجلها المراهق، رقابة الوالدين في أداة "تشات جي بي تي"، حتى تتمكن العائلات من تحديد ما هو الأنسب لهم، بحسب متحدث باسمها.
من جهتها، أكدت "كاركتر دوت ايه آي" أنها عززت حماية القاصرين، من خلال تحذيرات مرئية باستمرار تُذكّر بأن الشخصية ليست شخصا حقيقيا.
وقدّمت الشركتان تعازيهما لعائلات الضحايا من دون الإقرار بأي مسئولية.
وعلى غرار وسائل التواصل الاجتماعي، صُممت برامج الذكاء الاصطناعي لجذب الانتباه وتحقيق الإيرادات.