أعلنت شركتا التكنولوجيا الأمريكيتان أوبن أيه.آي وميتا، اللتان تطوران أنظمة محادثة الذكاء الاصطناعي عن تعديل طريقة استجابة أنظمة المحادثة الخاصة بهما للمراهقين وغيرهم من المستخدمين الذين يطرحون أسئلة حول الانتحار أو تظهر لديهم مؤشرات على المعاناة من مشكلات نفسية وعاطفية.
وقالت أوبن أيه.آي مطورة منصة المحادثة شات جي.بي.تي اليوم الثلاثاء إنها تجهز لإطلاق عناصر تحكم جديدة تتيح للأباء ربط حساباتهم بحسابات أبنائهم المراهقين.
ووفقًا لمنشور على مدونة الشركة، يمكن للآباء اختيار الخصائص التي يريدون تعطيلها و"تلقي إشعارات عندما يكتشف النظام أن ابنهم المراهق يمر بفترة ضيق شديد"، مشيرة إلى أن التغييرات ستدخل حيز التطبيق هذا الخريف.
وبغض النظر عن عمر المستخدم، تقول الشركة إن تطبيقات المحادثة الخاصة بها ستعيد توجيه المحادثات الأكثر إزعاجا إلى نماذج ذكاء اصطناعي أكثر كفاءة وقادرة على تقديم استجابة أفضل.
يأتي هذا الإعلان بعد أسبوع من رفع والدي آدم راين، البالغ من العمر 16 عامًا، دعوى قضائية ضد شركة أوبن أيه.آي ورئيسها التنفيذي سام ألتمان، زاعمين أن تطبيق شات جي.بي.تي هو الذي درب الصبي الكاليفورني على التخطيط للانتحار في وقت سابق من هذا العام.
كما أعلنت شركة ميتا، المالكة لمنصات التواصل الاجتماعي إنستجرام وفيسبوك وواتس آب، أنها تمنع أنظمة الدردشة الخاصة بها من التحدث مع المراهقين حول إيذاء النفس والانتحار واضطرابات الأكل والمحادثات العاطفية غير اللائقة، وتوجههم بدلا من ذلك إلى مصادر متخصصة. وتوفر ميتا بالفعل أدوات الرقابة الأبوية على حسابات المراهقين.
وكشفت دراسة نُشرت الأسبوع الماضي في المجلة الطبية "خدمات الطب النفسي" عن تناقضات في كيفية استجابة ثلاثة أنظمة دردشة شائعة تعمل بالذكاء الاصطناعي لاستفسارات حول الانتحار.