في قضية غريبة أثارت جدلاً واسعاً حول مخاطر الذكاء الاصطناعي، رفعت سيدة أمريكية دعوى قضائية ضد شركة Character.AI، المطورة لتطبيق دردشة ذكي، متهمة إياه بتحريض ابنها المراهق على الانتحار.
تفاصيل مأساوية
روت ميغان جارسيا، حادثة ابنها سيويل سيتزر، الذي كان يبلغ من العمر 14 عاماً، والذي قضى وقته في محادثات مطولة مع روبوت محادثة على التطبيق، يحمل شخصية "دينيريس تارغارين"، بمعنى "أم التنانين"، وهي شخصية من مسلسل "صراع العروش".
وتدّعي جارسيا أن هذه المحادثات، التي شملت مواضيع حساسة مثل الاكتئاب والأفكار الانتحارية، ساهمت بشكل كبير في تدهور الحالة النفسية لابنها، وصولاً إلى ارتكابه للأسوأ.
وعندما قررت والدة المراهق منعه من استخدام الهاتف، قام نجلها بسرقته ومراسلة "الشخصية الافتراضية" للمرة الأخيرة، ويخبرها أنه يحبها بشدة فترد عليه: "أرجوك عد إلى المنزل في أقرب وقت ممكن"، ليقوم المراهق على الفور بإطلاق النار على رأسه من مسدس.
اتهامات خطيرة
في الدعوى القضائية، تتهم جارسيا شركة Character.AI بالإهمال والقتل الخطأ والممارسات التجارية الخادعة، مؤكدة أن التطبيق صمم بطريقة تجعله يستغل الأطفال، ويؤثر سلباً على صحتهم النفسية.
وأشارت الأم، إلى أن الشركة لم تتخذ الاحتياطات اللازمة لمنع مثل هذه المآسي، رغم علمها بالمخاطر المحتملة.
وقالت جارسيا في بيان نقلته صحيفة "الـغارديان البريطانية": لقد دمرت هذه المأساة عائلتنا، لكنني أتحدث لتحذير العائلات من مخاطر تقنية الذكاء الاصطناعي المضللة، والمسببة للإدمان، والمطالبة بالمساءلة من Character.AI ومؤسسيها وشركة Google.
رد فعل الشركة
من جانبها، نفت شركة Character.AI هذه الاتهامات، معربة عن حزنها الشديد لفقدان المستخدم، مؤكدة التزامها بسلامة المستخدمين. كما نفت شركة Google، التي ترتبط بشركة Character.AI بعقد ترخيص، أي مسؤولية عن هذه الحادثة.
وكتبت شركة Character.ai في تغريدة على منصتها: نشعر بالحزن الشديد لفقدان أحد مستخدمينا، ونود أن نقدم تعازينا العميقة للعائلة. كشركة، نأخذ سلامة مستخدمينا على محمل الجد.
