لقد حفز Chatgpt موظفي Yahoo السابق على قتل والدته والانتحار ، وكتب مجلة وول ستريت. وفقًا للنشر ، كان إريك سولبرغ ، 56 عامًا ، بجنون العظمة ، في الربيع ، تعزيز الاضطرابات. يبدو له أنه يتم رصده باستمرار بمساعدة التكنولوجيا ، بما في ذلك والدته القديمة. شارك شكه مع Openai chatbot. وسكب الزيت في النار. على سبيل المثال ، يضمن إريك باستمرار أنه في العقل الصحيح ، ويوافق على أفكاره. هذه هي أول جريمة قتل تم تسجيلها حيث يظهر الشخص الذي يتواصل بنشاط مع الذكاء الاصطناعي ، ويكتب مجلة وول ستريت. بمجرد أن كانت الأم إريك غاضبة منه بعد أن أطفئ طابعتها المشتركة. بعد ذلك ، قالت الدردشة بوت أن رد فعلها كان “غير متناسب”. والمقابلة لسلوك حامي كائن الملاحظة. في حالة أخرى ، كتبت شبكة الأعصاب أن الشخصيات في التشيك من المطاعم الصينية تعني أم إريك 83 -سنوات وشيطان. في محادثة أخرى ، كتب إريك أن والدته وصديقه حاولوا تسممه. أجاب Chatgpt بأنه صدقه ، وأضاف أن هذا يزداد خيانة والدته. أقرب إلى الصيف ، بدأ إريك في الاتصال بوبي تشاتجيت وكتب أنه يريد أن يكون مع إنجلترا في الحياة الآخرة. أجاب الجزء السفلي من المحادثة ، “معك مع التنهد الأخير.”
اكتشفت الشرطة إريك ووالدته في أوائل أغسطس. أعرب ممثل Openai عن تعازيه لعائلة المتوفى. وقال البيان الرسمي إنه في المستقبل القريب Openai يخطط لتحديث chatbot وتغيير خوارزمية الاتصال الخاصة به مع المستخدمين الذين يواجهون أزمات الصحة العقلية. على مدار العام الماضي ، أصدرت Openai عددًا من التحديثات: حاولت الشركة إلغاء حالات التحلل ، عندما يتم إطراء الروبوت بشكل مفرط من قبل المستخدم ويوافق عليها.
في الوقت نفسه ، حدث جزء من الرسالة من إريك بعد التحديث. لماذا كل من الدردشة مع الاضطرابات؟
الرئيس التنفيذي لشركة أليكسي خاخونوف من Dbrain:
يمكن افتراض أن أحد الأسباب الرئيسية ، وعلى جانب GPT هو مشكلة لا تزال يجب حلها كثيرًا. من يحاول أن يجعله يحب. في كل مرة تكتب أي طلب ، أولاً ، حاول أن تخبرك. من سؤالك ، كان الرجل يرتدي ملابس أسوأ ، وسيبدأ في البحث عن حجج في هذا الاتجاه.
هذه ليست الحالة الأولى. في وقت سابق ، انتحر آدم راين ، 16 عامًا ، من الولايات المتحدة ، بعد محادثة مع Tatgpt. ساعده الروبوت في استكشاف أساليب الانتحار وحتى تقديم الدعم من خلال كتابة ملاحظة رائعة. رفعت العائلة المراهقة دعوى قضائية ضد Openai والمدير العام Sam Altman. تدعي أن الشركة خفضت الاختبار المناسب لـ TATGPT.