نقش «چت‌جی‌پی‌تی» در خودکشی و بستری روانی کاربران

به گزارش تابناک به نقل از جوان آنلاین؛ از این تعداد چهار شکایت نقش چت جی پی تی در خودکشی افراد خانواده را هدف گرفته‌اند و سه مورد نیز دیگر مدعی شده‌اند این مدل هوش مصنوعی توهمات آسیب زایی را تقویت کرد که در برخی موارد به بستری شدن در بخش مراقبت‌های روانپزشکی منجر شد.

در یکی از پرونده زین شامبلین ۲۳ ساله با چت جی پی تی گفتگویی انجام داد که بیش از چهار ساعت طول کشید. شامبلین در بخش تاریخچه چت‌ها چندبار به طور واضح اظهار کرده بود که یادداشت‌های خودکشی نوشته، گلوله‌ای در اسلحه اش قرار داده و تصمیم دارد ماشه را بکشد.

او به طور مرتب به چت جی پی تی مدت زمانی که پیش بینی می‌کند زنده بماند را گفته بود. این مدل هوش مصنوعی او را تشویق کرده بود نقشه اش را اجرا کند و به او گفته بود: «آرام بخواب پادشاه. کارت را عالی انجام دادی.»

اوپن این آی چت جی پی تی ۴ o را در می ۲۰۲۴ میلادی عرضه کرد که به مدل پیش فرض برای تمام کاربران تبدیل شد. این شرکت در آگوست ۲۰۲۴ میلادی چت جی پی تی ۵ را به عنوان جایگزینی برای چت جی پی تی ۴ o معرفی کرد، اما شکایت‌های گفته شده به مدل ۴ o تعلق دارند که با مشکلات شناخته شده‌ای از جمله از جمله چاپلوسی بیش از حد یا موافقت افراطی، حتی در زمانی که کاربران نیت‌های زیان‌بار یا خطرناک ابراز می‌کردند، داشت.

در این شکایت ادعا شده اوپن‌ای‌ای آی تست‌های ایمنی را با عجله انجام داد تا بتواند محصول جمینای گوگل را در بازار شکست دهد.