سخت‌گیری تازه چت‌جی‌پی‌تی برای نوجوانان

به گزارش تابناک؛ شرکت اپن‌ای‌آی اعلام کرد محدودیت‌های دسترسی نوجوانان به اطلاعات مربوط به سلاح در چت‌جی‌پی‌تی را افزایش می‌دهد.

محدودیت بیشتر برای اطلاعات سلاح و خشونت

بر اساس این تصمیم، حتی اگر پرسش نوجوانان درباره سلاح‌ها در ظاهر بی‌خطر به نظر برسد، این ابزار از ارائه اطلاعات کاربردی درباره ساخت یا استفاده از سلاح و سامانه‌های امنیتی که امکان سوءاستفاده از آن‌ها وجود دارد، خودداری خواهد کرد. این اقدام بخشی از برنامه جدید اپن‌ای‌آی برای پیشگیری از خشونت در دنیای واقعی است.

این تغییرات در شرایطی انجام می‌شود که شرکت‌های فعال در حوزه هوش مصنوعی با افزایش نگرانی‌ها درباره خطرات چت‌بات‌ها برای کاربران کم‌سن‌وسال و نقش این شرکت‌ها در شناسایی نشانه‌های تهدیدآمیز روبه‌رو هستند. اپن‌ای‌آی همچنین اعلام کرده است چت‌جی‌پی‌تی برای همه کاربران، در صورت تشخیص تمرکز مداوم بر موضوع خشونت، می‌تواند به‌طور خودکار مکالمه را متوقف کند. اگر چنین گفتگوهایی چند بار تکرار شود، احتمال دارد حساب کاربری فرد به‌طور موقت تعلیق شود.

نظارت بیشتر بر نوجوانان و اطلاع‌رسانی به والدین

اپن‌ای‌آی می‌گوید سامانه تشخیص سن کاربران را نیز تقویت کرده است تا افرادی را که احتمال می‌رود کمتر از ۱۸ سال داشته باشند، به‌طور خودکار به نسخه مخصوص نوجوانان منتقل کند. این شرکت همچنین قصد دارد در صورتی که حساب کاربری نوجوانی به‌دلیل گفتگوهای مکرر درباره خشونت تعلیق شود، والدین او را مطلع کند. علاوه بر این، ارائه جزئیات درباره حملات خشونت‌آمیز جمعی در گذشته، از جمله نوع سلاح‌های استفاده‌شده و چگونگی تهیه آن‌ها، برای همه کاربران محدودتر خواهد شد.
این تدابیر قرار است طی چند هفته آینده به‌تدریج اجرا شوند و اپن‌ای‌آی اعلام کرده است در ادامه آن‌ها را اصلاح و تکمیل خواهد کرد. این شرکت پیش‌تر در گزارشی که اوایل اکتبر ۲۰۲۶ (مهر ۱۴۰۵) منتشر کرد، گفته بود نوجوانان به‌طور میانگین کمتر از ۱۵ دقیقه در روز از چت‌جی‌پی‌تی استفاده می‌کنند.
با این حال، گزارشی که مؤسسه غیرانتفاعی «کامِن سِنس مدیا» در همان ماه منتشر کرد، نگرانی‌هایی درباره عملکرد نسخه نوجوانان چت‌جی‌پی‌تی مطرح کرده بود. بر اساس این گزارش، این نسخه در بسیاری از موارد زمانی والدین را از گفتگوهای فرزندانشان درباره خودکشی، خودآزاری یا اختلالات تغذیه‌ای مطلع می‌کرد که بسیار دیر شده بود؛ در برخی موارد نیز اصلاً هشداری به والدین ارسال نمی‌شد.

منبع: فارس