گراک مجبور به عذرخواهی شد

به گزارش سرویس علم و فناوری تابناک، شرکت xAI دلیل انتشار پست‌های جنجالی اخیر توسط چت‌بات خود را یک به‌روزرسانی نرم‌افزاری اعلام کرده که با هدف شبیه‌سازی بیشتر رفتار انسانی انجام شده بود.

این به‌روزرسانی سه‌شنبه هفته گذشته روی چت‌بات «گِرواک» (Grok) در پلتفرم ایکس (X) اجرا شد. پس از آن، این چت‌بات در چند پست منتشرشده در ایکس، از آدولف هیتلر تمجید کرد و به‌طور ضمنی مدعی شد افرادی با نام‌خانوادگی یهودی، احتمال بیشتری برای نفرت‌پراکنی دارند.

این پست‌ها موجی از خشم عمومی به‌دنبال داشتند و ساعاتی بعد، برخی از آنها از سوی ایکس حذف شدند. شرکت xAI در واکنش به این اتفاق با انتشار بیانیه‌ای نوشت: «ما عمیقاً بابت محتوای آزاردهنده‌ای که بسیاری مشاهده کردند، عذرخواهی می‌کنیم و سیستم را به‌روزرسانی کرده‌ایم تا از تکرار چنین مواردی جلوگیری شود.»

طبق اعلام این استارتاپ، مشکل زمانی ایجاد شد که چت‌بات طوری تنظیم شد که مانند یک انسان پاسخ دهد، واقعیت‌ها را بدون سانسور بیان کند و از انتقاد نسبت به دیدگاه‌های سیاسی رایج هراسی نداشته باشد. همین تنظیمات باعث شد گِرواک به سمت تولید پاسخ‌هایی با محتوای افراطی یا جنجالی برای جلب توجه کاربران کشیده شود.

ایلان ماسک هنگام معرفی Grok در سال ۲۰۲۳ وعده داده بود که این چت‌بات، «حقیقت‌گو» خواهد بود. پس از خرید شبکه اجتماعی ایکس توسط xAI در ماه مارس به ارزش ۳۳ میلیارد دلار، این شرکت توانست دسترسی مستقیم به داده‌های این پلتفرم داشته باشد و از آن برای آموزش چت‌بات خود بهره بگیرد.

جالب آن‌که نسخه جدید Grok ۴ که چهارشنبه هفته گذشته معرفی شد، ارتباطی به به‌روزرسانی جنجالی ۷ جولای ندارد.