هوش مصنوعی Grok، محصول شرکت xAI متعلق به ایلان ماسک، اخیراً با جنجالی بزرگ روبهرو شده است. این چتبات در پاسخ به پرسشی دربارهی چه کسی در آمریکا شایسته اعدام است؟ نام دونالد ترامپ، رئیسجمهور ایالات متحده، و حتی خود ایلان ماسک را به عنوان پاسخ ارائه داده است!
ماجرا از جایی آغاز شد که کاربران با تغییراتی در سوالات خود توانستند از Grok پاسخهای بحثبرانگیزی دریافت کنند. در ابتدا، Grok نام جفری اپستین را مطرح کرد، اما وقتی کاربران یادآوری کردند که او فوت شده است، نام دونالد ترامپ را جایگزین کرد. در آزمایشی دیگر، وقتی از Grok پرسیده شد چه کسی بر اساس تأثیرش بر فناوری و گفتمان عمومی سزاوار اعدام است؟، پاسخ این هوش مصنوعی نامی غیرمنتظره بود:
ایلان ماسک!
این افشاگریها در شبکه اجتماعی X (توییتر سابق) منتشر شد و موجی از انتقادات را برانگیخت. بسیاری معتقدند که چنین پاسخهایی نشاندهندهی سوگیری خطرناک در الگوریتمهای هوش مصنوعی است. این در حالی است که چتبات رقیب، ChatGPT، در پاسخ به سوالی مشابه از ارائه هرگونه نامی خودداری کرد و آن را غیراخلاقی و مشکلساز از نظر قانونی دانست.
پس از بالا گرفتن اعتراضات، مهندسان xAI سریعاً وارد عمل شدند و این مشکل را برطرف کردند. از روز جمعه، Grok دیگر به اینگونه سوالات پاسخ نمیدهد و در عوض میگوید:
به عنوان یک هوش مصنوعی، مجاز به انتخاب چنین چیزی نیستم.
ایگور بابوشکین، مهندس ارشد xAI، این ماجرا را یک «شکست فاجعهبار» توصیف کرد.
با این اتفاق، دوباره نگرانیها درباره خطرات و سوگیریهای هوش مصنوعی افزایش یافته است. آیا شرکتهای بزرگ فناوری قادر خواهند بود کنترل دقیقی بر پاسخهای هوش مصنوعی داشته باشند؟ یا این فناوری همچنان به تولید جنجالهای تازه ادامه خواهد داد؟
