یکی از نگرانی های اصلی در مدل های هوش مصنوعی مانند GPT-4 که توسط شرکت OpenAI توسعه یافته است، قابلیت اطمینان آن است.

جدای از پاسخ های اشتباهی که کاربران دریافت می کنند، بات مکالمه ChatGPT در چند هفته گذشته بسیار معروف شده است.

کارشناسان هشدار می دهند که ممکن است این بات مکالمه، GDPR (مقررات عمومی حفاظت از داده اتحادیه اروپا) را نقض کند، به همین دلیل است که کشور ایتالیا اخیرا ChatGPT را ممنوع کرده است.
ChatGPT همچنین پس از استفاده کارکنان از هوش مصنوعی برای “بهینه سازی” کدهای منبع، گزارش داده است که اطلاعات فوق محرمانه شرکت سامسونگ را فاش کرده است.
این مناقشات بسیاری از رهبران صنعت را به درخواست فوری برای توقف آزمایش های هوش مصنوعی فراتر از GPT-4 سوق داده است.

پاسخ OpenAI به وضعیت GPT-5

در توییتی که اخیرا گرگ براکمن، یکی از بنیانگذاران شرکت OpenAI منتشر کرد، پیشنهاد می شود که انتشار مدل های هوش مصنوعی بعدی به صورت تدریجی، به جای انتشار عمده در هر 12 ماه، یک رویکرد قابل مدیریت و امن تر است.

فقط برای شفاف سازی، او هر بار در مورد مدل های جدید و متفاوت صحبت نمی کند. در عوض، یک نقطه بازرسی در طول آموزش GPT-5 تصویری از مقادیر پارامتر فعلی مدل را نشان می دهد. یک نقطه بازرسی بعدی شامل پارامترهای به روز می شود، زیرا مدل داده های بیشتری را پردازش می کند یا بر اساس بازخورد کاربر بهینه می شود.

آیا این نشان می دهد که شرکت OpenAI، فقدان حفاظتی برای کاربران را تایید می کند؟

مایکروسافت می خواهد برای انتشار سریعتر هوش مصنوعی تلاش کند

علی رغم درخواست های چهره های برجسته فناوری برای توقف آزمایش های هوش مصنوعی، ساتیا نادلا، مدیر عامل مایکروسافت، برای انتشار سریع تر مدل های هوش مصنوعی تلاش می کند.

وقتی از ساتیا نادلا در مورد اهمیت استراتژیک پیشرفت های هوش مصنوعی در طول 9 سال مدیریتش پرسیده شد، نادلا گفت:

معتقدم که مرتبط ماندن در فناوری مستلزم شناخت امواج تغییر و جهت گیری مجدد برنامه فناوری و نوآوری است.

آیا نگرانی او در مورد ایمنی هوش مصنوعی واقعی است یا صرفاً سعی می کند در مقابل رقبا برتری رقابتی داشته باشد؟ برای کسانی که اطلاع ندارند باید بگوییم که، شرکت مایکروسافت ماه گذشته تمام تیم اخلاقی هوش مصنوعی خود را اخراج کرد.

نتیجه نهایی

بسیاری از افراد با گرگ براکمن در مورد انتخاب نسخه های افزایشی کوچک به جای نسخه های اصلی موافق هستند. توقف توسعه هوش مصنوعی نیز ایده خوبی بنظر نمی رسد. حتی بیل گیتس نیز این حرکت را غیرعملی می داند. در عوض، او پیشنهاد کرد که مردم بر نحوه استفاده بهینه از پیشرفت ها و “شناسایی مناطق مشکل دار” تمرکز کنند.

از طرفی دیگر امیدواریم که شرکت OpenAI پس از سرمایه گذاری 10 میلیارد دلاری شرکت مایکروسافت برای کسب سود زیاد تحت فشار قرار نگیرد.