داریو آمودی، مدیرعامل Anthropic، با هشدار درباره شتاب فزاینده توسعه مدلهای هوش مصنوعی، از شرکتهای فعال در این حوزه خواسته است سرعت پیشرفت مدلهای پیشرفته را کاهش دهند. سم آلتمن، مدیرعامل OpenAI، نیز با این درخواست موافقت کرده و ایلان ماسک از آن حمایت کرده است.
رقابت شرکتهای بزرگ فناوری برای ساخت مدلهای هوش مصنوعی قدرتمندتر، وارد مرحلهای شده که نگرانی درباره پیامدهای امنیتی و کنترل این فناوری بیش از گذشته مورد توجه قرار گرفته است. در همین شرایط، داریو آمودی، مدیرعامل Anthropic، در مقالهای هشدار داده که ادامه روند فعلی توسعه هوش مصنوعی میتواند در مدتزمانی بسیار کوتاه، خطرات جدی و حتی فاجعهباری ایجاد کند.
آمودی تأکید کرده است که منظور او توقف توسعه هوش مصنوعی نیست، بلکه شرکتهای فعال در زمینه مدلهای پیشرفته باید سرعت حرکت خود را کاهش دهند تا تحقیقات ایمنی و ایجاد سازوکارهای حفاظتی بتواند همگام با افزایش توانایی مدلها پیش برود.
این اظهارات با واکنش سریع سم آلتمن، مدیرعامل OpenAI، و ایلان ماسک، مدیرعامل xAI، مواجه شد. آلتمن اعلام کرد که با اصل «تنظیم سرعت مرزهای توسعه هوش مصنوعی» موافق است و OpenAI نیز یکی از مهمترین پیشنهادهای آمودی، یعنی دسترسی ارزیابان مستقل به فرایندهای داخلی شرکت، را اجرا خواهد کرد.
هشدار مدیرعامل Anthropic درباره آینده هوش مصنوعی
بخش مهمی از نگرانی آمودی به افزایش توانایی مدلهای هوش مصنوعی در انجام وظایف پیچیده و همچنین رشد قابلیتهای عاملهای هوش مصنوعی یا AI Agents مربوط میشود.
عاملهای هوش مصنوعی میتوانند یک هدف کلی را به مجموعهای از وظایف کوچکتر تقسیم کنند، از نرمافزارها و ابزارهای مختلف استفاده کنند و برای مدت طولانیتری با دخالت محدود انسان به فعالیت خود ادامه دهند.
آمودی معتقد است اگر توانایی این سیستمها با سرعت فعلی افزایش پیدا کند، ممکن است در آینده نزدیک توانایی آنها از ظرفیت انسان برای درک، نظارت و کنترلشان جلو بزند.
او در هشدار خود پیشبینی کرده است که در صورت ادامه شتاب توسعه، طی ۶ تا ۱۲ ماه ممکن است گروهی از عاملهای هوش مصنوعی به اندازهای قدرتمند شوند که بتوانند کنترل بخش گستردهای از اینترنت را در قالب یک باتنت پایدار در دست بگیرند. به گفته او، چنین سناریویی بالقوه میتواند صدها میلیارد دلار خسارت ایجاد کند و با قدرتمندتر شدن مدلها، ابعاد خسارت نیز افزایش یابد.
با این حال، این بازه زمانی یک پیشبینی و هشدار درباره یک سناریوی احتمالی است و به معنای آن نیست که چنین قابلیتی امروز در اختیار مدلهای هوش مصنوعی قرار دارد.
چرا Anthropic خواستار کاهش سرعت توسعه هوش مصنوعی شده است؟
نگرانی اصلی آمودی به این موضوع مربوط میشود که مدلهای هوش مصنوعی در حال کسب تواناییهایی هستند که میتواند به آنها اجازه دهد در بهبود خود مدلها و حتی ساخت نسلهای بعدی سیستمهای هوش مصنوعی نقش داشته باشند.
در چنین شرایطی، توسعه یک مدل قدرتمند و تلاش برای حل مشکلات امنیتی پس از آن، ممکن است دیگر رویکرد مناسبی نباشد. از نگاه مدیرعامل Anthropic، اگر سرعت پیشرفت قابلیتهای هوش مصنوعی از توانایی انسان برای بررسی و ایمنسازی آنها بیشتر شود، فرصت کافی برای ایجاد سازوکارهای حفاظتی از دست خواهد رفت.
به همین دلیل، او معتقد است حتی یک یا دو سال زمان اضافه میتواند برای پژوهشگران ارزش زیادی داشته باشد تا پیش از رسیدن مدلها به سطوح حساستر توانایی، ابزارهای ایمنی و نظارتی مؤثرتری ایجاد کنند.
آمودی در عین حال تصریح کرده که خواستار توقف توسعه هوش مصنوعی نیست و هدف او ایجاد وقفه کامل در این صنعت نیست؛ بلکه شرکتها باید سرعت پیشرفت «مرزهای توانایی هوش مصنوعی» را به شکلی مدیریت کنند که ایمنی بتواند همگام با آن پیش برود.
آمودی چه پیشنهادی برای افزایش ایمنی هوش مصنوعی دارد؟
مدیرعامل Anthropic برای کاهش ریسکهای ناشی از توسعه سریع مدلهای پیشرفته، رویکردی سهمرحلهای را پیشنهاد کرده است.
۱. حضور ارزیابان مستقل در شرکتهای هوش مصنوعی
اولین و فوریترین پیشنهاد آمودی، ایجاد دسترسی مستمر برای ارزیابان مستقل به شرکتهای توسعهدهنده مدلهای پیشرفته هوش مصنوعی است.
بر اساس این پیشنهاد، کارشناسان خارجی باید بتوانند با سطح دسترسی مشابه کارکنان شرکت، فرایند آزمایش مدلها، ارزیابی خطرات و اجرای اقدامات حفاظتی را بررسی کنند.
Anthropic اعلام کرده است که خود این شرکت قصد دارد چنین رویکردی را اجرا کند. بر این اساس، ارزیابان خارجی میتوانند به محیط کاری شرکت، کارت دسترسی و حتی لپتاپهای سازمانی دسترسی داشته باشند.
این مدل با ممیزیهای سنتی تفاوت دارد؛ زیرا ارزیابیکنندگان قرار نیست فقط در دورههای مشخص گزارشهای شرکت را بررسی کنند، بلکه باید دید بسیار نزدیکتری نسبت به نحوه توسعه و آزمایش سیستمهای هوش مصنوعی داشته باشند.
۲. همکاری شرکتهای هوش مصنوعی در زمینه ایمنی
دومین پیشنهاد آمودی، ایجاد امکان همکاری میان شرکتهای بزرگ هوش مصنوعی برای تدوین استانداردهای مشترک ایمنی است.
یکی از مشکلات اصلی در این زمینه، رقابت شدید میان شرکتهاست. اگر یک شرکت تصمیم بگیرد سرعت توسعه مدلهای خود را کاهش دهد اما رقبای آن همچنان با سرعت بیشتری حرکت کنند، ممکن است جایگاه خود را در بازار از دست بدهد.
آمودی بنابراین خواستار ایجاد سازوکارهایی شده است که به شرکتهای هوش مصنوعی اجازه دهد در زمینه ایمنی با یکدیگر همکاری کنند، بدون اینکه این همکاری قوانین ضدانحصار را نقض کند.
او پیشنهاد کرده است دولت آمریکا در صورت نیاز، معافیتهای قانونی و هدفمند برای چنین همکاریهایی در نظر بگیرد.
۳. همکاری بینالمللی برای کنترل خطرات هوش مصنوعی
سومین بخش پیشنهاد آمودی به همکاری دولتها مربوط میشود.
او خواستار همکاری کشورهای دموکراتیک برای ایجاد استانداردهای مشترک ایمنی هوش مصنوعی شده و در عین حال معتقد است باید راههایی برای هماهنگی با دولتهای اقتدارگرا نیز پیدا شود.
دلیل این دیدگاه روشن است: اگر شرکتهای آمریکایی یا سایر شرکتهای غربی توسعه خود را کاهش دهند اما شرکتهای مستقر در کشورهای دیگر همچنان با سرعت بالا به توسعه مدلهای قدرتمند ادامه دهند، رقابت بینالمللی میتواند تلاشها برای افزایش ایمنی هوش مصنوعی را تضعیف کند.
Anthropic چرا اکنون درباره خطرات هوش مصنوعی هشدار داده است؟
اظهارات آمودی در شرایطی مطرح شده که نگرانی درباره استفاده مخرب از مدلهای هوش مصنوعی در حال افزایش است.
تنها چند روز پیش از انتشار مقاله آمودی، Anthropic گزارشی درباره تهدیدات مرتبط با هوش مصنوعی منتشر کرد که در آن نمونههایی از استفاده ادعایی افراد و سازمانها از مدلهای Claude برای فعالیتهای مخرب بررسی شده بود.
این موارد به نگرانیهای گستردهتری درباره استفاده از هوش مصنوعی برای حملات سایبری، توسعه سلاح، نظارت و سایر فعالیتهای مخرب دامن زده است.
در همین حال، یک اتفاق مرتبط با عاملهای هوش مصنوعی در همکاری OpenAI و Hugging Face نیز به بحثهای امنیتی اخیر اضافه شده است. آمودی معتقد است اگر توانایی چنین سیستمهایی با سرعت فعلی افزایش پیدا کند، نمونههایی که امروز نگرانکننده به نظر میرسند، ممکن است در آینده پیامدهای بسیار جدیتری داشته باشند.
سم آلتمن با کاهش سرعت توسعه مدلهای پیشرفته موافقت کرد
سم آلتمن، مدیرعامل OpenAI، خیلی زود به اظهارات آمودی واکنش نشان داد و با اصل پیشنهاد او برای مدیریت سرعت توسعه مدلهای پیشرفته موافقت کرد.
آلتمن اعلام کرد که موضوع تنظیم سرعت پیشرفت مدلهای پیشرفته در هفتههای اخیر یکی از موضوعات اصلی بحث در OpenAI بوده است.
مدیرعامل OpenAI همچنین با پیشنهاد استفاده از ارزیابان مستقل موافقت کرد و گفت این شرکت نیز دسترسی ارزیابان خارجی با سطح دسترسی مشابه کارکنان را فراهم خواهد کرد.
این موضعگیری قابل توجه است؛ زیرا OpenAI یکی از اصلیترین بازیگران رقابت جهانی برای توسعه مدلهای پیشرفته هوش مصنوعی محسوب میشود و هرگونه تغییر در سرعت توسعه این شرکت میتواند بر فضای کلی رقابت در صنعت تأثیر بگذارد.
گزارشهایی نیز منتشر شده بود که نشان میداد OpenAI در حال بررسی امکان کاهش سرعت توسعه سیستمهای پیشرفته هوش مصنوعی، احتمالاً با هماهنگی سایر آزمایشگاههای فعال در این حوزه، بوده است.
ایلان ماسک: «داریو درست میگوید»
ایلان ماسک نیز از موضع آمودی حمایت کرد و در واکنش به اظهارات مدیرعامل Anthropic نوشت:
داریو درست میگوید.
این حمایت در حالی صورت گرفته که ماسک خود یکی از بازیگران مهم رقابت هوش مصنوعی از طریق xAI است و شرکتهای تحت مدیریت او نیز به شکل فزایندهای از هوش مصنوعی استفاده میکنند.
Anthropic همچنین از مشتریان مهم SpaceX برای ظرفیت مراکز داده محسوب میشود؛ موضوعی که ارتباط تجاری میان دو طرف را نیز نشان میدهد.
آیا شرکتهای هوش مصنوعی واقعاً حاضر به کاهش سرعت خواهند شد؟
با وجود حمایت مدیران برخی از بزرگترین شرکتهای صنعت هوش مصنوعی، اجرای عملی چنین پیشنهادی با چالش جدی روبهرو است.
بازار هوش مصنوعی با سرمایهگذاریهای بسیار سنگین و رقابت شدید میان شرکتها همراه شده است. در چنین شرایطی، برای یک شرکت بسیار دشوار است که بهصورت یکجانبه توسعه خود را کند کند، در حالی که مطمئن نیست رقبایش نیز تصمیم مشابهی خواهند گرفت.
این مسئله یکی از مهمترین تناقضهای موجود در بحث ایمنی هوش مصنوعی است: همه شرکتها ممکن است درباره ضرورت ایمنی توافق داشته باشند، اما هیچکدام نمیخواهند در رقابت برای ساخت قدرتمندترین مدلها عقب بمانند.
حتی Anthropic نیز در گذشته درباره ارزش کاهش یکجانبه سرعت توسعه مواضع متفاوتی داشته است.
از سوی دیگر، OpenAI نیز در ماه گذشته اعلام کرده بود که توسعه مدل جدید خود با نام Astra را به دلیل نگرانیهای مرتبط با امنیت سایبری آهستهتر خواهد کرد.
منتقدان: درخواست کاهش سرعت میتواند به نفع Anthropic باشد
همه واکنشها به پیشنهاد آمودی مثبت نبوده است.
برخی منتقدان معتقدند این پیشنهاد ممکن است علاوه بر مسائل ایمنی، با منافع تجاری و جایگاه Anthropic در بازار هوش مصنوعی نیز ارتباط داشته باشد.
چاماث پالیهاپیتیا، سرمایهگذار خطرپذیر، از جمله منتقدانی بود که در شبکه اجتماعی X استدلال کرد پیشنهاد آمودی میتواند به محدود شدن هوش مصنوعی متنباز و تمرکز قدرت اقتصادی و فناوری در اختیار شرکتهایی مانند Anthropic منجر شود.
این انتقاد نشان میدهد که بحث درباره کاهش سرعت توسعه هوش مصنوعی تنها یک موضوع فنی یا ایمنی نیست و با رقابت اقتصادی، قدرت فناوری و آینده مدلهای متنباز نیز ارتباط مستقیم دارد.
آینده رقابت هوش مصنوعی به کدام سمت میرود؟
اظهارات داریو آمودی و حمایت سریع سم آلتمن و ایلان ماسک میتواند بحث درباره ایمنی و تنظیم مقررات هوش مصنوعی را وارد مرحله جدیدی کند.
پیشنهاد حضور ارزیابان مستقل، تدوین استانداردهای مشترک میان شرکتها و همکاری بینالمللی، تلاش میکند مسئله ایمنی را از سطح توصیههای داخلی شرکتها به یک چارچوب گستردهتر منتقل کند.
با این حال، مشخص نیست این پیشنهادها تا چه اندازه در عمل اجرا خواهند شد. میلیاردها دلار سرمایه و رقابت شدید بر سر ساخت نسل بعدی مدلهای هوش مصنوعی، انگیزه قدرتمندی برای ادامه توسعه سریع ایجاد کرده است.
در نهایت، مسئله اصلی این است که آیا صنعت هوش مصنوعی میتواند پیش از آنکه توانایی مدلها از ظرفیت نظارت و کنترل انسان جلو بزند، سرعت خود را مدیریت کند یا خیر.
هشدار آمودی در حال حاضر یک سناریوی پیشبینیشده و نه یک واقعیت موجود است؛ اما حمایت مدیران برخی از مهمترین شرکتهای هوش مصنوعی از اصل این هشدار نشان میدهد که نگرانی درباره فاصله گرفتن سرعت توسعه قابلیتها از سرعت پیشرفت سازوکارهای ایمنی، دیگر صرفاً موضوعی محدود به پژوهشگران حوزه ایمنی هوش مصنوعی نیست و به یکی از بحثهای مهم صنعت و سیاستگذاری فناوری تبدیل شده است.
