هوش مصنوعی مولد از نظر فرصت ها نویدهای فوق العاده ای را به همراه می آورد، البته با مقدار مساوی از چالش ها و خطرات در هنگام بررسی مواردی که ممکن است اشتباه پیش بیاید.

اکنون که شرکت ها و سازمان ها در حال بیدار شدن با قدرت تحول آفرین هوش مصنوعی هستند، شروع به جستجوی راه هایی برای استفاده از آن برای افزایش کارایی و بهبود ارائه محصول و خدمات به مشتریان کرده اند.

تاکنون، بسیاری از این تحقیقات به اجرای واقعی منتهی نشده است. دلیل آن این است که شکاف اطمینان بین دقت و فرصت های هوش مصنوعی تولیدی، بسیاری از شرکت ها را عقب نگه می دارد و باعث می شود که آنها تمایلی به حرکت فراتر از برنامه ریزی نداشته باشند.

سازمان هایی که می خواهند بهره برداری از هوش مصنوعی مولد و پیاده سازی راه حل های دنیای واقعی را شروع کنند، باید سه مرحله را برای اطمینان از استقرار ایمن، مسئولانه، اقتصادی و مؤثر بردارند. پس ما در این مقاله سه مرحله حیاتی برای پیاده سازی هوش مصنوعی مولد به صورت ایمن، مسئولانه، اقتصادی و مؤثر را بررسی خواهیم کرد.

مرحله اول: محافظت از داده های اختصاصی

داده ها یکی از با ارزش ترین دارایی های هر سازمانی است و نگرانی ها در مورد امنیت داده ها، بسیاری از شرکت ها را از پیاده سازی هوش مصنوعی مولد باز داشته است.

نمونه های متعددی از کارمندانی وجود دارد که به طور ناخواسته داده های محرمانه را به تجربه های چت مولد در دسترس عمومی مانند بات مکالمه ChatGPT داده اند، مانند کارمندی که از آن برای یافتن خطاها در یک پایگاه داده فوق سری استفاده کرده است.

متأسفانه، این باعث شد که داده های طبقه بندی شده شرکتی بخشی از مجموعه داده های یادگیری بات مکالمه ChatGPT باشند. پس از آن، داده ها می توانند از طریق نقض (مانند نقض های ChatGPT گزارش شده در ژوئن 2023 میلادی) یا بازیگران بدی که این داده های محرمانه را با دستکاری LLM بازیابی می کنند، در معرض افراد خارجی قرار گیرد.

برای محافظت از داده های خود، تیم های داده و هوش مصنوعی باید مطمئن شوند که هیچ بخشی از داده های داخلی آنها در معرض این تجربیات در دسترس عموم قرار نمی گیرد. انواع مختلفی از مدل های پایه برای انتخاب وجود دارد (ساخت سفارشی، تماس های API خصوصی یا منبع باز)، و هر کدام مجموعه ای از مبادلات خاص خود را دارند. اینکه کدام LLM ها استفاده می شوند، چگونه میزبانی می شوند، چه پایگاه داده برداری و چگونه ساخته شده است، کلید محافظت از داده های حساس هستند. آنها همچنین باید تأیید کنند که اگر یک LLM بر روی داده های حساس آموزش دیده یا به آن متصل باشد، افراد خارجی نمی توانند به آن دسترسی داشته باشند.

در نهایت، تیم های داده و هوش مصنوعی باید تأیید کنند که همه پروژه ها و کاربران مرتبط با هوش مصنوعی مولد این شرکت قابل مشاهده هستند تا ثابت کنند هیچ کارمندی با پروژه های مخاطره آمیز “خارج از شبکه” نمی شود.

مرحله دوم: پاسخ های دقیق ارائه دهید

ارزش یک راه حل هوش مصنوعی مولد فقط به اندازه کیفیت خروجی آن است.

بسیاری از مشکلات با راه حل های هوش مصنوعی مولد که اطلاعات گمراه کننده یا نادرست ارائه می کنند، مشخص شده اند. این می تواند منجر به اتلاف وقت و خجالت در موارد استفاده داخلی شود.

در موارد استفاده خارجی، نتایج می تواند حتی مخرب تر باشد. به عنوان مثال، اگر یک ارائه دهنده مراقبت های بهداشتی از هوش مصنوعی مولد به عنوان خط اول پشتیبانی مشتری استفاده کند، پاسخ های نادرست یا نامناسب می تواند به قیمت جان انسان ها تمام شود. خروجی ها می توانند حتی با برنامه های کم ریسک، مانند موتور هوش مصنوعی مولد ایجاد دستور، خطرناک باشند. در آگوست 2023 میلادی، چنین موتوری آثاری را که شامل مواد خطرناکی بودند بیرون ریخت.

با هوش مصنوعی مولد، خطر ذاتی تولید اطلاعات گمراه کننده یا نادرست وجود دارد. تیم های داده و هوش مصنوعی می توانند از طریق استفاده از امتیازات اطمینان با خروجی هایی که به کاربران درکی از میزان اطمینانی که باید به پاسخ هوش مصنوعی مولد داشته باشند، به حفظ یکپارچگی نتایج کمک کنند. حلقه های بازخورد انسانی که به کاربران اجازه می دهد پاسخ را به عنوان صحیح، نادرست یا ناقص ارزیابی کنند، می توانند به تیم ها کمک کنند تا کیفیت راه حل هوش مصنوعی تولیدی خود را نظارت کنند.

تبار و گزارش دهی هوش مصنوعی مولد نیز باید بخشی از استراتژی هوش مصنوعی مولد باشد، جایی که می توانید به سرعت گزارش ها را تهیه کنید و ببینید کدام پاسخ ها اشتباه هستند و LLM از چه محتوایی برای ایجاد پاسخی که داده است استفاده کرده است. البته، استفاده از هوش مصنوعی مولد مستلزم نظارت بر سمیت یا حملات فوری است تا اگر بازیگران بد سعی در جیلبریک کردن راه حل های هوش مصنوعی تولیدی شما دارند، به شما هشدار دهد.

مرحله سوم: بیش از حد بسازید

با پتانسیل هایی که فناوری هایی مانند هوش مصنوعی مولد ارائه می دهند، برای تیم های داده و هوش مصنوعی آسان است که درگیر ایجاد تغییرات عظیمی شوند که همه جنبه های شرکت را متحول می کند و در عین حال برنامه های کوچک تر، گسسته – اما با ارزش را نادیده می گیرند.

تیم های داده و هوش مصنوعی باید با شناسایی چالش های خاصی که می توانند با استفاده از هوش مصنوعی ساده سازی شوند، اولویت بندی و پیاده سازی آنها به صورت جداگانه شروع کنند.

تلاش برای ایجاد یک راه حل واحد هوش مصنوعی که در چندین زمینه از تجارت کار کند، با افزایش خطر “توهمات” هوش مصنوعی و پاسخ های اشتباه و همچنین امنیت داده ها، مشکلات بیشتری را نسبت به راه حل ها ایجاد می کند. همچنین می تواند یک کابوس برای حفظ، اداره و نظارت باشد.

در عوض، رهبران باید ایده ایجاد چندین برنامه کاربردی را بپذیرند که با استفاده از هوش مصنوعی مولد، ارزش تجاری فوری را ارائه می کنند، که ساخت، نگهداری و محافظت از آن آسان تر است. تیم های داده و هوش مصنوعی باید انعطاف پذیری را برای مدل های پایه خود حفظ کنند و زمانی که راه حل های جدیدی در دسترس قرار می گیرند که عملکرد مشابهی را برای هزینه های کمتر ارائه می کنند، بتوانند آنها را مبادله کنند.

همچنین بسیار مهم است که کسانی که بر این فناوری نظارت دارند هشدارها را دریافت کنند و آستانه های مشخصی برای مدیریت و نظارت موثر بر هزینه ها داشته باشند.

تغییر در فضای هوش مصنوعی مولد با سرعتی سرسام آور اتفاق می افتد و هیچ استاندارد یا رهبر روشنی در مورد اجزا یا راه حل های هوش مصنوعی وجود ندارد. تیم های داده و هوش مصنوعی باید انعطاف پذیری داشته باشند تا بتوانند پیشنهادات مناسب را برای وظایف مناسب ترکیب و مطابقت دهند. رهبران می توانند با حفظ توانایی تعویض عناصر خاص (مانند LLM یا پایگاه های داده برداری) بدون ایجاد اختلال در جریان کار تولید و برنامه های کاربردی، پشته فناوری خود و راه حل های هوش مصنوعی مولد خود را اثبات کنند.

سخن پایانی: حرکت فراتر از پتانسیل

شرکت ها با پتانسیل باورنکردنی و مخرب هوش مصنوعی مولد هوشیار شده اند. آنها اکنون باید این پتانسیل را درک کنند. انجام این کار به رهبران داده ها و هوش مصنوعی نیاز دارد تا شکاف اطمینان را با هوش مصنوعی مولد پر کنند، خطرات را به حداقل برسانند، سیاست های حاکمیتی و مشاهده پذیری قوی داشته باشند و هزینه ها را کنترل کنند و در عین حال راه حل های عملی ارائه دهند.

در این میان، رهبران هوش مصنوعی که با این فناوری برنده می شوند، کسانی هستند که می توانند بزرگترین فرصت های فردی را در سراسر سازمان خود شناسایی کنند و می توانند با اطمینان و به سرعت از نمونه سازی اولیه به سمت پیاده سازی ایمن، دقیق و مقرون به صرفه در تولید عبور کنند.