تشخیص جعلی بودن تصاویر تولید شده توسط هوش مصنوعی به سرعت تبدیل به یکی از بزرگترین مشکلاتی می شود که ما با آن روبرو هستیم. تصاویر، ویدیوها و صداهای فریبنده در نتیجه افزایش و استفاده نادرست از ابزارهای هوش مصنوعی مولد در حال گسترش می باشند.

از آنجایی که تقریباً هر روز دیپ فیک های هوش مصنوعی ساخته می شوند و همه افراد از تیلور سوئیفت گرفته تا دونالد ترامپ را به تصویر میکشند، تشخیص اینکه چه چیزی واقعی است یا واقعی نیست سخت‌تر میشود. تولیدکننده‌های ویدیو و تصویر مانند DALL-E، Midjourney و OpenAI’s Sora، ایجاد دیپ فیک را برای افراد بدون هیچ‌گونه مهارت فنی آسان می کنند. شما کافیست فقط یک درخواست را تایپ کنید و سیستم آن را برای شما می سازد.

تصاویر تولید شده توسط هوش مصنوعی ممکن است بی ضرر به نظر برسند. اما می توان از آنها برای کلاهبرداری و سرقت هویت یا تبلیغات استفاده کرد.

در این مقاله شما را با نحوه تشخیص تصاویر جعلی تولید شده توسط هوش مصنوعی آشنا می کنیم. پس با ما همراه باشید.

چگونه یک دیپ فیک را تشخیص دهیم؟

در روزهای اولیه دیپ فیک، این فناوری به دور از کیفیت بود و اغلب نشانه های آشکاری از دستکاری قابل مشاهده بود. بررسی‌کنندگان واقعیت به تصاویری با خطاهای آشکار اشاره کرده‌اند، مانند دستهایی با شش انگشت یا عینک هایی که عدسی هایی با شکل متفاوت دارند.

اما با بهبود فناوری هوش مصنوعی، کار بسیار دشوارتر شده است. هنری آژدر، مؤسس شرکت مشاوره “مشاوره فضای پنهان” و یک متخصص برجسته در هوش مصنوعی مولد، میگوید:

برخی توصیه های مشترک – مانند جستجوی الگوهای چشمک زدن غیرطبیعی در بین افراد در ویدیوهای دیپ فیک – دیگر قابل اجرا نیستند.

او گفت که با این حال باید به دنبال چیزهایی بود.

آژدر می گوید:

بسیاری از عکس های جعلی ساخته شده توسط هوش مصنوعی، به‌ویژه افراد، دارای درخشندگی الکترونیکی هستند، “یک نوع اثر صاف‌کننده زیبایی‌شناختی” که باعث می شود پوست به‌طور باورنکردنی براق به نظر برسد.

با این حال، او هشدار داد که تحریک خلاق گاهی اوقات می تواند این و بسیاری از نشانه های دستکاری هوش مصنوعی را از بین ببرد.

او می گوید که برای تشخیص جعلی بودن یک تصویر باید سازگاری سایه ها و نور را بررسی کنید. اغلب سوژه در فوکوس واضح است و به طور متقاعد کننده ای واقعی به نظر می رسد، اما عناصر موجود در پس زمینه ممکن است چندان واقعی یا صیقلی نباشند.

به چهره ها نگاه کنید

تعویض چهره یکی از رایج ترین روش های دیپ فیک است. کارشناسان توصیه می کنند که لبه های صورت را با دقت نگاه کنید. آیا رنگ پوست صورت با بقیه قسمت های سر یا بدن مطابقت دارد؟ لبه های صورت تیز هستند یا تار؟

اگر مشکوک هستید که ویدیوی صحبت کردن یک فرد تحت تأثیر قرار گرفته است، به دهان او نگاه کنید. آیا حرکات لب آنها کاملاً با صدا مطابقت دارد؟

آژدر پیشنهاد می کند که به دندان ها نگاه کنید. آیا آنها واضح هستند یا مبهم هستند و به نوعی با ظاهرشان در زندگی واقعی سازگار نیستند؟

شرکت امنیت سایبری نورتون می گوید که الگوریتم‌ها ممکن است هنوز به اندازه کافی برای تولید دندان های فردی پیچیده نباشند، بنابراین فقدان خطوط کلی برای دندان های فرد میتواند یک روش برای تشخیص تصاویر جعلی باشد.

به تصویر بزرگتر فکر کنید

گاهی اوقات زمینه اهمیت دارد. کمی دقت کنید و در نظر بگیرید که آیا چیزی که می بینید قابل قبول است یا خیر.

تشخیص یک تصویر جعلی

تصویری از پاپ فرانسیس با یک ژاکت پف دار لوکس که سال گذشته در فضای مجازی منتشر شد، در واقع یک دیپ فیک تولید شده توسط هوش مصنوعی بود. در اینجا موارد دیگری وجود دارد که ثابت می کند عکس پاپ فرانسیس جعلی است:

سایت روزنامه‌نگاری پوینتر توصیه میکند که اگر می بینید یک شخصیت عمومی کاری انجام میدهد که “اغراق‌آمیز یا غیرواقعی” به نظر میرسد، ممکن است یک دیپ فیک باشد.

به عنوان مثال، آیا پاپ واقعاً همان طور که در یک عکس جعلی نشان داده شده است، یک ژاکت پف دار لوکس می پوشد؟ اگر او این کار را می کرد، آیا عکس ها یا فیلم های اضافی توسط منابع قانونی منتشر نمی شد؟

استفاده از هوش مصنوعی برای یافتن نکات جعلی

روش دیگر برای تشخصی تصاویر جعلی، استفاده از هوش مصنوعی برای شناسایی آن است.

شرکت مایکروسافت یک ابزار احراز هویت ایجاد کرده است که میتواند عکس ها یا ویدیوها را تجزیه و تحلیل کند تا در مورد دستکاری شدن آن امتیاز اطمینان کسب کند. FakeCatcher، سازنده تراشه اینتل، از الگوریتم هایی برای تجزیه و تحلیل پیکسل‌های یک تصویر استفاده می کند تا تشخیص دهد که آیا واقعی یا جعلی است.

ابزارهایی آنلاین وجود دارند که قول می دهند در صورت آپلود فایل یا چسباندن پیوندی به مطالب مشکوک، جعلی بودن آن را شناسایی کنند. اما برخی، مانند احراز هویت مایکروسافت، فقط برای شرکای منتخب و نه برای عموم در دسترس هستند. این به این دلیل است که محققان نمی خواهند بازیگران بد را راهنمایی کنند و به آنها در مسابقه تسلیحاتی دیپ فیک برتری بیشتری بدهند.

موانع برای پیدا کردن تصاویر جعلی

همه این ها گفته می شود، هوش مصنوعی با سرعت سرسام‌آوری در حال پیشرفت است و مدل های هوش مصنوعی روی داده های اینترنتی آموزش می بینند تا محتوای با کیفیت‌تر و با نقص‌های کمتر تولید کنند.

این بدان معناست که هیچ تضمینی وجود ندارد که این توصیه حتی 1 سال بعد همچنان معتبر باشد.

کارشناسان می گویند حتی ممکن است افراد عادی تبدیل به شرلوک های دیجیتال خطرناک شوند، زیرا می تواند به آنها یک حس اعتماد به نفس کاذب بدهد، زیرا تشخیص دیپ فیک ها حتی برای چشمان آموزش دیده دشوار می شود.