SynthID Detector برای همه آمد؛ عکس و ویدیوی ساخته‌شده با هوش مصنوعی را چطور تشخیص دهیم

گوگل روز ۱۵ مهر ابزار SynthID Detector را برای همه باز کرد. تا پیش از این، نسخهٔ اولیهٔ این ابزار فقط در اختیار روزنامه‌نگاران و متخصصان رسانه بود؛ حالا هر کسی می‌تواند در سایت synthid.com یک عکس، ویدیو یا فایل صوتی بارگذاری کند و ببیند آیا با هوش مصنوعیِ گوگل یا شرکت‌های همکارش ساخته یا ویرایش شده است. رابط این ابزار فعلاً فقط انگلیسی است.

SynthID چیست و چطور کار می‌کند؟

SynthID یک واترمارک دیجیتال نامرئی است که گوگل دیپ‌مایند از سال ۲۰۲۳ آن را هنگام ساختِ محتوا در خودِ تصویر، ویدیو یا صدا جاسازی می‌کند. چشم و گوش انسان این نشانه را نمی‌بینند و نمی‌شنوند، اما ابزار تشخیص آن را پیدا می‌کند. به گفتهٔ گوگل تا امروز بیش از ۱۸۰ میلیارد تصویر و ویدیو و معادل ۲۴۰ هزار سال صدا با این روش نشانه‌گذاری شده است.

فرق مهم SynthID با «تشخیص‌دهنده‌های هوش مصنوعی» معمولی همین‌جاست. آن ابزارها از روی ظاهر عکس حدس می‌زنند که ساختگی است یا نه و گاهی اشتباه می‌کنند. SynthID حدس نمی‌زند؛ دنبال نشانه‌ای می‌گردد که سازندهٔ مدل عمداً در محتوا گذاشته است. نتیجه دقیق‌تر است، اما فقط برای محتوایی که این نشانه را دارد.

کدام عکس‌ها و ویدیوها را تشخیص می‌دهد؟

این ابزار محتوای ساخته‌شده با مدل‌های گوگل، از جمله جمنای (Gemini) و مدل‌های تصویری نانو بنانا، را می‌شناسد. گوگل می‌گوید اوپن‌ای‌آی (OpenAI)، انویدیا و شرکت کره‌ای کاکائو هم SynthID را در محصولاتشان به کار برده‌اند و اپل هم به‌زودی به این فهرست اضافه می‌شود؛ پس بخشی از تصویرهایی که با ساخت عکس در چت جی پی تی درست می‌شوند هم قابل بررسی‌اند.

• عکس: می‌گوید واترمارک در تصویر هست یا نه.
• ویدیو و صدا: بخش‌هایی را که واترمارک دارند جدا نشان می‌دهد؛ مثلاً اینکه فقط چند ثانیه از یک ویدیو ساختگی است.

به گفتهٔ گوگل، واترمارک در برابر تغییرهای معمول مثل فیلتر، تغییر رنگ و فشرده‌سازی دوام می‌آورد، اما شکست‌ناپذیر نیست و تغییرهای زیاد ممکن است آن را از بین ببرند.

چطور با SynthID Detector یک عکس را بررسی کنیم؟

۱. وارد synthid.com شوید

بار اول، شرایط استفاده را می‌بینید. در آن آمده است که نباید با این ابزار برای دور زدن واترمارک آزمایش کنید یا درخواست‌ها را خودکار و انبوه بفرستید؛ تعداد درخواست‌ها هم محدودیت دارد.

۲. نوع فایل را انتخاب و آن را بارگذاری کنید

بین عکس، ویدیو و صدا یکی را انتخاب کنید و فایل را بکشید و رها کنید. گوگل توصیه می‌کند باکیفیت‌ترین نسخهٔ فایل را بدهید؛ عکسی که چند بار در پیام‌رسان‌ها دست‌به‌دست شده نتیجهٔ ضعیف‌تری دارد.

۳. نتیجه را درست بخوانید

«واترمارک پیدا شد» یعنی احتمالاً محتوا با یکی از مدل‌های دارای SynthID ساخته یا ویرایش شده است. «پیدا نشد» به این معنا نیست که عکس واقعی است؛ ممکن است با مدلی ساخته شده باشد که SynthID ندارد، یا ویرایش سنگین واترمارک را پاک کرده باشد. گوگل می‌گوید در موارد بسیار نادر هم ممکن است ابزار روی محتوای بدون واترمارک اشتباه هشدار بدهد.

راه دوم: بررسی در اپ جمنای

کاربرانی که وارد حساب جمنای شده‌اند می‌توانند فایل را در گفتگو بارگذاری کنند و بپرسند که آیا با هوش مصنوعی گوگل ساخته یا ویرایش شده است. هر بار یک فایل تا ۱۰۰ مگابایت، ویدیو کوتاه‌تر از ۹۰ ثانیه و صدا کوتاه‌تر از یک ساعت پذیرفته می‌شود. اگر از عکس اسکرین‌شات گرفته‌اید، دور خود تصویر را دقیق ببرید و کلاژ چند عکس را نفرستید. جمنای علاوه بر SynthID، «اعتبارنامهٔ محتوا» (Content Credentials) را هم می‌خواند؛ شناسنامه‌ای که تاریخچهٔ ساخت و ویرایش فایل را ثبت می‌کند. البته جمنای فعلاً فقط محتوای ساخته‌شده با ابزارهای خود گوگل را تشخیص می‌دهد.

آزمایش ما با SynthID Detector

در ۱۶ مهر ۱۴۰۵ عکسی را که با مدل نانو بنانا ۲٫۱ گوگل ساخته بودیم، در synthid.com بررسی کردیم. این عکس پیش از بارگذاری یک بار برش خورده و دوباره با فرمت JPEG ذخیره شده بود؛ با این حال ابزار در چند ثانیه جواب داد «SynthID was detected» و نوشت این تصویر با هوش مصنوعی گوگل ساخته یا ویرایش شده است. در آزمایش دوم، عکس دیگری از همین مدل را تا ۸۰۰ پیکسل کوچک و با کیفیت پایین JPEG (۴۰ از ۱۰۰) فشرده کردیم تا حجمش به حدود ۲۹ کیلوبایت برسد؛ ابزار باز هم SynthID را تشخیص داد.

برای بارگذاری، ورود با حساب گوگل، اپل یا چت جی پی تی لازم بود. بعد از اولین بررسی، تلاش‌های بعدی ما با پیام «Something went wrong! Please wait and try again later» متوقف شد؛ پس اگر چند عکس دارید، بین بررسی‌ها فاصله بگذارید.