با گسترش تصاویر و ویدیوهای ساخته‌شده با هوش مصنوعی، تشخیص محتوای واقعی از محتوای مصنوعی دشوارتر شده است. گوگل برای کمک به کاربران، ابزار SynthID Detector را به‌صورت عمومی در دسترس قرار داده است؛ ابزاری که می‌تواند تصاویر، فایل‌های صوتی و ویدیوها را از نظر وجود واترمارک نامرئی SynthID بررسی کند. این فناوری به کاربران کمک می‌کند پیش از اعتماد به محتوای مشکوک در شبکه‌های اجتماعی، نشانه‌هایی از منشأ آن پیدا کنند.
ابزار SynthID Detector گوگل چیست و چگونه محتوای هوش مصنوعی را تشخیص می‌دهد؟
SynthID فناوری توسعه‌یافته توسط گوگل دیپ‌مایند است که نشانه‌های دیجیتالی نامرئی را در محتوای تولیدشده با برخی ابزارهای هوش مصنوعی قرار می‌دهد. این نشانه‌ها برخلاف واترمارک‌های معمولی، به شکل نوشته یا لوگو روی تصویر دیده نمی‌شوند و برای شناسایی آن‌ها به ابزار تشخیص سازگار نیاز است.
گوگل در اکتبر ۲۰۲۶ دسترسی عمومی به SynthID Detector را گسترش داد. این ابزار به کاربران امکان می‌دهد فایل تصویری، صوتی یا ویدیویی را بارگذاری کنند و بررسی کنند که آیا نشانه‌های قابل‌شناسایی SynthID در آن وجود دارد یا خیر. طبق اعلام گوگل، این فناوری تاکنون در بیش از ۱۸۰ میلیارد تصویر و ویدیو و حجم بسیار زیادی از محتوای صوتی به کار رفته است.
نحوه استفاده از SynthID Detector برای تشخیص عکس، صدا و ویدیوی هوش مصنوعی
استفاده از این ابزار به نصب برنامه نیاز ندارد و می‌توانید از طریق مرورگر رایانه یا گوشی به آن دسترسی داشته باشید. در حال حاضر رابط عمومی ابزار به زبان انگلیسی ارائه شده است.
- صفحه رسمی SynthID Detector را در مرورگر جست‌وجو و باز کنید.
- فایل تصویری، صوتی یا ویدیویی موردنظر را از دستگاه خود انتخاب کنید و بارگذاری را انجام دهید.
- منتظر بمانید تا ابزار فایل را بررسی کند.
- نتیجه را بخوانید و توجه کنید که آیا واترمارک SynthID شناسایی شده است یا خیر.
اگر ابزار نشانه‌های SynthID را در فایل پیدا کند، این نتیجه می‌تواند شواهدی از تولید یا پردازش محتوا با ابزارهای هوش مصنوعی سازگار ارائه دهد. با این حال، نتیجه به‌تنهایی درباره واقعی بودن تمام بخش‌های فایل یا نحوه استفاده از آن اطلاعات قطعی نمی‌دهد.
محدودیت‌های SynthID و روش‌های دیگر تشخیص عکس‌های ساخته‌شده با هوش مصنوعی
مهم‌ترین نکته این است که SynthID یک ابزار عمومی برای تشخیص تمام محتوای تولیدشده با هوش مصنوعی نیست. این فناوری به دنبال نشانه‌های مشخصی می‌گردد که در محتوای سازگار با آن جاسازی شده‌اند. بنابراین ممکن است یک تصویر کاملاً مصنوعی باشد، اما هیچ واترمارکی شناسایی نشود.
گوگل اعلام کرده است که ابزار عمومی از محتوای تولیدشده با برخی فناوری‌های شرکت‌های دیگر از جمله OpenAI و NVIDIA و Kakao نیز پشتیبانی می‌کند و پشتیبانی از اپل قرار است اضافه شود. با این حال، سازگاری به نوع محتوا و نحوه تولید آن بستگی دارد. واترمارک اختصاصی متا با نام Content Seal نیز با SynthID یکسان نیست و نباید انتظار داشت این ابزار همه نشانه‌های اختصاصی متا را شناسایی کند.
برای بررسی دقیق‌تر یک محتوای مشکوک، بهتر است نتیجه SynthID را در کنار نشانه‌های دیگر ارزیابی کنید:
- بررسی منبع انتشار: ببینید تصویر یا ویدیو نخستین بار در کدام حساب یا وب‌سایت منتشر شده است.
- جست‌وجوی معکوس تصویر: نسخه‌های قدیمی‌تر تصویر را پیدا کنید و تاریخ انتشار آن‌ها را مقایسه کنید.
- توجه به جزئیات غیرطبیعی: دست‌ها، نوشته‌های داخل تصویر، سایه‌ها و بازتاب‌ها را با دقت بررسی کنید؛ البته این نشانه‌ها به‌تنهایی مدرک قطعی نیستند.
- استفاده از ابزارهای مکمل: ابزارهایی مانند Hive AI Detector نیز می‌توانند برای ارزیابی برخی تصاویر و محتوای مصنوعی مفید باشند، اما نتیجه هیچ ابزار تشخیصی را نباید بی‌خطا فرض کرد.
گیم پلنت