گوگل تصاویر تولید شده توسط هوش مصنوعی را برچسب‌گذاری می‌کند

این فناوری که «سینت‌ آی‌دی» (SynthID) نام دارد، تصاویر تولید شده توسط هوش مصنوعی را تشخیص می‌دهد و با اعمال تغییراتی ظریف در پیکسل‌های تصاویر آنها را علامت‌گذاری می‌کند. این تغییرات که البته برای چشم انسان نامرئی هستند، حتی در صورت برش عکس و اعمال فیلترهای اضافی نظیر تغییر رنگ یا تنظیم روشنایی تصویر باز هم قابل تشخیص توسط سیستم هستند.

ابزار توسعه‌یافته توسط گوگل می‌تواند تصاویر دریافتی را اسکن کند و با همین شیوه برچسبی شامل سه سطح اطمینان به آنها اختصاص دهد.

گوگل روز سه‌شنبه در پستی در وبلاگ رسمی خود نوشت: «هرچند این فناوری هنوز کامل نیست، با این حال آزمایشات داخلی ما نشان می‌دهد که در شناخت بسیاری از دستکاری‌های رایج در تصاویر دقیق است.

در سال‌های اخیر و با رواج فزاینده تصاویر و ویدیوهای دیپ‌فیک (جعل عمیق) و ویرایش‌ شده، شرکت‌های فناوری در تلاش هستند تا راهی مطمئن برای شناسایی و پرچم‌گذاری محتوای دستکاری شده پیدا کنند. در واقع آنان کوشش می‌کنند تمایز میان واقعیت و آنچه واقعی نیست را برای کاربران تسهیل کنند.

در ماه‌های اخیر تصاویر جعلی ایجاد شده توسط هوش مصنوعی از دستگیری دونالد ترامپ رئیس‌جمهور سابق آمریکا با لباس زندان به طور گسترده‌ای بین کاربران به اشتراک گذاشته شد و بسیاری به اشتباه تصور کردند که این عکس‌ها واقعی هستند.

پیشتر در ماه ژوئن ورا ژورووا، معاون کمیسیون اروپا، از شرکت‌های امضاکننده قانون اتحادیه اروپا در مورد اطلاعات نادرست (شامل گوگل، متا، مایکروسافت و تیک تاک) درخواست کرده بود «فناوری مخصوصی را برای شناسایی چنین محتوایی و برچسب زدن واضح آن برای کاربران ایجاد کنند.»

شرکت گوگل نیز به جو بایدن رئیس جمهوری کنونی ایالات متحده قول داده بود ابزاری برای تشخیص تصاویر تولید شده توسط هوش مصنوعی ارائه کند.

قبل از این در ماه مه، گوگل با هدف ردیابی ساده‌تر منشأ محتوا ابزاری به نام «درباره این تصویر» را معرفی کرده بود که به کاربران این امکان را می‌دهد تا ببینند تصاویری که در گوگل پیدا می‌کنند برای اولین بار در کجا ظاهر شده‌اند و در چه جاهای دیگری می‌توان آنها را آنلاین یافت.

کارشناسان می‌گویند از آنجا که سرعت رشد و پیشرفت فناوری هوش مصنوعی سریع‌تر از انسان‌ها است، مشخص نیست که آیا این راه‌حل‌های فنی کنونی قادر هستند به طور کامل مشکل را برطرف کنند یا نه.