ابزار جدید گوگل برای شناسایی محتوای تولید شده با هوش مصنوعی

گوگل در رویداد Google I O ابزار جدیدی به نام SynthID Detector معرفی کرده است. این ابزار به کاربران کمک می کند تا بفهمند آیا یک محتوا با استفاده از ابزارهای هوش مصنوعی گوگل ساخته شده یا نه.

در یک پست وبلاگی، Pushmeet Kohli از تیم DeepMind گوگل توضیح داده که این ابزار در واقع یک پورتال تایید محتوا است. پورتالی که می تواند به سرعت و با دقت بالا، محتوای تولید شده با مدل های هوش مصنوعی گوگل را شناسایی کند.

نشانه گذاری نامرئی در انواع محتوا

بر اساس توضیحات ارائه شده، گوگل در محتوای تولید شده توسط مدل های خود مثل Gemini و Imagen و Lyria و Veo از نشان گذاری خاصی به نام SynthID استفاده می کند. این نشان گذاری به صورت نامرئی روی تصویر، متن، صدا و ویدیو قرار می گیرد.

ابزار SynthID Detector دقیقا برای شناسایی همین نشانه ها طراحی شده است. هدف این است که کاربر بتواند با بارگذاری محتوا، متوجه شود که آیا بخشی از آن توسط هوش مصنوعی گوگل تولید شده یا نه.

عملکرد دقیق و جزئی ابزار SynthID Detector

وقتی یک تصویر یا فایل صوتی یا ویدیو یا متن که با ابزارهای هوش مصنوعی گوگل ساخته شده، در این پورتال آپلود می شود، ابزار شروع به اسکن محتوا می کند. اگر اثری از نشانه SynthID در محتوا وجود داشته باشد، سیستم قسمت هایی از محتوا را مشخص می کند که احتمال وجود این نشانه در آن ها بیشتر است.

مثلا برای فایل صوتی، بخش هایی از صدا که نشانه گذاری شده اند به طور دقیق نمایش داده می شوند. برای تصویر هم نواحی ای که احتمالا علامت گذاری شده اند به صورت واضح مشخص می شوند.

دسترسی اولیه فقط برای تسترها

گوگل اعلام کرده که در حال حاضر این ابزار فقط در اختیار گروهی از تسترهای اولیه قرار گرفته است. Kohli در ادامه گفته که کاربران علاقه مند می توانند از طریق ثبت نام در لیست انتظار، به این ابزار دسترسی پیدا کنند.

او توضیح داده که بعد از پایان فاز تست اولیه، گوگل ابزار را به صورت تدریجی در اختیار افراد بیشتری قرار خواهد داد. همچنین گفته شده که بازخوردهای این گروه اولیه کمک می کند تا گوگل بتواند شفافیت بیشتری در مورد محتوای تولید شده با هوش مصنوعی در آینده ایجاد کند.

آیا این ابزار واقعا کاربردی خواهد بود

نویسنده مقاله اعلام کرده که خودش در لیست انتظار قرار دارد اما هنوز شخصا این ابزار را تست نکرده است. او تاکید می کند که نمی تواند نظر قطعی درباره دقت یا عملکرد این ابزار بدهد.

اما سوال اصلی اینجاست که آیا کاربران پس از انتشار عمومی واقعا از این ابزار استفاده خواهند کرد یا نه. پاسخ این سوال هنوز مشخص نیست و باید منتظر بمانیم و ببینیم استقبال واقعی از این ابزار چقدر خواهد بود.