یوتیوب برای مبارزه با دیپ‌فیک‌ها، ابزاری برای تشخیص هویت با چهره و صدا رونمایی کرد

یوتیوب اولین موج از ابزارهای تشخیص شباهت مبتنی بر هوش مصنوعی (AI Likeness) خود را برای سازندگان محتوا راه‌اندازی کرده است. در این فاز اولیه، حدود ۵۰۰۰ سازنده واجد شرایط در «برنامه شراکتی یوتیوب» (YPP) به این ابزار دسترسی پیدا کرده‌اند. این ویژگی جدید به منظور کمک به سازندگان برای کشف، مدیریت و درخواست حذف ویدیوهای غیرمجازی طراحی شده که از هوش مصنوعی برای تولید یا تغییر شباهت چهره یا صدای آن‌ها استفاده می‌کنند. هدف نهایی این است که سازندگان را در برابر دیپ‌فیک‌ها (Deepfakes) و سوءاستفاده از هویتشان در پلتفرم محافظت کند.

ابزار تشخیص چگونه کار می‌کند؟

این ابزار تقریباً مشابه سیستم Content ID یوتیوب عمل می‌کند، اما تمرکز آن بر شباهت چهره است. سازندگان می‌توانند در YouTube Studio و در بخش «تشخیص محتوا»، به این ابزار دسترسی پیدا کنند. آن‌ها باید برای پردازش داده‌ها رضایت دهند و هویت خود را با ارسال کارت شناسایی عکس‌دار و یک ویدیو سلفی که در آن حرکات تصادفی انجام می‌دهند، تأیید کنند.

پس از تأیید، این ابزار به سازندگان در مورد ویدیوهایی که به طور بالقوه از شباهت آن‌ها استفاده کرده‌اند، هشدار می‌دهد. سپس، اطلاعات دقیقی در مورد ویدیوهای مذکور، از جمله کانال، عنوان، تعداد بازدید و دیالوگ‌های ردوبدل شده را ارائه می‌کند. علاوه بر این، به سازندگان این امکان را می‌دهد که مستقیماً درخواست حذف ویدیو را ارسال کنند.

توسعه تدریجی و برنامه‌های آینده

این راه‌اندازی پس از یک برنامه آزمایشی (پایلوت) صورت می‌گیرد که با همکاری آژانس Creative Artists Agency (CAA) انجام شد. این همکاری به پالایش و بهبود فناوری با استفاده از مشتریان مشهور کمک کرد و اکنون دسترسی در حال گسترش است. یوتیوب قصد دارد این ابزار را تا ژانویه ۲۰۲۶ در دسترس همه سازندگان دارای درآمدزایی در سراسر جهان قرار دهد.

هدف، توانمندسازی سازندگان برای حفاظت از هویت خود در برابر اطلاعات نادرست و جعل هویت تولید شده توسط هوش مصنوعی است؛ مسئله‌ای که با ظهور رسانه‌های ترکیبی (synthetic media) به یک نگرانی فزاینده تبدیل شده است. برای سازندگان محتوا در یوتیوب، این محافظت با دسترسی آسان‌تر به فناوری دیپ‌فیک، حیاتی می‌شود.

جک مالون، مدیر ارتباطات سیاست‌گذاری یوتیوب، به نشریه TheWrap گفت: «در اصل، افرادی که انتخاب شده‌اند، سازندگانی هستند که فکر می‌کنیم بیشترین استفاده فوری را از این ابزار خواهند داشت. این به ما کمک می‌کند تا به توسعه فناوری ادامه دهیم، زیرا هرچه بیشتر بتوانیم از یک ابزار در عمل استفاده کنیم، بیشتر می‌توانیم آن را آزمایش کرده و بهبود ببخشیم.»

نگرانی‌های حریم خصوصی و محدودیت‌های کنونی

اگرچه ابزار تشخیص هوش مصنوعی یوتیوب یک گام مهم در مبارزه با سوءاستفاده از شباهت افراد است، اما برخی نگرانی‌ها در مورد حریم خصوصی همچنان باقی است. اسکن‌های چهره و داده‌های بیومتریک مورد نیاز برای تأیید هویت، توسط گوگل برای تشخیص مداوم ذخیره می‌شوند. علاوه بر این، این ابزار در حال حاضر هم برای استفاده واقعی از چهره و هم برای نسخه‌های تغییر یافته یا مصنوعی هشدار می‌دهد که ممکن است به پالایش بیشتری نیاز داشته باشد.

با این وجود، گوگل در حال گسترش قابلیت‌های هوش مصنوعی خود در پلتفرم‌های مختلف است. تجربه این شرکت در تشخیص و پردازش هوش مصنوعی می‌تواند به رفع این نگرانی‌ها با بلوغ و پیشرفت این فناوری کمک کند.