فیسبوک نتایج اولین چالش تشخیص دیپفیک (Deepfake Detection Challenge) خود را منتشر کرد. این چالش رقابتی برای تمامی افراد بهمنظور یافتن الگوریتمهایی است که میتوانند ویدئوهای دستکاریشده با هوش مصنوعی را تشخیص - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - دهند. اگرچه نتایج - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - امیدوارکننده هستند، درعینحال نشان میدهند - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - پیش از اینکه سیستمهای خودکارشده بتواند محتوای دیپفیک را کاملا تشخیص دهد، هنوز مسیر ناپیمودهی طولودرازی در پیش است. دلیل چنین - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - ادعایی، اظهارات محققان دربارهی موضوع تشخیص کامل محتوای دیپفیک بهعنوان مشکلی حلنشده است.
فیسبوک میگوید الگوریتم برنده در این رقابت توانست «نمونههای چالشبرانگیزِ دنیای واقعی» از دیپفیک را با دقت متوسط ۶۵٫۱۸ درصد تشخیص دهد. با اینکه - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - چنین رقمی چندان هم بد بهنظر نمیرسد، آنقدر عملکردی نیست که کاربران از سیستم خودکارشده انتظار دارند.
دیپفیک ثابت کرده است تهدیدی بیشازحد برای رسانههای اجتماعی است. این فناوری به افزایش بیشازحد نگرانیها دربارهی ازبینرفتن مدارک ویدئویی موثق منجر شده؛ ولی تأثیرات سیاسی آن تاکنون بسیار کمتر بوده است. درواقع، خسارت تقریبا آنی دیپفیک ایجاد محتوای پورنوگرافی غیرمجاز، - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - یعنی دستهای از محتوا برای پلتفرمهای رسانههای اجتماعی است که - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - راحتتر میتوان آنها را تشخیص داد و حذف کرد. مدیر ارشد فناوری فیسبوک، مایک چروپفر، در تماسی مطبوعاتی به خبرنگاران گفت - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - از نتایج این چالش بسیار خرسند است. بهگفتهی او، این رقابت معیاری را برای محققان ایجاد و در آینده، آنها را در انجام وظایفشان راهنمایی میکند. وی گفت: «اگر صادقانه بگویم، این رقابت بسیار موفقتر از آن چیزی بود که همیشه انتظار داشتم».
درحدود ۲۱۱۴ شرکتکننده بیش از ۳۵ هزار الگوریتم تشخیص را به این مسابقه ارسال کردند. - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - این الگوریتمها براساس تواناییشان برای تشخیص ویدئوهای دیپفیک از بین مجموعهدادهای متشکل از ۱۰۰ هزار ویدئو کوتاه سنجیده شدند. فیسبوک بیش از سههزار بازیگر را برای ساخت این ویدئوها استخدام کرده بود. این افراد مکالماتی را در محیطهای واقعگرایانه ضبط کرده بودند و با چسباندن چهرهی برخی دیگر از بازیگران با استفاده از هوش مصنوعی، تعدادی از ویدئوهای یادشده تغییر داده شدند.
محققان برای آموزش الگوریتمهای خودشان به این دادهها دسترسی پیدا کردند و هنگام انجام آزمایش روی این ویدئوها، میزان دقت الگوریتمها برای تشخیص محتوای دیپفیک در بیشترین حالت ۸۲/۵۶ درصد بود. بااینحال، هنگام آزمایش روی مجموعهدادهی «جعبهی سیاه» متشکل از تصاویر دیدهنشده، دقت همین الگوریتمها در بهترین حالت تنها ۶۵٫۱۸ درصد بود. چنین موضوعی نشان میدهد تشخیص دیپفیک در عالم واقعی، مسئلهای بسیار دشوار است.
مایک چروپفر میگوید جدا از این رقابت، درحالحاضر - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - فیسبوک مشغول توسعهی فناوری تشخیص - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - دیپفیک خودش است. سال قبل، - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - این غول فناوری اعلام کرد در حال مسدودکردن محتوای دیپفیک است. بااینحال، منتقدان گفتند تهدید - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - بسیار بزرگتر ویدئوهای بهاصطلاح شَلوفیک (Shallowfake) هستند که با استفاده از ابزارهای سنتی ویرایش شدهاند.
الگوریتمهای برنده در این رقابت بهعنوان کدهای متنباز برای کمک به سایر محققان منتشر خواهند شد؛ ولی فیسبوک گفت - تلفن تعمیرگاه مجاز یخچال ساید مابه آزادی - برای جلوگیری از انجام مهندسی معکوس روی الگوریتم این شرکت، فناوری تشخیص دیپفیک خودش را مخفی نگه خواهد داشت.