توییتر در برنامه جدید شکار باگ خود از محققان خواسته تا در ازای دریافت پاداش نقدی این بار به جای مشکلات امنیتی به دنبال نمونههای تبعیضآمیز در عملکرد الگوریتم برش تصویر این شبکه اجتماعی باشند.
توییتر قبلا در ماه آوریل گفته بود که به سراغ بررسی آسیبهای ناخواسته - تعمیرات ظرفشویی اسنوا در شهر سرعین استان اردبیل - ناشی از الگوریتمهای خود میرود و این کار را با الگوریتم برش تصویر آغاز میکند. این شرکت به کسانی که بتوانند برای اولین بار مشکلات الگوریتم توییتر را - تعمیرات ظرفشویی اسنوا در شهر سرعین استان اردبیل - پیدا کنند، پاداش نقدی اعطا میکند.
الگوریتم برش تصویر اولین بار در سال ۲۰۱۸ شروع به کار کرد تا روی جذابترین بخشهای پیشنمایش تصاویر - تعمیرات ظرفشویی اسنوا در شهر سرعین استان اردبیل - تمرکز کند. با این حال، برخی از کاربران به نحوه عملکرد این الگوریتم انتقاد داشتند و معتقد بودند که الگوریتم توییتر روی افرادی که پوست روشن دارند بیشتر از افراد رنگین پوست تمرکز میکند.
این شبکه اجتماعی در پستی درون وبلاگ خود نوشت: «ما در ماه مه رویکرد شرکت برای شناسایی سوگیری در الگوریتم برجستهسازی (که با نام الگوریتم برش تصاویر شناخته میشود) را به اشتراک گذاشتیم و کدش را در دسترس کاربران قرار دادیم تا بقیه هم به بهبود پروژه کمک کنند. حالا با دعوت - تعمیرات ظرفشویی اسنوا در شهر سرعین استان اردبیل - و تشویق کاربران در شناسایی آسیبهای احتمالی این الگوریتم در مقیاسی فراتر از آنچه - تعمیرات ظرفشویی اسنوا در شهر سرعین استان اردبیل - خودمان قادر به شناساییاش بودیم، میتوانیم یک گام فراتر برویم.»
توییتر میگوید این پروژه اولین رقابت شکار سوگیری الگوریتمی در صنعت - تعمیرات ظرفشویی اسنوا در شهر سرعین استان اردبیل - فناوری است و جایزهای حداکثر ۳۵۰۰ دلاری را به شرکتکنندگان ارائه میکند. «رومن چاودری»، مدیر اخلاق، شفافیت و مسئولیتپذیری در یادگیری ماشینی توییتر میگوید آنها دست به برگزاری چنین مسابقهای زدهاند چون باور دارند که کاربران باید در ازای کشف چنین ایراداتی پاداش بگیرند. توییتر معتقد است که بدون کمک کاربران نمیتواند این مشکل را حل کند.
برندگان مسابقه کشف سوگیری الگوریتمی در رویدادی به میزبانی توییتر به نام - تعمیرات ظرفشویی اسنوا در شهر سرعین استان اردبیل - DEF CON AI Village در تاریخ ۸ اوت مصادف با ۱۷ مرداد معرفی خواهند شد.