کد مطلب: 41208.html
۲۱ بهمن ۱۴۰۱
تصاویر خصمانه؛ پدیده ای که بدون آگاهی انسان، بینایی ماشینی را به اشتباه می اندازد
از اتومبیل های خودران گرفته تا دوربین های نظارت همگانی هوشمند، جوامع به آرامی به سمتی پیش می روند که به هوش مصنوعی بیشتر از چشمان انسان اعتماد می کنند. اما اگرچه سیستم های بینایی ...
از اتومبیل های خودران گرفته تا دوربین های نظارت همگانی هوشمند، جوامع به آرامی به سمتی پیش می روند که به هوش مصنوعی بیشتر از چشمان انسان اعتماد می کنند. اما اگرچه سیستم های بینایی ماشینی فعلی خستگی ناپذیر هستند، اما ضعف های خود را نیز دارند. کافی است - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - به ویدیوی لاکپشت پایین نگاه کنید؛ تصویری که به چشم شبکه عصبی گوگل شبیه یک لاکپشت نیست و به عنوان - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - سلاح شناسایی می شود.
همین حالا می توان عینک های خاصی ساخت که سیستم های تشخیص چهره را فریب می دهند یا - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - می توان لایه ای اضافه روی یک تصویر قرار داد تا آن را تقریباً - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - نامرئی کرد. انسان ها این تفاوت را تشخیص نمی دهند، اما برای هوش مصنوعی، انگار که یک پاندا ناگهان تبدیل به کامیون حمل بار شده باشد.
تحقیق در زمینه راه های جلوگیری از این حملات، از - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - همین حالا آغاز - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - شده است و گرچه چنین حملاتی معمولاً بسیار تاثیرگذار هستند، اما کار چندانی به پیش نمی برند. این بدان معناست که اگر تصویر خصمانه را چرخانده یا روی آن زوم کنید، الگوی تازه از چشم کامپیوتر دور مانده و تصویر را به درستی شناسایی - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - می کند.
تیمی از دانشجویان MIT که به تحقیق در این زمینه - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - می پردازند می گویند مردم باید نگرانی - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - هایی درباره شبکه های عصبی داشته باشند. این تیم به عنوان مثال به تابلویی در کنار خیابان اشاره می کند که برای انسان ها، همچون تابلویی معمولی به نظر می رسد اما برای بینایی ماشینی اتومبیل های خودران، مانند عابر - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - پیاده ای به نظر می رسد که ناگهان به کنار خیابان آمده است.
گروه MIT حملات خود را روی سیستم Inception-V3 گوگل آزمایش کرده است. این سیستم به صورت آزادانه در دسترس محققان قرار گرفته تا به آزمایش مسائل گوناگون بپردازند و گرچه سیستمی تجاری نیست، اما - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - با تجاری شدن فاصله زیادی ندارد. اگرچه این حملات روی دیگر نرم افزارهای بینایی ماشینی آزمایش نشده اند، اما هنوز - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - هیچ راه حلی برای مقابله با تصاویر خصمانه وجود ندارد.
البته ناگفته نماند که چنین حملاتی، در بازه زمانی فعلی خطری برای - تعمیرات کولر گازی گری در شهر شاهین دژ استان آذربایجان غربی - عموم مردم ایجاد نمی کنند. این حملات قطعاً تاثیرگذار هستند، اما در شرایط بسیار محدود. و گرچه بینایی ماشینی روز به روز بیشتر مورد استفاده قرار می گیرد، اما هنوز به قدری به آن متکی نشده ایم که یک پرینتر سه بعدی، باعث بروز فاجعه شود. مسئله اینست که چنین آزمایش هایی، میزان شکنندگی سیستم های هوش مصنوعی را نشان می دهند که اگر حل نشوند، در آینده دردسرساز خواهند بود.