ديجياتو/ مايکروسافت به همراه سازمان تحقيقاتي غيرانتفاعي «MITRE» و همکاري چندين شرکت، ابزاري براي محافظت از سيستم‌هاي مبتني بر هوش مصنوعي توسعه داده‌ است.

علاوه بر اين سازمان، موسسات دانشگاهي و ساير غول‌هاي فناوري مانند IBM و انويديا نيز در اين پروژه همکاري دارند که نتيجه آن انتشار يک ابزار متن باز به نام «ماتريس تهديد يادگيري ماشيني خصمانه» است.

اين فريمورک براي سازماندهي و دسته‌بندي تکنيک‌هاي شناخته شده براي حمله به سيستم‌هاي يادگيري ماشيني طراحي شده تا به تحليلگران امنيتي چنين حملاتي اطلاع را اطلاع مي‌دهد و استراتژي‌هايي براي شناسايي، پاسخ و رفع تهديدها در اختيار آن‌ها قرار دهد.

اين ماتريس حملات را بر اساس معيارهاي مربوط به جنبه‌هاي مختلف تهديد مانند اجرا و گسترش، دسترسي و تاثير اوليه دسته‌بندي مي‌کند. مايکروسافت به همراه MITRE حملات واقعي که روي سيستم‌هاي موجود انجام شده را مورد تحليل قرار دادند.

«ميکل رودريگز» که روي برنامه‌هاي تحقيقات علمي MITRE نظارت دارد، در اين زمينه گفته:

«اگر فقط سعي کنيد جهان چالش‌ها و آسيب‌پذيري‌ها را تصور کنيد، کار به جايي نمي‌بريد. بجاي اين کار با استفاده از ماتريس تهديد، محققان امنيتي قادر به کار با مدل‌هاي تهديد خواهند بود که در دنياي واقعي رخ مي‌دهند و با استفاده از يادگيري ماشيني رفتار مهاجم را تقليد مي‌کند.»
با افزايش استفاده از هوش مصنوعي در بخش‌هاي مختلف زندگي، از خدمات مالي تا بهداشت، حفظ امنيت زيرساخت‌ آن‌ها از اهميت بالايي برخوردار است. MITRE به اين موضوع اشاره مي‌کند که شرکت‌ها با وجود پيشرفت در توسعه الگوريتم‌هاي جديد، در حفظ امنيت آن‌ها عملکرد موفقي ندارند.

بررسي‌ها نشان مي‌دهد که درک کافي نسبت به حفظ امنيت سيستم‌هاي هوش مصنوعي در برابر تهديدات دشمنان وجود ندارد. براي مثال سيستم‌هاي يادگيري ماشيني گوگل، آمازون، مايکروسافت و تسلا در سال‌هاي گذشته با ترفندهاي مختلف فريب خورده‌اند.

الگوريتم‌ها مستعد اشتباه هستند، مخصوصا اگر مورد حمله قرار بگيرند. در يک پژوهش جداگانه تيمي از محققان فهرستي از کاربردهاي احتمالي مجرمانه هوش مصنوعي در ۱۵ سال آينده تهيه کرده‌اند که از ميان موارد نگران‌کننده ايجاد فرصت حمله به الگوريتم‌هاي مورد استفاده در برنامه‌هاي اصلي مانند امنيت عمومي و تراکنش‌هاي مالي بود.

طبق گفته مايکروسافت و MITRE، حملات در شکل‌هاي مختلف صورت مي‌گيرند و MITRE اميدوار است به کمک يک روش امنيت سايبري به نام «تيم قرمز»، به اطلاعات بيشتري از هکرها دست پيدا کند. هر يک از اين کمپاني‌ها داراي تيم قرمز مخصوص به خود هستند و آن‌ها برخي از حملات که براي تغذيه ماتريس مورد استفاده قرار گرفته‌اند را به نمايش گذاشته‌اند.

در کانال آي‌تي و ™CanaleIT هم کلي عکس و ويدئوي دسته اول و جذاب داريم