1
0
220
مایکروسافت امنیت سیستم‌های هوش مصنوعی را افزایش می‌دهد
ديجياتو
بروزرسانی
ديجياتو/ مايکروسافت به همراه سازمان تحقيقاتي غيرانتفاعي «MITRE» و همکاري چندين شرکت، ابزاري براي محافظت از سيستم‌هاي مبتني بر هوش مصنوعي توسعه داده است.
علاوه بر اين سازمان، موسسات دانشگاهي و ساير غول‌هاي فناوري مانند IBM و انويديا نيز در اين پروژه همکاري دارند که نتيجه آن انتشار يک ابزار متن باز به نام «ماتريس تهديد يادگيري ماشيني خصمانه» است.
اين فريمورک براي سازماندهي و دسته‌بندي تکنيک‌هاي شناخته شده براي حمله به سيستم‌هاي يادگيري ماشيني طراحي شده تا به تحليلگران امنيتي چنين حملاتي اطلاع را اطلاع مي‌دهد و استراتژي‌هايي براي شناسايي، پاسخ و رفع تهديدها در اختيار آن‌ها قرار دهد.
اين ماتريس حملات را بر اساس معيارهاي مربوط به جنبه‌هاي مختلف تهديد مانند اجرا و گسترش، دسترسي و تاثير اوليه دسته‌بندي مي‌کند. مايکروسافت به همراه MITRE حملات واقعي که روي سيستم‌هاي موجود انجام شده را مورد تحليل قرار دادند.
«ميکل رودريگز» که روي برنامه‌هاي تحقيقات علمي MITRE نظارت دارد، در اين زمينه گفته:
«اگر فقط سعي کنيد جهان چالش‌ها و آسيب‌پذيري‌ها را تصور کنيد، کار به جايي نمي‌بريد. بجاي اين کار با استفاده از ماتريس تهديد، محققان امنيتي قادر به کار با مدل‌هاي تهديد خواهند بود که در دنياي واقعي رخ مي‌دهند و با استفاده از يادگيري ماشيني رفتار مهاجم را تقليد مي‌کند.»
با افزايش استفاده از هوش مصنوعي در بخش‌هاي مختلف زندگي، از خدمات مالي تا بهداشت، حفظ امنيت زيرساخت آن‌ها از اهميت بالايي برخوردار است. MITRE به اين موضوع اشاره مي‌کند که شرکت‌ها با وجود پيشرفت در توسعه الگوريتم‌هاي جديد، در حفظ امنيت آن‌ها عملکرد موفقي ندارند.
بررسي‌ها نشان مي‌دهد که درک کافي نسبت به حفظ امنيت سيستم‌هاي هوش مصنوعي در برابر تهديدات دشمنان وجود ندارد. براي مثال سيستم‌هاي يادگيري ماشيني گوگل، آمازون، مايکروسافت و تسلا در سال‌هاي گذشته با ترفندهاي مختلف فريب خورده‌اند.
الگوريتم‌ها مستعد اشتباه هستند، مخصوصا اگر مورد حمله قرار بگيرند. در يک پژوهش جداگانه تيمي از محققان فهرستي از کاربردهاي احتمالي مجرمانه هوش مصنوعي در ۱۵ سال آينده تهيه کرده‌اند که از ميان موارد نگران‌کننده ايجاد فرصت حمله به الگوريتم‌هاي مورد استفاده در برنامه‌هاي اصلي مانند امنيت عمومي و تراکنش‌هاي مالي بود.
طبق گفته مايکروسافت و MITRE، حملات در شکل‌هاي مختلف صورت مي‌گيرند و MITRE اميدوار است به کمک يک روش امنيت سايبري به نام «تيم قرمز»، به اطلاعات بيشتري از هکرها دست پيدا کند. هر يک از اين کمپاني‌ها داراي تيم قرمز مخصوص به خود هستند و آن‌ها برخي از حملات که براي تغذيه ماتريس مورد استفاده قرار گرفته‌اند را به نمايش گذاشته‌اند.
اخبار بیشتر درباره
اخبار مرتبط
0
2
329
0
2
217
0
2
217
0
1
178
1
0
253
0
0
164
اخبار بیشتر درباره
پس از این بخوانید
اپل احتمالا از «اوپنایآی» یا «آنتروپیک» یاری میطلبد
همزمان با سیامین سالگرد بازی Ace Combat، کارگردان این سری از ساخت دنبالهای جدید خبر می‌دهد
هیدئو کوجیما: تمام حضورهای افتخاریام در Death Stranding 2 را خودم اضافه کردم
چرا بعضی بازی ها باید کند روایت شوند؟
ویندوز حدود ۴۰۰ میلیون کاربرش را از دست داده است
گوشی ارزان ۲۰۲۵ سامسونگ؛ ظرفیت باتری گلکسی A17 لو رفت
تاریخ رونمایی از بازی جدید Halo اعلام شد
سانسور بازی Ready or Not باعث خشم کاربران شد
تاریخ انجام تعدیل نیروی گسترده Xbox مشخص شد
