محققان مانع از هک شدن هوش مصنوعی میشوند
ديجياتو/ محققان در ايالات متحده آمريکا توانستهاند مشکل حمله هکرها به مدلهاي هوش مصنوعي را برطرف کنند. آنها براي دستيابي به اين هدف، از مدل ديگري براي فريب شبکه عصبي و اجبار براي تحليل تصاوير ويرايش شده استفاده کردند. بنابر گزارش MIT Technology Review، محققان در دانشگاه «ايلينوي» اعلام کردهاند يکي از بزرگترين نقصها در آموزش هوش مصنوعي، آسيبپذيري آنها در برابر حملات هکرها است. در اين زمينه سيستمهاي تشخيص عکس يا بازسازي تصاوير با بيشترين حملات مواجه ميشوند. حملات گسترده به اين سيستمها زنگ خطري براي مقامات در بخش مراقبتهاي پزشکي محسوب ميشود، جايي که اغلب اين روش براي بازسازي تصاوير پزشکي مورد استفاده قرار ميگيرد. در صورتي که هوش مصنوعي تصوير اشتباهي دريافت کند، نتيجه آن تشخيص غلط نوع بيماري خواهد بود. براي جلوگيري از چنين مشکلي، دانشمندان روش جديدي براي آموزش سيستمهاي يادگيري عميق ارائه کردهاند که آنها را در برابر خطا مقاومتر ميکند و همچنين آنها را در زماني که مسائل امنيتي اهميت بالايي دارند، قابل اطمينانتر ميکند.