کمیته جدید اوپن‌ای‌آی بدون سم آلتمن!

زیکو کولتر(Zico Kolter) مدیر بخش فناوری یادگیری ماشینی در دانشگاه کارنگی ملون، ریاست این کمیته ایمنی و امنیت جدید را بر عهده خواهد داشت. دیگر اعضای کلیدی آن نیز عبارتند از آدام دی‌آنجلو(Adam D'Angelo) مدیر اجرایی کورا(Quora)، پل ناکاسون(Paul Nakasone) ژنرال بازنشسته ارتش ایالات متحده، و نیکول سلیگمن(Nicole Seligman) مشاور عمومی شرکت سونی.

این کمیته جدید جایگزین کمیته ایمنی و امنیت قبلی می‌شود که در ژوئن ۲۰۲۴ تشکیل شده بود و سم آلتمن را نیز در میان اعضای خود داشت. کمیته قبلی موظف به ارائه توصیه‌هایی در مورد تصمیمات حیاتی ایمنی و امنیتی برای پروژه‌ها و عملیات‌های شرکت اوپن‌ای‌آی بود.

اکنون مسئولیت‌های این کمیته جدید فراتر از توصیه کردن است، چرا که صلاحیت نظارت بر ارزیابی‌های ایمنی برای عرضه مدل‌های اصلی و اعمال نظارت بر عرضه مدل‌ها را خواهد داشت. مهمتر از همه، این کمیته این قدرت را خواهد داشت که انتشار مدل‌ها را تا زمانی که به نگرانی‌های ایمنی به اندازه کافی رسیدگی نشده است، به تعویق بیاندازد.

این تجدید ساختار به دنبال یک دوره بررسی دقیق در مورد تعهد اوپن‌ای‌آی به ایمنی هوش مصنوعی است. این شرکت در گذشته به دلیل انحلال یک تیم ایمنی موسوم به سوپرالانمنت(Superalignment) و خروج پرسنل کلیدی متمرکز بر ایمنی با انتقاداتی روبرو شده است.

اکنون به نظر می‌رسد حذف سم آلتمن از کمیته ایمنی تلاشی برای رفع نگرانی‌ها در مورد تضاد منافع احتمالی در نظارت بر ایمنی این شرکت باشد.

جدیدترین ابتکار ایمنی اوپن‌ای‌آی همچنین شامل برنامه‌هایی برای تقویت اقدامات امنیتی، افزایش شفافیت در مورد کارهای شرکت و همکاری با سازمان‌های خارجی است. این شرکت قبلاً با مؤسسات ایمنی هوش مصنوعی ایالات متحده و بریتانیا برای همکاری در تحقیق درباره خطرات و استانداردهای ایمنی در حال ظهور هوش مصنوعی برای توسعه هوش مصنوعی قابل اعتماد به توافق رسیده است.