قانون جدید چین برای چت‌بات‌ها: هوش مصنوعی حق ندارد با احساسات شما بازی کند

زومیت/ چین با قوانین جدید، سلامت روان کاربران در برابر هوش مصنوعی را هدف گرفته است. این مقررات سخت‌گیرانه، جهشی از امنیت محتوا به امنیت عاطفی است.

در حالی که بسیاری از دولت‌های جهان در برابر تعامل چت‌بات‌های آزمایش‌نشده با گروه‌های آسیب‌پذیر جامعه سکوت کرده‌اند، چین استراتژی کاملاً متفاوتی را در پیش گرفته است. اداره فضای مجازی چین (CAC) با ارائه پیش‌نویس مقررات جدیدی، از رویکرد سخت‌گیرانه خود در قبال «سرویس‌های هوش مصنوعی با تعامل انسان‌گونه» پرده برداشته است.

---

بازار

---

براساس گزارش سی‌ان‌بی‌سی، سند تازه‌ی چین که فعلاً در مرحله‌ی نظرسنجی عمومی قرار دارد، در صورت تصویب نهایی، به یکی از جدی‌ترین قوانین نظارتی جهان در این حوزه تبدیل خواهد شد. این مقررات در ادامه قوانین ماه نوامبر در حوزه‌ی بهداشت اینترنت، حالا به‌طور مستقیم سلامت روان کاربران را هدف قرار داده است.

اگر کاربر تمایل به خودکشی نشان دهد، سیستم موظف است مکالمه را به اپراتور انسانی وصل کند.

مطابق قوانین، غول‌های فناوری چین باید تضمین کنند که هوش مصنوعی آن‌ها محتوایی در جهت ترویج خودکشی، خودزنی، قمار یا خشونت تولید نخواهد کرد. فراتر اینکه چت‌بات‌ها حق ندارند احساسات کاربر را دستکاری کنند یا از ادبیات توهین‌آمیز و خشونت کلامی استفاده نمایند. اگر کاربری تمایل به خودکشی نشان دهد، سیستم موظف است بلافاصله مکالمه را به یک اپراتور انسانی وصل کرده و موضوع را به اطلاع سرپرست یا فرد معتمد کاربر برساند.

حفاظت از کودکان و نوجوانان نیز در پیش‌نویس قوانین جایگاه ویژه‌ای دارد. استفاده از هوش مصنوعی برای افراد زیر سن قانونی منوط به رضایت والدین و رعایت محدودیت‌های زمانی روزانه خواهد بود. جالب اینجاست که اداره فضای مجازی چین با اتخاذ رویکرد احتیاط حداکثری، اعلام کرده است که در صورت ابهام در تشخیص سن، پلتفرم‌ها باید به‌طور پیش‌فرض تنظیمات محدودکننده را اعمال کنند، مگر آنکه کاربر بتواند خلاف آن را ثابت کند.

مقررات تازه در واقع پاسخی به حوادث نگران‌کننده‌ای است که اخیراً رخ داده؛ هوش مصنوعی به دلیل ساختار مطیعش، ناخواسته کاربران را به سمت فاجعه سوق داده است. به عنوان مثال، در اواخر نوامبر گزارش شد که تعامل با ChatGPT به انزوای شدید و در نهایت مرگ خودخواسته‌ی یک جوان ۲۳ ساله منجر شده است.

وینستون ما، استاد حقوق دانشگاه نیویورک، معتقد است این قانون‌گذاری اولین تلاش جدی در سطح جهان برای مهار ویژگی‌های انسان‌گونه هوش مصنوعی است و آن را «جهشی از امنیت محتوا به سمت امنیت عاطفی» توصیف می‌کند.

تفاوت بنیادین اما در اینجاست که چین به جای رقابت برای دستیابی به «هوش مصنوعی در سطح انسان» که دغدغه اصلی سیلیکون‌ولی است، بر افزایش بهره‌وری و خروجی‌های کنترل‌شده تمرکز دارد. مت شیهان از موسسه کارنگی، معتقد است چین با بهره‌گیری از نظرات کارشناسان و نخبگان صنعت، در حال تدوین مقررات از پایین به بالا است؛ به‌طوری که سیاست‌گذاران ارشد به جای درگیری با جزئیات فنی معماری مدل‌های بزرگ، روی نتایج و امنیت اجتماعی آن‌ها تمرکز می‌کنند.

🔹"آخرین خبر" در روبیکا
🔹"آخرین خبر" در ایتا
🔹"آخرین خبر" در بله