هشدار سازمان اطلاعاتی چین نسبت به تهدیدات هوش مصنوعی

وزارت امنیت کشور چین اعلام کرده توسعه سریع و کاربرد گسترده هوش مصنوعی – مانند ChatGPT – چالش‌هایی را ایجاد می‌کند که ممکن است در آینده نزدیک، چشم انداز امنیت ملی موجود را به طور اساسی تغییر دهد.

این وزارتخانه نشت داده‌ها، حملات سایبری و دستکاری داده‌ها را به عنوان خطرات بالقوه و همچنین بر تأثیر این فناوری بر اقتصاد و ارتش اشاره کرد.

پکن در مجمع کمربند و جاده ماه گذشته چارچوبی برای هوش مصنوعی ارائه کرد و خواستار حقوق برابر برای همه کشورها شد. این چارچوب که به عنوان ابتکار مدیریت هوش مصنوعی جهانی شناخته می‌شود، به فرصت‌های عظیم هوش مصنوعی و همچنین «خطرات غیرقابل پیش‌بینی و چالش‌های پیچیده» آن اشاره می‌کند.

بر اساس بیانیه چین پس از نشست اخیر شی جین پینگ و جو بایدن در سانفرانسیسکو، حکمرانی هوش مصنوعی از جمله حوزه هایی است که پکن و واشنگتن متعهد به همکاری در آن شده اند.

آژانس اطلاعاتی چین در مورد خطرات نشت داده‌ها هشدار داده و خاطرنشان کرد که هوش مصنوعی به مقادیر زیادی داده برای یادگیری و آموزش نیاز دارد و می‌تواند حاوی اطلاعات حساس باشد. هرگونه سوء استفاده از اطلاعات یا درز اطلاعات می‌تواند تهدیدی جدی برای حریم خصوصی افراد و امنیت ملی باشد. همچنین هشدار داد که هکرها می‌توانند به راحتی حملات هدفمند و بسیار پنهان را علیه اهداف خاص انجام دهند.

این آژانس همچنین به خطر “مسمومیت داده‌ها” – یا “افزودن داده‌های مخرب به داده‌های آموزشی هوش مصنوعی” اشاره کرد و گفت که این فناوری می‌تواند عملکرد عادی مدل‌های تجزیه و تحلیل داده‌ها را مختل کند برای مثال اختلال در فناوری هوشمند خودرو می‌تواند منجر به تصادف شود.

این نهاد همچنین نگرانی‌هایی را در مورد چشم‌انداز فناوری هوش مصنوعی که جایگزین کارکنان انسانی در برخی مناطق می‌شود، مطرح کرد که می‌تواند بر امنیت اقتصادی، اجتماعی و سیاسی کشور تأثیر بگذارد. این فناوری همچنین می‌تواند برای ایجاد وحشت در بازار مالی از طریق دستکاری اطلاعات استفاده شود.

استفاده از هوش مصنوعی در سلاح‌های خود مختار مرگبار و هدفمندتر کردن و دقیق‌تر کردن اقدامات نظامی از طریق اتصال شبکه‌ها، تصمیم‌گیرندگان و اپراتورها، خطراتی دارد.

نیاز به تشدید قوانین و مقررات در مورد این فناوری، و همچنین ارتقای حکمرانی جهانی و سرکوب جرایم مرتبط با هوش مصنوعی وجود دارد. پرداختن به خطرات ناشی از هوش مصنوعی و استفاده از ابتکارات استراتژیک توسعه هوش مصنوعی برای محافظت مؤثر از امنیت ملی، موضوع مهمی در حاکمیت امنیت ملی جهانی است.

وزارت امنیت کشور خواستار بهبود «اطمینان استراتژیک» و هماهنگی در توسعه و ایمنی هوش مصنوعی و پاسخی «محتاطانه» به خطرات و چالش‌ها شد.

منبع: scmp