به گزارش وایرد، کدهای مورس صوتی، فراداده‌های رمزگذاری شده، و برچسب‌هایی بر روی ویدیوهای ساخته شده با واقعیت مجازی. اینها برخی از ابزارهایی هستند که دولت چین برای نشانه‌گذاری و مشخص کردن محتوای تولید شده با هوش مصنوعی (AI) و مقابله با انتشار اطلاعات نادرست، به شرکت‌های AI و رسانه‌های اجتماعی پیشنهاد داده است.
هدف قانون جدید، آگاه کردن کاربران از واقعی یا جعلی بودن محتوای دیجیتال است. با پیشرفت روزافزون ابزارهای هوش مصنوعی مولد (gen-AI)، تشخیص محتوای واقعی از محتوای ساخته شده با AI بسیار مشکل شده و انواع مشکلات، از سوء استفاده مالی تا انتشار اطلاعات نادرست سیاسی را به وجود می‌آورد.
پیش از این نیز «قانون هوش مصنوعی» اتحادیه اروپا که در ماه مارس سال جاری به تصویب رسید خواستار الصاق چنین برچسب‌هایی شده بود و ایالت کالیفرنیا هم لایحه مشابهی را در ماه سپتامبر تصویب نمود.
قانون قبلی AI چین اشاره مختصری به ضرورت برچسب‌گذاری محتوای ساخته شده با gen-AI داشت، ولی در قانون جدید جزئیات بیشتری از نحوه انجام این کار مشخص، و اعلام شده است که رسانه‌های اجتماعی در صورت ارسال محتوای AI فاقد برچسب مناسب مجازات خواهند گردید.
پکن امیدوار است که با حضور فعال و زودهنگام در این عرصه، بتواند در تعیین و تدوین قوانین و استانداردهای بین‌المللی AI نقشی محوری ایفا کند؛ و مساله برچسب‌گذاری یکی از گزینه‌های بسیار مناسب برای رسیدن به این هذف است، چون احتمال توافق جهانی در مورد آن بالاست.
در واقع چین از لحاظ کنترل محتوای AI از اتحادیه اروپا و آمریکا جلوتر است که تا حدی از سختگیری دولت برای اطمینان از همسویی بات‌های مکالمه با سیاست‌های رسمی ناشی می‌شود.
پیچیدگی‌های کنترل و نظارت بر AI
قانون جدید ارائه‌دهندگان خدمات AI را به افزودن برچسب‌های کاملا واضح و مشخص به محتوای تولید شده خود (واترمارک روی تصاویر، فریم‌های اطلاع‌رسانی در ابتدای ویدیوها، و کدهای مورس صوتی مربوط به حروف «AI» در ابتدا یا انتهای فایل‌های صوتی) ملزم می‌کند.
ولی مشکل اینجاست که هر کسی می‌تواند چنین برچسب‌هایی را به‌راحتی از فایل‌ها حذف نماید. به همین خاطر در قانون جدید از شرکت‌ها خواسته شده تا برچسب‌هایی مخفی (شامل حروف AIGC که مخفف عبارت «محتوای تولید شده با AI» است، و نیز اطلاعات رمزگذاری شده درباره شرکت‌های سازنده و منتشرکننده هر فایل) را هم در فراداده فایل‌ها بگنجانند. همچنین به این شرکت‌ها توصیه می‌شود که واترمارک‌هایی نامرئی در فایل‌ها قرار دهند تا کاربران به‌راحتی متوجه آنها نشوند.
به گفته برخی کارشناسان، گنجاندن چنین برچسب‌هایی در فراداده مستلزم همکاری تعداد بسیار بیشتری از شرکت‌ها و رعایت استانداردهای مشترک از سوی همه آنها خواهد بود. این کار چالش‌های فنی و هزینه‌هایی در بر خواهد داشت و ممکن است سال‌ها زمان ببرد.
مثلا تعدادی از شرکت‌های غربی مانند گوگل، متا، مایکروسافت و اوپن‌ای‌آی حامی استاندارد C2PA هستند، ولی این استاندارد هم هنوز در سطحی گسترده مورد استقبال و پذیرش قرار نگرفته است.
اما شاید چالش‌برانگیزترین بخش قانون جدید این باشد که رسانه‌های اجتماعی را مسئول یافتن محتوای تولید شده با AI می‌داند و از آنها انتظار دارد که فایل‌های به اشتراک گذاشته شده توسط کاربران را برای پیدا کردن برچسب‌های مخفی و نشانه‌های تولید با AI بررسی نمایند.
اگر خود کاربر هنگام بارگذاری اعلام کند که فایل مورد نظر با AI تهیه شده، یا این موضوع با بررسی فراداده فایل مشخص شود، و یا سکو مشکوک به این مساله باشد، باید قبل از انتشار فایل، برچسب gen-AI به آن اضافه شود و به‌علاوه سکو باید اطلاعات لازم را به فراداده اضافه کند تا مسیری که فایل مورد نظر در اینترنت طی کرده است مشخص گردد.
این الزامات چالش‌های جدیدی به همراه دارد و مهم‌ترین چالش این است که برخی سکوها صدها میلیون کاربر در داخل و خارج از چین دارند و بررسی تک‌تک فایل‌های بارگذاری شده روی آنها کار راحتی نیست.
آینده این قانون
تهیه کنندگان پیش‌نویس قانون جدید تا ۱۴ اکتبر نظرات و بازخوردهای عمومی را دریافت می‌کنند و اصلاح و تصویب نهایی این قانون هم احتمالا تا چند ماه دیگر به طول می‌انجامد.
افزودن واترمارک یا برچسب‌های فراداده‌ای از نظر فنی کار چندان سختی نیست، اما هزینه‌های عملیاتی شرکت‌ها را بالا می‌برد.
بنیانگذار یکی از شرکت‌های AI چین می‌گوید سیاست‌هایی از این دست می‌تواند مانع از کاربرد هوش مصنوعی برای کلاهبرداری یا نقض حریم خصوصی شود، ولی ممکن است بازار سیاهی هم برای خدمات AI به وجود بیاورد که در آن شرکت‌ها از اجرای قانون شانه خالی کنند تا هزینه‌هایشان کاهش یابد.
همچنین برخی ناظران غربی نگرانند که شاید پکن بخواهد از برچسب‌های مخفی برای کنترل شدیدتر فعالیت کاربران در اینترنت و ردیابی آنها استفاده کند.
هم‌زمان صنعت هوش مصنوعی چین مصرانه خواستار فضای بیشتری برای آزمون و کسب تجربه و رشد است تا بتواند عقب‌ماندگی‌اش نسبت به رقبای غربی را جبران کند؛ و دولت هم واقعا سعی دارد بین کنترل محتوای جعلی و میدان دادن به شرکت‌ها برای نوآوری در این حوزه راهبردی تعادل برقرار نماید.
در مورد قانون قبلی gen-AI این کشور، لایحه نهایی بسیار سهل‌گیرانه‌تر از اولین پیش‌نویس عمومی بود، به طوری که اثری از الزامات مربوط به احراز هویت در آن به چشم نمی‌خورد و جریمه‌ها و مجازات‌های کمتری بر شرکت‌ها اعمال می‌کرد.
منبع: wired
