اتحادیه اروپا با اجرایی شدن مهم‌ترین بخش‌های «قانون هوش مصنوعی» (AI Act)، وارد مرحله اجرای عملی یکی از جامع‌ترین چارچوب‌های نظارتی جهان در حوزه هوش مصنوعی شده است. بر اساس این قانون، شرکت‌های فناوری موظف هستند تمامی محتوای تولیدشده توسط هوش مصنوعی که ظاهری واقعی دارد را به‌صورت شفاف برچسب‌گذاری کنند و هم‌زمان، اختیارات نهادهای نظارتی اروپا برای کنترل مدل‌های پیشرفته هوش مصنوعی افزایش یافته است. به گزارش ایتنا، هدف اصلی این قانون، محافظت از کاربران در برابر فریب و سوءاستفاده از محتوای جعلی است؛ با این حال، کارشناسان معتقدند اجرای مؤثر آن با چالش‌های قابل‌توجهی روبه‌رو خواهد بود، زیرا فناوری هوش مصنوعی با سرعتی بسیار بالا در حال تحول است و قوانین به‌سختی می‌توانند همگام با این تغییرات پیش بروند. مطابق مقررات جدید، تمامی تصاویر، ویدئوها یا سایر محتواهای تولیدشده با هوش مصنوعی که قابلیت ایجاد تصور واقعیت را دارند، باید به‌وضوح برچسب‌گذاری شوند. همچنین شرکت‌هایی که این الزامات را نادیده بگیرند، با جریمه‌های مالی سنگینی روبه‌رو خواهند شد. این قانون همچنین توسعه‌دهندگان چت‌بات‌ها را ملزم می‌کند از همان ابتدای تعامل، به کاربران اطلاع دهند که طرف گفت‌وگو یک سامانه هوش مصنوعی است و نه یک انسان. علاوه بر این، ناشران نیز موظف‌اند هنگام انتشار محتوای جعلی یا دستکاری‌شده، هشدارهای لازم را به مخاطبان ارائه کنند. در همین حال، فعالان صنعت فناوری هشدار داده‌اند که الزامات جدید مربوط به انطباق با قانون ممکن است عرضه برخی محصولات و خدمات مبتنی بر هوش مصنوعی در بازار اروپا را با تأخیر مواجه کند. بر اساس این مقررات، انتشار تصاویر یا ویدئوهای جعلی که به‌گونه‌ای طراحی شده‌اند تا واقعی به نظر برسند، بدون درج هشدار صریح ممنوع است. همچنین شرکت‌ها باید برای سامانه‌های هوش مصنوعی موجود خود، از جمله محصولات عرضه‌شده در بازار، از نشان‌های دیجیتال یا سازوکارهای شناسایی محتوای مصنوعی استفاده کنند. متخلفان این قانون ممکن است با جریمه‌ای تا سقف ۱۵ میلیون یورو روبه‌رو شوند. همچنین اتحادیه اروپا به شرکت‌ها تا ماه دسامبر فرصت داده است تا سامانه‌های فعلی خود را با الزامات جدید، از جمله استفاده از نشان‌های دیجیتال پنهان برای شناسایی محتوای تولیدشده توسط هوش مصنوعی، تطبیق دهند.