Mi-mars 2024, l’AI Act a été voté par le Parlement européen. Ce texte cherche à créer des garde-fou à l’usage de l’intelligence artificielle, notamment en évitant une confusion entre contenus artificiels et réalité et ainsi traquer plus facilement les ’deepfakes’. Il prévoit, entre autres, la possibilité de marquer, par un tatouage numérique (watermarking), des contenus pour savoir s’ils ont été générés ou non par une intelligence artificielle (IA).
Le tatouage numérique consiste à insérer un message invisible au sein du contenu qui pourra ensuite être détecté par une machine. Meta a déjà mis en place ces étiquettes sur les images créées à partir de son outil Meta AI lancé en décembre.
Microsoft, Adobe et d’autres acteurs majeurs de la tech ont fondé la Coalition pour la provenance et l’authenticité des contenus (C2PA), une initiative visant à développer des normes et des solutions technologiques pour vérifier l’authenticité des contenus en ligne. Jusqu’à présent ils adoptaient une solution trop légère (facilement contournable par les utilisateurs) consistant à associer une métadonnée à l’image ou au texte généré.