Vous avez passé la première étape qui était d’accepter que vos équipes travaillent avec des outils IA ou fassent appel à des prestataires utilisant l’IA – bravo !
Maintenant vous souhaitez exploiter des vidéos, images, sons ou textes générés à l’aide de l’IA à des fins commerciales.
Et là, une nouvelle question vous fait suer « Dois-je ou non avertir que le contenu est généré par ou avec l’aide de l’IA » ?
- Les porteurs sains du syndrome du bon élève qui ont lu vite fait un article en diagonal qui parlait de « transparence et IA » vous répondent « Oui dès que tu modifies un orteil dans une vidéo avec l’IA, t’es O-BLI-Gé».
- De leur côté, les orthodoxes pratiquants de la religion « pas vu, pas pris» vous disent « ouais mais t’inquiète, je crois que l’IA Act n’est pas applicable tout de suite tout de suite, çaâaaa passe».
Take a Deep Breath – on démêle le vrai du faux.
1. Que disent les textes
L’IA Act prévoit une obligation pour les fournisseurs d’IA qui devront veiller à ce que les Outputs soient marqués « dans un format lisible par machine et détectables » comme étant générées ou manipulées artificiellement.
Cette obligation n’est donc pas seulement celle de mettre une mention « généré par IA » écrite en filigrane visible des utilisateurs mais bien de prévoir des moyens techniques (tels que des filigranes numériques invisibles, des méthodes cryptographiques ou l’identification de métadonnées) pour permettre d’identifier automatiquement, par une machine, si oui ou non un Output a été généré par une IA.
Le Bureau Européen de l’IA, créé par l’IA Act, a vocation à définir les normes que tous les fournisseurs d’IA générative devront suivre pour respecter cette obligation.
Pour ce qui concerne les utilisateurs d’outils IA, professionnels ou non, qu’en est-il ?
L’IA Act impose une obligation pour les fournisseurs ET les utilisateurs d’IA « d’étiqueter de manière claire et reconnaissable » que le contenu a été généré ou artificiellement modifié avec l’IA lorsqu’il s’agit de deepfakes.
L’IA Act impose une obligation d’information similaire en ce qui concerne les textes générés ou manipulés par l’IA lorsqu’ils ont pour but d’informer le public sur des questions d’intérêt public sauf s’il les contenus ont fait l’objet d’un contrôle éditorial.
Et c’est tout pour l’instant. L’IA Act ne contient PAS d’obligations générales imposant aux Utilisateurs d’IA de mentionner que les contenus qu’ils exploitent ont été générés avec IA (en dehors de ce qui relève des deepfakes et des questions d’intérêt public).
En France, la proposition de loi qui prévoyait une obligation de marquage pour les contenus générés par IA a disparu avec la dissolution de l’Assemblée nationale. Il va falloir attendre que le couvert soit remis sur le sujet.
Donc on a le champ libre pour faire ce que l’on veut en attendant ?
Nope. Il ne faut pas oublier que d’autres textes peuvent s’appliquer comme :
- le code de la consommation qui interdit les pratiques commerciales trompeuses ou déloyales ;
- le code de la santé publique qui impose la mention « photographie retouchée » sur tous les clichés à usage commercial, « lorsque l’apparence corporelle des mannequins a été modifiée par un logiciel de traitement d’image, pour affiner ou épaissir leur silhouette»
2. Que préconise le bon sens
Gardez à l’esprit un principe simple : la TRANSPARENCE vous protègera toujours.
Car le but de toutes ces réglementations est le même : prévenir que soient répandues des fausses informations.
Donc on fait quoi :
- On écrit : « contenu entièrement généré par ChatGPT » par exemple. Ou encore, si c’est le cas « contenu généré avec une assistance partielle de [MidJourney] ».
- Oui mais Aurore : dans quelle police de caractère sur ma photo ? et au début d’une vidéo ou dans le générique de fin ?
Vous faîtes comme vous voulez du moment que vous êtes à l’aise pour soutenir devant un juge que l’information était claire, visible et accessible pour le public.
Et si j’utilise plusieurs IA, je fais liste ? Le but c’est de ne pas être trompeur, pas de faire un inventaire à la Prévert. Donc si tu utilises Midjourney pour générer l’essentiel de l’image et que tu fais un peu de post-prod’ avec Imagen, a priori contente toi de mentionner Midjourney (sauf si ton syndrome du bon élève revient en force, là je te laisse juge).