Règlement européen sur l’IA : des mesures concrètes pour informer et protéger les internautes

Comment le tatouage numérique vous protège des deepfakes | Rencontre avec Teddy Furon

Le tatouage numérique, on le trouve finalement dans plein d'applications de la vie quotidienne. Si vous regardez la télé, si vous écoutez la radio, ce que vous écoutez, c'est tatoué. Si vous allez au cinéma, ce que vous voyez à l’écran, c’est tatoué.

- Bonjour Teddy Furon.

- Bonjour.

- Merci de nous accueillir ici au centre Inria de l'Université de Rennes. Inria, c'est Institut national de recherche en sciences et technologies du numérique.

- C'est ça oui.

- Alors vous, vous êtes directeur de recherche à l’Inria et vous êtes le pionnier du tatouage numérique. Alors le tatouage, tout le monde voit ce que c'est à peu près : l'encre, l'aiguille, etc. Là, c'est complètement différent. Comment on peut résumer ça ? 

- Le tatouage numérique, c’est une technique informatique qui appartient au domaine de la dissimulation d’informations. Donc le tatouage va cacher des informations dans des contenus hôtes. Les messages qu'on cache, ce sont des messages binaires, donc interprétables par des machines. Les contenus hôtes, ça va être des contenus numériques, donc des images, de la vidéo, de l'audio, voire même parfois du texte. Et puis « caché », qu'est-ce que ça veut dire ? Ça veut dire que pour une image par exemple, je vais modifier les valeurs des pixels, je vais un peu modifier l’image mais de manière imperceptible. L'humain ne voit pas de différence entre l'image originale et l'image tatouée. Et pourtant il y en a une parce que l'image tatouée, si je la donne à un deuxième algorithme qui est un décodeur de tatouage, il va me retrouver le message que j'ai caché. Et autre chose : pour le tatouage, il faut que ça soit robuste. C'est-à-dire que si l'image tatouée a subi des modifications, elle a été compressée, on a diminué sa taille, on a retiré un petit bout, on a fait un crop, on doit pouvoir retrouver le message qui est caché.

- On va parler tout à l'heure de l'importance du tatouage numérique aujourd'hui, surtout sur les contenus générés par l'intelligence artificielle. Mais j'aimerais d'abord revenir un peu sur votre parcours, sur les origines de ce tatouage numérique et de vos recherches dessus. Vous avez commencé à travailler sur le sujet en 1998 dans votre thèse à Télécom Paris, c’est ça ?

- Oui.

- Alors, juste pour les personnes qui regardent la vidéo, 1998, c'était pas la même époque. Il faut remettre les choses un peu dans le contexte. On a préparé quelques sons pour ça. 1998, on est obligé, c'est dans l’actu, il y avait ça.

- Je connais.

- On est dans l’ambiance. 1998, c'est aussi ça, pour ceux qui connaissent, et qui se souviennent.

- Si, ça me dit quelque chose...

- C'est Windows 98, c'est quand on allumait les PC à l'époque. Et bien sûr, 1998, c'est aussi ça. Bon, là, forcément, tout le monde connait aussi. C’est le fameux modem qu'on a vite oublié. Tout ça pour dire que 1998, forcément, c'était beaucoup moins, Il n'y avait pas encore d'intelligence artificielle grand public on va dire. C'était quand même en 1998, j'ai vu, la naissance de Google, le lancement du premier iMac par Apple, la création du premier lecteur MP3, aussi, en 1998. Ma question est toute simple : à l’époque, qu'est-ce qui vous a pris de vouloir étudier le tatouage numérique dans une époque où le grand public avait encore un peu de mal à se connecter à internet ?

- À l’époque, Hollywood a très peur parce que l'industrie de la musique s'est fait piller avec les graveurs de CD et les réseaux peer-to-peer : Napster. Hollywood sait que les graveurs de DVD vont bientôt sortir. Hollywood est en train de préparer un nouveau format, ce sont les Blu-ray, d'une qualité bien supérieure, qu'ils auront du mal en fait à sortir un autre format avec une qualité encore meilleure. On est vraiment au bout de ce qu'ils savent faire et donc ils se disent : il faut vraiment qu'on mettre le paquet sur la protection des contenus. Et donc Hollywood va obliger en fait les fabricants d'électronique grand public à mettre du tatouage.

- On fait un bond de quelques années, du coup, on est en 2015. Vous cofondez votre première startup qui s'appelle Imatag je crois. Je la trouve intéressante parce qu'elle permet de bien comprendre, on parlait d'Hollywood là, tout à l'heure, mais ce que c'est que le tatouage numérique et surtout l'application concrète dans le quotidien. En quoi elle consistait cette startup ? 

- Au tout début, on voulait donc protéger les droits d'auteur et les droits voisins des photographes. On cherchait un système pour que les photographes soient mieux rémunérés. Bon, ça n'a pas marché. Ça n'a pas marché parce qu’en fait, les photographes, ils n’ont pas de sous. Donc maintenant, ce que fait Imatag, donc Imatag est devenue, ce n’est plus une startup, c’est une PME d'une douzaine de personnes, Imatag vend des solutions de tatouage pour images fixes et vidéos avec deux applications. Il y a la première application qu'on appelle Monitor, c'est savoir où sont les images de nos clients. Donc Imatag va scanner le web, va scanner la presse française, par exemple la presse régionale et nationale, tous les jours. Il va faire du reporting pour dire par exemple à l'AFP : Voilà, aujourd'hui, Le Monde a utilisé trois de vos photos parce qu'on a retrouvé le tatouage de l'AFP dans ces photos-là. Et donc après, l’AFP fait une facture au Monde.

- C’est ça, en fait, c'est protéger le droit d'auteur.

- Ça, c’est protéger le droit d'auteur, mais ça peut être aussi, par exemple, pour une campagne de pub : on a trouvé les visuels de cette campagne de pub dans ces sites-là, dans ces blogs-là, sur ces blogs d'influenceurs où dans des vidéos de YouTube et donc ça permet de mesurer l'impact d'une campagne de publicité. Donc là, ça n’a strictement rien à voir avec du droit d'auteur.

- Ok, très bien.

- La deuxième application, c'est ce qu’on appelle le traçage de traître, c'est-à-dire que j'ai par exemple un document qui est sensible, que je veux partager à des collaborateurs, mais je leur fais pas tout à fait confiance. Donc, en fait, je vais distribuer à chacun une copie de ce document, mais avec des petites modifications. En fait, il y a un identifiant qui est caché grâce à du tatouage. Et je leur dis : Bah voilà, si le document fuite, je saurai qui a fait le coup. Et là encore, par exemple, ça peut servir pour la pub. Du genre une sortie mondiale d'un produit, genre un nouveau smartphone, une nouvelle voiture.

- Il faut pas que ça se sache avant, évidemment.

- Les visuels sont préparés bien en avance, on les donne aux distributeurs locaux et on leur dit : Attention ! Il ne faut les utiliser qu’au jour J de la sortie mondiale. Et donc si vous laissez fuiter les visuels, on remonte et on saura qui a fait le coup.

- Le tatouage numérique, quelques années après, donc là, on est après 2015, on arrive sur l'intelligence artificielle qui commence à se développer sérieusement et je voudrais qu'on parle un petit peu des apports du tatouage numérique sur ces contenus générés par IA. D'ici la fin de l'année, il y a le AI Act européen qui va imposer à tous les fournisseurs d'intelligence artificielle de tatouer leurs contenus générés et diffusés, surtout, en Europe. C’est une bonne nouvelle pour savoir ce qui est vrai de ce qui ne l'est pas sur Internet. On va y revenir. C'est aussi une bonne nouvelle pour vous puisque c’est l'objet de votre deuxième startup je crois : Label4.ai Concrètement, est-ce que vous pouvez nous expliquer pour nous, on ne connaît pas du tout, comment ça marche le tatouage numérique sur les contenus générés par IA ?

- Alors, pour refaire un tout petit peu d'histoire, le tatouage, donc effectivement la recherche en tatouage part en 1998, voilà. Et pendant dix années, il y a beaucoup de recherche qui est faite. Et puis vers les années 2010, il n’y a plus rien. En fait, les techniques de tatouage sont suffisamment mûres pour les applications de la vie courante. Donc en fait, il y a énormément de transferts dans l'industrie, mais la recherche en tatouage est morte. On parle d'un hiver du tatouage. Et puis c’est l’IA qui va nous réveiller en 2018. Notamment parce qu'avec des réseaux de neurones profonds, on peut faire des techniques de tatouage qui sont bien plus robustes. Et puis quelque chose que personne n’a anticipé, c'est que il y a des législateurs qui se disent : Mais il faut absolument que l'IA soit transparente. Ça veut dire que l’humain doit savoir quand il a affaire à une IA. L’IA ne doit pas usurper l'humain, et en particulier l'humain doit savoir quand il a affaire à, quand il est exposé à un contenu qui est généré par une intelligence artificielle. Donc en Europe, il y a l’EU AI Act Mais aux États-Unis, il y a la Californie, l'État de Californie qui a voté une loi, je ne sais plus son nom, la Chine aussi, Singapour, enfin voilà. Il n’y a pas que les Européens.

- On n'est pas, ni en retard, ni en avance, on est à peu près comme tout le monde là-dessus.

- Et donc l’EU AI Act impose aux fournisseurs d'IA commerciale en Europe, toute IA qui est commercialisée en Europe, l’IA générative, d'insérer un signal de tatouage.

- Concrètement, on est nous, une personne comme tout le monde, on crée un contenu sur une plateforme d’IA, on génère une photo ou une vidéo, on ne va pas voir forcément qu'il y a un tatouage numérique dessus, mais il y en aura un, c’est ça ?

- C'est ça.

Le tatouage est invisible, la qualité de la génération de l’image ou de la vidéo, ou du son, ou de la voix est respectée. Il y a juste, on a juste laissé des traces statistiques de manière intentionnelle dans le contenu généré pour que ce soit plus facilement détecté après, comme étant du contenu généré.

- Ce tatouage numérique sur les contenus générés par IA, il a quand même une volonté de lutter un petit peu contre la désinformation, contre les deepfakes, enfin en tout cas de montrer la différence peut-être entre de la vraie info et de l’info...

- Oui, et donc alors après, il y a l'alinéa numéro 2 de l’article 50, la deuxième partie, qui impose aux réseaux sociaux de vérifier que les contenus sont... donc de détecter le tatouage. Voilà. Si la réponse est positive, ça veut dire que ce contenu a été généré par IA. Et ils ont pour obligation d'afficher à l'utilisateur. Donc sur les réseaux sociaux, il y aura des petits logos pour dire : Attention ! Ça, c'est une image générée. Ok, donc ce sera déjà beaucoup plus clair pour tout le monde finalement. La question qui suit c'est : est-ce que ça vous est déjà arrivé de vous faire piéger, vous, par un deepfake ou par une image générée par IA en pensant que c'était une vraie ?

- Ah bah sûrement, oui.

- Et vous avez des astuces en plus à nous donner peut-être que celles qu'on connaît déjà ?

- L'époque où on comptait le nombre de doigts, où on regardait si les oreilles étaient bien symétriques ou pas, etc. C’est fini ça. Donc maintenant, les générateurs d'images laissent toujours des traces statistiques mais elles ne sont plus visibles. Donc on peut apprendre des détecteurs, on peut, comment dire, observer ces traces statistiques, les caractériser, essayer de les détecter. Mais là c'est une machine qui fait le boulot, et cette machine, elle a aussi un taux de faux positifs et un taux de faux négatifs. Parfois elle se trompe. Voilà, donc il faut savoir évaluer.

- Ok.

- Mais à l'œil nu, non. Ou à l'oreille, non.

- Alors pour terminer Teddy, je vous propose un petit jeu. C'est un vrai ou faux. Très facile. C'est juste pour être sûr qu'on a bien compris ce que c'était que le tatouage numérique. Donc vous répondez par vrai ou faux, vous êtes prêts ?

- Oui.

- Est-ce que le tatouage numérique vous protège des deepfakes ? C'est vrai ou c'est faux ?

- C’est vrai. Partiellement c'est vrai.

- Si vous récupérez une photo non libre de droits, le tatouage numérique est un virus qui va contaminer votre ordinateur. Est-ce que c'est vrai ou faux ?

- Ah ça, c’est faux.

- C'est faux. Voilà.

- Si le contenu sur internet n'a pas de tatouage numérique « généré par IA », c'est que l'info est fiable. C'est vrai ou c'est faux ?

- C’est faux.

- Et enfin, pour finir, l'intelligence artificielle, c'est bien. Vrai ou faux ?

- Je ne saurais pas répondre. Il y a beaucoup d'autres risques sur la sécurité de l’IA que la génération de deepfakes.

- Ok, très bien. Merci Teddy, avant de terminer, je vous pose quand même une dernière question que peut-être certaines personnes qui regardent la vidéo ont déjà en tête mais le plus grand danger, selon vous, ce sont les deepfakes, ou en tout cas les fausses informations générées par IA, ou finalement le fait qu'on ne croie plus à rien sur nos écrans ?

- J’ai un peu l'impression qu'on ne croit plus à rien depuis longtemps en fait. Les deepfakes, c’est pas si nouveau que ça, ce qui est nouveau, c'est le fait que tout le monde peut en faire. En tatouage, on a une maxime, un leitmotiv qui est : « Keep honest people honest. » Donc ça veut dire que les gens qui sont honnêtes, ils resteront honnêtes parce que les outils qu'ils ont à disposition auront du tatouage et donc on saura dire : « Ça, c’est du généré. » Maintenant, si la mafia, si un État belligérant comme la Russie veut faire sa propre IA, ils ne vont pas mettre du tatouage dedans, ça c’est sûr. Voilà. Ça a ses limites aussi.

- Ok, merci beaucoup.

- On participe à la solution.

- Merci beaucoup, Teddy.

Si on est intéressé par le tatouage numérique, par l'IA en général, Est-ce qu’on peut suivre vos travaux quelque part ? Est-ce que vous faites des conférences ? 

- Je suis le responsable d'une équipe qui s'appelle Artishau parce qu’en fait on est une équipe de recherche en Bretagne.

- Ok, oui, forcément.

- Sauf que artishau s’écrit d’une manière bien spécifique A-R-T-I-S-H-A-U

- Ok, on l'écrira dans la vidéo.

- Et quand on tape ça dans Google, on tombe directement sur le site de notre équipe où il y a toutes nos publications.

- Ok, très bien, merci à vous, merci à Valentin derrière la caméra, merci à l’Inria qui nous a accueilli aujourd'hui à Rennes. N'hésitez pas à nous suivre sur notre chaîne YouTube si ce contenu vous a plu, on va en faire d'autres, promis. D'ici là, rendez-vous sur Bercy Décode, c’est la plateforme du ministère de l'Économie pour lutter contre la désinformation, et démêler le vrai du faux, on a beaucoup parlé aujourd'hui. Et puis, à très vite.

- Merci !