IA et création : quand la réalité rattrape la science-fiction

Enregistré le 29/04/2023 à l'occasion du festival L'Ouest Hurlant.

L’intelligence artificielle envahit nos modes de création depuis quelques années, créant des situations inédites et préoccupantes au regard du droit et de nos métiers. Si les auteurices de SF ont largement fantasmé les utilisations de l’IA dans leurs oeuvres, qu’en est-il de la réalité, maintenant que nous y sommes réellement confrontés ?
Quelles menaces et quelles avancées pour nos métiers ? La Ligue des auteurs pros et ses invité·e·s répondent à ces questions d’actualité.

Transcription :

IA et création : quand la réalité rattrape la science-fiction
Avec Stéphanie Le Cam, Anouck Faure, Thomas Fouchault, Yann Basire.
Modération : Julien Joly

[Chaise qui racle le sol]
[Grincements]
[Musique et bruits de pages qui se tournent]
[Musique et carillons]
[Musique et bruits de vaisseaux]
[Tirs de pistolets laser - Pewpew]
[Bruits d'épées qui s'entrechoquent]
Musique (guitare)
[Voix off] Les conférences de L'Ouest Hurlant, le festival des cultures de l'imaginaire…

[Julien Joly] Bonjour à toutes et à tous. Des images d'Emmanuel Macron qui ramasse les poubelles, le pape François en doudoune, un magazine submergé par des nouvelles de science-fiction écrites sans auteur humain ou presque, autant de situations qu'on doit aux dernières technologies d'intelligence artificielle. L'IA a fait depuis un an des progrès impressionnants, peut-être un peu trop. Le mois dernier, le Sony World Photography Awards, un des plus prestigieux prix de photographie, a été dupé par un cliché généré par une IA. Au début du mois, la Ligue des auteurs professionnels a tiré la sonnette d'alarme. Elle a publié un argumentaire détaillé appelant à une régulation. Alors, peut-on encadrer l'IA ? Si oui, comment ? L'ordinateur est-il une aide ou une menace pour les créateurs ?
Pour y répondre, aujourd'hui, à l'Ouest Hurlant, nous avons à nos côtés Stéphanie Le Cam, directrice générale de la Ligue des auteurs professionnels, donc syndicat des auteurs et autrices du livre, bonjour.
[Stéphanie Le Cam] Bonjour, bonjour à toutes et tous.
[Julien Joly] Anouck Faure, bonjour. Plasticienne, illustratrice, autrice de La cité diaphane - arrêtez moi si je me trompe - sortie en février, et accompagnée d'illustrations réalisées à l'eau-forte et pas grâce à l'IA. Yann Basire, directeur du Centre d'études internationales de la propriété intellectuelle, spécialiste en droit de la propriété industrielle, et notamment des marques, bonjour.
[Yann Basire] Bonjour.
[Julien Joly] Et Thomas Fouchault, éditeur aux éditions 1115, auteur notamment Des fileurs de temps en 2019, et élu à la ligue des auteurs professionnels. Et moi, je suis Julien Joly, journaliste au Télégramme et au Mensuel de Rennes. Alors, avant d'aborder la protection des auteurs, Stéphanie Le Cam. Est-ce qu'on peut rappeler très vite de quoi on parle quand on parle d'IA ? Dans ce contexte, quel est leur fonctionnement, basiquement, est-ce vraiment une intelligence ?

[Stéphanie Le Cam] Alors, est-ce que c'est vraiment une intelligence ? Moi, je suis juriste, donc je ne vais pas me positionner sur une analyse technologique de ces intelligences artificielles. Simplement, pour expliquer très rapidement comment elle fonctionne. Ça repose tout simplement sur l'analyse de données, d'une masse de données incommensurable, et elles se nourrissent par l'analyse de ces données. Elles sont ensuite en mesure, dans un deuxième temps, de générer elles-mêmes du contenu à l'aide de prompts. Pour faire simple, c'est un peu le mode de fonctionnement de Midjourney. Quand vous dites qu’on a lancé l'alerte il y a un an, en réalité, ça fait plus de dix mois qu'on travaille sur ces questions de régulation de l'intelligence artificielle. Simplement, effectivement, il y a un mois, on a publié un argumentaire assez solide qui montre les dangers de ces intelligences artificielles génératives de contenu, notamment pour les métiers de la création que l’on défend à la Ligue des auteurs professionnels.
[Julien Joly] Bien sûr, on précise que le système d'IA ne sait pas ce qu'il produit. Ce sont grosso modo des statistiques par rapport aux descriptions des images qu'il perçoit. Il sait que, statistiquement, par exemple, un mot va venir après tel autre, un pixel va venir après tel autre : c'est un algorithme. Ça peut poser des problèmes sur les bases de données dans lesquelles il puise, parce que ces bases de données sont constituées d'images dont il n'a pas forcément les droits, en tout cas dont les entreprises qui gèrent ces IA n'ont pas forcément les droits. Elles peuvent même contenir des images personnelles, voire couvertes parfois par le secret médical. C'est bien ça ?
[Stéphanie Le Cam] C'est tout à fait ça, c'est-à-dire que comme il n'y a pas de transparence sur les bases de données qui nourrissent ces intelligences artificielles, on peut y trouver des images qui sont libres de droit (parce qu’associées à des licences Creative Commons, leurs auteurs n'ont pas voulu par exemple s'approprier ces droits et laissent aux utilisateurs la possibilité d'en faire un usage), on peut y retrouver aussi des images qui sont tout simplement dans le domaine public puisqu'elles ne sont plus protégées au titre du droit de la propriété intellectuelle. Et puis on a effectivement tous ces contenus qui sont encore protégés au titre du droit de la propriété intellectuelle et qui nourrissent ces bases de données en vue, éventuellement, d'inspirer, saisir, pour générer d'autres contenus. Donc, finalement, comme il n'y a pas de transparence, on ne sait pas vraiment avec quoi elles se nourrissent, mais elles se nourrissent probablement, c’est même certain, d'œuvres protégées au titre du droit de la propriété intellectuelle.

[Julien Joly] Très bien. Alors, Thomas Fouchault, je me tourne vers vous, vous êtes éditeur. Qu'est ce qui est inquiétant dans les systèmes d'IA selon vous ? Pour quelles raisons (on peut en citer plusieurs) faudrait-il les réguler ?
[Thomas Fouchault] Ce qui est assez compliqué avec les IA, on peut facilement faire le parallèle avec des machines-outils. C'est-à-dire qu’une intelligence artificielle peut permettre d'abattre un travail incroyable sur la création d'un texte. Tout le souci, c'est que, un, c'est basé sur des éléments qui sont pillés ailleurs et, deux, c'est la valeur qui est “libérée” par ce gain de productivité, il faut voir comment ça se partage. Côté éditeur, ma vision, c'est qu'on est face à un gros problème de déontologie, c'est-à-dire est-ce qu’il est acceptable de publier des œuvres qui sont créées grâce à des IA, de la même manière que dans le secteur de la mode, par exemple, puisqu'on qu'on peut se demander s’il est acceptable de vendre des T-shirts qui ont fait trois fois le tour de la terre pour en arriver là, en s'appuyant sur l'explication de la misère ailleurs. C'est le parallèle qui est un peu gros, je l'admets, mais on peut quand même tirer des liens entre les deux. Le souci que je vois par rapport à ça, c'est qu’on est aussi en train de s'attaquer à la base de l'industrie du livre. De base, ce qui fait la valeur de l’industrie du livre, c'est la valorisation de la propriété intellectuelle, parce que tel auteur a créé une œuvre qui est protégée. Dans ce cas-là, l'éditeur va le payer pour obtenir les droits de le publier et d'en faire quelque chose, les droits peuvent se racheter, et ainsi de suite. Si on s'attaque à ce pilier là, dans le sens où l'œuvre créée par l'auteur n'a plus beaucoup de valeur parce qu'en fait, une fois qu'elle est lancée, on peut très bien avoir une IA qui va pomper ce qui a été créé et ça sape tout l'ensemble. A partir de là, si on change, si on s'attaque à la base de la pyramide du monde de l'édition, ça pose un petit problème et on est concrètement face au risque d'avoir un gros far-west s’il n’y a pas de régulation. Le truc qui m'inquiète, en tant que consommateur également, c'est que, sur ce modèle-là, c'est difficile de faire confiance à la loi du marché, parce que les consommateurs voient un produit final. Ils ne vont pas forcément se poser la question de comment ça a été produit et dans quelles conditions. Si on laisse les choses se faire, les éditeurs peu scrupuleux vont utiliser ces outils pour faire des œuvres beaucoup moins cher et après, ça va faire des ravages parmi tous les autres.

[Julien Joly] Si on regarde ne serait-ce que sur Amazon, récemment on s'est rendu compte qu'il y avait beaucoup de livres qui étaient écrits à l'aide d’une IA, ou même complètement par une IA, comme ChatGPT. On a pu voir des exemples de livres pour enfants qui étaient générés en quelques minutes. Est-ce que, au-delà de ces ouvrages, qui tiennent plutôt de l'auto-édition, les éditeurs professionnels reçoivent des manuscrits qui sont clairement écrits à l'aide d'un robot conversationnel, pour faire simple ?
[Thomas Fouchault] On n'a pas eu cette malchance, heureusement. Mais je sais que cette année, il y a notamment un éditeur, que je connais qui, pour un concours de textes, a reçu un texte qui a été clairement créé avec ChatGPT. Donc ça commence. Maintenant, ce qui est bien, c'est qu’il y a des outils qui permettent de déterminer si ça a été créé grâce à l'intelligence artificielle ou pas, ce qui permet déjà de faire un peu la distinction. Mais là-dessus aussi, je pense que OpenAI a un coup d'avance sur l'ensemble et c'est difficile de mettre les bons outils en face pour contrecarrer l'avancée des IA. Et si on n'a pas une action plus globale au niveau de la régulation des accords au sein de la profession, on va avoir du mal à endiguer ce grand mouvement qui arrive.

[Julien Joly] Alors, juste avant de passer la parole, j'ai regardé un petit peu les livres qui étaient vendus sur Amazon, créés par ChatGPT, c'est des manuels techniques assez simples, des livres pour enfants, qui ne cassent pas trois briques. Est-ce que, dans l'avenir, on risque de voir apparaître des livres générés par IA qui ont un vrai intérêt pour le lecteur, qui nous entraînent ou qui font semblant de nous entraîner dans une histoire, ou est-ce que c'est surtout un risque d'avoir un afflux de manuscrits qui parasite le travail de l'éditeur ?
[Thomas Fouchault] L'afflux de manuscrits, clairement, ça peut arriver, mais comme on a des outils anti-spam, peut-être qu'on aura aussi des outils anti ChatGPT qui font déjà un peu baisser la pile de manuscrits. Sur la question des textes, je pense qu’il faut faire la distinction entre, d'un côté, ce qui relève de la littérature, et de l’autre côté ce qui relève du livre pratique ou de tous les autres champs de l'édition et qui ne demande pas… enfin, il demande forcément de la création, de la créativité dans la conception de l'ouvrage, mais qui, dans le contenu, peut facilement être repris d'ailleurs. Et finalement, je pense que c’est plutôt cet autre secteur, du livre pratique, de l'essai, de la biographie qui est le plus exposé à l'intelligence artificielle, parce que c'est là où c'est le plus simple de laisser la machine faire. Après, on reçoit un manuscrit, on en fait quelque chose. D'ailleurs j'ai oublié de l’évoquer tout à l'heure, mais le plus gros risque pour moi, c'est surtout une tâcheronnisation du boulot d'auteur et un gros bouleversement de l'édition, plutôt vers le mode de la programmation. Je m’explique. Aujourd'hui, les éditeurs, ce qu’ils s'arrachent, ce sont les bons auteurs, qui puissent créer de bonnes histoires, c’est un métier complexe, ça se rémunère. Ça se rémunère aujourd'hui peut-être pas autant que ça devrait, mais c'est ça qui crée la valeur. Demain, si jamais on a ces algorithmes qui permettent de créer une première base, un premier jet qui est solide, qui a besoin d'être retravaillé, mais qui existe, imaginez un peu ! En fait, les éditeurs, ce qu’ils vont chercher, ce n'est pas d'avoir des bons auteurs, mais d’avoir des bons développeurs, qui savent créer les bons prompts, adaptés comme il faut à la machine pour que ça sorte le meilleur premier jet possible. Après, ils ne vont pas forcément s'embêter, ils vont aller sur Malt, ils vont aller sur des plateformes de freelance pour trouver des auteurs qui ont faim, parce que les auteurs ont faim et auront encore plus faim dans ce système-là, pour juste reprendre ce premier jet, le retravailler un peu de manière que ce soit publiable, et ils seront payés au lance-pierre, encore plus qu'aujourd'hui.
[Julien Joly] Ce qui se fait déjà, je crois, un petit peu, mais pas en mode industriel, bien sûr. Est-ce qu’il arrive parfois que l'on demande à des auteurs confirmés de retravailler le premier jeu d'un auteur peut-être un petit peu moins bon ?
[Thomas Fouchault] Je n'en ai pas entendu parler, mais ça m'étonnerait pas que ça existe.

[Julien Joly] Alors le phénomène que l’on voit pour l'écrit est le même en matière d'image. Je prends l'exemple d’Adobe Stock, qui accepte les images générées par l’IA, ou du moins qui le faisait quand j'ai fait ma revue de presse, parce que je ne vous cache pas que c'est un sujet qui évolue énormément. Ces images sont tellement nombreuses que les auteurs humains ont tendance à disparaître sous cette masse, et ce même si leur travail est de meilleure qualité. L'auteur humain en devient invisible. Anouck Faure, je me tourne vers vous. Quel est l'impact pour les dessinateurs ?
[Anouck Faure] Bonjour, déjà ! [rire] C'est vrai que comme vous le disiez, c'est un phénomène qui est tellement nouveau et qui change tellement vite. Je me rappelle qu’il y a encore quelques semaines, tout le monde se marrait sur Internet des mains générées par Midjourney, typiquement, avec vingt-six doigts, parfois les personnages ont trois bras… et avec les dernières mises à jour, ce n’est déjà plus le cas et ça change très, très vite. Il y a des lois qui passent aussi aux Etats-Unis, donc c'est vraiment difficile de se projeter sur quelle est la menace pour les illustrateurs, pour les artistes en général. J'ai l’impression que dans un premier temps, potentiellement, la menace touchera plutôt les artistes débutants qui cherchent des petits projets pas très chers pour se lancer, par exemple dans la petite édition, où on est moins bien payé. Ces projets, qui permettent justement de se lancer et de se faire la main et de commencer à se faire connaître, seront plus facilement phagocytés par les IA, parce que les petits éditeurs seront plus tentés de prendre des projets vraiment pas chers en ayant un développeur qui va générer toutes les couvertures dans tous les styles qu'on veut, plutôt que de payer des illustrateurs qui ne sont pas encore confirmés. Je pense que, pour l'instant, pour les artistes déjà installés, avec une patte vraiment marquée, le public, de toute façon, continuera à vouloir les projets de ces personnes, à voir leur travail. Ces gens-là ne sont pas menacés dans l'immédiat. Pour moi, la menace à moyen terme, c'est que, finalement, les gens riches ou qui sont un dans un milieu familial favorisé pourront se permettre de devenir artistes, parce qu'ils auront le temps de se développer artistiquement, d’avoir une patte technique très affirmée, un style graphique affirmé, avant de commencer à faire des projets rémunérés. Par contre, les petits étudiants en école d'art, qui n’ont pas de revenus, ne vont pas pouvoir avoir ce temps à disposition en n'étant pas rémunérés, ils seront en concurrence directe avec les IA et vont devoir aller faire autre chose. Pour moi, c'est un peu la première menace.
[Julien Joly] Est-ce que pour un illustrateur, des tâches comme créer une couverture pour un livre, faire des choses qui ne sont pas forcément dans ses projets artistiques à lui, qui sont plus des boulots de commande, des boulots alimentaires, c'est une grosse partie de son revenu qui peut être menacé par les IA ?
[Anouck Faure] Je pense que ça dépend complètement des artistes. Dans mon entourage, je connais des artistes qui ne font que de la commande, et c'est vraiment ce qui les intéressent. D'autres qui font un peu de commande et beaucoup de projets personnels, d’autres qui ne font que des projets personnels. Moi, on va dire que c'est moitié-moitié, par exemple, et je tends à aller vers des projets personnels de plus en plus, mais oui, ça peut représenter clairement une somme assez importante. Mais au-delà de l'aspect pécunier, ça représente aussi un intérêt. De mon point de vue, en tant qu'artiste, faire des projets de commande, ça permet aussi de sortir parfois de sa zone de confort, d'interagir avec un éditeur qui va avoir un regard graphique. Travailler avec cet échange, c'est vachement nourricier en fait. Un des “problèmes” que je vois dans l'IA, c'est son immédiateté. Pour moi, ce qui fait l'art aussi, c'est justement tout le travail qui va se passer en intérieur. Le travail qu'on ne va pas forcément voir, les milliers de croquis, le temps qu'on passe à regarder, à mûrir les choses en intérieur, et c'est ça qui va faire qu’un illustrateur qui fait une couverture, ou des illustrations intérieures, ou une oeuvre, va proposer finalement non pas juste une image finale, mais un regard qui va orienter la façon dont le lecteur, par exemple, va recevoir un livre et va le percevoir. Ça, une IA ne va pas le faire. Elle va proposer l'image la plus pré-mâchée possible, la plus banale possible sur un sujet donné, et c'est une sorte de centralisation de la créativité, où tout va être un peu pareil. C'est aussi cette perte de diversité, potentiellement, qui est inquiétante.
[Julien Joly] C'est intéressant que vous souligniez que les petits travaux de commande qui pourraient être pris par l’IA, ce n'est pas seulement un risque pécuniaire, ça fait partie de la vie intérieure de l'artiste. Comme vous dites, pour sortir de sa zone de confort, l'artiste est lésé aussi sur ce champ-là. Effectivement, vous soulignez que lorsqu'un artiste est connu, reconnu, les gens veulent sa patte. J'ai vu un exemple (je crois que c'est sur la Ligue des auteurs justement) qui était assez inquiétant en ce sens. Il me semble que c'est sur le site NightCafe, on peut voir que le nom d'un auteur français, Jean-Baptiste Monge, a été utilisé plus de 390 000 fois, sans doute plus depuis, pour créer des images dans son style, comme si les gens se disaient : “J'aime bien ce qu'il fait”, ou “J'aime bien ce que fait Moebius, je veux plus d'images dans ce style”. Donc, en fait, on arrive à un moment où même des gens qui ont un style très unique sont menacés, parce que leurs fans veulent encore plus de ce style unique, sans penser à l'auteur qui est derrière ça.
[Anouck Faure] Ça, je n’y crois qu'à moitié, entre guillemets. Je vais utiliser une anecdote pour raconter. Quand j'étais en école d'art, un gros éditeur est venu parler à notre classe. Il nous a expliqué que, dans ses dossiers d’illustrateurs, il avait le gros nom connu, mettons Jean-Baptiste Monge pour rester sur cet exemple. Et après, il avait des sous-dossiers qui étaient les simili Jean-Baptiste Monge, quand il voulait faire un projet moins cher et qu'il n'allait pas pouvoir payer Jean-Baptiste Monge, mais qu'il voulait toucher ce public-là. C’est-à-dire, il y avait déjà un peu cela, on faisait déjà des projets moins chers, genre “Je voudrais un truc qui fasse un peu Moebius, mais je peux pas me payer Moebius, donc je vais prendre un gars qui a été inspiré par Moebius”. Cette réalité existait déjà et malgré tout, il pourrait y avoir 20 000 faux Jean-Baptiste Monge, les gens voudront toujours aussi le travail que produira l’original, parce que l'IA pourra imiter ce qu’il fait déjà, mais elle pourra pas imiter ce qu'il va faire dans l'avenir et comment son travail va évoluer.

[Julien Joly] Le Canada Dry du Jean-Baptiste Monge. Merci Anouck Faure, je rappelle que vous êtes plasticienne, illustratrice, autrice. Je me tourne à présent vers Yann Basire. Non seulement les IA génératives viennent se porter en concurrence directe des ayants droit des œuvres, mais en plus elles commettent des actes de contrefaçon. Est-ce qu'on peut parler de contrefaçon, vous qui êtes un spécialiste du droit des marques ?
[Yann Basire] Est-ce que je peux revenir aussi sur quelques éléments qui ont été évoqués précédemment ? Puisque c'est vrai qu'on parle beaucoup d’IA, on pourrait peut-être aussi se tourner vers la salle et savoir est-ce que certains dans la salle ont déjà utilisé des IA pour voir un peu comment ça fonctionnait ? Parce que c'est vrai que le fonctionnement est quand même assez incroyable. Vous l'avez dit, on peut créer quelque chose en l'espace de quelques minutes, 10 minutes. On peut avoir un sondage à main levée ? Qui a déjà utilisé Midjourney ou ChatGPT ? Voilà, la lumière arrive… Effectivement, nous sommes foutus ou vous êtes foutus ! Vous avez vu avec quelle facilité on peut utiliser ces intelligences artificielles. On peut créer effectivement des images en l'espace de quelques minutes. Vous avez vu, avec Midjourney, vous avez les prompts, vous donnez des indications, quatre images arrivent et ensuite vous pouvez essayer d'affiner cela et vous pouvez avoir plusieurs itérations afin d'avoir le résultat final. J'aimerais simplement revenir sur un point qui me semble essentiel, qui purement technique, et vous l'avez évoqué tout à l'heure. Les commandes auxquelles vous êtes confrontée vous permettent de progresser, d'exercer un nouveau style, d'aller plus loin. L'intelligence artificielle, elle, marche en vase clos. Concrètement, elle fonctionne uniquement par rapport à ce qui existe et donc elle n'évoluera pas. Elle évoluera uniquement si des auteurs humains évoluent. ça, il faut vraiment en avoir conscience, c'est-à-dire qu'on a non seulement une paupérisation potentielle, et plus que potentielle, pour les auteurs, mais il y a aussi une paupérisation d'un point de vue purement artistique, puisqu’il y a une normalisation. L'intelligence artificielle n’extrapole pas, elle extrapolera uniquement s’il un bug, ça il faut en avoir conscience, et le bug, malheureusement, c'est quand même pas ce qu'on recherche avec l'intelligence artificielle. Ensuite, pour revenir à la question de la contrefaçon, évidemment, Stéphanie l'a évoqué, quand on parle de données, ces intelligences artificielles brassent des millions, des milliards de données. Les données, c'est pas juste un nom, c'est pas juste si vous êtes malade, c'est pas juste je ne sais quoi. C'est évidemment, comme Stéphanie l'a rappelé, des œuvres de l'esprit. Et la question qui se pose concrètement, c'est : “Est-ce que, premièrement, on peut utiliser ces œuvres de l'esprit dans les bases de données ? Est-ce qu'on peut brasser toutes ces œuvres de l'esprit librement pour arriver à une nouvelle œuvre, si tant est que l'on puisse parler d'œuvre de l'esprit avec ce qui est généré par intelligence artificielle” ? Au-delà du brassage des données, l’autre question qui va se poser est : “Est-ce que le résultat final est lui aussi contrefaisant” ? Donc, il y a deux aspects : il y a un aspect en amont et puis il y a l’aval. Pour répondre à la question, peut-être le plus simple, c’est en aval, le résultat final. Oui, le résultat final peut constituer une contrefaçon. Pourquoi ? Parce que le résultat final ressemble fortement à quelque chose qui existe déjà. Alors, vous l'avez expliqué, on est sur des algorithmes, ça explose les œuvres, ça pixelise, mais quand ça reforme quelque chose, la reformation de cette nouvelle œuvre, générée par l'intelligence artificielle, peut reproduire ou imiter quelque chose qui existe déjà.
[Julien Joly] Je me permets de vous couper pour préciser qu’il ne s'agit pas seulement de reproduire des œuvres ou de s'inspirer d'œuvres. Je me suis amusé à faire une Tortue Ninja vu par le Caravage et un style Caravage. On peut aussi, sous Midjourney en tout cas, reproduire des visages d'acteurs connus. Je peux très bien demander Harrison Ford dans le Seigneur des anneaux, et ça montrerait une tête qui ressemble vraiment à Harrison Ford, surtout s'il y a beaucoup d'images qui ont été entrées dans la base de données. Quand un film hollywoodien reproduit en images de synthèse un acteur, celui-ci est censé toucher de l'argent dessus, en tout cas ses ayant-droits, si je ne dis pas de bêtises. Quand il s'agit de Midjourney, par contre, visiblement, il n’y a pas de problème. On est aussi face à la reproduction de visages célèbres.
[Yann Basire] Là, c’est du droit à l'image, on n’est pas sur de la contrefaçon. Vous l’avez évoqué ! Toutes ces reproductions d'Emmanuel Macron en train de manger de la choucroute, de ramasser les poubelles, etc., ça pose une question en terme de droit à l'image. Ce n'est pas uniquement la question des auteurs, c'est l'intérêt général, c'est l'intérêt public. On est tous touchés par cela. C'est-à-dire que lorsque vous mettez une photo sur Facebook, Twitter (c'est un peu has been, Facebook, excusez-moi, c'est une question d'âge), Instagram, TikTok ou autre, il faut avoir conscience que ces données seront réutilisées et que, potentiellement, vous pouvez avoir votre visage qui ressort via Midjourney ensuite. C'est une réalité. Au-delà de la contrefaçon, vous avez des problématiques de droit à l'image.
[Julien Joly] Très bien, je vous garde un petit peu et après on repassera à Stéphanie Le Cam. Est-ce que vous pensez, Yann Basire, aujourd'hui, qu'une régulation mondiale de l'IA est possible ? Est-ce que nous sommes bien armés face à ce phénomène ?
[Yann Basire] Régulation mondiale, non [rire] ! Ou alors on rentre dans la science-fiction. J'ai regardé Premier contact il y a peu de temps, oui, on a vu une régulation mondiale pour essayer de parler à des extraterrestres. Mais là, non ! Régulation mondiale, c'est parfaitement illusoire. Quand on parle de propriété intellectuelle, de droits d'auteur, on est sur des droits qui sont par essence territoriaux. Éventuellement, nous, ce qu'on peut envisager c’est une régulation au niveau français et plus largement au niveau de l'Union Européenne. D'ailleurs, il y a un règlement sur la régulation de l'intelligence artificielle qui est en projet. La question de la propriété intellectuelle est complètement mise de côté. Pourquoi ? Parce que, il y a quelques années de cela, on a eu une directive sur le droit d'auteur dans le marché numérique. Donc, on part du principe que tout a été bien régulé, c'est déjà fait, on ne va pas y revenir. Malheureusement, ce n'est pas le cas. Et je vais revenir à cette problématique d’en amont : ce brassage des données, concrètement, est autorisé. Ça, il faut en avoir conscience. On n'est pas dans le far-west. Vous avez une exception qui s'appelle le data mining, c'est la fouille de données. Cette fouille de données est possible lorsqu'on s'inscrit dans une logique de recherche publique. Bon, la question, c'est où on place le curseur sur la recherche publique, et puis surtout, la recherche publique, après, qu'est-ce qu'elle fait de ces données si, par extraordinaire, elle signe des contrats avec des opérateurs privés ? Et puis, vous avez un autre volet dans cette exception de datamining : c'est possible de fouiller les données, mais on offre la possibilité aux personnes qui le souhaitent de procéder à un opt-out et de retirer les données qui sont brassées. Bon, l'opt-out, il faut être plus que le génie de la lampe pour pouvoir tout retirer. Concrètement, vous prenez un auteur. Matériellement, il ne va pas pouvoir retirer et demander le retrait des données qui le concernent, en tout cas de ses œuvres de l'esprit qui sont brassées. Donc une régulation européenne me semble indispensable. Il est indispensable que le législateur européen se saisisse de cette question. Il y a un gros exercice de lobbying à opérer, la Ligue s'y attache. Au niveau européen, sauf erreur de ma part, il y a d'autres syndicats qui travaillent dessus pour essayer de sensibiliser le législateur européen, pour essayer de revenir sur cette exception de datamining, qui est sans doute mal ficelée, en tout cas inadaptée aux auteurs.

[Julien Joly] Effectivement la réflexion du législateur est parfois plus lente que les progrès de l'IA. Stéphanie Le Cam, si l'Europe serre la vis sur l'IA, qu'est ce qui se passera si, par exemple, les États-Unis, la Chine ou la Russie, au contraire, débrident ? Est-ce qu'on va se retrouver avec une espèce de monde à deux vitesses concernant l'IA, qui, on l'a bien vu sur Internet, passe facilement les frontières ?
[Stéphanie Le Cam] C'est vrai que ça mérite peut-être de revenir sur ce contexte. Pour rebondir sur ce que vient de dire Yann, en 2019, quand le législateur européen décide justement d'organiser cette exception de fouille de données, il faut savoir qu’à la table des concertations, personne n'a aucune idée de ce que, potentiellement, ça peut générer comme conséquences, notamment les IA génératives qui, finalement, nous font peur seulement depuis juillet 2022, depuis que Midjourney est arrivé. Avant on s'en fichait un peu. Il y avait Craiyon qui faisait des choses qui n’étaient absolument pas convaincantes. Ce n'était pas qualitatif, donc ce n'était pas important. Finalement, on prend conscience des conséquences des IA seulement depuis un an, alors qu'on a légiféré il y a pratiquement quatre ans. Ça paraît dingue, parce que ça veut dire qu'on a légiféré au moment où on ne savait pas ce que ça pouvait avoir comme conséquence. Ça, c'est un premier point. Aujourd'hui, on est vraiment dans des groupes de pression pour essayer de dire à l'Union Européenne : “Revoyez votre copie, cette directive n'a pas de sens en l'état actuel des choses”. Ce qui s'est passé, c'est que le 31 mars dernier, par la voix du commissaire Thierry Breton, la Commission européenne a expliqué que… bien non, tout va bien, c'est parfait, la directive assure un parfait équilibrage entre la protection des droits des titulaires, d'un côté, et la possibilité de développer tous ces projets par le biais d'intelligences artificielles de l'autre. Et puis, en plus, il y a cet opt-out qui fait que les auteurs, s'ils ne sont pas contents qu'on utilise leur contenu, ils n'ont qu'à retirer leur consentement, tout va bien. Ça veut dire qu’il y a à peine un mois, on reçoit quand même de la Commission européenne un message très clair : elle ne bougera pas. Dans le projet de règlement européen qui va arriver, il n'est pas question de parler des droits de la propriété intellectuelle. La raison qui nous a été donnée par, notamment les représentants du ministère de l'économie actuellement, c'est : “Attention, il faut que l'Union Européenne et la France restent compétitives en matière d'intelligence artificielle, vis-à-vis de nos amis américains et vis-à-vis de nos amis chinois qui avancent évidemment très, très vite sur ces intelligences artificielles”. Alors, qu'est-ce qui se passe ? Actuellement, on se dit : “Voilà, peut-être la seule voie possible (et c'est ce qu'on entend en tout cas en off) c'est d'investir dans des intelligences artificielles made in France ou made in Europe, qui fonctionneraient sur la base du respect, en tout cas, ce serait un peu plus respectueux des droits de la propriété intellectuelle”. Bref, on va investir sur notre propre intelligence artificielle. Moi, ça m'interpelle quand même en tant que citoyenne du monde. Quand j'entends à Pékin, il n'y a pas très longtemps, c'était le 11 avril, que dans le projet de régulation, il y a justement cette idée d'utiliser les intelligences artificielles pour renforcer la protection des valeurs fondamentales du socialisme chinois, je me dis : “Très bien, dans ce cas, ça veut dire que si on fait nos propres intelligences artificielles, made in France, il va falloir qu'elles aient des valeurs fondamentales, par lesquelles elles vont être guidées, par lesquelles on va les dresser”. Et moi, actuellement, en tant que française, je me demande quelles sont les valeurs fondamentales de la France. Peut-être est-ce [rire], sont-ce celles… en tout cas, surtout en ce moment dans le contexte politique actuel extrêmement conflictuel qu'on traverse, je m'interroge et je m'inquiète en réalité.
[Julien Joly] Verra-t-on encore Emmanuel Macron sortir des poubelles sur Midjourney ?
[Stéphanie Le Cam] En tout cas, c'est peut-être les valeurs fondamentales de la France que de voir notre président effectivement s'atteler à des tâches qui… Bon, on ne va pas rentrer dans ça. En tout cas, c’est une source d’inquiétude.

[Julien Joly] Stéphanie Le Cam, je rappelle que vous êtes directrice générale de la Ligue des auteurs professionnels, donc syndicat des auteurs et autrices du livre. Yann Basire, vous souhaitez ajouter quelque chose ?
[Yann Basire] Juste pour vous expliquez, vous montrer peu comment les choses peuvent se passer. Il y a 23 ans de cela, on a adopté une directive qui s'appelle la directive e-commerce. Quel était le concept ? C'était de déresponsabiliser les acteurs du numérique, ce qu'on appelle les hébergeurs. Vous les connaissez tous. Aujourd'hui, c'est Amazon, c'est Google, etc. 23 ans après, qu'est-ce qui se passe ? 22 ans après, puisque le DSA a été adopté en 2022, on adopte une nouvelle directive, le Digital Service Act, ou règlement, je ne sais plus si c’est une directive ou un règlement, pour chercher à responsabiliser les GAFAM. Donc, ça serait quand même bien qu'on n'attende pas une vingtaine d'années pour réaliser que la problématique “intelligence artificielle” nécessite d'être traitée maintenant et qu'il y a un problème par rapport aux auteurs. Le temps du législateur, malheureusement, ne correspond pas au temps des acteurs économiques.

[Julien Joly] Merci Yann Basire. Je passe la parole à Thomas Fouchault. On voit qu'effectivement, d'un point de vue juridique, il y a énormément de complications sur ce problème et que des choses sont en train d'être faites. Est-ce qu'il y a des procès actuellement dans le monde, des affaires judiciaires autour de l'IA ? Est-ce que des organisations internationales sont saisies du sujet, est-ce que des gouvernements se sont saisis du sujet ?
[Thomas Fouchault] Alors je vais parler sous l'œil aguerri de Stéphanie sur ce sujet. Je sais qu'en Italie, il y a eu une suspension. Je ne sais pas si c'est un moratoire ou un bannissement total, pour utiliser Chat GPT.
[Julien Joly] Oui, parce qu'en Europe on a un truc qui s'appelle le RGPD et qui, apparemment, n'est pas passé sous le radar de nos amis italiens.
[Thomas Fouchault] Oui, ils ont été très vigilants, nos amis outre-alpins. À part ça, il y a plusieurs autres éléments que j'ai remarqués. J'ai vu passer un papier dans Le Monde, il n’y a pas longtemps, qui évoquait la situation dans le jeu vidéo. Des studios de jeux vidéo avaient pris, je ne sais pas si c’est une charte de bonnes pratiques, mais en tout cas, qui refusaient d'utiliser des IA pour créer des produits finis dans le cadre de jeux vidéo. À côté de ça, il y a un élément qui est un peu plus important. C’est aux États-Unis, c'est la guilde des scénaristes américains, donc la “Writers Guild of Scenarists” j'imagine, qui a lancé un nouveau cycle de négociations avec les producteurs dans lesquelles la question de l'utilisation ou non des intelligences artificielles pour créer les scénarios va être discutée ou a été discutée. Je ne sais pas trop quel est l'état actuel des échanges. En tout cas, oui, c'est un sujet qui interpelle en Europe et au-delà de l'Europe, preuve qu'il y a un problème à résoudre.

[Julien Joly] La question des images à bas coût n'est pas nouvelle. Effectivement, on est sur un processus d'industrialisation beaucoup plus avancé, mais il y avait déjà des banques d'images énormes, permettant d'avoir des photos pas forcément très inspirées pour très peu cher et dans lesquelles beaucoup se servaient déjà allègrement. Ces banques d'images commencent à s'inquiéter également que leurs stocks soient pillés par Midjourney et consorts, qui enlèvent le watermark et qui les intègrent à leur soupe générative.
[Thomas Fouchault] Oui, et je pense que ces banques d'images vont faire partie des premières victimes directes de Midjourney et autre. Ceux qui utilisaient ces banques d’images, c'était aussi des entreprises qui veulent illustrer un livre blanc ou leur site Internet, ou autre chose. Il faut s'imaginer le temps que ça peut représenter de chercher la bonne image, la bonne personne qui fait le bon pouce levé à côté de sa tasse à café. Plutôt que passer une demi-heure à chercher les bonnes banques d'images, à payer un euro cinquante pour avoir une image, demain, ils pourront juste faire leur petit prompt sur Midjourney, ils auront l'image directement accessible gratuitement. Et voilà, enfin, ils ne vont pas s'embêter. Donc, oui, les banques d'images, je leur souhaite bonne chance. L'avenir n'est pas très glorieux.
[Julien Joly] Thomas Fouchault, vous êtes éditeur, je vous pose la question qui est un peu naïve, mais qu'est ce qu'on fait ? On interdit l’IA ?
[Thomas Fouchault] On ne peut pas l'interdire, elle est déjà là, on ne peut pas l'extirper, la bannir. Ce qu'il faut faire plutôt, dans ma vision des choses, c'est prendre position. Comme je l'ai dit tout à l'heure, on est face à une question de déontologie. C'est surtout sur les accords professionnels, pour déterminer ce qui est acceptable et ce qui ne l'est pas, qu'il faut pouvoir agir. Je pense que les pouvoirs publics ont aussi un levier d'action par la question du financement. Je ne sais pas si vous êtes au courant, mais par exemple, pour le financement des festivals par la Sofia ou le CNL, il y a une condition sur l'attribution des aides, qui est que les intervenants soient rémunérés. Si les intervenants ne sont pas rémunérés, ils n'ont pas forcément toutes les aides qu’ils pourraient avoir, il y a une petite carotte. On pourrait très bien imaginer que demain, pour l'édition de livres, les éditeurs, dont l'économie repose beaucoup sur les aides du CNL pour produire un livre, pourraient avoir leurs aides conditionnées à la non-utilisation de l'intelligence artificielle. C'est un élément qui ne semble pas très compliqué à mettre en place, mais qui attaque directement là où ça fait mal : le portefeuille. Si on peut converger dans cette direction, on aura déjà fait un grand pas.

[Julien Joly] Anouck Faure, vous êtes illustratrice, artiste multitâche. Quelle est votre position sur ce sujet ?
[Anouck Faure] Pour revenir rapidement : ce n’est pas gratuit Midjourney, il faut payer un abonnement pour pouvoir utiliser les images, mais ça rémunère uniquement les créateurs de Midjourney et pas du tout les artistes qui servent à inspirer les images de Midjourney.
[Julien Joly] C’est important de le souligner.
[Anouck Faure] Ça pourrait d'ailleurs être une piste, d'imaginer un truc où on arrive sur des bases de données qui sont contrôlées, on sait d'où viennent les images, et il y a une technique à la Spotify où, quand les images sont utilisées, il y a un reversement d’une partie de ces abonnements aux auteurs. Mais pour moi, ça ne me convainc pas trop, parce que ça ne résout pas créativement et artistiquement les problèmes que ça pose, ni idéologiquement. Il y a aussi la question de l'usage commercial et l'usage non commercial à évoquer. Beaucoup de gens utilisent des images générées par Midjourney pour, par exemple, illustrer leur blog, ou... Je pense, par exemple, aux gens qui font des jeux de rôle, les maîtres du jeu qui vont générer une image avec Midjourney pour, par exemple, représenter le paysage ou le personnage, PNJ, qui va apparaître dans le jeu de rôle. Ça, c'est des usages de l'IA que je trouve non menaçants. Je sais que tous les auteurs, tous les artistes ne sont pas forcément d'accord avec moi sur le sujet, parce qu’il reste malgré tout le fond d'une violation du droit d'auteur derrière, mais c'est des usages que je trouve non menaçants. Peut-être qu’il y a aussi un point à réfléchir aussi sur cette question de qui utilise les IA et dans quel contexte ça peut être utilisé. En tant qu'artiste, ce qui me questionne le plus, c'est vraiment cette idée de de normalisation de l'art. Une métaphore que je prends souvent, c'est que maintenant, on a tous des meubles Ikea qui sont tous pareils, plus personne n’a des meubles faits à la main. Est-ce qu'on ne va pas arriver à ça aussi, dans l’art ? Il y aura quelques très, très riches qui auront des œuvres d'art originales, faites à la main, uniques, et les autres gens auront tous des couvertures Ikea. Je trouve que ce serait triste, l'art pour moi est vraiment le propre de l'homme, c'est vraiment cette particularité, exprimer son humanité, la diversité des regards. Je reviens souvent sur cette notion de regard. Le travail de l'illustrateur, c'est vraiment de proposer un regard sur le monde, ouvrir une perspective différente à travers l'image. L'auteur, c'est la même chose en fait. C'est vraiment entrer dans cette spécificité humaine qui nous échappe en tant qu'individu, pour s'ouvrir à ce qu'est l'autre. Est-ce que ce n'est pas quelque chose qu'on perd totalement à travers l’IA, parce qu'on arrive sur de la bouillie finalement ? Toutes les particularités, une fois qu'on les mixe ensemble, finalement ça ne fait plus que du banal.
[Julien Joly] Est-ce que c'est ça finalement, la spécificité de l'artiste que l’IA ne pourra jamais lui voler ?
[Anouck Faure] On peut l’espérer. C'est trop difficile de se projeter. Mais de toute façon, je pense que… sur le plan financier, c'est compliqué. Peut-être que ça deviendra de plus en plus difficile d'être un artiste professionnel, de vivre de son art, mais les artistes en eux-mêmes ne disparaîtront jamais, parce qu'il y aura toujours cette pulsion créative qui habitera les humains. Des tonnes de gens font de l'art. Dans cette salle, il y a plein de gens qui font de l'art, qui écrivent des livres, qui font des dessins et ils n’ont pas vocation à en vivre, et peut-être même qu’ils n'ont pas vocation à être bons dans ce qu'ils font. En fait, on fait tous des choses artistiques sans avoir pour vocation de devenir un maître fabuleux dans ce qu'on fait. Je parle de la broderie, juste pour son plaisir, et ça, ça ne disparaîtra jamais.

[Julien Joly] Je vous remercie. Est-ce que quelqu'un veut ajouter quelque chose avant que nous passions aux questions du public ?
[Thomas Fouchault] Oui, peut-être un point qui est qu’aujourd'hui on parle, mais on ne sait pas trop de quoi l'avenir sera fait. On a déjà eu beaucoup d'effets d'annonce, rappelez-vous les Google Glass ou l'Oculus Rift, tout ce genre de choses où, sur le moment, on s'est dit que ça va révolutionner l'ensemble. On attend encore un peu la révolution ! Aujourd'hui, on ne sait pas si l'IA va vraiment avoir l'effet explosif qu'on attend. Mais pour autant, il est pertinent de faire attention et de se prémunir potentiellement des dangers que ça peut être.

[Julien Joly] Très bien, je vous remercie. Alors, je rappelle que nous avions autour de la table aujourd'hui Stéphanie Le Cam, de la Ligue des auteurs professionnels ; Anouck Faure, qui est plasticienne, illustratrice, autrice ; Yann Bazire, directeur du centre d'études internationales de propriété intellectuelle ; et Thomas Fouchault, éditeur, auteur, et élu à la Ligue des auteurs professionnels. Est-ce que, dans le public, quelqu'un a une question ? Je vois une main qui se lève déjà. Est-ce qu'on peut faire circuler le micro ?
[Public] Bonjour, je pense que c'était très important d'avoir l'opinion des auteurs. Mais est-ce qu’on peut pas faire quelque chose aussi du côté de nous tous, les lecteurs, les consommateurs, les amoureux de l'imaginaire (je n'aime pas le mot “consommateur”). On est aussi acteurs dans cette lutte idéologique, carrément, cette course à l'IA. Est-ce que vous ne pensez pas qu’il y a un moyen de sensibiliser aussi le public, les gens qui aiment ce que vous faites tous? Je pense qu'il y a peut-être une partie de la réponse par là, pour nous tous. Qu’est-ce que vous nous conseillez de faire ?
[Stéphanie Le Cam] Merci beaucoup pour cette question très pertinente. Je pense que votre rôle est effectivement essentiel là-dedans. Vous avez un droit à l'information. La première chose que nous nous on propose, c'est qu’il y ait… On avait déjà évoqué, il y a plusieurs mois, avec Yann, dans le cadre d'un colloque organisé à l'Assemblée nationale, pratiquement au lendemain de ces premières IA génératives : on parlait de labellisation. C'est peut-être bête, mais finalement, on était plutôt sur de la labellisation “Made in” ou plutôt “Fait par l'homme”, mais c'était l'idée : “cette illustration est faite par un humain”. Peut-être qu’on pourrait faire l'inverse, exiger que tout ce qui est généré par une IA soit estampillé “Généré par IA”. Ça permettrait, par exemple, de forcer la presse à ne pas recourir à des illustrations générées par des IA, à moins que le sujet qui est traité ait un rapport direct avec l'IA. Ça voudrait dire que, pour le lecteur, il y aurait une possibilité d'être mieux informé et de choisir en fonction de ce qu'il a envie d'acheter, de découvrir. C'est une première piste.
[Yann Basire] En fait, le mécanisme existe déjà. La labellisation, effectivement, on pourrait l'envisager avec la création de ce qu'on appelle une marque de garantie, une marque de certification type “Agriculture biologique” etc. Mais dans l'autre sens, ce que Stéphanie vient de rappeler, ça existe déjà avec les photos qui sont photoshopées. Il y a une législation qui a été mise en place il y a quelques années de cela et qui impose de mettre en avant le fait que la photo a été photoshopée. On pourrait parfaitement avoir une démarche similaire avec une œuvre qui a été générée par une IA ou à l'aide d’une IA. À voir comment les choses pourraient s'articuler, mais c'est parfaitement envisageable.
[Thomas Fouchault] Pour rebondir sur ce qui a été dit. Oui, le label, c'est une bonne idée pour informer sur le fait que ça a été créé par l'intelligence artificielle. Pour autant, je me méfie toujours un peu de l'impact potentiel de ces labels. L'information, c'est super, au moins l'information passe, c'est essentiel. Après, est-ce que le grand public va suivre ? C'est une autre question. Aujourd'hui dans la salle et, de manière générale, dans les festivals, on va dire que vous êtes des experts. Vous êtes déjà un public qui est très investi dans ces questions-là. Mais malheureusement, il y a 80% des lecteurs qui, eux, se posent beaucoup moins de questions, et je ne sais pas comment est-ce qu'on peut toucher et sensibiliser ces 80%, pour qu’eux aussi entrent dans ce mouvement.
[Anouck Faure] Je voudrais rebondir rapidement, c’est une question que je trouve très pertinente parce qu’actuellement, il y a déjà des éditeurs et des personnes qui utilisent l'IA et qui jouent sur ce flou et cette absence de régulation. Je ne citerai pas de nom, mais j'ai vu des couvertures qui sont très clairement générées par Midjourney mais, quand on regarde sur la quatrième de couverture, il y a écrit un nom d'illustrateur. C’est en fait la personne qui a tapé les prompts, mais personne ne va vérifier. Ils vont retourner et ils vont voir “Ah non, ce n’est pas Midjourney, c'est un illustrateur”. Il faut avoir un œil aguerri pour reconnaître ces images-là. Obliger à ce que ce soit mentionné, ce serait déjà un début de solution.
[Yann Basire] Je comprends parfaitement ta crainte sur la question de la labellisation. Cela étant dit, ça peut rentrer dans les mœurs, ça peut vraiment rentrer dans l'inconscient collectif. Aujourd'hui, il faut avoir conscience que 80% de la population est très sensible aux marques dites “vertes”. Donc tout ce qui est labellisé “éco”, “green” ou autre, c'est un outil de marketing qui est indéniable (alors avec les dérives que l'on connaît, avec le greenwashing évidemment). Mais je pense que si la question du danger de l'intelligence artificielle devient une cause nationale - et on est face à une nouvelle révolution industrielle, ça il faut quand même en avoir conscience, c'est un raz-de-marée. Là, on parle de versions bêta. Donc, effectivement, il y a quelques semaines de cela, il y avait encore dix doigts sur une main et puis, petit à petit, ça progresse. Mais ça progresse à une vitesse qu'on ne maîtrise pas. Et donc je pense que ça doit être une cause, une cause nationale, et ce type de label, ce type d'information, j'ose espérer naïvement que ça arrivera à sensibiliser le public. Pas uniquement le public de festival, mais le grand public. En tout cas, il faut s'engager dans cette voie. Il faut qu'on s'engage dans une voie de “hard law” et de “soft law”. Là, c'est du “hard law”, évidemment, mais avec de la sensibilisation, et puis après, avec des chartes tout simplement, des chartes de bonne conduite, de bon usage comme tu l'as évoqué, notamment aux États-Unis.

[Julien Joly] Très bien, merci beaucoup. Autre question ?
[Public] Merci, bonjour. Déjà, moi je suis venu, je m'attendais en effet à avoir une conférence sur l'IA, et je ne sais pas si vous avez vraiment donné une définition de ce qu'était l'IA, parce que ce dont vous avez parlé pour moi ressemble peu à de l'IA, du moins peu à de l'IA dont la majorité des gens en ont connaissance. J'ai plus eu l'impression d'assister, en fait, à un plaidoyer contre l'IA, même s'il y a eu quelques contre-arguments. Mais… Je me disais qu'il fallait peut-être faire un petit peu attention aussi à ce que ce ne soit pas forcément être contre. J'ai l'impression que vous êtes beaucoup contre l'IA. Vous avez utilisé des mots comme “s'armer contre l'IA”, que ce soit en termes de propriété, de droits intellectuels, etc. Je ne sais pas. J'ai un peu l'impression de voir des peintres à qui on a présenté potentiellement un nouveau pinceau et qui ont très peur. Du coup, je trouve ça un petit peu bizarre, justement, de beaucoup parler de ce que l'IA peut avoir contre, contre les artistes qui créent, et pas de ce que ça peut apporter. Et de peut-être faire attention. Vous avez dit justement que c'est quelque chose de très récent. Vous parliez de 2022. En effet, c'est très récent. On ne sait pas exactement ce que ça va donner. Il faut peut-être être prudent et après, peut-être que ça servira dans le futur, par exemple. Je suis assez persuadé que les moines copistes ont eu très peur à l'arrivée de l'imprimerie, ce n'est pas pour autant que l'imprimerie a été une mauvaise chose. Derrière le terme d'IA, qui est beaucoup employé, j'aimerais dire qu’il faut faire attention de ne pas se cacher derrière l'IA. L'IA, elle, n'a pas décidé de faire quelque chose, faut pas oublier qu'il y a un humain derrière. Très souvent on dit : “C’est la faute des IA, c'est la faute des algorithmes”. Non non, c'est jamais la faute d'une IA ou d'un algorithme. C'est la faute de l'humain derrière qui a codé la chose, qui a généré ou éventuellement, fait le prompt. C'est le genre de choses, en fait, qui peut arriver. Comment est-ce que vous pouvez plutôt vous emparer de ces outils pour essayer de faire autre chose ? Parce que, de toute façon, l'outil est là. Soit il va continuer à vivre, soit il va mourir, comme plein de choses qu'on a vu avoir énormément de succès, et de “hype” autour, comme le Metavers, et pourtant ça ne casse pas trois pattes à un canard.
[Stéphanie Le Cam] C'est vrai que, peut-être, on a présenté les choses de façon un peu polarisée, ce qui n'était sans doute pas, en tout cas, ma volonté de départ. Mais c'est peut-être le côté prof, aussi, où on a tendance à exagérer pour plus de pédagogie. Effectivement, quand on me dit : “Est-ce que les IA c’est bien ou pas bien”, si on doit vraiment rester sur un truc un peu binaire comme ça, je me dis : “Ça me paraît plutôt être, dans l'état actuel, dangereux, en tout cas une source d'inquiétude plutôt que source de bienfaits”. Je voudrais simplement vous rappeler que, contrairement à un nouveau pinceau qu'on présente à un peintre, l'intelligence artificielle est capable de générer ses contenus parce qu’elle a procédé, en amont, à un pillage inédit, sans précédent, de tout le travail de milliers d'artistes, en tout cas de milliers de personnes qui se sont investies pour, justement, proposer des œuvres de l'esprit. Donc, c'est quand même le premier outil qui, en réalité, peut générer ces contenus par le biais d'un pillage sans précédent. Donc, ça, ça questionne quand même, c'est un instrument qui questionne. Du reste, c'est véritablement un pillage qui ne permet, à l'heure actuelle, de faire la richesse que d'une poignée de personnes qui, globalement, sont tous basés dans la Silicon Valley. Donc, ça questionne aussi, ce détournement de tout ce savoir, de tous ces apports créatifs pour, finalement, une poignée de personnes qui va s'enrichir. Je pense qu'on peut quand même questionner les IA sur ce sujet.
[Julien Joly] C’est vrai que, par commodité, nous avons parlé d'IA, d'intelligence artificielle, mais il faut bien séparer deux sujets, qui sont l'IA technique en tant que telle, l'algorithme (ça existe depuis longtemps, la musique algorithmique), et la base de données dont cette IA se nourrit et qui peut être composée d'oeuvres qui sont utilisées en dehors du cadre légal ou d'œuvres qui sont utilisées dans un cadre légal, ce qui est possible puisqu'il me semble que certaines sociétés, actuellement, développent des IA qui se nourrissent d'images pour lesquelles les droits sont respectés. En tout cas, on ne peut pas générer une image de Batman avec, j'ai essayé. Ne résumons pas ça à un débat des anciens contre les modernes. “Mon dieu, nous sommes peintres, la photographie arrive”. Peut-être que les invités ont pu sembler polarisés, parce que nous sommes surtout sur un débat, aujourd'hui, qui est au-delà de l'artistique, juridique, et nous sommes face à des IA qui, actuellement, opèrent en dehors du cadre juridique et dont les concepteurs tentent d'échapper au cadre juridique. Au-delà de l'outil, c'est ce qui nous inquiète aujourd'hui. L'imprimerie en soi n'est pas mauvaise, mais imprimer des livres en faisant fi du droit des auteurs, c'est quelque chose par contre qui est questionnable. En tout cas, ce n'est que mon avis personnel. Y a-t-il d'autres questions ?
[Public] Bonjour. Je suis arrivée un peu en retard, donc si jamais ça a été évoqué, je suis désolée. C'était sur la question juridique. Comme la question, c'est “Est-ce que l'État va accepter de réguler un marché” et que, visiblement, pour le moment du côté européen, c'est pas trop trop ça, et du côté de l'État, c'est pas trop trop ça, est-ce que c'est envisageable (et c'est peut-être un gros trope de série), mais est-ce que c'est envisageable de passer par en-dessous, c'est-à-dire, et ça s'adresse plutôt à la Ligue des auteurs professionnels, de déposer des plaintes et d'aller au procès sur les vols de droits intellectuels ? C'est-à-dire que si Virginie Despentes s'est fait siphonner toute son œuvre pour qu'on puisse générer du quasi Virginie Despentes, est-ce qu’elle ne peut pas aller porter plainte, est-ce que ça ne crée pas des jurisprudences derrière ? Est-ce que ce n'est pas là une manière de forcer l'État à se positionner, vu que je pense qu'il n'est pas hyper motivé pour le moment ?
[Stéphanie Le Cam] La voie contentieuse est intéressante. On y réfléchit, il faut la financer, c'est pas évident. Il faut aussi baser toute cette argumentation juridique, et ce n'est pas si simple que ça, en réalité. Il y a des procès qui sont en cours. On attend d'ailleurs sagement les premiers retours. Donc, ce sera peut-être à partir de là qu’on décidera ou pas d'emprunter cette voie contentieuse. Nous, en tout cas, à la Ligue des auteurs professionnels, on a préféré investir toute notre énergie vitale [rire], pour l'instant, au service de cette régulation, demander à nos partenaires sociaux de réfléchir sur la manière dont on pourrait commencer par s'engager à ne pas recourir aux IA pour certains secteurs d'activité extrêmement précarisés, qui finiront par emporter vraiment la disparition de certains artistes, c'est évident. Donc, on travaille là-dessus. Mais effectivement, la voie contentieuse est intéressante.

[Public] Oui, bonjour, merci. J'avais une question par rapport au roman et notamment à l'éditeur, qui est présent. Est-ce que quelqu'un aurait lu un roman qui aurait été entièrement produit par une IA ? Je me demande si ça a déjà été fait. Parce que ça me paraît hallucinant, étant donné la complexité d'un roman, qu’une IA puisse parvenir à produire, je ne sais pas, le pavé de 500 pages, vous voyez, complexe etc. Est-ce que quelqu'un a eu vent de ça ? Et je voudrais juste rebondir, une petite remarque, notamment, la personne qui est intervenue dans le public sur l'aspect peut être un peu plus positif, etc. Moi, je suis prof de scénario dans une école de bande dessinée, alors la question est en train d'émerger et inquiète tous les étudiants, notamment via l'image puisqu'ils produisent de la bande dessinée. Je peux vous dire simplement que la grande majorité de ces étudiants disent : “Nous, on a envie d'exprimer ce qu’il y a au fond de nous, on n'a pas envie de copier des choses, on n'a pas envie de faire à moitié notre travail finalement”. Donc, moi, je trouve que c'est très porteur d'espoir de voir que des jeunes, dont on a toujours l'impression que cette jeune génération, finalement très portable, très tout ça, serait plus encline à le faire. Moi, je peux vous dire que j'ai le contre-exemple tous les jours, en fait. Voilà la petite remarque positive. Maintenant, juste pour le roman, si vous pouviez me répondre
[Julien Joly] Thomas Fouchault, est-ce qu'un roman peut vraiment être écrit par une IA ?
[Thomas Fouchault] Merci pour la question et merci aussi pour la note positive sur ces jeunes qui ne sont pas que des TikTokeurs, ça fait plaisir. Pour répondre à la question, j'ai déjà vu des débuts de roman créés par l'intelligence artificielle. Alors, ça se tient, mais c'est pas ouf. C'est-à-dire que, comme on disait tout à l'heure, ça ne mouline que des choses qui existent déjà. Donc, de base, ça va créer une histoire avec une structure qui est assez plate, c'est un peu comme quand vous avez faim, vous voulez manger une pizza, la pizza à 5 euros dans le frigo, c'est tout ce qui reste. C'est un peu la pizza à 5 euros. Par contre, le problème, c'est que cette pizza à 5 euros, on peut très bien la passer à un chef qui va l'améliorer pour en faire une super pizza à 50 euros, dans le sens où ça peut faire une excellente base de travail pour une histoire qui n’est pas incroyable, qui n'est pas originale, qui n’ait pas de visée d'originalité et qui n’est pas très, très poussée. Par contre, ça peut faire gagner un temps incroyable sur… je ne sais pas… une histoire un peu banale de romance, une histoire un peu banale de fantasy, qui ne va pas chercher des grandes idées, mais parfait pour des textes efficaces, pour un bon moment de lecture.
[Julien Joly] Merci, je pense que tout le monde à fond de pizza maintenant, après cette analogie. Je veux juste ajouter quelque chose. La personne tout en haut disait tout à l’heure que derrière chaque IA, il y a un humain qui programme. Basiquement, c'est vrai qu’une IA, ce n’est pas un robot doué de conscience, c'est une machine qui est faite par des hommes ou des femmes qui ont des biais, et ces biais se retrouvent, à moins d'un gros travail de correction, dans l'IA. Et puisqu'on parle de livres créés par des IA, ou qui peuvent tenter d’être créés par des IA, ce sont des livres où on risque d'avoir aussi nos propres biais. Je me souviens que j'avais fait un test avec ChatGPT, j'avais demandé de me raconter l'histoire d'un petit garçon perdu dans une forêt et d'une petite fille perdue dans une forêt. Les deux histoires étaient quand même relativement différentes. Le petit garçon rencontrait un lutin, vivait des aventures et sortait de la forêt plus courageux. La petite fille rencontrait une fée et une licorne, vivait quelques aventures et sortait de la forêt bien consciente que maintenant, il fallait écouter sa maman quand elle lui disait de ne plus aller dans la forêt.
[Une participante] Et elle était jolie, je pense !
[Julien Joly] Elle était sûrement très jolie, oui, j'ai arrêté au bout d'un moment… Donc, n'oublions pas que le risque, avec les IA, c'est aussi de produire des contenus, j'allais dire “oeuvres”, dont sont exclus potentiellement des personnes précaires ou qui sont touchées par des biais racistes, parce que l'opacité de ces algorithmes et le fait que quelques personnes leur impriment leur notion du beau doivent nous alerter sur le fait que ce ne sont pas des œuvres neutres. Elles peuvent peut-être amplifier des problèmes déjà existants.
[Thomas Fouchault] Pour rebondir là-dessus, je ne sais pas si vous souvenez, mais il y a quelques années, il y a eu des petites expérimentations avec des robots conversationnels sur internet, des chatbots qu'on laissait vivre leur vie. Je me souviens d'une expérience qui a très, très mal tourné, c'est-à-dire qu’en un temps très, très court, je ne sais plus si c’était une question d'heures ou de jours, il était devenu la pire raclure du monde, raciste, xénophobe, tout ce que vous voulez, juste parce qu’on l’a nourrie avec des insultes et ce genre de choses.
[Julien Joly] Mais même sans le nourrir d'insultes, le simple fait d'aller chercher dans des bases de données déjà existantes ramène, si ce n'est pas corrigé, des biais qui existent déjà dans ces bases. Sur Midjourney, j'ai demandé, par exemple, l'Amérique dans un futur lointain. On voit des gratte-ciels, des voitures volantes, des gens et des implants cybernétiques. J'ai demandé la Grèce dans un futur lointain. J'ai eu droit à l'Acropole. Le Cameroun dans un futur lointain, c'était des gens qui vendaient des fruits au bord de la route. Je ne rigole pas, je n'exagère pas. Tout simplement, Midjourney n'est pas capable de corriger des biais préexistants dans les bases de données. Je vous propose qu'on prenne peut-être deux dernières questions avant de libérer nos invités.

[Public] Bonjour, ma question a déjà été posée, en fait. C’est plus une question de droit, et j'aurais voulu savoir : à l'heure actuelle, un auteur, un dessinateur, un photographe, s’il voit son œuvre plagiée, quels sont les recours qu’il peut avoir ? Est-ce que ces recours pourraient être utilisés dans le cadre d'œuvres générées par des IA ?
[Julien Joly] Yann Basire, peut-être que vous avez une réponse à cette question ?
[Yann Basire] Oui, vous savez que la question est plus ou moins posée sur la possibilité d'avoir des recours contentieux. La question qui va se poser en fait, c'est : “est-ce que l'œuvre générée par l'IA porte atteinte aux droits d'auteur” ? Dont situé en aval, c'est bien ça, c'est-à-dire le résultat final. Donc on va se baser simplement sur les règles traditionnelles, on va analyser les ressemblances entre les œuvres en question, donc l'œuvre antérieure et l'œuvre générée par l'IA.. Si, effectivement, les ressemblances sont trop grandes, on considérera que c’est de la contrefaçon. Il y a un point qui pourrait être intéressant, on l'a évoqué tout à l'heure, sur le style. C'est vrai que sur le fait de générer, par exemple, une œuvre style Pixar, style Ghibli ou style ce que vous voulez (on les reconnaît, on a vu tous les présidents américains qui ont été générés via le style Pixar), on a une jurisprudence, mais qui est vraiment à la marge, une ou deux décisions qui ont reconnu ce qu'on appelle le “parasitisme artistique”, c'est-à-dire le fait de singer, de reprendre un style. Est-ce que c'est susceptible non pas de porter une atteinte aux droits d'auteur, parce qu'on est sur le style et que le style n'est pas protégeable en soi par le droit d'auteur, mais ça pourrait être sanctionnable sur le terrain de ce qu'on appelle la “responsabilité civile”, et donc c'est le “parasitisme”. Vous avez une ou deux décisions comme ça qui se baladent. C'est vrai que dans les œuvres générées par les IA, on pourrait peut-être voir un peu plus de décisions allant dans ce sens.

[Julien Joly] Merci beaucoup. Est-ce qu'on a le temps pour une dernière question?
[Public] Bonjour à tous. Je vais apporter une petite précision dans le sens où vous avez tous dit que les IA n'étaient pas capables de générer aujourd'hui du contenu original. Si je reprends l'exemple d’OpenIA, aujourd'hui c'est le cas. Les IA peuvent générer quelque chose qui n'a jamais été vu par un humain, qui n'a jamais été imaginé par un humain. C'est pas encore arrivé dans le texte, c'est pas encore arrivé dans l'image, c'est arrivé sur un jeu de cache-cache qu’OpenIA a créé, où les bleus sont contre les rouges. Les bleus doivent trouver les rouges et les rouges ont imaginé une solution que l'humain n'avait pas prévu pour se planquer et échapper aux bleus. Donc, aujourd'hui, effectivement, ce n'est pas le cas. Dans un futur assez proche, ces notions vont revenir très fortement. Pour revenir ensuite sur une question de droit, je ne vois pas comment on peut empêcher, comment on peut prouver devant la justice qu'une œuvre a été plagiée sur un texte. Copier le style d'un auteur, ça me paraît très, très compliqué. Sur une image, c'est assez visuel, mais sur un auteur, ça me paraîtrait très, très compliqué. Donc, en dehors de ce contentieux justiciable, je ne sais pas si vous avez des solutions pour ça, pour éviter ce genre de choses.
[Julien Joly] Stéphanie Le Cam, le mot de la fin ?
[Stéphanie Le Cam] Le mot de la fin... Si j'avais la solution, ce serait formidable [rire] ! Déjà, peut-être, informer au maximum l'ensemble des titulaires de droits de faire “opt-out” en attendant que la législation évolue, si elle évolue un jour. Retirer le consentement, mettre en filigrane, sur tous les contenus que l'on produit, qu'on s'oppose à ce que ce contenu soit l'objet d'une fouille, ça peut déjà être une première voie. En tout cas, les éditeurs travaillent beaucoup sur cette question. Ils informent autour d’eux de ces possibilités. Après, pourquoi pas tenter un contentieux. Vous dites que ça peut être impossible de prouver que… Nous, par exemple, sur ChatGPT, on lui a demandé de nous sortir des paroles de chansons. Elle nous sort les paroles de chansons. Ca veut dire qu'on est face à une reproduction servile des paroles d'une chanson, et donc qu'on est en train de potentiellement démontrer que le contenu généré par ChatGPT est bien contrefaisant d'une œuvre de l'esprit qui est protégée au titre du droit de la propriété intellectuelle. Ça, plus le fait de démontrer qu'il y a bien eu un “opt-out” avant, ça pourrait déjà commencer par questionner du respect du droit actuel. En tout cas, c'est une piste.

[Julien Joly] Merci beaucoup. Je vous remercie toutes et tous d'être venus, merci à nos invités. Merci à l'Ouest Hurlant qui nous accueille. Merci à la Ligue des auteurs professionnels. Merci beaucoup. Veuillez nous excuser de ne pas avoir pu prendre toutes les questions, je vous invite à continuer d'en débattre dans les allées de ce beau festival. Cette rencontre a fait l'objet d'une captation, vous pourrez sans doute la revoir un peu plus tard. Merci encore, bon festival à l’Ouest Hurlant.

L'Ouest Hurlant

📚 L'ouest Hurlant, c'est le festival rennais des cultures de l'imaginaires. (Science-fiction, fantasy, fantastique) Et ici, vous êtes sur son podcast !

L'Ouest Hurlant

Émerveiller, éduquer : écrire pour la jeunesse - Avec Audrey Alwett, Jolan C. Bertrand, Betty Piccioli (Modération Fanny Ozeray)

Émerveiller, éduquer : écrire pour la jeunesse

Les systèmes de magie, tout a-t-il déjà été inventé ? Avec Adrien Tomas, Ielenna, Célia Flaux, (Modération Romaric Briand)

Les systèmes de magie, tout a-t-il déjà été inventé ?

Carte blanche Numerama : L’avenir radieux du post-apo - Avec Avec Lionel Davoust, Estelle Faye, Ketty Steward (Modération Marcus Dupont-Besnard)

Carte blanche Numerama : L’avenir radieux du post-apo

Battle « Steampunk VS space opera » - Avec Audrey Alwett, Floriane Soulas, Aliette de Bodard (Modération Betty Piccioli)

Battle « Steampunk VS space opera »

IA et création : quand la réalité rattrape la science-fiction - Avec Stéphanie le Cam, Anouck Faure, Thomas Fouchault, Yann Basire (Modération Julien Joly)

IA et création : quand la réalité rattrape la science-fiction