SOFAM

FOR ENGLISH: You can download the original English version as a pdf at the bottom of this article

Combien d'artistes, de photographes, de commentateurs, de décideurs politiques ou, tout simplement, d'électeurs... peuvent dire qu'ils comprennent l'impact que l'intelligence artificielle va avoir sur nos vies ? Parlez à un photographe aujourd'hui, et il y a de fortes chances qu'il vous avoue qu'il préfère ne pas y penser. Pourtant, nombreux sont ceux qui affirment que le génie est sorti de la bouteille et que le changement est déjà à nos portes. Pour l'instant, les mains que l'IA génère dans les images semblent encore un peu bizarres et inhumaines, mais les outils sont en train d'apprendre à la vitesse de l'éclair. On estime que d'ici la fin de l'année, nous ne serons plus en mesure de distinguer une photographie authentique d'une image générée par l'IA.

Les outils d'IA sont entrainés à partir d'images existantes récoltées sur le net, alors que la grande cohorte des auteurs dont les œuvres originales sont utilisées à cette fin ne se rend pas compte que leurs images sont utilisées de cette manière. Il s'agit d'une violation de la loi sur le droit d'auteur, un droit fondamental. Les grandes entreprises technologiques tirent profit des outils d'IA, tandis que ceux qui fournissent la ressource principale pour entrainer la technologie ne reçoivent aucune rémunération pour l'utilisation de leur travail protégé par le droit d'auteur. À l'heure actuelle, les entreprises d'IA ne sont pas soumises à des obligations de transparence, de sorte que les artistes n'ont aucun moyen de savoir lesquelles de leurs œuvres sont utilisées, de quelle manière et par qui.

Récemment, European Visual Artists (EVA), organisation européenne dont la SOFAM est membre, a publié une déclaration sur le sujet : "L'IA nuit aux artistes humains, par exemple en augmentant la demande d'œuvres d'art générées par l'IA à faible coût et en provoquant ainsi une concurrence déloyale. En outre, l'utilisation d'œuvres d'art authentiques sans l'autorisation des auteurs, qui ne reçoivent aucune rémunération, alors que les entreprises d'IA font d'énormes fortunes, soulève des questions sur la légalité, l'éthique et la responsabilité de l'IA appliquée aux arts visuels. (...)". La déclaration se poursuit : "L'IA générative doit être transparente sur les deep-fakes et leur véritable origine, afin d'éviter que le public ne soit induit en erreur, ce qui pourrait avoir des effets dévastateurs". Le document juridique d'EVA sur le sujet peut être téléchargé ici.

L'une des options étudiées consiste à organiser une rémunération collective par l'intermédiaire d'organismes de gestion collective, tels que la SOFAM et ses sociétés sœurs. Une autre piste envisagée est de s'assurer du consentement exprès, mais cela est techniquement difficile dans le cas des arts visuels. Quoi qu'il en soit, l'IA soulève toutes sortes de questions sur la manière dont nous gérons cette perturbation imminente. L'ADAGP, société sœur en France de la SOFAM et aussi membre d'EVA, a également publié sa position sur l'impact et les solutions possibles pour l'IA et les arts visuels.

Le thème de l'IA et de son impact potentiel résonne actuellement dans l'ensemble du secteur créatif. Il en va de même aux Rencontres d'Arles : la semaine d'ouverture de ce festival d'été consacré à la photographie est traditionnellement l'occasion pour les professionnels de se rencontrer et de réfléchir. Outre les expositions, les séances de dédicaces, les concours et autres événements de mise en réseau, diverses conférences et débats abordent des thèmes variés liés à la photographie. Le festival peut se targuer d'être un baromètre de la photographie à notre époque. L'ampleur de la foule qui s'est rassemblée le 5 juillet pour la table ronde organisée par l'ADAGP, « Intelligence artificielle et enjeux pour les auteurs », en témoigne (enregistrement vidéo à visionner via l'hyperlien).

Au cours de cet événement d'une heure, certaines des implications artistiques, juridiques et morales de l'IA ont été abordées. Le temps imparti n'a pas permis d'approfondir le sujet, mais la table ronde a servi d'amorce pour les néophytes ; elle a en tout cas permis de mettre en lumière sa grande complexité. La voix de Fred Ritchin, éminent doyen de l'école de l'International Center of Photography de New York (ICP) et auteur, a été particulièrement retentissante : il a plaidé avec passion pour la protection de l'intégrité de la photographie documentaire. Citant la guerre du Viêt Nam, qui n'aurait pas pris fin sans la photographie, il a averti que si nous ne pouvons plus faire confiance à la véracité de la photographie, celle-ci perdra sa capacité à aider les gens.

Après le débat, j'ai eu l'occasion d'approfondir certains points en posant quelques questions à l'artiste et photographe Boris Eldagsen, qui travaille avec l'aide de l'IA et qui se trouvait également dans le public. Au début de l'année, il a fait sensation dans le monde de la photographie, après avoir remporté (et refusé) le prestigieux Sony World Photography Award, avec une image qu'il avait générée à l'aide de l'intelligence artificielle. En l'absence de reconnaissance de ce fait par les organisateurs du concours, Eldagsen est monté sur la scène de la cérémonie de remise des prix, s'est emparé du micro et a fait une déclaration dans le but d'attirer l'attention du monde sur ce moment historique. Dans les jours qui ont suivi, l'histoire a fait le tour du monde.

***

Quelques réflexions au préalable, sur Pseudomnesia : The Electrician, de Boris Eldagsen

The Electrician, qui fait partie de la série Pseudomnesia, est empreinte de nostalgie. Elle est troublante à plus d'un titre : au niveau de ce qu'elle représente, nous voyons les visages de deux femmes qui ont l’air d’être prises dans une introversion, vide et mélancolique, en train de se préparer pour un mariage. La femme en blanc semble ambivalente, alors même qu'elle est préparée pour ce moment important. On dirait qu'elle sent qu'il y a quelque chose qui ne va pas dans cette union imminente, mais on dirait aussi qu'elle y entre comme une somnambule. Une autre paire de mains, qui n'est rattachée à aucun corps visible, s'occupe également de la robe. L'image est également unheimlich, dans la mesure où elle évoque les qualités, la texture et les éventuels défauts techniques de la photographie analogique. Quoi qu'il en soit, la photographie en noir et blanc d'une certaine époque a tendance à évoquer des vies qui se sont achevées ou une jeunesse qui s'est éteinte, et cette image ne fait pas exception à la règle. D'un point de vue symbolique, cette image pourrait être considérée comme une métaphore de la crise existentielle que traverse actuellement la photographie, embarquée dans une union incertaine avec l'IA, à propos de laquelle ses partisans peuvent bien être ambivalents, mais qui n'en est pas moins inévitable.

Le fait de savoir que l'image a été générée à l'aide de l'IA affecte encore davantage la lecture que nous en faisons. Il s'agit d'une étrange mystique. Après tout, les personnes représentées n'ont jamais existé : leur ressemblance est un amalgame généré par des machines, d'images humaines incomptables, le résultat d'innombrables modèles fusionnés en un seul, selon des règles que nous ne pouvons pas déterminer avec précision. Cela perturbe toute notion d'individualité : on ne regarde pas ces yeux avec la même curiosité humaine. Elle ébranle notre foi dans la façon dont nous regardons toute image qui a l'apparence d'une photographie ; et lorsque nous doutons de l'une d'entre elles, nous sommes obligés de douter de toutes. Il semble que le tapis de la vraisemblance en photographie ait finalement été tiré sous nos pieds.

Pouvons-nous ressentir de l'empathie pour une image que nous savons être celle d'une personne qui n'a jamais existé, qui n'a pas eu de parents, ni de progéniture, du moins pas de celle à laquelle nous sommes habitués ? Et quelle histoire cette image raconte-t-elle ? Qui, ou quoi, sont ses protagonistes ? S'agit-il des femmes ? Est-ce la photographie, avec ses qualités familières, si capable de déclencher des associations ? Dans l'image, des câbles tombants, comme des antennes désincarnées, suggèrent que quelque chose se passe au-dessus de la tête des femmes, en dehors du cadre, peut-être au-delà de la sphère de leur compréhension. Ou bien les fils semblent-ils être le résultat d'un accident chimique dans la chambre noire, le résultat d'une grave erreur survenue au stade du développement ? En tant qu'image marquant le début de l'ère de l'image générée par l'IA, Pseudomnesia : The Electrician de Boris Eldagsen offre de nombreuses possibilités de contemplation, tout en refusant de fournir des réponses définitives. Il s'agit là du type d'interaction mentale que l'on peut ressentir en contemplant des œuvres d'art qui nous arrêtent dans notre élan.

Un indice peut être trouvé dans le titre choisi par Eldagsen : L'électricien. Il peut faire référence à l'artiste lui-même, qui a dirigé le processus de génération des images (se considère-t-il comme un auteur ? Il est possible d'acheter en ligne une édition signée et limitée...), mais il pourrait également s'agir de ceux qui ont fabriqué les outils d'intelligence artificielle. Un élément dont nous pouvons être sûrs est l'électricité, sans laquelle l'image n'aurait pas pu être générée, ce qui implique simultanément la nécessité de disposer d'électriciens pour allumer, et pour exploiter le courant. Il ne fait aucun doute qu'il s'agit là de quelques-unes des implications auxquelles Eldagsen a pensé, lorsqu'il a envoyé de nombreux “prompts”, ou instructions, à divers générateurs d'images d'IA avant d'arriver à son image finale.

***

Une brève conversation avec Boris Eldagsen

Kate Mayne : J'ai lu un article sur le concours que vous avez remporté. Pourquoi l'avez-vous fait ?

Boris Eldagsen : Je n'ai pas posé ma candidature pour gagner quoi que ce soit. C'était juste un test. En août-septembre de l'année dernière, les générateurs d'images par IA ont fait leur apparition, ce qui a fait couler beaucoup d'encre. À l'automne, lorsque les concours de photos reprennent, je voulais voir s'ils avaient pris en compte le fait que des images générées par l’IA pouvaient être présentées. J'ai donc examiné leurs lignes directrices : avaient-elles été modifiées ? Les organisateurs avaient-ils fait leurs devoirs ? Et s'ils ne l'avaient pas fait, j'ai simplement posé ma candidature. Je voulais juste voir ce qui se passerait. Je n'avais aucune idée que mes images pouvaient voyager aussi loin.

J'ai participé à trois concours différents et, à chaque fois, c'est la même image qui a été présélectionnée. Les deux premiers étaient des concours en ligne, plus petits, et j'ai publié un texte, les remerciant avec insolence d'avoir choisi une image générée par l'IA, et j'ai mis un lien vers les organisations, vers tous les membres du jury, et il y a eu un silence. (Rires) Juste le silence. (...) Et avec SONY, c'était la même chose. Ils m'ont dit à la mi-février que l'image avait été sélectionnée comme gagnante dans la catégorie créative ouverte, et je leur ai tout de suite dit : "C'est une image générée par l'IA, et vous avez la possibilité de me disqualifier, ce qui est OK, ou, si vous voulez continuer, elle doit être accompagnée d'une discussion sur la relation entre la photographie et les images liées à l'IA". Il n'y a pas eu de réponse tangible.

(...) Plus tard, je leur ai envoyé une déclaration dans laquelle j'indiquais que l'image avait été générée par l'IA et pourquoi, et ils m'ont répondu par un courriel de remerciement. J'ai eu des amis dans la presse allemande qui leur ont demandé : "Est-ce que c'est généré par l'IA ou pas ?" et ils ont reçu un courriel générique, alors j'ai compris qu'ils voulaient garder l'affaire sous le tapis. Je leur ai demandé pourquoi ils n'avaient pas utilisé ma déclaration ; ils n'ont pas répondu. (...) J'ai compris qu'ils continueraient à garder le silence et à ne pas parler de l'éléphant dans la pièce, alors j'ai dû faire quelque chose de si perturbant qu'ils ne pourraient plus rester silencieux. (Eldagsen a refusé le prix lors de la cérémonie de remise des prix et a suggéré que l'argent du prix soit donné à l'organisation ukrainienne de photographie, Odesa Photo Days, mais il ne sait pas si sa suggestion a étée suivie a eu lieu). C'est ce qui a conduit à cette situation. Et la conversation qui s'est engagée à cause de cela est bien plus importante que ce que j'espérais.

KCM : OK, donc nous avons eu une table ronde, c'était rudimentaire, tous les intervenants étaient très bons, il y avait une dimension éthique.

BE : (...) Cela m'a fait mal que l'artiste utilise le terme de photographie d'IA, car une partie de mon intervention visait à sensibiliser les gens à la terminologie. Il est important de faire la différence : si cela ressemble à une photographie et que vous ne pourrez plus la distinguer d'une véritable photographie d'ici la fin de l'année, il est important de se pencher sur le processus. La photographie, ce sont encore des particules de lumière qui créent une image. On utilise un objectif, mais on peut aussi le faire dans une chambre noire sans objectif. Mais si vous travaillez avec l'IA, vous n'avez pas besoin de lumière. Vous avez besoin d'Internet, vous avez besoin d'électricité. Avec l'IA, vous pouvez générer des images qui ressemblent à des dessins, à des peintures, à des sons, à des images en mouvement, peut-être à des objets, et il n'y a pas de terminologie qui les englobe. Et dans le monde de la photo, on semble continuer à l'envisager uniquement sous l'angle de la photographie.

KCM : Que proposez-vous ? Il y a ce train qui vient vers nous.

BE : Je pense qu'il serait important de définir la terminologie. Certains suggèrent la synthographie, à partir de la synthèse. La synthographie a tellement de connotations pour moi, la synthpop, les synthétiseurs, les vêtements synthétiques que je devais porter quand j'étais enfant (...) Ce que je préfère, c'est promptography (la prompteographie), parce que lorsque vous générez quoi que ce soit, la base de votre travail est l'utilisation de prompts. Il peut s'agir de textes, d'images, de dessins, etc. Pour moi, il s'agit d'une compréhension très directe de ce qui se passe, comme une recherche sur Google.

KCM : Je pense que le terme promptography est bien choisi. Quels sont les dangers, vers quoi nous dirigeons-nous ?

BE : Je pense qu'il y a beaucoup de dangers et beaucoup d'avantages. Je pense que l'IA peut s'emparer de la photographie, à l'exception de la photographie documentaire. Et cela signifie qu'il y aura de moins en moins d'emplois pour les photographes commerciaux. Parce que, dès janvier, les agences, les magazines, ont commencé à générer des images, et à ne pas demander aux photographes de les produire. C'est la même chose pour l'illustration. Ces emplois vont disparaître. Et la concurrence sera de plus en plus forte dans ce domaine. L'ensemble du secteur sera bouleversé. Quant au photojournalisme, il est attaqué de trois côtés. Tout d'abord, les photojournalistes ne sont pas assez bien payés pour ne faire que du photojournalisme, ils doivent donc avoir un deuxième emploi, qui est principalement de la photographie commerciale, qui est en train de disparaître. La plupart des éditeurs ne réfléchissent pas au fait que leurs producteurs d'images vont être en difficulté.

Deuxièmement, il est tellement facile de régénérer de fausses images de nos jours qu'il n'est pas nécessaire d'avoir une bonne formation ou des compétences enseignées. Vous pouvez le faire avec des images, vous pouvez le faire avec de simples textes, et avec les médias sociaux, cela se propage facilement. Par conséquent, le nombre de fausses images sera bien plus important que le nombre d'images authentiques. Je pense qu'il est impossible d'étiqueter les fausses images, mais qu'il serait possible d'étiqueter les images authentiques, ce dont notre partie photojournalistique a besoin dans une société démocratique. Mais comment allons-nous faire ?  Qui va le faire, qui va payer pour cela ? Ce sont là de nombreux problèmes qui ne sont pas examinés comme il se doit.

Je suis membre du Deutscher Fotorat, qui est l'organisation faîtière de tous les photographes en Allemagne : nous essayons de parler à plusieurs personnes politiques, aux experts numériques des partis, ainsi qu'à tous les éditeurs. Notre objectif, après les vacances d'été, est de réunir les rédacteurs en chef et les journalistes en chef autour d'une table verte virtuelle pour discuter de la question de savoir si le flux de travail qu'ils ont utilisé par le passé fonctionne toujours pour l'avenir, s'ils ont besoin d'aide, comment cela peut être financé sans porter atteinte à la liberté de la presse... Ainsi, en tant qu'organisation de photographes, nous essayons maintenant de faire le tri, en tant que citoyens d'une démocratie, qui se soucient de la démocratie ; nous cherchons à voir ce que nous pouvons faire ici pour être préparés à la quantité de désinformation qui va se produire. Comme le dit Fred Ritchin, cela va se produire surtout avant les élections, il suffit que quelques images horribles soient diffusées sur les médias sociaux - on peut facilement orchestrer cela avec des bots - vingt-quatre heures avant une élection, personne ne peut vérifier si cela s'est produit ou non. Et cela peut suffire à faire perdre des voix à tel ou tel politicien. Il existe toutes sortes de scénarios possibles.

C'est pourquoi je suis devenu un activiste, je me suis adressé à la presse, aux rédacteurs en chef, et je suis inquiet. En tant qu'artiste, issu d'une école d'art, c'est l'inverse : j'adore travailler avec l'IA. C'est une liberté absolue ; peu importe que ce soit la nuit ou le jour, qu'il fasse chaud ou froid, le matériel dont je dispose, le lieu, les modèles de lumière, tout ce que je veux, je peux travailler uniquement à partir de mon imagination. Et c'est quelque chose de formidable. C'est comme un outil que j'ai toujours attendu sans le savoir. Et je suis très enthousiaste. C'est un continent où l'on ne voit que la côte, et je suis aussi enthousiaste que lorsque j'ai commencé à étudier l'art, en tant qu'étudiant. Mais tout est nouveau ; vous voulez faire ceci, vous voulez faire cela, j'ai trente ans d'expérience à mettre à profit dans le processus, et cela fait une différence.

En Allemagne, je parle des générateurs d'images d'IA depuis septembre, j'ai été le premier à faire des présentations lors de salons de la photo en octobre ; je pense avoir été le premier à organiser un atelier public sur les générateurs d'images d'IA en janvier et, grâce au travail du Deutscher Fotorat, je connais les problèmes auxquels mes collègues sont confrontés. J'ai également aidé les photojournalistes à rédiger leur prise de position, en leur montrant simplement ce qui est possible, car je suis l'un des rares membres du Fotorat à travailler avec ces outils au quotidien. Et la plupart des gens qui en parlent n'ont aucune idée, ou ils ne sont pas allés aussi loin, pour vraiment savoir ce que l'on peut faire et comment on peut le faire, et je pourrais être un très bon dirigeant de cette information. Si j'avais le côté obscur, mais ce n'est pas le cas. (rires..)

KCM : Vous aidez donc le côté de la lumière. Pouvons-nous en rester là ? Y a-t-il autre chose que vous souhaitiez dire ?

BE : Je pense que j'aimerais remercier la communauté des photographes, parce que vous avez vu, d'après toutes les personnes présentes, qu'il s'agit vraiment d'une question urgente. (...)

KCM : Beaucoup de gens ici en savent beaucoup moins que vous, donc peut-être que c'était juste une introduction pour beaucoup de gens (...) J'ai été heureux d'entendre la voix de l'humanité, à la table ronde, dans l'intervention de Fred Ritchin, qui nous a rappelé la capacité de la photographie documentaire à aider les gens, par exemple en communiquant ce qui se passe dans les guerres.

Alors, la communauté, c'est comme ça qu'on va s'en sortir ?

BE : Peut-être, mais mon audience (sur les médias sociaux) est maintenant composée de deux mondes qui sont fondamentalement opposés ; j'ai, essentiellement, des photographes traditionnels qui me suivent maintenant, et j'ai beaucoup d'artistes de l'IA qui me suivent aussi, parce que pour eux, c'était aussi encourageant de sortir et de dire : "Oui, je travaille avec l'IA, et c'est un art, un métier, à part entière. Je pense que beaucoup d'entre eux sont heureux de ne plus être attachés à la photographie, comme c'était le cas auparavant, mais à la photographie d'IA, et ce qu'ils font, c'est changer de discipline (...). C'était également encourageant de se dire : "D'accord, ce que nous faisons, c'est déplacer la discipline : OK, ce que nous faisons est nouveau, c'est différent, et on emmerde la photographie." Et les photographes disent : "Ce n'est que de la photographie, on emmerde l'IA", et je m'adresse aux deux parties.

KCM : Intéressant.

BE : Ce que j'essaie de montrer, c'est la complexité.  Plus je regarde, plus c'est complexe, et (...) tous les différents aspects sont interconnectés, et c'est ce rend ces tables rondes si problématiques, parce qu'une heure ne suffit pas. (...)

KCM : Avez-vous des idées sur les droits d'auteur et des solutions à ce sujet ? Y avez-vous réfléchi ?

BE : Oui. J'aime beaucoup ce que fait la communauté open source. Ils créent le spawning; je ne sais pas si tu connais "Have I been trained ?" Ils ont créé un article textuel d'IA que vous pouvez placer sur votre page web et qui n'est pas entraîné par les bots.

(Spawning, d'après leur site web : " construit des outils permettant aux artistes de s'approprier leurs données d'entraînement, leur permettant de participer ou non à l'entraînement de grands modèles d'IA, de définir des autorisations sur l'utilisation de leur style et de leur image, et de proposer leurs propres modèles au public ". (...) "Nous pensons qu'un avenir de données consenties bénéficiera à la fois au développement de l'IA et aux personnes sur lesquelles elle est entraînée. Have I Been Trained ? et notre API ont aidé les artistes à exclure plus de 1,4 milliard d'images des ensembles de données d'entraînement publics. Holly+ est le premier projet à expérimenter des interactions consensuelles autour d'un modèle d'IA d'artiste. Nous avons beaucoup d'autres projets en cours". Cependant, le même site web indique également : "Il n'y a aucune garantie que le droit d'auteur sera suffisant pour protéger les artistes de l'entraînement à l'IA, nous n'avons donc pas d'autre choix que d'opérer en supposant qu'il ne le sera pas.")

KCM : Ok, donc c'est possible de le faire, en général ?

BE : C'est possible, mais ce que l’on souhaiterait (...) c'est que tous les entreprises qui proposent des outils AI unissent leurs forces. Nous ne savons pas ce qu'Open AI utilise comme matériel pour s’entrainer. Open AI est sponsorisé par Microsoft et n’est pas poursuivi parce qu'ils disposent de pas mal de matériel de formation. Il s'agit d'une entreprise. Avec le modèle open-source, comme par exemples des initiatives comme Laion tout est open-source et transparent, et ils peuvent être poursuivis en justice parce qu'ils disent : regardez ici, tout est là... alors qui est le méchant, qui est le gentil ? (...) Avec les grandes entreprises comme Google ou Open AI, Microsoft, vous ne savez pas ce qui est utilisé. Cela peut être n'importe quoi, cela peut aussi être des données open-source. Plus vous vous penchez sur la question, plus elle devient complexe, et ma mission est d'expliquer le mieux possible cette complexité, mais vous ne pouvez le faire que si vous vous concentrez sur un seul aspect.

(La conversation s'est arrêtée là, car Boris Eldagsen, comme beaucoup d'autres personnalités de la photographie qui se promenaient à Arles cette semaine-là, était attendu à un “meet and greet”...)

KCM : Merci beaucoup. Maintenant, je vais vous donner cet enregistrement, et ce que je vais faire, c'est le transcrire, et je vais l'éditer, et ce sera beaucoup plus court, d'accord ?

BE : Tu peux utiliser l'IA pour le transcrire. Ça marche.

KCM: Quoi, pour le transcrire ?

BE : Oui ! Tu peux le charger comme une vidéo secrète sur YouTube et le faire comme ça...

KCM : Je vais le faire à la main. Je suis de la vieille école (rires).

Article et interview par Kate Christina Mayne, SOFAM

Un grand merci à Boris Eldagsen, de rendre ce sujet plus accessible, ainsi qu'à Marie-Anne Ferry-Fall de l’ADAGP, et à Susanna Brozzu et Laetitia Nguala Masamba de European Visual Artists pour leur contribution et leur soutien précieux.