SOFAM

NB: You can download the English version of this article as a pdf at the bottom of this article

Hoeveel kunstenaars, fotografen, commentatoren, beleidsmakers of, simpelweg, kiezers... kunnen zeggen dat ze de impact, die kunstmatige intelligentie op ons leven gaat hebben, begrijpen? Spreek er vandaag een fotograaf over aan, en de kans is groot dat hij/zij zal bekennen er liever niet over te willen nadenken. Maar velen zeggen dat de geest uit de fles ontsnapt is en dat de verandering al is aangebroken. Op dit moment zien de handen, die AI genereert, er nog wat vreemd en onmenselijk uit, maar de tools leren razendsnel. Er wordt gezegd dat we tegen het einde van het jaar niet langer in staat zullen zijn om een echte foto te onderscheiden van een door AI gegenereerde afbeelding.

De AI tools worden getraind door bestaande afbeeldingen die op het net zijn verzameld, terwijl de grote groep auteurs wiens originele werken voor dit doel worden gebruikt, zich niet beseft dat hun afbeeldingen op deze manier worden gebruikt. Dit is een schending van het auteursrecht, een fundamenteel recht. De grote techbedrijven profiteren van de AI-tools, terwijl degenen die de primaire bron leveren om de technologie te trainen geen enkele vergoeding krijgen voor dit gebruik van hun auteursrechtelijk beschermde werk. Op dit moment zijn AI-bedrijven niet gebonden aan transparantieverplichtingen, dus kunstenaars hebben geen enkele manier om te weten welke van hun werken worden gebruikt, op welke manier en door wie.

Onlangs publiceerde European Visual Artists ( EVA), de Europese organisatie waar SOFAM lid van is, een verklaring over dit onderwerp: "AI schaadt menselijke kunstenaars door bijvoorbeeld de vraag naar goedkope AI-gegenereerde kunst te vergroten en daardoor oneerlijke concurrentie te veroorzaken. Ook het gebruik van authentieke kunstwerken zonder toestemming van de auteurs, die geen vergoeding krijgen, terwijl AI-bedrijven enorme fortuinen verdienen, roept vragen op over de legaliteit, ethiek en aansprakelijkheid van AI toegepast op beeldende kunst. (...)". De verklaring vervolgt: "Generatieve AI moet transparant zijn over deep-fakes en hun ware oorsprong, om te voorkomen dat het publiek wordt misleid, wat desastreuze gevolgen zou kunnen hebben." EVA's juridische document over dit onderwerp kan hier worden gedownload.

Een van de opties die worden onderzocht is het regelen van collectieve vergoedingen via organisaties voor collectief beheer, zoals SOFAM en haar zusterverenigingen. Een andere mogelijkheid die wordt overwogen is om te zorgen voor uitdrukkelijke toestemming, maar dit is technisch moeilijk in het geval van beeldende kunst. In ieder geval werpt AI allerlei vragen op over hoe we met deze op handen zijnde ontwrichting moeten omgaan. ADAGP, de Franse zuster-maatschappij van SOFAM en medelid van EVA, heeft ook haar standpunt gepubliceerd over de impact op en mogelijke oplossingen voor AI en de beeldende kunst.

Het onderwerp AI en de mogelijke impact ervan weerklinkt momenteel in de hele artistieke sector. Zo ook tijdens de Rencontres d'Arles: de openingsweek van dit zomerfestival gewijd aan fotografie biedt traditioneel volop gelegenheid voor professionals om elkaar te ontmoeten en na te denken. Naast tentoonstellingen, signeersessies, wedstrijden en andere netwerkevenementen zijn er diverse lezingen en debatten over uiteenlopende fotografiegerelateerde onderwerpen. Het festival is met recht een barometer van de fotografie in onze tijd te noemen. Dat blijkt wel uit het grote publiek dat zich op 5 juli verzamelde voor ADAGP's rondetafelconferentie Artificiële Intelligentie: wat staat er op het spel voor auteurs?

NB: We zullen de link naar de video-opname van deze rondetafel delen zodra deze beschikbaar is.

Tijdens het een-uur durende evenement werden enkele van de artistieke, juridische en morele implicaties van AI aangehaald. De tijdslimieten lieten geen diepere duik toe, maar het diende wel als een inleiding voor wie het onderwerp nieuw is; in elk geval diende de rondetafel om de enorme complexiteit ervan aan te stippen. Een klinkende stem was die van Fred Ritchin, vooraanstaand decaan van de school van het International Center of Photography in New York (ICP) en auteur, die een hartstochtelijk pleidooi hield voor het beschermen van de integriteit van de documentaire fotografie. Hij verwees naar de oorlog in Vietnam, die zonder de fotografie niet zo vroeg zou zijn geëindigd, en waarschuwde dat als we niet langer kunnen vertrouwen op de waarachtigheid van fotografie, fotografie haar vermogen zal verliezen om mensen te helpen.

Na het debat had ik de gelegenheid om dieper in te gaan op enkele van de kwesties door een paar vragen te stellen aan Boris Eldagsen, een kunstenaar en fotograaf die werkt met behulp van AI en die ook in het publiek aanwezig was. Eerder dit jaar veroorzaakte hij schokgolven in de fotografiewereld nadat hij de prestigieuze Sony World Photography Award had gewonnen (en afgewezen) met een beeld dat hij had gegenereerd met behulp van kunstmatige intelligentie. Omdat de organisatoren van de wedstrijd dit feit niet erkenden, stapte Eldagsen tijdens de prijsuitreiking het podium op, greep de microfoon en legde een verklaring af in een poging het historische moment onder de aandacht van de wereld te brengen. De dagen daarna werd het verhaal wereldnieuws.

***

Enkele inleidende gedachten over Boris Eldagsen's Pseudomnesia: The Electrician

Het beeld in kwestie, The Electrician, onderdeel van de Pseudomnesia-serie, ademt nostalgie. Het is verontrustend, op verschillende niveaus: in termen van wat het afbeeldt, zien we de gezichten van twee vrouwen die gevat lijken in een melancholische introversie, terwijl ze zich voorbereiden op een bruiloft. De vrouw in het witte ziet er ambivalent uit, hoewel ze wordt klaargestoomd voor een gedenkwaardige gelegenheid. Het lijkt alsof ze voelt dat er iets niet helemaal klopt aan de aanstaande verbintenis, maar ze ziet eruit alsof ze er slaapwandelend naartoe leeft. Een extra paar handen, niet bevestigd aan een lichaam dat we kunnen zien, is ook bezig met de jurk.

Het beeld is ook unheimlich in hoe het de kwaliteiten, textuur en mogelijke technische defecten van analoge fotografie oproept. In ieder geval heeft zwart-wit fotografie uit een bepaald tijdperk de neiging om levens op te roepen die voorbij zijn, of jeugd die vervaagd is, en dit beeld is daarop geen uitzondering. In een symbolische lezing zou het beeld gezien kunnen worden als een metafoor voor de existentiële crisis waar de fotografie op dit moment voor staat, op weg naar een onzekere unie met AI, waarover de voorstanders misschien wel ambivalent zijn, maar die desalniettemin onvermijdelijk is.

Te weten dat het beeld is gegenereerd met behulp van AI heeft nog meer invloed op de lezing die we ervan kunnen hebben. Het heeft een vreemde mystiek. De afgebeelde personen hebben immers nooit bestaan: hun gelijkenis is een machinaal gegenereerd amalgaam van ontelbare menselijke beelden, het resultaat van legio modellen die tot één geheel zijn samengevoegd volgens regels die we niet precies kunnen vaststellen. Dit verstoort elke notie die we zouden kunnen hebben van individualiteit: je kijkt niet in zulke ogen met dezelfde soort menselijke nieuwsgierigheid. Het ondermijnt ons geloof in de manier waarop we naar elk beeld, dat op een foto lijkt, kijken; en als we aan één beeld twijfelen, moeten we aan allemaal twijfelen. Het lijkt erop dat het tapijt van de waarheidsgetrouwheid in de fotografie uiteindelijk onder onze voeten is weggetrokken.

Kunnen we enige empathie voelen voor een beeld waarvan we weten dat het van een persoon is die nooit op deze aarde heeft bestaan; die geen ouders had, noch nakomelingen, tenminste niet van het soort dat wij gewend zijn? En welk verhaal vertelt dit beeld? Wie of wat zijn de hoofdpersonen? Zijn het de vrouwen? Is het de fotografie, met haar vertrouwde kwaliteiten, die zo in staat is associaties op te roepen? In het beeld suggereren hangende kabels, als losgekomen antennes, dat er iets gebeurt boven de hoofden van de vrouwen, buiten het kader, mogelijk buiten de sfeer van hun begrip of bewustzijn. Of lijken de draden alsof ze het resultaat zijn van een chemisch ongelukje in de donkere kamer, het resultaat van een ernstige fout tijdens het ontwikkelen? Als beeld dat het begin inluidt van het tijdperk van het AI-gegenereerde beeld, biedt Pseudomnesia: The Electrician van Boris Eldagsen veel stof tot nadenken. Tegelijkertijd weigert het om definitieve antwoorden te geven. Laat dit nu net het soort mentale interactie zijn dat we tegenkomen als we werkelijk aangrijpende kunstwerken bekijken.

Een hint kan gevonden worden in Eldagsen's gekozen titel: The Electrician. Het kan verwijzen naar de kunstenaar zelf, die het beeldgenererende proces leidde (beschouwt hij zichzelf als auteur? Je kunt online een gesigneerde en gelimiteerde editie kopen... ) maar het kan ook verwijzen naar degene die de AI-tools heeft gemaakt. Eén element waar we zeker van kunnen zijn is elektriciteit, zonder welke de afbeelding niet gegenereerd zou kunnen zijn, wat tegelijkertijd impliceert dat er elektriciens nodig zijn om de stroom aan te schakelen, en te beheersen. Ongetwijfeld zijn dit enkele van de implicaties die Eldagsen in gedachten had, toen hij talloze aanwijzingen in verschillende AI-beeldgeneratoren invoerde voordat hij tot zijn uiteindelijke beeld kwam.

***

Een kort gesprek met Boris Eldagsen

Kate Mayne: Ik heb gelezen over de wedstrijd die je hebt gewonnen. Waarom heb je dat gedaan?

Boris Eldagsen: Ik heb niet deelgenomen om iets te winnen. Het was gewoon een test. In augustus-september vorig jaar was er voor het eerst echt aandacht voor AI-beeldgeneratoren, dus er was veel pers, en in de herfst, wanneer je een nieuw seizoen hebt met oproepen voor fotowedstrijden, wilde ik gewoon zien of ze er rekening mee hadden gehouden dat AI-gegenereerde beelden konden worden ingeleverd. Dus keek ik naar hun richtlijnen; waren die veranderd? Hadden ze hun huiswerk gedaan? En als dat niet zo was, heb ik me gewoon aangemeld. Ik wilde gewoon zien wat er zou gebeuren. Ik had geen idee dat mijn foto's zo ver konden reizen. Ik schreef me in voor drie verschillende wedstrijden en elke keer kwam hetzelfde beeld op de shortlist. En de eerste twee waren online, kleinere wedstrijden, en toen publiceerde ik een bericht waarin ik hen brutaal bedankte voor het kiezen van een AI-gegenereerd beeld, en ik linkte naar de organisaties, naar alle juryleden, en er viel een stilte. (Lacht) Gewoon stilte. (...) En met SONY was het hetzelfde. Ze vertelden me half februari dat de foto was geselecteerd als winnaar in de categorie “creatief open”, dus ik zei meteen: "het is AI gegenereerd, en je hebt de optie om me te diskwalificeren, wat OK is, of, als je door wilt gaan, moet het vergezeld gaan van een discussie over de relatie tussen fotografie en AI-gerelateerde beelden." Er kwam geen concrete reactie. (...) Ik stuurde ze later een verklaring die onthulde dat het AI-gegenereerd was en waarom, en ze reageerden met een bedankmail, en ik had kunnen denken dat ze mijn verklaring gebruikten om de pers te informeren, maar dat deden ze niet. Ik had vrienden in de Duitse pers die vroegen "Is het AI-gegenereerd of niet?" en zij kregen een algemene e-mail, dus ik realiseerde me dat ze het onder het tapijt wilden houden. Ik vroeg ze waarom ze mijn verklaring niet gebruikten; geen reactie. (...) Ik realiseerde me dat ze het stil zouden blijven houden en niet zouden praten over de olifant in de kamer, dus ik moest iets doen dat zo storend was dat ze niet meer konden zwijgen. (Eldagsen weigerde de prijs tijdens de prijsuitreiking en stelde voor om het prijzengeld te doneren aan een Oekraïense fotografieorganisatie, Odesa Photo Days maar hij weet niet of dit vervolg heeft gekregen). En dit is wat ertoe geleid heeft. En het gesprek dat hierdoor op gang is gekomen, is veel groter dan waar ik ooit op had gehoopt.

KCM: OK, dus we hadden hier een ronde tafel gesprek, het was rudimentair, allemaal heel goede sprekers, er was een ethische dimensie.

BE: (...) Het deed me pijn dat de kunstenaar de term AI-fotografie gebruikte, want een deel van mijn stunt was dat mensen zich bewust zouden worden van terminologie. Het is belangrijk om onderscheid te maken: als het op een foto lijkt en je het tegen het einde van dit jaar niet meer van een echte foto kunt onderscheiden, is het belangrijk om naar het proces te kijken. Fotografie is nog steeds lichtdeeltjes die een beeld creëren. Met behulp van een lens, maar je kunt het ook in een donkere kamer doen zonder lens. Maar als je met AI werkt, heb je geen licht nodig. Je hebt het internet nodig, je hebt elektriciteit nodig. Met AI kun je beelden genereren die er ook uitzien als een tekening, een schilderij, het kan geluid zijn, het kunnen bewegende beelden zijn, misschien objecten, en er is geen terminologie die dit omvat. En in de fotowereld lijkt men er alleen vanuit fotografisch perspectief naar te blijven kijken.

KCM: Wat zou jij voorstellen? Er komt een trein op ons af.

BE: Ik denk dat het belangrijk is om de terminologie te definiëren. Sommigen suggereren synthografie, van synthese. Synthografie heeft zoveel connotaties voor mij, synthpop, synthesizers, de synthetische kleren die ik als kind moest dragen (...) Mijn favoriet is promptography (promptografie), want als je iets genereert, is de basis van je werk het gebruik van prompts. Dat kan tekst zijn, afbeeldingen, tekeningen, wat dan ook. En voor mij is het een heel direct begrip van wat er gebeurt, zoals Googelen.

KCM: Ik denk dat promptography een goede term is. Wat zijn de gevaren, waar gaan we naartoe?

BE: Ik denk dat er veel gevaren en veel voordelen zijn. Ik denk dat AI de fotografie kan overnemen, behalve documentaire fotografie. En dat betekent dat er steeds minder jobs zullen zijn voor commerciële fotografen. Want al in januari begonnen agentschappen en tijdschriften beelden te genereren en vroegen ze fotografen niet om ze te produceren. Hetzelfde geldt voor illustratie. Die banen zullen verdwijnen. En de concurrentie op dat gebied zal steeds groter worden.

De hele industrie zal worden ontwricht. En de fotojournalistiek ligt van drie kanten onder vuur. Ten eerste, omdat fotojournalisten niet goed genoeg betaald worden om alleen maar fotojournalistiek te doen, dus moeten ze een tweede baan hebben, die voornamelijk bestaat uit commerciële fotografie, waar dus een einde aan komt. En de meeste uitgevers denken hier niet over na, dat hun beeldproducenten in de problemen komen.

En het tweede is dat het tegenwoordig zo makkelijk is om nepafbeeldingen te maken, dat je helemaal geen goede aangeleerde vaardigheden nodig hebt. Je kunt het met afbeeldingen doen, je kunt het met eenvoudige tekstaanwijzingen doen en met sociale media is het gemakkelijk te verspreiden. Dus het aantal afbeeldingen dat nep is, zal veel groter zijn dan het aantal afbeeldingen dat authentiek is. En ik denk dat het onmogelijk is om de nepbeelden te labelen, maar het zou wel mogelijk zijn om de authentieke beelden te labelen, wat onze fotojournalistieke kant nodig heeft in een democratische samenleving. Maar hoe gaan we dit doen? Wie gaat dit doen; wie betaalt ervoor? Dit zijn veel problemen waar niet goed naar wordt gekeken.

Ik ben lid van de Deutscher Fotorat, de overkoepelende organisatie van alle fotografen in Duitsland: wat we proberen te doen is praten met verschillende politici, de digitale experts van de partijen en ook met alle uitgevers. Ons doel na het zomerreces is om de beeldredacteuren en de hoofdjournalisten aan een virtuele groene tafel te krijgen om te bespreken of de workflow die ze in het verleden gebruikten nog steeds werkt voor de toekomst; of ze hulp nodig hebben; hoe dit kan worden gefinancierd zonder de persvrijheid aan te tasten... Dus, als een organisatie van fotografen proberen we dit nu uit te zoeken, als burgers van een democratie, die zorgen voor een democratie; we kijken wat we hier kunnen doen om voorbereid te zijn op de hoeveelheid desinformatie die gaat gebeuren. Zoals Fred Ritchin zegt, het gaat vooral gebeuren voor verkiezingen, je hebt gewoon een paar vreselijke beelden nodig die uitlekken op sociale media - je kunt dat gemakkelijk orkestreren met bots - vierentwintig uur voor een verkiezing kan niemand verifiëren of het gebeurd is of niet. En dat is mogelijk genoeg om stemmen te verliezen voor een bepaalde politicus. Er zijn allerlei mogelijke scenario's. En dus ben ik in dat opzicht een activist geworden, die met de pers praat, met beeldredacteuren praat, en ik maak me zorgen.

Als kunstenaar, die van een kunstacademie komt, is het precies andersom: Ik vind het heerlijk om met AI te werken; de absolute vrijheid van beperking; het maakt niet uit of het dag of nacht is, warm of koud, welke uitrusting ik heb, de locatie, de lichtmodellen, wat dan ook, ik kan puur vanuit mijn verbeelding werken. En dat is geweldig. Het is als een hulpmiddel waar ik altijd op heb gewacht, maar het niet wist. En ik ben erg enthousiast. Het is een continent waar je net de kust ziet, en ik ben net zo opgewonden als toen ik begon met kunst studeren, als student. Maar alles is nieuw; je wilt dit doen, je wilt dat doen, maar nu heb ik dertig jaar ervaring om te gebruiken in het proces, en dat maakt een verschil.

In Duitsland praat ik al sinds september over AI-beeldgeneratoren, ik was degene die in oktober presentaties gaf op fotobeurzen; ik denk dat ik de eerste was die in januari een openbare workshop hield over AI-beeldgeneratoren en met het werk in de Deutscher Fotorat weet ik met welke problemen mijn collega's te maken hebben. Ik heb de fotojournalisten ook geholpen bij het maken van hun position paper, door ze gewoon te laten zien wat er mogelijk is, omdat ik een van de weinige leden van Fotorat ben die dagelijks met deze tools werkt. En de meeste mensen die erover praten hebben geen idee, of ze zijn niet zo ver gekomen, om echt te weten wat je kunt doen en hoe je het kunt doen en ik zou zo'n goede regisseur van deze informatie kunnen zijn. Als ik de donkere kant had, maar dat heb ik niet. (gelach..)

KCM. Dus je werkt aan de kant van het licht. Zullen we het daar afronden, is er nog iets dat je wilde zeggen?

BE. Ik denk dat ik de fotogemeenschap wil bedanken, want je zag aan alle mensen die er waren dat het echt een prangende vraag is. (...)

KCM: Veel mensen hier weten er veel minder van dan jij, dus misschien was het gewoon een inleiding voor veel mensen (...) Ik was blij om de stem van de mensheid te horen, in Fred Ritchin's interventie, die ons herinnerde aan het vermogen van documentaire fotografie om mensen te helpen, bijvoorbeeld bij het communiceren over wat er gaande is in oorlogen. Dus, de gemeenschap, is dat hoe we er erdoor zullen komen?

BE: Misschien, maar mijn (sociale media) volgers bestaan nu uit twee werelden die in principe tegengesteld zijn; ik heb, in principe, traditionele fotografen die me nu volgen, en ik heb ook veel AI-kunstenaars die me volgen, omdat het voor hen ook bemoedigend was om naar buiten te komen en te zeggen: "Ja, ik werk ermee en het is een kunst, een ambacht, op zichzelf. Ik denk dat veel van hen blij zijn dat ze niet meer verbonden zijn aan fotografie, zoals vroeger, maar AI-fotografie, dat wat ze doen een andere discipline is (...). Dat was ook bemoedigend, om te zeggen: "OK, dus wat wij doen is nieuw, het is anders, en fuck fotografie." En fotografen zeggen: "Dit is gewoon fotografie, fuck AI", en ik spreek met beide kanten.

KCM : Interessant.

BE : En wat ik probeer te laten zien is de complexiteit. Hoe langer ik ernaar kijk, hoe complexer het is, en (...) alle verschillende aspecten zijn met elkaar verbonden, en dat maakte die panelgesprekken zo problematisch, want een uur is niet genoeg. (...)

KM: Heb je ideeën over auteursrechten en oplossingen daarvoor? Heb je daar ook over nagedacht?

BE: Ja. Ik hou echt van wat de open source gemeenschap doet. Ze creëren spawning; ik weet niet of je "Have I been trained?" kent… Ze hebben een AI-tekstartikel gemaakt dat je op je webpagina kunt zetten en dan wordt je webpagina niet getraind door de bots.

(Spawning, van de website: "bouwt tools voor het eigendom van artiesten over hun trainingsgegevens, zodat ze kunnen kiezen voor of afzien van de training van grote AI-modellen, toestemmingen kunnen instellen over hoe hun stijl en gelijkenis wordt gebruikt en hun eigen modellen aan het publiek kunnen aanbieden." (...) "Wij geloven dat een toekomst van toestemmende data zowel de ontwikkeling van AI als de mensen waarop het getraind wordt ten goede zal komen. Have I Been Trained? en onze API hebben kunstenaars geholpen om meer dan 1,4 miljard afbeeldingen uit openbare trainingsdatasets te verwijderen. Holly+ is het eerste project dat experimenteert met consensuele interacties rond een AI-model van kunstenaars. We hebben nog veel meer in de maak." Op dezelfde website staat echter ook: "Er zijn geen garanties dat het auteursrecht voldoende zal zijn om kunstenaars te beschermen tegen AI-training, dus we hebben weinig andere keuze dan te opereren in de veronderstelling dat dit niet het geval zal zijn. ")

KM: OK, dus het is mogelijk om dat te doen, over het algemeen?

BE: Het is mogelijk, maar wat je zou willen (...) is dat alle bedrijven die AI-tools aanbieden hun krachten bundelen. We weten niet wat Open AI gebruikt als opleidingsmateriaal. Ze worden gesponsord door Microsoft, en ze worden niet aangeklaagd omdat ze vrij veel trainingsmateriaal hebben. Het is een bedrijf. Met het open-source model is alles open source en transparant, en de initiatieven, zoals Laion, die transparantie bieden over training, kunnen worden aangeklaagd, omdat ze zeggen: kijk hier, het staat er allemaal in... dus wie is de slechterik, wie is de goede? (...) Bij de grote bedrijven zoals Google of Open AI, Microsoft, weet je niet wat ze hebben gebruikt. Het kan van alles zijn, het kunnen ook de open-source gegevens zijn. Hoe meer je je erin verdiept, hoe complexer het wordt, en mijn missie is min of meer om die complexiteit uit te leggen, maar dat kan alleen als je je op één aspect concentreert.

(Het gesprek eindigde hier, want Boris Eldagsen werd, net als zoveel andere persoonlijkheden uit de fotografie die op de Rencontres in Arles rondliepen, verwacht bij een meet and greet...)

KCM : Hartelijk dank. Nu ga ik je deze opname geven, en wat ik ga doen, is hem transcriberen, en ik zal hem redigeren, en het zal een stuk korter zijn, oké?

BE : Je kunt AI gebruiken om het te transcriberen. Dat werkt.

KM : Wat, om het te transcriberen?

BE : Ja! Je kunt het laden als een geheime YouTube-video en het zo doen...

KCM: Ik ga het met de hand doen. Ik ben van de oude stempel (gelach).

Artikel en interview door Kate Christina Mayne, SOFAM

Veel dank aan Boris Eldagsen voor het toegankelijker maken van het onderwerp; aan Marie-Anne Ferry-Fall van ADAGP; en aanSusanna Brozzu en Laetitia Nguala Masamba van European Visual Artists voor hun waardevolle input en ondersteuning.