Nightshade, een nieuwe softwaretool ontwikkeld door het Glaze Project aan de Universiteit van Chicago, stelt kunstenaars in staat hun digitale kunstwerken te "vergiftigen" om het trainen van AI-modellen op hun werken zonder toestemming tegen te gaan.
Deze tool, die gratis beschikbaar is gesteld, maakt gebruik van PyTorch, een populaire open-source machine learning framework, om subtiele wijzigingen aan te brengen op pixelniveau in afbeeldingen. Hierdoor zien andere AI-programma's iets totaal anders dan wat er werkelijk op de afbeelding staat. Nightshade, bedoeld als een offensief hulpmiddel, volgt op Glaze, een eerder programma van hetzelfde team dat bedoeld was om digitale kunstwerken zodanig te wijzigen dat AI-trainingsalgoritmen worden misleid over de werkelijke stijl van een afbeelding.
Kunstenaars met een Mac met Apple-chips (M1, M2, M3) of een pc met Windows 10 of 11 kunnen Nightshade gebruiken. Ondanks de overweldigende vraag en lange downloadtijden, heeft het gereedschap al lof ontvangen van kunstenaars die hun werken willen beschermen tegen ongeautoriseerd gebruik door AI. Tegelijkertijd is er kritiek van webgebruikers die suggereren dat het gebruik van Nightshade neerkomt op een cyberaanval op AI-modellen en bedrijven.
Het doel van Nightshade is echter niet om modellen te breken, maar om de kosten van het trainen op ongelicenseerde gegevens te verhogen, waardoor het licenseren van afbeeldingen van hun makers een haalbaar alternatief wordt. Dit markeert een nieuwe fase in de strijd over datascraping, waarbij kunstenaars, auteurs en creatieven bezwaar maken tegen het gebruik van hun werk zonder uitdrukkelijke toestemming voor het trainen van commerciële AI-modellen.
Nightshade biedt een technische oplossing om de machtsasymmetrie aan te pakken en modeltrainers die auteursrechten, opt-out lijsten en do-not-scrape/robots.txt richtlijnen negeren, af te schrikken. Het uiteindelijke doel is om wijdverspreide datascraping kostbaarder te maken voor AI-modelmakers en hen te motiveren licentieovereenkomsten met menselijke kunstenaars na te streven als een levensvatbaar alternatief.
Commentaires