Quand I.A. d'la gêne...

[Grover]

Ceci dit, la riposte s'organise : https://futurism.com/the-byte/nightshade...-ai-models

Pilule empoisonnée

Être un artiste dans le monde d'aujourd'hui signifie que vous ne pouvez pas simplement vous inquiéter du simple plagiat et des copieurs trompeurs - vous devez désormais également être attentif aux modèles d'IA génératifs qui copient votre travail.

Heureusement, un nouvel outil appelé Nightshade peut non seulement protéger vos images contre l'imitation par les modèles d'IA, mais aussi les « empoisonner » en leur fournissant des données trompeuses.

Teasé pour la première fois fin 2023, ses développeurs ont annoncé vendredi qu'une version terminée de Nightshade était enfin disponible en téléchargement.

C'est le dernier signe d'artistes durcissant leur position contre les générateurs d'images d'IA comme Stable Diffusion et Midjourney, qui ont été formés sur leurs œuvres sans autorisation ni compensation.

--------------------------------------------------------------------------------------

Les artistes contre-attaquent

Les développeurs de Nightshade, une équipe d'informaticiens de l'Université de Chicago, affirment que leur logiciel est censé être "un outil offensif", là où son prédécesseur Glazer a été conçu pour être un outil défensif.

Ils recommandent toujours d'utiliser les deux outils. Glaze fonctionne en modifiant subtilement — « glaçage » — une image au niveau des pixels. Ces changements sont largement imperceptibles à l'œil nu, « comme la lumière UV » selon les mots des développeurs, mais sont clairement visibles pour les modèles d'IA, qui voient les images différemment. L'effet global masque le contenu d'une image pour une IA.

Nightshade va encore plus loin. En « ombrant » une image, l’outil introduit également des changements subtils, mais ces modifications peuvent amener un modèle d’IA à identifier incorrectement ce qu’il voit. Un humain pourrait voir une "vache dans un champ vert", écrivent les développeurs, "mais un modèle d'IA pourrait voir un sac à main en cuir posé dans l'herbe".

--------------------------------------------------------------------------------------

Pouvoir de négociation

Les développeurs envisagent qu'avec une adoption suffisamment large, Nightshade puisse être utilisé pour "perturber les modèles qui grattent leurs images sans consentement (protégeant ainsi tous les artistes contre ces modèles)." Cela pourrait « augmenter le coût de la formation sur les données sans licence », obligeant les entreprises d'IA à se former uniquement en utilisant des œuvres correctement autorisées par les créateurs.

Pendant ce temps, en utilisant Glaze, les artistes peuvent lancer des invites qui imitent le style d'un artiste spécifique. En effet, certains artistes ont été si omniprésents copiés dans des images générées par l’IA que leurs noms ont dû être bannis des invites – bien que cela n’ait pas fait grand-chose pour dissuader les frères tenaces de l’IA déterminés à copier leur travail.

C'est peut-être le meilleur moyen pour les artistes de protéger leurs œuvres car, pour l'instant, les voies à suivre pour intenter d'éventuels recours juridiques en cas de violation du droit d'auteur restent incertaines. Les artistes et les auteurs – et même Getty Images – ont poursuivi les sociétés d’IA sur ce front, et ce n’est que lorsqu’une décision sera prise sur ces affaires que la légalité de cette pratique deviendra plus claire. D’ici là, les sociétés d’IA engloutiront autant de contenu que possible. Donc pour l'instant, "l'ombrage d'abord, le vernis en dernier".