Alors que les g\u00e9n\u00e9rateurs d’images bas\u00e9s sur l’IA deviennent de plus en plus puissants, les artistes s’inqui\u00e8tent que leur travail soit utilis\u00e9 sans autorisation pour entra\u00eener ces mod\u00e8les. D\u00e9sormais, les chercheurs ont d\u00e9velopp\u00e9 un outil appel\u00e9 Nightshade qui permet aux artistes d’int\u00e9grer un \u00ab\u00a0poison\u00a0\u00bb invisible dans leurs images, induisant en erreur les mod\u00e8les d’IA et nuisant \u00e0 leur capacit\u00e9 \u00e0 \u00e9tiqueter correctement les images.<\/p>\n\n
Nightshade modifie les pixels d’une image d’une mani\u00e8re que les humains ne peuvent pas d\u00e9tecter. Cependant, les ordinateurs remarquent ces changements, qui sont con\u00e7us pour embrouiller les mod\u00e8les d’IA. Lorsqu’un mod\u00e8le d’IA est entra\u00een\u00e9 sur ces images empoisonn\u00e9es, sa capacit\u00e9 \u00e0 reconna\u00eetre et \u00e9tiqueter les images se d\u00e9t\u00e9riore. Par exemple, il pourrait commencer \u00e0 \u00e9tiqueter les voitures comme des vaches ou les dessins anim\u00e9s comme de l’impressionnisme.<\/p>\n\n
\u00c9tant donn\u00e9 que les mod\u00e8les d’IA sont entra\u00een\u00e9s sur de vastes ensembles de donn\u00e9es, identifier les images empoisonn\u00e9es est une t\u00e2che complexe et chronophage pour les entreprises technologiques. M\u00eame quelques \u00e9chantillons trompeurs peuvent causer des dommages. Les chercheurs ont d\u00e9couvert qu’alimenter Stable Diffusion avec seulement 50 images empoisonn\u00e9es amenait le mod\u00e8le \u00e0 commencer \u00e0 g\u00e9n\u00e9rer des images d\u00e9form\u00e9es de chiens. Apr\u00e8s 100 \u00e9chantillons, le mod\u00e8le produisait des images qui ressemblaient plus \u00e0 des chats qu’\u00e0 des chiens.<\/p>\n\n
Nightshade est un outil important pour les artistes qui font face \u00e0 des entreprises technologiques qui utilisent leur travail pour entra\u00eener des mod\u00e8les d’IA sans autorisation. Il offre aux artistes un moyen de prot\u00e9ger leur travail et de faire valoir leurs droits.<\/p>\n\n
Bien que Nightshade puisse prot\u00e9ger le travail des artistes des mod\u00e8les plus r\u00e9cents, il ne peut pas prot\u00e9ger r\u00e9troactivement l’art des anciens mod\u00e8les. Les chercheurs reconnaissent \u00e9galement que la technique de Nightshade pourrait \u00eatre utilis\u00e9e \u00e0 mauvais escient \u00e0 des fins malveillantes, comme des attaques cibl\u00e9es contre des mod\u00e8les d’IA. Cependant, ils estiment que de telles attaques seraient difficiles \u00e0 mener, car elles n\u00e9cessiteraient des milliers d’\u00e9chantillons empoisonn\u00e9s pour endommager des mod\u00e8les plus volumineux.<\/p>\n\n
Nightshade souligne la n\u00e9cessit\u00e9 de pratiques \u00e9thiques en mati\u00e8re d’IA et d’un r\u00e9examen du droit d’auteur \u00e0 l’\u00e8re de la g\u00e9n\u00e9ration d’images par l’IA. Les artistes soutiennent qu’ils devraient avoir le contr\u00f4le sur la mani\u00e8re dont leur travail est utilis\u00e9 pour entra\u00eener des mod\u00e8les d’IA. Certains experts estiment qu’une l\u00e9gislation est n\u00e9cessaire pour prot\u00e9ger les droits des artistes et garantir une r\u00e9mun\u00e9ration \u00e9quitable pour leur travail.<\/p>\n\n
Malgr\u00e9 les d\u00e9fis actuels, Nightshade a redonn\u00e9 espoir aux artistes et leur a donn\u00e9 un sentiment d’autonomisation. Des artistes comme Autumn Beverly, qui a cess\u00e9 de publier son travail en ligne apr\u00e8s avoir d\u00e9couvert qu’il avait \u00e9t\u00e9 r\u00e9cup\u00e9r\u00e9 sans son consentement, ont trouv\u00e9 du r\u00e9confort dans des outils comme Nightshade qui leur permettent de partager \u00e0 nouveau leur travail.<\/p>\n\n
Nightshade est une \u00e9tape importante dans la lutte pour d\u00e9fendre les droits des artistes face aux g\u00e9n\u00e9rateurs d’images bas\u00e9s sur l’IA. Il met \u00e0 la disposition des artistes un outil pour prot\u00e9ger leur travail et soul\u00e8ve des questions importantes sur l’utilisation \u00e9thique de l’IA et l’avenir du droit d’auteur.<\/p>","protected":false},"excerpt":{"rendered":"
L’art de l’IA et la lutte pour les droits des artistes Empoisonner l’IA\u00a0: Nightshade prot\u00e8ge le travail des artistes Alors que les g\u00e9n\u00e9rateurs d’images bas\u00e9s sur l’IA deviennent de plus…<\/p>\n","protected":false},"author":3,"featured_media":24025,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5428],"tags":[1541,5425,1334,5427,5426],"class_list":["post-2720","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digital-art-and-technology","tag-machine-learning","tag-ai-art","tag-digital-art","tag-nightshade","tag-copyright-protection"],"_links":{"self":[{"href":"https:\/\/www.lifescienceart.com\/fr\/wp-json\/wp\/v2\/posts\/2720","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lifescienceart.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lifescienceart.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/fr\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/fr\/wp-json\/wp\/v2\/comments?post=2720"}],"version-history":[{"count":1,"href":"https:\/\/www.lifescienceart.com\/fr\/wp-json\/wp\/v2\/posts\/2720\/revisions"}],"predecessor-version":[{"id":2721,"href":"https:\/\/www.lifescienceart.com\/fr\/wp-json\/wp\/v2\/posts\/2720\/revisions\/2721"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/fr\/wp-json\/wp\/v2\/media\/24025"}],"wp:attachment":[{"href":"https:\/\/www.lifescienceart.com\/fr\/wp-json\/wp\/v2\/media?parent=2720"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lifescienceart.com\/fr\/wp-json\/wp\/v2\/categories?post=2720"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lifescienceart.com\/fr\/wp-json\/wp\/v2\/tags?post=2720"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}