A medida que los generadores de im\u00e1genes de IA se vuelven m\u00e1s potentes, los artistas se preocupan de que su trabajo se utilice sin permiso para entrenar estos modelos. Ahora, los investigadores han desarrollado una herramienta llamada Nightshade que permite a los artistas incrustar un “veneno” invisible en sus im\u00e1genes, enga\u00f1ando a los modelos de IA y da\u00f1ando su capacidad para etiquetar im\u00e1genes correctamente.<\/p>\n\n
Nightshade altera los p\u00edxeles de una imagen de una manera que los humanos no pueden detectar. Sin embargo, las computadoras notan estos cambios, que est\u00e1n dise\u00f1ados para confundir a los modelos de IA. Cuando un modelo de IA se entrena con estas im\u00e1genes envenenadas, su capacidad para reconocer y etiquetar im\u00e1genes se rompe. Por ejemplo, podr\u00eda comenzar a etiquetar autom\u00f3viles como vacas o arte de dibujos animados como impresionismo.<\/p>\n\n
Debido a que los modelos de IA se entrenan con conjuntos de datos vastos, identificar im\u00e1genes envenenadas es una tarea compleja y que requiere mucho tiempo para las empresas tecnol\u00f3gicas. Incluso unas pocas muestras enga\u00f1osas pueden causar da\u00f1os. Los investigadores encontraron que alimentar solo 50 im\u00e1genes envenenadas en Stable Diffusion hizo que el modelo comenzara a generar im\u00e1genes distorsionadas de perros. Despu\u00e9s de 100 muestras, el modelo produjo im\u00e1genes que eran m\u00e1s gatos que perros.<\/p>\n\n
Nightshade es una herramienta importante para los artistas que se enfrentan a empresas tecnol\u00f3gicas que utilizan su trabajo para entrenar modelos de IA sin permiso. Les brinda a los artistas una forma de proteger su trabajo y hacer valer sus derechos.<\/p>\n\n
Si bien Nightshade puede proteger el trabajo de los artistas de los modelos m\u00e1s nuevos, no puede proteger el arte de los m\u00e1s antiguos de forma retroactiva. Los investigadores tambi\u00e9n reconocen que la t\u00e9cnica de Nightshade podr\u00eda usarse indebidamente para prop\u00f3sitos maliciosos, como ataques dirigidos a modelos de IA. Sin embargo, creen que tales ataques ser\u00edan dif\u00edciles de llevar a cabo, ya que requerir\u00edan miles de muestras envenenadas para infligir da\u00f1o a modelos m\u00e1s grandes.<\/p>\n\n
Nightshade destaca la necesidad de pr\u00e1cticas \u00e9ticas de IA y un nuevo examen de la ley de derechos de autor en la era de la generaci\u00f3n de im\u00e1genes de IA. Los artistas argumentan que deber\u00edan tener control sobre c\u00f3mo se utiliza su trabajo para entrenar modelos de IA. Algunos expertos creen que es necesaria una legislaci\u00f3n para proteger los derechos de los artistas y garantizar una compensaci\u00f3n justa por su trabajo.<\/p>\n\n
A pesar de los desaf\u00edos en curso, Nightshade les ha dado a los artistas esperanza y una sensaci\u00f3n de empoderamiento. Artistas como Autumn Beverly, que dej\u00f3 de publicar su trabajo en l\u00ednea despu\u00e9s de descubrir que hab\u00eda sido raspado sin su consentimiento, han encontrado consuelo en herramientas como Nightshade que les permiten compartir su trabajo nuevamente.<\/p>\n\n
Nightshade es un paso significativo en la lucha por defender los derechos de los artistas frente a los generadores de im\u00e1genes de IA. Empodera a los artistas con una herramienta para proteger su trabajo y plantea importantes cuestiones sobre el uso \u00e9tico de la IA y el futuro de la ley de derechos de autor.<\/p>","protected":false},"excerpt":{"rendered":"
El arte de la IA y la lucha por los derechos de los artistas Envenenando la IA: Nightshade protege el trabajo de los artistas A medida que los generadores de…<\/p>\n","protected":false},"author":3,"featured_media":24025,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5428],"tags":[1541,1334,5425,5427,5426],"class_list":["post-2720","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digital-art-and-technology","tag-machine-learning","tag-digital-art","tag-ai-art","tag-nightshade","tag-copyright-protection"],"_links":{"self":[{"href":"https:\/\/www.lifescienceart.com\/es\/wp-json\/wp\/v2\/posts\/2720","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lifescienceart.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lifescienceart.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/es\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/es\/wp-json\/wp\/v2\/comments?post=2720"}],"version-history":[{"count":1,"href":"https:\/\/www.lifescienceart.com\/es\/wp-json\/wp\/v2\/posts\/2720\/revisions"}],"predecessor-version":[{"id":2721,"href":"https:\/\/www.lifescienceart.com\/es\/wp-json\/wp\/v2\/posts\/2720\/revisions\/2721"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/es\/wp-json\/wp\/v2\/media\/24025"}],"wp:attachment":[{"href":"https:\/\/www.lifescienceart.com\/es\/wp-json\/wp\/v2\/media?parent=2720"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lifescienceart.com\/es\/wp-json\/wp\/v2\/categories?post=2720"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lifescienceart.com\/es\/wp-json\/wp\/v2\/tags?post=2720"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}