\u00c0 medida que os geradores de imagens de IA se tornam mais poderosos, os artistas se preocupam com o uso n\u00e3o autorizado de seu trabalho para treinar esses modelos. Agora, os pesquisadores desenvolveram uma ferramenta chamada Nightshade que permite que os artistas incorporem um “veneno” invis\u00edvel em suas imagens, enganando os modelos de IA e prejudicando sua capacidade de rotular imagens corretamente.<\/p>\n\n
O Nightshade altera os pixels de uma imagem de uma forma que os humanos n\u00e3o conseguem detectar. No entanto, os computadores percebem essas altera\u00e7\u00f5es, que s\u00e3o projetadas para confundir os modelos de IA. Quando um modelo de IA \u00e9 treinado nessas imagens envenenadas, sua capacidade de reconhecer e rotular imagens \u00e9 prejudicada. Por exemplo, ele pode come\u00e7ar a rotular carros como vacas ou desenhos animados como impressionismo.<\/p>\n\n
Como os modelos de IA s\u00e3o treinados em conjuntos de dados vastos, identificar imagens envenenadas \u00e9 uma tarefa complexa e demorada para as empresas de tecnologia. Mesmo algumas poucas amostras enganosas podem causar danos. Os pesquisadores descobriram que alimentar o Stable Diffusion com apenas 50 imagens envenenadas fez com que o modelo come\u00e7asse a gerar imagens distorcidas de c\u00e3es. Ap\u00f3s 100 amostras, o modelo produziu imagens que eram mais gatos do que c\u00e3es.<\/p>\n\n
O Nightshade \u00e9 uma ferramenta importante para artistas que enfrentam empresas de tecnologia que usam seu trabalho para treinar modelos de IA sem permiss\u00e3o. Ele oferece aos artistas uma maneira de proteger seu trabalho e fazer valer seus direitos.<\/p>\n\n
Embora o Nightshade possa proteger o trabalho dos artistas de modelos mais novos, ele n\u00e3o pode proteger retroativamente a arte de modelos mais antigos. Os pesquisadores tamb\u00e9m reconhecem que a t\u00e9cnica do Nightshade pode ser usada indevidamente para fins maliciosos, como ataques direcionados a modelos de IA. No entanto, eles acreditam que tais ataques seriam dif\u00edceis de realizar, pois exigiriam milhares de amostras envenenadas para causar danos a modelos maiores.<\/p>\n\n
O Nightshade destaca a necessidade de pr\u00e1ticas \u00e9ticas de IA e um reexame da lei de direitos autorais na era da gera\u00e7\u00e3o de imagens por IA. Os artistas argumentam que deveriam ter controle sobre como seu trabalho \u00e9 usado para treinar modelos de IA. Alguns especialistas acreditam que \u00e9 necess\u00e1ria legisla\u00e7\u00e3o para proteger os direitos dos artistas e garantir uma compensa\u00e7\u00e3o justa por seu trabalho.<\/p>\n\n
Apesar dos desafios cont\u00ednuos, o Nightshade deu esperan\u00e7a aos artistas e um sentimento de empoderamento. Artistas como Autumn Beverly, que parou de postar seu trabalho online ap\u00f3s descobrir que ele havia sido copiado sem seu consentimento, encontraram consolo em ferramentas como o Nightshade que lhes permitem compartilhar seu trabalho novamente.<\/p>\n\n
O Nightshade \u00e9 um passo significativo na luta para defender os direitos dos artistas diante dos geradores de imagens de IA. Ele capacita os artistas com uma ferramenta para proteger seu trabalho e levanta quest\u00f5es importantes sobre o uso \u00e9tico da IA e o futuro da lei de direitos autorais.<\/p>","protected":false},"excerpt":{"rendered":"
A arte da IA e a luta pelos direitos dos artistas Envenenando a IA: Nightshade protege o trabalho dos artistas \u00c0 medida que os geradores de imagens de IA se…<\/p>\n","protected":false},"author":3,"featured_media":24025,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5428],"tags":[1541,1334,5425,5427,5426],"class_list":["post-2720","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digital-art-and-technology","tag-machine-learning","tag-digital-art","tag-ai-art","tag-nightshade","tag-copyright-protection"],"_links":{"self":[{"href":"https:\/\/www.lifescienceart.com\/pt\/wp-json\/wp\/v2\/posts\/2720","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lifescienceart.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lifescienceart.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/pt\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/pt\/wp-json\/wp\/v2\/comments?post=2720"}],"version-history":[{"count":1,"href":"https:\/\/www.lifescienceart.com\/pt\/wp-json\/wp\/v2\/posts\/2720\/revisions"}],"predecessor-version":[{"id":2721,"href":"https:\/\/www.lifescienceart.com\/pt\/wp-json\/wp\/v2\/posts\/2720\/revisions\/2721"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/pt\/wp-json\/wp\/v2\/media\/24025"}],"wp:attachment":[{"href":"https:\/\/www.lifescienceart.com\/pt\/wp-json\/wp\/v2\/media?parent=2720"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lifescienceart.com\/pt\/wp-json\/wp\/v2\/categories?post=2720"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lifescienceart.com\/pt\/wp-json\/wp\/v2\/tags?post=2720"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}