Man mano che i generatori di immagini basati sull’IA diventano sempre pi\u00f9 potenti, gli artisti si preoccupano che il loro lavoro venga utilizzato senza autorizzazione per addestrare questi modelli. Ora, i ricercatori hanno sviluppato uno strumento chiamato Nightshade che consente agli artisti di incorporare un “veleno” invisibile nelle loro immagini, inducendo in errore i modelli di IA e danneggiando la loro capacit\u00e0 di etichettare correttamente le immagini.<\/p>\n\n
Nightshade altera i pixel di un’immagine in un modo che gli esseri umani non riescono a rilevare. Tuttavia, i computer notano queste modifiche, che sono progettate per confondere i modelli di IA. Quando un modello di IA viene addestrato su queste immagini avvelenate, la sua capacit\u00e0 di riconoscere ed etichettare le immagini viene compromessa. Ad esempio, potrebbe iniziare a etichettare le auto come mucche o i cartoni animati come impressionismo.<\/p>\n\n
Poich\u00e9 i modelli di IA vengono addestrati su set di dati vasti, identificare le immagini avvelenate \u00e8 un compito complesso e che richiede molto tempo per le aziende tecnologiche. Anche pochi campioni ingannevoli possono causare danni. I ricercatori hanno scoperto che alimentare Stable Diffusion con sole 50 immagini avvelenate ha indotto il modello a iniziare a generare immagini distorte di cani. Dopo 100 campioni, il modello ha prodotto immagini che erano pi\u00f9 simili a gatti che a cani.<\/p>\n\n
Nightshade \u00e8 uno strumento importante per gli artisti che si trovano ad affrontare aziende tecnologiche che utilizzano il loro lavoro per addestrare modelli di IA senza autorizzazione. Offre agli artisti un modo per proteggere il proprio lavoro e far valere i propri diritti.<\/p>\n\n
Sebbene Nightshade possa proteggere il lavoro degli artisti dai modelli pi\u00f9 recenti, non pu\u00f2 proteggere retroattivamente l’arte dai modelli pi\u00f9 vecchi. I ricercatori riconoscono inoltre che la tecnica di Nightshade potrebbe essere utilizzata impropriamente per scopi dannosi, come attacchi mirati a modelli di IA. Tuttavia, ritengono che tali attacchi sarebbero difficili da realizzare, poich\u00e9 richiederebbero migliaia di campioni avvelenati per danneggiare modelli pi\u00f9 grandi.<\/p>\n\n
Nightshade sottolinea la necessit\u00e0 di pratiche etiche di IA e un riesame della legge sul diritto d’autore nell’era della generazione di immagini tramite IA. Gli artisti sostengono che dovrebbero avere il controllo su come il loro lavoro viene utilizzato per addestrare i modelli di IA. Alcuni esperti ritengono che sia necessaria una legislazione per proteggere i diritti degli artisti e garantire un giusto compenso per il loro lavoro.<\/p>\n\n
Nonostante le sfide in corso, Nightshade ha dato speranza agli artisti e un senso di emancipazione. Artisti come Autumn Beverly, che ha smesso di pubblicare i suoi lavori online dopo aver scoperto che erano stati copiati senza il suo consenso, hanno trovato conforto in strumenti come Nightshade che gli consentono di condividere nuovamente le loro opere.<\/p>\n\n
Nightshade \u00e8 un passo significativo nella lotta per difendere i diritti degli artisti di fronte ai generatori di immagini basati sull’IA. Fornisce agli artisti uno strumento per proteggere il proprio lavoro e solleva importanti questioni sull’uso etico dell’IA e il futuro della legge sul diritto d’autore.<\/p>","protected":false},"excerpt":{"rendered":"
L’arte dell’IA e la lotta per i diritti degli artisti Avvelenare l’IA: Nightshade protegge il lavoro degli artisti Man mano che i generatori di immagini basati sull’IA diventano sempre pi\u00f9…<\/p>\n","protected":false},"author":3,"featured_media":24025,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5428],"tags":[1541,5425,1334,5427,5426],"class_list":["post-2720","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digital-art-and-technology","tag-machine-learning","tag-ai-art","tag-digital-art","tag-nightshade","tag-copyright-protection"],"_links":{"self":[{"href":"https:\/\/www.lifescienceart.com\/it\/wp-json\/wp\/v2\/posts\/2720","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lifescienceart.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lifescienceart.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/it\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/it\/wp-json\/wp\/v2\/comments?post=2720"}],"version-history":[{"count":1,"href":"https:\/\/www.lifescienceart.com\/it\/wp-json\/wp\/v2\/posts\/2720\/revisions"}],"predecessor-version":[{"id":2721,"href":"https:\/\/www.lifescienceart.com\/it\/wp-json\/wp\/v2\/posts\/2720\/revisions\/2721"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.lifescienceart.com\/it\/wp-json\/wp\/v2\/media\/24025"}],"wp:attachment":[{"href":"https:\/\/www.lifescienceart.com\/it\/wp-json\/wp\/v2\/media?parent=2720"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lifescienceart.com\/it\/wp-json\/wp\/v2\/categories?post=2720"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lifescienceart.com\/it\/wp-json\/wp\/v2\/tags?post=2720"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}