Det här kommer att bli intressant.
Sedan de generativa AI-modellerna kom har deras skapare visat att de kan scrapa internet och använda onlineinnehåll för att träna modellerna. Upphovsrättsinnehavare har begränsade möjligheter att förhindra att deras kreativa arbete används på detta sätt.
Nu verkar det som om striden är i full gång. 🥊
Nightshade är ett verktyg som skapats av forskare som vill motverka obehörig AI-modellträning. Det omvandlar bilder till “förgiftade” prover som stör modeller som tränats utan samtycke.⚰
☑ Det förvandlar bilder till prover som får AI-modeller som tränats på dem att lära sig oförutsägbara/avvikande beteenden istället för förväntade normer. Till exempel kan en prompt som frågar efter en ko få en bild av en handväska istället.
☑ Den associerar en liten kostnad till varje bit data som skrapas och tränas på utan tillstånd, vilket gör det mer lönsamt för modelltränare att licensiera bilder ordentligt istället.
Det fungerar genom att minimera synliga förändringar av bilder så att de ser normala ut för människor, men ser dramatiskt annorlunda ut för AI-modeller.
☑ Det är utformat som ett offensivt verktyg för konstnärer att använda för att störa modeller som skrapar deras bilder utan samtycke, för att avskräcka från sådant beteende.
Så sammanfattningsvis förgiftar Nightshade AI-träningsdata för att störa obehörig modellträning, med målet att avskräcka skrapning av bilder utan samtycke. Den omvandlar bilder så att de ser normala ut men innehåller “gift” för AI-system.
Hmm… 🤔
