Nightshade - skuteczne narzędzie do ochrony prac artystów przed AI?

Do zassania 2gb, po rozpakowaniu 4gb ponad. Czas mielenia, minimum 5min, dla lekkiej kontaminacji.

Na razie nic więcej niż PoC. Na ten moment useless.

Aby to miało szansę działać, to musiałoby działać jako plugin do szopa, gdzie masz zaznaczonego checkboxa podczas zapisu i o tym nie myślisz. Ewentualnie jakiś portal w kontrze do artstation, gdzie wszystkie uploady są kontaminowane by default po jego stronie.

Na razie AI wciąż niestety na pozycji wygranej.

1 minutę temu, kengi napisał:

Do zassania 2gb, po rozpakowaniu 4gb ponad. Czas mielenia, minimum 5min, dla lekkiej kontaminacji.

Na razie nic więcej niż PoC. Na ten moment useless.

Aby to miało szansę działać, to musiałoby działać jako plugin do szopa, gdzie masz zaznaczonego checkboxa podczas zapisu i o tym nie myślisz. Ewentualnie jakiś portal w kontrze do artstation, gdzie wszystkie uploady są kontaminowane by default po jego stronie.

Na razie AI wciąż niestety na pozycji wygranej.

Animacji? To raczej zawsze będzie trwało dłużej. Ale też puszczałeś na GPU? Myślę, że np. w przypadku wrzucania prac czy publikowania portfolio - może to ma sens i to 5min jest warte.

A testowałeś może na jakiś pracach i możesz wstawić przed i po? Masz jakiś test?

Jakiej animacji? Kontaminacji = zanieczyszczenia.

Nie testowałem, nie miałem czasu. Wywaliłem po pierwszej próbie, out of the box. Dlatego to dalej mocny POC. Dla pojedynczych jakiś tam paranoików, może ok. Ale żeby to rzeczywiście miała być jakaś broń anty-AI to nie widzę tego po prostu.

Haha.. widzisz, czytanie ze zrozumieniem na telefonie 🙂 Sorry. 

Jeśli będzie się to dało podpiąć pod jakieś narzędzie do automatyzacji to moim zdaniem może to działać całkiem nieźle i zniechęcać. Tak jak napisali na stronie, ciekaw jestem czy uda im się połączyć te dwa rozwiązania - wtedy to może być ciekawy tool. 

Problem pozostaje jedynie z człowiekiem, który, podobnie jak sztuczna inteligencja, może za darmo, bez wiedzy autora  obserwować obrazek i następnie czerpać z niego inspirację do tworzenia własnej twórczości:)

@Traitor Dobra dobra niech sobie czerpie. Ja tez sobie czerpie obserwujac i jakos nie potrafie super odtworzyc z tego czerpania 😉 Jedna rzecz zrobic zdjecie a zupelnie inna narysowac cos patrzac na to. AI rznie ordynarnie a nie sie "inspiruje". Nie porownujmy softu co bierze zywcem obrazki doslownie i je miksuje z czlowiekiem co sie inspiruje. Smieszne jest to uczlowieczanie softu, ktory z inteligencja nie ma nic wspolnego i porownywanie go do ludzi.

7 godzin temu, Nezumi napisał(a):

@Traitor Dobra dobra niech sobie czerpie. Ja tez sobie czerpie obserwujac i jakos nie potrafie super odtworzyc z tego czerpania 😉 Jedna rzecz zrobic zdjecie a zupelnie inna narysowac cos patrzac na to. AI rznie ordynarnie a nie sie "inspiruje". Nie porownujmy softu co bierze zywcem obrazki doslownie i je miksuje z czlowiekiem co sie inspiruje. Smieszne jest to uczlowieczanie softu, ktory z inteligencja nie ma nic wspolnego i porownywanie go do ludzi.

Ok, ale sa na to jakies masowe dowody, czy to tylko hipoteza?

48 minutes ago, Traitor said:

Ok, ale sa na to jakies masowe dowody, czy to tylko hipoteza?

Na co? 😕

Na to, co mowisz, czyli ze sztuczna inteligencja jawne laczy ludzkie prace tworzac nowy obraz, jestem ciekaw, czy istnieja jakies rzeczywiste dowody.

20 minut temu, Traitor napisał:

Na to, co mowisz, czyli ze sztuczna inteligencja jawne laczy ludzkie prace tworzac nowy obraz, jestem ciekaw, czy istnieja jakies rzeczywiste dowody.

Ten dokument mniej więcej odpowiada, choć jest już dość stary:
https://arxiv.org/pdf/2212.03860.pdf

W skrócie- im mniejsza baza obrazków w modelu, tym większa szansa, że trafi Ci się niemal niezmieniony obraz, na którym był trenowany model. Przy kilku miliardach obrazków nie ma sposobu tego wyselekcjonować i ogarnąć skąd AI kradnie.
Wygląda też na to, że kolejne wersje Midjourney to po prostu fine tunowane modele, z których czyszczony jest syf niskiej jakości by uzyskać coraz piękniejsze, wygenerowane obrazki. Nie ma żadnych czarów.

11 godzin temu, RaVirr napisał(a):

Ten dokument mniej więcej odpowiada, choć jest już dość stary:
https://arxiv.org/pdf/2212.03860.pdf

W skrócie- im mniejsza baza obrazków w modelu, tym większa szansa, że trafi Ci się niemal niezmieniony obraz, na którym był trenowany model. Przy kilku miliardach obrazków nie ma sposobu tego wyselekcjonować i ogarnąć skąd AI kradnie.
Wygląda też na to, że kolejne wersje Midjourney to po prostu fine tunowane modele, z których czyszczony jest syf niskiej jakości by uzyskać coraz piękniejsze, wygenerowane obrazki. Nie ma żadnych czarów.

Bede tu troche adwokatem "diabla", ale tak naprawde gdybys sie uczyl, widzac w zyciu tylko kilka przedmiotow, dzialalbys podobnie jak to opisano w PDFie. Kiedy malujemy, patrzymy na prace roznych artystow i nasze otoczenie, czerpiemy inspiracje, uczymy sie roznych technik. Tworzac wlasny obraz, z takim bogactwem inspiracji, tworzymy cos unikalnego, nie pytajac o zgode kazdego autora, od ktorego czerpalismy. Podobnie dziala AI.

Uwazam, ze bledne jest upraszczanie tego procesu do "kolazu", szczegolnie gdy maszyna byla szkolona na niezliczonej ilosci obrazow. Dlatego interesuja mnie konkretne dowody na skopiowanie czyjegos dziela lub jego czesci. Czy ktos rzeczywiscie kiedykowiek wskazal, ze jakas czesc jego obrazu znajduje sie w dziele wygenerowanym przez AI? O takim przypadku nie slyszalem.

1 minutę temu, Traitor napisał:

Bede tu troche adwokatem "diabla", ale gdybys uczyl sie, widzac w zyciu tylko kilka przedmiotow, dzialalbys podobnie jak to opisano w PDFie. Kiedy malujemy, patrzymy na prace roznych artystow i nasze otoczenie, czerpiemy inspiracje, uczymy sie roznych technik. Tworzac wlasny obraz, z takim bogactwem inspiracji, tworzymy cos unikalnego, nie pytajac o zgode kazdego autora, od ktorego czerpalismy. Podobnie dziala AI.

Uwazam, ze bledne jest upraszczanie tego procesu do "kolazu", szczegolnie gdy maszyna byla szkolona na niezliczonej ilosci obrazow. Dlatego interesuja mnie konkretne dowody na skopiowanie czyjegos dziela lub jego czesci. Czy ktos rzeczywiscie kiedykowiek wskazal, ze jakas czesc jego obrazu znajduje sie w dziele wygenerowanym przez AI? O takim przypadku nie slyszalem.

Nie wiem czy można tu mówić o "nauce" w przypadku AI, tutaj po prostu wpisujesz tagi i na podstawie tych tagów generuje obrazy (a zakładam, że w bazie danych każdy obrazek ma te konkretnie tagi). Z resztą, skoro możesz zainfekować model w taki sposób jak wyżej to znaczy, że AI nie działa na zasadzie "czerpania inspiracji" tylko złodziejstwa. Gdy człowiek patrzy na te obrazki potraktowane filtrem to dla niego nic się nie zmienia (wciąż widzi to, co powinien zobaczyć), natomiast jeśli takie obrazki znajdą się w modelu i nagle z psa robi się kot...no to

Nie wiem czy w tym zakresie jest w ogóle jakieś wielkie pole do dyskusji, gdybyś pogrzebał to na bank byś znalazł dokumenty, analizy itd itp choćby dlatego, że wjechały pozwy w hameryce i musiały mieć jakieś podparcie w papierach. Minie pewnie z 5 lat (optymistycznie) zanim doprowadzi to do ugody, w przypadku wygranej to najwięksi twórcy dostaną odszkodowanie, żuczki nic nie dostaną, a karawana pojedzie dalej. Prawda jest też taka, że mnóstwo ludzi przeklikiwało wszystkie zgody na stronach typu Artstation, nikt nie czytał warunków, a nawet jeśli by przeczytał i byłby punkt "zgadzam się na dostarczanie moich prac do celów badawczych AI" to i tak by się zgodził xD 
Osobiście uważam, że to dość fajne narzędzie do konceptów i brainstormu. Photoshopowe AI świetnie dogenerowuje skrawki ubrań i mniejsze elementy. 

Aha, i umówmy się- niektórzy również kradli prace innych artystów i je podmalowywali (nawet sławny Craig Mullins miał kiedyś wtopę z wycięciem skrawka wody ze starego obrazu olejnego i umieszczeniu w swojej ilustracji), photobashowanie z cudzych fot, piractwo modeli 3d do własnych ilustracji, korzystanie choćby z quixela wbrew ustaleniom licencji (ludzie myślą, że te photoskany są za darmo zawsze i wszędzie i się grubo mylą) czy też ukradnięcie czyjegoś stylu (też się bardzo często zdarza) - to wszystko też jest mega chujowe, ale uważam też, że jedna chujnia nie może być automatycznym wytłumaczeniem na drugą chujnię. 

11 godzin temu, Traitor napisał:

Bede tu troche adwokatem "diabla", ale tak naprawde gdybys sie uczyl, widzac w zyciu tylko kilka przedmiotow, dzialalbys podobnie jak to opisano w PDFie. Kiedy malujemy, patrzymy na prace roznych artystow i nasze otoczenie, czerpiemy inspiracje, uczymy sie roznych technik. Tworzac wlasny obraz, z takim bogactwem inspiracji, tworzymy cos unikalnego, nie pytajac o zgode kazdego autora, od ktorego czerpalismy. Podobnie dziala AI.

Uwazam, ze bledne jest upraszczanie tego procesu do "kolazu", szczegolnie gdy maszyna byla szkolona na niezliczonej ilosci obrazow. Dlatego interesuja mnie konkretne dowody na skopiowanie czyjegos dziela lub jego czesci. Czy ktos rzeczywiscie kiedykowiek wskazal, ze jakas czesc jego obrazu znajduje sie w dziele wygenerowanym przez AI? O takim przypadku nie slyszalem.

Właśnie świeżutko wyhaczyłem, ktoś wrzucił na discordzie wygenerowany obraz w MJ6 i oryginalny obrazek dla porównania 😄 

@Traitor Było w innym wątku już ... ale zobacz sobie tweety tego kolesia. Wrzucał też link do arta: https://spectrum.ieee.org/midjourney-copyright

Chyba jest coś na rzeczy?

22 hours ago, Traitor said:

Czy ktos rzeczywiscie kiedykowiek wskazal, ze jakas czesc jego obrazu znajduje sie w dziele wygenerowanym przez AI? O takim przypadku nie slyszalem.

No ale jakie chcesz dowody poza faktami? Ten soft potrzebuje konkretnych obrazkow w bazie danych. Nie istnieje cos takiego jak "sztuczna inteligencja". To jest marketingowy wymysl dla mas. To pseudo "AI" niczego nie "rozumie". Porownywanie tego "uczenia sie" do myslacej istoty obserwujacej swiat i na tej podstawie tworzacej obrazy jest antropomorfizacja programu komputerowego. Taki sam zabieg jak nazywanie zwyklego bledu "halucynacjami". Udawanie, ze mamy do czynienia z istota myslaca podczas gdy nic takiego nie ma miejsca. Ludzie teraz zachowuja sie troche jak prymitywne plemiona, ktore w zetknieciu z czyms nowym nazywaly to uzywajac znanych sobie okreslen. Na przyklad na bron palna mowiac ze w "kiju mieszka piorun" czy cos takiego. Wiemy jak dziala bron palna i ze nie jest to piorun mieszkajacy w kiju, wiemy tez jak dzialaja te programy i ze nie ma zadnej sztucznej inteligencji. Po co sie oszukiwac? Rozumiem ze firmy przepychaja taka narracje bo fajniej brzmi i sie lepiej sprzedaje. Ale wiemy, ze nie istnieje AI, nie istnieja "halucynacje" - mamy do czynienia z machine learning co najwyzej i jest to software, ktory jak najbardziej jest cwanie zaprojektowany, ale bezmylsnie odtwarzajacy to co ma w bazie. Nie posiada inteligencji, niczego sie nawet de facto nie "uczy" no ale juz zgodze sie na ten "machine learning" i "natural-language processing". Tylko przestanmy blagam udawac ze "AI" to cos wiecej jak soft z baza danych bo zaczniemy niedlugo wierzyc ze komputer z nami rozmawia, a mangowa "waifu" z apki na telefon sie w nas zakochala i czeka na nas na prawde...

Te porownania softu do ludzi sa irytujace tak samo jak mowienie ze "wszystko juz bylo i cala sztuka jest odtworcza". Durnowaty slogan nie majacy sensu. To kiedy dokladnie zostalo to "wszystko" osiagniete? Ktory ze styli byl tym ostatnim oryginalnym stylem? 

Ci sami ludzie mowiacy, ze "w sztuce wszystko juz bylo" uwazaja, ze jesli chodzi o technologie to absolutnie nie - same nowosci i "breakthrough" co tydzien. "World is never going to be the same again!" co drug dzien. Ale sztuka? Nieee tam, panie, te glupie "artysty" tylko powtarzaja w kolko to samo! Ja tu moge miec to samo po nacisnieciu "generuj" bo "maszyny sie nauczyly juz wszystkiego". Normalnie jak jakis Pan Janusz mowiacy, ze jego chrzesniak jest "komputerowcem" i mu moze na "fotoszopie" zrobic tak samo dobre logo jak jakis tam "grafik". Pffff.

Kult technologii, technooptymizm zawladnely ludzka wyobraznia. Ale zamiast ja rozpalic sprawily, ze ludzie popadli w rodzaj fatalizmu. Wmawiaja sobie ze teraz juz nie warto niczego sie uczyc, nic robic bo oto osiagnelismy punkt w ktorym stworzylismy myslace maszyny i one sa od nas lepsze a my co juz mielismy wymyslic to wymyslilismy i maszyny przejmuja paleczke. Paradoksalnie ludzie z pozoru najbardziej postepowi, uwielbiajacy technologie traktuja technologie jak jacys Indianie widzacy kolej parowa i nazywajacy ja "zelaznym koniem". Tyle ze nawet indianie nie starali sie karmic parowozu trawa a dzisiejsi technooptymisci z kazdym dniem uczlowieczaja bardziej zwyczajne programy komputerowe, mowia do komputera, wydajac polecenia czatowi zaczynaja od "czy moglbys..." itd. Przekonuja sami siebie o tym ze mamy na prawde do czynienia z myslaca maszyna ktora sie uczy dokladnie jak my, tylko ze jest od nas lepsza i szybsza. A jak w to nie wierzysz to jestes zalosnym luddysta, ktory bezskutecznie stara sie zatrzymac niemozliwy do zatrzymania postep i boisz sie ze maszyna cie zastapi 😄

To bardzo ciekawe - fascynujace nawet - ze ci sami ludzie, ktorzy uwazaja siebie za postepowych reaguja na technologie w tak pierwotny, prosty sposob. Gotowi wybudowac piramide i umiescic na jej szczycie domek a w domku serwer w ktorym mieszka AI. I karmic go obrazkami, aby nie sciagnac na siebie jego gniewu kiedy juz nadejdzie czas dominacji maszyn. I patrza z wysokosci tej swojej piramidy na innych ktorzy nie dolaczyli do kultu AI z wyzszoscia.

Machine learning to z pewnoscia jest jakis postep, moze to zostac fajnie wykorzystane. Ale jezeli bedziemy traktowac program komputerowy jak "Wielkiego Ducha" ktory "Mieszka w Maszynie" to nie tylko nie osiagniemy potencjalu tej technologii ale co gorsza kompletnie zrezygnujemy z naszego wlasnego potencjalu.

@Nezumi

Zgadzam się z ogólną myślą, natomiast wątpię, by roztrząsanie kwestii tego, czym AI jest lub nie jest miało większy sens w tym momencie. Ludzie, którzy myśla podobnie nie potrzebują takich rozkmin, a Ci, do których powinny one trafić mają je w dupie, albo dla zasady zrobią odwrotnie. Nie przekonasz osoby, która Cię zwyczajnie nie słucha.

Są ludzie, dla których szutka jest ważna, dla innych to jakieś tam obrazki, i żadne słowa ich nie przekonają, że coś jest wtórne, że to tani marketing itp. bo zwyczajnie ich to nie obchodzi. Większość ludzi będzie pewnie w obu tych kategoriach - mi też np. trochę zwisa czy youtuberzy robią thumbnailsy do filmików przy pomocy AI czy robi to im jakiś grafik, bo to zbyt nieistotna dla mnie kwestia i mam inne zmartwienia.

Tabun ludzi dzisiaj nieironicznie myśli, że ziemia jest płaska, albo kupuje strukturyzatory wody czy coś, więc to, że ludzie nie rozumieją czym jest uczenie maszynowe to nic dziwnego. Natomiast takie inicjatywy jak Glaze czy Nightshade, to krok w dobrym kierunku i nawet jeśli nie rozwiążą problemu to dają jakieś tam narzędzia dla nas maluczkich do obrony chociażby przed ordynarnym plagiatem.  

Jak najbardziej. Ja jestem samotnikiem ktory lubi pisac i uskutecznia czasem dlugie posty w eter ale nie ludze sie ze ktos tam po przeczytaniu moich wywodow sie klapnie w czolo i powie "ze tez wczesniej o tym nie pomyslalem" 😄 Ot tak sobie pisze. Jak ze wszystkim w necie - cos powiesz to jednemu sie spodoba, innemu nie, jedni sie zgodza inni powiedza ze jestes debilem a jeszcze inni powiedza "pa jak filozofuje! Sie czuje lepszy!" czy cos tam jeszcze. Taka natura internetu. Z cala pewnoscia Glaze i Nighshade i co tam jeszcze powstanie to sa spoko inicjatywy oddolne bo zanim machina polityczno-urzednicza zajmie sie tematem to jeszcze wody sporo uplynie. A niech sie skubancy z tych firm zbierajacych wszystko jak leci a potem sprzedajacy "kredyty" do generowania nie czuja nietykalni. Dopoki nie ma ustalen prawnych co do legalnosci ich dzialan nie moga tez plakac ze im sie krzywda dzieje jak im pozarazaja modele 😄

@Nezumi

Heh, też tak mam i dla zdrowia psychicznego staram się unikać takich minikrucjat, bo człowiek tylko się nawkurza i traci zdrowie i czas w sumie po nic.

I tak jak mówisz, trochę czasu upłynie zanim sytuacja się względnie unormuje. Jesteśmy teraz w sytuacji trochę podobnej do spopularyzowania się P2P i Napstera te 25 lat temu, czyli nowości technologicznych, których wpływ na prawo autorskie nie miał wcześniej precedensu. I tak jak wymienianie się plikami nie zniknęło, bo sama technologia zła nie jest, piractwo też jak najbardziej ma się dobrze, to jednak nie jest tak, (jak wówczas wielu myślało, że będzie), że jak coś wrzucasz do internetu to z automatu każdy może za darmo na tym zarabiać jak ma ochotę, bo może sobie ściągnąć więc jest jego.

Trzeba się przywyczaić, że tak jak piractwo nie zniknęło, tak AI nigdzie nie zniknie i raczej skupić się na dbaniu o to, żeby jej wykorzystanie było sprawiedliwe również dla twórców, a nie tylko dla gigakorpo i AI-bros. 

Ale tu się batalia odwaliła.

Nezumi jak zwykle po właściewej (mi) stronie barykady ;)