Vojna o nálepkách: Preukázanie ľudskej kreativity v čase umelej inteligencie

Od Camille G., zakladateľa Verumano.

Internet čelí rastúcej kríze dôvery. Generatívna umelá inteligencia dokáže teraz produkovať ilustrácie, romány, hudobné skladby a videá, ktoré sú niekedy ťažko rozlíšiteľné od ľudsky vytváranej práce. Pre umelcov, autorov, fotografov a hudobníkov sa stáva čoraz dôležitejšia jedna otázka: Ako môžu tvorcovia preukázať, že ich práca skutočne pochádza z ľudského úsilia?

Niekoľko prístupov sa objavuje na riešenie tejto výzvy. Niektoré sa spoliehajú na verejný záväzok tvorcu, ako napríklad Nie pomocou AI odznak. Iní sa zamerajú na kryptografické pôvody, ako s Standard C2PA (Koalícia za pôvod a autentičnosť obsahu). Tretí prístup, ktorý zastupuje Verumano protokol ako je tu opísané, snaží sa postaviť kreatívny proces a ľudské posúdenie do centra certifikácie.

Avšak tieto riešenia neodpovedajú presne na tú istú otázku. Vyhlásenie, že dielo je vytvorené človekom, sledovanie jeho technickej histórie a skúmanie dôkazov jeho vytvorenia sú tri rozdielne procesy.

Môže byť umelecké dielo naozaj certifikované ako 100% vytvorené človekom (bez AI)? A aké záruky môže certifikácia poskytnúť bez sľubovania nemožného?

1. Samohlásené označenia: Dôvera začína tvorca

Nie pomocou AI: Viditeľná záväzok k ľudskej kreativite

Keď sa obsah generovaný umelou inteligenciou stáva čoraz rozšírenejším, niektoré iniciatívy prijali jednoduchý prístup: umožniť autorom verejne vyjadriť svoj záväzok voči ľudskej tvorivosti.

Jedným príkladom je Nie pomocou AI, ktorá ponúka odznaky pre pisateľov, umelcov a ďalších tvorcov obsahu.

Iniciatíva používa pravidlo 90 %: podľa uvedených kritérií programu musí byť najmenej 90 % relevantného obsahu vytvorené človekom. Určité obmedzené použitie AI môže byť povolené, s výhradou príslušných pravidiel pre každý typ obsahu.

Odznak slúži ako signál pre publiku. Komunikuje pozíciu tvorca a robí ich záväzok voči ľudskej tvorivosti viditeľným.

Obmedzenie: Odznaky nie sú technickým dôkazom

Grafický odznak možno kopírovať, reprodukovať alebo zobraziť bez povolenia. Sám osebe nestablisuje pôvod súboru ani nedokumentuje kroky zahrnuté v jeho vytváraní.

Je však dôležité rozlíšovať samotný odznak od širšej iniciatívy. Not By AI tiež poskytuje informácie o svojom programe a podmienkach používania. Jej prístup by sa nemal nutne redukovať len na statický obrázok.

Základné obmedzenie zostáva: vyhlásenie, aj keď je sprevádzané verejným záväzkom, automaticky nezaručuje, že každé tvrdenie o kuse obsahu je presné.

Kľúčový záver: Samovyhlásený label môže komunikovať zámer a sprístupniť záväzok viditeľným. Nemalo by sa to zamieňať s nezávislou technickou certifikáciou.

Zdroj: Not By AI — Pravidlo 90% a Podmienky používania.

2. C2PA: Sledovanie digitálneho pôvodu tvorivej práce

Čo je štandard C2PA?

The Koalícia pre zdrojov obsahu a autentičnosť (C2PA) vyvíja otvorený štandard určený na dokumentovanie pôvodu digitálneho obsahu a zmien, ktorými prechádza.

Podporovaná organizáciami z oblasti technológií a médií, norma sa zameriava na poskytovanie overiteľných informácií o pôvode a histórii obrázkov, videí a ďalších kompatibilných súborov.

Technológia sa používa v širšom ekosystéme Content Credentials, ktorý poskytuje informácie o pôvode a histórii úprav digitálneho obsahu.

Ako funguje certifikácia C2PA?

Zvážte fotografiu zrabenú kompatibilným fotoaparátom.

Pri zaznamenávání môže systém zaznamenať informácie o pôvode súboru a priradiť ich podpísanému manifestu. Ak je fotografia neskôr upravená v kompatibilnom softvéri, je možné zaznamenať dodatočné informácie o pôvode, aby sa dokumentovali zmeny.

Digitálne podpisy a kryptografické viazacie mechanizmy umožňujú overenie určitých vlastností manifestu a môžu odhaliť zmeny, ktoré sú v rozpore so zaznamenanými údajmi.

Avšak to nevytváří univerzálny, neomylný záznam všetkého, čo sa umeniu stalo od jeho vytvorenia. Kvalita dostupných informácií závisí od použitých nástrojov, skutočne zdokumentovaných krokov a od toho, ako sa obsah spracúva a distribuuje.

Oficiálna dokumentácia opisuje túto architektúru v Technická špecifikácia C2PA.

Overiteľný pôvod neznamená výlučne ľudskú tvorbu

Toto je rozhodujúci rozdiel.

C2PA je navrhnutá tak, aby boli informácie o pôvode a určité tvrdenia súvisiace s obsahom overiteľné. Norma sama o sebe neurčuje, či je umelecké dielo umelecky originálne, eticky prijateľné alebo vytvorené výlučne človekom.

Obrázok generovaný systémom umelej inteligencie môže mať aj platnú informáciu o pôvode dokumentujúcu použitie tohto systému.

Kryptograficky platný manifest znamená, že určité technické kontroly boli úspešné. Nezaručuje však, že každý výrok obsiahnutý v manifeste je fakticky pravdivý.

C2PA môže pomôcť odpovedať na otázku: "Odkiaľ pochádza tento súbor a aké akcie boli zdokumentované?" Nemôže však nevyhnutne odpovedať na otázku: "Bolo toto dielo vytvorené úplne človekom?"

Je C2PA iba pre profesionálov?

Bolo by nepresné opisovať C2PA ako svojou povahou drahú alebo obmedzenú len na high-end zariadenia.

Štandard je otvorený a možno ho implementovať v rôznych hardvérových a softvérových nástrojoch. Niektoré aplikácie môžu závisieť od špecializovaného vybavenia, komerčných služieb alebo kompatibilného plateného softvéru, ale náklady sa líšia v závislosti od implementácie.

Pre nezávislých tvorcov predstavujú výzvy aj praktické aspekty: dostupnosť kompatibilných nástrojov, ľahkosť používania, kompatibilita medzi platformami a zachovanie informácií o pôvode.

Zdroj: C2PA — Oficiálne technické špecifikácie.

3. Verumano: Skúmanie tvorivého procesu, nie len finálneho súboru

Prístup zameraný na dôkazy o tvorení

The Verumano protokol, ako je opísané v tomto článku, naopak pristupuje komplementárnym spôsobom. Namiesto toho, aby sa zameriavalo výhradne na informácie pripevnené k finálnemu súboru, snaží sa skúmať dôkazy, ktoré pomáhajú objasniť, ako bola práca vytvorená.

Tento prístup je určený pre ilustrátorov, fotografov, písateľov, hudobníkov a ďalších nezávislých tvorcov, ktorí chcú dokumentovať svoju prácu a zveriť svoje tvrdenia dôveryhodnejšími.

Princípom je zozbierať súbor dôkazov vhodných pre daný tvorivý odbor. Toto môže zahŕňať:

Rôzne verzie projektu a medziľahlé štádiá.
Pracovné súbory a vrstvy, kde sú dostupné.
Originálne RAW súbory na fotografovanie.
Oddelené zvukové stopy a sedenia hudobnej produkcie.
Návrhy, skice, poznámky a ďalšie relevantné materiály.
Popis použitých nástrojov a akákoľvek involvácia AI.

Tieto materiály automaticky nepreukazujú, že AI nebola nikdy zaangažovaná. Môžu však pomôcť recenzentovi posúdiť konzistentnosť zdokumentovaného procesu a silu predloženého dôkazu.

Prečo zahrnúť ľudskú kontrolu?

Ľudská kontrola môže poskytnúť dimenziu, ktorú sama kryptografia nemôže: kontextové hodnotenie predloženého dôkazu.

Napríklad recenzent môže skúmať, či sú fázy ilustrácie konzistentné, či pracovné súbory zodpovedajú finálnemu umeleckému dielu, a či dostupná dokumentácia poskytuje dôveryhodný opis výrobného procesu.

Tento prístup má stále obmedzenia. Zdrojové súbory môžu byť nekompletné, histórie môžu byť falšované a recenzenti sa môžu mýliť. Práca asistovaná umožňou AI môže byť tiež ručne doladená a sprevádzaná presvedčivými pracovnými súbormi.

Kvalita tohto typu certifikácie preto závisí od verejných kritérií, zdokumentovaných postupov preskúmania, kompetencie recenzentov a mechanizmov na napadnutie rozhodnutí.

Zmysluplný sľub nie je absolútnym dôkazom ľudskej čistoty, ale zdokumentovaným a preskúmateľným záznamom tvorivého procesu.

Poznámka o transparentnosti: Špecifické mechanizmy Verumano popísané v tejto sekcii odrážajú deklarovaný prístup protokolu. Ich skutočná dostupnosť, pravidlá certifikácie a vlastnosti bezpečnosti by mali byť potvrdené prostredníctvom verejnej technickej dokumentácie a overiteľnej demonštrácie.

4. SHA-256 Hešiše a dynamické odznaky: Čo vlastne dokazujú?

Certifikačný systém spájajúci kryptografický hash, Supporting evidence a online kontrolu stavu môže byť užitočný. Každá zložka však má špecifickú úlohu a obmedzenia.

Či SHA-256 Hash Dokazuje, Že Umelecké Dielo Je Ľudsky Vytvorené?

Nie.

SHA-256 je kryptografická hašovacia funkcia, ktorá vypočítava odtlačok z údajov súboru. Môže sa použiť na porovnávanie súborov: ak sa ich hašš líšia, ich údaje sa líšia, za predpokladu bezpečnostných predpokladov algoritmu.

Avšak hash nezabezpečuje, ako bol súbor vytvorený.

Ručne nakreslená ilustrácia a ilustrácia generovaná umelou inteligenciou môžu mať SHA-256 hashe. Výpočet nemôže rozlíšiť medzi ich pôvodmi.

Hash má iný účel: môže prepojiť validáciu na konkrétny súbor. Ak sa súbor zmení, zmení sa zvyčajne aj jeho hash.

Ak chcete ďalšie informácie, konzultujte NIST dokumentácia o kryptografických hešovacích funkciách.

Ako by mohla fungovať offline verifikačná známka?

V navrhovanom Verumanská architektúra, odznaka by mohla spýtať sa API na zobrazenie aktuálneho stavu certifikácie.

Systém tohto druhu by mohol rozlíšiť medzi niekoľkými stavmi:

Certifikované alebo overené: Príspevok spĺňa stanovené kritériá.
Pozastavené alebo v preskúmaní: Vyžaduje sa dodatočné overenie.
Zrušené: Certifikácia už nie je považovaná za platnú službu.
Nie je dostupné: Stav sa momentálne nedá overiť.

Zrušenie by sa mohlo prejaviť v odznačeniach, ktoré aktívne dotazujú službu. Však statický obrázok odznačenia, snímka obrazovky alebo offline kópia by sa automaticky neaktualizovali.

Dynamické overovanie tiež závisí od dostupnosti API, bezpečnosti služby a toho, ako často sa vykonávajú kontroly stavu.

Je preto presnejšie to popísať ako online-overiteľný a odvolateľný stav certifikácie ako neporušiteľná architektúra.

Prečo samotná revokácia nemôže zabrániť podvodu

Odvolanie umožňuje stiahnuť certifikáciu, keď sú splnené špecifikované podmienky. Nezaručuje, že každá kópia odznak zmizne alebo že každý používateľ skontroluje jej aktuálny stav.

Na zavedenie dôvery potrebuje systém transparentné kritériá odvolania, odvolací postup a jasné pravidlá na riešenie chýb, sporov a technických výpadkov.

Transparentné pravidlá sú rovnako dôležité ako samotná základná technológia.

5. Not By AI vs. C2PA vs. Verumano: Porovnanie troch prístupov

Tieto tri modely sa môžu navzájom dopĺňať, ale ich záruky nie sú vzájomne zameniteľné.

Kritérium	Nie pomocou AI	C2PA	Verumano, tak ako je popísaný
Primárny účel	Vyjadriť záväzok voči ľudskej kreativite	Digitálna preukázateľnosť dokumentu	Skúmajte dôkazy tvorivého procesu
Typ dôkazu	Vyhlásenie a podmienky použitia	Overiteľné manifesty a podpisy	Zdrojové súbory a ľudská kontrola
Úloha kryptografie	Nie je centrálne vo vzťahu k samotnému odznak	Ústredný pre technické overenie	Hešovanie súborov a navrhované API
Nezávislé overenie	Závisí od ponúkaných služieb a procedúr	Prostredníctvom kompatibilných nástrojov a modelu dôvery	Závisí od postupov recenzií a implementácie
Odvolanie	Závisí od podmienok programu	Spracovanie podpisu a dôvery v závislosti od okolností	Odvolateľný status je súčasťou popísaného prístupu
Hlavné obmedzenie	Samotný záväzok nepreukazuje pôvod	Pôvod sám o sebe nepreukazuje ľudský pôvod	Dôkazy a preskúmanie nemôžu zaručiť absolútnu istotu
Dostupnosť	Dostupnosť odznaků závisí od podmienok programu	Otvorený štandard s rôznymi nástrojmi	Vyžaduje potvrdenie skutočnej dostupnosti a podmienok

Otvorená povaha štandardu by sa nemala zamieňať s tým, že každá služba postavená na ňom by bola bezplatná. Podobne, open-source projekt môže uľahčiť audit kódu, ale samotná dostupnosť open-source nezaručuje spoľahlivosť recenzenta ani pravdivosť certifikácie.

Porovnanie by sa preto malo zamerať na skutočne poskytnuté záruky, namiesto na robené sľuby.

6. Môžeme naozaj dokázať, že dielo je vytvorené na 100% človekom?

Toto je ústredná otázka a vyžaduje si opatrný odpoveď.

Žiadny z týchto troch prístupov nemôže sám o sebe s absolútnou istotou zistiť, že dielo nikdy nedostalo pomoc od AI.

História verzií môže byť neúplná. Zdrojové súbory môžu byť vymyslené alebo upravené. Digitálny podpis môže byť platný aj vtedy, keď sprevádza nepresné tvrdenie. Ľudská kontrola môže zvýšiť dôveru bez toho, aby sa úplne eliminovalo každé riziko chyby alebo podvodu.

Navyše je potrebné definovať aj význam ľudskej tvorby. Dielo mohlo byť koncipované a komponované človekom, pričom sa spoliehalo na korektúru, úpravu obrázkov alebo čiastočnú pomoc generatívnych nástrojov. Jeho klasifikácia závisí od kritérií, ktoré sa aplikujú.

Aby bol štítok zmysluplný, musí špecifikovať, čo potvrdzuje:

Absenciu AI-generovaného obsahu.
Prevažne časti ľudskej tvorby.
Zdokumentovaný a prehodnotený tvorivý proces.
Celistvosť súboru od určitého bodu v čase.
Vyhlásenie tvorcov týkajúce sa používaných nástrojov.

Tieto tvrdenia nie sú ekvivalentné.

Dôveryhodná certifikácia by mala zverejniť svoj rozsah, kritériá, požiadavky na dôkazy a obmedzenia. Mala by tiež vysvetliť, či certifikuje absenciu AI, definovanú úroveň ľudskej účasti, alebo jednoducho zdokumentovaný tvorivý proces.

7. Smerom ku konvergencii medzi digitálnym pôvodom a certifikáciou ľudskej tvorby

Najlepšie dlhodobé riešenie nemusí byť výber medzi C2PA a certifikáciou zameranou na ľudskú tvorivú prácu.

Dva prístupy by sa mohli potenciálne kombinovať. Protokol, ktorý skúma tvorivý proces, by napríklad mohol spojiť svoj výsledok preskúmania s podpísaným vyhlásením o pôvode kryptograficky prepojením s umeleckým dielom.

Takáto integrácia by mohla spojiť dve komplementárne dimenzie:

Technické dôkazy: schopnosť overiť integritu informácií spojených so súborom.
Procesný dôkaz: skúmané materiály a kritériá použité počas certifikácie.

Táto zhoda by vyžadovala jasné špecifikácie: kto podpisuje tvrdenia, kto je zodpovedný za overenie, ako sa zverejňujú odvolania a ako by mali používatelia interpretovať výsledky.

Bolo by tiež dôležité zabrániť tomu, aby sa vyhlásenie ako „100% ľudskou rukou vyrobené" automaticky považovalo za pravdivé len preto, že sa objavuje v kryptograficky platnom manifeste.

Kryptografia môže urobiť vyhlásenie overiteľným a odhaliť určité zmeny. Sama o sebe ho však nemôže premeniť na pravdu.

Záver: Dôvera sa nedeklaruje. Dokumentuje sa.

V ére generatívnej AI nebude ochrana ľudskej kreativity pravdepodobne závisieť od jedného znaku alebo zázračného algoritmu.

Samovyhlasené označenia môžu učiniť záväzok viditeľným. C2PA poskytuje technický rámec na dokumentovanie a overovanie pôvodu obsahu. Prístup, ako je ten popísaný pre Verumano, sa snaží doplniť tieto mechanizmy skúmaním tvorivého procesu.

Každá metóda rieši iný problém a má svoje vlastné obmedzenia.

Pre nezávislých tvorcov je výzvou preukázať, ako bolo dielo vytvorené, zachovať podpoľujúce dôkazy a jasne komunikovať o akejkoľvek použitej umelej inteligencii. Pre publikum je výzvou pochopiť, čo bolo skutočne overené predtým, ako sa rozhodne, či má dôveryhodnosti páťa tvrdení.

Skutočná hodnota certifikácie teda nespočíva v sľube absolútnej neporušiteľnosti, ale v transparentných kritériách, silných dôkazoch, nezávislom posúdení a možnosti napadnúť rozhodnutie.

V čase umelej inteligencie najlepšia certifikácia nebude tvrdiť, že eliminuje všetky pochybnosti. Poskytne ľuďom prostriedky na pochopenie toho, čo bolo stanovené, čo bolo iba vyhlásené a čo zostáva neisté.

Zdroje a referencie

Poznámka redaktora: Tieto zdroje dokumentujú všeobecné mechanizmy a verejne dostupné pravidlá referenced iniciatív. Tvrdenia o špecifických funkciách Verumano by mali byť podporované odkazmi na jeho oficiálnu špecifikáciu, repozitár zdrojového kódu, npm balík a verifikačnú službu vždy, keď sú dostupné a môžu byť nezávisle overené.

Vojny označení: Ako môžeme dokázať, že dielo je zo 100% ľudskou prácou v ére umelej inteligencie?