Válka o štítky: Prokázání lidské kreativity v éře umělé inteligence

Od Camille G., zakladatele společnosti Verumano.

Internet čelí rostoucí krizi důvěry. Generativní umělá inteligence nyní dokáže vytvářet ilustrace, romány, hudební skladby a videa, která jsou někdy obtížně rozlišitelná od lidské tvorby. Pro umělce, písaře, fotografy a hudebníky se stává stále důležitější jedna otázka: Jak mohou tvůrci prokázat, že jejich práce opravdu vyplývá z lidského úsilí?

Objevuje se několik přístupů k řešení této výzvy. Některé se opírají o veřejný závazek tvůrce, jako je Není od umělé inteligence odznak. Jiní se zaměřují na kryptografické původu, jako s Standard C2PA (Coalition for Content Provenance and Authenticity). Třetí přístup, reprezentovaný Verumano protokol jak je popsáno zde, se snaží umístit tvůrčí proces a lidské posouzení do středu certifikace.

Nicméně tato řešení neodpovídají přesně na stejnou otázku. Prohlášení, že dílo je člověkem vytvořené, sledování jeho technických dějin a zkoumání důkazů jeho vytvoření jsou tři různé procesy.

Může být umělecké dílo skutečně certifikováno jako na 100% vytvořené člověkem (bez AI)? A jaké záruky může certifikace poskytnout, aniž by slibovala nemožné?

1. Vlastnoručně Deklarované Štítky: Důvěra Začíná u Tvůrce

Ne umělou inteligencí: Viditelné zavázání se k lidské tvůrčosti

S tím, jak se obsah vytvořený umělou inteligencí stává čím dál rozšířenějším, některé iniciativy přijaly přímý přístup: umožňují tvůrcům veřejně vyjádřit svůj závazek vůči lidské kreativitě.

Jedním příkladem je Není od umělé inteligence, která nabízí odznak pro písemce, umělce a další tvůrce obsahu.

Iniciativa používá pravidlo 90 %: podle stanovených kritérií programu musí být alespoň 90 % relevantního obsahu vytvořeno člověkem. Určité omezené použití AI může být povoleno, podléhajíc příslušným pravidlům pro každý typ obsahu.

Odznak slouží jako signál pro publikum. Komunikuje pozici tvůrce a činí jeho závazek k lidské tvůrčnosti viditelným.

Omezení: Odznak není technickým důkazem

Grafickou odznak lze kopírovat, reprodukovat nebo zobrazovat bez povolení. Sama o sobě nezakládá původ souboru ani nedokumentuje kroky související s jeho vytvořením.

Je však důležité rozlišovat mezi samotným odznakem a širší iniciativou. Not By AI také poskytuje informace o svém programu a podmínkách použití. Její přístup by neměl být nutně redukován na statický obrázek.

Základní omezení zůstává: prohlášení, i když je doprovázeno veřejným závazkem, automaticky nezaručuje, že každé tvrzení o obsahu je přesné.

Klíčové poznatky: Samostatně deklarovaný označení může komunikovat záměr a učinit závazek viditelným. Nemělo by být zaměňováno s nezávislou technickou certifikací.

Zdroj: Not By AI — Pravidlo 90 % a Podmínky použití.

2. C2PA: Sledování digitálního původu tvůrčích děl

Co je standard C2PA?

Příslušný Coalition for Content Provenance and Authenticity (C2PA) vyvíjí otevřený standard určený k dokumentaci původu digitálního obsahu a změn, které prochází.

Podporován organizacemi z technologického a mediálního průmyslu, standard si klade za cíl poskytovat ověřitelné informace o původu a historii obrázků, videí a dalších kompatibilních souborů.

Technologie se používá v širším ekosystému Content Credentials, který poskytuje informace o původu a historii úprav digitálního obsahu.

Jak funguje certifikace C2PA?

Zvažte fotografii pořizenou kompatibilní kamerou.

Při snímání může systém zaznamenávat informace o původu souboru a přiřadit je k podepsanému manifestu. Pokud je fotografie následně editována v kompatibilním softwaru, lze zaznamenat další informace o provenance dokumentující provedené změny.

Digitální podpisy a kryptografické vazebné mechanismy umožňují ověřit určité vlastnosti manifestu a mohou odhalit úpravy, které jsou v rozporu se zaznamenaými daty.

Avšak to nevytváří univerzální, neomylný záznam všeho, co se произошло s uměleckým dílem od jeho vytvoření. Kvalita dostupných informací závisí na použitých nástrojích, na krocích, které byly skutečně zdokumentovány, a na tom, jak jsou obsah zpracovávány a distribuovány.

Oficiální dokumentace popisuje tuto architekturu v Technická specifikace C2PA.

Ověřitelný původ neznamená výhradně lidskou tvorbu

Toto je zásadní rozdíl.

C2PA je navržena tak, aby informace o původu a určitá tvrzení spojená s obsahem byla ověřitelná. Standard sám o sobě neurčuje, zda je artwork umělecky originální, eticky přijatelný nebo vytvořen výhradně člověkem.

Obrázek vytvořený systémem AI může mít také platné informace o původu, které dokumentují použití tohoto systému.

Kryptograficky platný manifest znamená, že některé technické kontroly byly úspěšné. Nezaručuje však, že každé tvrzení obsažené v manifestu je fakticky pravdivé.

C2PA může pomoct odpovědět na otázku „Odkud pochází tento soubor a jaké akce byly zdokumentovány?" Nemusí však nutně odpovědět na otázku „Bylo toto dílo vytvořeno zcela člověkem?"

Je C2PA pouze pro profesionály?

Bylo by nepřesné popisovat C2PA jako ze své podstaty drahý nebo omezený pouze na špičkové zařízení.

Standard je otevřený a lze jej implementovat v různých hardwarových a softwarových nástrojích. Některé aplikace mohou záviset na specializovaném vybavení, komerčních službách nebo kompatibilním placeném softwaru, ale náklady se liší v závislosti na implementaci.

Pro nezávislé tvůrce jsou výzvy také praktické: dostupnost kompatibilních nástrojů, snadnost použití, kompatibilita napříč platformami a zachování informací o původu.

Zdroj: C2PA — Oficiální technické specifikace.

3. Verumano: Zkoumání tvůrčího procesu, nikoli pouze finálního souboru

Přístup zaměřený na důkazy stvoření

Příslušný Verumano protokol, jak je popsáno v tomto článku, zvolil doplňující přístup. Místo toho, aby se zaměřil výhradně na informace připojené k finálnímu souboru, snaží se zkoumat důkazy, které pomáhají vysvětlit, jak bylo dílo vytvořeno.

Tento přístup je určen pro ilustrátory, fotografy, autory, hudebníky a další nezávislé tvůrce, kteří chtějí dokumentovat svou práci a učinit své nároky důvěryhodnějšími.

Princip spočívá v shromáždění souboru důkazů vhodných pro daný tvůrčí obor. To může zahrnovat:

Různé verze projektu a mezistupně.
Pracovní soubory a vrstvy, kde jsou dostupné.
Původní RAW soubory pro fotografii.
Oddělené zvukové stopy a sezení hudební produkce.
Návrhy, skicy, poznámky a další relevantní materiály.
Popis použitých nástrojů a jakékoliv zapojení AI.

Tyto materiály automaticky nedokazují, že nebyla nikdy zapojena umělá inteligence. Mohou však pomoci recenzentovi posoudit konzistentnost zdokumentovaného procesu a sílu předloženého důkazu.

Proč zahrnout lidský přezkum?

Lidská kontrola může poskytnout dimenzi, kterou samotná kryptografie nemůže: kontextové zhodnocení předloženého důkazu.

Například recenzent může zkoumat, zda jsou etapy ilustrace konzistentní, zda pracovní soubory odpovídají finálnímu dílu, a zda dostupná dokumentace poskytuje věrohodný popis procesu výroby.

Tento přístup má stále omezení. Zdrojové soubory mohou být neúplné, historie mohou být falšovány a recenzenti se mohou mýlit. Práce podporovaná AI může být také ručně vylepšena a doplněna přesvědčivými pracovními soubory.

Kvalita tohoto typu certifikace tedy závisí na veřejných kritériích, zdokumentovaných postupech kontroly, kompetenci recenzentů a mechanismech pro napadání rozhodnutí.

Smysluplný slib není absolutním důkazem lidské čistoty, ale dokumentovaným a přezkoumatelným popisem tvůrčího procesu.

Poznámka o transparentnosti: Mechanismy specifické pro Verumano popsané v této části odrážejí deklarovaný přístup protokolu. Jejich skutečná dostupnost, pravidla certifikace a bezpečnostní vlastnosti by měly být potvrzeny prostřednictvím veřejné technické dokumentace a ověřitelné demonstrace.

4. SHA-256 hashe a dynamické znaky: Co vlastně dokazují?

Certifikační systém kombinující kryptografickou hešovací funkci, podpůrné důkazy a online ověření stavu může být užitečný. Každá součást má však specifickou roli a omezení.

Dokazuje SHA-256 hash, že je umělecké dílo vytvořeno člověkem?

Ne.

SHA-256 je kryptografická hašovací funkce, která vypočítá otisk souboru z jeho dat. Lze ji použít k porovnávání souborů: pokud se jejich haše liší, jejich data se liší, s výhradou bezpečnostních předpokladů algoritmu.

Otisk (hash) však neodhaluje, jak byl soubor vytvořen.

Ručně kreslená ilustrace i ilustrace generovaná umělou inteligencí mohou mít oba SHA-256 haše. Výpočet nemůže rozlišit jejich původ.

Hash slouží jinému účelu: může spojit ověření se specifickým souborem. Pokud se soubor změní, jeho hash se obvykle změní také.

Pro další informace se podívejte na Dokumentace NIST k kryptografickým hašovacím funkcím.

Jak by mohl fungovat ověřovací badge online?

V navrhovaném Architektura Verumano, může odznak dotazovat API a zobrazit aktuální stav certifikace.

Systém tohoto druhu by mohl rozlišit mezi několika stavy:

Certifikováno nebo ověřeno: Příspěvek splnil stanovená kritéria.
Pozastaveno nebo v přezkumu: Je vyžadováno dodatečné ověření.
Zrušeno: Služba již nepovažuje certifikát za platný.
Nedostupné: Stav nelze v tuto chvíli ověřit.

Odvolání by se mohlo odrážet v emblémech, které aktivně dotazují službu. Statický obrázek odznaku, snímek obrazovky nebo offline kopie by se však neaktualizovaly automaticky.

Dynamická verifikace také závisí na dostupnosti API, zabezpečení služby a na tom, jak často se provádějí kontroly stavu.

Je proto přesnější popisovat to jako online-ověřitelný a zrušitelný certifikační status než jako neporušitelná architektura.

Proč samotná revokace nedokáže zabránit podvodům

Zrušení umožňuje stažení certifikace, když jsou splněny zadané podmínky. Nezaručuje však, že každá kopie odznaku zmizí nebo že každý uživatel zkontroluje jeho aktuální stav.

Aby se navázala důvěra, musí systém zahrnovat transparentní kritéria pro odvolání, postup pro odvolání a jasné politiky pro řešení chyb, sporů a technických výpadků.

Transparentní pravidla jsou stejně důležitá jako základní technologie.

5. Not By AI vs. C2PA vs. Verumano: Porovnání tří přístupů

Tyto tři modely se mohou vzájemně doplňovat, ale jejich záruky nejsou zaměnitelné.

Kritérium	Není od umělé inteligence	C2PA	Verumano, jak je popsán
Primární účel	Vyjádřit závazek k lidské tvořivosti	Digitální provenience dokumentu	Proveřit důkazy tvůrčího procesu
Typ důkazu	Prohlášení a podmínky použití	Ověřitelné manifesty a podpisy	Zdrojové soubory a lidská recenze
Role kryptografie	Není ústředním prvkem odznaku	Klíčová pro technické ověření	Hashing souborů a navrhované API
Nezávislé ověření	Závisí na nabízených službách a procedurách	Prostřednictvím kompatibilních nástrojů a modelu důvěry	Závisí na postupech kontroly a implementaci
Zrušení	Závisí na podmínkách programu	Zpracování podpisu a důvěry v závislosti na okolnostech	Odvolatelný status je součástí popsaného přístupu
Hlavní omezení	Samotný závazek nedokazuje původ	Původ sám o sobě neprokazuje lidské vytvoření	Důkazy a přezkum nemohou zaručit absolutní jistotu
Přístupnost	Dostupnost odznaků závisí na podmínkách programu	Otevřený standard, s různými nástroji	Vyžaduje potvrzení skutečné dostupnosti a podmínek

Otevřená povaha standardu by neměla být zaměňována s tím, že každá služba na něm postavená je bezplatná. Podobně může open-source projekt usnadnit auditování kódu, ale samotná dostupnost open-source nezaručuje spolehlivost recenzenta ani pravdivost certifikace.

Srovnání by se proto mělo zaměřit na skutečně poskytované záruky, nikoli na slibované možnosti.

6. Můžeme skutečně prokázat, že je dílo vytvořeno z 100 % lidskou rukou?

Toto je ústřední otázka a vyžaduje opatrný odpověď.

Žádný z těchto tří přístupů nemůže sám o sobě s absolutní jistotou prokázat, že dílo nikdy nemělo prospěch z asistence umělé inteligence.

Historie verzí může být neúplná. Zdrojové soubory mohou být vytvořeny nebo změněny. Digitální podpis může být platný i když doprovází nepřesné tvrzení. Lidské posouzení může zvýšit důvěru, aniž by eliminovalo veškeré riziko chyby nebo podvodu.

Kromě toho je třeba definovat, co znamená lidská tvorba. Dílo mohlo být člověkem koncipováno a složeno při opření se na korekturu, úpravu obrázků nebo částečnou pomoc generativních nástrojů. Jeho klasifikace závisí na aplikovaných kritériích.

Aby byl štítek smysluplný, musí specifikovat to, co certifikuje:

Absence umělé inteligencí generovaného obsahu.
Převážně člověkem vytvořené dílo.
Zdokumentovaný a přezkoumávaný tvůrčí proces.
Integrita souboru od určitého bodu v čase.
Prohlášení tvůrce týkající se použitých nástrojů.

Tato tvrzení nejsou ekvivalentní.

Důvěryhodná certifikace by měla zveřejnit svůj rozsah, kritéria, požadavky na důkazy a omezení. Měla by také vysvětlit, zda certifikuje absenci AI, definovanou úroveň lidské participace, nebo pouze zdokumentovaný tvůrčí proces.

7. Směrem ke konvergenci mezi digitální proveniencí a certifikací lidské tvorby

Nejlepší dlouhodobé řešení nemusí být vybrat si mezi C2PA a certifikací zaměřenou na lidskou tvůrčí práci.

Oba přístupy by se potenciálně mohly kombinovat. Protokol, který zkoumá tvůrčí proces, by mohl například svůj výsledek přezkumu propojit s podepsaným prohlášením o původu kryptograficky vázaným na artwork.

Taková integrace by mohla spojit dvě komplementární dimenze:

Technické důkazy: schopnost ověřit integritu informací spojených se souborem.
Důkazy procesu: materiály zkoumané a kritéria aplikovaná během certifikace.

Tato konvergence by vyžadovala jasné specifikace: kdo podepisuje tvrzení, kdo je zodpovědný za ověření, jak se publikují revokace a jak by měli uživatelé interpretovat výsledky.

Bylo by také důležité zabránit tomu, aby se tvrzení jako "100% vytvořeno člověkem" automaticky považovalo za pravdivé pouze proto, že se objevuje v kryptograficky platném manifestu.

Kryptografie může učinit prohlášení ověřitelným a detekovat určité úpravy. Nemůže však sama o sobě proměnit toto prohlášení v pravdu.

Závěr: Důvěra se neprohlašuje. Dokumentuje se.

V éře generativní umělé inteligence nebude ochrana lidské tvůrčosti pravděpodobně záviset na jediné značce nebo zázračném algoritmu.

Vlastně deklarované označení mohou učinit závazek viditelným. C2PA poskytuje technický rámec pro dokumentování a ověřování původu obsahu. Přístup, jako je ten popsaný pro Verumano, se snaží tyto mechanismy doplnit zkoumáním tvůrčího procesu.

Každá metoda řeší jiné potřeby a má svá vlastní omezení.

Pro nezávislé tvůrce představuje výzvu prokázat, jak bylo dílo vytvořeno, zachovat podpůrné důkazy a jasně komunikovat o jakémkoliv používání AI. Pro publikum je výzvou pochopit, co bylo skutečně ověřeno, než se rozhodne, zda důvěřovat tvrzení.

Skutečná hodnota certifikace tedy nespočívá v příslibu absolutní neporušitelnosti, ale v transparentních kritériích, silných důkazech, nezávislé kontrole a možnosti napadnout rozhodnutí.

V éře AI nebudou nejlepší certifikace tvrdit, že odstraní všechny pochyby. Poskytnou lidem prostředky k pochopení toho, co bylo prokázáno, co bylo pouze prohlášeno, a co zůstává nejisté.

Zdroje a Reference

Redakční poznámka: Tyto zdroje dokumentují obecné mechanismy a veřejně dostupná pravidla odkazovaných iniciativ. Tvrzení o specifických funkcích Verumanů by měla být podporována odkazy na jeho oficiální specifikaci, úložiště zdrojového kódu, npm balíček a ověřovací službu, pokud jsou tyto dostupné a lze je nezávisle ověřit.

Válka na štítcích: Jak můžeme prokázat, že dílo je z 100 % lidské práce v éře umělé inteligence?