Vojne oznak: Dokazovanje človešne kreativnosti v dobi umetne inteligence

Avtor: Camille G., ustanovitelj Verumanoja.

Internet se sooča z naraščajočo krizo zaupanja. Generativna umetna inteligenca lahko zdaj proizvaja ilustracije, romane, glasbene skladbe in videoposnetke, ki jih je včasih težko razlikovati od človeško ustvarjenih del. Za umetnike, pisatelje, fotograife in glasbenike postaja eno vprašanje vedno bolj pomembno: Kako lahko ustvarjalci dokažejo, da njihovo delo res izvira iz človekovega napora?

Pojavljajo se različni pristopi za reševanje te izziva. Nekateri se opirajo na javno zavezanost ustvarjalca, kot je Ne z umetno inteligenco značka. Drugi se osredotočajo na kriptografsko poreklo, kot je to Standard C2PA (Koalicija za izvor in avtentičnost vsebine). Tretji pristop, ki ga zastopa Verumanološki protokol kot je opisano tukaj, ima za cilj postaviti ustvarjalni proces in človeški pregled v središče certifikacije.

Vendar te rešitve ne odgovarjajo točno na isto vprašanje. Razglasitev, da je delo človeško ustvarjeno, sledenje njegovi tehnični zgodovini in preučevanje dokazov njegovega nastanka so tri različni procesi.

Ali je lahko umetnina res certificirana kot 100 % človeško ustvarjena (brez umetne inteligence)? In kaj lahko certifikacija zagotovi brez obljube nemogočega?

1. Samodeklarativne oznake: Zaupanje se začne pri ustvarjalcu

Ne s pomočjo umetne inteligence: Javno zavezanost človeški ustvarjalnosti

Ker se vsebina, ustvarjena s pomočjo umetne inteligence, vse bolj širi, so nekatere iniciative sprejele neposreden pristop: omogočanje ustvarjalcem, da javno izrazijo svojo zavezanost človeški ustvarjalnosti.

En primer primer je Ne z umetno inteligenco, ki ponuja značke za pisatelje, umetnike in druge ustvarjalce vsebin.

Pobuda uporablja pravilo 90%: po navedenih kriterijih programa mora biti najmanj 90% ustrezne vsebine ustvarjene s strani človekov. Določena omejena uporaba AI je lahko dovoljena, pod pogojem da so izpolnjeni pravila, ki se nanašajo na posamezni tip vsebine.

Značka deluje kot signal za gledalce. Sporoča položaj ustvarjalca in naredi njihovo zavezanost človeški ustvarjalnosti vidno.

Omejitev: Značka ni tehnični dokaz

Grafični značek se lahko kopira, reproducira ali prikazuje brez dovoljenja. Sam po sebi ne vzpostavlja izvora datoteke niti ne dokumentira korakov, vključenih v njeno ustvarjanje.

Vendar je pomembno razlikovati značko samo po sebi od širše pobude. Not By AI prav tako zagotavlja podatke o svojem programu in pogojih uporabe. Njen pristop ne bi smeli nujno zmanjšati na statično sliko.

Temeljna omejitev ostaja: izjava, tudi če jo spremlja javno zavezujočo se, ne zagotavlja samodejno, da je vsaka trditev o contentu točna.

Ključna ugotovitev: Samoproklamirana oznaka lahko sporoči namen in naredi zavezanost vidno. Ne smemo je zamenjati z neodvisno tehnično certificiranostjo.

Vir: Ne z AI — Pravilo 90% in Pogoji uporabe.

2. C2PA: Sledenje digitalnemu izvoru kreativnega dela

Kaj je standard C2PA?

The Koalicija za dokazovanje izvora in avtentičnost vsebine (C2PA) razvija odprt standard, namenjen dokumentiranju izvora digitalnih vsebin in sprememb, ki jih doživijo.

S podporo organizacij iz tehnološke in medijske industrije standard zagotavlja preverljive informacije o izvoru in zgodovini slik, videoposnetkov in drugih kompatibilnih datotek.

Tehnologija se uporablja v širšem ekosistemu Content Credentials, ki zagotavlja informacije o izvoru in zgodovini urejanja digitalnih vsebin.

Kako deluje certificiranje C2PA?

Razmislite o fotografiji, posneti s kompatibilno kamero.

Ob zajemu lahko sistem zabeleži informacije o izvoru datoteke in jih poveže s podpisanim manifestom. Če je fotografija naknadno urejena v kompatibilni programski opremi, je mogoče zapisati dodatne podatke o izvoru, da bi dokumentirali spremembe.

Digitalni podpisi in kriptografski mehanizmi vezanja omogočajo preverjanje določenih lastnosti manifesta in lahko razkrijejo spremembe, ki so v nasprotju z zabeleženim podatki.

Vendar to ne ustvari univerzalnega, nespodbitnega zapisa vsega, kar se je zgodilo umetninskemu delu od njegove nastanka. Kakovost razpoložljivih informacij je odvisna od uporabljenih orodij, korakov, ki so bili dejansko dokumentirani, in kako se vsebina obdela in distribuira.

Uradna dokumentacija opisuje to arhitekturo v C2PA Tehnična Specifikacija.

Preverljivo poreklo ne pomeni izključno človeško ustvarjalnost

To je ključna razlika.

C2PA je zasnovan tako, da omogoči preverjanje informacij o izvoru in določenih trditev, ki so povezane z vsebino. Standard sam po sebi ne določi, ali je umetniško delo umetniško izvirno, etično sprejemljivo ali izključno ustvarjeno s strani človeka.

Slika, ustvarjena s sistemom umetne inteligence, lahko vsebuje tudi veljaven podatek o izvoru, ki dokumentira uporabo tega sistema.

Kriptografsko veljaven manifest pomeni, da so bile izpolnjene določene tehnične previerke. To ne zagotavlja, da so vse trditve v manifestu faktično resnične.

C2PA lahko pomaga odgovoriti na vprašanje: "Od kje je ta datoteka prišla in katera dejanja so bila dokumentirana?" Vendar pa ne more nujno odgovoriti na vprašanje: "Ali je to delo v celoti ustvarila oseba?"

Ali je C2PA samo za strokovnjake?

Bilo bi netočno opisati C2PA kot vsebinsko drag ali omejen na visokokakovostno opremo.

Standard je odprt in ga je mogoče implementirati v različnih strojnih in programskih orodjih. Nekatere aplikacije so morda odvisne od specializirane opreme, komercialne storitve ali združljivega plačljivega programa, vendar se stroški razlikujejo glede na izvedbo.

Za neodvisne ustvarjalce so izzivi tudi praktični: razpoložljivost kompatibilnih orodij, preprostost uporabe, združljivost med različnimi platformami in ohranitev informacij o izvoru.

Vir: C2PA — Uradne tehnične specifikacije.

3. Verumano: Preučevanje ustvarjalnega procesa, ne le končne datoteke

Pristop usmerjen v dokaze stvarjenja

The Verumanološki protokol, kot je opisano v tem članku, sledi komplementarni pristop. Namesto da bi se osredotočal izključno na informacije, priložene končni datoteki, si prizadeva preučiti dokaze, ki pomagajo razložiti, kako je bilo delo ustvarjeno.

Ta pristop je namenjen ilustratorjem, fotografom, piscem, glasbenikom in drugim neodvisnim ustvarjalcem, ki želijo dokumentirati svoja dela in narediti svoje trditve bolj verodostojne.

Načelo je zbrati telo dokazov, ustreznih za ustvarjalno disciplino. To lahko vključuje:

Različne verzije projektov in vmesne stopnje.
Delovne datoteke in plasti, kjer so na voljo.
Originalne RAW datoteke za fotografijo.
Ločeni zvočni stezi in seje glasbenega produciranja.
Osnutki, skice, zapiski in druga ustrezna gradiva.
Opis uporabljenih orodij in morebitne vključenosti umetne inteligence.

Ta gradiva avtomatično ne dokazujejo, da AI ni bil nikoli vpleten. Lahko pa pomagajo pregledovalcu oceniti skladnost dokumentiranega postopka in moč predloženega dokaza.

Zakaj vključiti človeški pregled?

Človeški pregled lahko zagotovi dimenzijo, ki jo sama kriptografija ne more: kontekstno oceno predloženega dokaza.

Na primer, recenzent lahko preveri, ali so stopnje ilustracije skladne, ali delovne datoteke ustrezajo končni umetniški deli in ali je dostopna dokumentacija verodostojna predstava proizvodnega procesa.

Ta pristop ima še vedno omejitve. Izvorne datoteke so lahko nepopolne, zgodovine je mogoče ponarejati, in pregledovalci se lahko motijo. Delo s pomočjo umetne inteligence je mogoče tudi ročno izboljšati in ga spremljati s prepričljivimi delovnimi datotekami.

Kakovost tovrstnega certifikovanja je zato odvisna od javnih meril, dokumentirane revizijske postopke, strokovnosti pregledovalcev in mehanizmov za izpodbijanje odločitev.

Smiselna obljuba ni absolutni dokaz človekove čistosti, ampak dokumentiran in pregledljiv prikaz ustvarjalnega procesa.

Opomba o preglednosti: Mehanizmi, specifični za Verumano, opisani v tem razdelku odražajo navedeni pristop protokola. Njihova dejanska razpoložljivost, pravila potrjevanja in lastnosti varnosti bi morali biti potrjeni v javni tehnični dokumentaciji in preverljivi demonstraciji.

4. SHA-256 Zgoščevalne vrednosti in dinamični znački: Kaj dejansko dokazujejo?

Sistem certificiranja, ki kombinira kriptografsko zgostitev, podporne dokaze in spletno preverjanje stanja, je lahko koristen. Vendar pa ima vsaka komponenta svojo vlogo in omejitve.

Ali SHA-256 heš dokazuje, da je umetniško delo napravljen s strani človeka?

Ne.

SHA-256 je kriptografska zgoščevalna funkcija, ki izračuna prstni odtis iz podatkov datoteke. Uporabite jo lahko za primerjavo datotek: če se njune zgoščevalne vrednosti razlikujejo, se razlikujejo tudi njeni podatki, če upoštevamo varnostne predpostavke algoritma.

Vendar pa hash ne razkrije, kako je bila datoteka proizvedena.

Ročno narisana ilustracija in ilustracija, ustvarjena z umetno inteligenco, lahko obe imata SHA-256 zgoščevalni vrednosti. Izračun ne more razlikovati med njunima izvoroma.

Zgoščenka služi drugemu namenu: lahko poveže preverjanje s posebno datoteko. Če se datoteka spremeni, se običajno spremeni tudi njena zgoščenka.

Za nadaljnje informacije si oglejte Dokumentacija NIST o kriptografskih funkcijah zgoščevanja.

Kako bi lahko deloval spletni preverjeni značek?

V predlaganem Verumanská arhitekturase lahko značka poizveduje API, da prikaže trenutni status certifikacije.

Sistem take vrste bi lahko razlikoval med več stanji:

Certificirano ali potrjeno: Oddaja je izpolnila navedena merila.
Suspendirano ali v pregledu: Dodatna preverjanja so potrebna.
Preklicano: Storitev več ne šteje certifikata za veljavnega.
Nedostopno: Stanja trenutno ni mogoče preveriti.

Preklica bi se lahko odražal v značkah, ki aktivno povprašajo storitev. Vendar pa bi se statična slika značke, posnetek zaslona ali izvod za delo brez povezave ne osveževala samodejno.

Dinamična preverka je odvisna tudi od razpoložljivosti API-ja, varnosti storitve in od tega, kako pogosto se izvajajo preverjanja stanja.

Zato je bolj natančno to opisati kot spletno-preverljiv in preklicljiv status potrdila kot kot nespremenljiva arhitektura.

Zakaj samo preklicanje ne more preprečiti goljufij

Preklic omogoča, da se certifikat umakne, ko so izpolnjeni določeni pogoji. Ne zagotavlja pa, da bodo izginile vse kopije značke ali da bo vsak uporabnik preveril njen trenutni status.

Za vzpostavitev zaupanja je treba, da sistem vsebuje pregledna merila za preklical, postopek pritožbe in jasne politike za obravnavo napak, sporov in tehnične motnje.

Transparentna pravila so enako pomembna kot temeljna tehnologija.

5. Not By AI v. C2PA v. Verumano: Primerjava treh pristopov

Ti trije modeli se lahko dopolnjujejo, vendar njihova jamstva niso zamenljiva.

Merilo	Ne z umetno inteligenco	C2PA	Verumano, kot je opisano
Primarni namen	Izraziti zavezanost človeški ustvarjalnosti	Digitalna izvirnost dokumenta	Preučite dokaze ustvarjalnega procesa
Vrsta dokazov	Izjava in pogoji uporabe	Preverljivi manifesti in podpisi	Izvorne datoteke in pregled človeka
Vloga kriptografije	Ni osrednjega dela značke	Ključno za tehnično preverjanje	Razprševanje datotek in predlagani API
Neodvisno preverjanje	Odvisno od ponujenih storitev in postopkov	Preko kompatibilnih orodij in modela zaupanja	Odvisno od postopkov pregleda in izvedbe
Preklic	Odvisno od pogojev programa	Obravnava podpisa in zaupanja, odvisno od okoliščin	Preklicni status je del opisanega pristopa
Glavna omejitev	Samo zaveza ne dokazuje izvor	Provenienca sama po sebi ne dokazuje ustvarjanja s strani človeka	Dokazi in pregled ne morejo zagotoviti absolutne gotovosti
Dostopnost	Dostopnost značk je odvisna od pogojev programa	Odpriti standard, z različnimi orodji	Zahteva potrditev dejanskega stanja in pogojev

Odprte narave standarda ne smemo zamešati s tem, da je vsaka storitev, ki je zgrajena okrog njega, brezplačna. Prav tako lahko odprtokodni projekt olajša revizijo kode, vendar sama dostopnost odprtokodnega programa ne zagotavlja zanesljivosti pregledovalca ali resničnosti certifikacije.

Primerjava bi se zato morala osredotočiti na zagotovila, ki so dejansko zagotovljena, in ne na obljube, ki se dajejo.

6. Ali res lahko dokažemo, da je delo 100 % človeško narejeno?

To je osrednje vprašanje, ki zahteva previden odgovor.

Noben od teh treh pristopov ne more sam po sebi z absolutno gotovostjo ugotoviti, da je nekateri opus nikoli koristil pomoči umetne inteligence.

Zgodovina verzij je lahko nepopolna. Izvorne datoteke je mogoče fabricirati ali spremeniti. Digitalni podpis je lahko veljaven tudi, kadar spremlja nepravilno trditev. Človeški pregled lahko poveča zaupanje, ne da bi odpravil vsak tveganju napake ali goljufije.

Poleg tega je treba opredeliti pomen človeške tvorbe. Delo je morda zasnoval in komponiral človek, vendar se pri tem zanašal na lekturiranje, urejanje slik ali delno pomoč generativnih orodij. Njegova klasifikacija je odvisna od uporabljenih meril.

Da je oznaka smiselna, mora natanko navedti, kaj certifikuje:

Odsotnost vsebine, generirane s pomočjo umetne inteligence.
Delo, ki ga je ustvaril predvsem človek.
Dokumentiran in pregleden ustvarjalni proces.
Celovitost datoteke od določenega trenutka naprej.
Izjava ustvarjalca o uporabljenih orodjih.

Te trditve niso enakovredne.

Verodostojna certifikacija bi morala objaviti svoj obseg, merila, zahteve glede dokazov in omejitve. Pojasniti bi morala tudi, ali sertificira odsotnost umetne inteligence, določeno raven človekovega angažiranja ali preprosto dokumentirani ustvarjalni proces.

7. Proti konvergenci med digitalno provenianco in certifikacijo človekovega ustvarjanja

Najboljša dolgoročna rešitev morda ni, da se odločimo med C2PA in certificiranjem, osredotočenim na tvorčev človeško delo.

Dva pristopa bi se lahko potencialno kombinirala. Protokol, ki pregleda ustvarjalni proces, bi se na primer lahko povezal s svojim rezultatom pregleda in s podpisano izjavo o poreklu, ki je kriptografsko povezana s художskim delom.

Takšna integracija bi lahko združila dve komplementarni dimenziji:

Tehnični dokazi: zmožnost preverjanja celovitosti informacij, povezanih z datoteko.
Procesni dokazi: pregledani materiali in merila, ki so bila uporabljena pri certificiranju.

To zbliževanje bi zahtevalo jasno specifikacijo: kdo podpisuje izjave, kdo je odgovoren za preverjanje, kako se objavljajo preklici in kako bi morali uporabniki interpretirati rezultate.

Prav tako bi bilo pomembno preprečiti, da bi bila izjava, kot je "100% narejeno s strani človeka", avtomatično obravnavana kot resnična le zato, ker se pojavi v kriptografsko veljavnem manifestu.

Kriptografija lahko deklaracijo naredi preverljivo in odkrije določene spremembe. Sama po sebi pa je ne more spremeniti v resnico.

Zaključek: Zaupanje se ne razglaša. Dokumentira se.

V dobi generativne umetne inteligence zaščita človeške ustvarjalnosti verjetno ne bo odvisna od enega samega znaka ali čudežnega algoritma.

Samoproglašeni odznaki lahko naredijo zavezanost vidno. C2PA zagotavlja tehnični okvir za dokumentiranje in preverjanje izvora vsebine. Pristop, kot je tisti, opisan za Verumano, te mehanizme dopolnjuje s preučevanjem ustvarjalnega procesa.

Vsaka metoda naslavlja različno potrebo in ima svoje omejitve.

Za samostojne ustvarjalce je izziv pokazati, kako je bilo delo nastavljeno, ohraniti podporne dokaze in jasno sporočati o kakršni koli uporabi umetne inteligence. Za gledalce je izziv razumeti, kaj je bilo dejansko preverjeno, preden se odločijo, ali naj zaupajo trditvi.

Prava vrednost certifikacije torej ne leži v obljubi absolutne neprecenljivosti, ampak v preglednih kriterijih, močnih dokazih, neodvisni presoji in možnosti izpodbijanja odločitve.

V dobi umetne inteligence najboljša potrditev ne bo trdila, da odpravi vse dvome. Ljudem bo dala sredstva za razumevanje tega, kaj je bilo ugotovljeno, kaj je le deklarirano in kaj ostaja negotovo.

Viri in Reference

Opomba urednika: Ti viri dokumentirajo splošne mehanizme in javno dostopna pravila navedenih pobud. Trditve o posebnih značilnostih Verumana bi morale biti podprte s povezavami na njegovo uradno specifikacijo, skladišče izvorne kode, paket npm in storitev preverjanja, kadarkoli so te dostopne in jih je mogoče neodvisno preveriti.

Vojna označb: Kako lahko dokažemo, da je delo 100 % ustvarjeno s strani človeka v dobi umetne inteligence?