Camille G., „Verumano" įkūrėjos, parašyta.
Internetas susiduria su augančia pasitikėjimo krize. Generaciniai dirbtinio intelekto modeliai dabar gali kurti iliustracijas, romanus, muzikos kūrinius ir vaizdo įrašus, kurie kartais yra sunkiai atskirti nuo žmogaus kuriamo darbo. Menininkams, rašytojams, fotografams ir muzikantams tampa vis svarbesnė viena problema: Kaip kūrėjai gali pademonstruoti, kad jų darbas tikrai yra žmogaus pastangų rezultatas?
Atsiranda keletas požiūrių į šio iššūkio sprendimą. Kai kurie remiasi autoriaus viešu įsipareigojimu, pavyzdžiui, Ne dirbtinio intelekto ženklas. Kiti sutelkiasi į kriptografinę pradžią, kaip su C2PA standartas (Koalicija dėl turinio kilmės ir autentiškumo). Trečiasis metodas, kurį atstovauja Verumanो protokolas kaip aprašyta čia, siekia tvirtinimo centre sutelkti kūrybinį procesą ir žmonių vertinimą.
Tačiau šie sprendimai neatsakyti į visai tą patį klausimą. Deklaravimas, kad darbas yra žmogaus sukurtas, jo techninio geneziaus tyrinėjimas ir kūrimo įrodymų nagrinėjimas yra trys skirtingi procesai.
Ar veikalas tikrai gali būti sertifikuotas kaip 100% žmogaus sukurtas (be dirbtinio intelekto)? Ir kokias garantijas gali suteikti sertifikatas, neobiecydamas neįmanomo?
1. Savęs priskiriami žymekliai: Pasitikėjimas prasideda nuo kūrėjo
Ne dirbtinio intelekto: Žmogiškosios kūrybiškumo įsipareigojimo matomas patvirtinimas
Kadangi dirbtinio intelekto sukurtas turinys tampa vis plačiau paplitęs, kai kurios iniciatyvos priėmė paprastą požiūrį: leidžia kūrėjams viešai pareiškinti savo įsipareigojimą žmonių kūrybai.
Vienas pavyzdys yra Ne dirbtinio intelekto, kuris siūlo ženklelius rašytojams, menininkams ir kitiems turinio kūrėjams.
Iniciatyva naudoja 90% taisyklę: pagal nustatytas programos kriterijus, bent 90% atitinkamo turinio turi būti sukurta žmonių. Tam tikri ribotas AI panaudojimas gali būti leidžiamas, atsižvelgiant į taikytas kiekvieno turinio tipo taisykles.
Ženklas veikia kaip signalas žiūrovams. Jis komunikuoja kūrėjo poziciją ir padaro jų įsipareigojimą žmonių kūrybiškumui matomą.
Apribojimas: Ženklas nėra techninis įrodymas
Grafinį ženklelį galima nukopijuoti, atkartoti arba rodyti be leidimo. Savaime jis nenustatyto failo kilmės ir nedokumentuoja žingsnių, kurie buvo atlikti jį kuriant.
Tačiau svarbu atskirti patį ženklelį nuo platesnės iniciatyvos. „Not By AI" taip pat pateikia informaciją apie savo programą ir naudojimo sąlygas. Jo metodas neturėtų būti redukuojamas į statinį vaizdą.
Pagrindinis apribojimas išlieka: deklaracija, net ir turėdama viešą įsipareigojimą, automatiškai negarantuoja, kad kiekvienas tvirtinimas apie turinio dalį yra tikslus.
Pagrindinė išvada: Savividžiai skelbiamas ženklas gali perteikti ketinimą ir padaryti įsipareigojimą matomu. Jis neturėtų būti painiojamas su nepriklausomu techniniu sertifikavimu.
Šaltinis: Ne pagal AI — 90% taisyklė ir naudojimo sąlygos.
2. C2PA: Skaitmeninės kūrybinių darbų kilmės sekimas
Kas yra C2PA standartas?
The Koalicija dėl turinio kilmės ir autentiškumo (C2PA) kuria atvirą standartą, skirtą skaitmeninio turinio kilmei dokumentuoti ir jo atliekamiems pakeitimams.
Remidami technologijų ir medijų industrijos organizacijų, standartas siekia pateikti patikrintą informaciją apie vaizdų, vaizdo įrašų ir kitų suderinamos formos failų kilmę bei istoriją.
Technologija naudojama platesniame Turinio kredencialų ekosistemoje, kuri suteikia informaciją apie skaitmeninio turinio kilmę ir redagavimo istoriją.
Kaip veikia C2PA sertifikavimas?
Apsvarstykite nuotrauką, nuimtą su suderinta fotoaparato.
Fiksuojant, sistema gali įrašyti informaciją apie failo kilmę ir ją susieti su pasirašytu manifestu. Jei vėliau nuotrauka redaguojama suderinamoje programinėje įrangoje, papildomą kilmės informaciją galima įrašyti, kad dokumentuotumėte atliktus pakeitimus.
Skaitmeniniai parašai ir kriptografiniai surišimo mechanizmai leidžia patikrinti tam tikras manifesto savybes ir gali atskleisti pakeitimus, kurie neatitinka užregistruotų duomenų.
Tačiau tai nesukuria universalaus, neklaidingas visų įvykių, kurie nutiko kūriniui nuo jo sukūrimo, zapiso. Turimos informacijos kokybė priklauso nuo naudojamų įrankių, iš tikrųjų dokumentuotų žingsnių ir nuo to, kaip turinys yra apdorojamas ir platinamas.
Oficiali dokumentacija aprašo šią architektūrą C2PA Techninė Specifikacija.
Patikrintina kilmė Nereiškia Išskirtinai Žmogaus Sukūrimo
Tai yra žymiausi skirtumas.
C2PA skirta tam, kad būtų galima patikrinti turinio kilmės informaciją ir tam tikrus su juo susijusius teiginius. Šis standartas pats savaime nenustatymo, ar veikalas yra artistiškai originalus, etiškai priimtinas arba sukurtas tik žmogaus.
Vaizdas, sukurtas AI sistemos, taip pat gali turėti patikimą šaltinio informaciją, dokumentuojančią tos sistemos naudojimą.
Kriptografiškai galiojantis manifestas reiškia, kad tam tikri techniniai patikriniai buvo sėkmingi. Tai negarantuoja, kad kiekvienas manifestame pateiktas teiginys yra faktiškai teisingas.
C2PA gali padėti atsakyti į klausimą „Iš kur atsirado šis failas ir kokie veiksmai buvo dokumentuoti?" Tačiau jis nebūtinai gali atsakyti į klausimą „Ar šis darbas buvo sukurtas tik žmogaus?"
Ar C2PA tik profesionalams?
Būtų netikslūs aprašyti C2PA kaip iš esmės brangią arba ribotą tik aukštos klasės įrangai.
Standartas yra atviras ir gali būti įdiegtas skirtingose aparatinės ir programinės įrangos priemonėse. Kai kurios programos gali priklausyti nuo specializuotos įrangos, komercinių paslaugų arba suderinamų mokamų programų, tačiau išlaidos skiriasi priklausomai nuo įdiegimo.
Nepriklausomiems kūrėjams iškyla ir praktiniai iššūkiai: suderinamų įrankių prieinamumas, naudojimosi paprastumas, keliaplataforminė suderinamumas ir kilmės informacijos išsaugojimas.
Šaltinis: C2PA — Oficialios techninės specifikacijos.
3. Verumano: Tyrinėjant kūrybinį procesą, o ne tik galutinį failą
Požiūris, sutelktas į Kūrimo įrodymais
The Verumanो protokolas, kaip aprašyta šiame straipsnyje, naudoja papildomąjį požiūrį. Užuot sutelkęsis tik į informaciją, susijusią su galutine failu, jis siekia išnagrinėti įrodymus, kurie padeda paaiškinti, kaip kūrinys buvo sukurtas.
Šis požiūris skirtas iliustratoriais, fotografams, rašytojams, muzikantams ir kitiems nepriklausomai kurintiems asmenims, kurie nori dokumentuoti savo darbą ir padaryti savo tvirtinimus patikimesniais.
Principas yra surinkti įrodymų rinkinį, atitinkantį kūrybinę discipliną. Tai gali apimti:
- Skirtingos projekto versijos ir tarpiniai etapai.
- Darbiniai failai ir sluoksniai, jei yra.
- Originalūs RAW failai fotografijai.
- Atskiri garso takai ir muzikos gamybos sesijos.
- Juodraščiai, eskizai, užrašai ir kiti svarbūs medžiagai.
- Naudotų įrankių aprašymas ir bet koks AI dalyvavimas.
Šios medžiagos automatiškai neįrodo, kad AI niekada nebuvo įtraukta. Tačiau jos gali padėti peržiūrintojui įvertinti dokumentuoto proceso nuoseklumą ir pateiktų įrodymų patikimumą.
Kodėl įtraukti žmogiškąjį vertinimą?
Žmonių peržiūra gali suteikti aspektą, kurio viena kriptografija negali: pateiktų įrodymų kontekstinį vertinimą.
Pavyzdžiui, peržiūrėtojas gali patikrinti, ar iliustracijos etapai yra nuoseklūs, ar darbiniai failai atitinka galutiną kūrinį ir ar turima dokumentacija pateikia patikimą gamybos proceso aprašą.
Šis požiūris vis dar turi apribojimų. Šaltinio failai gali būti neišsamūs, istorijos gali būti suklastotos, o recenzentai gali padaryti klaidas. Dirbant su dirbtinio intelekto pagalba, darbą taip pat galima rankiniu būdu patobulinti ir pateikti kartu su įtikinamais darbo failais.
Todėl šio tipo sertifikavimo kokybė priklauso nuo viešai prieinamų kriterijų, dokumentuotų peržiūros procedūrų, peržiūrinėtojo kompetencijos ir mechanizmų sprendimams iš jų apskųsti.
Reikalinga pažadas nėra absoliutus žmogaus tyrų įrodymas, bet dokumentuota ir peržiūrima kūrybinio proceso ataskaita.
Skaidrumo pastaba: Šiame skyriuje aprašyti Verumano specifiniai mechanizmai atspindi protokolo deklaruotą metodą. Jų faktinį prieinamumą, sertifikavimo taisykles ir saugumo savybes reikėtų patvirtinti per viešąją techninę dokumentaciją ir patikrintą demonstraciją.
4. SHA-256 Hešai ir Dinaminės Žymos: Ką Jie Iš Tiesų Įrodo?
Sertifikavimo sistema, sujungiant kriptografinį maišą, pagrindinius įrodymus ir internetinio statuso patikrinimą, gali būti naudinga. Tačiau kiekvienas komponentas turi specifinį vaidmenį ir apribojimus.
Ar SHA-256 maišas įrodo, kad kūrinys yra žmogaus sukurtas?
Ne.
SHA-256 yra kriptografinė maiš funkcija, kuri iš failo duomenų apskaičiuoja pirštų atspaudą. Ji gali būti naudojama failams palyginti: jei jų maiš kodai skiriasi, tai ir jų duomenys skiriasi, atsižvelgiant į algoritmo saugumo prielaidas.
Tačiau heš neatskleidžia, kaip buvo sukurtas failas.
Rankiniu būdu nubrėžta iliustracija ir dirbtinio intelekto sukurta iliustracija gali turėti SHA-256 maišus. Skaičiavimas negali atskirti jų kilmės.
Heš atlieka kitą funkciją: jis gali susieti patvirtinimą su konkrečiu failu. Jei failas pasikeičia, jo heš paprastai taip pat pasikeičia.
Daugiau informacijos rasite NIST dokumentacija apie kriptografinius maišos funkcijas.
Kaip galėtų veikti internetinė patvirtinimo ženklelis?
Pasiūlytame Verumanų architektūra, ženklas galėtų naudoti API, kad būtų rodyta dabartinė sertifikavimo būsena.
Tokia sistema galėtų atskirti kelis būvius:
- Sertifikuota arba patvirtinta: Pateikta medžiaga atitinka nurodytus kriterijus.
- Sustabdyta arba peržiūrima: Reikalinga papildoma patvirtinimo.
- Panaikintas: Sertifikatas nebegalioja pagal šios paslaugos standartus.
- Nepasiekiama: Šiuo metu statuso nepavyksta patikrinti.
Atšaukimas galėtų būti atspindėtas žymuose, kurie aktyviai apklausia paslaugą. Tačiau statinė žymo nuotrauka, ekrano kopija arba autonominis kopija nebūtų automatiškai atnaujinta.
Dinaminis patvirtinimas taip pat priklauso nuo API prieinamumo, paslaugos saugumo ir to, kaip dažnai atliekamas būsenos patikrinimas.
Todėl tiksliau būtų tai apibūdinti kaip internete patikrinama ir atšaukiama sertifikavimo būsena nei kaip neliečiama architektūra.
Kodėl vien tik atšaukimas negali užkardyti sukčiavimą
Atšaukimas leidžia sertifikatą atšaukti, kai įvykdomos nustatytos sąlygos. Tai negarantuoja, kad kiekvienas ženklo kopija išnyks arba kad kiekvienas vartotojas patikrinės jo dabartinę būklę.
Norint užmegzti pasitiklėjimą, sistema turi turėti skaidrias atšaukimo kriterijus, skundų procedūrą ir aiškias politikas klaidoms, ginčams ir techninėms problemoms spręsti.
Skaidrios taisyklės yra tokios pat svarbios, kaip ir pagrindinė technologija.
5. Not By AI prieš C2PA prieš Verumano: Trijų požiūrių palyginimas
Šie trys modeliai gali papildyti vienas kitą, tačiau jų garantijos nėra sukeičiamos.
| Kriterijus | Ne dirbtinio intelekto | C2PA | Verumano, kaip aprašyta |
|---|---|---|---|
| Pagrindinė paskirtis | Pareikšti įsipareigojimą žmonių kūrybiškumui | Dokumento skaitmeninė kilmė | Išnagrinėkite kūrybinio proceso įrodymus |
| Įrodymo tipas | Deklaracija ir naudojimosi sąlygos | Patikrinami manifestai ir parašai | Šaltinio failai ir žmogaus peržiūra |
| Kriptografijos vaidmuo | Ne to paties ženklo centre | Pagrindinė techninės patikros dalis | Failų maišymas ir siūloma API |
| Nepriklausomas patikrinimas | Priklauso nuo siūlomų paslaugų ir procedūrų | Per suderinamus įrankius ir pasitikėjimo modelį | Priklauso nuo peržiūros procedūrų ir įgyvendinimo |
| Panaikinimas | Priklauso nuo programos sąlygų | Parašo ir pasitikėjimo tvarkymas, atsižvelgiant į aplinkybes | Atšaukiamas statusas yra aprašyto požiūrio dalis |
| Pagrindinė ribotybė | Vienas įsipareigojimas nepreueba kilmės | Kilmė viena nėra žmogaus kūrybos įrodymas | Įrodymai ir peržiūra negali garantuoti absoliučiam tikrumą |
| Pritaikymas neįgaliesiems | Ženklelio prieinamumas priklauso nuo programos sąlygų | Atvirtas standartas su skirtingais įrankiais | Reikalinga patvirtinti faktinį prieinamumą ir sąlygas |
Standarto atvirumo pobūdžio neturėtume painioti su tuo, kad kiekviena aplink jį sukurta paslauga yra nemokama. Taip pat atvirojo kodo projektas gali padaryti kodo auditą lengviau, tačiau vien atvirojo kodo prieinamumas negarantuoja recenzento patikimumo ar sertifikavimo teisumo.
Todėl palyginimas turėtų sutelktis į faktiškai suteiktas garantijas, o ne į daromus pažadus.
6. Ar Iš Tikrųjų Galime Įrodyti, Kad Kūrinys Yra 100% Žmogaus Sukurtas?
Tai yra centrinė problema, ir ji reikalauja atsargaus atsakymo.
Nė vienas iš šių trijų požiūrių negali vienas savaime nustatyti su absoliučiu tikrumu, kad darbas niekada nebuvo patobulintas naudojant dirbtinio intelekto pagalbą.
Versijų istorija gali būti neišsami. Šaltinio failai gali būti suklastotas arba modifikuoti. Skaitmeninė parašo gali būti galioja net kai jis lydi netikslų teiginį. Žmogaus peržiūra gali padidinti pasitikėjimą, tačiau negali eliminavoti kiekvienos klaidos ar sukčiavimo rizikos.
Be to, žmogaus kūrybos reikšmė turi būti apibrėžta. Kūrinys galėjo būti žmogaus suplanuotas ir sukurtas, pasikliaujant korektyra, nuotraukų redagavimu arba dalinia generatyvine pagalba. Jo klasifikacija priklauso nuo taikomus kriterijus.
Kad žyma būtų prasminga, ji turi nurodyti, ką ji sertifikuoja:
- Dirbtinio intelekto generuoto turinio nebuvimas.
- Daugiausia žmogaus sukurtas darbas.
- Dokumentuotas ir peržiūrėtas kūrybinis procesas.
- Failo vientisumo užtikrinimas nuo nurodyto laiko momento.
- Kūrėjo deklaracija apie naudojamus įrankius.
Šie teiginiai nėra ekvivalentūs.
Patikima sertifikacija turėtų paskelbti savo taikymo sritį, kriterijus, įrodymų reikalavimus ir apribojimus. Ji taip pat turėtų paaiškinti, ar ji sertifikuoja dirbtinio intelekto nebuvimą, apibrėžtą žmonių dalyvavimo lygį, ar tiesiog dokumentuotą kūrybinį procesą.
7. Link į konvergenciją tarp skaitmeninės kilmės ir žmogaus sukūrimo sertifikavimo
Geriausias ilgalaikis sprendimas gali būti ne pasirinkimas tarp C2PA ir žmonių kūrybinio darbo sertifikavimo.
Šie du metodai potencialiai galėtų būti sujungti. Protokolas, kuris nagrinėja kūrybinį procesą, pavyzdžiui, galėtų susieti savo peržiūros rezultatą su pasirašyta kilmės tvirtinimu, kriptografiniu būdu susietą su kūriniu.
Tokia integracija galėtų sujungti dvi komplementarias dimensijas:
- Techniniai įrodymai: gebėjimas patikrinti su failu susijusios informacijos vientisumą.
- Proceso de pruebas: nagrinėti medžiagos ir sertifikavimo metu taikyti kriterijai.
Šis konvergencija reikalautų aiškios specifikacijos: kas pasirašo pareiškimus, kas yra atsakingas už patikrinimą, kaip skelbimi atšaukimai ir kaip vartotojai turėtų interpretuoti rezultatus.
Taip pat būtų svarbu užkirsti kelią tam, kad teiginys, pavyzdžiui, „100% žmogaus sukurtas" nebūtų automatiškai laikomas tiesa tik todėl, kad jis pasirodo kriptografiškai galiojančiame manifeste.
Kriptografija gali padaryti deklaraciją patikrintina ir aptikti tam tikrus pakeitimus. Tačiau ji negali viena iš savęs paversti tą deklaraciją tiesa.
Išvada: Pasitikėjimas nėra deklaruojamas. Jis yra dokumentuojamas.
Generatyvinio dirbtinio intelekto amžiuje žmonių kūrybiškumo apsauga tikriausiai nepriklausys nuo vieno ženklo ar stebuklingojo algoritmo.
Savaimine etiketės gali padaryti įsipareigojimą matomi. C2PA suteikia techninę sistemą turinio šaltinio dokumentavimui ir patikrinimui. Toks požiūris kaip aprašytas Verumano siekia papildyti šiuos mechanizmus tiriant kūrybinį procesą.
Kiekvienas metodas išsprendžia skirtingą poreikį ir turi savo apribojimus.
Nepriklausomiems kūrėjams iššūkis yra parodyti, kaip buvo sukurtas kūrinys, išsaugoti pagrindinius įrodymus ir aiškiai komunikuoti apie bet kokį dirbtinio intelekto naudojimą. Žiūrovams iššūkis yra suprasti, kas iš tiesų buvo patvirtinta, prieš nusprendžiant, ar pasitikėti teiginiu.
Todėl tikroji sertifikavimo vertė slypi ne absoliutaus neliečiamumo pažade, bet skaidriuose kriterijuose, stipriuose įrodymuose, nepriklausomame peržiūrėjime ir galimybėje pakeisti sprendimą.
Dirbtinio intelekto amžiuje geriausia sertifikacija nepretenzija panaikinti visas abejones. Ji suteiks žmonėms priemones suprasti, kas buvo nustatyta, kas tik deklaruota ir kas lieka neaišku.
Šaltiniai ir nuorodos
- C2PA — Oficialios techninės specifikacijos
- C2PA — Principai ir dokumentacija
- Ne pagal AI — Oficialus internetinis puslapis
- Ne dėl dirbtinio intelekto — 90% taisyklė
- NIST — Kriptografinės maišos funkcijos
Redaktoriaus pastaba: Šie šaltiniai dokumentuoja nurodytų iniciatyvų bendruosius mechanizmus ir viešai prieinamas taisykles. Teiginiai apie konkrečias Verumano funkcijas turėtų būti pagrįsti nuorodomis į jo oficialią specifikaciją, šaltinio kodo saugyklą, npm paketą ir patikrinimo paslaugą, kai jie yra prieinami ir gali būti nepriklausomai patikrinti.
