Loch Ness · PREVERJENO ALI SAMO OBČUTKI? · Detektorji umetne inteligence
Avtor Camille G., ustanoviteljica Loch Ness · Objavljeno 29. septembra 2026 · Zadnja posodobitev 29. septembra 2026
Kratek odgovor: včasih, in ne dovolj zanesljivo, da bi lahko obdolžili kogarkoli. Neodvisne študije ugotavljajo isti vzorec: detektorji zamudijo veliko AI besedila, posebno ko je bilo urjeno, in napačno označijo pravo človeško pisanje, največkrat od ljudi, ki pišejo v drugem jeziku. Rezultat detektorja je ugibanje z odstotkom, ne pa dokaz.
Orodja za ocenjevanje gradim sam, vključno s algoritmi v ozadju našega testa kreativnosti, zato berem te številke z razvojnikovim pogledom. Ocena ti pove, kako tesno se besedilo ujema s posebnim vzorcem. Ne more ti povedati, kdo je sedel pri tipkovnici.
Nalepka Človeškega Izvora · Za pisatelje Napisal si vsako besedo. To naredi preverljivo. Prikaži nam svoje osnutke in zgodovino verzij enkrat, v živo ali v posnetku zaslona. Bralci in odjemalci dobijo javno stran, ki te podpira, ne pa detektorskega rezultata. Preverite se, brezplačno → Niste pripravljeni na oceno? Pridobite brezplačno samoizjavljeni značek →Trditev: "Detektor umetne inteligence lahko ugotovi, ali je to napisala oseba ali stroj"
To je obljuba, ki se skriva za vsako "AI oceno", ki jo vidite: prilepite besedilo, dobite odstotek, poznate resnico. Šole, založbe in stranke uporabljajo te ocene za pravo odločanje o pravnih ljudeh. Zato je pomembno, kako pogosto so pravilne.
Kaj pravi raziskava
Največji neodvisni test. Leta 2023 je ekipa pod vodstvom Debore Weber-Wulff testirala 14 orodij za zaznavanje, vključno s komercialnima sistemoma Turnitin in PlagiarismCheck. Vsako orodje je doseglo natančnost pod 80 % in le pet jih je doseglo nad 70 %. Orodja so se nagibala k oznaki, da so besedila napisana s strani ljudi, in so pokazala slabše rezultate, ko je bil AI besedilo urejeno, parafrazirano ali strojno prevedeno. Avtorji so zaključili, da razpoložljiva orodja niso niti natančna niti zanesljiva (International Journal for Educational Integrity, 2023).
Če smo pošteni do detektorjev, je ista študija opozorila na eno izjemo: pri testiranju dokumentov, ustvarjenih z AI, je le Turnitin pravilno klasificiral vse (Tedenski povzetek študije o umetni inteligenci). Zato nekatera orodja dobro zaznajo surovo, neurejen AI tekst. Težava je v vsem, kar je okrog tega primera.
Celo OpenAI se je odpovedal svojemu lastnimu detektorju. Podjetje OpenAI je v januarju 2023 objavilo klasifikator umetne inteligence za besedila. Po njihovih podatkih je pravilno označil 26% besedil, napisanih s strani umetne inteligence, kot verjetno AI, in napačno označil človeško pisanje v 9% primerov. Umaknjeno je bilo 20. julija 2023 zaradi nizke stopnje točnosti (OpenAI).
Skupina, ki plača ceno. Raziskovalci na Stanfordu so 91 essejev, napisanih s strani nativnih angleščine govorcev za izpit TOEFL, analizirali s pomočjo sedmih priljubljenih detektorjev. Detektorji so v povprečju napačno označili 61 % teh človeških essejev kot umetno generirane, 89 od 91 essejev pa je bilo zaznanih vsaj s strani enega detektorja. Eseji ameriških učencev osmega razreda so bili medtem klasificirani skoraj brezhibno (Liang et al., Patterns, 2023).
Zakaj se motijo
Številni detektorji se v veliki meri zanašajo na predvidljivost besedila. Modeli umetne inteligence imajo tendenco, da izbirajo verjetne besede, zato zelo predvidljivo pisanje izgleda "strojevsko". A tudi veliko ljudi piše predvidljivo: ljudje, ki pišejo v drugem jeziku, študenti, ki sledijo predlogi, vsak, ki piše namerno preprosto. V študiji Stanforda so detektorji označili natanko tiste eseje z najbolj predvidljivo besedilom (Vzorci).
Obratna stran je enako neprijetna: ko so raziskovalci prosili ChatGPT, da prepiše te iste eseje s fancier besedišči, so ga detektorji označili za človeški (ScienceDaily). Predvidljivost je slog, ne prstni odtis. Globlje se pogledam, kako se zgodijo lažno pozitivni rezultati in koga zadanejo, v zakaj detektorji AI označijo človeško pisanje.
Presoja: 🟡 Delno preverjeno. Detektorji lahko včasih zaznajo surove, neurejene AI besedile. Vendar ne zaznajo urejenih AI besedil, napačno označijo prave pisatelje in so najbolj strogi do ljudi, ki pišejo v tujem jeziku. Rezultat detektorja lahko začne pogovor. Nikoli ga ne sme zaključiti.
Če detektor reče, da si uporabil AI
Ne prepiraj se o odstotku. Namesto tega pokaži svoj postopek: zgodovino različic svojega dokumenta, svoje osnutke, svoje opombe. To je dokaz, ki mu noben rezultat ne more biti kos, in to je najhitrejši način, da stvari razrešiš. Korak za korakom: kako dokazati, da si ga napisal sam.
Boljše vprašanje kot "kaj pravi detektor?"
Vprašajte, kako je bil tekst ustvarjen. Je avtor uporabil AI za preverjanje pravopisa, za iskanje idej, za osnutek odstavka? To niso ista stvar, in večina bralcev se zanima za razliko. Kam pošteno postaviti mejo: pisanje z umetno inteligenco, kje je meja.
In če želite, da bralci vedo, da je vaše delo vaše, preden nekdo zažene detektor, ima oznaka, ki jo podpira resnični pregled vašega procesa, večjo težo kot katerkoli rezultat. Primerjam možnosti v oznake za vsebino, ki jo je napisal človek, za avtorje in blogerje.
Želiš, da ti neodvisna oseba preuči tvoj proces pisanja in to javno izjavi? Poglejte, kako deluje pregled Human Origin →Polna razkritost: Ustvaril sem Human Origin, oznako, ki pregleduje proces avtorjev in objavljuje, kaj je bilo preverjeno. To vam povem, da lahko tehtate tisto, kar sem vam povedal o tem. Vse zgoraj navedeno temelji na virih spodaj, ne na moji oznaki.
Viri
- Weber-Wulff et al. — Testiranje orodij za zaznavanje besedila, ustvarjenega s pomočjo umetne inteligence, International Journal for Educational Integrity (2023), preko ERIC-a
- AI Weekly — Študija ugotavlja, da so detektorji AI-besedila "niti natančni niti zanesljivi" (povzetek Weber-Wulff et al.)
- OpenAI — Novi klasifikator umetne inteligence za označevanje besedil, napisanih s pomočjo umetne inteligence (s pojasnilom o ukinitvi julija 2023)
- Liang et al. — Detektorji GPT so pristransko obravnavani do piscev, katerih materinščina ni angleščina, Patterns (2023)
- Liang et al. — ista študija, celoten besedilo na arXiv
- ScienceDaily — Detektorji GPT-ja lahko pristransko obravnavajo pisatelje, katerih materni jezik ni angleščina (julij 2023)
Dnevnik posodobitev
29. september 2026 — Prva objava.
