Zakaj AI detektorji označijo človeško pisanje

Loch Ness · ČLOVEŠKO PISANJE · Napačno pozitivni rezultati AI detektorja

Del vodiča: Ali detektorji AI dejansko delujejo? Kaj pravi raziskava

Avtor Camille G., ustanoviteljica Loch Ness · Objavljeno 29. septembra 2026 · Zadnja posodobitev 29. septembra 2026

Kratek odgovor: večina detektorjev AI-ja sploh ne prepozna. Merijo, kako napovedljivo je besedilo, in veliko pravi ljudi piše napovedljivo. Ljudje, ki pišejo v drugem jeziku, študentje, ki sledijo predlogi, kdorkoli, ki namerno piše preprosto: to so tisti, ki se označijo. Tukaj je, kako se to zgodi, in zakaj ni tvoja krivda.

Nalepka Človeškega Izvora · Za pisatelje Te je zastavica detektorja? Tvoj proces je odgovor. Pokažite svoje osnutke in zgodovino verzij enkrat, v živo ali v posnetku zaslona, in dobite javno stran, ki prikazuje, kaj je bilo preverjeno. Brezplačno med poskusnim obdobjem. Preverite se, brezplačno → Niste pripravljeni na oceno? Pridobite brezplačno samoizjavljeni značek →

Kako se večina detektorjev odloči

Jezikovni modeli imajo tendenco izbirati verjetne besede. Zato številni detektorji ocenijo besedilo na podlagi tega, kako presenečujoče so njegove izbire besed, meritev, ki jo raziskovalci imenujejo zmešanost. Nizka presenečenost se bere kot "strojska". Težava je v tem, da to meri stil, ne avtorstva. V raziskavi Stanforda s sedmimi priljubljenimi detektorji so človeški esejji, ki jih je vsak detektor zaznamoval, bili natanko tisti z najnižjo zmešanostjo (Liang et al., 2023).

Koga označijo najbolj

• Ljudje, ki pišejo v tujem jeziku. Enaka študija je poslala 91 TOEFL esejev skozi sedem detektorjev: v povprečju je bilo 61 % napačno označenih kot umetno generirano, 89 od 91 jih je bila označena vsaj z enim detektorjem. Eseji učencev osmih razredov v ZDA so bili razvrščeni skoraj popolnoma (Vzorci).
• Kratka besedila. OpenAI je dejal, da je lastni klasifikator na kratkih vhodih nezanesljiv in se je izboljšal z daljšimi besedili, preden ga je umaknil zaradi nizke natančnosti (OpenAI). Pismo v spremstvu ali opis proizvoda detektorju dajeta zelo malo za delo.
• Formulaičko pisanje. Predloge, standardne strukture in vrsta nevtralne proze, ki je jo pogosto zahtevajo šole in podjetja, so naročno predvidljive.

Isti trik deluje tudi v obratni smeri

Ko so stanfordski raziskovalci prosili ChatGPT, da prepiše tiste človeške eseje s sofisticirano besedišče, so se detektorji začeli jih označevati za človeške (ScienceDaily). Širši test 14 orodij je pokazal enako šibkost: natančnost je še dodatno padla, ko je bil besedilo AI urejeno, parafrazirano ali strojno prevedeno (Weber-Wulff et al., 2023). Torej detektorski rezultat pove več o tem, kako besedilo zveni, kot pa o tem, kdo ga je napisal.

To stvari stoji ljudem stvarne stvari

To ni samo akademski problem. Študenti so se soočili s postopki za kršitve akademske etike zaradi rezultatov detektorjev, in junija 2024 je Gizmodo poročal o samostojnih pisateljih in novinarjih, ki so izgubili delo, potem ko je programska oprema za odkrivanje napačno razvrstila njihovo besedilo kot umetno generirano (povzetek na Wikipediji).

Če vas je detektor označil pri pisanju

Nič pri tvojem pisanju ne potrebuje popravka. Koristno je dokazilo, kako si ga napisal: zgodovino sprememb svojega dokumenta, svojih osnutkov, svojih zapiskov. Odstotek se ne more meriti z časovnico tvojega dela. Polno metodo sem dal v kako dokazati, da si ga napisal sam.

In prosim, ne začni pisati "bolj prefinjeno", da bi zadovoljil detektor. Kot kaže raziskava, je to natanko tisto, kar počne ponovno pisana AI besedila, da bi ušla tem detektorjem. Tvoj preprost glas je popoln.

Naveličani ocenjevanja po točkah? Naj nekdo pogleda, kako dejansko pišete. Poglejte, kako deluje pregled Human Origin →

Nazaj na pregled: Ali detektorji AI dejansko delujejo?.

Popolna razumljivost: Human Origin, oznaka omenjena na tej strani, je nekaj, kar sem ustvaril jaz. To označujem, da lahko pretehtate, kaj pravim o tem. Zgoraj navedena dejstva temeljijo na spodnjih virih.

Viri

• Liang et al. — Detektorji GPT so pristransko obravnavani do piscev, katerih materinščina ni angleščina, Patterns (2023)
• Liang et al. — ista študija, celoten besedilo na arXiv
• ScienceDaily — Detektorji GPT-ja lahko pristransko obravnavajo pisatelje, katerih materni jezik ni angleščina (julij 2023)
• OpenAI — Novi klasifikator umetne inteligence za označevanje besedil, napisanih s pomočjo umetne inteligence (s pojasnilom o ukinitvi julija 2023)
• Weber-Wulff et al. — Testiranje orodij za zaznavanje besedil, ki jih je ustvarila umetna inteligenca (2023), prek ERIC
• Wikipedia — Odkrivanje vsebine umetne inteligence (poročanje o izgubi prostih delovnih mest)

Dnevnik posodobitev

29. september 2026 — Prva objava.