Che cosa misura un rilevatore di IA
Un rilevatore stima quanto la formulazione di un testo somigli ai testi scritti dall’IA su cui è stato addestrato.
I modelli linguistici tendono a scegliere le parole più probabili e a costruire frasi regolari e ben formate. Le persone sono meno prevedibili: si ripetono, cambiano ritmo e scelgono parole che nessun modello si aspetterebbe. Un rilevatore impara questa differenza statistica da un gran numero di esempi.
Gli approcci più diffusi sono due. Il primo chiede a un altro modello linguistico quanto sia prevedibile ogni parola del testo e considera sospetto un testo molto prevedibile. Questa misura si chiama perplessità.
Il secondo è un classificatore addestrato. Un encoder trasforma il testo in una serie di numeri, e un classificatore addestrato su esempi umani e generati assegna un punteggio a quei numeri. Textumi funziona così, con modelli di rilevamento che addestriamo, mettiamo a punto ed eseguiamo sui nostri server. Entrambi gli approcci si basano solo sul testo.
Il watermarking è un’idea diversa: mentre scrive, un modello lascia nel testo un marchio statistico che chi possiede la chiave può verificare. Funziona solo con i modelli che aggiungono un marchio del genere, quindi un rilevatore pensato per leggere qualsiasi testo non può contarci.
Un rilevatore non verifica i fatti, non giudica l’argomentazione e non cerca il tuo testo in un archivio di risposte dei chatbot. Due testi con lo stesso significato e una formulazione diversa possono ottenere risultati molto diversi.
Perché il risultato è un segnale e non un verdetto
La scrittura umana e quella dell’IA si sovrappongono. Alcune persone scrivono in modo regolare e prevedibile, e a un modello si può chiedere di scrivere in modo irregolare.
Ovunque si tracci una soglia attraverso questa sovrapposizione, una parte della scrittura umana finisce dal lato dell’IA e una parte di quella dell’IA dal lato umano. Spostare la soglia non fa che scambiare un errore con l’altro.
Il risultato stesso è facile da fraintendere. Textumi lo indica con una di cinque etichette: «Scritto da una persona», «Prevalentemente umano», «Misto: umano e IA», «Prevalentemente IA» e «Generato dall’IA». Le prime due stanno sotto la soglia, le altre tre sopra. Un’etichetta descrive come si legge lo stile dell’intero testo, non la probabilità che sia stato scritto dall’IA né la quota di testo generata.
Se un altro rilevatore mostra una percentuale, anche quella è la stima di un modello e merita la stessa cautela.
Questi limiti sono ben documentati. Nel 2023 OpenAI ha ritirato il proprio classificatore di testi IA, citandone la scarsa accuratezza, e nello stesso anno alcuni ricercatori di Stanford hanno riferito che i rilevatori segnalavano i saggi di chi non è madrelingua inglese più spesso di quelli dei madrelingua.
Che effetto hanno parafrasi e revisione sul risultato
Un rilevatore giudica il testo che riceve. Quando cambia la formulazione, cambia anche il risultato.
Quando una persona riscrive frase per frase un testo generato dall’IA, restano meno schemi noti al rilevatore. Quando un assistente IA rifinisce il testo di una persona, ne compaiono di più.
Il risultato è un testo misto. Un rilevatore addestrato su esempi puramente umani e puramente generati può collocarlo da una parte o dall’altra.
Lo stesso vale per gli strumenti di parafrasi, compreso il nostro Humanizer. L’Humanizer punta a una formulazione naturale che conservi i fatti e la logica dell’originale, non a un punteggio. Una riscrittura è una formulazione nuova, e il risultato del rilevatore riguarda quella formulazione, non l’origine del testo, quindi un testo che un rilevatore lascia passare può comunque essere segnalato da un altro.
Anche una correzione grammaticale pesante e la traduzione spostano i risultati, a volte verso il lato dell’IA.
Perché i nuovi modelli sono un bersaglio mobile
Un rilevatore conosce i modelli i cui testi erano nei suoi dati di addestramento, e li conosce per come scrivevano in quel momento. Il testo di un modello più recente o diverso può somigliare a quei testi oppure no, e solo i test possono dirlo.
I rilevatori di Textumi per le lingue diverse dall’inglese e dall’ucraino sono stati addestrati su testi di due modelli di IA molto diffusi. I testi di altri modelli restano fuori da quei test, ed è uno dei motivi per cui continuiamo a migliorare i rilevatori e li rilasciamo in versioni successive.
Perché le lingue diverse dall’inglese sono più difficili
Un modello addestrato su testi inglesi non inizia da solo a funzionare altrettanto bene in altre lingue. Ogni lingua ha bisogno dei suoi testi umani, dei suoi testi generati dall’IA e del suo test.
La parte più difficile è raccogliere testi di cui si sa con certezza che sono stati scritti da persone. Le lingue meno diffuse ne hanno meno, quindi spesso un insieme di addestramento copre solo pochi generi.
Textumi addestra un classificatore separato per ogni lingua. I rilevatori per l’inglese e l’ucraino sono quelli testati più a fondo. Quelli per le altre lingue sono stati addestrati e testati sulla prosa dei progetti Wikimedia e su testi di due modelli di IA.
Su altri generi alcuni di questi rilevatori non riconoscono molti testi generati dall’IA, tra cui quelli per francese, vietnamita, turco, indonesiano e olandese. In qualsiasi lingua, poi, i testi tradotti sono un’ulteriore fonte di errore.
Le lingue e lo stato di ciascunaCome viene creato e testato il rilevatore di IA di Textumi
Come leggere un risultato in modo responsabile
- Leggi i passaggi evidenziati prima di guardare l’etichetta, perché mostrano da dove viene il segnale e ti permettono di giudicare tu stesso quelle righe.
- Fai attenzione alla lunghezza. Sotto le 50 parole Textumi mostra «Troppo poco testo per giudicare» al posto di un’etichetta, e con qualsiasi rilevatore i testi brevi richiedono cautela.
- Fai attenzione al genere e alla lingua. Una segnalazione su una lettera formale, o un risultato in una lingua testata su un insieme di testi più ristretto, pesano meno dello stesso risultato su un lungo saggio in inglese.
- Considera «Scritto da una persona» e «Prevalentemente umano» come stime. Significano che il rilevatore ha trovato poco che somigli all’IA, non che il testo l’abbia scritto sicuramente una persona.
- Raccogli altri elementi prima di decidere qualsiasi cosa: bozze, cronologia delle versioni e un colloquio con chi ha scritto dicono sulla paternità più di qualsiasi rilevatore.
Perché vengono segnalati testi scritti da personeUso responsabile
Domande frequenti
I rilevatori di IA sono accurati?
Dipende dal testo, e nessun singolo numero descrive onestamente un rilevatore. I risultati variano con la lingua, il genere, la lunghezza del testo e il modello che l’ha scritto. Ogni rilevatore a volte segnala testi umani e lascia passare testi generati dall’IA. Per questo pubblichiamo come testiamo il nostro rilevatore, ma non pubblicizziamo alcun dato di accuratezza.
I rilevatori di IA riconoscono ChatGPT?
Un rilevatore reagisce alla formulazione, non a un modello specifico. Un testo di ChatGPT, Claude, Gemini o di qualsiasi altro modello può essere segnalato se somiglia alla scrittura dell’IA su cui il rilevatore è stato addestrato, e passare inosservato se non le somiglia. Textumi non indica quale modello ha scritto un testo e non è stato testato modello per modello.
La parafrasi o la revisione cambiano il risultato di un rilevatore?
Sì. Una riscrittura cambia la formulazione, e il risultato segue la formulazione. È un limite del metodo, non una garanzia in un senso o nell’altro: un testo IA rivisto può comunque essere segnalato, una riscrittura può essere segnalata da un altro rilevatore, e il risultato non dimostra mai che l’origine di un testo sia cambiata.
Perché due rilevatori di IA giudicano diversamente lo stesso testo?
Ognuno è stato addestrato su testi umani e generati diversi, valuta la formulazione a modo suo e fissa una propria soglia. Un testo vicino al confine può cadere da una parte o dall’altra. Il disaccordo tra rilevatori è normale, ed è un motivo in più per considerare ogni risultato un segnale e non un accertamento.
I rilevatori di IA funzionano sui testi brevi?
Male. Poche frasi contengono troppo poco materiale per un risultato stabile, e una sola espressione insolita può spostarlo. Textumi accetta testi da 5 parole, ma sotto le 50 parole mostra «Troppo poco testo per giudicare» al posto di un’etichetta. Quando puoi, controlla un passaggio più lungo dello stesso documento.
I rilevatori di IA funzionano in lingue diverse dall’inglese?
Alcuni sì, con più riserve. Ogni lingua ha bisogno dei suoi testi di addestramento e del suo test, e fuori dall’inglese è più difficile raccoglierli. Il rilevatore di Textumi funziona in 20 lingue. L’inglese e l’ucraino sono testati più a fondo; le altre lingue sono state testate su un insieme di testi più ristretto, e alcune sono più deboli su altri generi.
Cosa sono perplessità e burstiness nel rilevamento dell’IA?
La perplessità misura quanto un testo sia prevedibile per un modello linguistico: più è bassa, più il testo è prevedibile. La burstiness descrive l’irregolarità, cioè come si alternano frasi lunghe e brevi, semplici e complesse. Alcuni rilevatori considerano una perplessità bassa e un ritmo regolare segni di IA. Sono misure grossolane, perché anche la scrittura umana molto codificata è prevedibile. Textumi usa un classificatore addestrato invece di applicare direttamente queste misure.