Два види помилок
Детектор може помилитися у два боки. Він може позначити текст, який написала людина, — це хибне спрацьовування, а може пропустити текст ШІ — це пропуск.
Ці помилки тягнуть у протилежні боки. Кожен детектор порівнює оцінку з порогом: якщо поріг знизити, він знайде більше текстів ШІ, але й позначить більше людей; якщо підвищити, людей позначить менше, зате більше текстів ШІ пропустить. Жодне налаштування не прибирає обох помилок.
Тож перше питання до будь-якого детектора — не те, наскільки він точний, а те, якої помилки він намагається уникнути. Коли йдеться про рішення щодо людей, хибне спрацьовування зазвичай шкодить більше.
З цим стикаються навіть великі компанії. У 2023 році OpenAI відкликала власний класифікатор текстів ШІ, пояснивши це його низькою точністю.
Чому обіцянки «99 % точності» вводять в оману
Одне число точності більше приховує, ніж показує. Воно змішує дві різні помилки в одну цифру й описує один тестовий набір, який обрав той, хто проводив перевірку.
Саме тестовий набір важить найбільше. Детектор, якого перевіряли на сирих, невідредагованих відповідях чат-бота англійською, виглядатиме значно краще, ніж той самий детектор на коротких, відредагованих чи перекладених текстах іншою мовою.
Малі частки помилок теж складаються. Припустімо, детектор помилково позначає 1 людський текст зі 100. На курсі, де студенти здали 300 чесних есе, це приблизно троє людей, яких запідозрять через роботу, написану ними самими.
Коли читаєте обіцянку точності, шукайте, що за нею стоїть: які мови й жанри перевіряли, якої довжини були тексти, чи їх редагували, хто добирав людські тексти і скільки з них позначено. Без цих подробиць така обіцянка каже дуже мало.
Де детектори помиляються найчастіше
Найгірше детектори справляються саме з тими текстами, які найчастіше доводиться перевіряти:
- Короткі тексти. У кількох реченнях замало матеріалу, тому для тексту до 50 слів Textumi показує «Замало тексту для висновку».
- Відредаговані, перефразовані чи перекладені тексти. Кожна зміна віддаляє формулювання від того, що засвоїв детектор, і помилки можливі в обидва боки.
- Офіційні й шаблонні тексти, як-от анотації, мотиваційні та службові листи, що пишуться за зразками, які детектор може прочитати як машинні.
- Тексти нерідною мовою. У 2023 році дослідники зі Стенфорда повідомили, що детектори частіше позначали есе людей, для яких англійська не рідна.
- Мови й жанри, яких детектор під час навчання бачив мало.
Останнє стосується і Textumi. Наші детектори для всіх мов, крім англійської та української, навчали й перевіряли на прозі з проєктів Вікімедіа. На невеликому наборі згенерованих текстів інших жанрів, як-от оголошень, скарг та інструкцій, французький, в’єтнамський, турецький та індонезійський детектори пропустили більшість, а шведський і нідерландський — приблизно половину.
Як перевірити детектор самостійно
Найчесніша перевірка — та, яку ви проведете на текстах, схожих на ваші. Вона забере годину і скаже більше, ніж будь-яка опублікована цифра.
- Зберіть щонайменше десять текстів, про які ви точно знаєте, що їх написала людина, вашою мовою й у вашому жанрі, бажано написаних ще до того, як ШІ-асистенти стали звичними.
- Напишіть або згенеруйте стільки ж текстів ШІ на схожі теми й схожої довжини, а кілька з них відредагуйте так, як це справді роблять люди.
- Перевірте кожен текст кожним детектором, які порівнюєте, і запишіть результат, нічого не змінюючи між перевірками.
- Окремо порахуйте, скільки людських текстів позначено і скільки текстів ШІ пропущено, і подивіться, які фрагменти підсвітив кожен детектор.
Якщо детектор позначає кілька ваших завідомо людських текстів, ставтеся до його результатів на такому письмі з великою обережністю, хоч би що обіцяла його реклама.
Як Textumi перевіряє власний детектор
Ми не публікуємо єдиної цифри точності Textumi, бо чесної цифри для всіх мов і всіх видів тексту не існує. Натомість ми публікуємо правило, якому має відповідати кожна версія детектора.
Для всіх мов, крім англійської та української, поріг стоїть там, де позначається не більше 2 зі 100 людських текстів, на яких класифікатор не навчався. Так хибні тривоги лишаються рідкісними, а ціна цього — більше пропущених текстів ШІ.
Далі кожну версію один раз перевіряють на закритому наборі текстів, яких вона ніколи не бачила, з умовами для обох видів помилок. Невдалий тест повторно не використовують. На сторінці методології описано це правило, а також те, чого тести не охоплюють. Там же йдеться про одну мову, яку Textumi пропонує власним рішенням, хоча її тест трохи не дотягнув до вимог.
Хоч яким було б правило, результат — це оцінка за стилем тексту. Це не ймовірність і не доказ того, хто текст написав.
Поширені запитання
Чи точні детектори ШІ?
Вони можуть бути корисними, але жоден не точний надійно на будь-якому тексті. Кожен детектор і позначає частину людських текстів, і пропускає частину згенерованих, а як часто — залежить від мови, жанру, довжини й редагування тексту. Сприймайте будь-який результат як сигнал, якому потрібен контекст, і ніколи — як доказ авторства.
Чи може детектор ШІ мати точність 99 %?
Дуже високий результат детектор може показати на певному тестовому наборі. Однак така цифра описує лише ці тексти, часто довгі й невідредаговані, і зводить в одне число дві різні помилки. Натомість той самий детектор на коротких, відредагованих, перекладених чи офіційних текстах може працювати значно гірше, тож запитуйте, на чому цю цифру виміряли.
Який детектор ШІ найточніший?
Чесної однозначної відповіді немає. Кожна компанія перевіряє детектор на власних текстах, і результати непорівнянні. Найкраще вам підійде той детектор, який позначає найменше ваших завідомо людських текстів і водночас знаходить тексти ШІ вашого типу, тож перевірте кілька детекторів на власному матеріалі.
Яка точність у Textumi?
Ми не наводимо єдиної цифри: вона не була б правдивою для всіх мов і жанрів. Натомість ми публікуємо сам метод. Для всіх мов, окрім англійської та української, поріг допускає не більше 2 позначених зі 100 людських текстів, на яких модель не навчалася. Крім того, кожна версія має виконати умови закритого тесту. Детальніше — на сторінці з методологією.
Чому два детектори по-різному оцінюють той самий текст?
Їх навчали на різних прикладах, і поріг кожен проводить у своєму місці. Текст біля межі може опинитися з будь-якого її боку, а один детектор може реагувати на формулювання, яких інший не помічає. Тому окремий результат будь-якого детектора каже менше, ніж часто здається.
Чи може результат детектора вирішувати оцінку або рішення про найм?
Ні. Результат — статистичний сигнал про формулювання, і він ніколи не повинен бути єдиною підставою для рішення щодо людини. Чернетки, історія версій, джерела й розмова про роботу показують авторство значно краще і захищають тих, чий чесний текст просто виявився передбачуваним.