실수에는 두 종류가 있어요
탐지기는 두 방향으로 틀릴 수 있어요. 사람이 쓴 글을 AI로 표시하는 오탐이 하나이고, AI가 쓴 글을 그냥 통과시키는 놓침이 다른 하나예요.
두 실수는 서로 반대 방향으로 움직여요. 모든 탐지기는 점수를 기준값과 비교하는데, 기준값을 낮추면 AI 글을 더 많이 잡아내지만 사람도 더 많이 표시하고, 높이면 사람은 덜 표시하지만 AI 글을 더 많이 놓쳐요. 두 실수를 모두 없애는 설정은 없어요.
그래서 어떤 탐지기든 가장 먼저 물어야 할 것은 얼마나 정확한가가 아니라 어떤 실수를 피하려고 하는가예요. 사람에 대한 결정을 내릴 때는 대개 오탐이 더 큰 피해를 줘요.
큰 기업도 이 문제를 피하지 못했어요. 2023년 OpenAI는 정확도가 낮다는 이유로 자체 AI 텍스트 분류기를 철회했어요.
“정확도 99%” 주장이 오해를 부르는 이유
정확도 수치 하나는 보여 주는 것보다 숨기는 것이 더 많아요. 두 종류의 실수를 한 숫자에 섞어 버리고, 테스트한 사람이 고른 하나의 테스트 세트만 설명하기 때문이에요.
가장 중요한 것은 바로 그 테스트 세트예요. 편집하지 않은 영어 챗봇 답변으로 측정한 탐지기는, 같은 탐지기를 다른 언어의 짧거나 편집되었거나 번역된 글로 측정했을 때보다 훨씬 좋아 보여요.
작은 오류율도 쌓이면 커져요. 어떤 탐지기가 사람이 쓴 글 100편 중 1편을 잘못 표시한다고 해 봐요. 정직하게 쓴 에세이 300편이 모인 수업이라면, 직접 쓴 과제 때문에 의심받는 학생이 세 명쯤 나오는 셈이에요.
정확도 주장을 볼 때는 그 뒤에 무엇이 있는지 살펴보세요. 어떤 언어와 장르를 테스트했는지, 글이 얼마나 길었는지, 편집된 글이었는지, 사람이 쓴 글은 누가 골랐는지, 그중 몇 편이 AI로 표시되었는지 말이에요. 이런 세부 정보가 없는 주장은 알려 주는 것이 거의 없어요.
탐지기가 약한 글
탐지기는 사람들이 가장 자주 확인해야 하는 종류의 글에서 가장 약한 모습을 보여요.
- 짧은 글: 몇 문장으로는 근거가 너무 적어서, Textumi는 50단어 미만의 글에 ‘판단하기에는 텍스트가 너무 적어요’라고 표시해요.
- 편집하거나 바꿔 쓰거나 번역한 글: 손을 댈 때마다 표현이 탐지기가 학습한 모습에서 멀어지며, 그 영향은 양쪽 방향으로 나타나요.
- 초록, 자기소개서, 공문처럼 격식 있고 틀에 맞춘 글: 정해진 양식을 따르다 보니 탐지기가 기계적인 글로 읽을 수 있어요.
- 모국어가 아닌 언어로 쓴 글: 2023년 스탠퍼드 대학교 연구진은 탐지기가 영어 비원어민의 에세이를 더 자주 AI로 표시한다고 보고했어요.
- 탐지기가 학습 과정에서 거의 접하지 못한 언어와 장르의 글도 결과가 불안정해요.
마지막 항목은 Textumi에도 해당돼요. 영어와 우크라이나어를 제외한 언어의 탐지기는 Wikimedia의 산문으로 학습하고 테스트했어요. 공지문, 불만 제기 글, 사용 설명서 같은 다른 종류의 AI 글을 담은 작은 샘플에서 프랑스어, 베트남어, 튀르키예어, 인도네시아어 탐지기는 대부분을 찾아내지 못했고, 스웨덴어와 네덜란드어 탐지기는 절반 정도를 놓쳤어요.
탐지기를 직접 시험하는 방법
가장 공정한 시험은 내 글과 비슷한 글로 직접 해 보는 거예요. 한 시간이면 충분하고, 어떤 공개 수치보다 많은 것을 알려 줘요.
- 사람이 썼다는 것이 확실한 글을 내 언어와 장르로 열 편 이상 모으세요. AI 어시스턴트가 널리 쓰이기 전에 쓴 글이면 더 좋아요.
- 비슷한 주제와 길이로 같은 수의 AI 글을 쓰거나 생성하고, 그중 몇 편은 사람들이 실제로 하듯 손을 보세요.
- 비교하려는 탐지기마다 모든 글을 넣어 보고, 중간에 아무것도 바꾸지 말고 결과를 기록하세요.
- 사람이 쓴 글 중 몇 편이 AI로 표시되었는지와 AI 글 중 몇 편을 놓쳤는지 따로 세고, 탐지기마다 어떤 구간을 표시했는지 살펴보세요.
사람이 쓴 것이 확실한 글을 여러 편 AI로 표시하는 탐지기라면, 홍보 문구가 무엇이라고 하든 그런 종류의 글에 대한 결과는 매우 신중하게 받아들이세요.
Textumi가 자체 탐지기를 테스트하는 방법
Textumi는 정확도를 수치 하나로 공개하지 않아요. 모든 언어와 모든 종류의 글에 대해 정직하게 말할 수 있는 수치가 없기 때문이에요. 대신 탐지기의 각 버전이 충족해야 하는 규칙을 공개해요.
영어와 우크라이나어를 제외한 언어에서는, 분류기가 학습하지 않은 사람의 글 100편 중 많아야 2편이 AI로 표시되는 지점에 기준값을 둬요. 그러면 잘못된 경고는 드물어지지만, 그 대가로 AI 글을 더 많이 놓친다는 점을 감수하는 거예요.
모든 버전은 한 번도 본 적 없는 봉인된 텍스트 세트로 단 한 번 테스트하며, 두 종류의 실수 모두에 조건을 걸어요. 통과하지 못한 테스트는 모두 폐기해요. 방법론 페이지에서 그 규칙과 함께, 테스트 기준에 조금 못 미쳤지만 Textumi의 자체 결정으로 제공하는 한 가지 언어, 그리고 테스트가 다루지 않는 범위를 자세히 설명해요.
규칙이 무엇이든 결과는 글의 문체를 바탕으로 한 추정이에요. 확률도 아니고, 누가 썼는지에 대한 증거도 아니에요.
자주 묻는 질문
AI 탐지기는 정확한가요?
쓸모는 있지만, 어떤 글에서든 믿을 만큼 정확한 탐지기는 없어요. 모든 탐지기는 사람이 쓴 글 일부를 AI로 표시하고 AI가 쓴 글 일부를 놓치며, 그 정도는 글의 언어, 장르, 길이, 편집 여부에 따라 달라져요. 어떤 결과든 작성자의 증거가 아니라 맥락을 함께 따져 봐야 하는 신호로 받아들이세요.
AI 탐지기의 정확도가 99%일 수 있나요?
특정 텍스트 세트에서는 아주 높은 점수가 나올 수 있지만, 그 점수는 그 텍스트, 흔히 길고 편집하지 않은 글에 대해서만 의미가 있고 두 종류의 실수를 한 숫자에 섞어 놓은 것이에요. 같은 탐지기도 짧거나 편집되었거나 번역되었거나 격식 있는 글에서는 결과가 훨씬 나쁠 수 있어요. 그러니 그 점수를 무엇으로 측정했는지 꼭 확인하세요.
가장 정확한 AI 탐지기는 무엇인가요?
정직하게 한마디로 답할 수는 없어요. 회사마다 자기 텍스트로 테스트하기 때문에 수치를 서로 비교할 수 없어요. 나에게 가장 좋은 탐지기는 사람이 썼다고 확실히 아는 내 글을 가장 적게 표시하면서도 같은 유형의 AI 생성 글은 잡아내는 탐지기예요. 그러니 내 글로 몇 가지 탐지기를 직접 시험해 보세요.
Textumi의 정확도는 어느 정도인가요?
수치 하나로는 모든 언어와 장르를 정직하게 나타낼 수 없기 때문에 공개하지 않아요. 대신 방법을 공개해요. 영어와 우크라이나어를 제외한 언어에서는 모델이 학습하지 않은 글 가운데 사람이 쓴 글이 100편 중 최대 2편까지만 AI로 표시되도록 기준값을 두고, 모든 버전이 봉인된 테스트의 조건을 충족해야 해요. 자세한 내용은 방법론 페이지에서 볼 수 있어요.
같은 글인데 탐지기마다 결과가 다른 이유는 무엇인가요?
탐지기마다 학습한 예시가 다르고 기준선을 긋는 위치도 다르기 때문이에요. 경계 근처에 있는 글은 어느 쪽으로든 떨어질 수 있고, 어떤 탐지기는 다른 탐지기가 무시하는 표현에 반응하기도 해요. 그래서 어떤 탐지기의 결과든 하나만으로는 사람들이 흔히 생각하는 것보다 말해 주는 것이 적어요.
탐지기 결과로 성적이나 채용 여부를 정해도 되나요?
안 돼요. 결과는 문장 표현에 대한 통계적 신호일 뿐이며, 사람에 대한 결정의 유일한 근거가 되어서는 안 돼요. 초안, 버전 기록, 참고 자료, 과제에 대한 대화가 작성자를 훨씬 잘 보여 주고, 정직하게 썼지만 우연히 예측 가능해 보이는 글을 쓴 사람을 보호해 줘요.