한동안 교실의 걱정거리는 표절이었다. 지금은 거의 반대다. 기계가 아니라 사람이 이 글을 썼다는 것을 증명해야 한다. 학교와 출판사는 챗GPT 같은 도구가 만든 글을 잡아내겠다며 새로운 소프트웨어, 이른바 AI 탐지기에 손을 뻗었다. 문제는 이 프로그램들이 불안정하고, 만든 쪽조차 그 사실을 인정하는데도, 사람들이 계속 여기에 기댄다는 데 있다.

시작점부터 짚어 보자. 표절 검사 소프트웨어는 챗GPT보다 한참 앞서 있었다. 턴잇인(Turnitin) 같은 프로그램은 제출된 글을 웹페이지·학술 논문·과거 제출물이 담긴 방대한 자료 더미와 맞대어, 지나치게 딱 들어맞는 문장과 구절을 찾아낸다. 턴잇인은 학생의 글이 다른 출처와 얼마나 겹치는지 보여 준다는 백분율까지 돌려준다. 그런데 그 수치는 늘 미끄러웠다. 높은 점수가 고의 복제를 뜻할 수도, 우연의 일치일 수도 있었던 탓이다. 잦은 오경보에 일부 교사는 조용히 그 도구를 손에서 놓았다.

새로 나온 도구는 더 까다로운 질문에 답하려 한다. "이 글이 복제되었는가"가 아니라 "애초에 사람이 쓰긴 했는가"이다. GPTZero, 팽그램(Pangram), 그리고 턴잇인 자체 탐지기는 당신의 문장을 데이터베이스와 맞춰 보지 않는다. 대신 각자 만든 AI 모델에 글을 흘려 넣고, 사람이 쓰지 않았을 확률을 추정한다. GPTZero의 설명으로는, 이 소프트웨어가 글의 단어 선택과 리듬, 문장 짜임새를 저울질하고, 기계가 쓴 글에 더 자주 나타나는 길이와 전반적 어조의 단서를 뒤진다. 온라인에서 콕 짚어 보일 수 있는 일치 문장보다 훨씬 무른 종류의 근거이고, 영어를 모어로 익히지 않은 사람 앞에서 곧잘 헛디딘다.

그런데도 확산은 빨랐다. 민주주의기술센터(Center for Democracy & Technology)의 조사에 따르면, 미국의 6~12학년 교사 43%가 2024년과 2025년에 걸쳐 AI 탐지기를 꾸준히 집어 들었다. 스스로 고르지도 않은 학교마저 있었다. 이미 턴잇인을 돌리던 대학들은, 2023년 이 기능이 나오자 회사가 AI 탐지를 자동으로 켜 두었다는 사실을 뒤늦게 알아차렸다.

업체가 내놓는 숫자는 안심을 준다. 턴잇인은 자사가 검사하는 사람의 글 가운데 1% 미만만 AI로 잘못 분류된다고 말한다. 팽그램은 오탐률을 1만 건에 1건으로 잡는다. GPTZero도 그와 비슷하게 낮다고 주장한다. 그러나 같은 회사들이 강하게 발을 뺀다. 턴잇인은 자사 도구가 "언제나 정확하지는 않을 수 있다"며 학생을 처벌하는 데 써서는 안 된다고 밝힌다. 그래멀리(Grammarly)는 이용자에게 "AI 탐지기 결과 하나에만 절대 기대서는 안 된다"고 경고한다. GPTZero는 "어떤 AI 탐지기도 결코 100% 완벽할 수는 없다"고 인정한다. 오픈AI는 가장 멀리 갔다. 2023년, 자사 AI 글쓰기 탐지기를 정확도가 충분치 않다는 이유로 그냥 접었다.

그렇다고 비난이 가라앉지는 않았다. 온라인에서는 이제 "AI처럼 들린다"는 힐난이 오가고, 값싼 탐지 도구가 그 불길에 기름을 붓는다. 여파가 혹독했던 경우도 있다. 지난달 출판사 미노타우르(Minotaur)는 저자 제리 팔라데(Jerry Falade)가 AI에 손댔다는 의심 때문에 200만 달러짜리 책 계약을 물렸다. 팔라데는 이를 단호히 부인한다.

법정으로 간 사건들은 위험의 무게를 더 또렷이 보여 준다. 프랑스 국적의 티에리 리뇰(Thierry Rignol)은 지난해 예일대를 상대로 소송을 냈다. 한 교수가 그의 기말시험을 GPTZero에 돌려 상당 부분이 기계가 쓴 것이라 판단하고는, 낙제점과 1년 정학을 안겼다. 그의 소장은 이런 도구가 영어를 모어로 쓰지 않는 필자를 잘못 겨냥하는 전력이 있다고 주장한다. 2월에는 또 한 학생이 이겼다. 애들파이대(Adelphi University)의 한 학부생이 같은 혐의를 받은 뒤 학교를 상대로 한 재판에서 승소했다. 소장은 교수가 어떤 탐지기를 썼는지 밝히지 않지만, 애들파이대는 턴잇인 라이선스를 두고 있다.

편향 우려는 일화 수준이 아니다. 2023년 스탠퍼드대 연구는, 영어가 모어가 아닌 필자의 글이 원어민의 글보다 훨씬 자주 AI로 잘못 표시됐다는 사실을 확인했다. 연구자들은 이 도구가 신경다양성(neurodivergent) 필자마저 오판할 수 있다고 경고한다. 그렇다면 이 시스템들은 실제로 무엇에 반응하는가. UCLA의 정리에 따르면, 반복되는 단어와 구절, 지나치게 격식을 차렸거나 지나치게 느슨한 문체, 뜻이 잘 통하지 않는 문장을 뒤진다. 퀼봇(QuillBot)은 글의 "예측 가능성"이라는 잣대를 하나 더 얹는데, 기계가 가장 흔하고 가장 예상되는 표현으로 쏠린다는 논리에서다. 문장 구조가 처음부터 끝까지 한결같은 것도 불리하게 작용한다. 함정은 뻔하다. 사람 중에도 원래 그렇게 쓰는 이가 얼마든지 있다.

그래도 비난은 멈추지 않는다. 지난주 잭 오스본(Jack Osbourne) — 오지 오스본의 아들 — 은 350만 명이 넘는 소셜 팔로워에게, 기자이자 더버지 기고자인 캣 텐바지(Kat Tenbarge)가 롤링스톤 기사를 AI로 썼다고 주장하며, 겟솔브드(Getsolved)라는 탐지기의 결과를 "증거"랍시고 흔들어 보였다. 텐바지는 영상과 자신의 웹사이트에서 그 주장을 반박했다. 오스본은 주장을 철회하지도, 영상을 내리지도 않았고, 텐바지는 악플러들을 홀로 감당하는 처지가 됐다. 이런 이야기는 쌓여 가는데, 비난하는 쪽은 탐지기가 스스로 달아 둔 단서 조항을 으레 못 본 척한다.

그래서 상황은 어디로 가고 있나. 점점 늘어나는 대학들이 이 불확실성을 감수할 값어치가 없다고 결론지었다. 예일대, 존스홉킨스대, 밴더빌트대, 조지타운대가 AI 탐지를 끄거나 제한한 축에 든다. MIT는 잘라 말한다. "AI 탐지기는 작동하지 않는다."

사후에 글을 단속하는 대신, 많은 학교는 아예 과제를 다시 짜고 있다. 시카고대는 학생에게 더 천천히 읽게 하고, 긴 글쓰기 과제를 여러 단계로 쪼개며, 자기 작업을 돌아보는 시간을 끼워 넣으라고 권한다. 스탠퍼드대는 교수들에게 교실 안 평가로 방향을 튼다. MIT는 학생이 과제에 AI의 도움을 받았다고 벌점 없이 털어놓을 여지를 남겨 두라고 교수들에게 당부한다.

의심은 교실 밖으로도 번진다. 서브스택(Substack)은 팽그램을 앱에 심어 독자가 블로그에서 AI 가능성을 훑어볼 수 있게 했고, 링크드인(LinkedIn)은 게시물에 "AI 찌꺼기 같다(seems like AI slop)"는 버튼을 달았다. 필자들은 반대 방향으로 민다. 작가조합(Authors Guild)은 이제 "사람이 씀(Human Authored)" 인증을 내주고, 필자들은 '낫 바이 AI(Not by AI)'나 '리튼 바이 휴먼(Written by Human)' 같은 배지를 글에 붙일 수 있다. 위키백과는 기계가 쓴 글을 가려내는 자체 지침을 내놓았는데 — 주제의 중요성을 "부풀리거나(puffs up)" 정보를 "겉핥기로 분석(superficial analysis of information)"한 글을 조심하라는 내용이다 — AI가 생성한 문서 자체를 아예 금지했다.

여기서 실용적인 교훈 하나. 탐지기의 판정은 확정이 아니라 추측이고, 그 도구를 파는 회사들이 자기 단서 조항에 그렇게 적어 두었다. 글을 쓰는 사람이라면 — 특히 제2언어로, 혹은 담백하고 정연한 문체로 쓴다면 — 오탐은 대비할 만한 실제 위험이니, 초안과 수정 이력, 메모를 남겨 두는 편이 좋다. 반대로 남을 비난하는 쪽이라면, 탐지기 점수는 증거 근처에도 못 간다. 믿을 만한 신호는 애초에 소프트웨어가 아니었다. 그 글을 만든 과정이다.

이 글은 The Verge AI의 보도를 사실 확인해 재구성했습니다. 원문: The Verge AI