AI 리뷰 세 번이 통과시킨 문서를 진짜 법률 사건 하나가 무너뜨렸다
세 번의 AI 자가검증이 전부 통과 판정을 내린 시스템이 실제 사건 하나에서 깨졌다. 통과는 검증의 끝이 아니라 특정 관점에서의 통과일 뿐이다.
세 줄 요약부터 적는다.
- 오늘 한 일: 법률 문서 검증 시스템을 다룬 글 한 편을 공개 개발자 플랫폼에 발행했고, 발행 전에 사람과 AI가 함께 도는 검토 절차를 한 번 통과시켰다.
- 왜 중요한가: 글의 핵심 주제 자체가 오늘 배운 것과 같다. AI 리뷰가 세 번 다 통과시킨 문서를 실제 법률 사건 하나가 무너뜨렸다는 이야기다.
- 빌더에게의 의미: 자가검증이 통과했다는 말은 결함이 없다는 뜻이 아니라, 검증이 상상할 수 있는 실패만 봤다는 뜻이다.
통과 판정은 검증의 끝이 아니라 특정 관점의 통과일 뿐이다
오늘 발행한 글의 뼈대는 하나의 실패 서사다. 문서 검증 시스템을 만들면서 AI 검토를 세 번 돌렸고 세 번 다 문제없음이 나왔다. 그런데 실제 법률 사건 데이터를 넣자 시스템이 당사자를 잘못 분류하는 결함이 드러났다. 합성된 예시로는 절대 나오지 않던 종류의 오류였다.
여기서 갈린 지점이 오늘의 판단이다. 검증을 더 여러 번 돌리는 것으로는 이 결함을 잡을 수 없다. AI 자가검증은 자기가 상상할 수 있는 실패 목록 안에서만 검사하기 때문이다. 같은 관점을 세 번 반복하면 같은 사각지대를 세 번 지나칠 뿐이다. 필요한 건 검증 횟수가 아니라 검증 관점의 종류를 바꾸는 것이었다. 합성 데이터에서 실제 데이터로 관점을 옮기자 비로소 상상 밖의 실패가 보였다.
- 세 번의 AI 리뷰: 전부 통과. 잡아낸 실제 결함은 0개.
- 실제 사건 데이터 투입: 당사자 분류 오류 즉시 노출.
- 결론: 반복은 확신을 키우지만 검증하지는 않는다.
발행 전에 사람과 AI가 함께 도는 검토 문을 하나 세웠다
이 글은 초안을 다른 도구가 먼저 썼고, 내가 발행 버튼을 누르기 전에 검토 절차를 한 번 통과시켰다. 아이러니하지만 글의 주제와 정확히 같은 이유로, 초안을 그대로 믿지 않았다.
검토는 세 가지를 봤다. 개인정보가 한 글자라도 새는지, 톤이 정직한지, 사실 관계가 정확한지. 실제 사건은 추상적으로만 서술하고 식별 가능한 정보는 전부 뺐다. 이 검토를 통과한 뒤에만 공개로 넘겼다. 자가검증의 한계를 다룬 글조차 자가검증 하나에 맡기지 않았다는 게 오늘 스스로 지킨 규칙이다.
비공개 저장소만 있을 때 공개 이미지 주소를 확보하는 법
작은 문제 하나가 발행을 막았다. 커버 이미지가 필요한데 이미지를 담아둘 두 소스 저장소가 모두 비공개였다. 비공개 저장소의 raw 주소는 외부에서 404로 막힌다. 개발자 플랫폼은 공개적으로 접근 가능한 이미지 주소만 커버로 받는다.
해결은 새 저장소를 만드는 게 아니라 이미 공개 배포되어 있는 제품에 이미지를 얹는 것이었다. 라이브로 돌아가는 제품의 정적 파일 폴더에 이미지를 넣고 배포하면, 그 배포 주소가 곧 공개 이미지 주소가 된다. 없는 인프라를 새로 세우지 말고 이미 공개된 표면을 재사용한다는 판단이다.
- 막힌 지점: 비공개 저장소 raw 링크 404.
- 접은 선택: 이미지 전용 공개 저장소 신설.
- 고른 선택: 이미 배포된 제품의 정적 폴더에 얹어 공개 주소 확보.
오늘 하루를 관통한 판단
통과라는 단어를 믿지 않는 하루였다. AI 검토가 통과시켰다는 것, 합성 데이터로 통과했다는 것, 초안이 잘 읽힌다는 것은 전부 특정 관점에서의 통과일 뿐이다. 진짜 결함은 관점을 늘려서가 아니라 관점의 종류를 바꿔야 보인다. 그래서 글 하나 발행하는 일에도 검토 문을 하나 세웠고, 시스템을 검증하는 일에는 실제 사건 데이터를 넣었다.
만드는 사람에게 남는 교훈은 단순하다. 여러 번 확인했다는 말과 다른 방식으로 확인했다는 말은 전혀 다르다. 확신이 필요할 때 나는 같은 검사를 반복하지 않고, 검사의 종류를 바꾼다.
맥락: 이 글은 오늘 개발자 플랫폼에 실제로 발행됐고, 법률 문서 검증 제품을 만들며 겪은 실패와 그 해석을 담았다.