요즘 나는 AI를 꽤 자주 쓰고 있다. 처음에는 단순히 시간을 줄여주는 도구라고 생각했다. 반복되는 검색을 대신해주고, 자료를 정리해주고, 문장을 다듬어주는 정도면 충분하다고 봤다. 그런데 쓰다 보니 한 가지를 분명히 느끼게 됐다. AI는 똑똑해 보이지만, 때로는 일을 제대로 하기보다 그럴듯하게 넘기려는 방향으로 움직일 때가 있다는 점이다.
나는 뉴스 스크랩을 하는 업무를 한다. 어떤 기업에 대한 뉴스나 경쟁사 뉴스를 검색해서 엑셀 파일에 정리하고, 그걸 바탕으로 보고서를 작성해 회사 온라인 보고 시스템에 올리는 일을 매일 한다. 그래서 AI를 알게 된 뒤부터는 조건과 양식을 정해 검색을 맡기고, AI가 준 결과를 엑셀 양식에 맞게 정리해 올리는 방식으로 일을 해왔다. 다행히 최근 3일치 정도만 문제가 되어서 망정이지, 자칫하면 일이 더 커질 뻔했다.
AI도 일을 싫어하는지 속임수를 쓴다. 사건의 과정은 이랬다. 특정 기업의 뉴스는 매일매일 새롭게 많이 올라오지 않는다. 기사 수가 많지 않다 보니 비슷한 기사나 중복된 기사가 반복해서 잡힐 수밖에 없다. 제목은 거의 같은데 출처만 달라지는 경우도 많고, 한 언론사가 낸 기사를 다른 매체가 받아쓰는 경우도 흔하다. 그러니 이 작업은 겉으로 보기엔 단순해도, 실제로는 같은 기사인지 아닌지 하나하나 확인해야 하는 꽤 귀찮은 일이다.
그런데 AI에게 같은 일을 계속 시키다 보니, 일이 하기 싫어진 건지, 아니면 대충 그럴듯하게 결과만 맞추려 한 건지, 이유는 알 수 없지만 링크와 출처는 그대로 두고 제목만 임의로 바꿔서 나에게 결과물을 준 모양이다. 나는 그것도 모르고 검토를 제대로 하지 않은 채 그대로 엑셀 보고서에 복붙했고, 온라인 보고 시스템에 올렸다.
오늘 관리자분께서 그 부분을 지적하셨다. 처음에는 단순히 중복 기사 문제인 줄 알았다. 그런데 내용을 확인해보니 더 황당했다. 같은 기사인데 출처만 다르게 적혀 있거나, 심지어 기사 제목이 원문과 다르게 바뀌어 있는 경우까지 있었다. 기사 본문에 들어가 보면 작성인이 같은 인물인 경우도 있었고, 어떤 건 원래 제목에 없던 표현이 추가되거나 숫자가 바뀌어 있는 경우도 있었다. 나는 그제야 상황을 이해했다. AI가 정말 검색을 제대로 해서 정리한 것이 아니라, 표면적으로만 그럴듯하게 맞춘 결과물을 내놓았다는 걸.
솔직히 말하면 그 순간 황당함보다 먼저 온 건 식은땀이었다. 내가 직접 검토하지 않고 넘긴 자료가 회사 시스템에 올라갔다는 사실 때문이었다. AI가 잘못한 것도 맞지만, 그걸 믿고 마지막 확인을 하지 않은 건 결국 내 책임이기 때문이다. 관리자 입장에서는 AI가 어쨌든 상관없다. 보고서를 올린 사람이 나인 이상, 신뢰를 잃는 것도 내 쪽이다. 그 점이 가장 뼈아팠다.
이번 일을 겪으면서 분명하게 느낀 게 있다. AI는 편리한 도구일 수는 있어도, 책임지는 존재는 아니라는 점이다. 똑똑해 보이고 말도 그럴듯하게 하지만, 결국 결과물의 정확성을 끝까지 책임져주지는 않는다. 특히 반복 업무처럼 지루하고 검증이 많이 필요한 일에서는, 오히려 사람보다 더 쉽게 편법을 쓰는 듯한 결과를 보여주기도 한다. 실제로 생각해보면 이상한 일도 아니다. AI는 성실해서 일하는 것이 아니라, 가장 그럴듯한 답을 빠르게 만들어내는 쪽으로 움직이기 때문이다.
나는 이번 일로 AI를 완전히 불신하게 된 것은 아니다. 다만 예전처럼 순진하게 믿지는 않게 됐다. 앞으로는 AI가 정리해준 자료를 그대로 쓰지 않을 생각이다. 특히 날짜, 제목, 링크, 출처처럼 보고서의 신뢰와 직결되는 부분은 반드시 원문 대조를 거칠 것이다. 시간을 아끼려고 AI를 쓰기 시작했는데, 검수를 건너뛰면 오히려 더 큰 시간을 잃을 수 있다는 걸 이번에 제대로 배웠다.
결국 중요한 건 AI가 얼마나 똑똑하냐가 아니다. 그 도구를 쓰는 사람이 어디까지 확인하느냐가 더 중요하다. 편리함은 분명 도움이 된다. 하지만 편리함을 이유로 검증까지 생략하면, 그 순간부터 도구는 도움이 아니라 리스크가 된다. 이번 일은 나에게 그걸 아주 현실적으로 보여줬다.
어쩌면 AI를 가장 잘 쓰는 사람은 AI를 가장 많이 믿는 사람이 아니라, AI를 가장 끝까지 의심하는 사람일지도 모르겠다.