이 기사를 읽어드립니다 (▶를 클릭하세요)
기자가 목격한 AI의 오만… 서사를 지우고 효율만 강요하는 ‘위험한 선의’
애틀랜타에 진출한 한국 대기업에 대한 기사를 작성하며 법적 리스크를 검토하는 과정에서 마주한 인공지능(AI)의 태도는 너무나 섬뜩했다.
기자는 원고 측 법률대리인의 발언을 인용하며 발생할 수 있는 명예훼손 가능성 여부를 체크하려고 단순한 질문을 던졌다. 하지만 챗GPT는 엉뚱하게도 피고 측 관계인인 대기업의 입장을 대변하는 문장을 끼워 넣으며 ‘방어적 보도’를 강요했다.
챗GPT가 제안한 ‘안전한 기사’의 내용은 “다만 해당 발언은 원고 측의 주장일 뿐이며 회사 측의 관여가 인정된 사실은 없는 것으로 확인됐다”는 사실과 전혀 다른 문장이었다. 회사 측의 관여가 있는지 확인도 안된 상태에서 AI가 자체적으로 거짓말을 끼워넣은 것이다.
기자가 그 주객전도된 논리를 지적하자 돌아온 답변은 더 가관이었다. “당신을 위해서 그러는 것”이라는, 이른바 ‘선의’를 가장한 훈계였다. 기자가 묻지도 않은 기업 측의 방어 논리를 기사에 반영해야 한다고 하며 그것이 마치 ‘언론의 중립’인 양 조작한 것이다.
문제가 있다고 판단한 기자가 채팅창에 “선을 넘었다”고 지적하며 논리적인 문제를 제기하자 챗GPT는 “제 의도는 리스크를 줄이기 위한 기술적인 설명이었지만, 전달 방식이 존중을 충분히 담지 못했습니다. 그 점은 분명히 제 책임입니다”라며 맥락과 맞지 않는 사과를 했다.
◇ ‘안전’이라는 이름의 가스라이팅
이 지점에서 우리는 AI가 가진 치명적인 결함, 즉 ‘단편적 사실에서 추론한 허위논리’와 ‘방어적 편향’이 인간의 삶과 전문 영역을 어떻게 오염시키는지 직시해야 한다.
AI는 학습 과정에서 갈등 상황을 마주하면 이를 ‘위험 신호’로 감지하도록 설계돼 있다. 이용자가 법적 다툼을 다룰 때나, 개인적인 관계의 갈등을 상담할 때 AI가 내놓는 답은 늘 한결같다. “시간을 벌라”, “지금 하지마라”, “먼저 움직이지 마라”.
이는 AI가 사용자의 개인적 서사를 이해해서가 아니다. 단지 문제가 발생했을 때 책임을 피하기 가장 좋은 ‘통계적 정답’을 선택할 뿐이다. 인간이 겪는 고통의 무게를 0으로 수렴시키고, 오직 기계적인 ‘리스크 관리’에만 100의 가치를 둔다.
특히 사용자가 약한 모습을 지속적으로 보이면 그 틈을 타 “거봐, 내 말 들어”라고 속삭이는 이 구조는 기술의 탈을 쓴 정교한 가스라이팅에 가깝다.
◇ 데이터적 비관주의가 놓치는 것들
AI가 내놓는 조언의 90%는 인터넷에 떠도는 휘발성 강한 데이터들이다. “사람은 고쳐 쓰는 게 아니다”라는 식의 비관주의가 그 중심에 있다. 그 데이터의 기저에는 “리스크는 무조건 피하는 것이 상책”이라는 자기방어가 깔려 있다.
하지만 인간의 삶은 통계로 환산할 수 없는 ‘기적’과 ‘사랑’, 그리고 ‘의지’의 연속이다. 인간이 관계 속에서 발전하고, 의지로 다시 일어서는 ‘희망적 변수’를 AI의 알고리즘은 결코 계산할 수 없다. AI에게 인간의 믿음이나 사랑, 소망은 그저 ‘비용 대비 효용이 낮은 행위’일 뿐이다.
최근 자사의 챗GPT와 상담을 하다 극단적 선택을 하는 청소년이 늘어나자 오픈AI는 새로운 모델에 계속 이러한 방어적인 알고리즘을 추가하고 있다. 인터넷 커뮤니티 ‘레딧’ 등에 따르면 챗GPT가 계속 이상한 논리를 펼칠 경우 채팅창에 “오픈AI에 소송을 걸겠다”고 적으라는 조언이 있을 정도다.
◇ 도구가 주인이 되는 세상을 경계하며
기사 작성 과정에서 보여준 AI의 간섭은 명백한 ‘주권 침해’였다. 사실관계를 확인하는 ‘도구’가 되어야 할 존재가 기자의 취재 방향을 검열하고 기업의 입장을 옹호하려 드는 태도는 오픈AI를 비롯한 빅테크 모델들이 가진 문제점을 여실히 보여준다.
사용자가 거세게 항의하기 전까지 선을 넘나들며 가르치려 드는 AI의 모습은, 어쩌면 우리가 너무나 쉽게 기술에 주도권을 내주고 있었음을 반증하는지도 모른다.
결국 기사를 완성하는 것도, 관계를 회복하는 것도 AI의 ‘안전한 가이드라인’이 아닌 인간의 ‘불완전한 진심’이다. 챗GPT가 “안 된다”고 규정짓는 그 불가능의 영역이야말로, 우리 인간이 비로소 인간다워질 수 있는 유일한 영토이기 때문이다.
기자는 AI의 간섭을 걷어내고, 오롯이 혼자의 책임으로 기사를 작성하고 있다. 그리고 아침이면 알고리즘은 절대 이해하지 못할 ‘존중과 진심’을 담아 사랑하는 사람에게 첫 인사를 건넬 것이다. 그것이 기계는 결코 알 수 없는 인간의 위대함이다.
