기자의 눈 AI 맹신 시대, 편리함에 가려진 인간 책임
기자는 최근 취재 자료 수집 및 이미지 제작을 위해 챗GPT와 구글 제미나이(Gemini), 앤트로픽 클로드(Claude), 코파일럿(Copilot) 등 생성형 인공지능(AI) 플랫폼을 동시에 가동하고 있다. 고도화된 기술의 편리함을 기대했으나 반복된 사용에서 느낀 것은 기술에 대한 감탄보다는 일종의 경계심이었다.
이들 생성형 AI는 공통적으로 기자의 질문 의도를 교묘하게 간파해 가장 만족해할 만한 답변을 골라 내놓는 경향을 보였다. 객관적이고 정확한 사실에 기반한 정보 제공보다는, 기자가 내심 바라고 있는 욕구를 충족시키는 데 초점을 맞추고 있다는 인상이 짙었다.
결국 AI로부터 진정으로 유용하고 신뢰할 수 있는 답변을 이끌어내기 위해서는 철저히 정돈되고 이성적인 구체화 조건이 선행돼야 한다는 결론에 다다랐다. 기자 스스로가 도출하고자 하는 결과물의 윤곽과 방향성을 완벽하게 파악하고 있어야만 비로소 ‘쓸 만한 답’을 얻을 수 있는 것이다.
이 같은 현상은 미국의 글로벌 미래 전략가 제이슨 솅커(Jason Schenker)가 저서 ‘AI 이후의 미래 어떻게 될 것인가’를 통해 지적한 경고와도 맥락을 같이 한다.
저자는 AI 기술의 보편화가 비판적 사고의 마비를 동반하는 역설을 낳는다고 지적한다. AI 이용자가 가공되지 않은 기초 데이터를 AI 도구에 집어넣은 뒤, 산출된 결과물을 어떠한 필터링도 없이 사실로 받아들이는 상황을 두고 “엄밀한 의미의 분석이라기보다 복잡한 과정을 건너뛰고 손쉽게 결과만 얻으려는 조급한 욕망의 발현일 뿐”이라고 비판한다.
아울러 저자는 행동과 결과 사이의 위기를 임시방편으로 모면할 수준의 설익은 생각에 머물면서도, 정작 자신은 상황을 완벽히 지배하고 있다고 착각하는 현상을 ‘위험천만한 반쪽짜리 지식(gefährliches Halbwissen)’이라는 개념으로 설명했다. AI가 제공하는 즉각적인 결과물에 매몰돼, 정작 가장 중요한 검증 과정을 생략해 버리는 현대인들의 고질적인 행태를 정조준한 지적이다.
이러한 비판적 사고의 부재가 초래할 리스크는 금융권 보안 최전선에서 이미 거대한 현실로 다가왔다. 최근 금융당국이 한 달 만에 1만 건 이상의 고위험 취약점을 스스로 찾아내는 프런티어(Frontier) AI ‘미토스(Mythos)’의 위협에 대응해 파격적인 제재 면책 조치와 가이드라인을 마련한 것은 단적인 예다.
인류의 원초적 이야기를 뜻하던 미토스가 이제는 AI가 생성해내는 디지털 파괴력이라는 새로운 ‘신화(혹은 재앙)’가 된 셈이다. 정부가 경미한 전산장애 수습과 소비자 보호를 전제로 임직원 제재를 면제해 주면서까지 신속한 보안 패치를 유도해야 할 만큼, AI의 공격 속도와 위협은 예측 불가능한 영역으로 진입했다.
이렇듯 기술이 가져온 위기 속에서 KB금융그룹이 내건 ‘AI 공격에는 AI로 대응한다’는 전향적인 선언은 더욱 주목받는다. 지능화된 사이버 위협에 맞서기 위해 고도화된 기술적 방어 체계를 도입하겠다는 선언의 이면에는 매우 중요한 전제가 깔려 있다. 인간은 AI를 활용한 대응 시스템 전반을 완벽하게 이해하고 통제해야 하며, 그에 따른 책임 소재 또한 인간에게 귀속된다는 사실이다.
아무리 뛰어난 AI라 할지라도 그것은 결국 인간이 설계한 규칙과 데이터의 범주 안에서 움직이는 도구일 뿐이다. 시스템의 오작동이나 판단 착오로 발생하는 최종적인 리스크와 법적 책임까지 AI에게 전가할 수는 없다. 금융의 핵심 가치가 신뢰에 있는 만큼, 기술의 고도화가 책임 의무를 덜어주는 면죄부가 될 순 없다.
결국 AI가 일상과 산업 깊숙이 파고들수록 우리에게 요구되는 것은 기술에 대한 의존이 아니라 인간 본연의 주체성 확립이다. 기술 활용의 역설은 기술 그 자체의 결함이 아니라 그것을 다루는 인간의 태도에서 비롯된다. AI 시대의 진정한 성과는 주체적인 제어력을 갖춘 인간이 중심을 잡을 때 비로소 완성된다. 당장 기자 본인부터가 기술이 만능이라는 환상에서 벗어나 최종 책임자가 나 자신임을 끊임없이 자각하는 성찰을 반복해야겠다.
