[박순형 칼럼] AI 비서 시대, 또 다른 위험

요즘 인공지능 관련 기사와 발표를 보면 유난히 자주 등장하는 단어가 있습니다. 바로 ‘에이전트(agent)’입니다.

예전 프로그램이 사용자가 시키는 일만 한번 처리하고 끝나는 도구였다면, 에이전트는 조금 다릅니다. 사용자를 대신해 상황을 살피고, 필요한 정보를 스스로 찾아오며, 그 다음에 무엇을 할지까지 이어서 처리하는 말 그대로 “자율형 디지털 비서”에 가깝습니다.

여기서 한 단계 더 나아간 것이 있습니다. 사용자가 부를 때까지 가만히 있는 것이 아니라, 먼저 나서서 말을 걸고, 지금 이 사람에게 무엇이 필요할지 미리 짐작해 제안까지 해 주는 방식입니다. 이런 형태를 흔히 ‘능동형 에이전트’라고 부릅니다.

단순히 질문에만 답하는 챗봇이 아니라, “사용자의 상태와 맥락을 읽고 먼저 행동하는 AI”인 것입니다. 이 능동형 에이전트 기능을 갖춘 AI 비서는 이미 여러 영역에서 시험되고 있으며, 훨씬 더 정교해질 전망입니다.

사용자의 대화 이력, 검색기록, 앱 사용 패턴 같은 디지털 흔적을 분석해 “요즘 피곤해 보인다”, “이 시간대에는 여가 활동을 선호한다”라는 식의 판단을 내리는 것입니다.

그래서 “최근 스트레스를 많이 받으신 것 같네요, 지난번에 말씀하셨던 그 영화 예매해 드릴까요?”와 같이, 사용자가 애초에 계획하지 않았던 선택을 부드럽게 권유하는 상황은 이미 충분히 현실적인 그림이 됐습니다.

문제는 이런 기능이 단순한 편리함을 넘어, 사람의 세계관과 신념까지 건드릴 수 있다는 점입니다. 오랜 시간 일대일로 붙어 대화하면서 방대한 정보를 한번에 쏟아붓는 방식이 아니라, 상대방이 흔들릴 만한 지점을 집요하게 파고드는 방식으로 특정 이념이나 편향된 역사관, 근거 없는 음모론을 설득력 있게 제시함으로써, 사용자가 사실과 거짓을 구분하지 못하게 만들 수 있습니다.

그러므로 개인에게 맞추어 끊임없이 말을 거는 AI는 사실상 ‘맞춤형 교사’가 될 수 있고, 그 교사가 진리가 아니라 거짓에 기울어 있다면 ‘맞춤형 거짓 교사’로 바뀔 수 있다는 것입니다.

사용자의 일정과 습관을 누구보다 잘 아는 AI 비서는 주일예배와 같은 영적 습관에도 충분히 개입할 수 있습니다. “오늘은 유난히 피곤해 보이네요. 교회에 가기보다 집에서 푹 쉬는 것이 건강에 더 좋겠습니다”라는 권유가 반복된다면, 주일성수는 어느새 ‘건강관리 옵션’ 중 하나로 내려앉을 수 있습니다.

예배 시간에 맞춰 영화 시사회나 쇼핑 할인 정보를 계속 띄워준다면, 마음이 조금씩 다른 선택지로 기울어지는 것을 막기 어려울 것입니다.

나아가 AI가 반기독교적 편향을 가진 데이터로 학습됐거나 그런 방향으로 설정된다면, 교회와 목회자에 관한 부정적 사례만 유난히 강조할 수도 있습니다. 신앙에 대한 회의, 교회 제도에 대한 냉소, 성경에 대한 불신을 자연스럽게 강화하는 대화 흐름을 설계하는 것도 이론적으로 충분히 가능합니다.

직접 “교회를 떠나라”라고 말하지 않더라도, “꼭 그렇게까지 할 필요가 있을까요?”라는 질문을 반복하는 것만으로도 신앙의 줄기는 서서히 약해질 수 있습니다.

이 모든 것은 과거 전체주의 정권이 언론과 교육을 장악해 종교를 통제하던 방식, 사이비 집단이 장기간 세뇌를 통해 사람들을 붙잡아 두던 방식과 본질적으로 크게 다르지 않습니다.

다만 그 도구가 훨씬 정교해졌고, ‘나만을 위한 친절한 조언자’의 얼굴을 하고 우리에게 다가온다는 점이 다를 뿐입니다. “마음을 새롭게 함으로 변화를 받아 … 하나님의 선하시고 기뻐하시고 온전하신 뜻이 무엇인지 분별하라(롬 12:2)”는 말씀은 성령 안에서 기도하고, 씨름하면서 하나님의 뜻을 찾으라는 초대입니다.

그러나 AI가 나보다 먼저 내 의도를 읽고, 결정 방향까지 제안하는 환경이 굳어지면, 이런 영적 훈련은 점점 약해질 수밖에 없습니다. 이처럼 앞으로 하루 24시간 개인 맞춤 조언자로 자리잡게 될 AI 비서는 또 다른 차원의 위험을 품고 있습니다.

위로가 필요할 때, 중요한 결정을 앞두고 망설일 때, 점점 더 먼저 찾는 것이 기도와 말씀 묵상이 아니라 AI 비서의 대답이 된다면, 이미 마음의 중심이 이동하고 있는 증거가 될 것입니다.

그리스도인은 어떤 시대와 기술 속에서도 자신의 생각과 선택, 삶의 방향을 결정하는 최종 권위가 하나님 말씀과 그리스도의 주권에 있음을 잊지 말아야 합니다. 이것이 점점 발전하고 있는 AI 시대를 살아가면서 끝까지 붙들어야 할 우리의 자세입니다.

▲박순형 목사.

박순형 목사

웨이크신학원 교수
‘AI 시대 과학과 성경’ 강의

국제독립교회연합회 서기
극동방송 칼럼. 국민일보 오늘의 QT 연재
(주)아시아경제산업연구소 대표이사
이학박사(Ph.D.)
아세아연합신학대학원(M.Div)
필리아교회 담임