최근 정부가 'AI 챔피언', 'AI 정부 실험실' 같은 프로젝트를 추진하면서 공공 분야의 AI 전환(AX)이 빨라지고 있습니다. 공무원이 직접 AI로 코드를 짜고 에이전트를 통해 외부 데이터를 연결해 행정 업무를 처리하는 시대가 눈앞에 다가왔습니다.

하지만 기술 도입 속도에 비해 보안 대책은 여전히 과거의 문법에 머물러 있다는 지적이 나옵니다. 전 한국인터넷진흥원(KISA) 원장이자 현 국가인공지능전략위원회 보안특별위원장인 이원태 위원장은 최근 SNS를 통해 공공 AX의 보안 공백을 강하게 우려했습니다.

공공 AX의 그늘, 혁신의 속도가 위험의 속도가 되는 이유

이원태 위원장은 공무원들이 직접 AI를 다루고 외부 시스템을 연결하는 행정 혁신을 긍정적으로 보면서도, 동시에 심각한 경고를 던졌습니다. 공통된 보안 기준과 검증 도구 없이 AI가 확산되면 혁신의 속도가 곧 위험의 속도가 될 수 있다는 점입니다.

저는 이 지적이 현재 공공 AI 도입 방식의 가장 아픈 구석을 정확히 찔렀다고 봅니다. 지금은 기술을 먼저 도입해 성과를 내는 데만 급급해, 정작 뒤따라올 보안 사고에 대한 실질적인 대비책은 빠져 있는 형국이기 때문입니다.

과거에는 서버와 개인정보를 지키는 방화벽만으로도 어느 정도 방어가 가능했습니다. 하지만 이제는 AI가 스스로 판단하고 에이전트가 직접 행동하는 시대입니다. 기술 개발부터 검증, 배포, 운영에 이르는 전 과정에 걸쳐 공공 AX 전용 보안 체계가 시급히 마련되어야 하는 이유입니다.

비인간 행위자(NHI)와 공급망 보안의 등장

이 위원장은 AI 시대 보안의 핵심 키워드로 두 가지를 제시했습니다. 바로 에이전트와 API의 신원 및 권한을 관리하는 NHI(비인간 행위자, Non-Human Identity) 관리 체계와 AI 공급망의 안전성을 확인하는 AIBOM(AI Bill of Materials)입니다.

과거의 보안은 사람이 아이디와 비밀번호로 로그인하는 '계정 관리' 중심이었습니다. 하지만 이제는 수많은 AI 에이전트와 비인간 행위자가 핵심 시스템을 직접 움직입니다. 이들이 어떤 권한을 가졌는지, 이상 행동을 할 때 어떻게 권한을 회수할지 통제하는 기술이 필요합니다.

저는 특히 NHI 관리 체계 구축을 가장 시급한 과제로 봅니다. 권한을 부여받은 AI 에이전트가 오작동하거나 외부 공격에 노출되었을 때, 이를 즉각 통제할 수 없다면 공공 데이터 전체가 순식간에 유출될 위험이 매우 크기 때문입니다.

결국 보안의 문법이 바뀌어야 합니다. 단순히 사고를 예방하는 차원을 넘어, 사고가 터지더라도 핵심 서비스를 신속히 복구하고 유지하는 사이버 복원력 중심으로 보안 패러다임을 전환해야 할 때입니다.

진정한 AI 주권은 통제력에서 나온다

많은 이들이 국산 거대언어모델(LLM)을 개발하는 것만이 AI 주권을 지키는 길이라 믿습니다. 하지만 이 위원장은 모델의 개수나 성능보다 더 중요한 것은 '생산한 지능을 스스로 통제할 수 있는 능력'이라고 짚었습니다.

우리가 도입한 AI 모델이 무엇을 학습했고, 누구의 인프라 위에서 작동하며, 어느 범위까지 행동할 수 있는지 설명할 수 있어야 합니다. 위험한 순간에 시스템을 즉시 멈출 수 없다면 진정한 AI 주권을 가졌다고 보기 어렵습니다.

저는 AI 보안이 단순히 규제나 비용이 아니라, 국가의 핵심 산업 정책이자 안보 전략이라는 이 위원장의 시각에 깊이 공감합니다. 국내 보안 기업들이 새로운 위협을 발견하고 대응하는 역량 자체가 곧 국가의 핵심 생산 능력으로 인정받아야 합니다.

이를 위해 AI 투자가 늘어나는 비율만큼 AI 보안 인프라에도 동등한 규모의 투자가 뒤따라야 합니다. 이제 질문의 패러다임을 바꾸어, 오작동하는 AI의 권한을 즉시 회수할 준비가 되어 있는지 스스로 물어보아야 할 시점입니다.