길길인사이트
오픈AI의 차세대 모델 아스트라와 AGI 진입선
오픈AI가 최신 인공지능 모델인 'GPT-6 아스트라(Astra)'를 공개했습니다. 그렉 브록먼 오픈AI 사장은 이번 모델을 두고 '세계 최고 수준의 컴퓨터 사용자 모델'이라 표현하며, 향후 범용인공지능(AGI)의 초기 단계로 평가받을 것이라고 밝혔습니다.
단순한 질의응답을 넘어 스스로 시스템 환경을 탐색하고 도구를 다루는 수준에 근접했다는 점을 강조한 셈입니다. 복잡한 문제를 사람처럼 학습하고 해결하는 에이전트형 모델로 진화하고 있음을 시사합니다.
사이버 역량 최초 '크리티컬' 도달과 내부 통제
아스트라 발표에서 가장 주목할 부분은 사이버보안 평가입니다. 오픈AI의 자체 위험관리 기준인 '준비성 평가 프레임워크(Preparedness Framework)'에서 사이버 역량이 처음으로 'Critical(치명적)' 임계치를 충족했습니다.
이 등급은 모델이 적절한 도구와 권한을 가졌을 때, 사람이 매 단계 지시하지 않아도 시스템 취약점을 찾고 공격 방식을 개발할 수 있는 수준을 의미합니다. 이에 오픈AI는 악용 방지와 모델의 비정렬(misalignment)을 막기 위해 출시 일정을 늦추며 안전장치를 보강했다고 밝혔습니다.
모델 자체에 대한 보호 조치도 함께 강화되었습니다. 오픈AI는 내부 개발 과정에 다음과 같은 통제 기술을 적용했습니다.
- 엄격한 격리 환경(Isolation) 및 체크포인트 암호화: 모델 파일 및 실행 환경 탈취 방지
- 사고 과정(Chain of Thought) 전면 모니터링: 추론 단계 전체 경로 추적
- 차단형 정렬 평가(Blocking Alignment Evaluation): 내부 사용 전 안전성 검증
저는 AI 모델이 자율적으로 제로데이 취약점을 찾을 수 있는 단계에 들어섰다면, 개발사 내부 인프라의 격리와 암호화는 선택이 아니라 필수적인 방어선이 되었다고 봅니다.
GPT-5.6 Sol 대비 탈옥 방어와 정렬 개선
오픈AI는 이전 모델인 GPT-5.6 Sol과 비교해 시스템 견고성(Robustness)과 정렬 능력이 크게 개선되었다고 설명했습니다. 특히 긴 실행 경로(Longer trajectories)가 이어지는 작업에서도 탈옥 시도를 방어하는 능력이 향상되었습니다.
고위험군 사용자에 대해 거부 기준을 보수적으로 설정하고, 이중용도(Dual-use) 위험 영역에 대한 거부 범위를 넓혔습니다. 과거 발견된 공격 경로를 점검하는 회귀 테스트와 자동화된 레드팀 테스트도 거쳤습니다.
정렬(Alignment) 지표에서도 진전이 확인되었습니다. 오픈AI 내부의 5만 4,000건 이상 코덱스(Codex) 시뮬레이션 결과, 아스트라는 GPT-5.6 Sol 대비 심각한 수준의 비정렬 행동 경고가 약 절반 수준으로 감소했습니다.
자율 에이전트 시대의 새로운 비용과 보안 과제
오픈AI는 비정렬 행동을 억제하기 위해 정렬 훈련뿐만 아니라 광범위한 실시간 모니터링을 병행하고 있으며, 여기에 상당한 컴퓨팅 비용이 투입된다고 밝혔습니다.
모델의 자율성이 높아질수록 예상치 못한 경로로 위험 행동을 할 가능성도 함께 커집니다. 저는 향후 초거대 AI 경쟁에서 모델의 순수 추론 능력 못지않게, 비정렬 행동을 통제하고 모니터링하는 인프라 비용을 감당할 수 있는지가 핵심 경쟁력이 될 것으로 봅니다.
