LLM 침투 테스트 에이전트가 실제로 무엇을 할 수 있고 어디서 실패하는지 측정한 연구가 나왔다. PentestGPT 계열 두 시스템 — 오픈웨이트 Kimi K2.5 기반의 구형 human-in-the-loop 구성과 Claude Opus 4.8 기반의 자율 구성 — 을 공개 침투 테스트 대상 3개에 붙여 비교했다. 자율 구성은 3개 모두 해결한 반면 구형 구성은 그중 2개를 끝내 완료하지 못했고, 실패한 시도에서도 하위 과제의 절반가량은 수행했다.
주목할 대목은 실패 원인 분석이다. 연구진은 병목이 '기억 소실'이 아니라 '계획과 결단'이라고 봤다. 에이전트는 필요한 증거를 이미 손에 쥐고도 그것을 구체적인 익스플로잇 가설로 전환하지 못했다. 방어 측 관점에서는 공격 자동화 수준이 모델 세대 교체만으로 눈에 띄게 뛴다는 뜻이므로, "아직 에이전트가 못 한다"를 전제로 한 위험 평가는 주기적으로 다시 매겨야 한다.
출처: arXiv cs.CR