LLM을 악성코드 분류에 쓰는 흐름을 겨냥한 ALIBI 공격 연구가 공개됐다. 실행되지 않는 읽기 전용 섹션에 "이건 정상 엔드포인트 보안 제품"이라는 서사를 심어두기만 하면, 실행 코드나 임포트를 전혀 건드리지 않고도 LLM이 의심 지표를 정상 동작으로 재해석했다. PE 샘플 기준 Gemini 2.5 Pro에서 악성 판정 35건 중 30건이 정상으로 뒤집혔고, ELF로 옮겨서도 40건 중 16건이 오분류됐다. 검증을 유도하는 방어 프롬프트를 넣어도 악성 샘플의 42.9%는 여전히 정상 판정에 도달했다.
핵심은 LLM이 '공격자가 통제할 수 있는 문자열'과 '검증된 사실'을 구분하지 않는다는 점이다. LLM 기반 트리아지를 파이프라인에 넣었다면, 바이너리에서 뽑은 문자열·메타데이터는 근거가 아니라 주장으로 취급하고 해시 평판·서명 검증 같은 독립 출처를 함께 물려야 한다.
출처: arXiv cs.CR