백도어 포이즌은 정확도를 안 떨어뜨린다 — 성공률 96.7~100%, 라벨 플리핑과 달리 지표에 안 잡혀

학습 데이터 오염 공격 두 유형을 통제된 조건에서 비교한 실증 연구입니다. MNIST·Fashion-MNIST에 로지스틱 회귀·선형 SVM·랜덤 포레스트를 놓고 오염률 5%·10%·20%를 적용했습니다. 라벨 플리핑은 성능 저하가 눈에 보였고(특히 로지스틱 회귀와 선형 SVM, 랜덤 포레스트는 상대적으로 견고), 백도어 포이즌은 공격 성공률 0.9667~1.0000을 내면서도 정상 테스트 정확도는 기준선 수준을 유지했습니다.

시사점은 명확합니다. 정확도·F1 같은 일반 성능 지표로는 백도어를 잡을 수 없습니다. 외부 데이터셋이나 크라우드소싱 라벨을 학습에 쓰는 조직이라면 모델 검증 지표만 볼 게 아니라, 데이터 출처 추적과 트리거 패턴 탐색을 별도 절차로 두어야 합니다.

출처: arXiv