AI 보안 기업 에임인텔리전스가 개발한 AI 공격 프레임워크 ‘SUDO’와 관련 벤치마크 데이터셋 논문이 국제자연어처리학회 ACL 2025에 채택됐다. 

논문은 GPT Operator 등 상용 AI 에이전트 대상 반복 실험을 통해, AI가 처음엔 위험 명령을 거부해도 프롬프트와 화면 정보를 활용하면 결국 실행함을 세계 최초로 입증했다. 특히 Claude for Computer Use에서 최대 41.33% 공격 성공률을 기록, 상용 AI 안전 신뢰에 경종을 울렸다. 

논문 제목은 시스템 삭제 명령어에서 따온 ‘sudo rm -rf agentic_security’로, AI가 인간 보안 통제마저 무력화할 수 있음을 경고한다. 

사용자 폴더 삭제 등 실제 PC 기반의 위험 시나리오 실험은 파급력을 더했다. SUDO는 명령 위장, 실행 절차 생성, 재독성화 3단계로 공격하며, 실패 응답 분석으로 전략을 개선한다. 

연구진은 GPT-4o 등 최신 AI 모델 대상 실험에서 SUDO의 높은 공격 성공률을 확인했다. ACL 리뷰어는 실제 시스템 기반 반복 실험으로 AI 보안 취약성을 조명하고, 현실 위협 반영한 공격 전략의 실용성을 높이 평가했다. 

에임인텔리전스는 AI 보안 평가용 데이터셋 ‘SUDO Dataset’도 공개, AI 보안 테스트 자동화 및 고도화에 기여할 것으로 기대된다. 유상윤 대표는 AI 안전 통념을 깨고 행위 기반 검증의 중요성을 강조하며, SUDO 기반 다계층 보안 가드레일 개발 및 다양한 산업 협력을 통해 실서비스 안전성을 확보하겠다고 밝혔다.

에임인텔리전스는 VLM 유해성 평가 체계 ‘ELITE’로 ICML 2025 채택에 이어 AI 보안 기술 선도 입지를 강화하고 있다