AI 윤리 가드레일 튜닙, '스케일업 팁스' 선정… 멀티모달 안전 기술 개발

AI 기술 스타트업 튜닙이 중소벤처기업부 주관 ‘스케일업 팁스(SCALE-UP TIPS)’ 프로그램에 선정됐다. 이번 선정을 통해 튜닙은 향후 3년간 총 12억 원 규모의 연구개발(R&D) 및 사업화 자금을 확보하게 됐다. 운영사로는 DSC인베스트먼트가 참여했다.

튜닙은 한국어 특화 LLM을 기반으로 AI 챗봇과 AI 윤리 가드레일 솔루션을 개발해왔다. AI 윤리 가드레일은 생성형 AI의 유해 발언, 개인정보 노출, 프롬프트 공격 등을 사전에 탐지·차단하는 필수 보안 인프라기술이다.

튜닙은 이번 과제를 통해 ‘AI 에이전트의 안전성 확보를 위한 한국어 특화 멀티모달 가드레일 시스템’을 개발한다. 목표는 텍스트뿐 아니라 음성·이미지·영상까지 포함한 환경에서 민감 주제 탐지, 프롬프트 공격 방지, 규제에 맞춘 응답 제어를 통합적으로 수행하는 기술을 확보하는 것이다.

또한, 다양한 환경에서 적용 가능한 경량 모델 최적화 기술과 API·SDK 형태의 개발자 도구를 제공해 금융·공공·교육 등 다수 산업에서의 AI 에이전트 보안 도입을 지원할 예정이다.

박규병 대표는 “가드레일 기술이 산업 경쟁력을 좌우”한다며, “한국어 특화 멀티모달 가드레일 기술을 한 단계 더 끌어올리고 글로벌 파트너들과 함께 AI 안전 기준을 제시”하겠다고 말했다.