2024.07.21 (일)

스타트업

프렌들리 AI, 업스테이지의 솔라 번역모델 인프라 구축


생성형 AI 수행 인프라 리더 기업인 프렌들리 AI가 업스테이지와 손잡고 거대언어모델(LLM) ‘솔라' 기반의 번역 모델 인프라 구축 계약을 체결했다고 10일 밝혔다.


이번 협력을 통해 프렌들리 AI가 자사 생성형 AI 서빙 인프라를 업스테이지의 LLM 번역 모델에 제공하게 됐다. 높은 품질의 솔라 LLM을 시장에서 가장 빠른 프렌들리 인프라로 제공함으로써 고객들이 생성형 AI를 빠르고 낮은 비용으로 사용할 수 있도록 돕는다.


앞서 업스테이지는 솔라 LLM을 파인튜닝(미세조정)한 한국어-영어 번역 특화 모델을 API(응용프로그램 인터페이스) 형태로 공개했다. 단순 문장 번역을 넘어 전후 문맥을 종합해 의미를 추론하고, 대화의 맥락과 흐름까지 파악하는 딥러닝 번역이 특징이다. 기계번역 평가의 바로미터로 꼽히는 메타의 ‘플로레스’ 벤치마크 평가에서 오픈 AI의 GPT-4, 딥엘(DeepL) 등을 뛰어넘을 정도로 정확도가 높다.


이에 업스테이지는 일일 최대 10만 여 건에 달하는 번역 트래픽을 효율적으로 처리하기 위해 프렌들리 AI의 ‘프렌들리 전용 엔드포인트(Friendli Dedicated Endpoint)’를 도입했다. 이는 프렌들리 AI의 엔터프라이즈 클라우드 서비스로, 자체 개발한 프렌들리 엔진이 적용돼 높은 성능과 낮은 비용을 보장하고 모든 운영이 자동화되어 편리하게 사용할 수 있다. 또한, 고객사들은 엔드포인트를 이용하여 현재 모델의 수행 상태를 쉽게 모니터링할 수 있다.


프렌들리AI 전병곤 대표는 “업스테이지의 최고의 생성형 AI 솔라 모델과 프렌들리 AI의 최고의 생성형 AI 인프라가 만나, 기업들이 최고의 생성형 AI 응용을 최저의 비용으로 사용할 수 있도록 제공하게 되어서 매우 기쁘다”라며 “프렌들리 AI와 업스테이지가 같이 기업들의 생성형 AI 혁신을 돕도록 매진하겠다 “라고 밝혔다.


업스테이지 김성훈 대표는 “생성형 AI 인프라 수행 리더 기업 프렌들리 AI와 협력해 솔라 번역 모델의 서비스 비용을 효율화하게 되어 기쁘다”라며 “이제 더 많은 사람들이 세계 최고 수준의 번역 모델을 더욱 빠르고 손쉽게 사용할 수 있을 것으로 기대한다”라고 밝혔다.


관련기사