LG CNS, GPU 2장만으로 ‘추론형 LLM’ 구동

LG CNS가 글로벌 인공지능(AI) 유니콘 기업 ‘코히어’와 함께 1110억 파라미터(매개변수)를 갖춘 추론형 거대언어모델(LLM)을 개발했다고 10일 밝혔다. 한국어와 영어 등 23개 언어를 지원하는 이번 LLM은 추론 등 핵심 성능에서 글로벌 상위 모델을 뛰어넘는 결과도 냈다. LG CNS는 이번 LLM 개발을 위해 코히어의 기업용 LLM인 ‘커맨드’ 모델에 그동안 LG CNS가 축적해 온 정보기술(IT) 전문성과 AI 기술력을 결합했다. 이번에 개발한 LLM은 온프레미스(On-premises·서버에 직접 설치해 운영) 방식으로 제공해 고객사들이 민감한 데이터를 외부로 유출하지 않고 자체 인프라 안에서 안전하게 처리할 수 있도록 할 계획이다. LG CNS에 따르면 이번 LLM은 한국어와 영어에서 우수한 추론 능력을 보였다. 양사가 자체 테스트한 결과 대표적인 추론 능력 검증 테스트인 ‘매쓰(Math)500’과 ‘미국초청수학시험(AIME) 2024’에서 한국어 및 영어 모두