리벨리온·레드햇, 국내 첫 vLLM 밋업 개최··· “AI 위한 공동의 협력에 기여”

생성형 AI 기술 추세는 시시각각 변한다. GPT-3 등장 이후 텍스트뿐만 아니라 이미지, 음성 등의 데이터도 같이 처리하는 멀티모달 AI가 대두됐고, 이어서 더 크고 더 긴 내용을 이해하는 경쟁이 붙었다. 그러다 일반 사용자 활용도 및 산업 현장에서의 활발한 확산을 위한 소형언어모델과 온디바이스AI가 화두로 떠올랐다가, 지금은 AI가 스스로 목표를 세우고 결정하는 AI 에이전트가 대세다. AI 기술은 시장이 필요로 하는 방향에 맞춰 기민하게 방향과 목표를 바꾸며 나아가고 있다.AI가 빠르게 확산하면서 AI 서비스의 운영 효율성이 더욱 중요해지고 있다. 실제 서비스 환경에서의 추론 성능과 운영 효율성을 높여야만 AI 시장이 더 빠르게 확산하고, 장기적으로 시장 주도권과 경쟁력을 모두 가져갈 수 있기 때문이다. AI 반도체만 해도 처리 성능과 와트당 성능이 경쟁의 핵심이며, 이를 최적화하는 소프트웨어 측면에서도 가능한 빠르고 효율적으로 결과를 제공할수록 좋은 평가를 받는다.최근 인공지