“지원 AI 모델만 42만 개··· 생태계에 대한 고민이 프렌들리AI의 시작”

“지금 현재 GPU 활용의 10%~20%가 학습에 쓰이고, 나머지는 모두 추론에 할당됩니다. 컴퓨팅 자원으로 AI 모델을 생성하는 과정이 학습이고, 만들어진 모델에게 질의를 보내고 응답을 받는 과정이 추론입니다. 프렌들리AI는 추론을 효율적으로 처리하는 기술을 갖췄으며, 이를 가장 깊게 다루는 글로벌 기업이라 말할 수 있습니다”2025년 8월 기준, 허깅페이스에 등록된 AI 모델 숫자는 193만 3683개에 달한다. 전 세계의 모든 오픈소스 기반 AI 모델과 데이터셋이 허깅페이스를 거쳐 공유됩니다. 이 과정에서 사용자가 AI 모델을 배포하기 위해서는 추론 인프라 제공 기업을 선택해야 하는데, 어떤 업체를 고르는지에 따라 최종 서비스 효율과 요금이 모두 다르다. 그중에서도 가장 주목받는 추론 서비스 제공자가 바로 프렌들리AI(FriendliAI)다.지난 1월에는 스타트업인 프렌들리AI가 허깅페이스와 전략적 파트너십을 맺고 공식 배포 옵션으로 추가되었으며, 3월에는 프렌들리AI가 멀티모