창업하자 350억 모였다… “같은 비용으로 AI 검색 성능 10배”[허진석의 톡톡 스타트업]

대형언어모델(LLM) 인공지능(AI)이 더 활발히 쓰이기 시작한 건 답변에 최신 정보가 반영되면서부터다. 2023년 3월에 나온 오픈AI의 GPT4와 빙 검색이 결합된 마이크로소프트 코파일럿이 시초로 꼽힌다. 이전에는 ‘현직 미국 대통령이 누구야?’라고 물으면 LLM이 학습한 자료가 1∼2년 전 것이어서 옛 시점을 기준으로 잘못된 대답을 내놓곤 했다. 코파일럿에는 외부 지식을 참조해서 답변하는 검색증강생성(RAG·래그) 기술이 적용됐다. 검색한 최신 자료를 보강해서 답변을 생성한다는 의미다. 디노티시아는 검색증강생성이 더 정확하고 빠르게 작동할 수 있도록 해 주는 기술을 가진 스타트업이다. LLM이 좋은 답변을 생성할 수 있도록 사용자의 질문 의도에 맞는 양질의 데이터를 빠르게 검색해 투입하는 기술이다. 여기에 벡터 데이터베이스(DB)가 쓰이는데, 세계에서 처음으로 벡터DB 검색 기술을 칩으로 구현했다. 하드웨어 칩은 소프트웨어 보다 훨씬 빠르고 경제적이다. 지난달 28일 서울