사내 AI 구축 비용은 무엇에 따라 달라질까?

사내 AI 비용을 결정하는 요소

아래 항목들이 견적서의 구성을 정합니다. 어느 하나가 특별히 비싸다기보다, 몇 개가 동시에 필요해지면 범위가 빠르게 커집니다.

• 데이터 유형 — 텍스트 문서·스캔 PDF·표 중심 엑셀·DB·API 중 무엇을 연결하는가
• 문서 수와 규모 — 검색 대상 자료의 총량
• 문서 전처리 — 본문 추출, 잡음 제거, 문자 인식(OCR) 필요 여부
• 검색·RAG 구조 — 단순 조회인가, 검색·재정렬·필터가 필요한가
• 사용자 수 — 동시 사용 규모가 인프라 구성을 정합니다
• 사용자 역할 — 부서·직급별로 쓰는 화면과 답변 범위가 다른가
• 권한 — 역할별로 조회 가능한 자료를 나눠야 하는가
• 관리자 — 자료 등록·회수·이용 현황 확인 기능을 어디까지 만드는가
• 기존 시스템·API 연동 — 연동 대상 수와 규격 공개 여부
• LLM 모델·API — 어떤 모델을 어느 정도 호출하는가(사용료는 실비 별도)
• 로그·분석 — 질문·답변 기록을 어디까지 남기고 분석하는가
• 배포 환경 — 기존 인프라와 보안 요구 수준
• 웹·앱 UI — 별도 화면인가, 기존 시스템 안에 넣는가
• 테스트·평가 — 대표 질문 세트로 검색·답변 품질을 검증하는 절차

가장 크게 움직이는 것 — 자료의 정리 상태

비용을 결정하는 가장 큰 변수는 문서 개수가 아니라 자료가 어떤 상태인가입니다. 한 폴더에 텍스트 PDF로 정리돼 있으면 처리가 단순하지만, 같은 내용이 여러 버전으로 흩어져 있고 어느 것이 최신인지 사람도 모르는 상태라면 정리부터 해야 합니다. 이 정리 작업이 실제 견적에서 상당한 비중을 차지하는 경우가 많습니다. 도입을 검토 중이라면 문서 목록을 한 번 훑어 최신본을 가려 두는 것만으로도 범위가 줄어듭니다.

• 최신본이 어디 있는지 명확한가
• 같은 내용이 중복 저장돼 있지 않은가
• 폐기됐지만 남아 있는 옛 규정이 섞여 있지 않은가
• 부서별로 형식이 제각각이지 않은가

단순 AI 챗봇과 사내 AI는 비용 구조가 다릅니다

같은 "AI 챗봇"이라는 말을 쓰지만 만드는 것이 다릅니다. 단순 챗봇은 정해진 범위 안에서 답하는 화면 하나를 만드는 일에 가깝고, 사내 AI는 회사 자료를 검색 가능한 형태로 만들고 권한을 나누고 품질을 검증하는 작업이 함께 붙습니다. 아래 표가 그 차이입니다.

RAG 구축 비용이 달라지는 이유

RAG를 넣으면 화면 개발 외에 "검색이 제대로 되게 만드는 작업"이 통째로 추가됩니다. 이 부분이 견적에서 눈에 잘 안 보이는데, 실제로는 작업량의 큰 비중을 차지합니다.

• 문서 종류 — 형식이 여러 가지면 추출 방식도 그만큼 나뉩니다.
• 문서 분할(chunking) — 문서 형태에 맞는 분할 방식을 정하고 시험하는 작업입니다.
• 임베딩(embedding) — 조각을 검색용 데이터로 변환합니다. 변환에 모델 API 사용료가 발생하고 문서가 바뀌면 그 부분을 다시 변환합니다.
• 벡터 검색 — 저장·조회 인프라가 필요하고 자료 규모에 따라 비용이 달라집니다.
• 메타데이터 — 부서·문서 종류·유효기간을 조각마다 붙이는 작업입니다. 붙여 두면 검색 정확도가 올라갑니다.
• 검색 로직 — 무엇을 몇 개 가져오고 어떻게 거를지 정하고 조정합니다.
• 재정렬(reranking) — 후보를 한 번 더 정렬하는 단계로, 호출이 늘어 운영비에도 영향을 줍니다.
• 출처 표시 — 답변에 근거 문서를 붙이려면 조각마다 원문 위치를 추적할 수 있어야 합니다.
• 권한 필터링 — 검색 단계에서 역할별로 조회 대상을 나누는 설계입니다.
• 평가 — 대표 질문으로 검색·답변을 점검하는 절차를 만드는 작업입니다.

처음부터 큰 시스템을 만들 필요는 없습니다

한 번에 전사 시스템을 만들면 자료 상태를 잘못 예측했을 때 되돌리기 어렵습니다. 단계를 나누면 각 단계에서 확인한 사실을 근거로 다음 범위를 정할 수 있어 총비용이 내려갑니다.

• PoC — 특정 부서, 문서 수십 건, 대표 질문 20개로 "우리 자료로 쓸 만한 답이 나오는가"만 확인합니다.
• MVP — 실제 업무에서 쓸 수 있는 수준으로 화면·권한·관리자를 갖춥니다.
• 확장 — 대상 부서, 자료 범위, 연동 시스템을 넓힙니다.

개발비와 별개로 계속 드는 비용

사내 AI는 만들고 끝나는 시스템이 아니라 쓰는 동안 비용이 발생합니다. 이 부분을 견적에 넣지 않으면 도입 후에 예산 문제가 생깁니다.

• 언어모델 API 사용료 — 질문 수와 참고 자료 길이에 비례하는 실비입니다.
• 검색 데이터 저장·조회 비용 — 자료 규모에 따라 달라집니다.
• 서버·인프라 비용 — 배포 환경에 따라 다릅니다.
• 자료 갱신 운영 — 문서가 바뀔 때 반영하는 작업이 필요합니다.

견적 전에 정리하면 좋은 정보

아래 항목이 정리돼 있으면 범위를 훨씬 정확하게 잡을 수 있고, 그만큼 견적의 오차도 줄어듭니다. 전부 갖춰야 상담이 되는 것은 아니고, 아는 만큼만 알려 주셔도 됩니다.

• AI가 답해야 하는 질문 — 실제 표현 그대로 20개 정도
• 사용할 문서·데이터 — 종류와 대략의 양, 저장 위치
• 사용자 부서 — 어느 부서부터 쓸 것인가
• 사용자 수 — 전체 인원과 동시 사용 규모
• 권한 차이 — 부서·직급별로 봐도 되는 자료가 다른가
• 기존 시스템 — ERP·CRM·그룹웨어 등 연동 대상과 제품명
• 필요한 UI — 별도 웹인가, 기존 시스템 안에 넣는가, 모바일도 필요한가
• 외부 연동 — 사내 시스템 외에 연결할 서비스
• 보안 요구사항 — 외부로 보낼 수 없는 자료가 있는가
• PoC 여부 — 작게 검증부터 할 것인가

름랩의 견적 기준

름랩은 VAT 포함 정액으로 범위와 금액을 계약 전에 확정해 공개합니다. 사내 AI는 관리자와 외부 연동이 함께 들어가는 웹앱 형태가 많아 웹 프리미엄 구간부터, AI 기능과 업무 자동화까지 함께 구성하면 앱 AI 구간을 기준으로 보시면 됩니다. 패키지 금액은 홈 요금 안내에 공개돼 있습니다. 정확한 금액은 자료 상태와 질문 목록을 확인한 뒤 범위를 확정해 안내드리며, 모델 API 사용료와 인프라 비용은 실비로 별도입니다. 실제 구축 범위가 정해졌다면 사내 AI 구축 서비스 페이지에서 개발 범위를 확인하실 수 있습니다.