AI 상담봇 도입 전, 상담 1건당 원가를 계산하세요

상담봇 도입 견적서를 보면 개발비 칸은 촘촘한데 운영비 칸은 "토큰 사용량에 따름" 한 줄로 끝납니다. 정작 매달 빠져나가는 돈은 이 한 줄입니다. 상담 1건에 얼마가 드는지 모르면 다음 달 요금도 알 수 없습니다.

다행히 계산에 필요한 숫자는 대부분 공개되어 있습니다. 입력·출력 토큰 단가, 사내 문서 검색에 붙는 토큰, 사람 상담사로 넘어가는 비율 세 가지를 넣으면 월 요금이 나옵니다. 아래 순서대로 자기 회사 숫자를 넣어 보세요.

상담 1건의 원가는 네 덩어리로 나뉩니다

원가를 한 덩어리로 보면 계산이 반드시 틀립니다. 실제로는 늘어나는 속도가 서로 다른 네 가지가 섞여 있습니다.

• 모델 API 토큰비 — 상담 건수에 정비례해 늘어납니다
• 문서 검색 인프라 — 벡터 데이터베이스 구독료로, 건수와 거의 무관한 고정비입니다
• 문서 색인비 — 사내 문서를 벡터로 바꾸는 임베딩 비용이며 문서를 고칠 때만 발생합니다
• 사람 상담사 인건비 — 봇이 못 풀어 넘긴 건수만큼 그대로 남습니다

이 중 셋째는 거의 0에 가깝고 넷째가 보통 가장 큽니다. 그런데 견적서에는 첫째만 적혀 있습니다.

출력 단가는 입력 단가의 정확히 다섯 배입니다

2026년 9월 3일 기준 Anthropic 공식 가격 문서의 단가는 아래와 같습니다. 세 모델 모두 출력이 입력의 5배입니다. 답변을 길게 쓰게 만들수록 요금이 빨리 오른다는 뜻입니다.

같은 상담을 Haiku 4.5로 돌릴 때와 Opus 5로 돌릴 때 단가는 5배 차이가 납니다. 모델 선택이 곧 원가 결정입니다.

상담 1건에 오가는 토큰을 먼저 세어 보세요

Anthropic 공식 문서에는 상담 티켓 처리 예시가 실려 있습니다. 대화 1건 평균 약 3,700토큰, Haiku 4.5 기준 1만 건에 약 $37입니다. 사내 문서를 붙이지 않은 짧은 상담의 숫자입니다.

사내 문서 검색을 붙이면 자릿수가 달라집니다. 응대 지침 1,500토큰, 검색으로 딸려 오는 문서 5건 4,000토큰, 대화 이력과 질문 1,000토큰을 한 상담에 세 번 주고받는다고 잡아 보겠습니다. 입력 약 20,000토큰, 출력 약 1,500토큰이 됩니다.

같은 상담도 모델에 따라 월 요금이 다섯 배 벌어집니다

위 가정으로 계산하면 상담 1건 원가는 Haiku 4.5가 약 2.8센트, Sonnet 5가 약 5.5센트, Opus 5가 약 13.8센트입니다. 월 1만 건이면 각각 약 $275, $550, $1,375입니다.

공식 가이드는 RAG와 도구 호출이 여러 번 끼는 상담 흐름이라면 Haiku 4.5가 지연시간과 비용 면에서 낫다고 안내합니다. 처음 분류와 단순 응답은 Haiku가 맡고 어려운 건만 상위 모델로 넘기는 구조를 쓰면 이 5배 차이를 그대로 줄일 수 있습니다.

RAG 요금은 검색료가 아니라 프롬프트 토큰으로 나옵니다

임베딩 자체는 거의 공짜입니다. OpenAI text-embedding-3-small은 100만 토큰에 $0.02입니다. 사내 문서 100만 토큰을 통째로 색인해도 2센트, 질문 1만 건을 임베딩해도 1센트 수준입니다.

벡터 데이터베이스도 고정비에 가깝습니다. Pinecone 기준 읽기 100만 유닛 $16~18, 쓰기 100만 유닛 $4~4.50, 저장은 GB당 월 $0.33입니다. Standard 플랜은 월 최소 사용액 $50, Builder 플랜은 월 $20 정액입니다.

RAG 고지서는 벡터 DB가 아니라 모델 쪽에서 날아옵니다. 검색 문서 4,000토큰이 상담 1건 입력 토큰의 대부분을 차지하기 때문입니다.

그래서 검색 문서를 5건에서 8건으로 늘리는 결정은 정확도 문제이기 전에 요금 문제입니다. 문서 1건을 더 붙일 때 월 요금이 얼마 오르는지 먼저 계산하세요.

캐시를 켜면 입력비가 절반 가까이 줄어듭니다

프롬프트 캐시는 매번 반복되는 앞부분을 다시 계산하지 않고 읽어 옵니다. 캐시 읽기는 기본 입력가의 0.1배, 5분짜리 캐시 쓰기는 1.25배, 1시간짜리는 2배입니다. 5분 캐시는 한 번만 재사용해도 이득이 납니다.

앞의 예에서 입력 20,000토큰 중 12,000토큰이 매번 같은 지침과 문서라면, Haiku 4.5 입력비는 2센트에서 약 0.92센트로 내려갑니다. 상담 1건 원가는 2.8센트에서 약 1.7센트, 월 1만 건이면 $275에서 약 $167이 됩니다.

사람에게 넘어가는 비율이 진짜 원가를 결정합니다

공식 가이드는 봇이 사람 없이 처리하는 비율을 70~80%, 넘길 건을 제대로 넘기는 판단 정확도를 95% 이상으로 잡으라고 안내합니다. 이관율이 30%면 월 1만 건 중 3,000건은 토큰비를 다 쓰고도 사람에게 갑니다.

이 3,000건에는 봇 대화 요금과 상담사 인건비가 이중으로 붙습니다. 시뮬레이션할 때 이관율 20%, 30%, 40% 세 가지를 나란히 놓고 상담사를 몇 명 줄일 수 있는지까지 계산해야 도입 판단이 됩니다.

해결당 과금 서비스와 비교하면 스무 배 차이가 납니다

직접 만들지 않는 선택지도 있습니다. Intercom의 Fin은 해결 1건당 $0.99를 받고, 사람 상담사 좌석은 플랜에 따라 월 $29·$85·$132입니다. 월 1만 건 중 7,000건을 해결하면 $6,930입니다.

같은 물량을 Haiku 4.5와 벡터 DB로 직접 돌리면 캐시를 안 켜도 월 $325 안팎입니다. 해결 1건당 약 $0.94, 매달 약 $6,600이 남는 셈이니 초기 개발비를 이 금액으로 나누면 회수 기간이 바로 나옵니다. 대신 평가와 운영 인력은 이 계산에 빠져 있습니다.

문의가 두 배가 되면 요금은 두 배보다 더 뜁니다

토큰비는 건수에 정비례하므로 1만 건이 2만 건이 되면 그대로 두 배입니다. 벡터 DB 최소 사용액 같은 고정비는 그대로라 건당 단가는 오히려 조금 내려갑니다.

진짜 문제는 상담이 길어질 때입니다. 대화 이력은 매 요청마다 입력에 다시 들어가므로 왕복이 3회에서 6회로 늘면 입력 토큰은 두 배가 아니라 서너 배가 됩니다. 문의가 몰릴 때 낯선 질문 비중이 오르면 이관율까지 함께 올라, 토큰비와 인건비가 동시에 늘어납니다.

이 계산이 맞지 않는 경우도 있습니다

모델을 바꾸면 단가만 바뀌는 것이 아닙니다. Claude 4.7 이후 모델은 새 토크나이저를 써서 같은 글이 약 30% 더 많은 토큰으로 계산됩니다. 단가표만 비교하고 모델을 옮기면 예상보다 요금이 더 나옵니다.

토큰 수를 글자 수로 어림하는 것도 위험합니다. 실제 프롬프트를 토큰 카운팅 API에 넣어 재세요. 데이터를 미국 안에서만 처리하도록 지정하면 모든 토큰 단가에 1.1배가 붙고, 이미지 첨부나 음성 상담은 이 계산 밖입니다.

월 문의가 수백 건 이하라면 이 시뮬레이션 자체가 큰 의미가 없습니다. 어떤 모델을 써도 토큰비 차이가 몇만 원 안쪽이라, 판단 기준은 요금이 아니라 응답 품질과 운영 부담이 됩니다.

계산에 쓴 단가는 Anthropic 공식 가격 문서에서 확인할 수 있습니다. 비슷한 주제는 실무 가이드와 AI 도구 카테고리에 모아 두었습니다. 상담봇 원가 시뮬레이션이나 구축 문의는 Codeforest로 알려 주세요.

결론: 상담 1건당 원가를 뽑은 다음에 도입을 결정하세요

필요한 숫자는 네 개입니다. 상담 1건의 입력·출력 토큰, 검색 문서로 붙는 토큰, 캐시 적중률, 사람에게 넘기는 비율입니다. 이 넷을 넣으면 월 1만 건 기준으로 Haiku 4.5는 $275, 캐시를 켜면 약 $167, Opus 5는 $1,375이라는 식으로 답이 나옵니다.

이 표를 만들지 못하면 도입 여부를 판단할 수 없습니다. 프롬프트 초안 하나와 사내 문서 10건만 있어도 실측이 가능하니, 계약서에 서명하기 전에 하루만 들여 직접 재 보세요.