ChatGPT를 잘 쓰다가 어느 날 '이 작업을 매일 자동으로 돌리고 싶다', '우리 서비스에 AI 기능을 넣고 싶다'는 생각이 들면, 그때 만나는 것이 API입니다. 이번 강에서는 챗 서비스와 API가 무엇이 다르고, 언제 API로 넘어가야 하는지 정리합니다.
식당과 식자재 납품의 차이
챗 서비스(ChatGPT, Claude 앱 등)는 완성된 요리를 파는 식당입니다. 앉아서 주문만 하면 되고, 인터페이스·기억 기능·검색 등이 다 차려져 있습니다. 반면 API(Application Programming Interface)는 식자재 납품 계약입니다. 같은 재료(모델)를 받아서 내 가게(서비스)의 메뉴를 직접 만드는 것이지요. 프로그램이 코드로 모델을 호출하는 통로가 API입니다.
| 구분 | 챗 서비스 | API |
|---|---|---|
| 사용 주체 | 사람이 화면에서 직접 대화 | 프로그램이 코드로 호출 |
| 과금 방식 | 월 구독제 (무료~월 2~3만 원대) | 사용량 과금 (쓴 토큰만큼 지불) |
| 규모 | 한 번에 한 대화 | 동시에 수천 건 처리 가능 |
| 커스터마이징 | 설정 범위 내에서만 | 시스템 프롬프트·파라미터 완전 제어 |
| 데이터 정책 | 서비스 약관에 따름 (학습 활용 가능성) | 일반적으로 입력을 학습에 쓰지 않는 정책 (계약 확인 필요) |
| 적합한 용도 | 개인 업무, 학습, 일상 활용 | 자동화, 제품 개발, 대량 처리 |
API 과금은 어떻게 되나요?
API는 2강에서 배운 토큰 단위로 과금됩니다. 보통 '입력 100만 토큰당 얼마, 출력 100만 토큰당 얼마' 식으로 가격표가 붙어 있고, 출력 토큰이 입력보다 몇 배 비쌉니다. 모델 등급에 따라 가격 차이가 크므로, 간단한 작업은 소형 모델로 처리하는 것이 비용 최적화의 기본입니다.
- 입력 토큰: 내가 보낸 프롬프트 + 시스템 프롬프트 + 대화 기록 전체
- 출력 토큰: 모델이 생성한 답변 (보통 입력보다 3~5배 비쌈)
- 숨은 비용 주의: 대화가 길어지면 매 턴마다 이전 대화 전체가 입력 토큰으로 다시 과금됩니다.
- 절약 기술: 반복되는 프롬프트를 캐싱하거나(프롬프트 캐싱), 급하지 않은 대량 작업은 배치 처리로 절반 가격에 돌릴 수 있습니다.
API 키: 절대 유출되면 안 되는 열쇠
API를 쓰려면 개발사 콘솔에서 API 키(API key)를 발급받습니다. 'sk-...'처럼 생긴 이 긴 문자열은 내 계정으로 과금되는 신용카드 번호와 같습니다. 이 키를 코드에 하드코딩해서 GitHub에 올리면, 봇이 몇 분 안에 긁어가 내 계정으로 수백만 원어치를 쓰는 사고가 실제로 일어납니다. 키는 반드시 환경 변수나 비밀 관리 도구에 보관하고, 사용량 한도(spending limit)를 먼저 설정해 두세요.
언제 API가 필요해질까요?
챗에서 API로 넘어가는 신호
- 같은 프롬프트를 매일 복붙하고 있다 — 자동화 시점입니다. 다만 코딩 없이도 n8n, Zapier, Make 같은 자동화 도구에 API 키만 연결하면 해결되는 경우가 많습니다.
- 처리할 건수가 수백 건을 넘는다 — 리뷰 1만 개 분류, 문서 500개 요약 같은 대량 작업은 챗 창에서 불가능하고 API 배치 처리가 정답입니다.
- 내 제품에 AI 기능을 넣고 싶다 — 우리 앱의 챗봇, 자동 요약 버튼 등은 API로 모델을 호출해 만듭니다.
- 회사 데이터 정책이 엄격하다 — 학습 미활용 정책과 계약 조건이 필요한 기업 환경에서는 API나 기업용 플랜을 검토합니다.
정리하면, 이 코스에서 배운 모든 것이 여기서 연결됩니다. 토큰(2강)은 API의 과금 단위이고, 프롬프트 기법(5~7강)은 API의 시스템 프롬프트 설계로 이어지며, RAG(8강)는 API로 구현하는 대표적인 애플리케이션입니다. LLM의 원리와 한계를 아는 사람이 결국 AI를 도구로 부리는 사람이 됩니다.
API가 궁금하다면 개발사의 플레이그라운드(웹에서 API를 실험해 보는 콘솔)부터 시작해 보세요. 코드 한 줄 없이 시스템 프롬프트, 온도(temperature) 같은 파라미터를 만져보며 API의 감각을 익힐 수 있고, 몇천 원 정도의 크레딧이면 충분히 실험할 수 있습니다.
API 키를 발급받으면 반드시 월 사용량 한도부터 설정하세요. 자동화 스크립트의 무한 루프 버그 하나로 하룻밤 사이 수십만 원이 과금되는 사고는 초보자에게 정말 흔하게 일어납니다.