새 AI 모델이 나올 때마다 같은 고민이 반복됩니다. “이번엔 클로드가 더 좋다던데, 우리 서비스 코드를 또 갈아엎어야 하나?”
모델마다 인증 방식도, 요청 형식도, 가격도 제각각입니다. GPT 붙였다가 클로드 붙였다가 제미나이까지 붙이려면 연동을 세 번 따로 해야 합니다. 그러다 한 곳에 장애라도 나면 서비스가 통째로 멈춥니다. OpenRouter는 바로 이 문제를 푸는 도구입니다.
한 줄 요약부터 말씀드립니다
OpenRouter는 수백 개의 AI 모델을 API 하나로 묶어주는 중개소입니다. 코드는 그대로 두고 모델 이름만 바꾸면 GPT든 클로드든 제미나이든 골라 쓸 수 있습니다. 게다가 알아서 더 싼 곳, 더 빠른 곳을 고르고, 한 곳이 멈추면 다른 곳으로 우회해 줍니다.
규모도 작지 않습니다. OpenRouter는 일주일에 25조 개의 토큰을 처리하고(6개월 전의 5배), 400개가 넘는 모델을 중개하며, 2026년 5월 기업가치 13억 달러로 평가받았습니다.
OpenRouter가 대체 뭔가요
쉽게 말하면 AI 모델들의 중개소입니다. 식당마다 따로 전화해 예약하는 대신, 예약 앱 하나로 여러 식당을 다루는 것과 비슷합니다.
기술적으로는 OpenAI의 표준 형식을 그대로 따릅니다. 그래서 이미 OpenAI를 쓰던 코드라면 주소(base URL)와 키만 바꾸면 끝입니다. 그 순간 400개가 넘는 모델이 같은 코드로 열립니다. 모델을 바꾸고 싶으면 model 값 하나만 교체하면 됩니다.
똑똑한 점 1 — 두 단계로 알아서 고른다
OpenRouter가 단순한 연결 다리가 아닌 이유는 두 단계로 나눠서 고르기 때문입니다.
첫째는 모델 라우팅입니다. “어떤 AI가 답할지”를 정합니다. 둘째는 제공자 라우팅입니다. 같은 모델이라도 여러 회사가 서빙하는데, “그중 누구한테 맡길지”를 정합니다. 이 둘을 따로 떼어 둔 덕분에, 문제가 생겨도 어느 단계를 손봐야 할지 분명합니다.
똑똑한 점 2 — 싼 곳을 더 자주, 멈춘 곳은 피한다
제공자를 고르는 방식이 영리합니다. OpenRouter는 먼저 최근 30초 안에 말썽 없던 곳만 추립니다. 그다음 그중에서 싼 곳일수록 더 자주 고릅니다.
얼마나 더 자주일까요. 가격의 제곱에 반비례해서 고릅니다. 예를 들어 A가 1달러, C가 3달러면 A가 C보다 약 9배 더 자주 먼저 선택됩니다. 비싼 곳도 후보로 남겨두되, 평소엔 싼 곳에 일을 몰아주는 겁니다. 덕분에 사용자는 신경 쓰지 않아도 비용이 깎입니다.
여기에 더해, 한 곳이 느리거나 멈추면 자동으로 다른 곳으로 넘깁니다. 이 기능은 기본으로 켜져 있어 따로 설정할 필요도 없습니다.
똑똑한 점 3 — 모델까지 알아서 골라준다
어떤 모델을 쓸지조차 고민하기 싫다면, 모델 이름에 openrouter/auto만 넣으면 됩니다. 그러면 프롬프트를 보고 알맞은 모델을 자동으로 골라줍니다. 쉬운 질문은 가벼운 모델로, 어려운 질문은 강한 모델로 보내는 식입니다.
이건 그냥 찍는 게 아니라 학습된 라우터가 합니다. 실제로 학계 연구(UC 버클리의 RouteLLM)에서도, 이렇게 질문별로 모델을 가르면 품질을 95% 유지하면서 비용을 최대 3.66배까지 줄일 수 있다는 결과가 나왔습니다. “쉬운 건 싸게, 어려운 건 제대로”를 자동화하는 셈입니다.
돈 이야기 — 캐싱과 내 키 쓰기
비용을 더 아끼는 장치도 있습니다. 같은 내용을 반복해서 보낼 때 캐싱을 쓰면, 두 번째부터는 원래 가격의 0.25~0.5배만 냅니다. OpenRouter는 이런 캐시가 유지되도록 같은 요청을 같은 곳으로 보내줍니다.
이미 OpenAI나 클로드 계정이 있다면 내 키 그대로(BYOK) 쓸 수도 있습니다. 이 경우 OpenRouter는 약 5%의 수수료만 받는데, 월 100만 건까지는 그마저도 무료입니다.
공짜 점심은 없습니다 — 한계도 봅니다
편한 만큼 주의할 점도 분명합니다. 모든 요청이 OpenRouter라는 한 곳을 거치기 때문에, 그 중개소가 멈추면 한꺼번에 영향을 받습니다. 실제로 2025년 8월에 약 50분간 장애가 있었습니다.
또 중간에 한 단계를 더 거치니 약간의 지연(외부 분석 기준 약 25밀리초)이 생기고, 수수료(약 5%)도 비용에 더해집니다. 그래서 정말 중요한 서비스라면 OpenRouter 하나에만 기대지 말고, 직접 연동을 함께 두는 이중화를 권합니다.
정리하면
OpenRouter는 “AI 모델 하나에 묶이지 않게” 해주는 도구입니다. 코드는 그대로 두고 모델만 바꿔 쓰고, 알아서 싼 곳·빠른 곳을 고르고, 장애는 우회합니다. 모델 선택과 비용 최적화라는 귀찮은 일을 대신 해주는 비서라고 보면 됩니다.
다만 그 편리함이 한 곳에 대한 의존이라는 점은 기억해야 합니다. 중요한 길목엔 백업을 함께 두는 것, 그게 똑똑하게 쓰는 법입니다.
자주 묻는 질문(FAQ)
Q. OpenRouter를 쓰면 코드를 많이 바꿔야 하나요?
A. 거의 안 바꿔도 됩니다. OpenAI 표준 형식을 따르기 때문에, 기존 OpenAI 코드에서 주소와 키만 교체하면 400개 넘는 모델이 같은 코드로 열립니다.
Q. 직접 각 회사 API를 붙이는 것보다 비싼 거 아닌가요?
A. OpenRouter는 약 5% 수수료를 더합니다. 대신 연동을 한 번만 하면 되고, 장애 우회와 비용 최적화를 자동으로 해주니, 그 수고와 위험을 줄이는 값이라고 보면 됩니다. 내 키를 쓰면(BYOK) 월 100만 건까지는 수수료도 무료입니다.
Q. 어떤 모델이 답했는지 알 수 있나요?
A. 네. 응답에 어떤 모델이 실제로 쓰였는지 표시됩니다. 자동 선택(openrouter/auto)을 써도 결과에서 확인할 수 있습니다.
Q. 안정성은 믿을 만한가요?
A. 평소엔 여러 곳으로 분산해 단일 회사보다 안정적입니다. 다만 OpenRouter 자체가 멈추는 드문 경우(2025년 8월 약 50분 장애)엔 전체가 영향받으니, 중요 서비스는 백업 경로를 함께 두는 것이 좋습니다.
참고 자료
– OpenRouter 공식 문서 — https://openrouter.ai/docs
– OpenRouter Blog, How Model Routing Works — https://openrouter.ai/blog/insights/model-routing/
– Ong et al., “RouteLLM: Learning to Route LLMs with Preference Data” (arXiv 2406.18665) — https://arxiv.org/abs/2406.18665
