Lindy 는 AI 직원을 만들었습니다. 그리고 플릿을 Atlas Cloud 가 서빙하는 오픈 웨이트 모델로 옮겨 추론 비용을 약 90% 줄였습니다. 더 나쁜 제품을 만들지 않고서 말입니다.
추론 비용 ~90% 절감 · 입력 토큰의 60% 캐시 서빙 · 분당 3,000+ 요청 지속 · 트래픽 10배+ 성장, 재구축 없이 · 하나의 키로 11개 연구소의 24개 모델
Lindy는 프로덕션에서 가장 까다로운 에이전트 워크로드 중 하나를 실행하고 있으며, 그것은 Atlas Cloud에서 돌고 있습니다. 여기에 그 변화가 어떤 결과를 가져왔는지 보여드립니다:
- 반복 호출을 캐시 요금으로 청구하므로, Lindy는 추측하지 않고 에이전트가 작업을 검증하는 에이전트를 운영합니다. 전송하는 입력 토큰 10개 중 6개는 캐시에서 서빙되므로, 에이전트가 작업당 수십 번 다시 읽은 접두사 비용이 거의 들지 않습니다.
- Atlas는 워크로드에 맞춰 프로비저닝을 하기 때문에, Lindy는 아무것도 재구축하지 않고 더 많은 트래픽을 보내는 것만으로도 사용량이 10배 이상 늘었습니다. Atlas는 1시간 이상 분당 3,000건 이상의 요청을 유지했습니다.
- Atlas는 전체 카탈로그를 하나의 키로 제공하므로, Lindy는 오후 만에 새 모델로 교체할 수 있습니다. 지금까지 단일 통합으로 11개 연구소의 24개 모델을 실행했습니다.
- Atlas는 이름 있는 SOC 2 인증 계약으로 서빙하므로, Lindy는 고객의 데이터 앞에 오픈 웨이트 모델을 놓고, 그 모델을 실행하는 주체를 명확히 하는 동시에 책임질 수 있습니다.
90%는 Lindy가 내세우는 대표 수치입니다. 그 수치가 유지되는 이유, 그리고 다음 마이그레이션이 이번보다 더 쉽게 되는 이유는 그 밑에 깔린 플랫폼입니다.
Lindy에게 비용은 곧 비즈니스입니다
Lindy는 AI 직원을 만듭니다. Lindy Teammate는 신입사원이 회사에 들어오는 것처럼 팀에 합류합니다. Slack에서 요청을 받고, 팀이 이미 사용하는 도구와 연결되며, 회의에 참여하고, 학습한 내용을 축적해 다음 요청을 앞에서 시작합니다. 자동화를 만드는 사람은 아무도 없습니다. 그저 위임하면 에이전트가 일을 끝냅니다.
이 디자인은 어쩔 수 없는 인프라 비용을 만들어냅니다. 스레드를 읽고, 캘린더를 확인하고, 기록을 검색하고, 답변을 초안까지 작성하는 AI 직원은 아무도 글자를 읽기 전에 수십 번의 모델 호출을 수행합니다. Teammate가 팀 전체를 대상으로 서비스를 제공하기 때문에 사용자 수가 늘면 함께 볼륨도 커집니다. 이런 형태에서 제품 뒤에 있는 모델의 가격이 사업의 지속 가능성을 결정합니다.
"Lindy의 가격 체계는 추론 비용이 계속 줄어들어야만 성립합니다."
— 브루노 슈코르츠(Bruno Škvorc), Lindy 스태프 엔지니어
그래서 Lindy는 재무 계산이 요구하는 처신을 했습니다. 대부분의 관리 대상 에이전트 트래픽을 Claude, Sonnet, Gemini에서 Atlas Cloud에서 돌아가는 DeepSeek v4 Flash로 옮겼고, 마이그레이션한 경로의 추론 비용이 약 90% 감소했습니다. 모델 이름을 바꾸는 데는 오후가 걸렸습니다. 프로덕션 볼륨에서 품질 열화 없이 그 수용 비용을 달성했기 때문에 Atlas Cloud를 선택했습니다.
90%가 유지되는 이유: 열 번째 호출은 거의 무료
토큰 단위로 요금을 부과한다면 에이전트는 작업당 같은 접두사(prefix)를 수십 번 큰 비용으로 반복합니다. 그런 설계는 에이전트가 결하는 자세에 따라 비용이 커지는 구조입니다. 그 비용 때문에 에이전트 제품들이 얕아지는 것입니다. 한 번 검증할 것을 세 번 검증하면 세 번째와 첫 번째가 같은 비용이니까요. 이런 비용이 쌓이면서 겉보기에 알뜰한 모델 교체는 실제보다 절감 폭이 줄어들게 만듭니다. 반복되는 접두사가 조용히 다시 비용을 채워 넣기 때문입니다.
Atlas는 비용이 가장 많이 나오는 부분을 제거합니다. Lindy의 입력 토큰 중 10개에서 6개는 재처리하지 않고 캐시 인식되어 실사용량에 따른 계약 비용으로 제공되므로, 모든 에이전트 호출에서 지배토록 하는 접두사의 비용이 사실상 제로에 가깝습니다. 그래서 모델 교체가 사용이 늘수록 잠식되는 일회성 근혁이 아니라, 지속 가능한 90% 절감이 됩니다. 그리고 같은 에이전트가 토큰 요금제에서는 한 번만 실행할 것을, Atlas에서는 세 번 실행할 수 있게 합니다.
"Agent 워크로드는 많은 모델 호출에 걸쳐 동일한 컨텍스트를 재사용합니다. Atlas의 캐싱은 그 동일한 컨텍스트에 매일 전체 비용을 곱하지 않도록 해줍니다. 스케일이 커져도 비용 절감이 유지되는 큰 이유 중 하나입니다." — 이안 맥그레거(Ian McGregor), Lindy 엔지니어링 총책임자
Lindy가 필요하기 전에 준비된 여유 용량
에이전트 트래픽은 조용한 심야 시간도, 미리 계획할 수 있는 출시일도 없습니다. 팀이 일하는 시간에 요청이 들어오고, 스케일 과정에서도 요청이 멈추지 않습니다. 기억해야 할 것은 잠시 흡수할 수 있는 문순한 티핑이 아니라, 공급자가 지속적으로 받쳐줄 수 있는 요청률입니다. Lindy는 재구축 없이 트래픽을 보내는 것만으로 트래픽 볼륨을 10배 이상 키웠습니다. Atlas는 1시간 이상 분당 3,000건 이상 요청을 수용했습니다. 용량이 워크로드보다 앞서 있었기 때문에 스케일링은 인프라 프로젝트가 아니라 사업 결정이 되었습니다.
티켓이 아니라 제품을 움이 돌보는 서포트
At 기본 볼륨에서 프로바이더 차이는 대시보드가 아니라, 비정상 반응이 왔을 때 누가 답해주는가입니다. Lindy의 엔지니어와 Atlas의 인텔리전스 엔지니어가 공용 채널을 사용합니다. 당일에 조치 가능한 담당자에게서 답이 돌아옵니다. 그 중 일부는 제품의 변경으로 이어졌습니다. 팀 계정 소유권 이전 기능을 요청했고, 당시 Atlas에는 그 기능이 없자가 구현되면서 Atlas 시장 엔지니어가 직접 계정을 옮겼습니다.
이름을 명확하게 댈 수 있는 공급자
오픈 웨이트 모델을 사용하면 애전의 이모델을 어떻게 실행했는지에 대한 설명을 맡던 주체가 사라집니다. 이 데이터가 오는 인프라를 어떻게 주관하는지에 대한 질문은 전적으로 공급자에게 실립니다. Atlas는 이름을 드러낸 SOCT 2 인증 계약과 함께 이 질문들에 답합니다. 고객 데이터는 별도로 저장되지 않고 훈련되지 않습니다. 채팅상품보다 AI 직원에게 이 점이 더 특별합니다. Teammate가 근무하는 회사의 Slack 스레드, 캘린더, 기록 등을 읽기 때문입니다. 인프라 신뢰는 고객 신뢰에 직접 이어져 있으며, Atlas는 이 양쪽 답을 제공합니다.
DeepSeek에 잠겨 있지 않고, 어떤 것에도 잠기지 않음
이번 이동은 Lindy를 특정 모델이 아닌 하나의 전략에 입각하도록 만들었습니다. DeepSeek v4 Flash는 테스트 워크로드에서 우승했고, 알맞은 품질에서 가장 좋은 가격을 제시하는 한 그 자리를 지킵니다. 다음 승자는 다른 연구소에서, 다른 라이선스로 올 수 있습니다만, Atlas Cloud가 단일 API로 모든 모델에 접근하게 하기 때문에 가교환에는 조달 절차 내가 아닌, 오후 일 분을 기반으로 합니다. Lindy는 하루 테스트에서 이전에 써 본 적 없는 12개 모델을 7개 회사, 3개 모달리티에 걸쳐 47편 실행했고, 이것은 모두 기존 키로 처리되었습니다. 그중 3개가 프로덕션에 배포되었습니다. Atlas Cloud로 흐름 항상 최적 모델을 도입할 수 있다는 자유가 Lindy에 진정한 운영 비즈니스 유동성이 됩니다.
마켓플레이스에서 직접 에이전트를 돌리고 있다면, 그 곳으로 옮기세요
Lindy는 정확히 이 경로를 반정도 갔습니다. 처음에 DeepSeek를 OpenRouter에서 만나 모델을 평가해 볼 가치가 있다는 것을 확인했습니다. 같은 테스트 과정에서 프로덕션 위치가 결정할 실타리가 하나 시 결과도 확인했습니다.
"같은 모델을 다른 추론 공급자로 테스트했는데, 공급자가 결과를 크게 좌우했습니다. 똑 같은 이름의 모델이라도 서빙을 누가 하는지, 결과 점수가 달랐습니다."
— 브루노 슈코르츠(Bruno Škvorc), Lindy 스태프 엔지니어
마켓플레이스는 쇼핑저자에게 장보는 단 하나의 목적이고, 제품을 운영하라고 만든 구조가 아닙니다. 프로덕션 요청을 라우터로 방치하면 넉넉한 가격을 가진 어느 공급자인지 선택하지 않습니다. 원칙적으로, 알고 싶지 않으면 누가 서빙했는지 알지 못합니다. 같은 웨지트라도 조용하거나 혹은 스택에서 발생한 미세한 결과는 대시보드보다 앞장서 사용자에게 도달합니다. 라우터를 반복할 때마다 고객이 이점을 지불하면서 받는 제품 품질이 조용히 잠식됩니다. 이 때문에 디버깅도 불가능하고 통제할 수 없으므로 수정도 불한능합니다. 그것이 여러분의 평판인데, 한 번도 던진 적 없는 동전함으로 결정됩니다.
그래서 Lindy는 OpenRouter에서 프로덕션을 운영하지 않았습니다. 트래픽을 라이브로갈 때는 Atlas 판단 다이렉트 계약을 맺어, 모델에 맞춰 조정된 하나의 서빙 스택을 모든 요청에 획일하게 적용했습니다. 그리고 계약을 통해 실트래픽 처리 잠재력과 캐싱을 갖췄고, 전체 카탈로그도 같은 규격의 키로 연결했습니다. 여러분이 마켓플레이스에서 프로덕션 에이전트를 돌린다면, 신뢰할 수 있는 품질을 만드는 것이 아니며, 사용자가 먼저 그 때쯤 되기 전까지 인지할 수 없습니다. Lindy가 했던 것처럼 그 상태 떠나세요.
워크로드에 대해 상담하세요 그러면 비용을 알려드리겠습니다. 또는 카탈로그를 정독하세요.
Lindy 소개
Lindy는 AI 직원을 만듭니다. Lindy Teammate, 2026년 8월 출시된 후 인간 팀과 함께 일합니다. Slack에 요청하면 기존 팀과 익숙한 도구에 연결되고, 회의에도 참석하며, 팀의 컨텍스트를 축적해서 이전보다 진행된 상태로 새 요청을 시작합니다. 자동화를 만들어 유지하는 부담을 가는 사람 대신 Lindy는 위임을 강조합니다. Lindy는 Flo Flo Brivello가 설립했으며 샌프란시스를 배경으로 합니다.
Atlas Cloud 소개
Atlas Cloud는 비디오, 이미지, 언어, 오디오를 아우르는 400가지 모델을 단일 API 키, 단일 엔드포인트, 단일 계정으로 제공하는 통합 전 모달 AI 플랫폼입니다. 언어 모델에 대해 OpenAI 호환 기능을 제공합니다. SOC 2 및 HIPAA 인증을 획득했습니다.
