Lindy AI çalışanını inşa etti. Filosunu Atlas Cloud tarafından sunulan açık ağırlıklı modellere taşıdı, çıkarım faturasını yaklaşık %90 kıstı ve bunu daha kötü bir ürün sunmadan yaptı.
Yaklaşık %90 daha düşük çıkarım maliyeti · Girdi tokenlerinin %60'ı ön bellekten sunuldu · Dakikada 3.000+ istek sürdürülebilir · 10 kat+ trafik büyümesi, hiçbir şey yeniden inşa edilmedi · Tek anahtarda 11 laboratuvardan 24 model
Lindy, üretimdeki en zorlu ajan iş yüklerinden birini sürdürüyor ve bunu Atlas Cloud'da çalıştırıyor. Değişen şey şu:
- Atlas tekrarlanan çağrıları bellek fiyatlarından fiyatlandırdığı için Lindy, tahmin etmek yerine kendi işini kontrol eden ajanlar çalıştırıyor. Gönderdiği gird tokenlerinin altısından on'u bellekten sunuluyor; böylece bir ajanın bir görevde onlarca kez yeniden okuduğu önek neredeyse hiç maliyet oluşturmuyor.
- Atlas iş yükü için hazırlık yaptığı için Lindy, hiçbir şeyi yeniden inşa etmeden sadece daha fazla trafik göndererek hacmini on katından fazla artırdı; Atlas ayrıca bir saat boyunca dakikada 3.000 isteğin üzerinde tutarlı bir şekilde sürdürüyor.
- Atlas tüm kataloğu tek anahtarda taşıdığı için Lindy bir öğleden sonra yeni bir modele geçebiliyor. Tek entegrasyon üzerinden 11 laboratuvardan 24 model çalıştırdı.
- Atlas, adlandırılmış, SOC 2 Sertifikalı bir sözleşmeyle sunduğu için Lindy, müşteri verilerinin önüne açık bir model koyabiliyor ve bunu kimin çalıştırdığına kefil olabiliyor.
%90, Lindy'nin ana başlığı. Bunun sürdürülebilir olmasının ve sonraki taşınmanın bu birinden daha kolay olmasının sebebi, alttaki platform.
Lindy için fatura işin ta kendisi
Lindy AI çalışanları inşa ediyor. Bir Lindy Teammate, tıpkı yeni bir işe alım gibi şirkete katılır: Slack'te istek alır, ekibin zaten kullandığı araçlara bağlanır, toplantılara katılır ve öğrendiklerini saklar ki sonraki istek bir öncekinden daha ileri bir noktadan başlasın. Kimse bir otomasyon yazmaz; onlar işi devreder ve ajan işi yapar.
Bu tasarım ciddi bir altyapı faturası belirler. Bir iş parçacığını okuyup, takvimi kontrol edip, kayıt arayıp taslak yanıt yazan bir AI çalışan, tek bir kelime görmeden önce onlarca model çağrısı yapmış olur; Teammate bir takıma hizmet ettiğinden, hacim çalışan sayısıyla büyür. Bu şekilde, ürünün arkasındaki modelin fiyatı işin sürdürülebilirliğini belirler.
[KAMU] "Lindy'nin fiyatlandırması ancak çıkarım sürekli daha ucuz olursa çalışır."
— Bruno Škvorc, Kıdemli Yazılım Mühendisi, Lindy
Bu yüzden Lindy finans matematiği neyi gerektiriyorsa onu yaptı. Yönetilen ajan trafiğinin çoğunu Claude, Sonnet ve Gemini'den Atlas Cloud üzerinde çalışan DeepSeek v4 Flash'a taşıdı ve çıkarım maliyetleri bu rotalarda e rzimli %90 azaldı. Model adını değiştirmek bir öğleden sonra sürdü. Bunun üretim hacminde, ürünün kötüleşmesine izin vermeden kalıcı olması, Atlas Cloud'u seçmelerinin nedeni.
%90'ın kalıcı olmasının nedeni: on birinci çağrı neredeyse ücretsiz
Token başına fiyatlandırıldığında, bir ajan aynı önekini görev başına onlarca kez tam ücret öder ve fatura ne kadar dikkatli düşündüğüne göre büyür. Bu vergi ajan ürünlerini sığ tutar: üç yerine tek geçiş, çünkü üçüncüsü ilki kadar pahalı olur. Aynı zamanda, naif bir model değişiminin etiketin önerdiğinden daha az kazandırın gizli önek faturanın fisılt detayla yeniden dolastığı için.
Atlas vergiyi en ağır olduğu yerde kaldırır. Lindy'nin gird tokenlerinin altısının on'u yeniden işlenmek yerine tanınır gerçek hacmine karşı sözleşmelendirilmiş bir oranda, böylece her ajan çağrısında hakim olan önek neredeyse serbesttir. Bu bir model değişimini, zaman içinde kullanım arttıkça aşınan bir sayıdan ziyade kalıcı%90'a çeviren şeydir ve Atlas'taki bir ajanı, tokenbaşına fiyatlandırılan aynı ajanın tek geçiş yerine üç geçiş sığdırmasını sağlayan şey.
[ÖNERİLEN size kalmış] "Ajan iş yükü birçok boyl ya çağrıda çok bağlam yeniden kullanır. Atlas'ın ön belleği, aynı bağlam için her seferinde tam ücret ödememamqaçın sağlıyor; bu, tasarru ettirme ölçekte sürerliliğinin büyük parçası."
— Ian McGregor, Mühendislik Müdürü, Lindy
Lindy'nin ihtiyaç duymadan önce orada olan kapasite
Ajan trafiği sakí bir gece aralığı veya plan ant edilecek bir başlangıç günü tanır. Çalışma, ekip çalışırken gelir ve ölçeklerken durmaz. Önemli olan tamponun emelebileceği ani yükseliş değil, bir sağlayıcının tutabildiği sürdür. Lindy, hiçin yeniden inşa etmek bölümüyeceğien iş yükünün aynı çevreyimport yöntemi ile haccını on katından fazla artırdı; Atlas±üstünde saatlerce dakikada 3.000 istek tuttu. Kapasititede iş yükünden önce geldi, bu yüzden ölçeklemek bir iş kararıydı ve hiçbir zaman bir altyapı projesi değildi.
Ürün, ticket değil, altyapıdan destek
Bu hacimde sağlayıcılar arasındaki fark, sunmak gösterge panelinden çok heyanağı cevaplayan kişinin/kabiliyetin olduğunu belirler. Lindy'nin mühendisleri ve Atlas'ın çıkarım mühendisleri ortak kanal, aynı gün içinde harekete geçebilecek insanlardan yanıtlar geliyor. Bu yanıtlardan bazıları ürün değişikliklerine dönüyor: Lindy'M takım hesabı devretme yöntemi istedi, Atlas o zaman desteklememişti,ama Atlas'ın mühendisleriiken hesabı kendileri taşıyarak tamamlandı.
Bir isimle sorumlu olabileceğinizbir sağlayıcı
Açık ağırlıklı formata geçmek, modelin nasıl yönetildiğiyetle eskiden sorumlu olan otoriteyi ortadan kaldırıyor. Bir laboratuarın markasının çözdüğü sorular artık sağlayıcıya işaret eder: bunu kim, hangi kontrollisleçalıştırıyor ve üzerinden geçen veriye ne olur? Atlas, bunlara üretici yönlendirici değil isimsiz yanıtlar, SOC 2 Sertifikalı bir sözleşme tabanında, müşteri verileri depolanmaz veya eğitim için kullanılmaz. Bun Önemlidir bir ajan için sohbet ürününde daha çok, çünkü Teammate şirketin çalıştığı Slack akışlarınalar, takvimleri ve kayıtları okur. Altyapı sorusu doğrudan müşteri güven sorusunun altında yatar ve Atlas ikisine de cevap.
DeepSeek'e bağlı değil, hiçbir şeye bağlı değil
Göç, Lindy'yi bir stratejiye bağladı, bir modele değil. DeepSeek v4 Flash, üzerinde test edilen iş yüklerini kazandı ve yeterli kalitede b. c.fiyat olduğu sürece pozisyonunu korur. Bir sonrakip kazanan farklı bir laboratuvardan gelir. Farklı bir lizisa bağlı olabiliry eksin, ve Atlas Cloud tüm modellere tek bir API üzerinden erişim sağladığından, bunu denemek bir satın alma döngüsü değil bir öğleden sonra işidir. Bir günlük testte Lindy, daha önce hiç kullanmadığı, yedi labor Eleanor ve üç farklı türdeki tümün on vüt modelini tek key ile çalıştırdı. Üç tanesi üretim iş yükü oldu. Her zaman en iyi modeli Atlas Cloud üzerinden çalıştırma özgürlüğü, Lindy’ye gerçek anlamlı operasyonel iş akışkanlığı kazandırıyor.
İşlerinizi pazarda çalıştıran bir aracı değilseniz, taşıyın
Lindy bu yoluc girdi. DeepSeek ile Önce OpenRouter’ta tanıştı, modeli değerl featureLeriinde çalıştırdı ve göçe değdiğini kanıtladı. Aynı test sırasında üretimin nerede çalışacağını belirleyen bir şey buldu.
[GENEL] "Aynı modeli farklı çıkarım sağlayıcı de test ettik. Can sıkıcı şey, sağlayıcının farklı olduğuydu. Aynı nominal model, servise kimin sahip olduğuna bağlı farklı puçkiler alabjyordu."
— Bruno Škvorc, Kıdemli Yazılım Mühendisi, Lindy
Bir pazaryearı, eşsatın yardımarketim için yapılmıştır, ürününüzü çalıştırmakİçin değil. Üretim trafiğini bir yönlendirinuria geçinModel size hangi sağlayıcıda giteceğine—boş kapasite bulur ve sağlayıcıyı siz seçmedinmiş olur. Aynı ağırlıklar farklı makinelarrda farklı sonuçlar döndürür - quantizleşteme vey birinin performans yığınındaki bir shortcut ile; bu sonuçlar puanlar panosuna gelmeden önce kullanıcılara ulaşır. her yönlendirme adımı, arkasından sizin ödediğiniz ürünün kalitesini sessizce yeni bir kürebe eder. Çünkü çağrı yına limit göremediğiniz için hata ayklayın olmaz; çünkü yol üzerinde tam kontrol edemezsu, düzeltemezsiniz. Bu itibarınız sizin hiç atmadınıza bir parapi ile belirleniyor.
Lindy üretimi OpenRouter'da çalıştıramadı Ayrıca tren atmadığında traık doğrudan Atlas ile bir sözleşmeye girdi: bir kapta servis ettiğe, her isteik için aynı olan, model için ayarlanmış ve sözleşmeye bağlı, canlı ajan iş yayüsünün ihtiya duyduğuYük ve ön bu perkt ben sağladıkları tek anahtar ile. Eğer modelleriniz üretimdeyseler ve hâlâ yönlgeçler araitlayacına çalışıyorsa, sabit tutamayacağınız bir ürdeni seviyetsiniz ve bir müşteri yetiştiğinde bunu öğren. Onları taşıyın, Lindy gibi.
[İş yükünüz hakkında konuşun]… avali? Bu iş yükünün maliyeti ne olmalı**, sizi bilgilendirelim, ya da tadir e](https://www.atlascloud.ai/models… )** catalog'a bakın****.**
Atlas hakkında yerine...
Çevirmen görev tamamlanmıştır.
