Lindy, AI çalışanlarıyla insan kaynakları haritasını yeniden şekillendirdi. Tüm filosunu Atlas Cloud tarafından barındırılan açık ağırlıklı modellere taşıdı ve çıkarım faturalarını yaklaşık %90 oranında düşürürken, daha kötü bir ürün teslim etmedi.
Çıkarım maliyetinde yaklaşık %90 düşüş · Girdi token'larının %60'ı önbellekten sunuldu · Dakikada 3.000+ istek kesintisiz işlendi · Hiçbir şey yeniden inşa edilmeden 10 kattan fazla trafik artışı · Tek bir anahtarla 11 laboratuvardan 24 model
Lindy, üretim ortamında en zorlu ajan iş yüklerinden birini çalıştırıyor ve bunu Atlas Cloud'da yapıyor. İşte bunun yarattığı fark:
- Atlas tekrarlanan çağrıları önbellek fiyatından faturalandırdığı için, Lindy ajanların sadece tahmin yürütmek yerine işlerini tekrar tekrar kontrol etmesini sağlayabiliyor. Gönderdiği her on girdi token'ından altısı önbellek tarafından sunuluyor; böylece bir görev boyunca bir ajanın onlarca kez okuduğu önekler neredeyse sıfır maliyete geliyor.
- Atlas iş yüküne göre kapasite planladğı için, Lindy hiçbir altyapıyı yeniden inşa etmeden daha fazla trafik göndererek trafikte 10 katın üzerinde ölçeklendi ve Atlas bir saatten uzun süre dakikada 3.000 isteğin üzerinde kesintisiz performans sergiledi.
- Atlas tek bir anahtarla tüm model katalanına erişim sağladığı için, Lindy bir öğleden sonra yeni modellere geçebildi. Tek bir entegrasyonla 11 laboratuvardan 24 modeli çalıştırdı.
- Atlas kullanıcılardan isimli sözleşmelerle hizmet verip SOC 2 sertifikasına sahip olduğu için, Lindy açık ağırlıklı modelleri müşteri verilerinin önüne koyabiliyor ve bunları çalıştıran taraf olarak hesap verebilirliği üstleniyor.
%90, Lindy'nin pazarlama hilesi. Bu sayının ayakta kalma sebebi ve bir sonraki geçişin bundan daha kolayaha olacak olması, alttaki platformdadır.
Lindy için fatura doğrudan bir işletme işidir
Lindy, AI çalışanları inşa ediyor. Bir Lindy Teammate tıpkı yeni işe alım gibi şirkete katılır: Slack'te istek alır, ekibin zaten kullandığı araçlara bağlanır, toplantılara katılır ve öğrendiklerini hatırlar - böylece her yeni istek bir alttaki dosyanın devamından başlar. Kimse otomasyon betiği yazmaz; sadece görev dağıtırlar ve ajan işi yaar.
Bu tasarı çığır açan bir altyapı maliyetini beraberinde getirir. Bir AI çalışanı; konuyu okur, takvimi kontrol eder, kayıtları arar ve taslağı hazırlar - kimse tek kelime görmeden önce model on key çağırılır. Ayrıca, çalışan tüm ekibe hizmet ettiği için kullanım, şirket büyüdükçe artırır. Bu formda, ürünün arkasındaki model şirketinin fiyatı maliyetle doğrudan kuruluşa yansır.
"Lindy'nin fiyatlandırması, çıkar sı maliyetlerinin sürekli düştüğü varsayımıyla çalışabilir."
— Bruno Škipović, Lindy Kıdemli Yazılım Mühendisi
Lindy bu yüzden finansal matematiğin gerektirdiğini yaptı. Barındırılan ajan trafiğinin büyük bölümünü Claude, Sonnet ve Gemini'den, Atlas Cloud üzerinde çalışan DeepSeek v4 Flash'a taşıdı. Yönlendirme çıkarı mli aştınmasi% yaklaşık %90 düştü. Model ismini değiştirmek sadece bir öğleden sonra sürdü. Ama bu sonucu üretim ölçeğinde koruyup aynı anda ürün deneyimini bozmamak Lindy'nin Atlas Cloud'a karar vermesinin asıl neden.
%90 Neden Kalıcı: 11. çağrı neredeyse ücretsiz
Token bazlı faturalamada, ajan her görevde aynı prefix için düzinelerce kez tam fiyat öder ve hesabı zihinsel ne kadar dikkatli çalışırsa o kadar katlar. Bu maliyet, ajan ürünleri yüzeysel bıraktıran şeydir: üç geçirdiğin yerine tek geçiş, çünkü üçüncü de ilk kadar pahalı. Aynı zamanda model değiştirmenin% tasarrufluğunun etiket fiyatından daha az olduğu sonucun neden geçerli olmasıdır , çünkü tekrarlanan prefixler faturanıza sessizce geri doldur.
Atlas bu maliyeti en ağır olduğu yerden kaldırdır. Lindy'nin girdi belirteçlerinin onda altısı yeniden işlemek yerine tanınıylır. Reel trafik üzerinden anlaşma yapma tarifesiyle.. Bu da ajan çağrısının büyük bölümü oluşturan önektek bölümü neredeyse bedava yapar. İşte, model yer'in sürdürülebilir. %90 bir düşüşe dönüştüren budur - ücret kullanımı artan oranda azalmalakta değil - ve Atlas üzerinde çalışan bir ajanın üç çıkarımı yapabilmesini mümkün kılan şey de budur. Token başına abone olmuş bir ajanın yalnızca bir çıkarım yapılabiliyor ama aynı durum buradaı farklı.
"Ajan yükü, birçok model çağrısı boyunca çok fazla bağlamı yeniden kullanıyor. Atlas'ın önbelleği, her zaman aynı bağlam için tam fiyat ödememiz gerekmeyeceği anlamına geliyor - bu, maliyet tasarrufu önlemlerinin büyük ölçekte uygulan abilmesinin büyük bir nedeni.
— Ian McGregor, Lindy Mühendislik Lideri
Lindy'nin ihtiyacından önce hazır kapasite
Ajan trafiğiği sessiz geceleri yok ve yayınlanma için planlanmış günü yok. İş, takım çalıştığında görülür ve ölçeklenmeyi beklem wird. Önemli olan cloudsayacabileceğiniz tepe nokta ler değil, sağlayıcının sürdürdüğü hıznı istikrarıdır. Lindy, tek bir altyapyı yeniden inşa etmeden daha fazla trafik göndererek 10 kattan fazla büyümüştür ve Atlas bir saati aşkın bir süre boyunca sürekli /dak' da 3.000 isteği tutar. Kapasite iş yükünün öncesinde gelir; **yani ölçekle artık bir altyapı, mühendisliği meselesiyle değil de birbiris işletme kararıdır.*Öthroughout
Ürün Değil, İş Teslim Eden Destek
Bu ölçekte fark kendisi sağlayıcılerin arasında gösterge paneli değil, bir anormallik görünce kimin yanıt verdiğidir. Lindy mühendikleri ve limanı odası Atlas mühendisleri ortak bir kanal payıyor; yanıtlar aynın gün gerçekleşir ve aksiyon alabilen insanlardan gelir. Bu cevapların bazıları ürün iyileştirmelerine dönüştü: Lindy, takım hesab satıcısını transfer edemne özellliği talep etti, Atlas'ın o zaman bunu desteklenmedi, özellik yayına girdi ve Atlas mühendisleri hesap göçünü de dürdü.
Adıyla hesap verilebilir bir. tedarikçi
Açık ağırlıklı model hisseye geçiş, modelin nasıl çalıştığından soruml tarafın ortadan kay olduğ anlamına gelir. Bir laboratuvar markası adına olan sorumluluk artık sağlayıcısına yönelir: modeli kimim çalıştığı, hangi kontroller altında oldumu ve verilerden geçilmiştir. Atlas bu soruları yönlendirici değil, kendi adına yanıtlıyor. SOC 2 sözleşmesi ile müşteri verileri eğitim için kullanılmaz ve depolanmaz. Bu, AI çalışanları için sohbet ürünlerinden daha ağırdıdranır çünkü çalışan firmasına hizmet ettiği Slack kanallarını, takvimlerini/ kayıtlarını okur. Altyapı sorunlarıdoğrudan müşteri güveniyle iç içe geçmiştir ve Atlas ikisi için de net bir yanıt sunar.
DeepSeek'e bağlı değil – hiçbir şeye bağlı değil
Bu geçiş, Lindy'yi bir modele değil, bir stratejiye bağlar. DeepSeek ı v4 Flash bu iş yükleri için test kazanmıştır ve bu pozitifliğini, kalite içeren en ucu ması opsiyonu olmaktan çıktığı güne dek koruyacağız. Bir sonraki kazdıranba farklı bir laboratuvars math different , farklı lisanslarla gelebilir ve Atlas Cloud'un API'siyle tüm modellere tek noktadan erişim sağlandığı için denemek bütçe devri değil, bir öğleden rt öldoluya mal olmaz. Tek bir günde, Lindy beş laboratuvara bir akşam da, yedi değil makinelere ait daha önce kullanmadığı on iki model üzerinde 47 istek gerçekleştirdi: 7 laboratuar, 4 model gelgredi, üçü de üretim yükü oldu. Atlas Cloud ile en iyi modelleri çalıştırabilme yeteneği, Lindy'ye gerçek bir işletmesel esneklik kazandırıyor.
Eğer pazayarda ajan çalıştırıyorsanız, onları taşıyın
Lindy bu yolu zaten izlemişti. DeepSeek ile ilk olarak OpenRouter'da tanıştı, değerlendirmeler yaptı ve geçişin değeri kanıtlandı. Aynı testlerde üretim yerinini nereye kuracağına karar veren faktör de bulunmaktadır. _"Üretici modelini farklı çıkarma sağlayıcılarıyla de test ettik. Sinir bozucu şekilde, sağlayıcı gerçekten fark yaratıyor. Aynı model, farklı sağlayıcılar tarafından sunulduğunda skorlar farklıydı."*
— Bruno Škunovic, Lindy Kıdemli Yazılı Mühendisliği
Atlas Cloud Hakkında
Atlas Cloud, birleşikçi tüm modalitede bir AI platformdur: 400+ model video, görü, dil ve sesi kapsar; tek bir API anahtarı, tek uc ve tek fatura hesabı ile; dil modellerleri OpenAI biçimini destekler. SOC 2ve HIPAA sertifikalıdır.
