Przegląd
Yapper to kompleksowe kreatywne studio AI: wiodąca generacja wideo i obrazu dla profesjonalnej produkcji reklam i opowiadań, a także narzędzie Agent, które planuje i wykonuje całe kreatywne workflowy na podstawie prostego opisu w języku naturalnym. Jego propozycją dla twórców jest „nie promptuj, tylko reżyseruj": wybierz rezultat, a nie model. Za tą prostotą kryje się trudny problem infrastrukturalny. Produkt subskrypcyjny, którego użytkownicy oczekują najnowszego modelu w tydzień po premierze, musi stale dodawać nowe modele, a w bezpośrednim ujęciu każdy nowy model może oznaczać nowego dostawcę do pozyskania, zintegrowania i obsługi.
Yapper zgłosił się do Atlas Cloud, gdy użycie Seedance 2.0 rosło szybciej, niż jego poprzednia konfiguracja była w stanie obsłużyć. Przeniósł to obciążenie na Atlas, a następnie dodawał kolejne: Seedream v5.0 Pro i Lite dla obrazu, a następnie Seedance 2.0 mini, wszystko przez tę samą integrację, bez wdrażania nowego dostawcy. Przy tym obciążeniu Yapper stał się jednym z klientów o największym wolumenie na platformie.
Kluczowe rezultaty:
- Jeden endpoint modelu pierwszego dnia, sześć w ciągu tygodni, wszystko przez jedną integrację i jedną relację z dostawcą: Seedance 2.0 i 2.0 mini dla wideo, Seedream v5.0 Pro i Lite dla generowania i edycji obrazu. Każde dodanie po pierwszym kosztowało zero pracy związanej z pozyskaniem i zero pracy integracyjnej.
- Produkcyjne obciążenie wideo od pierwszego tygodnia, stabilne od tamtej pory. Yapper nie testował Atlasa ruchem testowym; przeniósł rzeczywiste generacje użytkowników, które działają ze stałym tygodniowym wolumenem od pierwszego tygodnia.
- Nie dodano żadnego etatu do obsługi infrastruktury podczas działania obciążenia.
Wyzwanie
Każdy nowy model to nowy proces pozyskania
Obietnica Yapper dla użytkowników to szerokość oferty modeli: co jest najlepsze w tym miesiącu, w jednej subskrypcji. W bezpośrednim ujęciu ta obietnica jest problemem pozyskania, zanim stanie się problemem inżynieryjnym. Każdy nowy dostawca oznacza kolejną relację handlową i konto rozliczeniowe, kolejną konfigurację uwierzytelniania i integrację, oraz kolejny system, który zespół musi obsługiwać, zanim w ogóle dowie się, czy model poprawia produkt. Yapper nie może przewidzieć, które laboratorium wypuści następny model, o który użytkownicy poproszą po imieniu, a ranking liderów zmienia się co miesiąc. Każdy tydzień, który mały zespół spędza na wdrażaniu dostawcy, to tydzień nie poświęcony na produkt, który użytkownicy faktycznie widzą.
Presja wzrosła, gdy użycie Seedance 2.0 w Yapper wystartowało, a poprzednia konfiguracja nie nadążała ze wsparciem. Dla konsumenckiej aplikacji kreatywnej stawka jest wyższa, niż się wydaje: ruch jest gwałtowny, użytkownicy odchodzą, jeśli generowanie jest wolne lub brakuje gorącego nowego modelu, a marże zależą od kosztu inferencji. Yapper potrzebował dostawcy, który udźwignie szybko rosnące obciążenie dzisiaj i wchłonie następny dodany model bez nowego cyklu pozyskania.
Rozwiązanie
Rampa dla nowych modeli, a nie kolejny dostawca
Dzięki Atlas Cloud Yapper otrzymuje:
- Jedną integrację, która stale się zwraca. Yapper wdrożył Atlas raz, dla Seedance 2.0. W ciągu kilku tygodni, pięć kolejnych endpointów modeli pojawiło się przez ten sam klucz API. Dodawanie modelu przestało być projektem pozyskania i stało się decyzją produktową.
- Dostęp do 350+ modeli wideo, obrazu, LLM i audio. Gdy następny model najnowszej generacji pojawi się w katalogu Atlas, Yapper może go przetestować tego samego dnia, w którym warto go testować, niezależnie od laboratorium, z którego pochodzi, bez nawiązywania relacji z dostawcą z tym laboratorium.
- Wsparcie i provisionowanie, które skalują się wraz z obciążeniem. To była luka, która sprowadziła Yapper do Atlas. Konsumencki ruch kreatywny skacze, gdy treści stają się trendami; Atlas provisionuje na to, zamiast to ograniczać.
„Przeprowadziliśmy szeroko zakrojone testy u wielu dostawców Seedance 2.0, śledząc kluczowe metryki, a Atlas osiągnął najlepsze wyniki ogółem, konsekwentnie wykazując najniższe wskaźniki błędów. To dało nam pewność, aby przejść dalej z innymi modelami, czyniąc Atlas niezawodnym hubem do wspierania naszych kluczowych ofert AI."
— Sean Grindal, Współzałożyciel, Yapper
Wpływ
Od czasu przeniesienia Seedance 2.0 do Atlas, Yapper przeszedł z jednego endpointu modelu na Atlasie do sześciu w obszarze wideo i obrazu przez tę jedną integrację, jednocześnie wdrażając swoje narzędzie workflow Agent, rozszerzony system kontroli emocji dla filmów z mówiącymi awatarami oraz obsługę 40+ języków, bez dodawania etatu do obsługi infrastruktury. Obciążenie wideo, które skłoniło do zmiany, działa ze stałym tygodniowym wolumenem od pierwszego tygodnia.
- Czas sprawności (uptime) jest na rekordowo wysokim poziomie, z najniższym wskaźnikiem błędów krytycznych, jaki Yapper widział przy tym obciążeniu, powyżej 99,9%.
- Wolumen wydatków na kredyty w Yapper wzrósł około 2x od czasu uruchomienia na Atlasie.
Dlaczego Atlas zamiast alternatyw
Rynek kreatywnych pakietów to walka na noże o dostęp do modeli, a każdy poważny gracz musi odpowiedzieć na to samo pytanie: gdy następny model, którego chcą twoi użytkownicy, pochodzi z laboratorium, z którym nigdy nie współpracowałeś, jak długo potrwa, zanim trafi do twojego produktu?
Bezpośrednie umowy z modelami: każdy dostawca to własna relacja handlowa, konto rozliczeniowe, konfiguracja uwierzytelniania i integracja, a lista dostawców rośnie z miesiąca na miesiąc. Te koszty ogólne skalują się wraz z rozmiarem twojego katalogu, co dla produktu agregującego oznacza, że skalują się wraz z twoją ambicją. Odpowiedź na powyższe pytanie zaczyna się od rozmowy handlowej i sprintu integracyjnego, za każdym razem.
Budowanie we własnym zakresie: samodzielne hostowanie modeli open source wymaga planowania przepustowości GPU i etatów do obsługi operacyjnej, na które szczupły zespół nie może sobie pozwolić, a to wciąż nie daje dostępu do zamkniętych modeli, o które użytkownicy proszą po imieniu.
Atlas Cloud: jedna relacja z dostawcą, która niesie za sobą każdy nowy model, wsparcie skalujące się wraz z gorącym obciążeniem i provisionowanie zaprojektowane dla gwałtownego ruchu konsumenckiego.
Yapper konkuruje bezpośrednio z Higgsfield i innymi kreatywnymi pakietami AI, które realizują tę samą obietnicę szerokości oferty modeli. Szybkość modeli, czyli jak szybko nowe wydanie trafia do użytkowników Yapper, to jeden ze sposobów, w jaki wygrywa tę walkę.
Co dalej
Yapper rozszerza możliwości narzędzia Agent, a każdy nowy model, który chce umieścić za Agentem, może trafić przez istniejącą już integrację z Atlas.
„Każde wydanie modelu w tej przestrzeni to ogromna szansa produktowa. Atlas usprawnia koszty ogólne związane z dodawaniem nowego wsparcia."
— Sean Grindal, Współzałożyciel, Yapper
O Yapper: Yapper (yapper.so) to kompleksowe kreatywne studio AI do generowania wideo i obrazu, zbudowane dla profesjonalnej produkcji reklam i opowiadań, z narzędziem Agent, które planuje i wykonuje całe kreatywne workflowy na podstawie prostego opisu w języku naturalnym.
O Atlas Cloud: Atlas Cloud to zunifikowana platforma inferencji AI pełnego trybu: 350+ modeli wideo, obrazu, języka i audio, przez jeden klucz API, jeden endpoint i jedno konto rozliczeniowe, kompatybilna z OpenAI dla modeli językowych.
