Chińskie firmy AI drastycznie redukują koszty i tworzą konkurencyjne modele, mimo że napotykają amerykańskie ograniczenia w dostępie do zaawansowanych chipów i mają mniejsze budżety niż ich zachodni konkurenci. Start-upy takie jak 01.ai i DeepSeek stawiają na mniejsze zbiory danych i niedrogich, ale wykwalifikowanych inżynierów, aby obniżyć ceny.
Größere Technologieunternehmen wie Alibaba, Baidu und ByteDance toczą wojnę cenową i zredukowały koszty "inference"—czyli koszty zastosowania dużych modeli językowych (LLM) do generowania odpowiedzi—o ponad 90 procent. Obecnie są one znacznie niższe niż u amerykańskich konkurentów.
01.ai, pod kierownictwem Lee Kai-Fu, byłego szefa Google China, obniżyło koszty inferencji poprzez szkolenie modeli na mniejszych zbiorach danych i optymalizację sprzętu. "Siła Chin leży w rozwoju naprawdę przystępnych cenowo silników inferencyjnych, co sprzyja rozpowszechnianiu aplikacji", wyjaśnia Lee.
Das Modell Yi-Lightning firmy 01.ai zajęło w tym tygodniu trzecie miejsce wśród przedsiębiorstw LLM, ex aequo z Grok-2 firmy x.AI, ale za OpenAI i Google, jak wynika z rankingu UC Berkeley SkyLab i LMSYS. Oceny są oparte na opiniach użytkowników dotyczących odpowiedzi modelu.
Koszty inferencji dla Yi-Lightning wynoszą 14 centów za milion tokenów, w porównaniu do 26 centów dla mniejszego modelu OpenAI, GPT o1-mini, i 4,40 USD dla GPT-4o. Lee podkreśla, że koszty pre-treningu dla Yi-Lightning wynoszą tylko 3 miliony dolarów — to ułamek tego, co OpenAI podaje dla swoich dużych modeli. "Naszym celem nie jest posiadanie najlepszego modelu, lecz konkurencyjnego, który jest pięć do dziesięciu razy tańszy dla deweloperów," mówi.
Wiele chińskich firm zajmujących się sztuczną inteligencją, w tym 01.ai, DeepSeek, MiniMax i Stepfun, stosuje podejście oparte na „modelu eksperckim”. Zamiast trenować jeden „gęsty” model na ogromnej bazie danych, łączą kilka sieci neuronowych, które są trenowane na danych specyficznych dla danej branży. Takie podejście pozwala osiągnąć podobny poziom inteligencji przy mniejszym zużyciu mocy obliczeniowej, ale wiąże się z ryzykiem awarii, ponieważ koordynacja między różnymi „ekspertami” jest skomplikowana.
W obliczu trudności w zapewnieniu stabilnego i wystarczającego dostępu do zaawansowanych chipów AI, chińskie firmy AI konkurują o rozwijanie najwyższej jakości zbiorów danych. Lee donosi, że 01.ai wychodzi poza tradycyjne metody, takie jak przeszukiwanie Internetu, i na przykład skanuje książki lub zbiera artykuły z aplikacji do przesyłania wiadomości WeChat, które nie są dostępne w otwartym internecie.
„Istnieje wiele żmudnej pracy przy etykietowaniu i rankingowaniu danych” — mówi Lee. "Ale Chiny, dzięki swojej dużej puli tanich talentów inżynieryjnych, są lepiej do tego przygotowane niż USA." Dodaje: "Siła Chin nie polega na prowadzeniu przełomowych badań bez ograniczeń budżetowych. Siła Chin polega na budowaniu dobrze, szybko, niezawodnie i tanio.
