Cena AI: Deepseek obalał koszt 1,6 mld USD

Zaskakująco tani model AI Deepseek rzuca wyzwanie gigantom branżowym. Chiński startup twierdzi, że wyszkolił swój potężny model Deepseek V3 za zaledwie 6 milionów dolarów, wykorzystując tylko 2048 procesorów GPU, znacznie podcinając konkurentów, takich jak CHATGPT4O Openai, który podobno kosztował 100 milionów dolarów. Ta opłacalność jest jednak przedmiotem debaty.

Obraz: engame.com

Innowacyjna architektura Deepseek V3 przyczynia się do jej wydajności. Kluczowe technologie obejmują prognozę wielofunkcyjną (MTP), która przewiduje wiele słów jednocześnie; Mieszanka ekspertów (MOE), wykorzystując 256 sieci neuronowych do lepszego przetwarzania; oraz wielorakiej ukrytej uwagi (MLA), koncentrując się na kluczowych elementach zdań w celu lepszej dokładności.

Obraz: engame.com

Jednak raport semianalizy ujawnia znacznie bardziej znaczącą inwestycję. Deepseek prowadzi ogromną infrastrukturę około 50 000 GPU NVIDIA, o wartości około 1,6 miliarda dolarów, a koszty operacyjne są zbliżone do 944 mln USD. Jest to sprzeczne z początkowym roszczeniem w wysokości 6 milionów dolarów, które uwzględnia tylko korzystanie z GPU przed treningiem, wykluczając badania, udoskonalanie, przetwarzanie danych i infrastrukturę.

Obraz: engame.com

Sukces Deepseek wynika z jego unikalnej struktury. Jako spółka zależna High-Flyer, chińskiego funduszu hedgingowego, jest właścicielem swoich centrów danych, wspierania innowacji i kontroli. Jego finansowana natura i wysokie pensje (niektórzy badacze zarabiają ponad 1,3 miliona dolarów rocznie) przyciągają najwyższe chińskie talenty. Podczas gdy liczba 6 milionów dolarów wprowadza w błąd, ogólna inwestycja Deepseek przekracza 500 milionów dolarów. Jego szczupła struktura i inwestycje strategiczne pozwalają mu skutecznie konkurować, pomimo zawyżonych roszczeń o koszty początkowe.

Obraz: engame.com

Przykład Deepseek podkreśla, że ​​znaczne inwestycje, postęp technologiczny i wykwalifikowany zespół są kluczowe dla sukcesu AI. Podczas gdy narracja „przyjazna budżetowi” jest przesadzona, koszt firmy pozostaje znacznie niższy niż jej konkurenci. (np. R1 Deepseek kosztował 5 milionów dolarów w porównaniu do 100 milionów dolarów Chatgpt4o). Wydajność firmy jest jednak niezaprzeczalna.