AI's prijs: Deepseek heeft $ 1,6 miljard kosten ontkracht

De diepe goedkope AI -model van Deepseek daagt de industriële reuzen uit. De Chinese startup beweert zijn krachtige Deepseek V3 -model te hebben getraind voor slechts $ 6 miljoen, met slechts 2048 GPU's, die concurrenten zoals Chatgpt4o van Openai aanzienlijk onderbiedt, die naar verluidt $ 100 miljoen kostte. Deze kosteneffectiviteit is echter een onderwerp van debat.

afbeelding: ensigame.com

De innovatieve architectuur van Deepseek V3 draagt ​​bij aan de efficiëntie ervan. Belangrijke technologieën omvatten multi-token voorspelling (MTP), die tegelijkertijd meerdere woorden voorspelt; Mix van experts (MOE), met 256 neurale netwerken voor verbeterde verwerking; en multi-head latente aandacht (MLA), gericht op cruciale zinselementen voor verbeterde nauwkeurigheid.

afbeelding: ensigame.com

Een Semianysis -rapport onthult echter een veel meer substantiële investering. Deepseek heeft een enorme infrastructuur van ongeveer 50.000 NVIDIA GPU's, met een waarde van ongeveer $ 1,6 miljard, met operationele kosten van bijna $ 944 miljoen. Dit is in tegenspraak met de initiële claim van $ 6 miljoen, die alleen verantwoordelijk is voor het gebruik van GPU-gebruik voor de training, exclusief onderzoek, verfijning, gegevensverwerking en infrastructuur.

afbeelding: ensigame.com

Het succes van Deepseek komt voort uit zijn unieke structuur. Als dochteronderneming van High-Flyer, een Chinees hedgefonds, bezit het zijn datacenters, die innovatie en controle bevorderen. De zelf gefinancierde aard en hoge salarissen (sommige onderzoekers verdienen jaarlijks meer dan $ 1,3 miljoen) trekken top Chinees talent aan. Hoewel het cijfer van $ 6 miljoen misleidend is, is de totale investering van Deepseek groter dan $ 500 miljoen. De magere structuur en strategische investeringen stellen het in staat om effectief te concurreren, ondanks de opgeblazen initiële kostenclaims.

afbeelding: ensigame.com

Het Deepseek -voorbeeld benadrukt dat substantiële investeringen, technologische vooruitgang en een bekwaam team cruciaal zijn voor AI -succes. Hoewel het "budgetvriendelijke" verhaal overdreven is, blijven de kosten van het bedrijf aanzienlijk lager dan zijn concurrenten. (bijvoorbeeld, Deepseek's R1 kostte $ 5 miljoen in vergelijking met de $ 100 miljoen van Chatgpt4o). De efficiëntie van het bedrijf valt echter niet te ontkennen.