Kínai innováció miatt fájhat az OpenAI feje

Óriási áttörésnek lehettünk tanúi az AI-piacon 2024 utolsó napjaiban, ráadásul az innováció nem a Szilícium-völgyből, de még csak nem is Amerikából érkezett. A DeepSeek egy kínai, nyílt forráskódú AI-cég, melynek új modellje meghaladja az OpenAI és vezető amerikai modellek teljesítményét úgy, hogy gyengébb hardveren tanították. Ráadásul az egész projekt mindössze 6 millió dollárba került összesen, ami alapjaiban kérdőjelezi meg a nagy fejlesztések megtérülését.

Fél évvel ezelőtti cikkemben bemutattam egy struktúrát, ami mentén érdemes szemlélni a mesterséges intelligencia fejlődését. Azt fejtettem ki, hogy sok kutató az alábbi négy fő szintet nevezi meg az AI-értékláncon belül:

  1. A chipek szintje (hardware layer)
  2. A modellek szintje (software layer)
  3. A kész modelleket futtató infrastruktúra szintje (infrastructure layer)
  4. A modelleket felhasználó cégek szintje (application layer)

Jelen cikkemben a második szinten bekövetkezett jelentős változásról írok, ami bár meglepetésként ért 2024 utolsó napjaiban, pont azon dilemmák a beigazolódását mutatja, amiket én is felvetettem.

Vajon az élen járó modellek kifejlesztéséhez szükséges több száz millió dolláros befektetés megtérül-e valaha, vagy a túl nagy verseny miatt szinte képtelenség lesz ezen a szinten markáns profitot realizálni?

Amerika innovál, Kína imitál, Európa szabályoz

A mesterséges intelligencia piacra kifejezetten találó ez az X-en gyakran felbukkanó mondás és a kínai imitációra egy igen ékes példát láthattuk a 2024-es év utolsó napjaiban.

Egy nyílt forráskódú mesterségesintelligencia-fejlesztő cég, a DeepSeek közzétette harmadik generációs modelljét, ami nemcsak felveszi a versenyt amerikai versenytársaival szemben, de több fontos mérföldkőben (pl. kódolási képesség és matematikai feladatmegoldás) meg is haladja őket.

Teszi ezt – igazi kínaihoz méltó módon – sokkal olcsóbban, és valószínűleg néhány nem túl etikus módszerrel.

A fenti diagrammon az Y tengelyen láthatjuk a modell intellektuális teljesítményét, az X tengelyen pedig a futtatásához szükséges árat. Ez alapján a DeepSeeknek sikerült a legjobb modellt létrehozni nagyságrendekkel alacsonyabb futtatási költséggel.

Hogyan lehet a DeepSeek a legjobb modell?

De hogyan lehetséges ez? A növekvő technológiai hidegháborúnak köszönhetően Kína nem vásárolhat az NVIDIA legújabb, high-tech chipjeiből, valamint a konvencionális bölcsesség szerint minden AI-innováció központjában az Egyesült Államok áll. Úgy tűnik, a szigorú korlátok közé szorított kínai AI-kutatók a nehéz helyzethez alkalmazkodva sokkal hatékonyabb megoldások létrehozására képesek, mint az amerikai versenytársaik.

Az amerikaiak jelenleg ugyanis azon versenyeznek, hogy ki tud több pénzt elkölteni az NVIDIA legújabb chipjeire, hogy abból minél többet kössenek egymás mellé, és a nagyobb számítási kapacitásra alapozva marginálisan okosabb modelleket hozzanak létre.

Ehhez képest a DeepSeek kutatói nem a hardver, hanem a szoftver szintjén innováltak, kihasználva, hogy nem kell az amerikai szabályozásnak megfelelniük.

Habár bizonyítékot még nem láttam róla, a DeepSeek válaszai erősen arra engednek következtetni, hogy a modell az OpenAI legújabb modelljének válaszain lett tanítva, ami az OpenAI általános szerződéses feltételeinek súlyos megszegése és a szellemi tulajdon egyszerű ellopása, de ezek más iparágakban se zavarták eddig a kínai mérnököket.

A legárulkodóbb jel, hogy amikor megkérjük a DeepSeek modelljét, hogy mutassa be magát, állítása szerint ő az OpenAI által kifejlesztett GPT-4 alapú mesterséges intelligencia modell. Ez nem azt jelenti, hogy az egyetlen innováció annyi volt, hogy szabálytalanul lemásolták az OpenAI modelljét, de nélküle biztosan nem lettek volna képesek ilyen olcsón ilyen jó eredményre.

Felhasználói szempontból (rövid távon) abszolút jó hír, hogy hozzájuthatunk egy ChatGPT-nél jobb modellhez tizedakkora áron. Már ha a DeepSeek online szolgáltatását használjuk. Ha van a garázsban néhány új generációs NVIDIA GPU, akkor a nyílt forráskód miatt ingyen is futtathatjuk lokálisan az új modellt.

Ez az open source hozzáállás szokatlan, hogy a kínai oldalról jöjjön. Amerikában a legtöbb LLM (nagy nyelvi modell) fejlesztő hétpecsétes titokként őrzi a rengeteg pénzért betanított modelljeinek súlyait, a Meta pedig, amely a legfőbb nyílt forráskódú szabadságharcos az amerikai piacon, teljesítményben még elmarad a zárt forráskódú versenytársaitól.

Ezentúl Kína mindent lemásol?

Hosszú távon már kérdéses, hogy mit tesznek a modellek piacával az olcsó kínai másolatok.

Ki fog több száz millió dollárt befektetni egy új modell kifejlesztésébe, ha két hónapra rá az új modell outputjait használva a kínaiak lemásolják az egészet és felrúgják a projekt teljes megtérülését?

Mi lesz az NVIDIA árazottságával, ha bebizonyosodik, hogy egy modell tanításához nem szükséges százezer H100-as NVIDIA chipet egymás mellé kötni, hogy miénk legyen a legjobb, hanem elég hozzá mindössze 2048 darab H800-as chip (ami a nevével ellentétben nem 8x akkora teljesítménnyel bír, hanem nagyjából fele olyan gyors mint a H100, ezért vehetik a kínaiak).

Andrej Karpathy – OpenAI alapító, később Tesla AI Director – szerint a DeepSeek új modellje nem jelenti a nagy GPU klaszterek végét, azonban ráébresztheti az amerikai kutatókat arra, hogy nem szabad minden növekedést a hardver layer-en keresztül várni. A szigorú korlátok gyakran a legjobb táptalajt jelentik az innováció számára, ezt tisztán mutatja most a kínai kutatók eredménye.


Énekes Tamás, a HOLD privátbankárának írásait itt böngészheted a HOLDBLOG-on.

JOGI NYILATKOZAT

A dokumentumban foglaltak nem minősülnek befektetési ajánlatnak, ajánlattételi felhívásnak, befektetési tanácsadásnak vagy adótanácsadásnak, befektetési elemzésnek, az abban foglaltak alapján a HOLD Alapkezelő Zrt.-vel szemben igény nem érvényesíthető, azokért a HOLD Alapkezelő Zrt. felelősséget nem vállal.