Kell-e HunGPT? - Avagy szükség van-e kifejezetten magyar nyelvű nagy nyelvi modellekre?

Dehát a ChatGPT is tud magyarul...

Napjaink legismertebb LLM-jei, a ChatGPT, Claude és Gemini mind-mind jól megértik a magyar nyelvű instrukciókat és képesek szinte hibátlan magyarsággal válaszolni. A legtöbb felhasználó számára, akik főleg egyszerűbb kérdéseket tesznek fel vagy egyszerűbb utasításokat adnak, ez teljesen kielégítő. Az LLM-ek tudnak választékosak, udvariasak, barátságosak is lenni, ahogy a helyzet megkívánja.

Na de tulajdonképpen mit is jelent az, hogy egy LLM „tud” magyarul? A nyelvhelyes szövegalkotás, az egyszerűbb kérdések megválaszolására egy dolog, de a “magyarul tudásnak” vannak más részei is, amik nem feltétlenül ennyire egyértelműek. Mert a magyar nyelv nem csak alaki szabályok összessége: vannak dialektusok, bonyolultabb nyelvtani szerkezetek, finom jelentésbeli különbségek, kulturális utalások, amelyek egy LLM esetében nem feltétlenül adottak.

Arra a kérdésre tehát, hogy “Tud-e magyarul egy adott LLM?” nehéz objektíven válaszolni, ugyanakkor léteznek különböző tesztek, amelyek lehetővé teszik az egyes nyelvi modellek magyartudásának számszerű értékelését.

Ilyen például az OpenHuEval és a HuLU, két magyar nyelvű teszt, amelyek különböző, egyértelműen értékelhető feladatokon keresztül mérik a modellek teljesítményét – hasonlóan egy iskolai dolgozathoz. A tesztek számos témakört lefednek, többek között a nyelvet, a történelmet, a kultúrát és a földrajzot, miközben különféle feladattípusokat alkalmaznak, például szavak behelyettesítését, tudásalapú kérdéseket vagy érvelési feladatokat.

Az OpenHuEval publikálásakor a GPT-4o és a DeepSeek R1 modellek számítottak a legjobbnak, és még ezeknek a modelleknek is beletört a bicskájuk bizonyos feladattípusokba. A modellek a szavak kontextusbeli jelentésének kitalálásában voltak a legjobbak, és a választási lehetőség nélküli behelyettesítésben a legrosszabbak.

A HuGME egy modernebb, de még nem igazán használt teszt, ahol nem előre definiált válaszokat várnak el a vizsgált nyelvi modelltől, hanem egy másik, megfelelő tudással felvértezett LLM értékeli ki az eredményeket.

Szuverén LLM stratégia

Milyen érvek szólnak a kifejezetten magyar nyelvű LLM-ek mellett?

Itt fontos szót ejteni a nyelvi modellek két típusáról: a nyíltan elérhető és a “zárt ökoszisztémájú” LLM-ekről. Előbbiek bárki által letölthetőek és futtathatóak saját szerveren (feltéve, hogy annak a teljesítménye elegendő a modellhez). Ezek általában kisebb, egyszerűbb modellek, pont azért, hogy szerényebb hardverigényük révén szélesebb kör számára váljanak elérhetővé. Ilyen például a nemrég bemutatott Gemma4 modellcsalád, vagy a Llama modellek. Az utóbbiak, vagyis a a “zárt ökoszisztémájú” LLM-ek (mint a szélesebb körben is ismert ChatGPT, Claude vagy Gemini) pedig csak online szolgáltatókon keresztül használhatóak, ahol az adataink biztonsága a szolgáltatón múlik, ahogy az is, hogy mikor, milyen gyakorisággal és mennyiért használhatjuk a modelljeiket. Ez teremt egy erős függőségi viszonyt, ami stratégiai méretűre nőhet, ha Magyarország működésében kulcsszerepet kapnak az LLM-ek.

Egy célzottan magyar nyelvre készült modell jobban tudná például az ügyfélszolgálat szerepét ellátni azáltal, hogy képes a rossz helyesírással vagy szlenggel is megbirkózni. Szintén fontos lehet jogi szövegek esetén is a pontos nyelvismeret és értelmezés, mivel itt bármilyen félrecsúszás komoly problémákat okozhat.

Napjaink egyik fontos témája az AI-szuverenitás, azaz hogy az országok minél kevésbé függjenek más országoktól vagy éppen konkrét külföldi cégektől AI erőforrások szempontjából. Ahhoz, hogy Magyarország erre az útra léphessen, fontos egy nyíltan elérhető, megfelelő teljesítményű LLM.

A szuverenitás mellett a modellek mérete is fontos szempont. A jelenlegi trendek már most afelé mutatnak, hogy bizonyos felhasználási területen nincs feltétlenül szükség a legnagyobb modellekre: a kisebb, akár helyben, a felhasználó saját számítógépén futó modellek is képesek megfelelő teljesítményt nyújtani, miközben üzemeltetésük jelentősen költséghatékonyabb lehet. Viszont a legtöbb kisméretű LLM egyszerűségénél fogva kevésbé tud magyarul (mivel a tanításuk során nem ez volt a fókusz). Ezt a problémát is lehetne orvosolni célzottan magyar nyelvre tanított kisebb modellekkel, ahol az idegennyelvek ismerete kevésbé lényeges paraméter.

Létezik-e már a HunGPT?

A magyar nyelvű LLM tanítására tett kísérletek évek óta tartanak, és több ilyen modell is készült az évek során. A Puli különböző generációi (Puli Trio, Puli Llumix 32k, Puli Llumix Llama 3.1 8B) egyre jobb eredményeket értek el a fentebb is említett OpenHuEval és HuLU teszteken.

Említésre méltó még a nemrég mindenki számára elérhetővé vált Racka 4B modell, amely kisebb, mint a legjobb teljesítményt nyújtó Puli modell, mégis bizonyos teszteken jobb eredményeket ért el.

A legújabb Puli modellek és a Racka nem önálló fejlesztésű alapmodellek: egy már létező, nyílt elérésű, többnyelvű nyelvi modellt használnak kiindulásnak, és egy úgynevezett “finomhangolásos” eljárással javítják a magyartudásukat más nyelvek rovására. Ennek az eljárásnak az előnye, hogy sokkal kevesebb erőforrás kell hozzá, és a modell már meglévő tudása is nagyrészt megmarad.

Fontos azonban megjegyezni, hogy ezek a mai legnagyobb modellekhez képest sokkal korlátozottabb képességűek, elsősorban a hasonló méretű többnyelvű modellekhez képest tudnak jobb “magyar nyelvtudást” felmutatni.

Mennyibe kerülne a HunGPT?

Napjainkban az elérhető információ legnagyobb része angolul található meg az interneten. Az LLM-ek elsődleges szerepe – a megfelelő információk összegyűjtése és feldolgozása, – megköveteli az angol nyelvtudást. Ezért aztán egy teljesen magyar nyelven tanított modellnek igazából nincs is értelme.

Megkerülhetetlen tény, hogy a legfejlettebb modellek magyartudása teljesen kielégítő a felhasználók legnagyobb részének. Nekik nem származik előnyük abból, ha egy rosszabb teljesítményűmagyar modellt használnak – hacsak nem állnak fent költségbéli, adatbiztonsági vagy szuverenitási szempontok.

Emellett be kell látnunk a tényt, hogy Magyarország gazdaságilag nem képes felvenni a versenyt az USA-val vagy Kínával LLM-ek tekintetében. Az élvonalbeli modellek tanítása rendkívül erőforrásigényes, olyannyira, hogy a megjelenése idején az egyik legjobb modellnek számító Llama 3.1-es tanítási költségeit több, mint száz millió dollárra becsülik. Ez körülbelül 30 milliárd forintnak felel meg, és ez pusztán a tanítás költsége, nincs benne az adatgyűjtés, a kutatás és a nem sikerült kísérletek.

Mindeközben pedig a piacvezető OpenAI körülbelül évente kiad egy új ChatGPT-t. Vagyis ezek a fejlesztési és tanítási költségek irreálisan magasak a magyar gazdaság méretét tekintve. Nincs olyan hazai piaci szereplő, akinek megérné magyar nyelvre fókuszált LLM-eket kiadni ekkora méretben, ilyen rendszerességgel.

A kisebb modelleknél is látható az elavulás, többek között a Racka 4B előnyét is részben az alapjául szolgáló frissebb modell adja. A Puli is folyamatos frissítés alatt áll, időről időre publikálnak is újabb és újabb verziókat.

Hosszú távon, figyelembe véve a kis modellek teljesítményének folyamatos javulását, reálisabb stratégiának tűnik a meglévő nyílt modellek magyar nyelvű finomhangolása. Így a méretükhöz képest kiemelkedően jól teljesítő, széles körben hozzáférhető magyar modellek hozhatók létre anélkül, hogy egy teljes alapmodell fejlesztésének költségeit kellene vállalni.  Így biztosítható az AI szuverenitás egy bizonyos szintje költséghatékony módon.

A kérdésre, hogy kell-e élvonalbeli modellekkel versenyezni magyar nyelvű fókusszal, egyértelmű nem a válasz. Sokkal fontosabb szempont, hogy konkrét felhasználási esetben mik a fő prioritások. Teljesítményben sosem fogják tudni a magyar nyelvre kihegyezett LLM-ek utolérni a “nagyokat”, de ha az adatbiztonság, a függetlenség, a költséghatékonyság fontos szempont, igenis van helye a kisméretű, nyíltan elérhető modelleknek, és fontos stratégiai cél kell, hogy legyen ezek támogatása az AI szuverenitás szempontjából.