Láncreakció

Kipróbáltunk néhány kis nyelvi modellt egy izmosabb laptopon: többé vagy kevésbé, de magyarul is tudnak, kódolni is tudnak, és ez még csak a kezdet. Az elemzői jóslatok szerint hamarosan a munkahelyi feladatok 80%-át lokálisan futó SLM-ek oldják majd meg és csak az igazán komplex és generalista megközelítést igénylő problémák miatt kell majd a felhős frontier modellekhez fordulni.

A vibe coding és a professzionális adatvizualizáció mintapéldája lett a holadelej.hu, jár a pirospont a készítőknek! Miért fordult meg a befektetői hangulat az adatcenter-beruházások kapcsán, és hogyan nőtt az Anthropic az OpenAI fejére? Képesek lesznek-e az Apple asztali gépei kiváltani a felhőalapú AI-t a helyben futó kisméretű nyelvmodellekkel? Mi újság a globális chipháború fordulataival, a magyar államkincstárt ért kibertámadással, valamint az újabb világvége-jóslatokkal? A humpr rovatban pedig szóba kerül egy zseniális oktatói trükk, a „Madagaszkár-csapda”.

Vajon az agentic AI valós fejlődési irány vagy csak hype? Mi különbözteti meg a lakossági ágenst a vállalatitól? Leírható-e egy vállalat működése rutinfeladatok összességeként? Jó példa-e az üvegvisszaváltási rendszer az automatizációval elérhető hatékonyságnövelésre? Mi okozza a céges pilotok kudarcait, a nem megfelelő technológia vagy az automatizálni kívánt folyamatok hibái? Ezeket a kérdéseket igyekszik megválaszolni a két műsorvezető.

Ha egy vállalat nem költ eleget az ügyfélszolgálatra, melyik rossz ügyfélélmény a kevésbé felkavaró: ha egy olyan géppel beszélgetünk, ami nem tud igazán segíteni, vagy egy olyan emberrel, aki ugyanúgy csak a scriptet követi és igyekszik lepattintani a kedves ügyfelet? Mi köze mindennek az izlandi autóbérléshez, az elromlott focimeccs-elemző kamerához és a párkapcsolati dinamikákról érdeklődő robothoz? Milyen gazdasági kényszerek húzódnak meg az ügyfélkiszolgálás mögött?

Folytatjuk a múlt héten megkezdett mélyfúrást a nyelvmodellek készítésében, ebben kalauzaink Gyöngyössy Natabara⁠ és ⁠Nemeskey Dávid⁠, a Racka⁠ nyelvmodell fejlesztői. Az adásból kiderül, milyen fázisai és kihívásai vannak a kis nyelvre fejlesztett LLM feltanításának. A nulláról indított tanítás helyett a Qwen 4B modell folytatólagos előtanítását választották, mivel nem állt rendelkezésre elegendő, jó minőségű magyar szövegadat. A tokenizálót ötletesen szabták át a magyar nyelvre, ez 50–60 százalékkal gyorsította a generálást, a Komondor szuperszámítógépen, LoRA-eljárással végzett tanítás pedig összesen 2,1 GPU-évet igényelt. Szó esett még a digitális szuverenitásról, a hazai kutatás finanszírozási kihívásairól, valamint a következő lépésekről is: nagyobb, 30 milliárd paraméteres modellekről és magyar preferenciaadatokra épülő RLHF-fejlesztésről.