Mi van valójában az AI mögött?

Amikor írsz egy kérdést egy AI-nak, néhány másodperc múlva megjelenik előtted egy válasz. Könnyű úgy elképzelni, mintha valahol a háttérben lenne egy nagyon okos digitális „valaki”, aki elolvassa a kérdésedet, átgondolja, majd megírja a választ. De valójában nem ez történik.

Egy sokkal összetettebb rendszer dolgozik a háttérben: korábban adatokon tanított modell, számítási infrastruktúra, a kérdés feldolgozása és egy olyan folyamat, amelynek során a modell lépésről lépésre előállítja a választ. És az egész mögött rengeteg emberi munka is van. Nézzük meg, mi történik valójában.

Először is: mi az, ami „tanul”?

Az AI mögött van egy modell. Ezt a modellt nagy mennyiségű adaton tanítják. A tanítás során nem úgy kell elképzelni a folyamatot, mintha valaki egy hatalmas tankönyvet adna az AI kezébe, és azt mondaná neki: „Ezt most tanuld meg.”

A modell a tanítás során az adatokban található mintázatokból tanul. Egy nyelvi modell például azt tanulja meg, hogy a nyelvben milyen szavak, szövegrészek és más elemek milyen környezetben fordulnak elő, és milyen folytatások lehetnek valószínűek. Egyszerűsítve: ha egy szövegben egy mondat után következik valami, a modell a tanítás során egyre jobban megtanulja megbecsülni, mi lehet az. Így a tanítás eredményeként kialakul egy modell, amely képes a megtanult mintázatok alapján szöveget előállítani.

De itt van egy fontos különbség: a modell nem ugyanaz, mint az egész AI-szolgáltatás.

A modell nem az egész AI

Amikor megnyitod a ChatGPT-t, nem egyszerűen „belépsz egy modellbe”. A háttérben egy teljes rendszer működik. Van maga a modell, amely a számítások egyik legfontosabb része. Kell infrastruktúra, amelyen a modellt futtatják. Kell szoftver, amely kezeli a beérkező kéréseket. És szükség van olyan rendszerekre is, amelyek a szolgáltatás működését, biztonságát és megbízhatóságát támogatják.

És természetesen emberekre is. Ezért pontosabb úgy gondolni az AI-ra, mint egy rendszerre, amelynek a modell csak az egyik kulcsfontosságú eleme.

Mi történik, amikor beírod a kérdésedet?

Tegyük fel, hogy ezt kérdezed:

„Miért kék az ég?”

A rendszer nem egyszerűen úgy működik, hogy megkeres egy adatbázisban egy „Miért kék az ég?” feliratú választ, majd bemásolja neked. A beírt szöveget először a modell számára feldolgozható egységekre bontja. Ezeket tokeneknek nevezik.

A token nem feltétlenül egy teljes szó. Lehet egy szó egy része, egy teljes szó vagy akár egy írásjel is. A modell ezekkel az egységekkel dolgozik.

És itt történik valami igazán érdekes.

A modell nem egyszerűen előkeresi a választ

A generatív nyelvi modellek egyik alapvető működési elve, hogy a szöveg következő elemét próbálják előre jelezni.

Vagyis leegyszerűsítve nem az történik, hogy: kérdés → kész válasz megkeresése → válasz

Hanem inkább:

kérdés → feldolgozott bemenet → modell számítása → következő elem → következő elem → következő elem → válasz

A modell minden egyes lépésben a rendelkezésére álló információ alapján számolja ki, mi lehet a következő token. Ezután jön a következő. Majd a következő. És így épül fel a válasz.

Ez történik olyan gyorsan, hogy ebből kívülről egy összefüggő gondolatmenetnek látszó szöveget látunk.

De akkor „csak tippelget”?

Nem egészen. A „következő token előrejelzése” kifejezés könnyen úgy hangzik, mintha a modell vaktában találgatna. Nem erről van szó.

A modell a tanítás során megtanult nagyon sok mintázat alapján számítja ki, hogy az adott szövegkörnyezetben milyen folytatások valószínűek. Ez rendkívül összetett számítás. De fontos megérteni, hogy nem egy igazság-adatbázisból választja ki a válaszokat.

Ez az egyik oka annak, hogy egy AI olyan választ is képes előállítani, amely nagyon jól hangzik, mégis hibás. Erről már külön is beszéltünk: az AI magabiztosnak tűnő válasza önmagában nem bizonyítja, hogy a válasz igaz.

És honnan tudja, hogyan válaszoljon?

A tanítás nem feltétlenül ér véget az alapmodell létrehozásával. A modern AI-modellek fejlesztésének több szakasza lehet. A modellt tovább finomhangolhatják, értékelhetik, tesztelhetik, és emberi visszajelzéseket is felhasználhatnak annak érdekében, hogy a rendszer jobban kövesse az utasításokat, hasznosabb válaszokat adjon és megfelelőbben viselkedjen.

Ez azért fontos, mert egy nyelvi modellnek nem elég pusztán azt megtanulnia, hogy milyen szövegek milyen mintázatokat mutatnak. Azt is szeretnénk, hogy amikor azt mondjuk:

„Magyarázd el egyszerűen!”
akkor valóban egyszerű magyarázatot adjon.

Vagy ha azt kérjük:
„Foglalj össze öt mondatban!”
akkor próbáljon az utasításnak megfelelően válaszolni. Ebben jelentős szerepe lehet az emberi értékelésnek és visszajelzésnek.

Az AI mögött emberek is vannak

Az AI-ról könnyű úgy beszélni, mintha egyedül a gépek dolgoznának. Valójában nagyon sokféle emberi munka szükséges hozzá.

Emberek dolgoznak például az adatok előkészítésén, a modellek fejlesztésén, az infrastruktúrán, a tesztelésen és az értékelésen. Biztonsági szakemberek vizsgálják, hogyan viselkedik a rendszer különböző helyzetekben, mások pedig azt biztosítják, hogy a szolgáltatás működjön.

Vagyis amikor beírsz egy kérdést egy AI-nak, a háttérben nem csak egy modell dolgozik. Egy egész technológiai rendszer és az azt létrehozó, működtető emberek munkája van mögötte.

És kell hozzá egyáltalán számítógép?

Igen. Elég sok.

Egy nagy AI-modell létrehozásához és működtetéséhez jelentős számítási kapacitás szükséges. A modellt nagy teljesítményű számítógépes infrastruktúrán tanítják, és amikor te használod, a válasz létrehozásához akkor is számításokra van szükség.

Ez azt jelenti, hogy az AI nem valami megfoghatatlan dolog, ami egyszerűen „a felhőben lebeg”. A felhő mögött is valódi számítógépek, adatközpontok, hálózatok és energiaigényes számítások vannak.

Amikor tehát néhány másodperc alatt választ kapsz egy kérdésre, a háttérben valódi gépek dolgoznak.

Akkor mi történik egyetlen kérdésnél?

Most rakjuk össze az egészet.

Amikor beírsz egy kérdést:

1. Beérkezik a kérdés.
   A rendszer feldolgozza a bemenetet, amely tokenekre bontható.
   
2. A rendszer a modellt futtatja.
   A modell a kérdés és az addig létrejött szöveg alapján kiszámítja, milyen folytatás lehet megfelelő.
   
3. Megszületik az első token.
   Majd újabb számítás következik.
   
4. Megszületik a következő token.
   És ez újra és újra megtörténik.
   
5. Összeáll a válasz.
   A sok egymás után előállított tokenből létrejön az a szöveg, amelyet végül te olvasol.
   

Mindez számítási infrastruktúrán történik, egy olyan rendszerben, amelynek fejlesztésében, tesztelésében és működtetésében emberek is részt vesznek.

Vagyis leegyszerűsítve:
ADATOK → TANÍTÁS → MODELL → KÉRDÉS → MODELLFUTTATÁS → KIMENET

És az egész folyamatot körülveszi:
EMBERI MUNKA + SZÁMÍTÁSI INFRASTRUKTÚRA

De akkor az AI nem „gondolkodik”?

Itt érdemes óvatosnak lenni a szavakkal.

Az AI képes olyan válaszokat létrehozni, amelyek számunkra nagyon hasonlítanak a gondolkodás eredményére. Tud összefüggéseket kezelni, következtetéseket létrehozni, problémákat megoldani és összetett szövegeket előállítani.

De nem érdemes egyszerűen úgy elképzelni, mintha egy ember ülne a számítógép belsejében, aki elolvassa a kérdésedet, átgondolja, majd megfogalmazza a választ.

A háttérben egy matematikai és számítási folyamat zajlik egy betanított modellen. Ez a különbség azért fontos, mert segít megérteni azt is, hogy miért tud az AI néha egészen meggyőzően tévedni.

És miért nem tudja mindig, hogy téved?

Mert a modell alapvetően nem úgy működik, mint egy tökéletes igazság-ellenőrző rendszer. A célja nem egyszerűen az, hogy minden kérdésre megtalálja az egyetlen, bizonyítottan igaz választ.

A generatív modell a tanult mintázatok alapján állít elő választ. Ezért előfordulhat, hogy egy mondat nyelvileg teljesen rendben van, a magyarázat logikusnak tűnik, mégis hibás információt tartalmaz.

Ez nem azt jelenti, hogy az AI használhatatlan. Éppen ellenkezőleg: nagyon sok mindenben rendkívül hasznos lehet. Csak érdemes tudni, mi van a válasz mögött.

Akkor mi van valójában az AI mögött?

Nem egy digitális ember. Nem egy hatalmas online enciklopédia, amely minden kérdésre előre elkészített választ tárol. És nem is pusztán egyetlen modell.

Hanem egy összetett rendszer:

adatok → tanítás → modell → számítás → kimenet

és mindezt körülveszi az infrastruktúra, valamint az emberek munkája, akik az adatokat előkészítik, a modelleket fejlesztik, a rendszereket tesztelik és működtetik.

Ha ezt megérted, már egészen más szemmel nézel egy AI-válaszra. Nem azt látod, hogy egy digitális „valaki” egyszerűen tudja a választ. Hanem azt, hogy egy betanított modell a rendelkezésére álló mintázatok alapján számítások segítségével állít elő egy választ.

És ez rögtön érthetőbbé teszi azt is, hogy miért lehet egyszerre nagyon hasznos és néha nagyon magabiztosan téves.

Végre értem

Az AI mögött nem egyetlen „okos gép” van, hanem egy összetett rendszer. Adatokból tanított modell, számítási infrastruktúra, a kérdés feldolgozása és a válasz lépésenkénti előállítása dolgozik a háttérben – és mindehhez jelentős emberi munka is szükséges.

Elég, ha ezt érted:

Amikor kérdezel egy AI-tól, nem egy digitális ember keresi elő neked a választ. Egy betanított modell számítások segítségével állít elő egy választ. És éppen ezért az AI válasza lehet nagyon hasznos, lehet nagyon meggyőző – és mégis lehet téves.