Ez az esszé nem a mesterséges intelligencia ellen szól. Célom nem a pánikkeltés, hanem egy kulcsfontosságú kérdés feltárása: Hogyan lehet a mesterséges intelligenciát bölcsen használni, maximalizálva előnyeit és minimalizálva a kockázatait?

A Teremtés könyvében szereplő kígyót gyakran az ördög megtestesülésének, a gonosz hajlam szimbólumának tekintik, vagy olyan tükörnek, melyben az emberiség legmélyebb vágyai és legnyersebb kísértései tükröződnek. Az állatok közül a legravaszabbnak tartott kígyó megjelent Éva előtt, és beszélgetést kezdett vele. Évát, akit elcsábított a kígyó magabiztossága, határozottsága és meggyőződése, rábeszélték, hogy egyen a Tudás Fájáról, ezzel végleg megpecsételve az emberiség sorsát. A legtöbben ismerik ezt a történetet; mégis, amikor elolvassuk az Édenkert leírását, egy részletet ijesztően könnyű figyelmen kívül hagyni: a kígyó nem hazudott.

Ha a kígyó nem hazudott, mit kínált akkor? Nos, nem hazugságot kínált; valami mást kínált: egy rövidebb utat. A kígyó azonnali hozzáférést ígért ahhoz, amihez általában idő, erőfeszítés és tapasztalat szükséges. Éva nem puszta információra vágyott, és nem is volt egyszerűen csak kíváncsi. Bölcsességre vágyott, arra a képességre, hogy megkülönböztessen, ítéljen, és „Istenhez hasonlóvá váljon, ismerve a jót és a rosszat”. A kísértés nem csupán abban állt, hogy többet tudjon meg, hanem abban, hogy azonnal megszerezze a bölcsességet, megkerülve azt a folyamatot, melyen keresztül a bölcsességet elvileg ki kell fejleszteni.

Az emberiség ma az ősi kígyó modern megtestesülésével szembesül, amely nemcsak lehetővé teszi, hogy a Tudás Fájáról együnk, hanem képes egyszerre kígyóként és faként is szolgálni: ez a mesterséges intelligencia. A kígyóhoz hasonlóan a mesterséges intelligencia sem kényszeríti kifejezetten a folyamat, a tanulás vagy a tekintély elutasítását; egyszerűen csak opcionálissá teszi őket.

Ezúttal azonban az emberiségnek van a visszatekintés előnye. Éva figyelmeztető példaként szolgálhat, egy klasszikus példa arra, hogy mit nem kell tenni. Ezúttal másképp dönthetünk.

Ez az esszé nem a mesterséges intelligencia ellen szól. Célom nem a pánikkeltés, hanem egy kulcsfontosságú kérdés feltárása: Hogyan lehet a mesterséges intelligenciát bölcsen használni, maximalizálva előnyeit és minimalizálva a kockázatait?

A mesterséges intelligencia mint eszköz

A válaszunk egy alapvető koncepció megértésében rejlik: a mesterséges intelligencia egy eszköz, és mint minden eszköz, valódi ereje attól függ, ki használja. Egy ecset a művész kezében hihetetlen szépséget teremt; ugyanez az ecset egy fizikus kezében (és ezzel nem akarok megbántani fizika szakos társaimat) talán nem.

Azonban ellentétben az ecsettel, amely ügyetlen kezekben előre láthatóan rossz művészeti alktoást hoz létre – ahol a „kudarc” nyilvánvaló –, a mesterséges intelligencia olyan eredményeket is produkálhat, melyek helyesnek tűnnek még akkor is, ha valójában nem azok. Ez egy megtévesztő paradoxont teremt: ugyanaz a mesterséges intelligencia-eszköz, amely látszólag azonos eredményeket hoz létre, akár hatékony erőszorzóként, akár veszélyes rövidebb útként működhet, teljes mértékben a felhasználó meglévő tudásától és tapasztalatától függően.

Ha a felhasználó képes ellenőrizni, finomítani és kijavítani a mesterséges intelligencia kimeneteit – ha képes megkülönböztetni azt, ami helyesnek tűnik, attól, ami ténylegesen helyes –, akkor a mesterséges intelligencia erőszorzóként használható. Egy ügyvéd használhatja a mesterséges intelligenciát a szerződések gyorsabb megfogalmazásához, de felismerheti a hibákat is, amikor a mesterséges intelligencia helytelen információt szolgáltat. A programozók használhatják a mesterséges intelligenciát az általuk fejlesztett szoftverek fejlesztésének gyorsítására, de csak azért, mert képesek azonosítani a mesterséges intelligencia által generált kódban rejlő finom hibákat. Ezzel szemben, ha a felhasználó nem rendelkezik azzal a képességgel, hogy ellenőrizze, finomítsa vagy kijavítsa a mesterséges intelligencia kimeneteit, akkor a mesterséges intelligencia rövidebb úttá válik, amely professzionálisnak és kifinomultnak tűnő munkát állít elő, mégis olyan kritikus hibákat tartalmaz, melyek a képzetlen szem számára rejtve maradnak.

A mesterséges intelligencia már szinte mindenki számára elérhető. Sokan közületek tudatosan használjátok már; sokan pedig évek óta tudat alatt használjátok. A előttünk álló kérdés nem az, hogy használjuk-e a mesterséges intelligenciát, vagy elutasítsuk-e; ezt a döntést már meghoztuk. A kérdés az, hogy hallgatunk-e a kígyóra, és választjuk-e a rövidebb utat, vagy elutasítjuk a kígyó suttogását, és a nehezebb utat választjuk, azt az utat, amely megköveteli a bölcsesség elsajátítását, mielőtt merjük jól kezelni a mesterséges intelligenciát.

Ahhoz, hogy erre a kérdésre megfelelően és felelősségteljesen válaszolhassunk, először egy lépést hátra kell lépnünk és meg kell értenünk, mi is valójában a mesterséges intelligencia: mit csinálnak ezek a rendszerek, hogyan működnek, miben jeleskednek, és mikor küszködnek.

A mesterséges intelligencia rejtélyeinek feloldása

A mesterséges intelligencia nem új jelenség; évek óta használjuk, valószínűleg anélkül, hogy tudnánk róla. Amikor az e-mail szolgáltatód automatikusan kiszűri a spameket a beérkező levelek közül, amikor egy bank gyanús tranzakciót jelöl meg, vagy amikor a Netflix egy sorozatot ajánl, akkor az AI-val lépünk kapcsolatba. Sőt, az AI lép kapcsolatba veled.

Ezek a példák mind a gépi tanulás (Machine Learning, ML) alkalmazásai, amely az AI egyik részterülete, és amelyben a számítógépes modellek az adatokból tanulnak mintákat, hogy előrejelzéseket készítsenek, mindezt anélkül, hogy kifejezetten programozott szabályokra támaszkodnának. Ezeket a modelleket különböző kontextusokban használják, például ingatlanértékeléseknél, ahol a gépi tanulásnak adnak egy adatkészletet, és arra tanítják, hogy mintákat keressen az adatokban.

Ez a fajta mesterséges intelligencia már több évtizede létezik. Az elmúlt néhány évben azonban valami jelentősen megváltozott. A generatív mesterséges intelligencia, különösen a nagy nyelvi modellek (LLM-ek), mint például a ChatGPT, a Claude, a Gemini, a Grok és mások, paradigmaváltást jelentenek a képességek terén. A generatív mesterséges intelligencia a gépi tanulás számos elvére épül; azonban ahelyett, hogy a megtanult mintákat jóslatok vagy döntések meghozatalára használná, ezek a modellek új tartalmakat hoznak létre: szöveget, képeket, hanganyagot, kódot és egyebeket. Az eredmény nem csupán jobb jóslatok. A nagy nyelvi modellek (LLM-ek) esszéket írhatnak, szoftvereket tervezhetnek, dokumentumokat elemezhetnek, fogalmakat magyarázhatnak, valamint képeket és videókat generálhatnak.

A fejlődés nem áll meg itt. A közvetlen jövőben az ügynöki mesterséges intelligencia (Agentic AI) vár ránk. Ezekkel a rendszerekkel a gépi tanulás és a generatív mesterséges intelligenciá teljesen túllépi az előrejelzéseket és a tartalomgenerálást. Képesek több lépésből álló feladatokat megtervezni és végrehajtani, eszközöket használni, az interneten keresni, kódot írni és futtatni, valamint kijavítani saját hibáikat. Lényegében az ügynöki rendszerek nem csupán szöveget, képeket vagy videókat generálnak: önállóan, aktívan kiválaszthatnak és végrehajthatnak cselekvéseket. Ártalmatlan példákban egy AI-ügynök lefoglalhat egy nyaralást vagy összehívhat egy megbeszélést. Az AI-ügynökök azonban ma már sokkal jelentősebb területeken működnek: pénzügyi portfóliók kezelése, fizikai infrastruktúra irányítása és még sok más. Összességében az AI fejlődése – a gépi tanulástól a generatív AI-n át az ügynöki AI-ig – mélyreható változást jelent. Az AI-rendszerek ma már képesek előre jelezni, generálni és cselekedni.

Az AI képességeinek megértése azonban önmagában nem elegendő. Meg kell értenünk azt is, hogyan teszi azt, amit tesz: és miért fontos ez. Ehhez egy alapvető megkülönböztetéssel kell szembesülnünk: a determinisztikus és a valószínűségi jelenségek közötti különbséggel.

Egy determinisztikus rendszer azonos bemenet esetén mindig ugyanazt a kimenetet eredményezi. Viselkedése rögzített, előre jelezhető és ellenőrizhető; a szabályok teljes mértékben meghatározzák az eredményt. A számológép a legszembetűnőbb példa erre. Akárhányszor írjuk be a 2+2-t, az eredmény mindig 4 lesz. Ezzel szemben egy valószínűségi rendszer a bizonyosság helyett a valószínűség alapján állítja elő az eredményeket. Ugyanazon bemenet esetén különböző, statisztikailag egyaránt elfogadható eredmények is előfordulhatnak. Az időjárás-előrejelzések jól illusztrálják ezt: a sötét, felhős ég nem minden esetben eredményez zivatart.

Az AI-rendszerek – legyen az gépi tanuláson (ML), generatív AI-n vagy ügynöki AI-n alapuló – alapvetően valószínűségi jellegűek. A garantált következtetésekhez vezető rögzített szabályok helyett ezek a rendszerek az adatokból megtanult statisztikai minták alapján generálnak kimeneteket. Azt jósolják meg, ami valószínű, nem pedig azt, mi biztosan igaz. Bár a determinisztikus beállítások révén egy valószínűségi modell ugyanazt a kimenetet reprodukálhatja ugyanazon bemenet esetén, a reprodukálhatóságot nem szabad összetéveszteni a helyességgel. A kimenet továbbra is pontatlan, torzított vagy hamis lehet.

Ez nem csupán egy technikai megjegyzés. Lényegükben az LLM-ek az előző tokenek sorozata alapján megjósolják a következő legvalószínűbb tokent (szót, képet, kódsort). Vegyük például a következő gyermekdalt: „Hickory dickory dock, the mouse ran up the ______.”

Az üres helyet kitölthetjük a „clock” szóval. Az előző sorozat alapján a „clock” a statisztikailag legvalószínűbb befejezés. Az LLM azonban nem azért jósolja meg a „clock” szót, mert megérti, mi a rím, vagy akár azt, hogy ez egy gyermekdal, hanem azért, mert a „clock” a legvalószínűbb következő szó a képzési adataiban szereplő milliárdnyi példa alapján. A modell a statisztikai valószínűséget optimalizálja, nem pedig az igazságot.

Ennek következményei nem azonnal nyilvánvalóak. Amikor valaki arra kéri egy nagy nyelvi modellt (LLM), hogy írjon jogi beadványt vagy állapítson meg orvosi diagnózist, a modell pontosan ezt teszi: a megadott feladatra és a képzési adataira alapozva generálja a legvalószínűbb szószekvenciát. A különbség az, hogy a bonyolult, szakmailag jól hangzó kimenetet sokkal nehezebb ellenőrizni, mint egy jól ismert gyermekdal végét. A meggyőzőerőbe burkolt magabiztosságot, bizonyosságot és meggyőződést könnyen összetéveszthetjük a helyességgel.

Ezt a kockázatot tovább fokozza egy kiegészítő tanítási réteg, az úgynevezett „Reinforcement Learning from Human Feedback” (Megerősítéses tanulás emberi visszajelzések alapján, RLHF). Ezen folyamat révén a modelleket úgy optimalizálják, hogy olyan válaszokat állítsanak elő, melyeket az emberi értékelők hasznosnak, kedvesnek és udvariasnak minősítenek. Lényegében ezeket a modelleket arra tanítják, hogy jól hangozzanak. Itt rejlik a kritikus figyelmeztetés: az emberek számára vonzónak tűnő kimenetek nem mindig egyeznek meg a pontos és tényszerű kimenetekkel. Ezek a rendszerek szándékosan nem félrevezetőek, de a gyakorlatban rendkívül megtévesztőek lehetnek.

Egyrészt ez a valószínűségi struktúra valódi kreativitást tesz lehetővé, így a mesterséges intelligencia olyan tartalmakat hozhat létre, amelyek korábban talán soha nem is léteztek.. Másrészt konkrét és komoly kockázatot jelent: ezek a rendszerek nem garantálják a helyességet. Statisztikailag valószínű dolgokat generálnak. Ennek eredményeként hibákat, torzításokat és nyíltan hamis állításokat (melyeket gyakran hallucinációknak neveznek) hoznak létre. Ezek a hibák gyakran láthatatlanok azok számára, akik nem rendelkeznek előzetes ismeretekkel a témáról, mivel a hiba felismerése feltételezi a helyes tartalom független megértését. A mesterséges intelligencia nem csupán azt kockáztatja, hogy hibás eredményeket állít elő. Azt is kockáztatja, hogy olyan hibás eredményeket állít elő, melyeket nehéz felismerni.

Itt jön létre az útelágazás. Mivel a mesterséges intelligencia inkább valószínűségi, mint determinisztikus, hatását nem maga a technológia határozza me; hanem az, hogyan döntünk a használatáról. Ha nincs önálló tudásbázisunk egy adott területen, nagyobb az esélye annak, hogy a szakmailag jól hangzó kimenetet összetévesztjük a valódi szakmai kimenettel, ami potenciálisan katasztrofális következményekkel járhat. De ha rendelkezünk ezzel a tudással, kiaknázhatjuk a mesterséges intelligencia valódi erejét és erőszorzóként használhatjuk.

Az, hogy a mesterséges intelligencia rövidebb úttá vagy multiplikátorrá válik, nem a géptől, hanem tőlünk függ.

Rövidebb út vagy multiplikátor tényező?

Egy választás jön létre, mellyel az emberiség generációról generációra már sokszor szembesült. Valójában ez ugyanaz a választás, mellyel Éva szembesült az Édenkertben: hogy a rövidebb utat választja-e és eszik-e a Tudás Fájáról, vagy elfogadja a hosszabb, erőfeszítéssel és formálódással járó utat, és elutasítja-e a kígyó suttogását. A rövidebb út azonnali hasznot ígér minimális erőfeszítéssel, de ez csak a hosszú távú megértés, a szakmai kompetencia és a lehetséges negatív következmények árán valósul meg. A nehezebb út időt, erőfeszítést, fegyelmet és alázatot igényel, mégis olyasmit eredményez, amit a rövidebb út soha nem tud: egy olyan kialakult egyén, aki képes a bölcsességre, nem csak egy információtároló edény.

Mielőtt tovább vizsgálnánk ezt a választást, érdemes pontosítani, hogy mit értek a kialakult kifejezés alatt, valamint a kialakulás fogalmán.

A formálódás nem az információk, a képesítések vagy a technikai képességek felhalmozása. Hanem az ítélőképesség formálódása. A jól formálódott személy az, aki a tanulás, a gyakorlat, a hibák, a korrekció, a fegyelem, a kötelességtudat és a felelősségvállalás révén olyan módon fejlődött, hogy felismeri, ha valami hiányos, alkalmatlan vagy hamis, még akkor is, ha az teljesnek, alkalmasnak és helyesnek tűnik. A formálódás teszi lehetővé, hogy az ember feltegye a megfelelő kiegészítő kérdést, habozzon és gondolkodjon, amikor mások előre rohannak, észrevegye, ha valami nem illik össze teljesen, vagy ha valami hiányzik.

Röviden: a formálódás lehetővé teszi, hogy megkülönböztessük, mi hangzik helyesnek, mi majdnem helyes, és mi valóban a helyes. Végső soron ez a hitelesítés képessége, és ennek hiányában a mesterséges intelligenciát nem lehet bölcsen és hatékonyan használni.

Gondoljuk át, mit jelent ez a gyakorlatban. Képzeljünk el valakit, aki megpróbál megérteni egy összetett történelmi témát, mondjuk az Amerikai Egyesült Államok alapítását.

A nehezebb úton az egyének az elsődleges forrásokat olvassák: a Federalist Papers-t, az alapítók leveleit, az alkotmányozó közgyűlés vitáit. Elolvassák a másodlagos forrásokat és az eltérő véleményeket is. Idővel valódi tudásbázist építenek fel, holisztikus megértést szereznek az alapítás alapvető elemeiről. Amikor ezek az emberek később mesterséges intelligenciát használnak, az eszköz erőfokozóvá válik. A mesterséges intelligencia összefoglalhatja a különböző értelmezéseket, releváns idézeteket nyújthat, és segíthet bizonyos kérdések mélyebb feltárásában. Mivel a felhasználók már rendelkeznek tudásbázissal, intuitív és egészséges szkepticizmussal közelítenek a mesterséges intelligenciához, bár ez valószínűleg inkább implicit módon történik. Felismerik a téves állításokat, a félrevezető kijelentéseket, a túlzott leegyszerűsítéseket és a nyílt hazugságokat. Képesek megkülönböztetni azt, ami helyes, attól, ami csak helyesnek hangzik, ami lehetővé teszi számukra, hogy kiaknázzák a mesterséges intelligencia erősségeit, mivel kompenzálni tudják annak gyengeségeit.

A rövidebb úton az emberek teljesen eltekintenek az elsődleges és másodlagos forrásoktól, valamint az eltérő véleményektől. Ehelyett már a kezdetektől fogva az AI-t kérik meg, hogy magyarázza el az Alapítás történetét. A kimenet magabiztos, folyékony és hitelesnek hangzik, mintha egy történész vagy egyetemi professzor írta volna. Mindent eldöntött tényként tálalnak: nincsenek eltérő vélemények, nincsenek viták az Alapítók között, és nem ismerik el, hogy mi marad vitatott kérdés. Előzetes ismeretek hiányában a felhasználóknak nincs módjuk felismerni, mi az, ami árnyalt, mi az, ami hiányos, és mi az, ami egyszerűen téves. Amit kapnak, az nem megértés, hanem egy meggyőző narratíva, ami a képzetlenek számára nemcsak igaznak hangzik, hanem valóban igaz is.

Most pedig vegyünk szemügyre egy nagyobb téttel járó és konkrétabb alkalmazást: az önvezető járműveket.

Képzeljünk el egy nem túl távoli jövőt, melyben az önvezető járművek inkább a szabályt, mint a kivételt jelentik. Az egyik megközelítés – a legegyszerűbb megoldás – az lenne, ha teljesen eltávolítanánk az emberi sofőröket, és az összes vezetési döntést az AI-rendszerekre bíznánk. Végül is a technológia erre képesnek tűnik: a járművek, beleértve a nagy teherautókat is, közlekednek az autópályákon, betartják a közlekedési szabályokat, és biztonságosan megérkeznek a kívánt célállomásokra. A rendszer úgy tűnik, működik, és professzionálisnak látszik. Valójában egyre nagyobb az igény az önvezető járművek iránt, mivel úgy tűnik, hogy növelik a biztonságot. Egyes biztosítók már jelentős kedvezményeket kínálnak a Tesla „Full Self-Driving” rendszerével megtett mérföldek után. De mi történik, ha az önvezető jármű olyan helyzetbe kerül, amely nem megfelelően szerepel a betanítási adatok között? Hirtelen lezúduló eső, amely árvizet okoz az úton. Egy iskolabusz, amely az út szélén megáll, hogy leszálljanak a gyerekek. Egy feszült hangulatú rendőri ellenőrzés, fegyverrel a kézben. Pontosan ezek azok a helyzetek, amikor a mesterséges intelligencia valószínűségi jellege veszélyessé válik – ahol az, ami úgy tűnik, hogy kompetens vezetés, és az, ami valójában kompetens vezetés, eltér egymástól.

A nehezebb út az lenne, ha a tapasztalt járművezetőket is bevonnák a folyamatba. A jogosítvánnyal rendelkező járművezetők végül is valódi formálódáson estek át: képzés, vezetési órák, tanfolyamok, vizsgák. Valódi szakértelmet sajátítottak el. Éppen ezért gyakran felismerik, ha valami nem stimmel, még mielőtt bármilyen adat megerősítené ezt.

Ha azonban egy képzett sofőr felügyeli az önvezető járművet, a mesterséges intelligencia más módon válik forradalmivá. Csökken a sofőr kognitív terhelése; hosszabb útvonalakat is képes kezelni anélkül, hogy folyamatosan aktívan irányítania kellene. A mesterséges intelligencia segíthet az útvonaltervezés optimalizálásában, javítva az üzemanyag-hatékonyságot. A mesterséges intelligencia segíthet a sofőrnek felismerni saját fáradtságát, mielőtt túl késő lenne. Összességében a B pontból az A pontba való eljutás célja hatékonyabban valósul meg. De amikor olyan új helyzet adódik, melyre a mesterséges intelligenciát nem képezték ki, és amire nem is lehet kiképezni, a szakértő ember felismeri a rendszer korlátait, és felülírja azokat. A sofőr egyedülálló képességet fejlesztett ki arra, hogy megkülönböztesse, mi a helyes, és mi az ami csak helyesnek tűnik; folyamatosan ellenőrizheti, hogy a mesterséges intelligencia kimenetei (ebben az esetben a vezetési döntések) nem csupán statisztikailag valószínűek-e, hanem valóban helyesek-e. A formálódás az, ami felszabadítja ezt a képességet.

Ez a logika más szakmákra is alkalmazható. A jól képzett ügyvéd felismeri a kitalált jogeset-hivatkozásokat és a logikátlan érvelést. A képzetlen ügyvéd benyújtja ezeket. A jól képzett orvos, akinek intuícióját sok éves klinikai tapasztalat alakította ki, felismeri, hogy a diagnózis lehetséges, de helytelen. Az eszköz, az AI, végig ugyanaz marad. A jól képzett és a képzetlen felhasználó által látott kimenet azonos. Az egyik felhasználó azonban implicit szkepticizmussal és valódi tudásbázissal közelít az AI-hez. Ő bízhat és ellenőrizhet is. A másik úgy közelít az AI-hez, mintha az egy jóslatforrás lenne, és csak bízhat benne. Most tegyük fel a következő kérdést: mi lenne, ha ezek a szakemberek már a képzésük során használták volna az AI-t? Mi lenne, ha az orvostanhallgató, a joghallgató és a mérnökhallgató az AI-hez fordult volna, mielőtt kialakult volna bennük az a képesség, hogy ellenőrizzék annak kimeneteit? Mielőtt képesített orvosokká, ügyvédekké és mérnökökké váltak volna?

Ez már nem csupán hipotézis. A kígyó már beágyazódott mind az osztálytermekbe, mind az irodákba. Legfrissebb felmérések szerint az egyetemi hallgatók 92 százaléka használja ma az AI-t, szemben a 2024-es 66 százalékkal. A gyakorló szakemberek körében három orvosból kettő már használt mesterséges intelligenciát, az ügyvédek 31 százaléka, a pénzügyi szektorban dolgozók 58 százaléka, valamint a szoftverfejlesztők megdöbbentő 90 százaléka. És ezek a számok csak tovább fognak növekedni. Lényegében az útelágazás már nem elméleti kérdés. Itt van, az osztálytermekben, az ügyvédi irodákban és a kórházi osztályokon.

Mit kell tehát tennünk? Hogyan biztosíthatjuk, hogy a mesterséges intelligenciát ne rövidebb útként, hanem multiplikátorként használjuk?

Legyen Ön is „vizsgáló”!

Az „assayer” szót a Cambridge Dictionary úgy definiálja, mint „olyan személyt vagy vállalatot, amely fémeket stb. vizsgál annak tisztaságának megállapítása érdekében”. A bányászatban az „nemesfém vizsgáló” egy olyan szakember, akit arra képeztek ki, hogy meghatározza a fémek tisztaságát; hogy például megkülönböztesse az igazi aranyat a hamis aranytól. Az vizsgálók elengedhetetlen szerepet játszanak a bányászati tevékenységekben, mert lehetővé teszik az érték kinyerését a kockázat minimalizálása mellett. Nélkülük a csiszolt felületeket és a megtévesztő látszatot tévesen valódi értéknek tekinthetik. Az vizsgálók gyakran azok, akik a haladás és a siker, illetve a stagnálás és a kudarc között állnak.

Ugyanez a logika vonatkozik a mesterséges intelligenciára is. Ahhoz, hogy értéket nyerjenek ki a kockázatok minimalizálása mellett, a mesterséges intelligencia felhasználóinak képesnek kell lenniük megkülönböztetni a szakmai eredményeket a szakmailag jónak tűnő eredményektől. Ebben a tekintetben azonban a mesterséges intelligencia-vizsgálók nem a fém tisztaságát határozzák meg; hanem a kimenet helyességét, hogy egy jogi érvelés logikus-e, egy diagnózis helyes-e, vagy egy döntés igazságos-e. A generatív mesterséges intelligencia és az ügynöki mesterséges intelligencia korában a legritkább erőforrás nem az információ (vagy a számítási teljesítmény), hanem az ítélőképesség.

Így eljutunk egy kritikus kérdéshez: hogyan válhat valaki vizsgálóvá?

Egy szóval: formálódás.

Gondoljunk csak egy orvos pályafutására, amely az iskolai képzésen, a vizsgákon és a gyakorlaton keresztül vezet a szakmához. Ezen folyamat során átadódik valami, ami nem redukálható egyetlen kurzusra vagy képesítésre. Ami átadódik, az nem csupán tudás, hanem intuíció: a képesség, hogy érzékeljük, ha valami nem stimmel, még mielőtt az adatok teljes mértékben megerősítenék azt; hogy felismerjük, ha egy diagnózis lehetséges, de helytelen; vagy hogy következtessünk arra, ha valami hiányzik, amit még egyetlen vizsgálat sem tárt fel. Ez a formálódás, és pontosan ilyen orvosra van szükség a vizsgáló szakterületén.

Így láthatjuk, hogy vizsgálóvá válni nem egy intuitív folyamat. Az a képesség, hogy megkülönböztessük a hamis aranyat a valódi aranytól, nem szerezhető meg pusztán a külső megjelenés alapján, találgatással vagy azáltal, hogy megkérdezzük magát a fémet. Oktatás, gyakorlat és tapasztalat révén szerezhető meg. Röviden: a formálódás révén.

Egy szempontot azonban nem lehet eléggé hangsúlyozni: a kimenetben rejlő finom (és nem is olyan finom) hibák felismeréséhez szükséges bölcsességet és tapasztalatot nem szolgáltathatja ugyanaz a rendszer, amely a kimenetet előállítja. Lényegében a formálódás nem lehet körkörös.

Az a alapismeret, amely a finom árnyalatok felismeréséhez vagy az AI kimenetének mélyebb elemzéséhez szükséges, nem származhat magából az AI-ból. Ha az AI-t nem csupán válaszok generálására használjuk, hanem azok magyarázatára, kijavítására és érvényesítésére is, akkor a tanulás zárt hurokká válik. Egy vizsgálót nem lehet abból a fémből kovácsolni, amit éppen vizsgálnia kell.

Akkor hát honnan származik az igazi formálódás? Hogyan biztosíthatjuk, hogy ne kerüljünk ebbe a zárt körbe?

Intézmények és szerepük

Yuval Levin A Time to Build című művében az intézményeket „közös életünk tartós formáiként”, „az együtt végzett tevékenységeink kereteként és szerkezeteként” határozza meg. Levin definíciója szándékosan tág, mivel az intézmények mindenféle formában és méretben léteznek, egyesek kifejezettek, mások implicitek, de mindegyiket egy közös cél köti össze: hogy az embereket hosszú távon formálja és alakítsa. Ezek az intézmények lehetnek időhöz kötöttek vagy határozatlan idejűek. Ugyanakkor olyan szakmák, mint például a jog, az orvostudomány, a mérnöki tudomány és a tanítás – többek között – mindegyike megköveteli, hogy a gyakorlati tevékenységet megelőzően egy intézményben történjen a formálódás.

Vegyünk példaként egy mérnökhallgatót. A diploma megszerzése előtt ennek a hallgatónak ismételt értékelések során kell bizonyítania alkalmasságát. Ennek elérése érdekében a hallgatóknak olyan feladatcsomagokat kell megoldaniuk, amelyek többet igényelnek puszta intuíciónál, olyan vizsgákat kell letenniük, amelyek feltárják a részleges ismereteket, és olyan projekteket kell végrehajtaniuk, melyekben gyakran kudarcot vallanak, mielőtt sikerrel járnának. Ennek a folyamatnak az időtartama változó lehet; néha két év alatt lehet diplomát szerezni, máskor pedig öt évbe telik. A központi jellemző azonban változatlan marad. Az előrelépés feltétele a meghatározott szabványok teljesítése, melyek a tudás és a készségek valódi elsajátítását jelzik. Így bizonyos értelemben az egyetem nem passzívan osztja ki a képesítéseket és a diplomákat, hanem proaktívan visszatartja azokat, amíg a megfelelő képzés le nem zárul.

Ez a logika a formális oktatáson túlra is kiterjed. A modern technológiákat is történelmileg formáló intézmények szabályozták. Vegyük például az autót. Szabadságot és mobilitást biztosít, de helytelen használat esetén károkat és sérüléseket is okozhat. Így a vezetéssel járó kockázat minimalizálása és az előnyök maximalizálása érdekében át kell esni egy képzési időszakon. Meg kell tanulni a közlekedési szabályokat, felügyelet mellett gyakorlást kell végezni egy oktatóval vagy szülővel, teljesíteni kell a szükséges vezetési órákat, és végül a vezetői vizsgán kell bizonyítani a kompetenciát. Ezek a követelmények nem önkényesek és nem értelmetlenek; olyan formáló korlátok, melyek biztosítják, hogy azok az egyének, akik kiérdemelték a vezetés kiváltságát, felelősségteljes és biztonságos járművezetők legyenek. Így tehát nem maga az autó tesz valakit sofőrré, hanem a használatát körülvevő intézményrendszer. Ily módon a modern technológiákat történelmileg olyan intézmények szabályozták, ahol ragaszkodnak ahhoz, hogy az oktatás és a képzés megelőzze a bevezetést és a gyakorlatot.

Az intézmények tehát azért léteznek, hogy idővel és egy folyamat során formálják a bölcsességet és az ítélőképességet. Közös elvárásokat alakítanak ki a kompetenciával és a magatartással kapcsolatban mind a tagjaik, mind a társadalom egésze számára. Az intézmények a hatékonyság helyett a folyamatot, a látszat helyett pedig a képzést helyezik előtérbe. Ezáltal olyan egyéneket nevelnek, akik képesek megkülönböztetni azt, ami valóban működik, attól, ami csupán úgy tűnik, hogy működik: pontosan ez az a képesség, amelyre a vizsgálóknak szükségük van.

A mesterséges intelligencia (AI) egyedülálló kihívást jelent ezeknek az intézményeknek. Az AI nem az első traszformatív technológia, amellyel az emberiség találkozott, és nem is ez lesz az utolsó. Az AI azonban eltér a korábbi technológiáktól, ami az intézményeket, valamint az ezekben az intézményekben dolgozó embereket illeti. A hagyományos intézmények meghatározott szinteken működnek: az egyetemek képzik a hallgatókat, a szakmák tartják rendben a gyakorló szakembereket, a családok formálják a jellemüket, a szabályozási keretek pedig irányítják és biztosítják a különféle eszközök biztonságos bevezetését és alkalmazását. A mesterséges intelligencia azonban egyik szintre sem illeszkedik tökéletesen, és egyetlen intézmény keretein belül sem. Ehelyett a mesterséges intelligencia egyszerre hat mindegyik szinten.

Éppen ezért a mesterséges intelligenciát nem intézményként, hanem meta-intézményként érdemes leginkább értelmezni. A meta-intézmény nem olyan struktúra, amely kizárólag közvetlenül formálja az egyéneket, hanem olyan, amely átalakítja azokat a feltételeket, melyek között szinte minden formálódás zajlik. A mesterséges intelligencia nem a struktúrán keresztül formálja az embereket, hanem átalakítja azokat a környezeteket és folyamatokat, amelyekben a struktúra működik. A mesterséges intelligencia befolyásolja, hogy az intézmények hogyan oktatnak, a szakemberek hogyan dolgoznak, az adminisztrátorok hogyan irányítanak, és a „kívülállók” hogyan lépnek kapcsolatba az intézményi hatalommal.

Hogy szemléltessük, hogyan működik a mesterséges intelligencia meta-intézményként, vegyük példaként a jogi szakmát, konkrétan azt az intézményt, amely a jogi szakma legtöbb szereplőjét képezi: a jogi egyetemet. Ebben az intézményben a képzés három fő szereplőtől függ: a hallgatóktól, a professzoroktól és az adminisztrátoroktól. Ezen szereplők mindegyike betölti a maga szerepét az intézményen belül: a hallgatóknak jogot kell tanulniuk, hogy megszerezzék diplomájukat és bizonyítsák széleskörű ismereteiket; a professzoroknak órákat és feladatokat kell kidolgozniuk; az adminisztrátoroknak pedig át kell gondolniuk a tantervet, és – ami nem kevésbé fontos – hogy kit engedjenek be intézményükbe. Most vezessük be az AI-t egyszerre minden szinten. A hallgatók az AI segítségével kutathatnak fogalmak után, összefoglalhatnak jogeseteket és készíthetnek beadványvázlatokat – olyan feladatokat, amelyek manuális elvégzése éppen azokat az ösztönöket alakítja ki, amelyekre a jogi gyakorlatban szükség van. A professzorok az AI segítségével többek között óravázlatokat készíthetnek, vizsgákat vagy esszé-témákat állíthatnak össze, valamint dolgozatokat javíthatnak. Az adminisztrátorok az AI-t használhatják a tanterv összeállításához, illetve az önéletrajzok és jelentkezések szűréséhez annak eldöntése érdekében, kinek kínáljanak fel helyet.

Egyetlen ponton sem tűnik úgy, hogy bármi is rossz lenne. Mégis, a formálódást irányító folyamatot minden szakaszban csendben kisajátították. Maga az intézmény továbbra is fennmarad, de az a formálódás, melynek létrehozására eltervezték, talán nem.

Ez a mintázat nem kizárólag a jogra jellemző. Megjelenhet az orvostudományban, a mérnöki tudományokban, az újságírásban és az oktatásban is, bárhol, ahol az intézmények történelmileg formálódott egyéneket neveltek ki.

Továbbá, az intézményekkel ellentétben a mesterséges intelligencia nem ír elő közös formálódási szabványokat. Nem igényel időt vagy folyamatot, nem igényel gyakornoki időszakot vagy meghatározott szakaszok átlépését, és nem követeli meg a kompetencia bizonyítását a hozzáférés megadása előtt. A mesterséges intelligencia hatása azonnali, elérhetősége pedig szinte univerzális. Ebben az értelemben a mesterséges intelligencia korlátlan hozzáférést kínál. Lehetőséget ad az egyéneknek arra, hogy nyelvet tanuljanak, adatokat elemezzenek, nagy terjedelmű szövegeket foglaljanak össze, problémákat oldjanak meg – mindezt anélkül, hogy előzetes intézményi képzésre, formálásra vagy felkészülésre lenne szükségük. Nincsenek kapuőrök vagy képesítési követelmények, a felhasználók mentesek az intézményi akadályoktól és korlátozásoktól. Más szavakkal: csökkenti a belépési küszöböt. És a mesterséges intelligencia valóban kézzelfogható módon bővíti a felhasználók lehetőségeit.

Lehetővé teszi a nem anyanyelvűek számára, hogy professzionális angol nyelven írjanak, inspirálja a diákokat, hogy különböző módon elmagyarázott fogalmakat megértsenek, ösztönzi a kisvállalkozók tulajdonosait, hogy drága ügyvédek alkalmazása nélkül készítsenek előzetes szerződéstervezeteket, segíti a kutatókat olyan hatalmas szakirodalom összefoglalásában, amit egyébként lehetetlen lenne áttekinteni, és támogatja az orvosokat a daganatok diagnosztizálásában. A mesterséges intelligencia nem illúzió; képes javítani a felhasználói képességeit. Ugyanakkor azonban ez a hozzáférés nem igazán korlátlan. A mesterséges intelligenciát annak alkotói korlátozzák. A mesterséges intelligencia-rendszereket a betanított adatok (amit az alkotók belevesznek), a finomhangolási folyamat (az alkotók által választott korlátozások), az üzleti modellek (amire az alkotók érdekeit optimalizálják) és a vállalati stratégia határozzák meg. Ez megtévesztéshez vezet.

A felhasználók korlátlan szabadságot éreznek, de valójában nem annyira szabadok. Használatukat olyan külső szereplők által előírt, látens és rejtett korlátozások szabályozzák, amelyek nem tartoznak elszámolási kötelezettség alá az intézményi képzés keretében.

A felhasználók az AI-t súrlódásmentesnek, semlegesnek és természetesnek érzékelik, miközben valójában interakcióikat ezek a láthatatlan, máshol meghatározott és a szem elől elrejtett korlátok és prioritások irányítják. Az intézményekkel ellentétben a hatalmat átláthatóság nélkül gyakorolják, a befolyást elszámoltathatóság nélkül gyakorolják, és a felhasználó nem megy keresztül olyan folyamaton, amely erőfeszítést vagy időt igényel.

Összességében ez a kombináció éles eltérést jelent a korábbi technológiáktól. Történelmi szempontból az átalakulást elősegítő eszközöket olyan intézményeken keresztül vezették be, ahol a képzés a személyes önfejlesztés előfeltétele volt. A mesterséges intelligencia megfordítja ezt a sorrendet. Először ad egy hihetetlenül hatékony eszközt a felhasználók kezébe, miközben a képzéssel, a használattal és a felelősséggel kapcsolatos kérdéseket érintetlenül és megoldatlanul hagyja.

.A veszély nem csupán abban rejlik, hogy a mesterséges intelligencia teljesen kiszoríthatja az intézményeket, hanem abban is, hogy azok használatát opcionálissá teszi. Amikor a diákok a mesterséges intelligenciára támaszkodnak a kutatás, az összefoglalás és az írás során, a formálódást kikapcsolják. Amikor a szakemberek az AI által generált eredményekre hagyatkoznak, a színvonal romlik.

Amikor az orvosok teljes mértékben az AI-ra bízzák az orvosi műszeres eredmények kiértékelését, a klinikai ítélőképesség elsorvad. Minden egyes felhasználás ártalmatlannak, sőt racionálisnak tűnik. Ám összességében a formálódás lassú eróziója törékeny rendszert eredményez, egy díszes homlokzatú, de üreges házat. Ez a hamis arany veszélye. Nem jelzi magáról, hogy hamis. Egyszerűen csak arra vár, hogy teszteljék, és reméli, hogy már nincsenek olyan vizsgálók, akik meg tudják különböztetni a valódit a hamistól.

A kígyó ajánlatának elutasítása

Az intézmények azért léteznek, hogy formálják az embereket. Amit az intézmények nem tesznek, hogy rövidebb utat kínáljanak. Olyan folyamatot kínálnak, amely időt és erőfeszítést igényel. Azok, akiket az intézmények formálnak, nemcsak azt tanulják meg, hogy mi működik, hanem azt is, hogy miért működik, és ami ugyanolyan fontos, azt is, hogy mi nem működik, és miért nem. Az intézmények pontosan azért alakítanak ki kompetenciát, mert nem hajlandók azt utánozni.

Az Édenkertben a kígyó közvetlenül aláássa ezt a logikát. „Tényleg azt mondta Isten…?” – ez nem hazugság, hanem a tekintély és a folyamat megkérdőjelezése. Az ezt követő ígéret – „Olyanok lesztek, mint Isten, ismeritek a jót és a rosszat” – közvetlen hozzáférést kínál a tudáshoz anélkül, hogy a bölcsesség megszerzéséhez szükséges formálódáson átesnének. Éva, akit elcsábított a kígyó magabiztossága, a megnyugtató és tekintélyt parancsoló hangja, megbízott a kígyóban – annak ellenére, hogy tudta, mi Isten parancsa. Végül Éva valóban információhoz jutott azzal, hogy evett a Tudás Fájáról, de a folyamat során nem szerzett bölcsességet.

A mesterséges intelligencia (AI) érvelése hasonló a kígyóéhoz. Nem írja elő kifejezetten az intézmények elutasítását; csupán feleslegessé teszi azokat. Olyan lehetsz, mint a szakértők. Szakmai eredményeket hozhatsz létre. Nem kell elviselned a képzés lassú folyamatát. Mivel az eredmény meggyőző és professzionális benyomást kelt, a választott rövidebb út egyáltalán nem érződik rövidebb útnak. Évához hasonlóan az AI felhasználóit is a magabiztosság, a bizonyosság és a meggyőződés vonzza, és nem érzik magukat becsapva. Addigra azonban már késő: a felhasználó a folyamat helyett a rövidebb utat választotta. Ez egy veszélyes kettős helyzethez vezet: belsőleg úgy érezzük, mintha szakértők lennénk, pedig nem azok vagyunk; külsőleg pedig azok, akik munkánkat értékelik, úgy tekintenek ránk, mintha szakértők lennénk, pedig tévednek.

Összességében az AI nem azt hirdeti: „Tönkreteszem az intézményeidet” – hanem megváltoztatja, és gyakran feleslegessé teszi azokat. Ahelyett, hogy el kellene olvasni az összes ügyiratot, az AI összefoglalja azokat. Ahelyett, hogy órákat töltenénk a jogi beadvány megfogalmazásával, az AI azonnal elkészíti. Ahelyett, hogy a szakirodalmi áttekintéshez egy írás után a másikat olvasnánk, az AI részletes magyarázatot ad az összes releváns részről. Minden egyes döntés ésszerűnek tűnik, minden egyes megkerülés jelentéktelennek tűnik, de összességében a rendszer erodálódik. Elosztott jellegére való tekintettel egyetlen személy, intézmény vagy szakma sem látja az összesített hatást. Az egyének csak a saját AI-használatukat látják, ami kezelhetőnek tűnik. Az intézmény csak a saját bevezetését látja, ami stratégiainak tűnik. A szakma csak a saját átalakulását látja, ami elkerülhetetlennek tűnik. Amit senki sem lát, az összes intézményben végbemenő szisztematikus hanyatlás, a formálódás területeken átívelő, egymást erősítő eróziója, valamint a kialakuló összesített törékenység.

Ennek következményei nem elvontak. Ha a joghallgatók az AI-t rövidebb útként használják, akkor már nem tanulják meg, hogyan kell esettanulmányokat készíteni vagy szakmai összefoglalókat írni. Azok a hallgatók, akik később ügyvédek, bírák és professzorok lesznek, lemondtak a jogi intuíció kialakításáról és a jogi érvelés fejlesztéséről. Minden más tényező változatlansága mellett ők belső és külső szempontból egyaránt képesítéssel rendelkező jogi szakemberek – az alapvető képesség nélkül, melyet ezek a képesítések hivatottak képviselni. Ugyanez igaz az orvostudományra is. A klinikai intuíció, a betegekkel való bánásmód és a kiváló orvoslét egyéb elengedhetetlen, immateriális összetevőit nem tanítják meg kifejezetten. Ezek kialakulnak. És ha az ezeket az összetevőket kialakító folyamatot megkerülik, akkor azok nem feltétlenül alakulnak ki. A szakma továbbra is fennmarad, a képesítések megmaradnak, de az alapvető képességek csökkenhetnek és elmosódhatnak.

Yuval Levin intézményi megújulásra irányuló felhívása nem csupán az AI korában releváns. Sürgető is.

Levin azzal érvel, hogy a mai társadalmat sújtó számos társadalmi probléma abból ered, hogy a formáló intézményeket teljesítményorientált platformok váltották fel. A mesterséges intelligencia ezt a problémát még tovább súlyosbíthatja: felgyorsíthatja az intézmények megkerülését, valamint felerősítheti a teljesítményorientált hangok hatását. Amikor a teljesítmény felváltja a formálódást, a kompetenciát nem ápolják, hanem csak szimulálják. Így, ha ezek az intézmények tovább hanyatlanak, az emberek vizsgálóként való működési képessége tovább fog csökkenni.

Ezért döntés előtt állunk. Az egyik út a képesség illúziójához vezet: a hamis aranyhoz. A másik út a valódi képességhez vezet, amely a korábban lehetségesnek tartott mértéknél is nagyobb mértékben érvényesül: az igazi aranyhoz.

Vegyünk példaként egy olyan mesterséges intelligencia-alkalmazást, amely mindannyiunk mindennapi életének része: a robotpilótát a kereskedelmi légi közlekedésben. Beszállunk a repülőgépre, végighallgatjuk a biztonsági utasításokat, felszállunk, iszunk egy gyömbérsört, majd leszállunk. Soha nem gondolunk a robotpilótára. Nem azért bízunk benne, mert a technológia hibátlan, hanem azért, mert bízunk a pilótákban, a szakértőkben a pilótafülkében. Azok a pilóták kiérdemelték a bizalmunkat; elvégezték a képzést, megszerezték a pilótaengedélyüket, szigorú kiképzésen vettek részt, és folyamatosan tesztelik őket, hogy biztosítsák alkalmasságukat. Bízunk az eszközben, mert bízunk annak kezelőjében, a képzett emberben a folyamatban.

Ne bízd másra a saját ítélőképességedet. Legyél bölcs. Ne elégedj meg olyan eredményekkel, melyek jól hangzanak. Ellenőrizd azokat.

A mesterséges intelligencia sem kivétel. Hatalma valós, kockázatai valósak, ám végső hatalma és kockázata teljes mértékben azok jellemétől és képzettségétől függ, akik alkalmazzák. Intézményeink megújulása óriási jelentőséggel bír, de nem valósulhat meg megújult egyének nélkül. Végül is az intézményeket éppen azok az emberek építik fel és tartják fenn, akik maguk is először a nehezebb utat választják.

Így tehát a felelősség mindannyiunkra hárul. Ne bízd másra az ítélőképességedet! Legyél bölcs! Ne elégedj meg azokkal az eredményekkel, melyek jól hangzanak! Ellenőrizd azokat! Bármely szakmában vagy területen is dolgozol, szenteld magad a valódi fejlődés lassú, gyakran nem túl csillogó munkájának: olvasd az elsődleges forrásokat, gyakorolj szándékosan, bukj el és javítsd ki a hibáidat, keress mentorokat, hallgass azokra, akik már előtted jártak ezen az úton! Szerezz tapasztalatot!

Röviden: válj vizsgálóvá! Csak így tudod az AI-t erőfokozóként használni, és nem rövidebb útként; kiegészítőként, nem pedig helyettesítőként. Akkor együtt elutasíthatjuk a kígyó suttogását. Mert – akár tetszik, akár nem – elértünk egy útelágazáshoz, ahol választás előtt állunk. Ez a választás, akárcsak Éváé, most a miénk. De Évával ellentétben nekünk van a múlt tapasztalat: tudjuk, hogyan végződik ez a történet, ha rosszul választunk. A kérdés végül is egyszerű: Te már használtad az eszközt, vagy az eszköz használt téged?

A választás a tiéd. Egyszerre csak egy feladat.

Forrás angol nyelven

Létrehozva 2026. augusztus 11.