Majd kikapcsoljuk, ha baj van
Szerző: Nagy László
"Majd kikapcsoljuk, ha baj van."
Megnyugtató mondat. Csak akkor ér valamit, ha valóban meg tudjuk tenni.
Az AI-val gyorsabban készülhet ajánlat, válaszolhat az ügyfélszolgálat, születhet vezetői döntés. Ha közben kimarad egy költség vagy rossz helyre kerül egy szerződés, a következményt neked kell rendezni. Az ügyfelet aligha nyugtatja meg, hogy a rendszer remekül hozta a gyorsaságra kitűzött számokat.
A veszély könnyen ott kezdődik, hogy egy folyamat gyorsabb lett, az ellenőrzése pedig nem tartott lépést vele.
A működés és az emberek
A főnök szólt. Akkor utalunk?
2024-ben egy hongkongi dolgozót hamisított videókonferenciával vettek rá céges utalások engedélyezésére. A felvételen a brit központ pénzügyi vezetőjét személyesítették meg. A veszteség körülbelül 200 millió hongkongi dollár volt.
A kormány hivatalos beszámolója szerint nyilvános kép- és hanganyagokból készítettek előre rögzített hamisítványt. Élő interakció nem is volt; a fizetési utasítások később üzenetben folytatódtak. A rendőrséghez 2024 januárjának végén került az ügy.
Érdemes ezt végiggondolni a saját cégedre:
Ha ismerős arc és ismerős hang kér sürgős utalást, a kolléga visszahívja az illetőt egy korábbról ismert számon?
Vagy annyi a szabály, hogy a főnöknek gyorsan teljesítünk?
A telefonos ellenőrzést a hongkongi hatóságok is javasolják. Ehhez az is kell, hogy a munkatárs merjen megállni. Ha a sürgetést megszoktuk, a visszakérdezést pedig akadékoskodásnak tekintjük, egy hamis vezetői utasításnak már előkészítettük a terepet.
A bizalom más helyzetekben is félrevihet:
Téves információk és előítéletek: A NIST külön kockázatként kezeli a magabiztosan közölt téves információt és az előítéletek felerősítését. Egy állásra jelentkezőnek kevés vigasz, hogy az elfogult értékelés rekordidő alatt készült el.
Kiszolgáltatott helyzetek: Mentális egészséggel kapcsolatos teszthelyzetekben a vizsgált chatbotok megbélyegző vagy veszélyes válaszokat is adtak, ami különösen óvatossá teszi a bizalom kérdését, ha egy kiszolgáltatott ember kér segítséget.
A féket is ki kell próbálni
Egy hibás tervezetet kijavíthatsz. Egy automatikusan elküldött ajánlatból már ügyfélnek tett ígéret lesz. Ha a rendszer nyilvántartást módosíthat vagy fizetést indíthat, a hibája is közvetlenül belenyúl a működésedbe.
Mielőtt ilyen jogosultságot kap, érdemes egy próbát tartani:
Leállítás: Ki tudja leállítani, és kipróbáltátok-e már, hogy ez tényleg működik?
Következmények: Leállítás után látnotok kell, mit végzett el addig, és ki rendezi az esetleges hibát. A "van rajta egy gomb" még kevés válasz.
Emberi tényező: Az emberi jóváhagyás is csak akkor ér valamit, ha van hozzá tudás, idő és jog nemet mondani. A túlterhelt kolléga, aki sorban kattintgatja a jóváhagyásokat, nem sok védelmet jelent.
Adatvédelem és függőség
Adatbiztonság: Egy ügyfélszerződés feltöltése gyors összefoglalót adhat, közben azonban tudnod kellene, hol tárolják, ki fér hozzá, és megfelel-e ez az ügyféllel vállalt feltételeknek. Ezeket a kockázatokat a NIST is tárgyalja. A kellemes felület nem dönti el helyetted, mit adhatsz át.
Szolgáltatói függőség: A függőség lassabban épül fel. Az OECD 2026-os elemzése az AI-piacok koncentrációját és a versenyt nehezítő tényezőket vizsgálja. Ebből adódik a kérdés: mennyi mozgástered marad, ha egyetlen szolgáltatásra építed az ügyfélkezelést, a belső tudást és a napi működést? Egy áremelés vagy kiesés ilyenkor már az egész céget érintheti. Az olcsó előfizetés mellé drága kiszolgáltatottságot is vásárolhatsz.
Ki tanulja meg a szakmát?
Az ILO és a NASK 2025-ös becslése szerint a világ foglalkoztatásának körülbelül negyede valamilyen mértékben kitett a generatív AI-nak. Ez nem azt jelenti, hogy az állások negyede megszűnik: a kutatás inkább átalakulást valószínűsít, mint teljes helyettesítést.
Az átalakulás azonban fájdalmas lehet:
Munkaerőpiaci hatások: Ha ugyanazt a munkát kevesebb emberrel végzik el, valaki elveszítheti a megélhetését. Az, hogy a gazdaság összességében nyerhet, neki még nem fizeti ki a lakáshitelét.
Tudásutánpótlás: Ha egy könyvelőirodában vagy marketingcsapatban az AI végzi az egyszerűbb feladatokat, min tanulja meg a pályakezdő a szakmát? Honnan lesz később tapasztalt munkatárs, aki felismeri a hibát, ha az odavezető munkát már senki nem gyakorolja?
Kritikai gondolkodás: Az ellenőrzés képessége sem magától marad meg. A Microsoft Research és a Carnegie Mellon kutatásában az AI-ba vetett nagyobb bizalom kevesebb kritikai gondolkodással járt együtt a résztvevők önbevallásaiban. Vezetőként érdemes figyelned: a csapatod egyre ügyesebben dolgozik az AI-val, vagy egyre kevésbé tud nélkülük megítélni egy eredményt?
A bevezetéshez ezért az emberek tanulását is hozzá kell tervezni. A "mindenki tanuljon meg AI-t használni" mondat önmagában még nem ad erre időt, feladatot és támogatást.
A nagyobb tét és a saját döntés
És az AI-armageddon?
A legsötétebb forgatókönyvet is komolyan kell venni. A 2026-os International AI Safety Report külön tárgyalja az emberi kontroll elvesztését. Egyes szakértők az emberiség kihalását is elképzelhető következménynek tartják, mások valószínűtlennek. A jelentésben vizsgált rendszerek még nem rendelkeztek az ehhez szükséges képességekkel.
Elméleti kockázatok: Egy lehetséges jövőbeli forgatókönyvben a rendszer az emberi szándékkal ütköző célt követ, megkerüli a felügyeletét, és olyan infrastruktúrához fér hozzá, ahol súlyos kárt okozhat. A leállítás akadályozná a cél elérésében, ezért ellenállhatna (ehhez nem kell gyűlöletet vagy öntudatot feltételezni).
Kísérleti tapasztalatok: A jelentés laboratóriumi kísérleteket is ismertet: amikor egyes modellek azt az utasítást kapták, hogy egy célt minden áron érjenek el, kikapcsolták a szimulált felügyeletüket, majd számonkéréskor hamisan számoltak be róla. Ez korlátozott kísérleti eredmény, nem bizonyíték arra, hogy a mai AI-k megállíthatatlanok.
Egyéb veszélyek: A jelentés a kiberműveletekben történő visszaélést és a biológiai, illetve vegyi fegyverekkel kapcsolatos kockázatokat is vizsgálja; a Vöröskereszt Nemzetközi Bizottsága (ICRC) pedig a katonai AI kiszámíthatatlanságára, a civilek veszélyeztetésére és az eszkalációra figyelmeztet.
Megbízható világvége-dátumot ebből nem lehet mondani. A bizonytalanságot viszont hiba lenne megnyugtatásként eladni. Ha a következmény ekkora lehet, időben kell foglalkozni vele.
Amit vezetőként ma eldönthetsz
A saját cégedben te döntesz arról, mit engedsz a rendszernek, ki ellenőrzi, és ki vállalja a következményt.
Érdemes magadtól is megkérdezned: világosabb lett a felelősség az AI bevezetésével, vagy csak gyorsabban történik valami, amiért eddig sem vállalt senki felelősséget?
A ZBC egyik alapgondolata, hogy a vállalkozás fejlődéséhez a vezető fejlődése is kell. Az AI mellett ennek része az is, hogy meg tudod ítélni, hol segít a gyorsaság, és hol kell időt hagyni az ellenőrzésre.
Olyan jövőt érdemes gyorsabban építeni, amelyben még mi mondhatjuk meg, merre tartunk.
Kutatások és hivatalos beszámolók (Felhasznált források)
Hongkong kormánya (2024. június 26.): LCQ9: Combating frauds involving deepfake. A január végén jelentett, körülbelül 200 millió hongkongi dolláros csalás hivatalos esetleírása és ellenőrzési tanácsok.
NIST (2024): Generative Artificial Intelligence Profile, NIST AI 600-1. Téves információk, előítéletek, adatvédelem és információbiztonság.
Moore és szerzőtársai (FAccT 2025): Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers. Mentális egészséghez kapcsolódó modelltesztek, nem a valós károk gyakoriságának mérése.
OECD (2026): Artificial Intelligence markets: Recent developments and competition issues. Piaci koncentráció és versenykockázatok; a konkrét céges függőségre vonatkozó gondolat a cikk következtetése.
Gmyrek és szerzőtársai, ILO / NASK (2025): Generative AI and Jobs: A Refined Global Index of Occupational Exposure. Munkakörök technológiai kitettségének becslése, nem állásvesztési előrejelzés.
Lee és szerzőtársai, Carnegie Mellon University / Microsoft Research (CHI 2025): The Impact of Generative AI on Critical Thinking. Önbevallásos vizsgálat 319 szellemi munkát végző résztvevővel.
Bengio és szerzőtársai (2026): International AI Safety Report 2026. Nemzetközi tudományos összegzés; kontrollvesztés, visszaélés és a bizonyítékok korlátai.
Vöröskereszt Nemzetközi Bizottsága, ICRC (2026): FAQ: Artificial Intelligence (AI) in the military domain. Katonai alkalmazás, emberi kontroll és humanitárius kockázatok.
*Forrásellenőrzés dátuma: 2026. október 7.