„AI” változatai közötti eltérés

Innen: Farkas Attila Wiki
Ugrás a navigációhoz Ugrás a kereséshez
(AI szekció létrehozása (programozás/hálózat/felhő automatizálás + közös kockázat-keret))
 
(AI szekció létrehozása (programozás/hálózat/felhő automatizálás + közös kockázat-keret))
 
13. sor: 13. sor:


== Miben más ez, mint a korábban megismert automatizálás? ==
== Miben más ez, mint a korábban megismert automatizálás? ==
A wiki korábbi automatizálási példái (pl. a [[NetBox::Zabbix integráció|NetBox → Ansible pipeline]]) '''rögzített, ember által megírt''' szkriptre/sablonra épülnek - ugyanaz a bemenet mindig '''ugyanazt''' a kimenetet adja, determinisztikusan. Egy AI-ügynök ezzel szemben egy '''természetes nyelvi célt''' értelmez, és '''dinamikusan dönt''' a lépésekről - ez rugalmasabb (kezel olyan helyzeteket is, amikre nem írtunk előre szabályt), de '''kevésbé kiszámítható''' is: ugyanaz a kérés más napon, más kontextussal más konkrét lépéseket eredményezhet.
A wiki korábbi automatizálási példái (pl. a [[NetBox::Zabbix integráció|NetBox → Ansible pipeline]]) '''rögzített, ember által megírt''' szkriptre/sablonra épülnek - ugyanaz a bemenet mindig '''ugyanazt''' a kimenetet adja, determinisztikusan, és a megoldást sorról sorra egy ember tervezte meg előre. Egy AI-ügynök ezzel szemben egy '''természetes nyelvi célt''' értelmez, és '''dinamikusan dönt''' a lépésekről - a kódot ő írja meg, a parancsot ő futtatja le, az erőforrást ő hozza létre. Ez rugalmasabb (kezel olyan helyzeteket is, amikre nem írtunk előre szabályt), de '''kevésbé kiszámítható''' is: ugyanaz a kérés más napon, más kontextussal más konkrét lépéseket eredményezhet. Ebből egyenesen következik, hogy az ember szerepe is átalakul: a megoldást már nem ő gépeli le, hanem a kész eredményt kell megítélnie - ehhez pedig valódi '''architekturális rálátás''' szükséges, amit magának kell felépítenie és szinten tartania, nem elég, ha csak jelen van egy jóváhagyó gombnál.


== A közös kockázatok ==
== A közös kockázatok ==
23. sor: 23. sor:
| '''Blast radius''' (a hiba hatóköre) || Ugyanaz az "ügynök" fogalom rendkívül eltérő tényleges kockázatot jelent attól függően, milyen '''műveletekre''' van jogosultsága - egy csak-olvasó elemzés vs. egy éles rendszert ténylegesen módosító/törlő művelet || A minimálisan szükséges jogosultság elve (lásd lejjebb), a legkockázatosabb műveletek (törlés, tömeges módosítás) '''külön, explicit''' jóváhagyáshoz kötése
| '''Blast radius''' (a hiba hatóköre) || Ugyanaz az "ügynök" fogalom rendkívül eltérő tényleges kockázatot jelent attól függően, milyen '''műveletekre''' van jogosultsága - egy csak-olvasó elemzés vs. egy éles rendszert ténylegesen módosító/törlő művelet || A minimálisan szükséges jogosultság elve (lásd lejjebb), a legkockázatosabb műveletek (törlés, tömeges módosítás) '''külön, explicit''' jóváhagyáshoz kötése
|-
|-
| '''Human-in-the-loop hiánya''' || Ha az ügynök a javasolt változtatást '''automatikusan, ellenőrzés nélkül''' alkalmazza, egy hallucináció azonnal éles hibává válik || Ugyanaz a minta, amit a wiki már korábban is tárgyalt: [[Linux::Tűzfal::iptables#iptables-apply|iptables-apply]], [[Linux::Hálózati konfiguráció#netplan|netplan try]] - '''javasolt változtatás → emberi megerősítés/időzített visszaállás → csak azután végleges alkalmazás'''
| '''Human-in-the-loop hiánya''' || Ha az ügynök a javasolt változtatást '''automatikusan, ellenőrzés nélkül''' alkalmazza, egy hallucináció azonnal éles hibává válik || Ugyanaz a minta, amit a wiki már korábban is tárgyalt: [[Linux::Tűzfal::iptables#iptables-apply|iptables-apply]], [[Linux::Hálózati konfiguráció#netplan|netplan try]] - '''javasolt változtatás → emberi megerősítés/időzített visszaállás → csak azután végleges alkalmazás'''. Ez a megerősítés azonban csak annyit ér, amennyire az azt megadó ember ténylegesen átlátja a rendszer architektúráját - a jóváhagyás nem adminisztratív pipa, hanem szakmai döntés
|-
|-
| '''Túlzott jogosultság''' || Egy automatizálási ügynök jellemzően '''szélesebb''' hozzáférést kap, mint amire ténylegesen szüksége lenne (kényelmi okból) - ha hibázik vagy visszaélnek vele, ez a szélesebb hozzáférés szélesebb kárt is okozhat || '''Least privilege''': az ügynöknek adott hitelesítő adat/API-kulcs kizárólag a ténylegesen szükséges műveletekre legyen korlátozva
| '''Túlzott jogosultság''' || Egy automatizálási ügynök jellemzően '''szélesebb''' hozzáférést kap, mint amire ténylegesen szüksége lenne (kényelmi okból) - ha hibázik vagy visszaélnek vele, ez a szélesebb hozzáférés szélesebb kárt is okozhat || '''Least privilege''': az ügynöknek adott hitelesítő adat/API-kulcs kizárólag a ténylegesen szükséges műveletekre legyen korlátozva
40. sor: 40. sor:
* Az "AI-ügynök" lényege egy '''eszközhívásokkal kiegészített, ismétlődő ciklus''', nem varázslat - ugyanez a váz minden konkrét alkalmazási területen visszaköszön.
* Az "AI-ügynök" lényege egy '''eszközhívásokkal kiegészített, ismétlődő ciklus''', nem varázslat - ugyanez a váz minden konkrét alkalmazási területen visszaköszön.
* A hagyományos (szkript-alapú) automatizáláshoz képest '''rugalmasabb, de kevésbé determinisztikus'''.
* A hagyományos (szkript-alapú) automatizáláshoz képest '''rugalmasabb, de kevésbé determinisztikus'''.
* A legfontosabb, terület-független védekezés: '''javasolt változtatás → emberi/automatikus ellenőrzés → csak azután alkalmazás''' - amit a wiki már többször, más kontextusban (iptables-apply, netplan try) megismert.
* A legfontosabb, terület-független védekezés: '''javasolt változtatás → emberi/automatikus ellenőrzés → csak azután alkalmazás''' - amit a wiki már többször, más kontextusban (iptables-apply, netplan try) megismert; ebben a munkamegosztásban a kódot/konfigurációt/erőforrást ténylegesen az AI állítja elő és hajtja végre, az emberre pedig egyre inkább az '''architekturális ellenőr''' szerepe hárul - ezt a fajta rálátást éppen ezért neki magának kell kiművelnie, nem pótolható azzal, hogy csupán jelen van a jóváhagyásnál.
* A konkrét eszközök/modellek gyorsan változnak - a fenti mintázatok és kockázatok viszont tartósak, ezekre érdemes elsősorban figyelni.
* A konkrét eszközök/modellek gyorsan változnak - a fenti mintázatok és kockázatok viszont tartósak, ezekre érdemes elsősorban figyelni.

A lap jelenlegi, 2026. szeptember 30., 21:40-kori változata

Ez az oldal az AI-asszisztált automatizálás közös alapfogalmait és kockázatait gyűjti össze - azt a mintázatot, ami a három konkrét terület (programozás, hálózat, felhő) mindegyikében ugyanaz, csak más célterületen (kódfájlok, hálózati eszközök, felhő-API-k) jelenik meg.

Fontos: ez a terület rendkívül gyorsan változik - sokkal gyorsabban, mint a wiki bármelyik más szekciója. Emiatt itt is (lásd OWASP Top 10) a tartós mintázatokra és kockázatokra fókuszálunk, nem egy-egy konkrét termék/modell aktuális képességeire - azok néhány hónap alatt elavulnak.

Mi történik ténylegesen "a gépházban"?

Az "AI-ügynök" (agent) kifejezés mögött egy viszonylag egyszerű, ismétlődő ciklus áll:

  1. A nyelvi modell (LLM) egy célt/feladatot kap (pl. "engedélyezd az SSH-t erről a hálózatról").
  2. A modell nem csak szöveget ír, hanem eszközhívást (tool call / function call) kezdeményezhet - egy előre definiált, a modellt körülvevő szoftver ("harness") által biztosított műveletet (pl. "futtass le egy parancsot", "hozz létre egy erőforrást", "írj egy fájlt").
  3. A harness ténylegesen végrehajtja a kért műveletet, majd az eredményt visszaadja a modellnek.
  4. A modell ez alapján eldönti a következő lépést - ez ismétlődik, amíg a cél nem teljesül (vagy amíg meg nem áll/emberi jóváhagyást nem kér).

Ez a "megfigyelés → döntés → cselekvés → megfigyelés" ciklus minden AI-ügynök közös váza, függetlenül attól, hogy kódot ír, egy routert konfigurál, vagy egy felhő-erőforrást hoz létre.

Miben más ez, mint a korábban megismert automatizálás?

A wiki korábbi automatizálási példái (pl. a NetBox → Ansible pipeline) rögzített, ember által megírt szkriptre/sablonra épülnek - ugyanaz a bemenet mindig ugyanazt a kimenetet adja, determinisztikusan, és a megoldást sorról sorra egy ember tervezte meg előre. Egy AI-ügynök ezzel szemben egy természetes nyelvi célt értelmez, és dinamikusan dönt a lépésekről - a kódot ő írja meg, a parancsot ő futtatja le, az erőforrást ő hozza létre. Ez rugalmasabb (kezel olyan helyzeteket is, amikre nem írtunk előre szabályt), de kevésbé kiszámítható is: ugyanaz a kérés más napon, más kontextussal más konkrét lépéseket eredményezhet. Ebből egyenesen következik, hogy az ember szerepe is átalakul: a megoldást már nem ő gépeli le, hanem a kész eredményt kell megítélnie - ehhez pedig valódi architekturális rálátás szükséges, amit magának kell felépítenie és szinten tartania, nem elég, ha csak jelen van egy jóváhagyó gombnál.

A közös kockázatok

Kockázat Jelentése Tipikus védekezés
Hallucináció A modell magabiztosan, hihetően hangzó, de ténylegesen hibás kimenetet ad (nemlétező parancs-kapcsoló, kitalált API-végpont, hibás erőforrás-azonosító) - ez nem "gépelési hiba", hanem strukturálisan ugyanolyan magabiztos, mint egy helyes válasz Emberi ellenőrzés a alkalmazás előtt, ne vakon bízzunk a kimenetben
Blast radius (a hiba hatóköre) Ugyanaz az "ügynök" fogalom rendkívül eltérő tényleges kockázatot jelent attól függően, milyen műveletekre van jogosultsága - egy csak-olvasó elemzés vs. egy éles rendszert ténylegesen módosító/törlő művelet A minimálisan szükséges jogosultság elve (lásd lejjebb), a legkockázatosabb műveletek (törlés, tömeges módosítás) külön, explicit jóváhagyáshoz kötése
Human-in-the-loop hiánya Ha az ügynök a javasolt változtatást automatikusan, ellenőrzés nélkül alkalmazza, egy hallucináció azonnal éles hibává válik Ugyanaz a minta, amit a wiki már korábban is tárgyalt: iptables-apply, netplan try - javasolt változtatás → emberi megerősítés/időzített visszaállás → csak azután végleges alkalmazás. Ez a megerősítés azonban csak annyit ér, amennyire az azt megadó ember ténylegesen átlátja a rendszer architektúráját - a jóváhagyás nem adminisztratív pipa, hanem szakmai döntés
Túlzott jogosultság Egy automatizálási ügynök jellemzően szélesebb hozzáférést kap, mint amire ténylegesen szüksége lenne (kényelmi okból) - ha hibázik vagy visszaélnek vele, ez a szélesebb hozzáférés szélesebb kárt is okozhat Least privilege: az ügynöknek adott hitelesítő adat/API-kulcs kizárólag a ténylegesen szükséges műveletekre legyen korlátozva
Nyomon követhetőség hiánya Ha nem derül ki utólag, mit, mikor, miért változtatott az ügynök, egy hiba kivizsgálása ellehetetlenül Minden ügynök-művelet naplózása (audit trail) - ugyanaz az elv, mint amit a NetBox/Monitoring szekcióknál a "ki mit módosított" kérdésnél már érintettünk

A három konkrét terület

Mindhárom oldal ugyanerre a ciklusra és ugyanerre a kockázat-táblázatra épül - csak azt mutatják be, hogy az adott területen konkrétan mi az eszközhívás, és mi a jellemző, terület-specifikus védekezési minta.

Sajátosságai (összefoglalva)

  • Az "AI-ügynök" lényege egy eszközhívásokkal kiegészített, ismétlődő ciklus, nem varázslat - ugyanez a váz minden konkrét alkalmazási területen visszaköszön.
  • A hagyományos (szkript-alapú) automatizáláshoz képest rugalmasabb, de kevésbé determinisztikus.
  • A legfontosabb, terület-független védekezés: javasolt változtatás → emberi/automatikus ellenőrzés → csak azután alkalmazás - amit a wiki már többször, más kontextusban (iptables-apply, netplan try) megismert; ebben a munkamegosztásban a kódot/konfigurációt/erőforrást ténylegesen az AI állítja elő és hajtja végre, az emberre pedig egyre inkább az architekturális ellenőr szerepe hárul - ezt a fajta rálátást éppen ezért neki magának kell kiművelnie, nem pótolható azzal, hogy csupán jelen van a jóváhagyásnál.
  • A konkrét eszközök/modellek gyorsan változnak - a fenti mintázatok és kockázatok viszont tartósak, ezekre érdemes elsősorban figyelni.