„AI::Programozás automatizálása” változatai közötti eltérés
(AI szekció létrehozása (programozás/hálózat/felhő automatizálás + közös kockázat-keret)) |
(AI szekció létrehozása (programozás/hálózat/felhő automatizálás + közös kockázat-keret)) |
||
| 9. sor: | 9. sor: | ||
| Mit csinál || Soronként/függvényenként '''javasol''' kódot, amit a fejlesztő '''billentyűnként''' elfogad vagy elvet || Egy magasabb szintű '''feladatot''' kap (pl. "írj egy tesztet ehhez a függvényhez"), és több fájlon át, önállóan dolgozik: szerkeszt, fordít/futtat, a hibára reagálva javít | | Mit csinál || Soronként/függvényenként '''javasol''' kódot, amit a fejlesztő '''billentyűnként''' elfogad vagy elvet || Egy magasabb szintű '''feladatot''' kap (pl. "írj egy tesztet ehhez a függvényhez"), és több fájlon át, önállóan dolgozik: szerkeszt, fordít/futtat, a hibára reagálva javít | ||
|- | |- | ||
| Az ember szerepe || Minden egyes javaslatnál '''dönt''' || A '''feladat kiadásánál''' és a '''végeredmény átvizsgálásánál''' dönt - a köztes lépéseket az ügynök önállóan végzi | | Az ember szerepe || Minden egyes javaslatnál '''dönt''' || A '''feladat kiadásánál''' és a '''végeredmény átvizsgálásánál''' dönt - nem a kódot írja, hanem azt ítéli meg, hogy a kapott megoldás architekturálisan helyes-e; a köztes lépéseket az ügynök önállóan végzi | ||
|- | |- | ||
| Jellemző kockázat || Kicsi, helyi hiba (egy rossz sor) || Nagyobb, több fájlra kiterjedő, esetleg '''összefüggő''' hibalánc, ha az ügynök egy rossz feltételezésre épít tovább | | Jellemző kockázat || Kicsi, helyi hiba (egy rossz sor) || Nagyobb, több fájlra kiterjedő, esetleg '''összefüggő''' hibalánc, ha az ügynök egy rossz feltételezésre épít tovább | ||
| 20. sor: | 20. sor: | ||
* '''Biztonsági szempontból hibás''' - pl. egy generált SQL-lekérdezés paraméterezés nélkül, SQL injection-nek kitéve (lásd [[Etikus hackelés::OWASP Top 10|OWASP Top 10]]) - a modell "működő" kódot ír, nem feltétlenül "biztonságosat". | * '''Biztonsági szempontból hibás''' - pl. egy generált SQL-lekérdezés paraméterezés nélkül, SQL injection-nek kitéve (lásd [[Etikus hackelés::OWASP Top 10|OWASP Top 10]]) - a modell "működő" kódot ír, nem feltétlenül "biztonságosat". | ||
* '''Licenc-kockázatos''' - egy betanítási adatban szereplő, copyleft-licencű kódrészlet szó szerinti (vagy közel szó szerinti) megjelenése a generált kimenetben. | * '''Licenc-kockázatos''' - egy betanítási adatban szereplő, copyleft-licencű kódrészlet szó szerinti (vagy közel szó szerinti) megjelenése a generált kimenetben. | ||
Emiatt a '''code review fegyelme nem szűnik meg''' - ha valami, inkább '''felértékelődik''', mert a generált kód mennyisége megnő. | Emiatt a '''code review fegyelme nem szűnik meg''' - ha valami, inkább '''felértékelődik''', mert a generált kód mennyisége megnő, és a fejlesztő szerepe egyre kevésbé a sorok legépeléséről, egyre inkább azok '''architekturális megítéléséről''' szól: azt kell tudnia eldönteni, helyesek-e a döntések (adatszerkezet, hibakezelés, jogosultság-kezelés) egy olyan megoldásban, amit ő maga esetleg egyetlen sorban sem írt le. | ||
== Gyakorlati védekezési minták == | == Gyakorlati védekezési minták == | ||
| 28. sor: | 28. sor: | ||
== Sajátosságai (összefoglalva) == | == Sajátosságai (összefoglalva) == | ||
* A '''kódkiegészítő vs. ügynök''' megkülönböztetés a legfontosabb fogalmi váz - más a felelősség-megosztás ember és AI között. | * A '''kódkiegészítő vs. ügynök''' megkülönböztetés a legfontosabb fogalmi váz - más a felelősség-megosztás ember és AI között: a kódot egyre inkább az AI írja meg és futtatja, az emberre pedig az '''architekturális ellenőr''' szerepe hárul, amihez a szükséges rálátást neki magának kell kiépítenie. | ||
* A generált kód "lefordul és fut" állapota '''nem garancia''' a logikai/biztonsági helyességre. | * A generált kód "lefordul és fut" állapota '''nem garancia''' a logikai/biztonsági helyességre. | ||
* A '''git + code review + CI''' hármasa ugyanazt a szerepet tölti be itt, mint a hálózati/felhő-oldalon a "javasolt változtatás, majd ellenőrzött alkalmazás" minta. | * A '''git + code review + CI''' hármasa ugyanazt a szerepet tölti be itt, mint a hálózati/felhő-oldalon a "javasolt változtatás, majd ellenőrzött alkalmazás" minta. | ||
A lap jelenlegi, 2026. szeptember 30., 21:40-kori változata
Lásd még: AI (áttekintés, közös fogalmak és kockázatok)
Két generáció: kódkiegészítés vs. ügynök
Az AI-alapú programozás-segítés két, egymásra épülő generációját érdemes megkülönböztetni - ez a legfontosabb, tartós fogalmi különbségtétel ezen a területen:
| Kódkiegészítő (autocomplete-stílusú) | Ügynök (agentic) | |
|---|---|---|
| Mit csinál | Soronként/függvényenként javasol kódot, amit a fejlesztő billentyűnként elfogad vagy elvet | Egy magasabb szintű feladatot kap (pl. "írj egy tesztet ehhez a függvényhez"), és több fájlon át, önállóan dolgozik: szerkeszt, fordít/futtat, a hibára reagálva javít |
| Az ember szerepe | Minden egyes javaslatnál dönt | A feladat kiadásánál és a végeredmény átvizsgálásánál dönt - nem a kódot írja, hanem azt ítéli meg, hogy a kapott megoldás architekturálisan helyes-e; a köztes lépéseket az ügynök önállóan végzi |
| Jellemző kockázat | Kicsi, helyi hiba (egy rossz sor) | Nagyobb, több fájlra kiterjedő, esetleg összefüggő hibalánc, ha az ügynök egy rossz feltételezésre épít tovább |
Mindkettő ugyanazt az AI áttekintő oldalon tárgyalt eszközhívás-ciklust használja - az ügynök-változat csak több lépésben, önállóbban futtatja azt.
Miért nem elég, ha "lefordul és fut"?
A generált kód akkor is lehet hibás, ha szintaktikailag helyes és lefut:
- Logikailag hibás - rosszul kezel egy szélsőértéket, amit a fordító/tesztek nem fognak meg, ha a teszt maga is hiányos.
- Biztonsági szempontból hibás - pl. egy generált SQL-lekérdezés paraméterezés nélkül, SQL injection-nek kitéve (lásd OWASP Top 10) - a modell "működő" kódot ír, nem feltétlenül "biztonságosat".
- Licenc-kockázatos - egy betanítási adatban szereplő, copyleft-licencű kódrészlet szó szerinti (vagy közel szó szerinti) megjelenése a generált kimenetben.
Emiatt a code review fegyelme nem szűnik meg - ha valami, inkább felértékelődik, mert a generált kód mennyisége megnő, és a fejlesztő szerepe egyre kevésbé a sorok legépeléséről, egyre inkább azok architekturális megítéléséről szól: azt kell tudnia eldönteni, helyesek-e a döntések (adatszerkezet, hibakezelés, jogosultság-kezelés) egy olyan megoldásban, amit ő maga esetleg egyetlen sorban sem írt le.
Gyakorlati védekezési minták
- Sandboxolt futtatás - az ügynök által írt/módosított kódot, teszteket egy elszigetelt környezetben (konténer, eldobható VM) futtatjuk, nem közvetlenül éles rendszeren.
- Verziókezelés mint biztonsági háló - minden ügynök által végzett módosítás egy átnézhető, visszaállítható diff formájában jelenik meg (git) - ugyanaz a "javasolt változtatás, amit vissza lehet vonni" elv, mint az AI áttekintő oldalon tárgyalt iptables-apply/netplan try minta, csak itt a git a visszaállítás eszköze.
- "Ügynök-PR, ember hagyja jóvá" munkafolyamat - az ügynök egy pull requestet/módosítás-javaslatot készít, a CI lefuttatja a teszteket, egy ember nézi át és hagyja jóvá a tényleges egyesítés (merge) előtt - ez a terület konkrét megvalósítása az általános "human-in-the-loop" elvnek.
Sajátosságai (összefoglalva)
- A kódkiegészítő vs. ügynök megkülönböztetés a legfontosabb fogalmi váz - más a felelősség-megosztás ember és AI között: a kódot egyre inkább az AI írja meg és futtatja, az emberre pedig az architekturális ellenőr szerepe hárul, amihez a szükséges rálátást neki magának kell kiépítenie.
- A generált kód "lefordul és fut" állapota nem garancia a logikai/biztonsági helyességre.
- A git + code review + CI hármasa ugyanazt a szerepet tölti be itt, mint a hálózati/felhő-oldalon a "javasolt változtatás, majd ellenőrzött alkalmazás" minta.