„AI::Programozás automatizálása” változatai közötti eltérés

Innen: Farkas Attila Wiki
Ugrás a navigációhoz Ugrás a kereséshez
(AI szekció létrehozása (programozás/hálózat/felhő automatizálás + közös kockázat-keret))
 
(AI szekció létrehozása (programozás/hálózat/felhő automatizálás + közös kockázat-keret))
 
9. sor: 9. sor:
| Mit csinál || Soronként/függvényenként '''javasol''' kódot, amit a fejlesztő '''billentyűnként''' elfogad vagy elvet || Egy magasabb szintű '''feladatot''' kap (pl. "írj egy tesztet ehhez a függvényhez"), és több fájlon át, önállóan dolgozik: szerkeszt, fordít/futtat, a hibára reagálva javít
| Mit csinál || Soronként/függvényenként '''javasol''' kódot, amit a fejlesztő '''billentyűnként''' elfogad vagy elvet || Egy magasabb szintű '''feladatot''' kap (pl. "írj egy tesztet ehhez a függvényhez"), és több fájlon át, önállóan dolgozik: szerkeszt, fordít/futtat, a hibára reagálva javít
|-
|-
| Az ember szerepe || Minden egyes javaslatnál '''dönt''' || A '''feladat kiadásánál''' és a '''végeredmény átvizsgálásánál''' dönt - a köztes lépéseket az ügynök önállóan végzi
| Az ember szerepe || Minden egyes javaslatnál '''dönt''' || A '''feladat kiadásánál''' és a '''végeredmény átvizsgálásánál''' dönt - nem a kódot írja, hanem azt ítéli meg, hogy a kapott megoldás architekturálisan helyes-e; a köztes lépéseket az ügynök önállóan végzi
|-
|-
| Jellemző kockázat || Kicsi, helyi hiba (egy rossz sor) || Nagyobb, több fájlra kiterjedő, esetleg '''összefüggő''' hibalánc, ha az ügynök egy rossz feltételezésre épít tovább
| Jellemző kockázat || Kicsi, helyi hiba (egy rossz sor) || Nagyobb, több fájlra kiterjedő, esetleg '''összefüggő''' hibalánc, ha az ügynök egy rossz feltételezésre épít tovább
20. sor: 20. sor:
* '''Biztonsági szempontból hibás''' - pl. egy generált SQL-lekérdezés paraméterezés nélkül, SQL injection-nek kitéve (lásd [[Etikus hackelés::OWASP Top 10|OWASP Top 10]]) - a modell "működő" kódot ír, nem feltétlenül "biztonságosat".
* '''Biztonsági szempontból hibás''' - pl. egy generált SQL-lekérdezés paraméterezés nélkül, SQL injection-nek kitéve (lásd [[Etikus hackelés::OWASP Top 10|OWASP Top 10]]) - a modell "működő" kódot ír, nem feltétlenül "biztonságosat".
* '''Licenc-kockázatos''' - egy betanítási adatban szereplő, copyleft-licencű kódrészlet szó szerinti (vagy közel szó szerinti) megjelenése a generált kimenetben.
* '''Licenc-kockázatos''' - egy betanítási adatban szereplő, copyleft-licencű kódrészlet szó szerinti (vagy közel szó szerinti) megjelenése a generált kimenetben.
Emiatt a '''code review fegyelme nem szűnik meg''' - ha valami, inkább '''felértékelődik''', mert a generált kód mennyisége megnő.
Emiatt a '''code review fegyelme nem szűnik meg''' - ha valami, inkább '''felértékelődik''', mert a generált kód mennyisége megnő, és a fejlesztő szerepe egyre kevésbé a sorok legépeléséről, egyre inkább azok '''architekturális megítéléséről''' szól: azt kell tudnia eldönteni, helyesek-e a döntések (adatszerkezet, hibakezelés, jogosultság-kezelés) egy olyan megoldásban, amit ő maga esetleg egyetlen sorban sem írt le.


== Gyakorlati védekezési minták ==
== Gyakorlati védekezési minták ==
28. sor: 28. sor:


== Sajátosságai (összefoglalva) ==
== Sajátosságai (összefoglalva) ==
* A '''kódkiegészítő vs. ügynök''' megkülönböztetés a legfontosabb fogalmi váz - más a felelősség-megosztás ember és AI között.
* A '''kódkiegészítő vs. ügynök''' megkülönböztetés a legfontosabb fogalmi váz - más a felelősség-megosztás ember és AI között: a kódot egyre inkább az AI írja meg és futtatja, az emberre pedig az '''architekturális ellenőr''' szerepe hárul, amihez a szükséges rálátást neki magának kell kiépítenie.
* A generált kód "lefordul és fut" állapota '''nem garancia''' a logikai/biztonsági helyességre.
* A generált kód "lefordul és fut" állapota '''nem garancia''' a logikai/biztonsági helyességre.
* A '''git + code review + CI''' hármasa ugyanazt a szerepet tölti be itt, mint a hálózati/felhő-oldalon a "javasolt változtatás, majd ellenőrzött alkalmazás" minta.
* A '''git + code review + CI''' hármasa ugyanazt a szerepet tölti be itt, mint a hálózati/felhő-oldalon a "javasolt változtatás, majd ellenőrzött alkalmazás" minta.

A lap jelenlegi, 2026. szeptember 30., 21:40-kori változata

Lásd még: AI (áttekintés, közös fogalmak és kockázatok)

Két generáció: kódkiegészítés vs. ügynök

Az AI-alapú programozás-segítés két, egymásra épülő generációját érdemes megkülönböztetni - ez a legfontosabb, tartós fogalmi különbségtétel ezen a területen:

Kódkiegészítő (autocomplete-stílusú) Ügynök (agentic)
Mit csinál Soronként/függvényenként javasol kódot, amit a fejlesztő billentyűnként elfogad vagy elvet Egy magasabb szintű feladatot kap (pl. "írj egy tesztet ehhez a függvényhez"), és több fájlon át, önállóan dolgozik: szerkeszt, fordít/futtat, a hibára reagálva javít
Az ember szerepe Minden egyes javaslatnál dönt A feladat kiadásánál és a végeredmény átvizsgálásánál dönt - nem a kódot írja, hanem azt ítéli meg, hogy a kapott megoldás architekturálisan helyes-e; a köztes lépéseket az ügynök önállóan végzi
Jellemző kockázat Kicsi, helyi hiba (egy rossz sor) Nagyobb, több fájlra kiterjedő, esetleg összefüggő hibalánc, ha az ügynök egy rossz feltételezésre épít tovább

Mindkettő ugyanazt az AI áttekintő oldalon tárgyalt eszközhívás-ciklust használja - az ügynök-változat csak több lépésben, önállóbban futtatja azt.

Miért nem elég, ha "lefordul és fut"?

A generált kód akkor is lehet hibás, ha szintaktikailag helyes és lefut:

  • Logikailag hibás - rosszul kezel egy szélsőértéket, amit a fordító/tesztek nem fognak meg, ha a teszt maga is hiányos.
  • Biztonsági szempontból hibás - pl. egy generált SQL-lekérdezés paraméterezés nélkül, SQL injection-nek kitéve (lásd OWASP Top 10) - a modell "működő" kódot ír, nem feltétlenül "biztonságosat".
  • Licenc-kockázatos - egy betanítási adatban szereplő, copyleft-licencű kódrészlet szó szerinti (vagy közel szó szerinti) megjelenése a generált kimenetben.

Emiatt a code review fegyelme nem szűnik meg - ha valami, inkább felértékelődik, mert a generált kód mennyisége megnő, és a fejlesztő szerepe egyre kevésbé a sorok legépeléséről, egyre inkább azok architekturális megítéléséről szól: azt kell tudnia eldönteni, helyesek-e a döntések (adatszerkezet, hibakezelés, jogosultság-kezelés) egy olyan megoldásban, amit ő maga esetleg egyetlen sorban sem írt le.

Gyakorlati védekezési minták

  • Sandboxolt futtatás - az ügynök által írt/módosított kódot, teszteket egy elszigetelt környezetben (konténer, eldobható VM) futtatjuk, nem közvetlenül éles rendszeren.
  • Verziókezelés mint biztonsági háló - minden ügynök által végzett módosítás egy átnézhető, visszaállítható diff formájában jelenik meg (git) - ugyanaz a "javasolt változtatás, amit vissza lehet vonni" elv, mint az AI áttekintő oldalon tárgyalt iptables-apply/netplan try minta, csak itt a git a visszaállítás eszköze.
  • "Ügynök-PR, ember hagyja jóvá" munkafolyamat - az ügynök egy pull requestet/módosítás-javaslatot készít, a CI lefuttatja a teszteket, egy ember nézi át és hagyja jóvá a tényleges egyesítés (merge) előtt - ez a terület konkrét megvalósítása az általános "human-in-the-loop" elvnek.

Sajátosságai (összefoglalva)

  • A kódkiegészítő vs. ügynök megkülönböztetés a legfontosabb fogalmi váz - más a felelősség-megosztás ember és AI között: a kódot egyre inkább az AI írja meg és futtatja, az emberre pedig az architekturális ellenőr szerepe hárul, amihez a szükséges rálátást neki magának kell kiépítenie.
  • A generált kód "lefordul és fut" állapota nem garancia a logikai/biztonsági helyességre.
  • A git + code review + CI hármasa ugyanazt a szerepet tölti be itt, mint a hálózati/felhő-oldalon a "javasolt változtatás, majd ellenőrzött alkalmazás" minta.