A háború, legalábbis annak a jellege, sosem változik meg. Vagy mégis? A 21. század konfliktusait az aszimmetrikus- és a hibrid hadviselés határozta meg, a mesterséges intelligencia forradalma pedig azzal fenyeget, hogy még inkább felforgatja a már jól ismert borzalmakat. Eheti cikkünk témája a harcászat, ez pedig sajnos nem egy kellemes, könnyű beszélgetés lesz.

Nem egyszer vezettünk már fel cikket úgy, hogy ennek vagy annak a technológiai fejlődése párhuzamosnak tekinthető a technológia általános fejlettségével, és ez most sincs máshogy: az Ember vs gép eheti részének jellege sajnálatosan szintén hasonló: nem másról van szó, mint a harcászatról. Ha pedig azt gondolnánk, hogy ennek voltaképpen semmi köze a szakképzésnek, tévednénk: a kadétképzés (melyről már mi is írtunk) mára már szerves része a szakképzésnek. Maga a téma pedig amúgy sem söpörhető a szőnyeg alá: legyen szó valós harcokról, digitális hadviselésről vagy „csak” fegyverkezésről, a különféle konfliktusok sajnos újra egyre nagyobb szerepet kezdenek betölteni az életünkben.

De térjünk vissza a lényegre: a történelem során nemegyszer fordult már elő, hogy a haditechnika fejlődése határozta meg a civil technológia fejlődését is: számtalan ilyen példa van, legyen szó az atomenergiáról, a repülőgépek sugármeghajtásáról vagy űrkutatásról. Ez a jelenben sincsen másképp: a GPS-t, mely ma már minden okostelefonban megtalálható, eredetileg katonai célokra fejlesztették ki, és hasonló a helyzet például a drónokkal vagy a digitális kamerákkal. Viszont mi a helyzet az 5. ipari forradalmat definiáló technológiákkal, a mesterséges intelligenciával és a robotokkal?

Tényleg lesz majd Skynet?

A 19. század végén és a 20. század elején a fegyverkezést a minél nagyobb konvencionális értelemben vett hadseregek és tengeri flották felállítása jelentette. A 20. század második felében, egészen a hidegháború végéig már az atomfegyverek kifejlesztése és minél nagyobb számban való létrehozása jelentette a kulcsot. Mára pedig azt mondhatjuk, hogy főleg a mesterséges intelligenciák és de részben a robotok katonai célokra való minél hatékonyabb használatát jelenti a fegyverkezés. Vlagyimir Putyin orosz elnök például híresen (vagy hírhedten) azt állította, hogy aki a mesterséges intelligenciát uralja, az fogja uralni a világot is.

Nem is véletlenül tette ezt. Bár az olyan konfliktusok, mint az orosz-ukrán háború a a legláthatóbbak, valójában egy sokkal nagyobb háború is vívódik a háttérben: a főleg az Egyesült Államok és Kína között dúló, úgynevezett „AI arms race”, magyarul MI fegyverkezési verseny. Ennek a versenyben a célja nem más egy „általános mesterséges intelligencia” kifejlesztése, más néven egy olyan MI, mely képes az emberi intelligenciához nagyon hasonló módon (vagy főleg inkább azt meghaladva) gondolkodni és cselekedni. Elméletben ezt úgy lehet elérni, hogy létrehoznak egy olyan mesterséges intelligenciát, mely képes rekurzív módon fejleszteni a saját algoritmusait, átlépve az emberi gondolkodás határait.

Ezt a legtöbb tudós szerint nagyjából száz éven belül fogják elérni.

A hibrid hadviselés korában nem csak a puskacsövektől kell félni

Egy ilyen AI létezése több problémát vet fel:

▶ Az internet már így is a manipuláció melegágya, és ebben az AI is nagyban hozzátesz pl. a generált képekkel, hanganyagokkal, stb. Egy emberfeletti képességekkel bíró AI képes lenne ezt a hatást hatványozni, és potenciálisan kiszorítaná az emberi tájékoztatást.

▶ Ilyen módon a mesterséges intelligencia olyan erkölcsi értékekre (vagy azok hiányára) kondicionálhatná az embereket, mely a morális fejlődés stagnálásához vagy akár évtizedekkel való visszavetéséhez vezethetne.

▶ Egy ilyen AI önmagától képes lenne nagyszabású, egész országokra kiterjedő megfigyelő és lehallgató rendszereket létrehozni és üzemeltetni. Még Orwell teleképjében is volt hiba: az, hogy emberek üzemeltették, és nem voltak fizikailag arra képesek, hogy mindenkit, mindig megfigyeljenek. Az AI már nem lenne ennyire kegyes.

▶ Egy ilyen AI, bár védekezésre legalább annyira alkalmas lenne, képes lenne nagy volumenű kibertámadások kivitelezésére is.

▶ A Covid-járvány körül a mai napig sok (vélt vagy valós) összeesküvés-elmélet kering, de egy ilyen AI képes lehetne maga is vírusokat tervezni és legyártani. Azt a technológiát, melyek segítségével gyógyszereket állítunk elő, fegyverek készítésére is lehet használni.

▶ Bele mer gondolni valaki abba, mi lenne, ha mesterséges intelligenciák kezébe kerülnének atomfegyverek?

▶ Ha egy szuperhatalom kezébe kerülne ilyen MI, úgy, hogy a többinek nincsen, az az adott hatalom akár kétségbevonhatatlan globális dominanciához is juthatna.

▶ Bár terminátoroktól legalábbis egyelőre még nem kell tartani, viszont a mesterséges intelligencia által irányított drónok már léteznek, a harci robotok pedig ki tudja, milyen hamar fognak megjelenni a csatatereken.

▶ A mesterséges intelligencia az emberek általi, tudatosan rossz célokra való használata a fenyegetésnek csak az egyik oldala. A másik pedig az, hogy az emberek elveszítik a kontrollt a saját képességeiket meghaladó kapacitással rendelkező AI fölött. És talán ez a rosszabbik verzió: egy ember, akármennyire „rossz” vagy „gonosz”, de attól még csak ember, az emberekre jellemző hiányosságok és hibák ugyanúgy megvannak benne.

Az AI viszont nem ilyen,

semmi sem garantálja, hogy nem egy idegen, az embereket, erkölcsi, morális gondolkodásukat felfogni nem képes intelligenciával állnánk szembe ezzel az esetben.

▶ És végül: a katonai fejlesztések, főleg háború alatt, nem feltétlenül a megbízhatóságukról híresek. Ezen a téren a gyorsaság fél győzelem, a gyorsaság érdekében az emberek pedig hajlandók olyan másodlagos szempontokat nem figyelembe venni, mint a biztonság vagy a megbízhatóság.

Sötét kilátások

A kérdés, mint mindig, ugyanaz:

El fogja-e venni a mesterséges intelligencia a katonák „munkáját”?

Botorság lenne azt gondolni, hogy ez az emberiség totális megsemmisülésének pillanatáig így lehetne. A modern történelem során zajló fegyverkezések általában össz-társadalmi félelmet és szorongást váltottak ki az emberekben, a hidegháború idején például rendszeresen napirenden volt az emberiség atomfegyverekkel való teljes kipusztítása. Ez, jellegéből fakadóan egy külső veszély volt és nagyjából mindenki elfogadta, hogy attól a pillanattól fogva, hogy elkezdenek hullani a bombák igazából tökmindegy. Egy emberfeletti képességekkel rendelkező, katonai célokra kifejlesztett mesterséges intelligencia létezése viszont szögesen ellentétes ezzel az élménnyel: nem feltétlenül a puszta erőszak alkalmazására képes, hanem sokkal komplexebb veszélyeket tartogathat: belső háborút, az élet minden területére kiterjedő megfigyelést és szabályozást, mindenható totalitarianizmust és olyan öldökléseket, melyek elkövetői emberek már csak indirekt módon lesznek. Elképzelhető (bár elég nehezen) egy olyan jövő, melyekben a háborúkat csak és kizárólag gépek vívják majd, az emberek pedig a fotelből nézik végig a mechanikus mészárlásokat, de ez nem valószínű. Felesleges találgatásokba bocsátkozni, de ezt a csatát nem biztos, hogy a végén az emberek nyerik majd.