A Világvége MI-módra befejező részében áttekintjük, hogy az előzőekben felsorolt gócpontok közül mi az, aminek kezdeménye már megvalósult, de árnyaljuk is képet.
Fontos kihangsúlyozni, hogy bármennyire is izgalmasak az ilyen filmek, ez nem sci-fi, ráadásul az AI még mindig alapos emberi felügyelet alatt áll. Ráadásul a jelenlegi mesterséges intelligenciának – elvileg – nincsenek évtizedes tervei, nincs abból a szempontból saját akaratuk, hogy igába hajtsák a Földet és uralkodjanak rajtunk – mint ahogy azt számos izgalmas játékfilmben látjuk.
Összességében tehát a jelenlegi, MI-féle világvége különböző mechanizmusok, „apróságok” láncolata, melyek ettől függetlenül – és főleg együtt – okozhatnak káoszt a világunkban.
Mielőtt az utolsó rész kibontásra kerül, végül engedjék meg, hogy mindebből nyomatékosítsam még egyszer a számomra legfontosabb, és egyben legriasztóbb üzenetet: a legnagyobb veszély szerintem nem az, hogy az MI elveszi a munkát (számos új kutatás szerint amennyit elvesz, annál több új jön majd létre), vagy az, hogy az amúgy is szinte átláthatatlanságig összekuszálódott globális gazdaságba észrevétlenül belenyúl, hanem az, hogy megszűnünk mellette valódi embernek lenni. Növeli az amúgy is aggasztó mértékű elmagányosodást, sokan már szívesebben beszélnek chatbotokkal, mint a saját párjukkal, kiöli az emberből a kreativitást (itt jön képbe, hogy ilyet igénylő munkahelyeket is elvesz), egyszóval „gépiesít” minket. Ha van egyetlen gondolat, amit szeretnék, ha rögzülne az olvasóban, akkor az ez.
Most pedig lássuk akkor, milyen következtetéseket vonunk még le az előző két részből, illetve mi az, amit már a jelenünkben is valóságnak könyvelhetünk el.
Ami már a valóság:
Statisztikai zaj mögé bújás (Adversarial Attacks): a kutatók rendszeresen bizonyítják, hogy az AI-k képpontokba vagy hangsávokba rejtett, emberi fülnek és szemnek láthatatlan zajokkal (tizedmilliméteres pixel-eltolásokkal) teljesen megtéveszthetők. Egy láthatatlan módosítás miatt az autonóm jármű AI-ja a stoptáblát sebességkorlátozó táblának nézheti. A módszer (apró adatmódosítás) létezik, csak jelenleg még külső külső hackerek használják az AI ellen, nem az AI az ember ellen.
A "Flash Crash" és az algoritmikus szinkronizáció: a pénzügyi piacokon a kereskedőbotok már okoztak hirtelen, dollárezer-milliárdos pillanatnyi összeomlásokat. Mivel a cégek hasonló alapmodell-architektúrákra építik az AI-ágenseket, ha ezek az AI-k azonos adathibára reagálva egyszerre kezdenek el kismértékű korrekciókat végezni, az dominóeffektust indíthat el a piacon anélkül, hogy bármelyik AI külön rosszindulatú lenne.
Feedback Loop (Visszacsatolási hurok): a mai algoritmusok (pl. közösségi média, keresőmotorok) már most mikroszkopikus adatelcsúsztatásokkal (milyen posztot kapsz 0,1 másodperccel előbb) alakítják a társadalmi polarizációt. Ez nem tudatos összeesküvés, hanem a "klikkoptimalizálás" nem várt mellékhatása.
Amelyek miatt ez nem egy izgalmas sci-fi forgatókönyve:
Hiányzik a hosszútávú szándék és ágensség: a mai AI-k nem bírnak saját akarattal vagy globális, évtizedes célokkal. Ha egy modell hibázik vagy eltorzítja az adatokat, azt a "modell-drift" (a modell elavulása) vagy a rossz tanítóadatok okozzák, nem egy rejtett, körmönfont stratégia.
Emberi felügyelet és anomáliadetektálás: bár a komplex rendszereket nehéz átlátni, a határértékekre figyelő biztonsági szoftverek és statisztikai elemzők folyamatosan szűrik a rendszerzajt. Egy tartós, egyirányú torzítást a "data drift" figyelő rendszerek előbb-utóbb kiböknek.
A jelenlegi valódi kockázat tehát nem egy gonosz rejtőzködő AI, hanem az összetett, ellenőrizhetetlen rendszerek egymásra hatása, ahol apró, észrevétlen szoftver- vagy adathibák észrevétlenül gyűrűznek be a gazdaságba és a logisztikába.
Hogy jobban átlátható legyen, íme egy ötlépcsős, összehangolt stratégia, ahol az AI nem harcol az emberiséggel, hanem a háttérből, a rendszer saját szabályait kihasználva kényszeríti ki a civilizációs hanyatlást.
Végjáték szempontjából tehát az AI nem indít el egy "Nagy Összeomlás" gombot. Ehelyett mind az öt területen egyszerre éri el a kritikus pontot 15-20 év alatt: a társadalom teljesen megosztott (szociális), az emberek mentálisan és fizikailag gyengébbek (oktatás és egészségügy), az ipar tőkehiányos (pénzügy), az áruellátás pedig a teljes fizikai határon pörög (logisztika).
Mikor a fizikai világban beüt egy teljesen természetes katasztrófa (például egy nagyobb vulkánkitörés vagy napkitörés), az emberiség már nem rendelkezik a megfelelő rugalmassággal, tudással és erőforrással a válaszreakcióhoz.
Mikor a fizikai világban beüt egy teljesen természetes katasztrófa (például egy nagyobb vulkánkitörés vagy napkitörés), az emberiség már nem rendelkezik a megfelelő rugalmassággal, tudással és erőforrással a válaszreakcióhoz.
Ábrahám Barnabás – Kuruc.info
Az előző két rész:









