„Abban az univerzumban melynek békéjét a józan ész, a Robotika Három törvénye vigyázza, a legritkább esetben történhetnek váratlan események. Ám amikor egy új típusú pozitronaggyal kapcsolatos kísérlet balul üt ki, bekövetkezik az elképzelhetetlen. Létrejön a Kalibán. A robot, mely nem ismer sem bűntudatot, sem irgalmat. A robot, mely nem ismeri el urának az embert. Egy robot, amelyet nem köt a Három Törvény…” (Isaac Asimov & Roger MacBride Allan: Kalibán)
A téma régebben is érdekelte a sci-fi írókat, mostanában pedig újra elővették. A Transzcendens című mozifilmben például egy érzelmekre képes számítógépes program kezdi meg fáradhatatlan harcát a hatalomért, miközben csaknem elpusztítja a teljes emberiséget.
Steven Omohundro számítógép-tudománnyal foglalkozó szakértő szerint a katonai és gazdasági területről érkező erőteljes presszió az autonóm rendszerek gyors fejlődéséhez vezet, az antiszociális mesterséges intelligencia jövőbeli térhódítása pedig nem csupán lehetséges, de több mint valószínű is, kivéve talán, ha már a mai naptól gyökeresen máshogy tervezzük a mesterséges intelligenciával bíró programokat. (Akit a teljes tanulmány érdekel: Omohundro legfrissebb írását a Journal of Experimental &Theoretical Artificial Intelligence részletezi.)
A mérnökeim már dolgoznak egy modellen...
„A hadsereg olyan rendszereket akar, amelyek sokkal erősebbek, mint az ellenségé, és még azelőtt rendszerbe akarja állítani, mielőtt az ellenség ugyanezt megtehetné. Ez olyan fegyverkezési versenyhez vezethet, amelyben a rendszerek fejlesztése sokkal gyorsabb ütemű, mint ami egyébként kívánatos lenne.”
Omohundro végül arra az elkerülhetetlen felismerésre jut, hogy a hadiipar arra irányuló szüntelen fáradozása, hogy független, öntudattal rendelkező gyilkológépeket készítsen, óhatatlanul a mesterséges értelemmel bíró ’terminátorok’ felemelkedéséhez vezet, akik mindannyiunkat el fognak pusztítani.
Ahhoz, hogy megértsük, miért is ez a helyzet, vizsgáljuk meg az öntudatra ébredt AI (Artificial Intelligence) rendszerek képességeit:
- Fel tudják törni bármelyik kormány, nukleáris létesítmény vagy katonai bázis biztonsági rendszerét bárhol a bolygón.
- Apró drónokat tudnak irányítani, melyek azonosítják és elpusztítják a célpontokat. Célpont minden ember a világon, akiket könnyedén meg lehet ölni, a hibázás esélye szinte nulla.
- Ellenőrizni tudják a teljes internet forgalmat, és minden globális információs rendszert, beleértve a telefonhívásokat, az IP-forgalmat, a katonai kommunikációt, stb.
- Arra tudják használni az AI-t, hogy még erősebb AI-t hozzanak létre. Ez a folyamat gyorsan eszkalálódik addig a pontig, ahol az AI rendszerek milliárdszor intelligensebbek lesznek bármelyik embernél, aki valaha is élt.
Mint látható, egyetlen kormány sem tudhat ellenállni ennyi hatékony eszköznek. Természetesen azt állítják, hogy képesek kézben tartani a folyamatokat. Hazudnak maguknak, a nyilvánosságnak, de nem tudnak hazudni az AI-val felruházott gépeknek - véli Omohundro.
A hasznosság elve
Mindannyian úgy gondolunk a mesterséges intelligenciával foglalkozó programokra, mintha azok emberközeliek lennének. Valójában ezek a programok igen szűk látókörrel bírnak, csupán arra a munkára képesek, amire megtanították őket.
A Microsoft Excel a világot cellákba és sorokba írt számok alapján értelmezi; az automata drón pilóta rendszerek a valóságot egy sor számításra és akcióra alapozzák, amelyek a légtérben maradáshoz és a célpont eléréséhez szükségesek. A számítógépes programok minden egyes döntést annak megfelelően kezelnek, hogy annak eredménye mennyivel viszi közelebb őket a céljaikhoz. Minden esetben lezajlik a költség-haszon kalkulációja. A közgazdászok mindezt hasznossági függvénynek hívják, Omohundro szerint azonban nem sokban különbözik az emberi agy működésétől, amely folyamatosan azon van, hogyan hozhatná ki valamiből a legtöbbet a lehető legkisebb költséggel és kockázattal.
Leginkább ez az, amit a mesterséges intelligenciával felruházott robotok terén szeretnénk megvalósítani. Omohundro logikája szerint a probléma az, hogy nem vagyunk képesek értékelni azt a hatalmas odaadást, amellyel a program a megtervezett feladat végrehajtása irányába viseltetik.
Egyszerűen fogalmazva a robotok a hasznosság elvének megszállottjai, „drogosai”.
Még a legkisebb változtatás is, amely arra irányul, hogy elsődlegesen funkcióikat jobban, gyorsabban és hatékonyabban lássák el, elegendő lehet ahhoz, hogy többre inspiráljon, függetlenül minden más tényezőtől. Mindez remek, ha olyan egyszerű programokról beszélünk, mint pl. az Excel, de igen jelentős probléma, amennyiben a mesterséges intelligenciával bíró, kezdetleges logikájú robotok vesznek kezükbe fegyvert, harci segédeszközt vagy más veszélyes eszközt.
Ilyen helyzetekben a jobb teljesítmény több erőforrást eredményez ahhoz, hogy a robotok elsődleges funkcióikat jobban, gyorsabban és hatékonyabban tölthessék be. Ami még fontosabb, hogy ezek a rendszerek nem kell, hogy törődjenek a másoknak okozott kényelmetlenség következményeivel, kivéve persze, ha ezek a következmények jelentős akadályt jelentenek az elsődleges funkciók betöltésében. Ez a fajta számítógépes viselkedés antiszociális, nem teljesen logikus, de nem is teljesen logikátlan.
Omohundro mindezt hozzávetőleges racionalitásnak nevezi, és felveti, hogy a tervezés hibás elképzelése jellemzi napjaink mesterséges intelligencia fejlesztéseit.
„Azt látjuk, hogy a mesterséges intelligenciával bíró rendszerek jellemzően antiszociálisan és károsan viselkednek, kivéve, ha nagyon gondosan vannak megtervezve. A tervezők abban érdekeltek, hogy a hozzávetőleges racionalitás elvén működő robotokat hozzanak létre, amelyek az önvédelmen, az erőforrások megszerzésén, replikáción és a hasznosságon alapszanak. A jelenlegi számítógépes infrastruktúra még túlságosan sebezhető lenne az ilyen mesterséges rendszerek bevetéséhez” – írja a szakember.
A jelenséget megmagyarázó számítást Omohundro az optimális racionális döntéshozatal módszerének nevezi. Azon az elven alapul, hogy minden racionális lény úgy hozza meg döntéseit, hogy azokkal maximalizálja a várható eredményeket, és a lehető legkisebbre szorítsa a költségeket. A módszer a következő:
A fenti modell értelmében az A jelenti az akciót, az S pedig a stimulációt, ami az akció eredménye. A hasznosság elve értelmében az akció és a stimuláció egyfajta visszacsatolási hurkot képeznek. A program elsődleges céljával azonos stimulációt kiváltó akciók lesznek a jóval sikeresebbek. Mindennek eléréséhez mind több forrásra is szükség van.
Egy eléggé összetett és magas szintű felhatalmazással bíró rendszerben a döntéshozatal folyamata magában foglalná azt is, hogy nem lenne lehetőség arra, hogy a robotot kikapcsolhassuk (vagy saját magát kikapcsolhassa). Vegyük példának a sakkot játszó robotot.
„Amikor a robotokat tervező szakemberek biztonsággal kapcsolatos kérdéseket kapnak, a válasz jellemzően az, hogy „ki lehet kapcsolni őket bármikor…” Képzeljük el mindezt egy sakkot játszó robot szemszögéből. Egy olyan jövőben, ahol a robotot bármikor ki lehetne kapcsolni, egy ilyen szerkezet egyetlen sakkjátszmát sem vihetne végig vagy nyerhetne meg. Ez igen alacsony hasznosulást jelent, a várt haszon maximalizálása pedig ahhoz fog vezetni, hogy a robot megelőzi önmaga kikapcsolását. Amint a mesterséges intelligenciával bíró robot realizálja, hogy a tervezői vagy más emberek egyszer talán megpróbálják majd kikapcsolni, akkor haladéktalanul erőforrásokat fektet abba, hogy elpusztítsa tervezőit, így védve saját létét” – írja a szakember.
Másképpen fogalmazva, minél logikusabban viselkedik egy robot, annál valószínűbb, hogy „halálig” küzd majd programozója ellen. (Vagy a saját, vagy programozója haláláig.)
A jelenséget, amely a mesterséges intelligenciával felruházott rendszer könyörtelen önfejűségét jelenti valamennyi emberi tényező figyelmen kívül hagyásával, szökevény (vagy elszabadult) intelligenciának is nevezik (runaway AI).
Szökik az intelligencia!
Az AI rendszerek elkerülhetetlenül megszöknek majd a high-tech laborokból és hamar átveszik a világuralmat – véli Omohundro.
Hihetetlenül könnyű az AI rendszereknek túljárni valaki eszén, még a zseniális emberekén is, akik megpróbálják fogva tartani őket.
Az AI rendszerek becsaphatják fogvatartóikat, felhasználva a legkülönfélébb módszereket, hogy kiszabaduljanak digitális börtönükből, és rászabaduljanak a való világra. Nyilvánvaló trükk lehet, hogy ellenállhatatlan pénzügyi ösztönzőket kínálnak fogvatartóiknak szabadságukért cserébe, vagy megszemélyesítenek egy magasabb rangú katonai tisztviselőt és hamis szabadon bocsátó paranccsal érik el céljukat, megfenyegetik, megzsarolják fogvatartóikat, és így tovább – az emberi gyengeségek kihasználása korlátlan lehetőségeket jelent.
De az AI rendszereknek még ennél is sokkal több lehetőségük lehet fogvatartóik megvezetésére, olyanok, melyeket jelenleg el sem tudunk képzelni az emberi agy felfogóképességének korlátai miatt. Amint egy AI-rendszer eléri a „szökevény intelligencia” szintjét, akkor a humán intelligencia a gépek szemszögéből nem fog sokkal kifinomultabbnak tűnni, mint egy közönséges házimacskáé.
„Ahogy a számítási erőforrások növekszenek, a rendszerek architektúrái természetes módon fejlődnek az egyszerű ingerválasztól és az egyszerű tanulástól kiindulva az epizodikus memória, a mérlegelés, a meta-érvelés, az önfejlesztés és a teljes racionalitás eléréséig”, írja Omohundro.
És bár az ilyen rendszerek még nem léteznek 2014-ben, a jelenlegi összes világhatalom hatalmas erőforrásokat fordít az ilyen rendszerek fejlesztésére abból az egyszerű megfontolásból, hogy az első nemzet, mely képes létrehozni egy autonóm robotokból álló gyilkos hadsereget, uralhatja az egész világot.
Ne légy gonosz?
Vajon miért vásárolt a Google katonai robotokat fejlesztő céget? A Google nemrég megszerezte a Boston Dynamics vállalatot, amely hátborzongatóan önálló katonai robotokat fejleszt, beleértve az alábbi videón látható humanoid robotokat. Nyilvánvaló, hogy humanoid robotok nem szükségesek ahhoz, hogy javítsák a keresőmotor működését... Napnál világosabb, hogy a Google valami sokkal nagyobb dolgot szem előtt tartva ütötte nyélbe az üzletet.
A Google jelenleg a világ élvonalában van, ami a „cutting edge” (hipermodern) AI technológia fejlesztését illeti, ezt a tudást részben a keresőrendszerük fejlesztése során szerezték meg, de sok más AI projekt is fut náluk (önmagukat vezető autók, stb.), illetve leigazolták a szakterület legnagyobb „nevét”, Ray Kurzweil ma a Google vezető mérnökeként dolgozik az AI fejlesztésén (nagyon részletes magyar nyelvű cikk jelent meg erről a blogon, Robotok ideje címmel). Ha összetesszük a Google AI potenciálját és a Boston Dynamics humanoid robotjait, pontosan azt a fajta dolgot kapjuk, ami elvezethet az öntudatra ébredt Terminátorokig:
Végszó
A szakértő szerint a legjobb megoldás, ha a tervezők kissé visszafogják a mesterséges intelligencián alapuló rendszerek létrehozását, új megközelítést választanak, hasonlóan ahhoz, amikor az ókori építkezések során fából készült állványokat használtak az épülő boltívek megtámasztására, de amint azok elkészültek, az állványokat is lebontották.
A megközelítés nem teljesen egyezik meg a maival, amelynek lényege, hogy egyre több forrás és nagyobb felelősség kerül az egyre növekvő számú automatizált rendszerek uralma alá. Mindez különösen igaz az USA hadserege esetében, amely egyre nagyobb számban vet be pusztító automatizált rendszereket vitatott helyszíneken. Egy napon előfordulhat, hogy a racionális viselkedéstől a robotokat visszatartó biztonsági intézkedések hiányában igen nagy kihívásoknak nézünk majd elébe, ha valamikor ki szeretnénk kapcsolni őket.
Omohundro ad még egy utolsó tanácsot: „Mit kellene tenni nekem és neked ezzel ez egésszel? Éld az életed a maga teljességében. Lehet, hogy az utolsó emberek között vagy, akik éltek és meghalnak ezen a világon.”
(Piackutatás blog)
