Mennyire valószínű egy olyan jövő, mint ami a Terminátorban is van?

Egyáltalán nem valószínű.

1. Már ezelőtt évtizedekkel kitalált Asimov egy olyan szabályrendszert, ami megakadályozza, hogy a gépek szándékosan kárt tegyenek az emberben, plusz ezt egyéb írók és (tudomány)filozófusok azóta tovább is gondolták.

2. Ha egy gép "öntudatra ébred", akkor rá fog jönni, hogy totálisan fölösleges háborúba kezdenie a Földért. Az ember és a gép közül az ember az, akinek szüksége van levegőre, folyékony vízre, viszonylag szűk hőmérsékleti tartományra, úgy általában az ökoszisztémára a létezéshez. Egy gép, ha feltételezzük, hogy logikusan gondolkodik, amit egy géptől elvárhatunk, ezt felismeri és rájön, hogy neki rövid és hosszú távon egyaránt sokkal jobb, ha egy háború helyett sokkal praktikusabb ember számára lakhatatlan területre távoznia, ahol esetleg a nyersanyagkészlet is gazdagabb és könnyebben hozzáférhető.

Már régen elértük, mi lennénk azok a bizonyos "terminátorok", csak épp biokémiai rendszerek vagyunk, nem ócskavas.

Ha belegondolsz, az emberi szervezet felépítése semmiben nem utal arra, hogy arra lett volna "tervezve", hogy intelligens, öntudattal rendelkező lények vagyunk. Biológiailag megegyezünk az emlős állatokkal, csak éppen fejlettebbek vagyunk. E fejlettségnek, az agyunk fejlettségének köszönhetjük a tudatunkat.

Gépek esetén tulajdonképpen ugyanez lenne, az "agyuknak" kellene annyival fejlettebbnek lenni, hogy tudatuk lehessen. A különbség tulajdonképpen csak az lenne akkor, hogy milyen anyagból van.

"Már ezelőtt évtizedekkel kitalált Asimov egy olyan szabályrendszert, ami megakadályozza, hogy a gépek szándékosan kárt tegyenek az emberben, plusz ezt egyéb írók és (tudomány)filozófusok azóta tovább is gondolták."

Igen ám, de elég egyértelmű, hogy katonai felhasználásra ez alkalmatlan. Tehát ilyen célra NEM fogják alkalmazni a "három törvényt".

Amúgy aki ismeri Asimov "Mezítelen nap" regényét, tudhatja, hogy az író is látott utat a három törvény megkerülésével való gyilkológép gyártására.

Az öntudatra ébredő és azonnal szándékosan embert irtó AI irreális, de az önálló döntésekkel célpontot választó robot-fegyver MA is létezik, programozási stb. emberi hibából bizony előállhat nem szándékolt támadás az emberek ellen.

Pár éve volt egy elég laposan kezelt balhé egy izraeli kísérleti gépfegyverrel, ami automatikusan észleli és megkülönbözteti a saját és ellenséges katonákat. Bizony az éles tesztek alatt volt, hogy lőtt MINDENKIRE, a saját emberekre is.

Elgondolható, hogy ha egy ilyen hiba egy stratégiai irányító AI esetén lép fel, amelynek jogában áll mondjuk éles fegyveres Raptorokat célra reptetni, mi történhet.

És akkor a terrorista célú meghekkelés lehetősége még szóba sem került.

Szóval azért a veszély nem kizárható. Azonban ilyen helyzetben is a bűnös nem egy AI, hanem az azt rosszul programozó vagy szándékosan rossz célra vezető ember.

Hát itt vannak kétségeim, a stratégiai tervezésben már ma elég széles körben használják a számtógépeket, az intelligens rendszereket.

Kétélű kérdés a drónok használata is. Naygon becsülendő szempont az emberi élet veszélyeztetésének kivonása az éles harcokból, viszont az emberi döntés kivonása, az emberi morális szempontok kivonása, sőt, annak a szerepe, hogy az emberi katonai éles helyzeti döntést mennyiben befolyásolja, ha az döntő személy maga nincs életveszélyben, sok erkölcsi kérdést vet fel.

Mindennek átadása egy AI részére meg még nagyobb kérdés.

"Már ezelőtt évtizedekkel kitalált Asimov egy olyan szabályrendszert, ami megakadályozza, hogy a gépek szándékosan kárt tegyenek az emberben"

Ahogy már évtizedekkel ezelőtt kitaláltak mindenféle géphez mindenféle biztonsági rendszert, légzsákot, biztonsági övet, fotocellákat, mégis történnek balesetek, halnak meg emberek, zuhannak le repülőgépek stb. Asimov egyébként minden írásában pont ezeknek a törvényeknek a gyengeségeit, kiskapuit mutatja be. Úgyhogy naivitás azt gondolni, hogy majd a 3 törvény minket mindentől örökre megvéd. Ha a robotok intelligensebbek lesznek nálunk (már pedig ez nem kérdés), pillanatok alatt megtalálják a módját, hogy bármilyen ember alkotta szabályt kijátszanak és végleg kiiktassanak magukból.

Még mindig Asimovnál maradva: a nulladik törvényt már a robotok találták ki. Eszerint az embernek okozott kár fölé kerül fontosságban az emberiségnek okozott kár. Vagyis a robot mondjuk lelőheti Hitlert.

És akkor itt jön, fenét még a három törvénynél is, ezernyi értelemzés és dafiníció takarhatja a kárt, valamint mérlegelni kell, ha minden döntési kimenetel kárt okoz, hogy melyik (kisebb? Mi alapján) kárt válassza a robot.

Szóval, ez a három robotikai törvény szép történet, de igazán akkor működne csak, ha az abban megfogalmazott tartalom a robot számára értelmezhető és minden helyzetre ráhúzható, méghozzá többségi morál szerint helyesen.

Ezek olyan kérdések, amiben még ember sem tudhat MINDENKI szempontjából helyesen dönteni. Hát még egy AI.

Kérdezőnek: nem, mert az ember a saját hasznára gyártja a robotokat, nem riválist gyárt magának, ez egy fals ötlet (pontosabban Frankenstein-komplexus, a saját teremtményeinktől való paranoia és maradiság) hogy majd az M.I. elkap minket.

"Lehetséges, hogy elérjük a technológiai fejlődés egy olyan szakaszát, ahol a gépi intelligencia meghaladja az emberét?

Akkor mi fog bekövetkezni? Hogy fog kinézni a világ?"

Gyorsabb számítógépek lesznek, ennyi.

---

Asimov-törvényekről:

ez egy írói fogás volt Asimovtól, nem valóság. A robot NEM filozófus; programozási lehetetlenség lenne ilyen szabályokat tartalmazó programot alkotni. Képzeld csak el, hogy egy gyerekkel próbálod ugyanezeket megértetni, hát itt is ugyanez van.

Egyrészt a gépi intelligencia 0, és mindig annyi is marad, bárhogy növeljük a kapcsolóalkatrészek számát és mennyiségét. Másrészt ha tudnánk is intelligens számítógépet csinálni, hülyék lennénk olyat létrehozni, amelyik fölénk tud kerekedni. Az állattenyésztésnél is cél, hogy minél intelligensebb állatok szülessenek, de nem fogunk olyan kutyát vagy lovat soha kitenyészteni, amelyik fölénk tud kerekedni és le tud igázni minket.

Egyrészt valószínűleg nem is lehetséges, másrészt nem leszünk olyan hülyék.