Miért erőltetik az MI-t, ha nyílvánvalóan a vesztünkbe sorsunkba rohanunk?

A milliárdos feltaláló úgy gondolja, hogy a nyilvánosság vajmi keveset tud arról, hol tart most a mesterséges intelligencia, és hogy ez mekkora veszélyekkel járhat az emberiségre nézve. A Vanity Fair egy csúcstalálkozóján ezt mondta: „A legtöbb ember nem érti, milyen gyorsan fejlődik a gépek intelligenciája – sokkal gyorsabban, mint ahogy még azt a Szilícium-völgyben is elképzelik.”

Bill Gates, a Microsoft atyja is azt nyilatkozta a helyzetről, hogy nem érti, miért nem aggódik mindenki a hihetetlenül gyors fejlődés miatt.

Hawking is az egyre fejlődő hadi robottechnológiát emeli ki fő veszélyforrásként, amelyeket az ENSZ már most be szeretne tiltatni. Senki nem tudja, mi fog következni, főleg, ha ilyen tempóban zajlik a fejlesztés. „Nincs olyan fizikai szabály, amely kimondaná, hogy a részecskék nem csoportosulhatnak egy sokkal hatékonyabb elrendezésben, mint ahogyan az emberi agyban állnak” – tette hozzá a világhírű fizikus, nem túl bizakodóan. A BBC-nek adott interjújában azt is kifejtette, hogy az igazi probléma a fejlődésből adódik: míg az embereket köti a lassú, évszázados-évezredes evolúció, addig a gépek, ha egyszer elszakadnak tőlünk, elképesztő mértékben tudják majd fejleszteni saját magukat.

A deep learning alapjait már az 1960-as években ismerték, de nagyon sokáig olyan csekély mennyiségű adattal tudtak csak megbirkózni a számítógépek, hogy nem volt érdemes foglalkozni az egésszel. Csak néhány éve értük el azt a technológiai fejlettséget, hogy megérje időt, energiát és pénzt fektetni egy ilyen projektbe. Ma a Facebook, a Google vagy a Microsoft rendszereiben hatalmas adatmennyiségek raktározódnak, a szerverparkok és a szuperszámítógépek pedig nagy feldolgozókapacitást nyújtanak. Nem véletlen tehát, hogy

pontosan a Facebook és a Google „vásárolta meg” a mesterséges intelligencia témájában úttörőnek számító kutatókat:

a Facebook csapatához a New York Egyetem professzora, Yann LeCun csatlakozott, a Google pedig a Kanadai Egyetem professzorát, Geoffrey Hintont alkalmazza félállásban.

A haditechnológiában is fejlődünk

Míg ezek a fejlesztések jól és legfőképpen ártalmatlannak hangzanak (csak játszik az a gép, mi baj lenne belőle?), ne felejtsük el, hogy ezeket a szuperszámítógépeket egyenesen a négyes szint felé vezetjük – ami azt jelenti, hogy a gépeknek, ha minden ilyen ütemben folytatódik, már az érzelmeik is kialakulnak. Hasonló tudatuk lesz, mint nekünk, és a logikai okokon kívül érzelmi döntéseket is hozhatnak majd, ami tökéletes recept lehet arra, hogy valódi katasztrófa felé terelgessük a világot. Ha pedig olyan gépeket sikerülne létrehoznunk, amelyek képesek lennének önmagukat fejleszteni, tényleg elveszíthetnénk az irányítást felettük.

> Jajaj..

> Nincs szó semmiféle szimulációról. Az MI nem szimuláció.

Annyi mindent írtál már, hogy a mesterséges intelligencia mi nem, most már megírhatnád azt is, hogy pontosan mi az a mesterséges intelligencia, szerinted hogyan kell az egészet elképzelni, milyen hardveres és szoftveres eszközei vannak ennek, hogy működik az egész. :-)

#31:

A mesterséges intelligencia egy eszköz. Természetesen lehet jó és rossz célra használni. Ahogy a késsel is lehet répát szeletelni, fát faragni, meg lehet vele embert ölni. A dinamittal is lehet embert ölni, de lehet vele bányászni, meg lehet vele épületet bontani. A maghasadás jelenségét kihasználva lehet építeni atomerőművet, meg lehet építeni atombombát. Ugyanígy lehet MI-t be lehet vetni kiscicás képek felismerésére, gyógyszerkutatásra, meg természetesen haditechnikai célokra is.

Itt sem arról van szó, hogy az MI öntudatra ébred. Még csak nem is az MI jelenti a veszélyt, hanem az ember, aki nem helyes célokra használja. Nem az elszabadult MI-től kell félni, hanem az ember szándéka szerint működő hadászati célú MI-től lehet esetleg tartani.

De megmondom őszintén én ettől kevésbé félek. Az embernek már így is éppen elég eszköze van, hogy akár nagy tömegben irtson ki embereket, rendszerint mégsem teszi. A harcászat is eltolódott régen egészen más irányba. Az első háborút még emberek vívták. A második világháború már sokkal jobban szólt a technológiáról, az erőforrásokról, mint az emberekről, még ha ezt azért még emberek vívták. A hidegháború tulajdonképpen egyfajta harmadik világháború volt, csak azt már nem az emberek vívták fegyverekkel egymás ellen, hanem a technológiai fejlesztés vívta, illetve részben az erre fordítható erőforrások vívták.

Ma már ettől is kezdünk elkanyarodni. Ma azé a hatalom, akié az információ. Természetesen még mindig folytatnak háborúkat hagyományos, illetve kevert eszközökkel. De a hagyományos háborúból is kezd kiiktatódni az ember, lassan eljutunk oda, hogy már csak drónok háborúznak egymással. Viszont lassan erre sincs szükség. Háború? Romboljuk le a másik ország gazdaságát! Vagy vágjuk el az internettől! Vagy manipuláljuk a közvéleményt a médiával, manipuláljuk a választásokat! Hatékonyabb, viszont egyben emberéletet kevésbé követelő háborúkat vetít ez elő, minél inkább függünk az információtól, annál nagyobb fegyverré válik annak a manipulálása, megszerzése, vagy a másik fél elvágása az információktól.

A tekintélyre való hivatkozás önmagába nem elég. Egy nagy tekintélyű tudós, feltaláló is mondhat megalapozatlan, vagy a saját félelmeitől fűtött, paranoid megállapításokat. Az MI-t lehet rossz célokra használni? Lehet. Hatékonyabban, mint eddig bármit. De az atombomba már pont elég fenyegetés volt eddig is, és valahogy mégsem vetettük be a második világháború óta tényleges konfliktusba. Mert már nem az számít, hogy megöld az ellenség embereit, hanem önmagában már az is elég, hogy akár képes lehetnél erre.

Zoltánkvantumfizikus egy közismert futóbolond. Azt sem lehet elhinni, amit kérdez. Összetett dolgokat egyszerűsít le, de lényeges információkat hamisít meg. A hullámfüggvény egy lineáris algebrai konstrukció, amit a valóságra kell interpretálnunk, az adott kísérletnél például azt, hogy nem határozható meg a konkrét helyzete, hanem csak bizonyos valószínűségsűrűség-függvénnyel lehet megközelíteni. Ettől még ugyanúgy anyagi, Zoltán hazudott. A második pont szintén hazugság, itt arról van szó, hogy az összefonódott rendszerek állapotát csak egyben lehet leírni, ugyanarról a rendszerről tudnak dolgokat megállapítani a megfigyelők, ez nem információádatás. A hármas egyszerű hazugság, a Planck egységeknek semmi köze a részecskék bonthatóságához, könnyen lehet, hogy a kvarkok is tovább bonthatók. A négyes teljesen alaptalan feltételezés, semmiféle igazolása nincs annak, hogy a nem szimulált univerzumnak analógnak kéne lennie, a matematika az értelmesebb nézetek szerint pedig azért írja le a valóságot, mert úgy lett konstruálva.

Az egész matematika analitikus, éppen ezért a kiindulási axiómák függvényében bármilyen valóság leírható, hogy ez a mi valóságunkra interpretálható-e az egy külön kérdés. De nem képzelhető el olyan valóság vagy rendszer, amit valamiféle matematikával le lehetne leírni éppen ezért nem is túl meglepő, hogy a miénket is le lehet írni, erre konstruálták a matematikát. Az akupunktúra igazoltan hatástalan, a keleti bullshit igazolatlan, Zoltán újra hazudott. A hatoshoz semmi forrás nincs.

> Ha azt hiszed, hogy a világ nem fejlődik tovább és csak abból lehet levonni következtetést, ami az asztalodon van. Te vagy a legbutább !

Arról lehet beszélni, ami van. Hogy mi lesz, azt a jelenből interpolálni persze nem teljesen hülyeség, de ennek sok alapja nincs és hosszabb távon teljesen felesleges, mert úgysem az a jövő fog bekövetkezni, mint amit elképzelünk. Veled ellentétben nem mondom azt, hogy buta, aki így tesz, de kihagy egy csomó dolgot a számításból, amit ma, itt és most még nem is tudunk számításba venni. Elég megnézni, mit gondoltunk más dolgokról:

- Anno megjelentek a gépek. A gépek fejlődéséből mindenki interpolálta, hogy a gépek hogyan és miként fognak egyre nagyobb szerepet játszani az élet minden területén. Tulajdonképpen így is lett, csak éppen nem úgy, ahogy elképzelték. Akkor is megvolt a félelem, hogy a gépek majd elveszik az ember munkáját, és lesz egy csomó munkanélküli. Az eredmény? A gépek valóban átvették az ember munkájának egy jelentős részét, mégis szükség maradt az emberre, nem jött el a világvége.

- A számítógépek megjelenésekor megint túl korán képzeltük azt, hogy a gépek után nem csak a fizikai, hanem a szellemi munkát is elveszik tőlünk a (számító)gépek, hogy majd komplex matematikai problémákat oldanak meg, irányítják a gazdaságot, stb… Tulajdonképpen bizonyos szempontból részben ez megvalósult, pl. használjuk a számítógépet komplex matematikai problémák megoldásához, de a számítógép nem átvette az ember helyét, hanem eszközzé vált a számítógép az ember kezében, és annál több „specializált matematikusra” – informatikusra – lett szükség. A számítógépet meg egészen máshogy és másra használjuk ma, mint amit anno elképzeltek az első számítógépek megépítésének korában.

- A robotok sci-fiben, majd később a való életben való megjelenésének hajnalán is mindenki két lábon járó, két kézzel rendelkező, beszélő, intelligens robotokat vizionalizált. Úgy képzelték el, hogy a robotok majd mászkálnak az utcán, elmennek a gyárba, és kalapácsot fognak a kezükbe. Ez történt? Nem. A robotok megmaradtak specializáltnak. Minek legyártani egy komplex csavart húzni, kalapálni, forrasztani egyszerre tudó robotot? Sokkal komplexebb lenne, több meghibásodási lehetőséggel. Egyszerűbb egy olyan robotot építeni, ami csak csavart húz meg, egy másikat, ami csak kalapál, egy harmadikat, ami csak forraszt. Egy csavart húzó robotnak csak egy karja van, nincs szeme, nem beszél, nem tud kalapálni, csak csavart húzni. Jóval gyorsabban, hatékonyabban, mint egy ember, de koránt sem az a robot jövőkép jött el, amit anno elképzeltünk.

- Meg lehetne sorolni még, mennyi mindenről gondoltunk valami egészen mást, mint ami történt később. Néha jót, néha rosszat gondoltunk, de mégsem az következett be. A nyomtatás megjelenésével sokan azt látták, hogy majd az ember minden tudáshoz hozzáfér, az emberek sokkal műveltebbek, bölcsebbek lesznek. Ez történt? Hát egy szűk réteggel maximum, azzal is csak részlegesen. A legtöbb ember ma nem olvas, maximum az iskolában a kötelező olvasmányokat, de iskolába sem azért jár, mert szomjazik a tudásra, hanem mert muszáj, és az ott megtanultak 98%-át elfelejti, vagy képtelen használni. Mikor megjelent a fonográf, a hanglemez, a félelem az volt, hogy senki nem fog koncertre járni. Ehhez képest – bár a zene stílusa sokat változott –, soha nem látott méretű könnyűzenei koncertek lettek a mindenki által könnyen elérhető zene következményei, a zene soha nem látott mértékben épült be az életünkbe. A mozgókép megjelenésével a színházat kezdték sokan temetni. A színház meg köszöni szépen jól van, sőt bizonyos szempontból fel is értékelődött a szerepe az arra igényes rétegben.

Néha megnézek egy-egy szériát a Star Trekből. Mára megmosolyogtató tud lenni. Hiper-szuper mindentudó kütyük vannak benne, de hogy történik az információ átadás? Gipsz Jakab zászlós fog egy tabletszerű eszközt és átgyalogol a hídról a gépházba, holott ott az egész űrhajón mindenhol elérhető „computer”, ami beszélni, gondolkodni is tud. Anno sokféle jövőkép extrapolálódott az akkori technológiából. Néhány érdekes jövőbeli eszköz is elképzelődött, amit aztán később meg is próbáltunk megvalósítani. (A mobiltelefont kis részben a Star Trekben használt kommunikáció ihlette.) De például az internetet, ami az elmúlt 10-20 évben a legfontosabb változást adta a világnak, azt senki nem látta előre, és mikor azt mondom, hogy egy csomó tényezőt kihagyunk a számításból, mikor a jövőképet a jelenből extrapoláljuk, akkor pont az ilyenekre gondolok.

Fogalmam sincs, mi fog kinőni a kvantumszámítógépekből. Fogalmam sincs, hogy az dolgok internete (internet of things), ahol már nem csak a számítógépek, hanem a leghétköznapibb dolgok – világítás, hűtőszekrény, mikró – is rajta lógnak a világhálón, az hova fog kifutni. Nyilván lesznek olyan tényezők is a jövőben, ami ma még ötletként sem merül fel.

Mégis úgy érzem, a mesterséges intelligencia abban a formában, amit ma értünk alatta, megmarad ugyanúgy céleszköznek, mint ahogy a robotok megmaradtak céleszköznek. Nem azért nem készül majd el egy két lábon járó, beszélő, látó, zenét szerző, sakkozó mesterséges intelligencia, mert nem lesz rá lehetőségünk, hogy ilyet készítsünk, hanem mert nem lesz rá igény. Maximum – ahogy ma is – ilyenek hobbiként, technológiai demóként fognak készülni, de az MI-nek, mint technológiának az alkalmazása meg fog maradni céleszköznek.

Lehet, hogy 100 év múlva mesterséges intelligencia fog egy másik mesterséges intelligenciával elintézni mondjuk egy hivatalos ügyet. Lehet, hogy mesterséges intelligencia fog helyettünk dönteni, hogy mikor kell tejet, meg kenyeret vennünk és mennyit, ő rendeli meg a neten keresztül ezeket, és mesterséges intelligencia által vezérelt drónok fogják ezeket leszállítani hozzánk. MI vezérelt célgépek fognak helyettünk takarítani, MI vezérelt lesz a közlekedés, stb… Szépen be fog épülni a mindennapi életünkbe, megszokottá, unalmassá válnak, és nem fogják átvenni a hatalmat, ahogy a gépek, a robotok sem vették át. 100 év múlva meg már valami egészen más dologtól fogunk rettegni, hogy majd az fogja az emberiség vesztét okozni.

> Anno az atomfizikára is azt mondták mire jó ez? Aztán lett az atombomba...

Lett. De az elmúlt 70 évben nem is használtuk egyetlen alkalommal sem (leszámítva a kísérleti robbantásokat). Az, hogy a hidegháború nem torkolt tényleges fegyveres konfliktusba, az jórészt az atombombának köszönhető, tehát bizonyos szempontból majdhogynem békésebb világot teremtett az egyszerű állampolgárok számára. Persze óhatatlanul ránk vetődik ennek az árnyéka mind a mai napig, meg persze egy elmebeteg vezető kezében azért a félelem sem teljesen alaptalan. Viszont ugyanaz a fizikai elv, ami az atombombát szülte, annak az eredménye az atomerőmű is, ami megint nem veszélytelen, de ha globálisan nézzük, akkor a legtöbb ember sokkal többet nyert vele, mint amennyi kára lett belőle. Ha meg kicsit tágabb halmazban nézzük, akkor a fizika ugyanazon ága szült egy csomó más eszközt, például nagyon pontos atomórákat lehet készíteni, ami elengedhetetlen a GPS működéséhez. Szintén a fizika ugyanazon ága vezetett a félvezetők megtalálásához, ezen technológia tökéletesítéséhez, és végső soron ahhoz a számítógéphez vagy mobiltelefonhoz, amin a kérdésedet megírtad.

~ ~ ~

Összességében én nem félek az MI-től. Mivel tudom hol tartunk most vele, mennyire messze vagyunk egy általános MI-től, és mennyire nincs szükségünk egy általános MI-re, ezért én úgy látom, ez az eszköz, technológia is specializáltan fog beépülni a világunkba, körbe fog venni minket, és nem az az MI lesz, mint mondjuk ami egy Szárnyas fejvadászban, vagy egy 2001: Űrodüsszeia-ban megjelenik.