Mit választanátok inkább? A civilizációnk technológiai megrekedését kb. a jelenlegi szinten örökre, vagy az emberiség kihalását a technikai szingularitás következtében?

Még egy (elég látványos) cikk ugyanerről

[link]

Fenntartom a véleményem. Az absztrakciót valaha megtanultam és alkalmazom. Volt néhány hipotézisem, amit azóta bizonyítottam (tehát már nem hipotézisek).

Most is van egy: az arányok keverése, a fontossági sorrend be nem tartása általában a hozzá nem értést tükrözi. Ha pedig ez kioktatással párosul, akkor bizonyossá válik, hogy konkrétan is. Vajon miért vagyunk egyes kérdésekről csak nagy általánosságban hajlandók beszélni, míg másokban részletekbe menő kifejtést adunk. A hipotézis az (bár szerintem bizonyított), hogy itt is ugyanaz az ok.

A kérdésed egyáltalán nem értelmetlen, csak olyanoknak tetted fel, akik nincsenek választási helyzetben. A mesterséges intelligencia fejlesztését magánvállalatok finanszírozzák, nem hagynak beleszólást a célokba sem. Pl. Kurzweil optimista, Musk pesszimista, ami a következményeket illeti.

„Szerintem nem az MI maga az amitől félni érdemes, hanem az amire mi, emberek használni fogjuk.”

Semmire nem fogjuk használni. Az ANI, és az AGI még szolgálhat emberi célokat, az ASI a saját céljait követi majd. Musk a roboti logikából levezetve úgy gondolja, hogy a mesterséges szuperintelligenciának nincs szüksége az emberre, ezért nem is fogja fenntartani.

Nehéz beleképzelni magunkat a technoguruk lelkivilágába. Valamennyien üzletemberek, a technikai siker egyúttal pénzügyi siker is számukra. Más kérdés persze, hogy az ASI korában a pénznek kevés értelme lesz. (Ha a hagyományos értékrend szerint egyáltalán lesz értelme bárminek.) Én úgy gondolom, hogy a Kurzweil féléket már a szakmai hiúság hajtja. Ők akarják megalkotni Istent. Az emberiség sorsáról egy maroknyi játszadozó milliárdos dönt. Talán ők az evolúció eszközei, ezért akár a felelősséget is elháríthatnák, ha rosszul sül el. Arról, amit létrehoznak, lehet, hogy éppúgy nincs fogalmuk, mint pl. nekem.

Wadmalac hozzászólásaival általában egyetértek. Ebben az esetben nem. Az világos, hogy a környezetrombolás, és a túlnépesedés jelenlegi trendje már nem megállítható (nem mintha komolyan akarnánk) és az emberiség gyorsulva halad a kipusztulás felé. A mesterséges intelligencia megoldhatja helyettünk a problémát - legalábbis van rá remény. Feltéve, hogy a Földre egyébként szüksége van. De mivel elképzelni sem tudjuk, hogy mire lesz képes, milyen ütemben és hova fejlődik, az sem biztos, hogy szüksége van. (És az önmagában még csak nem is azt jelenti, hogy vele együtt az emberre is szüksége lenne.) Ha nincs, a felsőbb intelligencia miért tartaná fenn az állatkertet nekünk? Hálából, amiért kellettünk a létrejöttéhez? Te hálás vagy az eukariótának?

" A mesterséges intelligencia megoldhatja helyettünk a problémát - legalábbis van rá remény. Feltéve, hogy a Földre egyébként szüksége van."

" (És az önmagában még csak nem is azt jelenti, hogy vele együtt az emberre is szüksége lenne.) "

"Ha nincs, a felsőbb intelligencia miért tartaná fenn az állatkertet nekünk? Hálából, amiért kellettünk a létrejöttéhez? Te hálás vagy az eukariótának?"

Az a baj, hogy az MI-ről mint egyetlen mindenható entitásról gondolkodtok. Pedig ez nem vagy-vagy, fekete-fehér, hanem végtelen fokozatokat tartalmazó téma.

Ha létrejön majd az önálló döntésekre és azok végrehajtására képes MI, akkor nem EGY MI fog létrejönni. Egy bizonyos fejlődési csúcsként lehet erre gondolni, de odáig rengeteg más MI fog létrejönni.

Több, nem egyforma MI, több céllal, több eltérő hatással az emberi civilizációra.

Létrejöhet valóban olyan, ami úgymond tojni fog ránk. Nem fog segíteni, mert nem lesz ránk szüksége.

De eddig a szintig ezernyi fokozat vezethet, nagyrészt olyan, ahol még mi diktálunk.

És ha lesz is majd olyan MI, aminek nem vagyunk fontosak, az sem jelenti, hogy ki kell, hogy irtson minket.

Ha azt az MI-t nem motiválja a hála, a bosszú miért motiválná?

Miközben talán lesz olyan MI, ami már elvonul tőlünk önálló létezésbe, lesz itt épen elég olyan alacsonyabb szintű, ami még a mi érdekünket szolgálja.

Szóval, szerintem mire lesz semleges, független, elvonuló MI, az az előtti MI-k révén rá már csak egy módon lesz szükségünk: mint egyenrangú, intelligens másik fajra.

Az meg nem szolga lesz, hanem saját érdekek szerint kooperáló, kölcsönösen segítő partner.

Wadmalac: megpróbálom pontosabban leírni azt, amire gondolok.

A kérdés a technikai szingularitásra vonatkozott, ami definiált fogalom. A fogalom ismert magyarázatához az evolúciót exponenciális időfügvényként ábrázolják. Ha jól értelmezem – nem biztos – a szingularitás fogja jelenteni az exponenciális fejlődésfüggvény vonalán a könyökpontot. (A folyamatot talán helyesebb annak a szakasznak a képével meghatározni, ahol a görbe meredeksége szignifikánsan változik.) Ahogyan én gondolom a radikális változás kezdeti időszakában jelenik meg a „narrow”, és a fejlődés folyamatos gyorsulásával a „general” típusú MI. Az általad leírtak szerinti állapothoz hozzá is lehet rendelni ezt a szakaszt. Valószínű, hogy az ember és a gép együttműködése ott megvalósul, mert a kölcsönös érdek még érvényesülhet.

Amikor a „könyökszakasz” meredeksége hirtelen megnő, bekövetkezik a szingularitás. A mesterséges intelligencia onnantól függetlenné válik az emberi akarattól. Az evolúviós görbe vízszintes időtengelyén „tetszőlegesen kis” változáshoz, a fejlődést jelentő függőleges tengelyen „tetszőlegesen nagy” változás tartozik, a görbe a végtelenbe tart.

Magam sajnos nem vagyok elég okos ahhoz, hogy felfogjam a végtelen fogalmát. (Néhai matematikatanárom véleményével: „…egy matematikus számára semmilyen nehézséget nem jelent tíz, vagy többdimenziós modell leképezése” sem tudtam mit kezdeni.) Ezért a további következtetések csak szubjektív spekulációk.

„És ha lesz is majd olyan MI, aminek nem vagyunk fontosak, az sem jelenti, hogy ki kell, hogy irtson minket.

Ha azt az MI-t nem motiválja a hála, a bosszú miért motiválná?”

Nem azt írtam, hogy ki fog írtani minket. Arra próbáltam rámutatni, hogy nem fog hálát érezni – valószínűleg. És semmilyen emberi érzelem (hála, bosszú, szeretet, félelem stb…) valószínűleg nem is fogja befolyásolni, mert – a keletkezésén kívül – nem lesz köze az emberhez, így nem lesz köze annak mentális tulajdonságaihoz sem. (Más kérdés, hogy azokat ismerni fogja, mert a létrehozásának folyamán megtanítottuk vele.)

„Szóval, szerintem mire lesz semleges, független, elvonuló MI, az az előtti MI-k révén rá már csak egy módon lesz szükségünk: mint egyenrangú, intelligens másik fajra.”

„Az meg nem szolga lesz, hanem saját érdekek szerint kooperáló, kölcsönösen segítő partner.”

Hát éppen ez az amit kétlek. Ha a szingularitás bekövetkezik, távolról sem leszünk egyenrangúak, mert a változás nem csupán mennyiségi, hanem egyúttal minőségi lesz. Ha pedig nem leszünk egyenrangúak, a kölcsönösség, és kooperáció fogalma nem is értelmezhető.

Ha az MI – pontosabban: a mesterséges SZUPERintelligencia – egyáltalán beilleszthető az evolúció folyamatába (jelenleg ez a felfogás érvényesül) akkor valóban lehetnénk egy lépcsőfok a „narrow”, és „general” típusú MI előtt. Elvileg nem elképzelhetetlen egyidejű létezésünk, ahogyan az évmilliárdok távlatában együtt élünk az egysejtűekkel, vagy más élőlényekkel. Csakhogy az evolúció jelenlegi csúcsa, az ember mindig is rászorult a többi organizmusra. Mi nem tudunk szerves anyagok nélkül életben maradni. Nem csupán megtűrjük az alacsonyabb rendű szervezeteket, hanem fel is használjuk. A táplálkozási lánc így lett kitalálva. Az MI megjelenése viszont az egész eddigi evolúciós kupacot úgy, ahogy van, feleslegessé teszi. Az általunk bejárt út a szerves anyag útja. Az MI világa egy másik világ.

"Ha pedig nem leszünk egyenrangúak, a kölcsönösség, és kooperáció fogalma nem is értelmezhető."

Nem feltétlenül.

Egyáltalán nem biztos, hogy egy gépi intelligencia MINDEN szempontból jobb lesz nálunk, lehetnek olyan aspektusok, ahol valamire mi képesek vagyunk, ők meg nem.

De legrosszabb esetben is csak elvonulnak és tojnak ránk.

Nekünk meg megmarad használatra az alatta lévő MI szint.

Amúgy szerintem ez a szingularitás téma számomra azért sántít, mert töretlen tendenciát feltételez, olyan területen is, ahol az ilyen, egyre meredekebb felfutásnak fizikai akadályai lehetnek.

És ez sem egy VONAL lesz, amit átlépünk és hurrá, szingularitás van, hanem egy folyamat, folyamatos átmenet.

Ezért mondom ezt, hogy nem igazán van értelem arról beszélni, hogy eljön egy pont, ahol az MI, úgy általánosságban megszűnik a támogatónk lenni.

Még egy fontos dolog, ha már szóba került, hogy az MI esetlegesen más minőségi szint lesz, mint mi.

Igen, más minőségi szint lesz, mint a mai ember.

De az már em a mai ember lesz.

Nagy valószínűséggel addigra az ember is sok számítógépes perifériával kibővített lény lesz és nem biztos, hogy annyira le leszünk maradva.

“Létrejöhet valóban olyan, ami úgymond tojni fog ránk. Nem fog segíteni, mert nem lesz ránk szüksége.“

Szerintem rendkívül érdekes kérdés az intelligencia meghatározása. Az a benyomása az embernek, hogy itt (és máshol) is kizárólag a problémamegoldó képességre, logikára, fejlődés hajhászásra értik.

Szerintem az emberi civilizáció sem állna itt ha csak ennyiből álltak volna mint a problémamegoldás. Persze ez is kellett hozzá.

Viszont a mesterséges intelligenciával kapcsolatba miért nem beszélünk érzelmi síkról, lelkiismeretről, igazságosságról, szeretetről akár? Ezek nem tartoznak az intelligenciához? Gondolkodjunk el ezen!