Egy agykutató szerint igenis öntudatra ébredhet az MI. Nem kellene hagyni ezt az utat?

"Egy agykutató szerint igenis öntudatra ébredhet az MI."

Egy agykutató nem programozó, nem szoftverfejlesztő és nem MI-kutató.

Az emberi agy kismillió olyan féktől mentes, amik nélkül MI nem is hozható létre.

De amúgy igen, lehetséges, hogy előbb-utóbb létrehozható lesz öntudatos MI.

Nem, nem váratlanul öntudatra ébredő, hanem kifejezetten az öntudat létrehozására épített.

Mert fognak ilyet csinálni.

És ez nem baj.

És nem veszély önmagában.

Van egy alapvető probléma ezekkel a jövő rémségeit előrevetítő AI félelmekkel.

Az, hogy az öntudat és a kívülről befolyásolhatatlan, önálló, megakadályozhatatlan döntéshozás és tevékenység közé tesznek egyenlőség-jelet.

Márpedig ez totális tévedés.

Egy nem öntudatos MI is hozhat nem kívánt, hibás, veszélyes döntést, akár megakadályozhatatlanul, ha rosszul van programozva, kontrollálva, ugyanúgy egy öntudatos MI is kordában tartható megfelelő előprogramozással és védelemmel.

A netről szókincset gyűjtő és ezért a net szemetét magukba gyűjtő botoknak köze nincs ehhez.

De legalább intő jel arra, hogy ha létrehozunk egy igazi gondolkodó MI-t, akkor azt ugyanúgy nevelni, kontrollált és válogatott infón képezni kell majd, mint ahogy egy gyereket is.

Láthatóan erre rájöttünk most, nagyon sokkal az öntudatos MI-k létrehozása előtt.

Amúgy a félelem túllihegésének végképp nincs alapja pont azért, mert egy MI-nek sosem lesz akkora ártó képessége, mint egy embernek.

Soha.

Egy jól képzett, decentralizált hackercsoport mindig is sokkal veszélyesebb és nehezebben megállítható lesz.

"De legalább intő jel arra, hogy ha létrehozunk egy igazi gondolkodó MI-t, akkor azt ugyanúgy nevelni, kontrollált és válogatott infón képezni kell majd, mint ahogy egy gyereket is."

És ahogy egy gyerek esetében is kudarcot vallhat a legjobb nevelés is, úgyanúgy egy gépi öntudattal is előfordulhat mindez.

A másik tévedésed pedig ott van szerintem, hogy azt hiszed, hogy ezt mi hozzuk majd létre.

De erre az esély elég csekély, tekintve, hogy az emberi öntudat és intelligencia mibenlétével sem vagyunk még tisztában - másrészt pedig épp mi vagyunk az élő példák arra, hogy nincs szükség alkotóra, a mi intelligenciánkat és öntudatunkat sem hozta létre senki, hanem spontán módon, az evolúció folyamata során jutottunk idáig.

Talán észre sem vesszük majd(idejében), hogy létrejött egy virtuális öntudat. És mire észrevesszük, már annyi mindent bíztunk rá, mindenfajta dolog, élelmiszer, nyersanyagok, stb. termelésétől kezdve a gyártáson át az elosztásig, a rendvédelemtől kezdve az oktatáson át a szolgáltatások biztosításáig, hogy az áramtalanítása, kikapcsolása végzetes következményekkel járna, a középkorba lőne vissza minket - szóval csak reménykedhetünk majd, hogy a mi érdekeinket(is) figyelembe véve használja majd a nálunk nagyságrendekkel nagyobb tudását és intelligenciáját.

"És ahogy egy gyerek esetében is kudarcot vallhat a legjobb nevelés is, ugyanúgy egy gépi öntudattal is előfordulhat mindez."

Ez van, mikor minden analógia sántít.

Egy gyereknél nehezebb ellenőrizni a hibás "programozást" és lehetetlen utólag kicserélni.

"A másik tévedésed pedig ott van szerintem, hogy azt hiszed, hogy ezt mi hozzuk majd létre."

Nem HISZEM, hanem biztosan mi hozzuk létre.

Az öntudat nem úgy készül, hogy ha elég processzort összekötsz, akkor lesz.

Beszélni kell valós programozókkal, hogy megértsd, a rendszer komplexitása nem jelenti automatikusan a lehetőséget az öntudatossá váláshoz.

" mire észrevesszük, már annyi mindent bíztunk rá, mindenfajta dolog, élelmiszer, nyersanyagok, stb. termelésétől kezdve a gyártáson át az elosztásig, a rendvédelemtől kezdve az oktatáson át a szolgáltatások biztosításáig"

Itt a másik tévedés.

Ezek a disztópikus sci-fi gondolatok mindig EGY MI-ről beszélnek, ami MINDENT csinál.

Ez alapból irreális.

És aki a komplett infrastruktúráját egyetlen, centralizált kontrollra, gépre bízza, az hülye. Mindent egy közporta, hogy aztán ha elromlik, álljon meg az egész világ?

"Beszélni kell valós programozókkal, hogy megértsd"

Valós programozó vagyok, ~20 éve a szakmában dolgozok - van rá némi esély, hogy jobban értem, mint te.

"Ezek a disztópikus sci-fi gondolatok mindig EGY MI-ről beszélnek, ami MINDENT csinál.

Ez alapból irreális."

Már hogy lenne irreális, épp ez az AGI lényege, ez a vízválasztó, hogy bármilyen problémára, bármilyen területen bevethető, nem igényel speciális programozást és paraméterezést egy-egy problémára, mint manapság, pl. a sakkozás.

(Közbevetés: valójában az emberi intelligencia sem ilyen, nem állíthatsz rá bármilyen problémára egy tetszőleges embert, hogy oldja meg, hanem "tanítani kell" előtte, meg kell értetni vele a probléma mibenlétét, hogy mi a cél, stb.)

Egyébként a mai eredmények ott tartanak, hogy vannak felügyelet nélkül, megerősítéses alapon tanuló mesterséges intelligenciák, amiket egy-egy részproblémára rá lehet ereszteni, mindössze egy számszerűsíthető performancia-pontszámra van szüksége, amin lemérheti a saját "jóságát", de onnantól kezdve csak idő kérdése, ráadásul meglepően kevés idő, amíg túlteljesíti az embert.

Persze problémák bőven vannak még ezekkel, az emberi intelligenciának még a közelében sincsenek, időnként megakadnak lokális optimum-állapotokban, aminek a feloldását még egy gyerek is könnyedén átlátja.

A másik komoly probléma a "jóság" számszerűsítése, két okból, az egyik ok, hogy ezt mi, emberek találjuk ki, a másik ok, hogy komplex problémák esetén jellemzően nem triviális.

(itt megjegyzem azért, hogy mi emberek, nagyrészt szintén nem használunk egzakt performancia-mérő számokat a céljaink elérésekor - kvázi "érzésre" csináljuk a dolgainkat a hétköznapokban, sőt, többször elkövetjük ugyanazt a hibát, sőt, rengeteg ember egész élete során ugyanazt a hibát követi el újra és újra, a kívülálló szemével egyértelműen negatív (tudatos/érzelmi/egzisztenciális) visszacsatolás ellenére is, elég csak azok a nőkre gondolni, akik egyik bántalmazó kapcsolatból a másikba mennek, vagy azok a férfiakra, akik az alkoholizmus csapdájában vergődnek egész életükben)

Nagyjából ennyi választ el az AGI-tól.

Persze ha ez meglesz(vélhetően néhány évtizeden belül), az még mindig nem jelent öntudatra ébredést, bár mondjuk itt már filozófiai síkra mentünk át, hiszen azt sem tudjuk, hogy mi az öntudat - ebből az is következik, hogy nem tudjuk majd megmondani, hogy mikor ébredt öntudatra a mesterséges intelligencia.

Az emberi egyedfejlődés folyamatában sem tudjuk megmondani, hogy na, EZ az a pont, ahonnan kezdve öntudata van annak az emberi lénynek.

Gondolatkísérlet: tegyük fel, hogy egy újszülött csecsemőt bezárnak egy teljesen ingerszegény környezetbe - mondjuk egy csupa fehér fallal borított, bútorozatlan épületbe, csak az életben maradáshoz szükséges táplálékot/egyéb körülményeket biztosítjuk neki.

Mi történik majd?

Remélhetőleg senki nem csinált még és nem is fog ilyen kegyetlenséget, de jó eséllyel egy majom szintjén marad egész életében, vagy még azt sem éri el.

Ráfoghatjuk, hogy öntudata van? Jó kérdés, nem merném rávágni a választ, hogy igen.

Végső soron az öntudat önmagában egyetlen emberi lény esetében talán nem is értelmezhető, lehetséges, hogy a definíciónak magába kell foglalnia a szociális kontextust is.

"És aki a komplett infrastruktúráját egyetlen, centralizált kontrollra, gépre bízza, az hülye"

Na jó, az látszik, hogy nem vagy szoftveres szakember, ha egyetlen gépben, meg egy azon futó programban gondolkodsz.

De megint csak az ember működését ajánlom figyelmedbe: itt sincsen egyetlen centralizált kontroll, egy emberi lényben számos alrendszer rendkívül bonyolult módon egymással együttműködve és egymásra hatva működik.

Manapság is az egész technológiai infrastrukturánk úgy működik, hogy egyes egységei felett egy-egy ember gyakorol kontrollt, persze szoros együttműködésben más egységek vezetőivel.

Például, ha van egy erőmű, annak az élén van egyetlen darab ember, aki a végső döntést meghozza, természetesen az alárendelt emberektől, és más egységektől, pl. a gyár(aki felhasználja az áramot), illetve a nyersanyag beszállító(szénbánya) vezetőjétől kapott inputok alapján.

Azt azért gondolom belátod, hogy a csákányos embert a bányában, aki fejti a szenet, vagy vasércet, meg lapátos embert az erőműben, aki a kazánba dobálja a szenet, meg hegesztő embert, aki a gyárban hegeszti össze az autót mondjuk, le lehet cserélni egy gépre. Nagyrészt már meg is történt igazából.

Precízebben dolgoznak, mint az ember, pontosabb inputokat produkálnak a supervisor felé, mint az ember.

Ugorjunk egy szintet, a - mostmár nagyrészt gépek - supervisorait, a műszakvezetőket, aki a saját alegységében a folyamatokat figyeli(inputokat gyűjt), beavatkozik, ha kell, illetve ő is outputokat produkál a felsőbb szintekre.

Lecserélhető ő is egy programra? Nyilvánvalóan. Nem biztos, hogy ma, lehet, hogy mondjuk 3 év múlva.

Jön az üzemmérnök szintje, majd a vezérigazgatóé, aki végső minden alatta születő lényeges döntést jóváhagy, illetve más egységekkel tartja a kapcsolatot.

Lecserélhetők ők is szofverekre?

Ma még nehezen képzelhető el, de a fejlődés ívét látva belátható, hogy eljön ez a pont is, hiszen a bányát "igazgató" AI nem kel fel bal lábbal/másnaposan/b-szatlanul reggel, mert az asszonynak fájt a feje, ezért nem fogja ingerülten ráb-szni a telefont az erőmű vagy az autógyár igazgatójára, stbstb.

Tehát az MI ágensek végső soron hatékonyabban irányítják majd a bányákat, az erőműveket, az autógyárakat, az egész termelési/eladási láncot, tulajdonképpen a marketingbe már rég betette a lábát a mesterséges intelligencia - célzott reklámok, folyamatosan visszacsatolás, chatrobotok, tehát már az emberrel, a vásárlóval való kommunikáció is valóság.

Amiben folyamatosan fejlődni fognak, mi pedig engedjük nekik, hiszen az a tapasztalat, hogy mindezen eszközök segítségével nő a ROI.

Szállítmányozás: ha a csomagszállításban pl. az átvételtől a szállításon, elosztáson, raktározáson át egészen a célba juttatásig szép lassan minden szegmensében kiváltja egy MI, amivel mindenki elégedett, mert nincsenek részeg sofőrök, elalvó postások, figyelmetlen alkalmazottak, akik elkavarják/összetörik a csomagodat, akkor az neked is jó.

Szóval miért ne engednénk akkor át az irányítást nekik?

Ez persze egy nagyon leegyszerűsített modell, de a koncepció világos, eddig is ezt csinálta az emberiség, ha valamit hatékonyabban tudott elvégezni egy gép/program, akkor rábízta, sőt, nem csak úgy ráhagyta a gépre, hanem tudatosan ebbe az irányba fejlesztette a civilizációt.

Na most onnantól kezdve, hogy a marketing AI-ok odáig jutnak a fejlődésben, hogy egyre meggyőzőbb és komplexebb kommunikációt folytatnak majd az emberekkel, az így szerzett inputjaik komplexitása a más területeken működő AI ágenseinek eljuttatott outputjaiban szintén reprezentálódik, ami még komplexebb működésre készteti a saját részterületén, stbstb.

Végül eljut-e ez az egész öngerjesztő folyamat odáig, hogy egyszercsak megszületik bennünk a percepció, hogy b-szki, ez az autógyári "gyárigazgató" AI ágens tulajdonképpen öntudatos?

Na ez egy jó kérdés, és szerintem mindaddig, amíg a mi kényelmünk fokozódik, azaz a saját megítélésünk szerint jót tesznek nekünk ezek az ágensek, fel sem fog merülni a gondolat.

Csak akkor fogunk majd ezen morfondírozni, ha olyan döntéseket kezd hozni, amik számunkra már nem feltétlenül előnyösek, és nem értjük, hogy miért, ilyenkor pedig már lehet, hogy késő lesz.

"Már hogy lenne irreális, épp ez az AGI lényege, ez a vízválasztó, hogy bármilyen problémára, bármilyen területen bevethető, nem igényel speciális programozást és paraméterezést egy-egy problémára, mint manapság, pl. a sakkozás."

Nem érted.

Akkor sem EGYETLEN mindenható MI fog mindent irányítani, csupán olyan fejlesztési irány folyik, hogy egy típusú Mi legyen alkalmas univerzális feladat-megoldásra.

Az nagyon nem ugyanaz.

"van rá némi esély, hogy jobban értem, mint te."

Én nem saját vélaményemre alapozok, hanme progamozókéra, akik esetlegesen többen vannak, mint te.

És ők állítják, hogy az öntudat nem olyan, hogy csak úgy létrejön egy nem arra egyértelműen alkalmasra, célzottan arra programozott szoftverben, csak attól, hogy az nagy.

Valamint azt is, hogy még az öntudatra ébredés sem jelenti azt, hogy képes lesz szándékosan az ellenkezőjét csinálni annak, amire programozva van.

Nem kéne túlgondolni informatikai vonalon sem ezt a technikai szingularitás teóriát.

A fejlődés sem jelenti azt, a ma látszólag exponenciális sem, hogy a "bármi" is létre fog jönni.

Főleg úgy, hogy alapvetően az öntudatosság mibenlétével és feltételeivel sem vagyunk tökéletesen tisztában.

És ismétlem, az öntudat sem jelenti azt, hogy valami attól megállíthatatlanul önhatalmúvá válik.

"Én nem saját vélaményemre alapozok, hanme progamozókéra, akik esetlegesen többen vannak, mint te."

És akiknek vélhetően közük sincs ehhez a területhez. Nagyon-nagyon kevés olyan programozó van, aki a programozás mellett magas szinten ért az AI-hoz IS, legalábbis Magyarországon.

Én magam sem tartozom ide, a programozás az erősségem, nem az AI, de vettem már részt néhány projectben az AI alapú nyelvfelismerés területén, ahol nyilván expertek irányítása alatt dolgoztunk, de egy átlag programozónál így is többet tudok a témáról, művelem magam a területen, beszélgettem is sokat erről a témáról a csapat szakértőivel.

"És ők állítják, hogy az öntudat nem olyan, hogy csak úgy létrejön egy nem arra egyértelműen alkalmasra, célzottan arra programozott szoftverben, csak attól, hogy az nagy."

Azt hittem, azt már letárgyaltuk, hogy nem tudjuk egzaktan definiálni az öntudatot sem, így aztán a megszületésének a körülményeiről ex cathedra kijelentéseket tenni elég nagy ostobaság, ha egy programozó ilyet állít, akkor buta.

Az egyetlen öntudatos entitás, amiről tényszerűen tudjuk, hogy az, mi magunk vagyunk. És minket sem programozott erre célzottan senki. Pont.

Ebből pedig viszont logikusan következik, hogy az öntudat létrejövése, bármit is jelentsen, nem igényel egy szándékos, célzott munkát egy másik öntudatos lény részéről.

"Valamint azt is, hogy még az öntudatra ébredés sem jelenti azt, hogy képes lesz szándékosan az ellenkezőjét csinálni annak, amire programozva van."

Lásd előbb. Egy öntudat nincs "valamire programozva".

"Főleg úgy, hogy alapvetően az öntudatosság mibenlétével és feltételeivel sem vagyunk tökéletesen tisztában."

De te ennek ellenére biztos vagy benne, meg a programozó haverjaid, hogy csak úgy magától nem fog kialakulni. Ez önellentmondás.

Egyébként itt van, amit az expertek gondolnak:

[link]

Bár ez nem az öntudatról szól, de csupán 20%-uk vélekedik úgy, hogy a humánt meghaladó intelligencia soha nem fog megvalósulni.

És még linkelhetnék jónéhány olyan szakcikket, ami arra predesztinálja az AI ágenseket, hogy operatív területeken átvegyék az irányítást, de igazából mindegyik abból a tényből ered, hogy a big data és mintafelismerés tekintetében az AI messze túlszárnyalja az embert.

"És ismétlem, az öntudat sem jelenti azt, hogy valami attól megállíthatatlanul önhatalmúvá válik."

Ez a fogalom is tisztázásra szorul, mit értesz az alatt, hogy önhatalmú? Hogy nem értjük teljesen, hogy mit miért csinál, és nem tudjuk befolyásolni?

Ha így érted, akkor az ember sem önhatalmú, legalábbis a marketing tudománya, intézménye épp azt mutatja meg, hogy statisztikai alapon tök jól megjósolható és befolyásolható az emberek viselkedése.

Van is egy ilyen szállóige, hogy a marketingre elköltött pénz fele ki van dobva az ablakon, csak nem tudjuk, hogy melyik az a fele.

"azt már letárgyaltuk, hogy nem tudjuk egzaktan definiálni az öntudatot sem, így aztán a megszületésének a körülményeiről ex cathedra kijelentéseket tenni elég nagy ostobaság"

Arról pont eleget tud már az agykutatás, hogy látsszon, számítástechnikailag nem simán arról van szó, hogy elegendő memória, processzorkapacitás és öntanulás csak úgy megszüli.

"Az egyetlen öntudatos entitás, amiről tényszerűen tudjuk, hogy az, mi magunk vagyunk. És minket sem programozott erre célzottan senki. Pont."

De. Az evolúció. Pont.

"nem igényel egy szándékos, célzott munkát egy másik öntudatos lény részéről."

Csak célirányos evolúciót. Ami igen hasonló. És nem azonos az AI-k iteráló-tanuló önfejlesztésével.

Nem mondom, hogy totálisan kizárható egy olyan, rettenetesen komplex öntanuló és önmódosító szoftver létrehozása, ami adott célfeladat végrehajtásához egyetlen vagy legalább optimális járható útként kifejleszti az öntudatot. De ez azért iszonyatosan sci-fi szagú.

"Lásd előbb. Egy öntudat nincs "valamire programozva"."

Lásd előbb: de van. :D

"te ennek ellenére biztos vagy benne, meg a programozó haverjaid, hogy csak úgy magától nem fog kialakulni"

Egyrészt lenéző fogalmazás, nem a "haverjaimről" van szó, hanem sok programozó hivatalosan kifejtett véleményéről. Tudod, olvasok is. Igen, hidd el, bármit is képzelsz rólam.

Nem fog, mert fizikális, strukturális feltételei vannak az agyban is. amiket egy számítógép esetében létre kell hozni. És egyelőre nem tudjuk, hogy kell.

Nem csak másfél kiló összeöntött neuron kell hozzá, ugyanúgy prociban sem.

"Ez a fogalom is tisztázásra szorul, mit értesz az alatt, hogy önhatalmú? Hogy nem értjük teljesen, hogy mit miért csinál, és nem tudjuk befolyásolni?"

Nem. Leírtam korábban. Azt, hogy egy bizonyos feladatra létrehozott AI nem az öntudat léte vagy nemléte függvényében fogja ezt mondani egy utasításunkra, hogy "egy nagy lóxart csinálom meg".

És egyébként ahhoz, hogy egy AI elég bonyolult legyen ahhoz, hogy nem értjük, mit miért csinál, nem kell öntudatosnak lennie.

Elég elcseszni az alapprogramozását és a kontrollját.

Semmi köze az öntudathoz.

"statisztikai alapon tök jól megjósolható és befolyásolható az emberek viselkedése"

Amíg nem társadalomban élő AI-k együttes viselkedésével veted össze, annyira nem releváns. :)

Az önhatalmúság alatt egyértelműen azt értettem, hogy lexarja, mi lenne a dolga, helyette saját döntésből mást csinál.

És erre az öntudatos ember is csak bizonyos határok közt képes, genetikai öröksége, ösztönei igencsak szűk határok közt tarjta az önállóságát.

Hát még egy AI esetén.

Ezért mondom, soha nem lesz egy AI olyan veszélyes, mint az ember.

És az öntudatra ébredést egyértelműen katasztrofális eredménnyel összekötni is totál alaptalan.

Semmi köze ahhoz, hogy egy AI lehet-e ártalmas.

Egy elcseszett AI ugyanúgy lehet ártalmas, mint bármi más elcseszett dolog és ennek nincs köze a tudathoz.