Logikailag lehetséges olyan robotot létrehozni ami épít egy nála fejlettebbet ami aztán egy még fejlettebbet és így tovább?

Egy robot nem képes önálló gondolkodásra, olyan algoritmus meg nem létezik, ami minden lefutással egy újabb 'technológiát' adna ki.

Megtudják azt mondani a robotnak, hogy ilyen és ilyen műveletek elvégzésével alkosson egy másikat, vagy egy hozzá hasonlót, de ezt is a programozó ülteti belé.

Egyedül akkor tudna minden robot egy nála fejlettebbet létrehozni, ha feltudná térképezni a saját hibáit/hiányosságait, és tudna önállóan cselekedni, hogy ezeket a hiányokat egy új robotban eszközölje.

Ezt nagy vonalakban úgy képzeld el, mint ha te egy teljesen tökéletes embernek gondolnád magadat, akinek semmi hibája nincs, ezért ha megkérnének rá, hogy alkoss egy nálad jobb embert, akkor nem tudnál mit kezdeni, mert ahhoz, hogy jobbat alkoss, előbb fel kell tudnod ismerni magadban a hibákat, erre viszont egy robot, érzelmek híján, fizikailag képtelen.

Persze hogy lehetséges. Meg is fog történni.

"Meg kell írni az újabb robot sémáját, ami aztán megint csak azt tudja megépíteni amit a beágyazott sémák engednek."

"Egy robot nem képes önálló gondolkodásra"

"Megtudják azt mondani a robotnak, hogy ilyen és ilyen műveletek elvégzésével alkosson egy másikat, vagy egy hozzá hasonlót, de ezt is a programozó ülteti belé. "

Ezek tévedések. Nincs alapvető különbség az emberi gondolkodás és a gépi között. Mi is biorobotok vagyunk. Sokkal fejlettebbek vagyunk, mint a gépek, amiket jelenleg építeni tudunk, de ez nem lesz örökre így. Ha a gépeket eléggé felfejlesztjük, azok is képesek lesznek innovációra, mert miért ne lennénk rá képesek. És akkor elérjük ezt a bizonyos szingularitást. Nem csak lehetséges, de megkockáztatom, hogy elkerülhetetlen.

Lehet, hogy az ember által ismert élővilág is egy ilyen szingularitás eredménye vagy következménye, de az is lehet, hogy maga az univerzumunk is valami hasonló módon jött létre.

"Megtudják azt mondani a robotnak, hogy ilyen és ilyen műveletek elvégzésével alkosson egy másikat, vagy egy hozzá hasonlót, de ezt is a programozó ülteti belé. "

És miért törvényszerű az, hogy egy ilyen robotba nem lehet legalább annyi ismeretanyagot beletáplálni, mint amennyit az őt programozó programozó tud? Ma már az interneten fellelhető Wikipédia is többet tud, mint amennyit bármelyik ember a Földön egyáltalán képes lenne megtanulni. És ráadásul mindezt 10-100 nyelven. A Wiki pedig a teljes világhálón fellelhető ismeretanyagnak csupán a töredékét tudja.

Egyébként írható önfejlesztő szoftver, és már írtak is ilyet. A legnagyobb problémát nem ez jelenti, ez már készen van. A legnagyobb problémát a külvilággal való kapcsolattartás jelenti egy ilyen robot számára. Az érzékelőin keresztül ugyanis olyan irdatlan mennyiségű adat áramlik be, hogy ha azt mind fel akarná dolgozni, a processzorai képtelenek lennének megbirkózni a feladattal. Tehát a legnagyobb problémát a megfelelő szűrők alkalmazása, és ezek helyes beállítása jelenti jelenleg. Olyan szűrőké, amelyek kiszűrik az érdektelen információkat de átengedik az érdekeseket. És ez a legfőbb probléma, hogy a robot el tudja dönteni, hogy mit szűrjön ki és mit ne, mi az érdekes és mi az érdektelen információ számára.

Az evolúciót két dolog hajtja. Az egyik az, hogy nincs hibátlan másolás. Minden másolás lényegéből adódóan visszavezethető egy egyensúlyi reakcióra, amikor is a nyers (éppen készülő) másolat két vagy több állapot közül felveszi a másolt dolog alakját. Éppúgy igaz ez a DNS-re, mint a biteket tároló mágneses részecskékre a merevlemezen. A másolás pontosságát tetszőlegesen lehet közeíteni a nullához, de sose lehet azt elérni. (Azaz például ha az alapfolyamat mondjuk 1% eséllyel hibázik, és a szűrő is 1% eséllyel hibázik, akkor 0,01% lesz a rendszer tényleges hibarátája. Ha a szűrőt megint ráeresztem, akkor 0,0001%.) Ez igaz a számítógépben a fájlok másolására is, csak ott úgy van beállítva az ellenőrzés hatékonysága, hogy lehetőleg egymilliárd év alatt se kapjunk hibás másolatot. Az evolúcióhoz arra van szükség, hogy a másolási pontosság még elég nagy legyen ahhoz, hogy az utód életképes, a szülőhöz hasonló dolog legyen, de azért elég sok hiba jöjjön létre ahhoz, hogy létrejöhessen valami jobb.

A másik dolog a szelekció. Ha csak másoljuk a hibás dolgokat, de egyik se jobb a másiknál, akkor nincs evolúció. Ha viszont, például építünk egy robotot, aminek egyeten dolga önmaga másolása, illetve minden másolás után átjutni egy számára lehetetlen csapdán, akkor elvileg nagyonis lehetséges, hogy az egyik másolat úgy lesz hibás egy extra valami beépítésétől, hogy átjut. És ezzel értelemszerűen komplexebb is lesz, hiszen mindent tud, amit az előd, plusz egy új dolgot is. Persze ez egy irányított evolúció, hiszen mi mondjuk meg, hogy mi a szelekciós feltétel. Mivel nyilván csak a csapdán átjutásra szűrünk, nem fog spontán lángszóró kialakulni.

A természetben ez nincs így, semmi nem mondja meg előre, hogy mi lesz a "jó" tulajdonság (ezért is nem csak egyféle léőlény van), ellenben laboratóriumban gyakran evolváltatnak géneket ilyen irányított módon.