Lehetséges, hogy a technikai szingularítás fogja jelenteni a világ végét?

Na, ez éppen jó példa.

Képzeld: az első ötöt abban írták!

Tehát ez LEHETSÉGES.

És nagyon jó példa arra, amit mondasz: egy egyszerűbb dolog igenis képes magából létrehozni egy bonyolultabbat.

Sok helyen van ez a világban, nem csak itt.

"Nem létezhet olyan AI ami képes lenne magánál bonyolultabb AI-t gyártani, egész egyszerűen mert az önmaga létét cáfolná."

Ez jól hangzó lózung, amit sokat hallok kreacionistáktól. De eddig még soha egyetlen kreós se tudta ezt a kijelentését semmivel sem alátámasztani, semmiféle kézzelfogható bizonyítékot sem tudott mellette felmutatni. (Az nem minősül bizonyítéknak, hogy nem láttunk még ilyet, helyesebben hogy a kreacionisták nem láttak még ilyet.)

Mondjuk az MS-DOS-os példa valóban jó cáfolat erre, köszi hogy felhoztad. Az első grafikus felületű Windows operációs rendszert pl. C++-ban írták még anno. Pedig a C++ fejlesztői környezet pont ugyanolyan karakteres felülettel bírt, mint az MS-DOS, még véletlenül sem volt neki semmiféle grafikus jellegű programozói felülete.

"De eddig még soha egyetlen kreós se tudta ezt a kijelentését semmivel sem alátámasztani, semmiféle kézzelfogható bizonyítékot sem tudott mellette felmutatni."

Öööööööö ezt az ellenoldal se nagyon tudta megtenni. Nemigen tudott még olyan programot mutatni, ami külső beavatkozás nélkül elkészítette volna saját maga fejlettebb verzióját...még egy nyavalyás "ápdéthez" is emberi közreműködés kell, mert az adott szoftver gyakran még arra is képtelen, hogy detektálja önmaga hibáit, nemhogy kijavítsa azokat, vagy netán új megoldással hajtsa végre a feladatot, mellőzve az egész korábbit.

Egyszerűen informatikailag kivitelezhetetlen a feladat. Kb. mintha 150%-os hatásfokot várnánk el valamitől, amíg a 100%-ot is képtelenség elérni.

"Öööööööö ezt az ellenoldal se nagyon tudta megtenni. Nemigen tudott még olyan programot mutatni, ami külső beavatkozás nélkül elkészítette volna saját maga fejlettebb verzióját."

Bocs, de ez a kreósok problémája, nem a miénk :D Ti tettetek valami kijelentést, szóval a bizonyítás kényszere titeket terhel, nem minket. Bizonyítsd be, hogy így van ahogy mondod, és akkor majd a bizonyításra keresünk cáfolatot. Ha meg nem találunk, akkor elfogadjuk, mint bizonyított kijelentést. De amíg csak egy bizonyítatlan állítást teszel, addig nekünk semmiféle teendőnk nincs azzal kapcsolatban.

"még egy nyavalyás "ápdéthez" is emberi közreműködés kell, mert az adott szoftver gyakran még arra is képtelen, hogy detektálja önmaga hibáit, nemhogy kijavítsa azokat, vagy netán új megoldással hajtsa végre a feladatot, mellőzve az egész korábbit."

Igen, sajnos tényleg sok ilyen update akad. De ennek semmi köze sem a kérdéshez, sem az általad tett kijelentéshez, vagy annak valóságtartalmához.

Nem vagyok "kreós", ha erre gondolsz, egyszerűen csak olyan családban növögettem fel, ahol mindkét szülőm informatikával foglalkozott :) ehhez semmi vallási mellékzönge nem kell, hogy egy gép annyit tud csak, amennyit beleprogramoznak - nem többet. Egy programozó nem adhat olyan utasítást egy programnak, hogy "csináld meg saját magad fejlettebb változatát, szarok rá, hogy hogyan". Illetve adhat, de annak többnyire hibaüzenet vagy újraindítás lesz a vége. Alapból az a probléma, hogy egy program nem tudja magáról, hogy fejlett-e vagy fejletlen-e.

Egyelőre még az is csak szép álom, hogy a saját hibáit kijavítgassa ahelyett, hogy "szabálytalan műveletett hajtott végre, és le fog állni". Innen nézve pedig az, hogy majd önmaga fejlesztésébe fog, és ettől öntudatra ébred, meg eljön a doomzday, mindmeghalunk stb. maximum a szájeszfiksön művekben mutat jól.

"ehhez semmi vallási mellékzönge nem kell, hogy egy gép annyit tud csak, amennyit beleprogramoznak - nem többet."

Írtam már, az nem érv, hogy "eddig még nem láttunk ilyet, tehát nem is létezhet". Erről már millió és egy esetben bebizonyosodott, hogy messziről sem takarja a valóságot.

#26 ez nagyon szép, csak azt felejted ki, hogy idáig minden esetben emberi agy hozta létre a változást, nem a mesterséges intelligencia.

Sajnos egyetlen gép se Pokémon, hogy gondol egyet, oszt csak úgy továbbfejlődik saját magától...

A későbbi AI-król való találgatás meg nettó szájenszfiksön kategória. Az orr alatt elsusmorgott, szégyenkező "háááát egyelőre még nem találtak erre megoldást, de a kutatások már folynak ebbe az irányba, és majd egy napon..." bejelentésekkel meg nem tudunk mit kezdeni. 2000-re is megjósolt a sok félnótás idióta repülő autókat, légdeszkát, felhővárosokat, ételtablettákat, kolóniákat a Dzsúpitörön, aztán lett nagy koppanás, mikor elmúlt 2000 szilvesztere és a valóság rájuk rúgta az ajtót...

"idáig minden esetben emberi agy hozta létre a változást, nem a mesterséges intelligencia."

A legtöbb esetben igen, de azért vannak már sikeres kísérletek is.

És azt se feledd: az emberi agy sokszor csak a körülményeket teremti meg, és a MI hajtotta végre a dolgokat.

A másik: attól, hogy idáig nem ezt a módszert használtuk, attól még működik. NINCSEN ilyen korlát, amit emlegetsz, csak bizonyos rendszereknél.

De másféle rendszert is lehet építeni.

"A legtöbb esetben igen, de azért vannak már sikeres kísérletek is."

Jó, csakhát ez megint a "hááát sajnos még nem tart ott a tudomány, de már biztató kísérleteink vannak"-kategóriájú ígérgetés.

"És azt se feledd: az emberi agy sokszor csak a körülményeket teremti meg, és a MI hajtotta végre a dolgokat."

Az emberi agy alkotta meg a hardvert is, a szoftvert, magát az egész rendszert, amin belül az AI lefut. Már maga a feltételezés, hogy az AI egyszer saját magán túllép önerőből, ott megbukik, hogy ha képes is lenne gondolkozni az AI, csak a múltra, az eddig elért szintre alapozhat. Látja, hogy korábban ez, ez és ez volt, így meg így működött. Ebből viszont nem fogja megtudni, hogy hova-merre is fejlődjön tovább.

De felhozhatnám a hardverkorlátot is, mint cáfolatot, miszerint a végtelenségig nem lehet turbózni, fejleszteni valamit. A fák se nőnek az égig. A miniatürizálás is odáig pauzibilis, amíg az áram át nem húz az alkatrészek között.