Az ember által létrehozott mesterséges intelligencia "meghódíthatja" akár az egész Univerzumot?

"Nem az agresszióra gondoltam, inkább érdeklődésre, tudásvágyra"

Ezek nálunk mind nagyon ősi, genetikailag kódolt késztetések nálunk. Sőt, még a fajfenntartás is, ami egy gépben megint csak nem kell, hogy meglegyen. A saját fenntartási vágya sem magától értetődő.

Annak idején, amikor erről olvastam még az volt az elfogadott teória, hogy az univerzum egyre növekvő sebességgel tágul és úgy tűnik ez nem fog megállni, azaz a nagyon távoli jövőben minden egyre távolabb kerül egymástól és az univerzum hideg, sötét hely lesz.

De ne szaladjunk ennyire messzire, a szomszédos naprendszereket és önmagát a galaxist szubjektív véleményem szerint hamarabb képes egy intelligens gépfaj beutazni, mint mi. A gép nem alszik, nem eszik, nem iszik, nincsenek biológiai szükségletei, nem lélegzik, nem betegszik meg, nincsenek pszichés igényei, stb.

Ha az emberiség esetleg a kihalás szélére sodródna, akkor nem a génjeink fognak túlélni, hanem az általunk felfedezett tudás összessége, ami egy robotfajban fog koncentrálódni. Esetleg az űrhajók egyben digitális könyvtárak és maghordozók is lesznek, amik az emberi örökítőanyagot már csupán kuriózumként fogják szállítani.

Ez természetesen nem a valóság, hanem a sci-fi kategória.

"Az is lehet programozott. De az viszont még kisebb eséllyel veszélyes ránk."

Az érdekellentétek miatt nem lehet veszélyes egy akár empatikus MI?

Ha nem is maga az a mesterséges intelligencia, amit az ember hoz létre, de annak a hatása. Ha létrejönne egy ember által alkotott mesterséges értelem, akkor az létrehozhatna egy nála is fejlettebbet (vagy csak saját magát fejleszthetné, ez ebből a szempontból lényegtelen), ami ugyanezt tehetené, és így tovább. Ez feltehetóen nem tartana neki évtizedekbe, mint az embereknek tart jelenleg, hanem akár pillanatok alatt generációk jöhetnének létre, ami idáig elképzelhetetlen mértékű, és gyorsaságú technológiai fejlődéshez vezethetne (ez talán a legvalószínűbb módja annak, amit szingularitásnak nevezünk).

Ha ez bekövetkezne, akkor jelenlegi tudásunkkal nem tudjuk megjósolni, hogy mi lesz majd lehetséges.