Az MI/AI olyan mértékű kihalási kockázatot jelent az emberiség számára, mint a világjárványok vagy az atomháború. Igazuk lehet?

Én rengeteg veszélyt látok az AI-ban, de azt nem látom, hogy mégis hogyan tudná az emberiség kihalását okozni.

Azért mégiscsak az a helyzet, hogy mi fizikai élőlények vagyunk, tehát fizikailag meg kell minket semmisítenie.

Viszont AI egy virtuális valami - legrosszabb esetben tehát lekapcsoljuk az internetet meg a számítógépeket, és kész.

Oké, ezzel visszaregresszálunk vagy 100 évet a technológiai fejlettségi szintben, ami persze elég nagy szívás, de azért a kihalástól még nagyon-nagyon messze van.

# 3

Az AI például átveheti az irányítást az atomfegyverek fölött, és bevetheti ezeket az emberiség kiirtására.

#4

Egyrészt, a bulváros hollywood-i közhiedelmekkel ellentétben a mai nukleáris arzenál messze nem elégséges ahhoz, hogy kiírtsa az emberiséget.

Másrészt, hogyan vehetné át az irányítást?

Az indítókódokat nem tárolják számítógépen.

# 4

Érdekes, mert csak a 6000 orosz atomtöltet együttes bevetése 72 órán belül 1,5 milliárd áldozattal járna.

A járulékos veszteségek (sugárszenbyezés, mezőgazdaság összeomlása) elintezné a maradékot.

#6

Látom, képben vagy - ja, nem.

Először is, annak a 6 ezer nukleáris fegyvernek a háromnegyede raktárakban pihen.

Ami azt jelenti, hogy nem vethető be.

Mert

a.) vagy már nem is működik, és szétszerelésre vár

b.) vagy nincs hozzá eleve hordozóeszköz, csak tartaléknak van

Ami bevethető állapotban van, az kb. 1500-1700 darab fegyver.

Ezzel kb. az USA lakosságának kétharmadát lehetne a legjobb esetben is elpusztítani, ami a robbanások elsődleges hatását illeti, azaz kb. 200-220 millió embert.

Az USA-nak szintén kb. ugyanekkora bevethető arzenálja van, ami szintén el tud pusztítani további mondjuk 250 millió embert.

A maradék kisebb arzenállal bíró államok még összesen ugyanennyit.

Tehát ha direkt, szándékosan a népírtás a cél, akkor is csak 7-800 millió embert lehetne megölni a robbanások illetve a robbanáskor keletkező neutronsugárzás erejével.

A sugárszennyezésről meg annyit, hogy legfeljebb 2 hét alatt egy nukleáris fegyver bevetésének a helyszínén is már olyan minimális szintre csökken, hogy semmiféle akut problémát nem okoz a továbbiakban.

Esetleg pár százalékkal emelkedik hosszú távon a rákos megbetegedések aránya.

Tehát 1% helyett mondjuk 4-5% lesz mondjuk rákos betegek aránya, de ez még mindig azt jelenti, hogy 95%-nak semmi baja se lesz.

Azt meg mondjad már el nekem, hogy ugyan miért is omlana össze a mezőgazdaság pl. Argentinában, vagy Brazíliában, vagy afrikai országokban, ha ott nem robbant fel egyetlen nukleáris fegyver sem?

De még azt se látom be, hogy az USA-ban miért omlana össze a mezőgazdaság teljesen.

A fegyverek átlagos hatóereje 400 kT körül van, egy ilyen fegyver képes letarolni mondjuk egy 700 km2-es területet, ezt beszorozzuk 1500-al, az kb. 1 millió négyzetkilométer.

Az USA területe kb. 9,8 millió négyzetkilométer.

"Azért azt is vegyük számításba, hogy az AI-nak olyan lehetőségeket is feldobhat az algoritmusa, ami nekünk a korlátozott emberi agyunk miatt soha sem fog eszünkbe jutni."

Én számításba veszem, épp ezért írtam a 3mas válaszomban, hogy elég veszélyesnek tartom az AI-t.

De azt továbbra sem látom, a virtualitás korlátait hogyan tudná átlépni, hogyan tudná fizikailag kiírtani az emberiséget.

Ez szimpla fizikai kérdés, nem annak a kérdése, hogy nem jut eszembe.

Egészen addig, amíg nem áll az irányítása alatt egy egész hadseregnyi harci gép, amivel fizikailag meg tudna minket semmisíteni, képtelenség, hogy kiírtsa az emberiséget.

Azt a kérdést sem ártana felvetni, hogy miért is lenne neki jó, hogy kiírtsa az emberiséget.

Miért akarna ilyesmit csinálni?

Ha az egyetlen intelligens, öntudatos lényből indulunk ki, amit ismerünk, azaz saját magunkból, akkor azt látjuk, hogy mi sem írtunk ki szándékosan más fajokat.

Akaratlanul ez előfordult persze, de amióta tudjuk, hogy erre képesek vagyunk, inkább csak még jobban vigyázunk az élővilágra, még az olyan fajokra is, amiknek a létezéséből amúgy effektíve semmiféle hasznunk nincs.

Háborúban is megelégszünk azzal, ha leigázzuk az ellenséget, nem akarjuk mind egy szálig kiírtani.

Még az amerikai indiánokat sem írtották ki teljesen az európai hódítók, pedig megtehették volna.

De megelégedtek azzal, hogy meghódították a területet, a maradék indiánnal meg együttélnek.

Ebből kiindulva az AI, még ha ellenünk is fordulna, valószínűleg megelégedne azzal, hogy a bolygón az egyeduralkodó szerepet átveszi tőlünk, de ha már nem jelentünk veszélyt az uralkodására, akkor minek pusztítaná el az összes embert mind egy szálig?

Ez az ellenünk forduló, emberiséget kiirtani vágyó AI egy szalmabáb, nem ez az igazi veszély, hanem hogy indirekt történik meg. Az ember se szándékosan irt ki állatfajokat, hanem az emberi tevékenység miatt úgy változik a környezet, hogy abban nem minden faj tud megélni, és egy csomó kihal.

A híresebb AI-rettegők (Yudkowsky, Tegmark, Stuart Russell) félelmei ilyen jellegűek. Például az AI-jal kezelésbe vesszük a globális felmelegedés problémáját, egy ideig jól is megy a dolog, de hosszabb távon felborul tőle valami létfontosságú rendszer amiről addig azt se tudtuk, hogy létezik, és végünk van. Nem a gonosz AI a veszélyes, hanem az, hogy "emberfeletti" dolgokra lehet használni, ami nem csak a képességeinket sokszorozhatja meg, hanem a beláthatatlan mellékhatásokat is.