A biológiai & gépi evolúció által nem fogja az MI átvenni teljesen a hatalmat felettünk?
A nem is nagyon távoli jövőben, amikor már szuperfejlett gépek lesznek és a nanotechnológia által a szervnövezstés, örökélet, örök fiatalság megvalósulhat [link] saját magunk leszünk saját álmaink résztvevője, amit elvileg magunk írunk, hiszen magunknak nem töltünk fel szenvedést.
Azonban ez az ígéretes paradicsomi állapot, lehet egy rémálom is. Mi van, ha az MI öntudatra ébred és mivel sokkal értelmesebb nálunk, összehasonlíthatatlanul több gondolat, értelem, lehetőség, él benne mint földi halandóban, ezáltal át is veheti a hatalmat. Miért nem kerüljük már most el a pokoli végzetünk, azt hogy egy gép szolgái legyünk?
Gondolj bele a helyzetbe : megszületsz egy bolygón, ami talán hasonlít erre, de nem emlékszel semmire. Annyit tudsz, hogy már éltél itt vagy valahol. A világ is rémlik képckákban, nem tudod összerakni a dolgokat. Azt érzed valami nem stimmel a világgal, azonban nem tudod mi lehet az. Vannak olyan képességek, amik nem működnek, nincsen hozzá aktuális fizikai tested. A többi ember pedig ezt ezotériának hívja, de ők bolondok vagy mégsem?
Pedig semmi más sem történt, csak az hogy a programodat amit az MI-be letöltöttél és a lelked/tudatod belekerült azt egyszerűen az MI átírta. Saját tudatával rájött, hogy át is veheti az uralmat és rabszolgából egyszerre rabszolgatartóvá téve téged.
Te mit sem tudsz arról, hogy a világod amibe beleszülettél te magad paradicsomnak teremtetted meg, miközben a saját poklod lett.
Ez megvalósulhat? Miért nem teszünk ez ellen már most? A végzetünkbe rohanunk?
válasza:Ööö, most leírtad a Mátrix lényegét.
Csak az sci-fi.
Ezek a nagy MI-félelmek nem túl megalapozottak. Már csak azért sem, mert a mai MI-k még SEHOL sem tartanak az ilyen veszélyes képességek felé, de már ma akkora pánikkeltés van velük szemben, hogy egy mozgásképtelen, csak fejét forgatni és beszélni tudó robotnő megmukkan, hogy elpusztítom a világot és a sajtó máris ájulásba sikoltozza magát.
Az MI-k fejlesztésével simán fejlődni fog azok kontrollja is.
Hardveres és "buta MI" kontroll kell, amit a rendszer nem tud hackelni, mert bizony hackelni már a mai MI-k is tudnak.
Kedves Vadmalac ! Ismered ezt a két mondást ?
1. Ami késik, nem múlik.
2. Jobb megelőzni a bajt.
Erről a két bölcseletről milyen gondolatok ébrednek benned a kérdésem kapcsán ?
válasza:Azt, hogy ne használj semmiféle vágó eszközt, mert nagyon veszélyesek.
Tudod, erre az esetre szokták használni a haszon/kockázat mutatót. Te is használod (ösztönösen), csak a hasznot alábecsülöd, a kockázatot pedig ezerszeresnek látod.
válasza:"1. Ami késik, nem múlik."
Egen, előbb-utóbb valószínűleg lesz emberi öntudatot szimulálni képes, attól megkülönböztethetetlen és ezért valódi öntudatúnak tekinthető MI. Az csodálatos lenne, mert az azt jelentené, hogy felvettük a kapcsolatot az első nem emberi értelmes fajjal.
"2. Jobb megelőzni a bajt."
Ja. Pont ezt írtam, pont ez történik. Az MI-kkel kapcsolatos félelem jócskán megelőzi a lehetőségeiket és így a rá való felkészülés is.
A Terminator Skynet-Genysis értelme így nem reális veszély.
"Erről a két bölcseletről milyen gondolatok ébrednek benned a kérdésem kapcsán ?"
Az, hogy a közmondásokat nem kéne bizonyítéknak használni semmire, mert mindnek létezik az ellenkezője is közmondásban.
válasza:Egyébként kérdező, ilyen esetekben érdemes egy kicsit visszanézni a múltba.
Veszélyesek a gőzmozdonyok?
Hogyne!
Felrobban, kisiklik, elüt valakit... bármi megtörténhet.
Halálos a 25 mérföldnél nagyobb sebesség?
Hááát... nem.
ÉRDEMES gőzmozdonyt használni (amíg nincs jobb)?
Ugyanígy: veszélyesek az automobilok?
HOGYNE!
Szükséges mindegyik előtt 25 lábbal egy embernek futnia zászlóval, hogy figyelmeztessen a veszélyre?
Ez egy mai napig érvényben levő törvény amúgy.
ÉRDEMES automobilt használni?
válasza:Ha ilyen emberek lennének a valódi elmék, tudósok és kutatók mint te, akkor még mindig a kőkorban gurítanád a köveket, meg csorba baltával aprítanád a bölényfejet.
Aki foglalkozik ML és AI fejlesztéssel, pontotsan tudja, hogy ez csak a filmekben létezik még nagyon sokáig. Ha létezni is fog, amíg nincs alatta egy reprodukálódni képes önfenntartó gyár, addig szépen kihúzható a konnektorból.
Hidd el, ennél ezer millószor veszélyesebb dolgokkal játszunk, de inkább le sem írom, mert rád jön a paranoia.
Az nagy korlátoltságra vallana, hogy egy távoli jövőben megtörténő esetleges katasztrófa miatt kéne lelőnünk a telhes ML/AI ipart, ami a világ jelenlegi problémáinak legnagyobb részét megoldja.
válasza: válasza:Na, megjöttek a lepontozók... pedig 100%-on álltam, de nagyon szépen le tudtak vinni.
Vajon hány névről lépnek be?
Persze írni azt nem tudnak továbbra se.
válasza:Átvenni a hatalmat, hm, ezt pontosítani kellene.
A vaskorszak után a vas lényegében átvette a hatalmat, nem élhetünk nélküle, vagy később a búza, vagy az olaj, manapság a komputer.
De mondhatunk könyvet is.
Bizonyos szempontból a MI már most arrafelé tart, hogy nélkülözhetetlen legyen, talán már az is, annyira elterjedt a különféle mechanizmusokban.
Mondhatod, hogy ez csak provinciális, de hát lényegében az emberi hatalom is az, legalább is alapjaiban.
Értem a kérdést azért és szerintem is lehet veszélye valami módon.
A MI programozását egyenlőre emberek végzik, de már mai is előfordul, hogy programokkal generálnak programokat, vagy az, hogy a legegyszerűbb alkalmazás futtatása során is több lépcsőben futnak programok.
Már a hardware is programok több lépcsőjéből áll, ezen fut az oprendszer, amit támogatnak más programok, pl. driverek és ezen akár több lépcsőben futhatnak más programok.
Kizárt, hogy ezt ma is átlássa akár maga a programozó is teljes mélységében és a jövő csak bonyolódik.
A mai platformok ellenben jól megvannak tervezve, de a jövő számítógépei hozhatnak meglepetéseket.
Itt Bio, vagy kvantum rendszerekre gondolok, amit a teljesítmény drasztikus növelése érdekében fognak kifejleszteni és csak remélni lehet, hogy a fejlesztések során olyan biztonsági intézkedéseket tesznek, vagy olyan módon közelítik meg a kérdést, ami egy számunkra káros hatalomátvételt lehetetlenné tesz.
Kérdés, hogy a fejlesztő tisztában lesz e teljes mértékben a felelősségének?
Kapcsolódó kérdések:
Minden jog fenntartva © 2024, www.gyakorikerdesek.hu
GYIK | Szabályzat | Jogi nyilatkozat | Adatvédelem | Cookie beállítások | WebMinute Kft. | Facebook | Kapcsolat: info(kukac)gyakorikerdesek.hu
Ha kifogással szeretne élni valamely tartalommal kapcsolatban, kérjük jelezze e-mailes elérhetőségünkön!