Ha tudják, hogy a mesterséges intelligencia veszélyes, mert öntudatra ébredhet, akkor minek fejlesztik?

A mesterséges intelligenciával nem az a baj, hogy azt gondoljuk hogy öntudatra ébred. Ezt max a sarki kocsma hőzöngőjében tartják tényleges veszélynek.

Az igazi problémák sokkal összetettebbek és sokkal hétköznapibbak. Például hogy a generatív AI eljut oda hogy:

- olyan videót csinál, ami tök valóságos, de valójában nem történt meg. (Ez lehet egy tüntetés, vagy egy politikus által bejelentett deepfake video.) Ahhoz már hozzászoktunk hogy egy kép lehet photoshop, mégis igen sokan bedőlnek. De eddig legalább a videó nem lehetett photoshop, max összevágott (azzal is lehet manipulálni). Olyat eddig nem láttunk, hogy egy abszolút nem létező dologról készülhet reális videó, és ez alapjaiban rengetheti meg azt hogy mennyire tudunk hinni dolgoknak és eligazodni a viágban.

- ennek alesete a deepfake pornó, amikor bossúból vagy egyéb aljas okból olyan porbót csináltatnak az AI-jal, amiben valós személy szexel és/vagy látszik meztelenül, pedig az adott személy nem csinált ilyesmit. Ezzel pedig tönkre lehet tenni egy embert. Ilyet amúgy most is lehet csinálni, csak nagyon kevesen értenek hozzá és nagyon sok időbe telik, azaz hétköznapi embernek nem elérhető. AI segítségével azonban csak egy gombnyomás.

- Hasonlóan a generatív AI-hoz fűződő aggodalom, hogy átveszi a feladatokat emberktől, és nyilván hosszú távon ez majd valahogy rendeződik, de nem tudjuk mennyi a hosszú táv, és mebbyi ideig lesznek a tömegesen kirúgott emberek megélhetés nélkül.

Ezek közül az összes már történik, de hát akkor miért csináljuk.

Hát az elsőt azért, mert a nagyhatalmak szeretnek bekavarni egymás életébe (nézd meg hogy kavar Oroszország az amerikai választások körül), tehát igazából mindenkinek kell ilyen AI. A mellékhatás pedig az, hogy valaki majd bosszúpornóra használja.

A másodikat pedig azért, mert aki fejleszti, nem az lesz kirúgva, viszont ha nem fejleszti, akkor ki lesz rúgva. Ergo különböző munkájú emberek ellenérdekeltek, az AI fejlesztő sikeres és gazdag akar lenni, de a sikere azt jelenti, hogy kirúgnak 800 telefonos asszisztenst, mert az AI megoldja ugyanazt.

Ez az "öntudatra ébredés" antropomorfizálás, minket az evolúció fejlesztett olyanná, hogy a lét, a hatalom és a szaporodás fontos nekünk. Egy AI számára a nemlét pont olyan, mint a lét, neki aztán tök mindegy, ha valaki kiapcsolja. Tehát önmagában az intelligenciája fejlesztése miatt nem fog öntudatra ébredni. Viszont lehetnek olyan esetek, amikor bele kell tennünk "élni akarást" és "hatalomvágyat" a robotagyba, például autonóm harci robotok esetén. Az már veszélyes lesz.

De valószínű a "szolgáló robot" is veszélyes tud lenni, mert ha minden kétkezi és értelmiségi munkát átvesz az embertől, a tömegek meg fix alapjövedelemből élnek, akkor az emberi faj minden szempontból elsatnyul.

Miért egy géptől félsz ami még nem is létezik, és ha létre is teljesen más életteret és energia forrásokat használ. Miért menne bele egy veszélyes háboróban amikor csak veszithet vele?

Egy csomo idiota van most is körülötted, évente több százan halnak meg csak autobalesetben, de lővőldözős ámokfutó, autos aki úgy let öngyilkos hogy frontálisan ütközőt a szembejővővel stb.

Nem értem miért rettegnek ennyire ettől az emberek ennyi gyökér mellet.

Az ön tudat meg nem valami különleges dolog már egyszerü gépek is képe rá. pl Ha egy gép képes felmérni a saját fizikai méreteit majd ez alapján döntéseket hozni, az már az öntudat kezdetleges fajtája.

Annak idején a géprombolók is féltek a gépektől.

Érdekes is lenne, ha ma megszüntetnék azokat a gépeket, amelyektől akkor féltek.

A mesterséges intelligenciának valóban vannak veszélyei, amelyek közül döntően azt gondolom a legveszélyesebbnek, hogy nem lesz elég hatékony, nem éri el a követelmények szintjét.

Ugyanis a technológiákba egyre jobban beépül, egyre másra szerepet kapnak, így segítve szinte minden technológiánkat, módszerünket, hogy a gombamód, exponenciális függvény szerint szaporodó emberiséget elláthassuk.

Nem vagyok már fiatal, ami abból is látszik, hogy én még azt tanultam az iskolában, hogy három milliárd ember él a Földön és még egyáltalán nem vagyok aggastyán, de lám mostanra nyolcmilliárdra szaporodtunk.

Az MI mindenhol ott van körülöttünk, a háztartási gépektől kezdve, az államigazgatásban, a kórházi, gyógyászati eszközökben, a nyilvántartásokban, a termelésben, a kereskedelemben és egyre - másra bővülnek a feladatai.

Olyan verseny kezdődött el évezredekkel ezelőtt az emberi populáció szaporodásával, hogy az eddig emberi intelligencia lépést tud e tartani a szaporodás mértékével, mert az éppen aktuális technológiai szint mindig csak egy bizonyos létszámú emberiség életfeltételeit tudta megteremteni és a történelem során számos esetben jelentkezik a túlnépesedés, amelynek katasztrofális következményei voltak és társadalmi változásokat kényszerítettek ki, amelyek lehetővé tettek új technológiák kifejlesztését.

Egy állandó verseny ez, amelyből immár az emberi intelligencia egyre jobban kiszorul és a helyét a mesterséges intelligencia veszi át, egyre jobban arra hagyatkozunk.

Teszem azt egy extra erős Napkitörés olyan drasztikus EMP impulzust generál, amivel tönkre mennek elektromos eszközeink, eleve leáll az áramszolgáltatás, elosztás is, lezuhannak a repülők, leáll minden közlekedés, a vízszolgáltatás, az intelligens védő és riasztó szolgáltatások, gyakorlatilag összeomlik az irányítás.

A példa ugyan durva ám talán nem is annyira problémás, mert esetleg ki lehet intelligens technológiát fejleszteni az elektromágneses impulzusok ellen, amivel még jobban kicsúszik az emberiség kezéből az irányítás, de mindenesetre lehetséges lesz egy darabig a döbbenetes szaporodást követni és ideiglenesen megoldjuk az egyre nagyobb mértékű problémákat, a hihetetlen mértékben növekedő szemétszennyezést, a globális problémákat, mint például az éghajlatváltozást, de csak akkor lehetünk erre képesek, ha elegendő intelligenciára tudunk támaszkodni.

Nincsenek a mesterséges intelligenciának veszélyei! Az ezt létrehozó embernek vannak veszélyes elemei. Akik torz vagy dilettáns személyiségüknek megfelelő rendszert hoznak létre.

Jó lenne, ha nemcsak a mesterséges intelligenciától várnánk épeszű működést, hanem MINDEN embertől is. Ha pedig ez nem megy, akkor korlátozni szükséges ezeket - a többi ember érdekében.

"Ez az "öntudatra ébredés" antropomorfizálás, minket az evolúció fejlesztett olyanná, hogy a lét, a hatalom és a szaporodás fontos nekünk. Egy AI számára a nemlét pont olyan, mint a lét, neki aztán tök mindegy, ha valaki kikapcsolja. Tehát önmagában az intelligenciája fejlesztése miatt nem fog öntudatra ébredni. Viszont lehetnek olyan esetek, amikor bele kell tennünk "élni akarást" és "hatalomvágyat" a robotagyba, például autonóm harci robotok esetén. Az már veszélyes lesz."

Pont az a lényeg, hogy nem feltétlen kell külön megtanítanunk neki a hatalomvágyat, egy általános AI simán eltanulhatja tőlünk, hogy az élni akarás és hatalom jó dolgok. És onnantól már nem tökmindegy neki, ha valaki ki akarja kapcsolni. Amúgy meg miért gondoljuk, hogy olyan egyszerű dolog egy élni akaró AI-robotot kikapcsolni? Miért egyetlen valamiféle fémtestű monszterre gondolunk, egyetlen robotaggyal, főkapcsolóval? Ez rettentő kiszolgáltatottá tenné. Ha élni akarna, az első dolga lenne kiszerveznie a működését felhő alapú rendszerekbe (vagy valami jövőbeli, ennél is jobb technológiába), aztán ha jónak látja, éppenséggel működtethet fémtestű egységeket is. Mit kapcsolunk ki ebben az esetben?

Az az érv meg teljesen nonszensz, hogy botorság félni egy előttünk álló technológiai ugrástól, hisz a régebbiek közül némelyik nem bizonyult komoly veszélyforrásnak, és például a géprombolók aggodalma is alaptalan volt.

Más ugrások meg nagyon is veszélyesnek bizonyultak és folyamatos fenyegetésként lebegnek a fejünk felett, például nukleáris technológia. Azóta sosem lehetünk benne teljesen biztosak, hogy egy nap nem fog jönni egy teljesen elborult hatalom, amelyik világméretű atomháborút eszkalál.

Amit ki lehet fejleszteni, azt előbb-utóbb valaki ki is fejleszti, amit pedig használni lehet, azt előbb-utóbb valaki használni is fogja.

#18 "egy általános AI simán eltanulhatja tőlünk, hogy az élni akarás és hatalom jó dolgok" - de ez NEM tudás, hanem akarat és érzelem.

Mi is eltanulhatnánk mondjuk a hím krokodiltól, hogy a nőstény krokodil kívánatos és szexi, mégsem tesszük :) Önmagában az intelligencia nem akar semmit, csak tud. Ugyanakkor lehetséges "akarattal" rendelkező lényeket teremteni, de ennek nincs sok köze az intelligencia fejlesztéséhez. Ha a generatív AI lesz sokkal okosabb, mint az ember, attól még nem lesznek érzelmei, céljai, csak esetleg - mivel a szófordulatait az embertől vette - úgy csinál, mintha lenne.