Ha a jövőben megvalósul az MI (mesterséges intelligencia), majd a jövőbeli fejlesztések hatására ráver az emberi intelligenciára (akár több milliós méretekben), attól az még mindig csak egy technikai eszköz marad, vagy annál (valamivel) többé válik?

Ha nálunk sokkal okosabbá válik, ráadásul a programnak kialakulnak kifejezetten emberei vonásai is, akkor semmi oka nem lesz arra, hogy az emberek szolgálatában álljon.

A Homo Sapiens azon az alapon teszi magát a többi állat fölé (noha rendszertanilag ő is állat), hogy sokkal intelligensebb. Ebből a logikából kifolyólag a MI-nek semmi oka nem lesz arra, hogy egy alacsonyabb rendű fajt szolgáljon. Az mindenesetre sci-fi szerűnek tűnik, hogy az egész emberiséget kiírtaná, bár megtörténhet.

Valószínűbbnek látom viszont azt a verziót, hogy az emberek össze fognak olvadni a gépekkel, a biotechnológia hatására szépen lassan. Az emberek ezáltal függni fognak a MI-től, ami szintén egy bizonyos értelemben a gépek uralkodását jelenti.

Ha azt a verziót vesszük azonban, hogy a biotechnológia nem egy globális fejlesztését jelenti az emberiségnek, csak a gazdagok kiváltsága lesz, akkor nem ők, hanem az emberiség azon része kerül hátrányba, akik azon nem estek át. Kérdés, hogy a hátrányos helyzetből miként lehet majd kitörni. Mert nyilván lesz rá mód.

nem valószínű,és az sem,hogy valaha megelőzi a humánt,általános, összesített intelligenciában,

részfeladatokban már ma is messze túl képes teljesíteni az embert.

mert, amiről nem sokat beszélnek ,

a MI-vel kapcsolatban, az az,hogy a manapság divatos deep learning (mélytanulás) minden más módszert kiszorított, a MI ''programozására'' és ezért, vagy ettől függetlenül is

egy MI, valószínüleg soha nem lesz képes a kauzalitásra (ok,okozati tényezők) felismerésére,figyelembe vételére,

és még ha valami ismeretlen,lehetetlen okból, öntudatára ébred, akkor is egy sima középiskolás gyermek ,de lehet egy általános iskolás sima gamer is, amilyen rafináltak, simán kenterbe veri, mind stratégiai, mind logikai szempontból.

Mit jelent az, hogy ráver az emberi intelligenciára? Az MI-ket specifikus feladatok elvégzésére szokták fejleszteni. Emiatt arra az egynéhány feladatkörre nagyon jók, amire tervezve, amire programozva lettek, de kb semmi másra nem.

Teszem azt, egy sakkozó MI lehet hogy 10 játszmából tízszer megver bárkit, de minden más játékban kenterbe verné egy amatőr is, ha arra nem lett programozva.

Mit értesz azon, hogy "valamivel többé"?

Például öntudattal bíró élőlénnyé?

Ez defíníció kérdése.

Az öntudat mai legjobb definíciója, hogy az öntudat az egy szubjektív tapasztalat saját magadról, mint ilyet, kívülről megítélni és mérni és eldönteni nem lehet.

Persze lehet úgy is definiálni, hogy öntudatos az a "valami", amit mi magunk, öntudatos lények közmegegyezéses alapon annak ítélünk, ebben az irányban gondolkodva már egy megfelelően komplex szimuláció is elhitetheti magáról, hogy van öntudata, még akkor is, ha egyébként nincs meg az a szubjektív tapasztalata saját magáról, ami nekünk megvan.

Élőlény; a jelenlegi kritériumok szerint anyagcserével kell, hogy rendelkezzen, de egy virtuális élőlényre ez már nem feltétlenül igaz, tehát végülis itt is azon múlik, hogy hogyan definiáljuk.

"Teszem azt, egy sakkozó MI lehet hogy 10 játszmából tízszer megver bárkit, de minden más játékban kenterbe verné egy amatőr is, ha arra nem lett programozva."

Azért ezen már túllépett az AI, nem kell a hagyományos értelemben véve "programozni" egy adott feladatra, nem kell már alfa-béta vágást implementálni egy sakkprogramba.

A mély neurális hálók megerősítéses tanulással szinte bármilyen játékban leiskolázzák az embert nagyon gyorsan, legyen az olyan egyszerű, mint a super mario, vagy olyan bonyolult, mint egy DoTa 2v2 team meccs.

- Nem tudjuk, mi az öntudatra ébredés feltétele

- Nem tudjuk, mi az öntudat, agyi szinten is csak kapisgáljuk, de valószínűleg túlgondoljuk a jelentőségét

- Az öntudatra ébredés nem jelent automatikusan ellenszegülést a "programozásnak".

- Az esetleges önfejlesztő AI ember intelligencia fölé emelkedése nem jelent automatikusan mindenhatóságot.

- Éppen eleget ijedezünk mára létezése előtt a veszélyein ahhoz, hogy tudjuk, hogy korlátok közt kell létrehoznunk.

- Ezen korlátok elhagyása, esetleges ártalmas AI létrehozása ugyanúgy emberi szándékos rosszakarat lesz, azonos hatással, mint egy globális, kiterjedt hackerhálózat. A hiba, a veszély továbbra is mi vagyunk, nem az AI.

Mindenki elfelejti, hogy a Mesterséges Intelligencia programozója nem mindegy milyen ember.

Egyébként pl. a Star Trek doktorának elődje valószínűleg egy Mesterséges Intelligencia volt.

Az eszközt nem mindegy mire használják. Ez a titka.