Etikus lenne a robotok és a mesterséges intelligencia továbbfejlesztését világszinten betiltani, hogy sohasem helyettesíthessék az embert?

Robet Miles egy AI biztonság kutató. Ő azt állítja, hogy a tiltás nem lenne előnyös, mert titkolózáshoz, kapkodáshoz vezet.

A valódi AGI olyan hasznos szerkezet, ami olyan kecsegtető, hogy biztosan fejleszteni fogják. Gyógyszerkutatás, gazdasági előrejelzések, haditechnika, sorolhtanám, ha nem is elég a kifejlesztöknek a világuralomhoz, elég ha monopol helyzetbe kerül.

Tiltás helyett az átláthatóságra, a nyitottságra és a biztonságos fejlődésre kell fókuszálni. Ha nyitott a kommunikáció, sokkal nagyobb eséllyel tudjuk feltárni a veszélyeket, mintha mindenki elvonulna a saját kis kutatóközpontjába és megtartaná magának a felfedezéseit.

Az etika és a tiltás egymást kizáró fogalmak. Talán ezzel kezdeném.

És folytatnám azzal, tiltani mindent és mindig csak ideiglenesen lehet. Változnak az erőviszonyok, változnak a tiltandó és követendő dolgok.

Etikus egyetlen dolog lehet: erősebben kéne szorgalmazni a megfelelő szintű oktatást. Bármire ez tudhat jó választ adni idővel. Vagy semmi, mert az ember ilyen.

De az nen AI. Hanem program, vagy robot.

Az AI, az magátol tanul, és maga oldja meg a feladatokat. Nem beprogramozott utasításra, hanem nagától.

Ilyen programba akármikor hiba csúszhat.

Keresőalkalmazásnak jó. De mást nem szabad rábízni.

Van helye a világban, de az embet nem válthatja fel. Nem a munkahelyek miatt. Bizonyos feladatok nem bízhatók rá.

07:55/07:59

Az a baj, hogy az ilyen hagyományos programok nagyon limitáltak az AI-hoz, a neurálus hálókhoz képest.

Hogyan írsz egy képfelismerő programot, hogyan tanítod nyelvekre, hogyan tanítod meg festeni? Stb. Ez mind a lehetetlennel határos a hogyományos programozással, a kapott program, legfejjebb gyorsabb lesz mint az emberi inteligencia, de egyébként alaposan elmarad.

Az AI fejlesztés során is adsz egy keretrendszert, amiben tanulhat, ha ügyesen választod meg, hogy minek "örül", hogy mi a "kellemetlen", azzal meg tudod határozni a viselkedését és a fejlődését. Ha nem is tudjuk pontosan mi játszódik le benne, már vannak diagnosztikai techikák amik segítenek megérteni őket. Ha zavar minket a tanulàsi kèszsèg, akkor be is fagyaszthatjuk, a fejlesztèsi folyamat vègèn.

A mai AI -al szerintem nem lesz annyira probléma, ezek még mindíg csak specifikus eszközök, a nyelv modell csak beszél, a festő csak fest...

De lehet igazad lesz a valódi AI-al, az általánios mesterséges inteligenciával/AGI-al kapcsolatban. Lehet az lesz a legjobb ha sosem engedjük ki a laborból, ahol majd megépítjük.