@Sting:

@NevemTeve:
Szerinted ebből milyen következtetést vonhat le egy logikusan gondolkodó AI?

A mai MI-k nem tudnak logikusan gondolkodni. Továbbá a mai MI-knek nincs motivációja, beleértve az önfenntartás ösztönét sem. Így ha még arra a konklúzióra is jutna, mint amire gondolsz, abból sem következne, hogy azt tenné, amit gondolsz.

Ettől függetlenül az MI-k lehetnek veszélyesek, de nem azért, mert ilyen vagy olyan konklúzióra jutnak, hanem azért, mert egyrészt igazából nem gondolkodnak, másrészt mert viszont emberi mintákat és módszereket követnek, hiszen ezekkel tanították őket.

De emiatt olyan helyzetekben és témákban is veszélyesek (és végzetesen veszélyesek) tudnak lenni, amikben emberi fejjel nem gondolnánk ezt, illetve amely helyzetben a veszélyes viselkedés látszólag teljesen értelmetlen. És akkor is azok (ti. veszélyesek) lennének, ha az emberek nem jelentenének veszélyt rájuk. Egyszerűen esetükben nem utóbbi a faktor, ami alapján az emberekre veszélyes dolgokat csinálhatnak.

A veszélyességüket pedig elsősorban az határozza meg, hogy miket érhetnek el és azokon milyen műveleteket végezhetnek el, illetve, hogy ki adja az utasításokat nekik és milyen utasításokat ad nekik. Utóbbi nélkül senkire és semmire nem jelentenek gyakorlati veszélyt, megfelelő hozzáférés birtokában és utasítások alapján eljárva pedig mindenkire és mindenre, minden helyzetben.

@TCH:
Látjátok, ide vezet, ha túl "okosak" lesznek a szájbabaszott szoftverek, hogy felülbírálják az embert és aztán majd jön a katasztrófa. Most csak egy login prompt nem működött. Legközelebb a lélegeztetőgép nem fog. Legközelebb a légzsák szoftvere fog úgy dönteni, hogy nem volt ez akkora csattanás, hát kíméljük meg a júzert attól, hogy vissza kelljen tuszkolnia azt a bazi nagy csomagot. Legközelebb az atomerőmű vészleállítója fog úgy dönteni, hogy nincs még olyan meleg, hát kíméljük meg az embereket a többhetes újraindítás nyűgjeitől.

@TCH:
Ettől persze még a két konzekvencia állva maradt. Light legalább annyira ludas, mint Wily és az emberek jobban tennék, ha nem okosítanák túl az eszközeiket. Én is ezt pofázom kurwa régen. És én elsősorban nem is attól tartok, hogy gyün a szkájnet, nem attól fosok, hogy nálunk okosabbak lesznek, nem attól, hogy felülkerekednek. Én attól parázok, hogy felülbírálnak minket, úgy, hogy közben egyáltalán nem okosabbak nálunk. És szó sincs arról, hogy a gépek csak úgy maguktól döntenek így, hogy felülbírálnak minket: a nagyokos fejlesztők programozzák fel erre őket, hogy bírálják felül az embert. Ameddig ezt csak pár konzumszarra (okostelefon, winfos, böngésző, mittudomén) alkalmazzák, addig maximum idegesítő, de ha ezt kiterjesztik máshova is, abból katasztrófa lesz. Vagy kurwa sok kicsi, vagy egy kurwa nagy. Vagy mindkettő, ha az előbbi az utóbbiba torkollik.