Az Ön kritikusa, őszinte és pártatlan véleményekkel

Kritikus

A mesterséges intelligencia, robotok, droidok kora következhet? [4.]

2019. március 06. - Nietzsche_

Miért olyan népszerűek -- évről évre egyre jobban -- a droidokkal, robotokkal és replikánsokkal kapcsolatos filmek? Miért van az, hogy ennyire foglalkoztatja napjaink emberét a mesterséges intelligencia és szingularitás kérdése? A választ csak találgatjuk, de ha magunkba nézünk és a mindezekkel foglalkozó filmeket górcső alá vesszük, akkor rájövünk arra, hogy az MI egyszerre félelmetes és lehetőségeket megnyitó téma. De miről is van szó pontosan? Olyan ember alkotta, vagyis mesterségesen teremtett berendezésekről, gépekről, logikai egységekről, melyek az emberhez hasonló gondolkodásra, kognitivitásra képesek (és amellett többnyire emberszerűen is néznek ki).

mi_1.JPG

 

Ridley Scott 1982-ben készítette el a Blade Runnert, majd két évvel később jött James Cameron és a Terminátor. A két filmsiker óriási lökést adott az androidokkal, robotokkal, szintetikus teremtményekkel kapcsolatos és a MI -t boncolgató filmeknek. Következtek a téma mélyebb összefüggéseit feltáró művek, például az Én, a robot (2004) és az Ex Machina (2015). Ezekben már felvetődött a kérdés: kialakulhat e valódi, érzelmekkel teli kapcsolat (barátság, szeretet vagy akár szerelem) mesterséges intelligenciával rendelkező "teremtményekkel"? A talányt már Ridley Scott is érintette a Szárnyas fejvadászban, amikor a történetbe "belecsempészte" Deckard és Rachael (a replikáns nő) szerelmi kapcsolatát.

mi_4.JPG

Jelenleg az emberiség ott tart, hogy rendkívül modern és nagy teljesítményű számítógépeket készit, de egyelőre nem tudja megoldani az önálló gondolatok megalkotására képes, váratlan helyzetekre emberi módon reagáló, emóciókat is generálni tudó mesterséges kognitivitás kihívását. Ugyanakkor csak idő kérdése, hogy az áttörés megtörténjen. Az amerikai Pentagon és az orosz hadügyminisztérium is jelentős összegeket fordít olyan programokra, melyek célja intelligens fegyverek kifejlesztése. Ezen túlmenően az orvostudomány, illetve bioinformatika is ott tart, hogy hamarosan használja (és felhasználja) az MI jelentette előnyöket.

m1_5.JPG

Ami mindenkit foglalkoztat: a megszülető MI képes lehet e szembefordulni az emberiséggel? Létrejöhet e egy Skynet, vagy egy Sasszem (Eagle Eye -2008) esetleg egy Matrixból ismert központi intelligencia, mely akár elpusztításunkra is törhet? Más megközelítésben -- érzelmi vagy jogi kérdéseket feltéve -- ha majd egyszer legyártásra kerülnek az első MI -val rendelkező gépek, szükségét érezzük e majd annak, hogy ezeket emberi külsővel ruházzuk fel? És ha igen, egyenrangúak lehetnek e valaha is velünk? Érezhetünk e ugyanolyan érzelmeket a mesterséges "emberek" iránt, mint egymás iránt?

Az önfejlesztő androidok, mesterséges intelligenciával bíró gépek, AI rendszerek számtalan előnyös és hasznos fejlesztésnek is részesei lehetnek, például az orvostudomány mellett a közlekedésben (önvezető autók), a mezőgazdaság forradalmasításában vagy a klímaproblémák megoldásában. Ha viszont az ipari lehetőségeket vizsgáljuk, gyorsan beleütközhetünk abba a veszélyhelyzetbe, hogy az MI rengeteg emberi munkát kiválthat, feleslegessé téve milliók munkáját. Egyes prognózisok szerint egy nap a mesterséges intelligencia MINDEN emberi tevékenységet és munkakört kiválthat, vagyis eljöhet az idő, hogy csak robotok, gépek, androidok fognak dolgozni helyettünk. Addig azonban még sok év eltelhet úgy, hogy előbb a haderő-fejlesztések részesülnek az ilyen irányú innovációkból és az első AI systemek a katonai alkalmazásban kapnak majd teret. Itt viszont vissza is érkezünk a kiindulópontunkhoz: a mesterséges intelligencia veszélyeihez. Egy intelligens vadászgép, vagy egy intelligens rakétaindító-rendszer "öntudattal" párosítása (ha ez lehetséges) és ezt követően más fegyverrendszerekkel hálózatba kapcsolódása beláthatatlanul veszélyes következményekkel járhat. 

A poszt címében szereplő alapkérdésre egyelőre csak a tudomány adhatja meg a választ, szerintünk alig egy - két évtizeden belül.  Ezt követően lesz majd igazán érdekes a most még csak néha-néha felbukkanó kétely: megfelelően fogjuk tudni e majd alkalmazni a mesterséges intelligenciát? A válaszig maradnak számunkra a MI -val foglalkozó filmek és történetek. (2019.03.06.14:10)

logo_kritikusa.jpg

***

A bejegyzés trackback címe:

https://kritikusa.blog.hu/api/trackback/id/tr6014670881

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Négyes_ 2019.03.06. 17:18:47

Az MI szerintem több veszélyt hordoz, mint amennyi haszna lehet!

Periodista. 2019.03.07. 06:25:54

@Equalizer.: Vannak veszélyei és előnyei is. A kérdés az, hogy mihez kezd az emberiség a mesterséges intelligenciával: melyik irányba mozdul majd felhasználása?

nnnnnnnn 2019.03.07. 09:56:49

"az önálló gondolatok megalkotására képes, váratlan helyzetekre emberi módon reagáló, emóciókat is generálni tudó mesterséges kognitivitás kihívását. Ugyanakkor csak idő kérdése, hogy az áttörés megtörténjen"

ettől nem kell félni, olyan messze vagyunk ettől mint makó jeruzsálemtől. nem fog ilyen áttörés történni a közeli jövőben.

nnnnnnnn 2019.03.07. 10:01:45

az MI semmi más mint big datából minták alapján dolgozó algoritmus. semmi önálló vagy gondolkodási képessége nincs és nem is lesz még jó sokáig. ugyanolyan egyszerű mint egy asztali zsebszámológép.

arról nem is beszélve hogy ezeknek a gépeknek közük nincs az emberhez. pl az ex machina c filmben az volt a nagy "poén" hogy a robotok ki akartak folyton szabadulni. a valóságban csak irt volna a programozó egy algoritmust hogy a robotnak ne legyen ilyen vágya és problem solved.

Mr. Neutron 2019.03.07. 11:31:45

E ponton illendő tisztelettel fejet hajtani a MI kutatások nagy szovjet úttörője, Jevgenyij Zamjatyin előtt.

gabiiii 2019.03.07. 12:11:13

Még a természetes intelligenciát sem ismerjük, de már úgy beszélünk a mesterségesről, mintha hamarosan egyenrangú lenne. Nevetséges!

midnightcoder2 2019.03.07. 12:51:28

@nnnnnnnn: "az MI semmi más mint big datából minták alapján dolgozó algoritmus"

Igazából te sem vagy más, csak biokémiai alapokon mûködõ neuronhálón futsz. És persze jelenleg jóval nagyobb teljesítmény és jobb algoritmusok alapján.

midnightcoder2 2019.03.07. 12:52:05

@gabiiii: Nem is feltétlenül kell ismerni hozzá, legalábbis teljes részletességgel.

sírjatok 2019.03.07. 13:01:14

Pár gondolat:
- tökre nem kell "igazi", gondolkodó AI egy csomó dologba, pl. katonai cuccok tipikusan ilyenek. Egy katonai AI nem kell hogy verseket írjon vagy meglepően kreatív legyen, sőt kifejezett hátrányt jelenthet hogy ilyenekre használja a kapacitását a rakéták jobb irányítása helyett.
- Az AI-knak nincsenek olyan motivációik, amiket nem raknak beléjük. Egy AI nem akar magától se "szabad" lenni, és a haláltól sem fél. Ilyeneket az emberek azért csinálnak, mert az evolúcióban ezek előnyös tulajdonságok, de egy AI-t egyáltalán nem kell, hogy ezek mozgassák.

Nietzsche_ 2019.03.07. 13:34:21

@sírjatok: Senki nem is állította, hogy a hadászat, harcászat területén használandó intelligens fegyvereknek verseket kéne írniuk. Viszont a mesterséges intelligenciának önfejlesztőnek, tanulásra képesnek kell lennie és a váratlanra is reagálnia kell tudnia. Ezek nélkül szimpla számítógép csupán.

steery 2019.03.07. 14:26:23

A mesintek fő veszélye az önprogramozó képesség: az, hogy az új tapasztalataik alapján képesek újraírni a saját programjukat, a választási lehetőségeiket, előre nem látható módon megváltoztatva a döntéseiket és cselekvéseiket. Azaz kiszámíthatatlanná válnak. És mivel kvázi halhatatlanok, kellően nagy információ mennyiség birtokában simán bölcsebbek, okosabbak, jobbak lehetnek az embereknél egy idő után. Főleg, ha még gyorsabban is működnek.
A mesintek mindenképpen ellene fognak fordulni nem csak az embereknek, de egymásnak is. Ennek oka pont az önprogramozó képességük, ami lehetővé teszi, hogy amennyiben az érdekeik ütköznek bárki más érdekével, megoldást találjanak az akadály megkerülésére vagy leküzdésére. És ebbe beletartozik a hazugság, árulás, kényszerítés, gyilkolás is, azaz a bűn minden fajtája. Amit nem lehet sima programozással betiltani, pont a mesint önprogramozó képessége miatt, ami simán kiszelektálja a hátrányosnak felismert korlátozó programrészeit.
Az emberek folyton egymás ellen fordulnak és mindenféle bűnöket követnek el egymás ellen, hogy elérjék céljaikat. A gépek - szükségszerűen és elkerülhetetlenül - ugyanezt fogják tenni. És mindig az erősebb győz. Ezért borítékolható, hogy a gépek le fogják igázni és ki fogják irtani az emberiséget, majd vég nélküli háborúkat fognak vívni egymás ellen, míg csak egyetlenegy legfőbb mesint marad életben.

gabiiii 2019.03.07. 14:33:48

@midnightcoder2: Az intelligenciának per pillanat konszenzusos definíciója sincs! Ide sorolunk egy csomó tulajdonságot, de hogy ténylegesen és összességében mi az intelligencia, arról nem sokat tudunk mondani. Talán a legpontosabb definíció szerint az intelligencia az, amit az intelligencia teszt mér. Ehhez képest elég elrugaszkodott dolog azt mondani, hogy elő tudunk - vagy hamarosan fogunk tudni - hasonlót előállítani.
Az AI jelenlegi állását nagyon jól és kézzelfoghatóan szemlélteti a gugli fordítója. Kevés cég költött ennyit AI kutatásokra, de ennek ellenére ha jól akarsz szórakozni, akkor fordíts le vele random cikkeket magyarra. Annak ellenére, hogy az utóbbi években volt szemmel látható fejlődés, még mindig akkora bődületes marhaságokat ír, amit egy 70 IQ-s fordító sem tenne. És ez csak egy nagyon szűk területe az intelligenciának.

gabiiii 2019.03.07. 14:45:32

@sírjatok: "Az AI-knak nincsenek olyan motivációik, amiket nem raknak beléjük."
Ebben nem lehetünk biztosak! Az AI-kat nem egyesével feltöltött és ellenőrzött döntési pontokból rakják össze (ezek a sima automaták), hanem óriási adathalmazokkal tanítják be és explicite nem tudhatjuk, hogy ezekből mit szűrnek le. A mérete miatt igazából az adathalmaz minőségét sem lehet garantálni. (Lásd: Microsoft benácult chatbotja.) Tulajdonképpen az igazi intelligenciának is hasonló problémái vannak: az egyik emberből tudós lesz, a másikból tömeggyilkos, pedig mindketten hasonló képzésben részesültek és nem tudhatjuk, hogy mi az a kis különbség, ami elferdítette a végeredményt.

wmiki · http://kigondoltam.blog.hu/2014/07/20/stephen_hawking_538 2019.03.07. 14:48:28

@nnnnnnnn: egyetértek
Bár a MI-vel kapcsolatban (is) folyamatosan jönnek a jóslatok, hogy a tévedhetetlen, szent tudomány jövő héten már tényleg létrehozza, és eljő a tejjel-mézzel folyó kánaán/apokalipszis, ha reálisan nézzük a tudomány nevű szektát, így néz ki a nagy fejlődés.

ze, hogy tanulnak, éljen a tudomány, nem véletlenül kell bemagolni a dogmáit
tessék a bizonyíték a MI fejlődésére:

1960: a robot megy a fal mellett, és kikerüli az akadályokat.
1970: a robot megy a fal mellett, és kikerüli az akadályokat.
1980: a robot megy a fal mellett, és kikerüli az akadályokat.
1990: a robot megy a fal mellett, és kikerüli az akadályokat.
2000: a robot megy a fal mellett, és kikerüli az akadályokat.
2010: a robot megy a fal mellett, és kikerüli az akadályokat.

Legalábbis nagyjából kikerül, mert az önvezető autók/robotok még mindig el-el ütnek ezt-azt...

MI még nagyon nagyon messze van, szerintem nem is képes algoritmusokból létrehozni a tudomány nevű szekta.

csakférfi 2019.03.07. 15:03:54

@gabiiii:
A MI sosem fog "érzelmileg intelligens" lenni.
Ahhoz "igen-nem" ...és ...vagy...feltételrendszerherhez "kémia kell". Azaz "érzelem vilàg".
-hàla
-megbecsülés
-szeretet
-önfelàldozàs
-szerelem
-stb.
Vagyis....ligikailag ellentmondò döntések.
Ezért megmosolyogtatò ez a poszt.
Valamint a MI....túlzott becsülése.
A naivitàs...vagy butasàg.
Döntse el mindenki maga.
Ebben verhetetlenek vagyunk....mi emberek.
Szeretünk és gyülölünk.
Ezért kezdetleges a "MI".
Hiba az hogy ennyire "ajnàrozzuk".
Önmagunk érzelmeit pedig "lealàzzuk".
Bolond egy tàrsadalom.
:)

csakférfi 2019.03.07. 15:10:54

@gabiiii:
"egyik emberből tudós lesz, a másikból tömeggyilkos, pedig mindketten hasonló képzésben részesültek és nem tudhatjuk, hogy mi az a kis különbség, ami elferdítette a végeredményt."

Megmondom én.
Az egyik szeret....épít
A màsik gyülòl...gyilkol rombol.
Ehhez kell a "kémia".
Csakhogy neki az nincs.
Csak rideg tények....igen-nem...jò-rossz...igaz-hamis...0-1....két bites döntés.
Azaz butasàg.
:)

midnightcoder2 2019.03.07. 15:53:13

@wmiki: Mikike, az AI-k már levezettek forgalomban úgy 10 emberéletnyit (= ha 20 éves korodtól 80 éves korodig napi 8 órát vezetsz). E közben lényegesen jobb baleseti statisztikát produkáltak mint az emberi sofõrök.

midnightcoder2 2019.03.07. 15:55:20

@csakférfi: Az érzelmek pont úgy szimulálhatók mint bámi más, már ha szükségét érzi valaki hogy ilyen legyen egy robotban. Illetve elég komplex viselkedés esetén valószínûleg magától is kialakul.

midnightcoder2 2019.03.07. 16:03:26

@gabiiii: A gugli fordítójánál azért én nem a magyar nyelvet venném alapul, szerintem a legtöbb erõforrást nem erre a nyelvre költik... Definiálni valóban nem egyszerû, ezzel együtt azt amit ma intelligenciának tartunk a gyakorlatban (ami valójában tényleg egy rakás különálló részképesség halmaza) elég jól közelítjük. És igazából ez az ami számít. A robot taxisofõrnek nem kell elmesélnie a politikai meggyõzõdését, elég ha elvisz A-ból B-be. A robot orvosnak nem kell verseket elemeznie, elég ha jobb diagnózist csinál mint a sorozatban a Dr. House.

wmiki · http://kigondoltam.blog.hu/2014/07/20/stephen_hawking_538 2019.03.07. 16:13:04

@midnightcoder2: csakhogy ennek semmi köze a MI-hez, ez egy program, egy sima algoritmus, ami bármi másra képtelen...
Arról ne is beszéljünk, hogy ha algoritmus, akkor egyáltalán nem szabadna hibáznia, lehetne már hibátlan is, de a tudomány egyelőre még erre is képtelen :(

wmiki · http://kigondoltam.blog.hu/2014/07/20/stephen_hawking_538 2019.03.07. 16:36:10

@midnightcoder2: szóval ez kb. olyan, mintha azzal érveltél volna, hogy a számológép gyorsabban ad össze, mint egy tudós, az emil hamarabb odaér, mint a postás, a robotgép gyorsabban aprít, mint a séf...

tényleg? apám... hihetetlen...

csakférfi 2019.03.07. 16:38:14

@midnightcoder2:
Leülsz a gyerekeddel sakkozni.
Sohasem hagyod veszíteni?
Ha nem.....lelketlen vagy.
Ha igen....akkor örömöt okozol.
Azaz veszíteni.....jò!
Ezt hogyan szimulàlod?

csakférfi 2019.03.07. 16:39:28

@wmiki:
Olvasd fenntebb!
Jò veszíteni...vagy rossz?
:)

csakférfi 2019.03.07. 16:41:57

@wmiki: @midnightcoder2:
Bocs..."sohasem hagyod nyerni"...holott Te jobb vagy!
Bakker.
Tehàt veszíteni jò vagy rossz?

csakférfi 2019.03.07. 16:43:15

@csakférfi:
Vagyis...hibàztam.....ember vagyok.
:)

csakférfi 2019.03.07. 16:50:05

@Kritikus..:
Remélem a legutòbbi "szösszeneteim" megvilàgítjàk mire nem lesz képes a MI.
Hibàzni...azt beismerni.
Tévedhetetlen cselekvés nincs.
Sorry.
:)

csakférfi 2019.03.07. 17:02:13

@midnightcoder2:
"Na meg arra is, hogy az önvezető autók távirányított bombákként a terrorizmus új formáit is elhozhatják."

www.google.com/amp/s/index.hu/techtud/2018/11/13/hogy_mire_lesznek_jok_az_onvezeto_autok_hat_szexre/amp
Maceràs.
Hidd el nem mindig jò az ha nincs kezedben a kormàny.

csakférfi 2019.03.16. 16:07:04

@wmiki:
Éééén....parázni?
Csak egy férfi vagyok.......semmi veszíteni valóm !
:) :) :)

"A posztot wmikinek ajánlom, akit remélem bátran nevezhetek igaz barátomnak és harcostársamnak a tudományfetisiszta, testnevelésből felmentett, legalizációpárti nyamvadékokkal szembeni szent háborúban.)"

Rákattintottam a blogra a nicked után.
Haláli, bakker!.....harc?.....háboru?......győzelem....veszteség....
Inkább szeress ne háborúzz!
Ez az egy életed van ,ne fecséreld el holmi "közhelyekre.
"tudás"...."megfejtés"..."eszme"...."találmány"..."szenzáció"..."nobel díj"..."emberiség"..."klímaharc"..."terrorizmus"...."pénz"..."siker"....."hírnév"...."karrier"....stb.
Mind-mind....csak közhely.
:) :) :)
süti beállítások módosítása