„Az M1 Híradót már tudná vinni algoritmus” – exkluzív interjú a Szilícium-völgy magyar gurujával

·2020.08.24

Kína központosított társadalmi kreditrendszerrel, Amerika önjáró techóriásokkal próbálja a maga képére formálni a mesterséges intelligenciára (MI) épülő 21. századot. Európának valószínűleg nem marad más, mint hogy válasszon, melyik adatmonopólium része lesz, viszont legalább felveti az MI égető etikai dilemmáit. Erről beszélt a Válasz Online-nak Budapesten adott exkluzív interjújában a világ egyik legkeresettebb MI-szakértője. George Tilesch, vagyis Tilesch György jelenleg többek között a Fehér Ház MI-etikai munkacsoportjának tagja, és most új, magyarul jövőre megjelenő könyvével kapcsolatban kérdeztük a TikTokról, arról, hogy a robotok elveszik-e az orosz trollok munkáját, és hogy miért ne lemerült telefonról indítsunk hitelbírálatot.

– Miért ment egymásnak két szuperhatalom egy tiniknek szóló idétlenkedős app miatt?

– Ez a történet nem most kezdődött, az amerikai védelmi minisztérium például már tavaly megtiltotta a munkatársainak és családjaiknak a TikTok használatát. Most két dolog miatt forrósodott fel a helyzet. Az egyik, hogy Donald Trump oklahomai gyűlésén azért voltak kevesen, mert TikTok-felhasználók heccből lefoglaltak egy csomó jegyet, és Trump világában ez azt jelenti, hogy az akciót Kína központilag szervezte. Ezt én egyáltalán nem tartom valószínűnek, de persze nem is kizárt.

– A másik ok alighanem az ujgurok ügye.

– Így van. Az egész világot bejárta az amerikai tinilány története, aki egy sminktanácsadós videóban elrejtve hívta fel a figyelmet a hszincsiangi koncentrációs táborokra. Ezzel verte át azokat az MI-algoritmusokat, amelyek folyamatosan figyelik a felhasználók által feltöltött tartalmakat, és cenzúráznak, minden, az ujgurokkal kapcsolatos említést.

– Mármint Kínában.

– Az egész világon, bárhol él a felhasználó. A TikTok magja egy gépi tanulásra épülő algoritmus, amely nagyon hatékonyan képes kiismerni a felhasználók viselkedését, de most éppen nemcsak ez a gond vele, hanem hogy a kínai kormány hozzáfér az ifjú felhasználók adataihoz, bármit is mond a TikTok tulajdonosa arról, hogy a szerverek Szingapúrban vannak.

– Ez már az előszele a jövő kínai–amerikai MI-hidegháborújának?

– Nem az előszele, ez a hidegháború már javában zajlik, bár én inkább langyos háborúnak szoktam hívni. Azt gondolom, hogy a jelen eszkalációs helyzetben elkerülhetetlen, hogy adatmonopóliumok jöjjenek létre, és ha nem húzunk valami váratlant közösen, előbb-utóbb minden országnak le kell tennie a voksát, hogy a nagyon más modelleket követő amerikai vagy a kínai adatmonopóliumok része lesz.

– Miben más a két modell?

– Amerikában a nagy techcégek a letéteményesei, a Facebook, a Google, az Amazon és társaik. Washington – főleg a jelen, multilateralizmust nem erőltető adminisztráció – úgy van vele, hogy amíg az amerikai cégek dominanciáját nem veszélyezteti semmi, és van miből finanszírozni a versenyképes katonai és hírszerzési MI-fejlesztéseket, addig minden rendben, az MI társadalmi víziója sokadlagos kérdés. Kína ezzel szemben államilag irányított modellt épít. A jelentős cégekben közvetlenül ott van a kormányzati befolyás, feladatleosztás és pénz. Közben Peking nyomul azokra a piacokra, amelyeket az amerikaiak hatalmi vákuum-állapotban hagytak. Ilyen Afrika és a Közel-Kelet. A kínaiak olcsók és nincsenek politikai skrupulusaik, bármilyen autoriter kormánynak szívesen adnak el katonai, hírszerzési és társadalmi megfigyelő MI-rendszereket is. A mostani egyenletben – legalábbis rövid távon – a zászló a morális megfontolásokkal kevéssé küzdő játékosoknak áll, sajnos sokakat vonzhatnak be.

– Európának milyen szerepe lehet ebben a párharcban? Saját techóriásaink nincsenek, az MI-fejlesztésekben, szabadalmakban Kína és Amerika mögött kullogunk.

– Európa nehéz helyzetben van. Az utóbbi években kényszerű hintapolitikával próbálkozott, de lassan kezdi belátni, hogy Kínát meg kell állítani, ez tükröződik abban is, hogy a legnagyobb kínai szállítót több országban korlátozzák az 5G-hálózatban. Viszont van egy terület, amelyben Európa az élen jár. Ez az egyetlen nagy blokk a világban, ahol folyik közgondolkodás arról, hogy mi az MI társadalmi szerepe, milyen etikai szabályoknak kell megfelelnie. Az elmúlt két-három évben az Európai Bizottság összehívott egyfajta bölcsek tanácsát, amely letett az asztalra egy etikai kódexet. Ez kimondja, hogy az MI-nek etikusnak, törvényesnek és technológiai, valamint társadalmi szempontból biztonságosnak kell lennie.

– Szóval amíg Kína és Amerika fejleszti, mi moralizálgatunk róla.

– Nem becsülném le a vízió és az alternatív modellek fontosságát: a könyvünk is ezt propagálja. Amerika is kezdi szép lassan felismerni ezt. Szerkesztőként én is tagja vagyok egy fehér házi munkacsoportnak, amely próbálja lerakni egy amerikai etikai vízió alapjait, és persze kiváltképp érdekeltek vagyunk a munka folytatásában is november után, bármi lesz is az új kormányzati irány. Kína eközben évek óta nagyon tudatosan építi az MI-re és adatgyűjtésre épülő társadalmi operációs rendszert.

„Az MI-hidegháború már javában zajlik.” Fotó: Vörös Szabolcs

– Ennek része egy olyan társadalmi kreditrendszer, amelyben a kormánnyal összekötött techóriások minden adatot összesítenek mindenkiről, és ha nem elég jó a pontszám, akkor az illető nem vehet repülőjegyet vagy nem járathatja a gyerekét a kiválasztott iskolába.

– Nem akarom védeni a kínai rendszert, abszurd is lenne tőlem, aki az 1984 betiltott példányán nőtt fel a Vasfüggöny mögötti Magyarországon, de látni kell, hogy a kreditrendszer jelentős társadalmi támogatottságot élvez Kínában. Ez egy konfuciánus, kommunista és kapitalista elemekből táplálkozó hibrid rendszer, ahol a magánszféra nyugati értelemben vett fogalma nem létezik.

Másrészt az emberek magukénak érzik a célt, hogy Kína a technológia segítségével megelőzze a Nyugatot, és a világ vezetőjévé váljon. És hát az MI miatt valamilyen formában minden ország egyfajta kreditrendszer felé halad, még ha az kevésbé is lesz központosított és abszolutista, mint a kínai.

– Miféle kreditrendszer felé halad a Nyugat?

– Az alapjai már élnek Amerikában. Ott a hitelbírálati rendszerek nagyrészt MI-algoritmusokra épülnek, amelyek több száz vagy ezer adatpontból dolgoznak. Olyan extrém tényezőket is figyelembe vesznek, hogy az ügyfélnek mennyire volt feltöltve a telefonja, amikor a banki appban megnyomta az igénylés gombot. Későn fedezték fel ezt a hibát: ha alacsony volt az akku töltöttsége, abból az algoritmus arra következtetett, hogy kevésbé megbízható a tulajdonos, vagyis rosszabb adós. Az Amazon két hét után visszavont egy belsős HR-rendszert, mivel az a betanítására használt CV-k tömegéből azt a következtetést vonta le, hogy fehér szoftverfejlesztő férfiakat kell felvenni majdnem minden pozícióra. Harmadik példa: a túlterhelt amerikai bíróságok közel harmada már MI-rendszereket használ a döntéshozatal támogatására a feltételes szabadlábra helyezésnél.

– De a végső szót azért mindig emberek mondják ki?

– Persze, a túlterhelt banki alkalmazott és büntetőbíró átlátja és visszafejti egy több trillió csatlakozásból álló neurális háló ajánlásait, amit sok ezer adat és korábbi eset alapján hozott…

– Vagyis az MI valóban fekete doboz. Fogalmilag is lehetetlen követni, mit miért mond.

– Törekedni azért kell rá, és a kutatás-fejlesztést is ebbe az irányba kell állítani. Szerintem az EU nagyon jól teszi például, hogy előírja a megmagyarázhatóság kritériumát. A fejlesztők hajlamosak lesöpörni magukról ezeket a dilemmákat, a techcégek meg az újítások mielőbbi piacosításában érdekeltek, de ez mégiscsak olyan technológia, amely életekre van hatással, soha nem látott skálázási lehetőséggel. „Az MI parancsára tettem” rossz védekezés ugyan, de egyre többször fogjuk hallani.

– Végül is a versenyjogi szabályozással vagy a GDPR-ral már sikerült a nagy amerikai techcégeket kicsit kordában tartania az EU-nak, nem?

– Prüszköltek is rendesen, de aztán muszáj volt beadni a derekukat, ha továbbra is szolgáltatni akartak Európában, ami azért mégis jelentős piac. A dolog szépséghibája, hogy az EU jóindulatú, de lassú monstrum. A GDPR 5 év alatt futott át, de az MI esetében még fele annyi idő is olyan sok, hogy rég elavult technológiákat próbálnánk szabályozni. Ez egy végtelen versenyfutás, ahol a szabályozási logikának alapjaiban kell megújulnia, és valós időben monitoroznia a technológiai fejlődést, különösen az MI terén.

– Az MI technológiák alkalmazásában mennyire van elmaradva Európa?

– Kínában, Indiában a munkavállalók 70-80 százaléka úgy véli, hogy az MI segíteni fogja a munkáját, és nem pedig veszélyeztetni, és a cégek fél-egy éven belül készen állnak a technológiák használatára. Nyugat-Európában alig 20-30 százalék optimista, és a cégek 4-5 évre becsülik a bevezetést. Európa fél, és le van lassulva.

– Jogos a félelem, nem? Tényleg sok embert ki fog váltani az MI.

– Jogos, bár a közkeletű narratívával ellentétben nem a kamionosok veszítik el először a munkájukat, az önvezetés ugyanis bonyolult technológia, különösen szabályozási oldalon.

– Akkor tehát kik veszítik el először a munkájukat?

A betanított szellemi munkások. Akik elvégeztek valamilyen kevésbé piacképes főiskolai képzést, és most Excel-táblákat töltögetnek egy autógyárban vagy egy multi szolgáltató központjában. A céges folyamat-automatizálási megoldásokat szállító cégek egyébként szárnyalnak idén. Tartok tőle, hogy sok ember már nem fogja visszakapni a régi munkáját, mert a karantén alatt lecserélték szoftverre.

– Amerikában Andrew Yang ezzel kampányolt a demokraták előválasztásain, és megoldásként feltétel nélküli alapjövedelmet javasolt. Igaz, sokáig ezzel nem jutott.

– Több barátom is a dolgozott a kampányában. Ő volt az a jelölt, akit Amerika még nem érdemelt meg, de bedobta a nagy követ a pocsolyába. Kicsit korán kezdett el beszélni ezekről a dolgokról, de néhány év múlva utoléri őt a közvélemény. Aki a Szilícium-völgyben dolgozik, és rálát a közeljövőre, pontosan tudja, hogy igaza volt Yangnek, és elkerülhetetlen lesz valamiféle alapjövedelem, hogy enyhíteni tudjuk az a közelgő társadalmi feszültségeket. És nagyjából arról is kibontakozóban van a konszenzus, hogy ennek fedezetét az MI-re és az adatokra építő techcégek profitjából kell előteremteni. Persze velük, nem ellenük.

– Könyvének egyik visszatérő motívuma, hogy az MI szárnyakat adhat az interneten terjedő dezinformációnak. Az OpenAI nemrég adta ki a GPT-3 nevű programot, amely már kísértetiesen értelmes szövegeket tud alkotni. Mennyire fél ettől?

– Biztosan át fogja írni a tág értelemben vett tartalomipar szabályait. Az újságírószakmát például féltem. Saját hírportáljánál, az MSN-nél a Microsoft az újságírók közel harmadát már lecserélte robotriporterekre. Persze nem nagy elemzéseket és mélyinterjúkat írnak, hanem helyi választások eredményeit és sporthíreket, de kicsit viccet csinálva a dologból, a Fox News vagy az M1 híradóját már tudná vinni egy prediktív (vagyis következtető) algoritmus. Az OpenAI látja is ennek veszélyeit, a korábbi verziót, a GPT-2-t tavaly ki sem akarták tenni a netre, nehogy propaganda és dezinformáció terjesztésére használják. Csak aztán két diák 5000 dollárból megcsinálta ugyanazt, így kénytelenek voltak mégis közzétenni. Biztos, hogy ez nagy probléma lesz a jövőben. Vologya Szentpéterváron nem tud olyan profin és gyorsan dezinformálni, mint a GPT-3.

– A robotok elveszik az orosz trollok munkáját?

– Legalábbis nagyban megkönnyítik és végelátatlanul skálázzák.

– A nyugati baloldal gyakran követeli, hogy a Facebook tegyen többet a dezinformáció megállításáért, szülessen szigorúbb szabályozás. Csakhogy az autoriter kormányok kezében a szabályozás veszélyes eszköz lehet. Sok országban a Facebook az egyetlen nagy csatorna, ahol az ellenzéki pártok vagy a független média eljuthat a polgárokhoz.

– Ez jogos félelem, de sajnos a szólásszabadságot minden más szempont elé helyező álláspont nem lesz sokáig tartható. Bármilyen jó lett a Facebook moderáló algoritmusa, olyan MI-eszközök kerülnek pillanatokon belül a piacra, amelyekkel nem fogják tudni tartani a lépést. A deepfake-ek (mesterséges intelligenciával hamisított videók) most fognak beindulni.

A könyvben leírjuk, hogyan lehet fél nap alatt térdre kényszeríteni egy országot hamis miniszterelnöki vallomással, megfűszerezve az infrastruktúra elleni kibertámadással. Az MI-képgenerátorok már ma is sok ezer, sohasem élt ember arcképét tudják létrehozni. El fogják árasztani a közösségi hálókat minden korábbinál hitelesebb álprofilok.

Mindemellett aláírom: nem biztos, hogy a szigorúbb szabályozás kulcsát a kormányok kezébe kell adni.

– Hanem?

– A világunk alapvető problémája, hogy bizalmatlan környezetben élünk. Nem hiszünk a politikusoknak, az újságíróknak, lassan a tudósoknak sem. Még a techcégek bizalmi indexe a legmagasabb az iparági szereplők közül, 45 százalék körüli. Én a megoldást nyílt forráskódú, közjót szolgáló technológiák létrehozásában látnám, amelyek mögött nonprofit, sok különböző csoportot képviselő szervezetek állnak.

„A Fox News vagy az M1 Híradót már el tudná vinni egy prediktív algoritmus.” Fotó: Vörös Szabolcs

– Szép álom.

– Van már néhány példa ilyesmire. A Wikipédiát mindenki ismeri, de ott van a Signal üzenetküldő applikáció, az is ilyen modellben működik. Nemrég a Twitter is létrehozott egy kis divíziót, hogy tegye le az alapját egy nyílt platformnak, amely mögött nem adatgyűjtésre és reklámokra épülő üzleti modell áll. Szerintem a következő években több nagy cég is erre az útra léphet. Nekem nagy célom ennek segítése.

– Miért mondana le egy nonprofit spinoff kedvéért Mark Zuckerberg sok millió dollárról?

– Mert szerintem nem arról álmodozott a kollégiumi szobában, hogy a világpolitika főszereplője legyen, és úgy írjon róla a média, mint aki teret ad Putyin trollhadseregének. Szerintem ő alapvetően nem vágyik a felelősségre, amely a nyakába szakadt. Hogy szabaduljon tőle, hajlandó lesz valamelyest a zsebébe nyúlni.

Szerintem helye van átértékelni, hogy milyen technológiák szolgálják a közérdeket, és konszenzusosan építeni alternatív modelleket.

– A következő járványt segíthet megakadályozni az MI?

– Ha hallgatunk rá, akkor igen. Egyes algoritmusok már a COVID-19 terjedését is felismerték, csak nem foglalkoztunk a jelzésekkel. A gyógyszerek és vakcinák fejlesztését is segíti. A járványtól eltekintve is úgy vélem: az egészségügy lesz az első terület, ahol a következő évek eredményei elhitetik az átlagemberrel, hogy az MI nem ördögtől való. Már ma folynak MI által megtalált hatóanyagok klinikai tesztjei, és nemrég négy óra alatt tanítottak be egy modellt. Gyorsaságban és pontosságban is veri képi diagnosztikában a világ legjobb radiológusait.

– A következő pénzügyi válságot is elkerüljük az MI segítségével, vagy épp az MI fogja előidézni azzal, hogy algoritmusok döntenek a legtöbb pénzpiaci műveletről, és esetleg elszabadulnak?

– Ázsiában ennek a technológiának a használata már általános, bár nem verik nagydobra.

Európában és Amerikában is javarészt titkolják még a pénzpiaci szereplők, hogy mekkora a volumene az algoritmikus kereskedésnek, de szerintem ma már minimális azoknak a döntéseknek a száma, amelyeket hús-vér traderek, brókerek hoznak.

Ebben van kockázat. Ennél pontosabbat nem tudok mondani, de az látszik, hogy nem az öntudatra építő szuperintelligenciától kellene félni és Skynet-forgatókönyvekkel riogatni az embereket, hanem az itt és most használt, egy-egy feladatra fejlesztett szűk MI-rendszerek túlhatalmi veszélyeiről kellene szólnia a közbeszédnek. Hiszen emberi életeket és milliárdos befektetéseket bízunk rájuk.

George Tilesch/Dr. Tilesch György
Globális MI-szakértő, vállalatvezető, tanácsadó, szerző. Magyar–amerikai kettős állampolgár, 10 éve él a Szilícium-völgyben. Stratégiai és innovációs vezetőként, tanácsadóként dolgozott cégeknek (Microsoft, Ipsos), kormányzati szereplőknek (EU, Fehér Ház, USA haditengerészet, NASA, Dubaj, Új-Zéland), nemzetközi szervezeteknek (Világgazdasági Fórum, Madridi Klub). A NASA innovációs vezetőjével, Omar Hatamleh-vel közösen írt könyve az MI okozta gazdasági, politikai es társadalmi változásokról, a soha nem látott erejű es sebességű technológiai kihívásokra adandó civilizációs válaszokról idén tavasszal jelent meg angolul és 2021 elején lesz olvasható magyarul BetweenBrains: Mesterség és Intelligencia címen.

Nyitókép: Vörös Szabolcs

Ez az interjú olvasóink támogatása nélkül nem készülhetett volna el. Ha fontosnak tartja munkánkat, kérjük, legyen „előfizetőnk” akár már havi 1700 forintért, és csatlakozzon hozzánk a Facebookon!

Kategória: Interjú