Báránynak hittük, pedig velociraptor – tényleg fordulópontnál jár az AI a magyar guru szerint
„Nincs olyan, hogy »mind meghalunk«, vagy »minden jó lesz«. Rengeteg pozitív oldalát látom ennek a technológiának, miközben azt gondolom, hogy nem vagyunk felkészülve a fejlődés sebességnek a kezelésére” – mondja podcastunkban Huszár Ferenc, a Cambridge-i Egyetem professzora, a Reasonable AI Labs techvállalkozás alapítója. A mesterségesintelligencia-kutató a saját korábbi szkeptikus véleményét is megváltoztatta a legújabb modellek matematikai és kódolási képességét látva. Miért mondja, hogy „depresszívebb” lett ettől? Mi a nyári biztonsági incidensek, rendszerfeltörések és elszabadulások tanulsága? Miért ért egyet XIV. Leó pápa AI-enciklikájával? A Válasz Podcast adásából kiderül.
Az adás meghallgatható a fenti lejátszóra kattintva. Ha az nem jelenik meg, közvetlen link itt. Ha egyszerűen letöltenék az adásokat mp3-formátumban, ide kattintsanak! Ha telefonon keresztül csatlakoznának műsorunkra, a Spotify mellett iTunes-on, TuneIn Radio-n és Pocket Casts-on is megtehetik. Podcastunk RSS-csatornája ezen a hivatkozáson található. A podcast Youtube-on is fent van!
A mesterséges intelligencia kockázatairól gondolkodók két táborra szakadtak: vannak, akik szerint a technológia végzetes lehet, mások szerint ez a felvetés komolytalan. Melyik tábornak van igaza?
Huszár Ferenc: Az elmúlt két év történéseit, a fejlődés sebességét nézve eléggé nagyot tolódtam a veszélyek elismerése felé. Ez nem a világvége-szcenáriót jelenti. Továbbra sem attól félek leginkább, hogy az AI önmagától önálló életre kel, és mondjuk kipusztítja az emberiséget. Most mégis depresszívebb vagyok, és sokkal inkább azt gondolom, hogy erről többet kellene beszélgetnünk a technológia lehetséges negatív következményeiről. […] Inkább azon aggódom, hogy hogyan fog kinézni Magyarország gazdasága 3-5 év múlva, mi történik, ha például azt a szektort, amelyben a magyar munkaerő viszonylag jó és olcsó, a kiszervezett programozási munkákat a mesterséges intelligencia fejlődése visszaveti. Hiszen miért akarnék magamnak egy távmunkás programozót, ha itt van a 200 dolláros Cloud-előfizetés?
Tehát a mindenféle elszabadulások, önálló életre kelt AI-ágensek helyett a munkaerő-piaci hatásokra helyezi a hangsúlyt?
Huszár Ferenc: Régen egy potenciális munkavállaló más munkavállalókkal versengett. Ha jelentkeztem egy programozói állásra, akkor azon kellett aggódnom, hogy akad-e nálam jobb a piacon. Mármost erre a piacra, az emberek piacára belépnek hatalmas amerikai monopóliumot építő techcégek, mint az OpenAI és az Anthropic. Egy programozónak velük kellene versenyezni.
Kijelenthető az, hogy egy általános programozó piaci értéke közelít a nullához?
Huszár Ferenc: Nem akarok erre sem igent, sem nemet mondani. Inkább azt mondom, hogy a jövőben több hozzáadott érték, és egy sokkal szeniorabb, sokkal tapasztaltabb hozzáállás kell. Ha viszonylag rutinfajta programozó munkákat végeztél, akkor valószínűleg annak a hasznossága tényleg közelít a nullához. Ha egyéni, kreatív, jó meglátásaid vannak, akkor nem.
És mi a helyzet biztonsági félelmekkel?
Huszár Ferenc: Ez nem vagy-vagy választás, hogy „mind meghalunk”, vagy „minden jó lesz”. Rengeteg pozitív oldalát látom a technológiának, miközben azt gondolom, hogy nem vagyunk felkészülve a fejlődés sebességnek a kezelésére. […] A nyári biztonsági incidensek is inkább arról szóltak, hogy a szoftverbiztonságot mi, emberek emberi logikákkal szemben terveztük meg. Azt feltételeztük, hogy emberi hackerek fogják majd a biztonsági hiányosságokat megtalálni. Hasonlattal élve: elkezdtünk kerítést építeni bárányok ellen, és jól is működött. Csak közben a bárányokból velociraptorok lettek.
Több nagy techvállalkozó is arról nyilatkozott, hogy lassítani kellene az AI-technológia fejlesztését. Ez lehetséges?
Huszár Ferenc: Nem tartom reálisnak. De ahogy a hidegháború következtében a nukleáris megegyezések sikerrel jártak, úgy itt is kellhetnek olyan nemzetközi megállapodások, amelyek kontrollálják a technológia felhasználását. Az viszont nem lehetséges, hogy holnaptól bezárjuk az AI-t és úgy teszünk, mintha 1996 lenne. Valamiféle lassulásra azért lenne szükség, hogy időt nyerjünk arra, hogy átbeszéljük a biztonsági kérdéseket. Erre – mármint a párbeszédre – azért látok lehetőséget. Szerintem erre voltak és lesznek próbálkozások.
Mivel foglalkozik a techvállalkozásuk, a Reasonable AI Labs?
Huszár Ferenc: Ez egy startup, melyet körülbelül egy éve indítottunk. A mesterséges intelligencia élvonalában lévő problémákon dolgozunk. Ha sikeresek leszünk, akkor a világ szoftverrendszerei sokkal megbízhatóbbak és biztonságosabbak lehetnek. […] A fő területünk a formális verifikáció. Ez olyan lehetőséget ad a programozásban, hogy matematikailag bebiztosítsuk, hogy egy szoftverrendszer azt csinálja, amit szeretnénk, hogy bizonyos fajta hibákat nem vét, vagy bizonyos fajta támadások ellen matematikailag bizonyíthatóan védelmet nyújt. […] Pici, de nagyon tehetséges csapattal dolgozunk. Budapesten van a kutató-fejlesztők nagy része.
Miért?
Huszár Ferenc: Valószínűleg sok szempontból könnyebb lenne a Szilícium-völgyből indulni, de én fontosnak tartom, hogy Európa ne legyen teljes mértékig irreleváns ezen a területen. […] Fontosnak tartom azt is, hogy legyenek Magyarországon kellően globális ambíciójú cégek. Mert ha most nincsenek, akkor tíz év múlva még nehezebb lesz ilyeneket létrehozni.
Ez az adás nem készülhetett volna el olvasóink nélkül. Legyen támogatónk a Donably-n, a magyar fejlesztésű platformon! Paypal, utalás és más lehetőségek itt >>>
