Skúma umelú inteligenciu: Stroje nás ovládnu, ak nebudeme vzdelaní

Profesorka Mária Bieliková hovorí, že od počítačov sa môžeme veľa naučiť.
Je dekankou Fakulty informatiky a informačných technológií STU v Bratislave a pred pár mesiacmi sa stala členkou expertnej skupiny Európskej komisie na umelú inteligenciu. Na Slovensku patrí k popredným odborníčkam v tejto oblasti. Profesorka Mária Bieliková tvrdí, že ak stroje budú konať iba racionálne a začnú byť silnejšie ako my, môže to byť nebezpečné. V rozhovore vysvetľuje, čo by sme ako spoločnosť mali urobiť a pochopiť.

V rozhovore pre náš magazín pred deviatimi rokmi ste spomínali, že pomer mužov a žien, ktorí idú študovať informatiku, je desivý. Ako je to teraz s odstupom času?
Zmenilo sa to, hoci stále nemôžeme byť celkom spokojní. Desať rokov dozadu sme mali na fakulte 6 percent dievčat, teraz je to zhruba 12 percent. Prváčok, ktoré nastúpili tento rok, je 15 percent. Verím, že tie dievčatá „prežijú“, sú často o dosť šikovnejšie a pracovitejšie ako chlapci a nakoniec ich je viac úspešných. No je to stále malé číslo. Zrejme nikdy to nebude pol na pol. Ako to bude, bude to závisieť aj od toho, ako ľudia budú vnímať, čo to je informatika.

Za tie roky sa to však mení.
Mení a je to najmä vďaka aktivitám ako napríklad Aj ty v IT, ktoré vzniklo na našej fakulte. Povedali sme si – poďme niečo spraviť, aby sme mali viac dievčat a rozhodli sme sa to spraviť spôsobom, ktorý nie je viazaný len na našu fakultu. Založili sme neziskovku, ktorá nás veľmi rýchlo prerástla. A hoci stále študuje málo dievčat, mnohé ženy pod vplyvom Aj ty v IT menia svoje zameranie na informatiku, čo je tiež dôkaz, že na to majú.

Možno si dievčatá predstavujú mužov informatikov, ktorí od rána do večera programujú a boja sa toho.
Možno áno, no tento mýtus sa snažíme vyvracať už tak dlho, že dúfam, že už mizne. Jeden z dôvodov môže byť matematika, ktorá je strašiakom. Áno, je dôležitá pre informatikov, ale myslím si, že je aj pre právnikov, psychológov, zubárov, do nejakej miery pre všetkých.
Keď sa v deťoch netrénuje logické rozmýšľanie, tak sa ho boja. Informatika je veľmi široká, človek nemusí byť najlepší z matematiky v ročníku, aby bol skvelý informatik. Ale nejakú základnú úroveň znalostí vyžadujeme. Nie preto, že by informatik matematiku všade efektívne používal, ale aj preto, lebo to je najlepšie cvičenie mozgu, aké existuje.

Žiakom na základných a stredných školách však možno chýba niekto, kto by ich nadchol a ukázal im zmysel matematiky, nemyslíte?
V mnohých prípadoch určite áno. Keby som mala tú moc, ako prvé by som sa sústredila na to, aby sme našli čo najviac dobrých učiteľov, špeciálne na matematiku, a dobre ich zaplatili. Zmena sa nedá urobiť tak, že sa nalejú peniaze do systému, to nefunguje. V situácii, v akej sme my, musíme hľadať a budovať ostrovčeky, kde to začne fungovať, ukázať, ako to ide. A tieto ostrovčeky šíriť ďalej.
Neviem, či tento postup má u nás šancu, keďže v našej spoločnosti sme presvedčení, že spravodlivosť znamená, že všetky oblasti musíme rozvíjať rovnako. No výsledok je taký, že týmto spôsobom sa šance pre všetkých znižujú na minimum. Iný súvisiaci príklad je, že naša krajina by mala mať aspoň jedno miesto, kde bude špičková informatika. Myslím, že by sme to mali chcieť, lebo informatika je veľkým potenciálom pre našu krajinu. A to špičkové pracovisko nemá kde inde byť, ako na niektorej univerzite.

Prečo by ľudia mali rozumieť strojom a umelej inteligencii?
Ľudia budú čím ďalej tým viac prichádzať do styku so strojmi. V rôznych podobách, či už to budú roboty fyzické alebo digitálne. Každá vec už čoskoro bude mať v sebe nejaký počítač, napríklad aj zubná kefka.
Naozaj sa môžu naplniť rôzne hrozby, ako nás umelá inteligencia ovládne a naplnia sa vtedy, keď budeme mať nevzdelaných ľudí.
A to sa netýka len Slovenska, ale celého sveta. Ľudia by mali aspoň na nejakej úrovni chápať, ako funguje počítač. Keď si zoberiete, že sme obklopení strojmi, tie nejakým spôsobom fungujú, vnímajú nás, dávajú von nejaké informácie, je veľmi dôležité vedieť, ako s nimi komunikovať. A pri akejkoľvek komunikácii znalosť toho druhého veľmi pomáha.

Čo si pod tým má človek predstaviť konkrétne? Čo znamená komunikovať, porozumieť strojom?
Jedna vec je komunikácia priama, keď urobím nejaké gesto, niekde niečo napíšem, odkliknem. To je základná úroveň, ktorú sa človek viac-menej naučí. Keď však pôjdeme hlbšie, tak to znamená vedieť, na akých princípoch tie stroje fungujú. Napríklad, keď vám nejaký mobil odporučí, že máte ísť do tejto reštaurácie, lebo tam najlepšie varia, bolo by veľmi užitočné, keby ste aspoň tušili, na základe čoho to povie a aké to má ohraničenia.
Aby ste si vedeli vyhodnotiť informáciu. Pochopiť, nakoľko jej veriť. Keď vám napríklad počítač predpovie, že toto sa stane a že toto je pre vás dobré, ide len o nejaký odhad, že to tak je. Ten odhad je často nepresný. V niektorých je prípadoch je chyba veľmi veľká. Ak tomu uveríme, nemusí to dopadnúť dobre. Na druhej strane, stroj dnes už v mnohých situáciách vie urobiť lepšie rozhodnutie, ako by ho urobil človek.

Čo ďalej?
Pochopenie toho, ako funguje počítač môže byť užitočné aj v úplne iných situáciách. Môžeme sa od spôsobu práce počítačov učiť. Zoberte si jednoduchý príklad, ako si efektívne upratať veci na stole. Keď má človek obmedzený priestor a potrebuje vyhodiť niečo, čo sa mu tam nezmestí, tak vyhodí to, čo v poslednej dobe najmenej používal. Takto funguje aj operačný systém počítača.

Človek však nekoná vždy racionálne.
Presne tak. Stroje sa programujú spravidla tak, aby sa viac-menej správali racionálne. Ale to je pre nás možno najväčšia hrozba. Čo to znamená racionálne? Že máte funkciu, cieľ a stroj nájde riešenie, aby sa spotrebovalo minimum zdrojov na to, aby ho dosiahol. Lenže človek má hodnoty. Keby konal vždy racionálne, nekonal by morálne.
Prebiehajú teraz rôzne diskusie napríklad o autonómnych vozidlách. Racionálne je naprogramovať ich tak, aby boli čo najmenšie straty. No všetci cítime, že sa nám to nepáči, veľmi ľahko by sa mohlo stať, že ak stroje budú konať iba racionálne a začnú byť silnejšie ako my, výpočtovo a možnože aj fyzicky, tak to môže byť nebezpečné.

Takže to nie je sci-fi scenár, ktorého sa ľudia boja a vidia ho iba vo filmoch?
Nie. Naozaj to nemusí dopadnúť celkom dobre, ak ľudia nebudú v tejto oblasti vzdelaní. Predstavme si stroj, ktorý autonómne bude konať a zneužije jadrovú zbraň a celé to tu zničí. Ja som presvedčená, že sa nemusíme toho báť, pokiaľ budeme mať dostatočne vzdelanú spoločnosť.

Kedy by sa teoreticky mohla stať katastrofa, že stroje prekonajú človeka?
Už dnes stroje v mnohom prekonajú človeka. Ale to, že by niekto zostrojil neurónovú sieť, ktorá by mala toľko neurónov, koľko má človek v mozgu, stále nemusí nič znamenať. Jeden z odhadov predpokladá, že by sa to mohlo podariť niekedy okolo roku 2035. Omnoho skôr môžeme dosiahnuť veci, ktoré nás prekvapia.
Všetko závisí od toho, ako sa k tomu postavíme, aké ohraničenia si dáme. Veď nakoniec vidíme, že hoci v druhej svetovej vojne sa použili jadrové zbrane s ničivými dôsledkami, ľudia v ich vývoji pokračovali a aj stále vlastne pokračujú. Ale máme ohraničenia, bojuje sa proti tomu, ľudia si uvedomujú, že nás môžu jadrové zbrane zničiť. Takže to v zásade máme vo vlastných rukách.

Ako sa pozerať na to, že stroje nahradia v pracovnej oblasti ľudí?
Informatizácia a digitalizácia všetkého majú veľký vplyv na pracovný trh. Nevieme, ako sa naplnia predpovede. No niektorým profesiám hrozí skoro zánik a zároveň vznikne mnoho ďalších, o ktorých dnes ani netušíme. Môže sa ľahko stať, že tu bude veľké množstvo ľudí, ktorí nebudú mať čo robiť. Keď ľudia nebudú vzdelaní, tak to tu môže dopadnúť tak, že vôbec nebudeme potrebovať stroje, aby nás zničili, zničíme sa sami.

Stali ste sa členkou expertnej skupiny Európskej komisie na umelú inteligenciu. S akým cieľom ste sa tam hlásili?
Čím viac starnem, tým viac vidím, že chcem niečo urobiť, aby som využila to, čo som sa naučila. Aby som bola užitočná. A najmä, aby som v pokoji mohla odísť a videla som, že to, čo som urobila, malo zmysel, že to má pokračovanie. Nechcem dramatizovať, ale informatika na Slovensku je v zúfalo skvelom a v zúfalo katastrofickom stave.
Skvelom preto, že ešte stále tu máme dosť šikovných ľudí a ešte sa to nepodarilo celé zlikvidovať. A zároveň máme pomerne silný IT priemysel, keď uvažujeme, aká sme malá krajina. No veľa mladých ľudí odchádza do zahraničia, najmä do Česka. Len čo to prekročí určitú hranicu, začína to byť ohrozením. Toto potrebujeme zvrátiť. Veľmi som rozmýšľala, čo sa dá spraviť.
Umelá inteligencia je niečo, čo robíme, o čom chceme vedieť viac. Mám v tom neskromne celkom dosť skúseností, mám skvelý tím a myslela som si, že by bolo pre Slovensko dobré, keby v tej expertnej skupine niekto bol a mohli sme tak zužitkovať skúsenosti, ktoré máme a tiež sa priučiť z prvej ruky od nich.

Chceli ste byť vlastne takou inšpiráciou.
Aj tak sa to dá povedať. Ale úprimne poviem, že som neverila, že sa tam dostanem. Bolo veľké prekvapenie, že z vyše 600 ľudí ma vybrali. Vážne som rozmýšľala, že ponuku, ktorá prišla, nezoberiem. Medzitým som si uvedomila, čo to bude znamenať, každý mesiac stretnutie expertnej skupiny niekde v Európe, aktívna účasť, štúdium, práca a popri tom všetkom, čo robím, to nebude jednoduché. Všetci mi však vraveli, čo bláznim, že to treba, tak som sa na to dala.

Čo je vlastne vašou úlohou v rámci skupiny?
Cieľom je mať v polovici budúceho roka spracované odporúčania pre Európsku komisiu. Sú tam dve podskupiny, jedna sa zaoberá zásadami v súvislosti s etikou, respektíve používaním systémov zahŕňajúcich prvky umelej inteligencie. Jednoducho povedané, čo robiť, aby nám umelá inteligencia neprerástla cez hlavu, ale zároveň aby sme jej dali priestor na rozvoj.
Druhá časť sa zaoberá odporúčaniami, ako sa posunúť v Európe tak, aby bola konkurencieschopná v oblasti umelej inteligencie. V súčasnosti sú lídrami v tejto oblasti Amerika a Čína. Diskutujeme, do čoho investovať, ako zapojiť talent, posilniť výskum.
Jedna z najdôležitejších vecí, keď sa bavíme o Európe je, aby nám odtiaľto neunikali mozgy, lebo momentálne sa to deje. Aj ak ide o Slovensko, som presvedčená, že tu je jediné riešenie – stiahnuť našich ľudí zo zahraničia, dať dokopy tých, ktorých tu máme a vybudovať tu silné centrum.

Ste takmer tri roky dekankou. Kam sa fakulta za ten čas posunula? Majú študenti motiváciu tu zostať?
Momentálne je situácia taká, že nie veľa našich absolventov ide do zahraničia. A keď idú, mnohí sa vrátia. Je veľmi dobré, keď idú, podporujem to, lebo človek naberie skúsenosti. Navyše informatici majú na Slovensku neskutočné príležitosti, veď tu sú podobné platy ako vo Viedni a vyššie ako v Česku.

Prečo by odchádzali?
Problém je, keď odídu stredoškoláci, pretože na vysokej škole si človek väčšinou vytvára najdôležitejšie väzby v živote vrátane krajiny a prostredia. Keď odíde 17-18 ročný človek, ešte tu nemá väzby a je nižšia šanca jeho návratu. A keď odíde do Česka, kde je rovnaké kultúrne prostredie, šanca je ešte menšia.

Na fakulte vediete výskumnú skupinu PeWe. Venuje sa správaniu človeka v súvislosti s digitálnym svetom?
Áno a má to rôzne podoby. Napríklad hľadáme výpočtové modely, ktoré opisujú správanie ľudí. Robíme to na základe stôp, ktoré človek v digitálnom svete zanecháva, najmä tie implicitné, ako pohyby myšou, klikanie, písanie na klávesnici, pohľad.
Z týchto stôp vytvárame modely, ktoré sa dajú použiť napríklad na odporúčanie v elektronickom obchode alebo predpovede nasledujúcich akcií zákazníkov, identifikovanie, ktoré časti používateľského rozhrania ľuďom robia problémy. Veľmi úspešne na toto využívame aj zariadenia na sledovanie pohľadu (angl. eye trackery), ktoré vedia odhaliť zaujímavé miesta na stránke či vzory správania.

S peniazmi na výskum to na Slovensku nie je práve pozitívne. Akým spôsobom sa pasujete s týmto problémom?
Jeden príklad za všetko. Keď sme budovali Univerzitný vedecký park, dostali sme nejaké peniaze na infraštruktúru. Síce nešlo o milióny, ale aj tak to výrazne prekračovalo pár tisíc, ktoré štandardne máme na projektoch. Tak sme si položili otázku, čo vieme urobiť preto, aby sme mohli robiť naozaj niečo zaujímavé a jedinečné, niečo, čo nás posunie a umožní ľuďom narásť.
Navrhli a zrealizovali sme laboratórium pre hromadné používateľské štúdie s 20 eye-trackermi. Tým však nechcem povedať, že máme dostatok financií. Elitné pracoviská vo svete majú minimálne o rád viac. Verím, že aj nám sa to podarí.

Raz ste sa vyjadrili, že na tento odbor ste sa dali preto, lebo aj stroje potrebujú poetickú dušu. Podarilo sa vám ju tam dostať?
Chcela som do toho najmä dať srdce, emóciu. Keď sa nad tým zamyslíte, informatika je špeciálna oproti iným disciplínam aj v tom, že ak informatici predstavujú nejakú kultúru, tak ona vytvára najmä veci pre iné kultúry.
Okrem odborných znalostí sa treba naučiť a poznať práve tú druhú kultúru, či sú to lekári, bankári alebo poľnohospodári. Vždy je dobré mať v tíme niekoho, kto prenikne do tej druhej oblasti a bude to robiť s nadšením. Myslím, že práve na to sú ženy ako stvorené.

https://zena.sme.sk/c/20931992/skuma-umelu-inteligenciu-stroje-nas-ovladnu-ak-nebudeme-vzdelani.html