Umelá inteligencia [Rádio Slovensko]

Karolína Lacová, moderátorka: „Napíše expresne rýchlo referát aj diplomovku, no prácu uľahčuje aj lekárom. Napriek prínosu zostáva umelá inteligencia naďalej rizikom, ktoré naplno odhadnúť nevieme. Europoslanci hľadajú pre ňu posledné roky pravidlá a hoci s nimi finišujú, zatiaľ jasné riešenie nemáme. Do akej miery vieme umelú inteligenciu regulovať? Odpovie Ivan Sekaj z fakulty elektrotechniky a informatiky Slovenskej technickej univerzity. Dobrý deň.“

Ivan SEKAJ (FEI STU): „Dobrý deň.“

Karolína Lacová, moderátorka: „A taktiež Matúš Mesarčík z Kempelenovho inštitútu inteligentných technológií a rávnickej fakulty Univerzity Komenského. Dobrý deň.“

Matúš Mesarčík: „Dobrý deň.“

Karolína Lacová, moderátorka: „Pri mikrofóne je Karolína Lacová. Pán Mesarčík, ak by sme začali teda pozitívne, pozitívnym príkladom, onkologický ústav v Košiciach už vyše roka využíva umelú inteligenciu pri diagnostike. Dokonca šetrí čas lekárov onkológov o deň, čo je asi o 30 %. Je toto takým typickým príkladom toho, ako dnes v našich podmienkach využívame umelú inteligenciu?“

Matúš Mesarčík: „Áno. Mám informácie, že práve v oblasti zdravotníctva a slovenských firiem, ktoré sa tejto téme venujú, tak práve to je taký unikátny možno príklad aj s veľmi pozitívnymi následkami na spoločnosť v oblasti zdravotníctva, ktorý my tu dnes máme. Samozrejme aj využívanie umelej inteligencie v zdravotníctve so sebou nesie nejaké riziká, o ktorých sa predpokladám ešte budeme baviť.“

Karolína Lacová, moderátorka: „Spomeňme ešte nejaké ďalšie oblasti, ako to na Slovensku v súčasnosti vyzerá, kde môžeme hovoriť o tom pozitívnom prínose?“

Matúš Mesarčík: „Tak pozitívny prínos je aj v téme, ktorej sa dotkneme a to je napr. dezinformácie, zachytávanie, výskum v nich, respektíve výroba nástrojov, aby sme vedeli s týmto negatívnym fenoménom lepšie pracovať.“

Karolína Lacová, moderátorka: „Pán Mesarčík začal hovoriť alebo teda spomenul aj riziká. Pán Sekaj, je tam teda tá druhá strana. Hovoril o nej dokonca aj primár Pavol Dubinský, keď ostaneme teda v tých Košiciach a v onkologickom ústave, že umelá inteligencia nahradí v budúcnosti niektoré činnosti, ale tá kontrola procesov lekárom bude vždy nevyhnutná. Dokonca aj tam mali prípady, kedy tie závery umelej inteligencie museli upraviť alebo resp. nejako úplne nahradiť. Vnímate to podobne?“

Ivan SEKAJ: „Tak umelá inteligencia prináša samozrejme v oblasti zdravotníctva veľké pokroky, veľké zjednodušenia práce, dokonca by som povedal častokrát prekonáva možno aj lekárov v niektorých činnostiach. Je rozumné dnes samozrejme a nevyhnutné to mať pod kontrolou. Tzn. tie rozhodnutia povedzme zatiaľ v oblasti diagnostiky, ale neskôr možno aj pri návrhoch terapie, to schváliť lekárom. To je samozrejme dnes nevyhnutné. Až sa dostaneme do štádia, že bude tá spoľahlivosť veľmi vysoká a že nebudeme mať povedzme obavy v niektorých oblastiach toto zveriť strojom, tak možno sa od toho upustií, ale toto je otázka na lekárov. Takže to budú musieť rozhodnúť oni, ale rozhodne to teda dnes veľmi zjednodušuje prácu.“

Karolína Lacová, moderátorka: „Keď hovoríte, že tá úroveň bude veľmi vysoká, dá sa to dať do tej roviny, že teda tie stroje budú vykonávať prácu možno výkonnejšie, ako človek?“

Ivan SEKAJ: „No budú a ja myslím, že už aj dnes máme mnoho takých príkladov. Povedzme diagnostika je činnosť, kde máme nejaké dáta povedzme v obrazovej podobe, ale nielen obrazovej podobe, ktoré treba vyhodnotiť a na toto treba mať nejaké znalosti, ktoré nadobudnú povedzme lekári, skúsení lekári dlhoročnou praxou. Technológie na báze umelej inteligencie a na báze strojového učenia sú schopné absorbovať veľké množstvo takýchto znalostí veľmi rýchlo, tzn. oni nepotrebujú mať niekoľkoročné štúdium a atestácie a skúsenosti. Dokážu to natrénovať v podstate veľmi rýchlo a okrem toho je to prenosné, kdežto kým lekár teda môže byť na jednom mieste, tak tieto technológie sa dajú ľahko kopírovať. Tzn. môžu sa používať kdekoľvek a sú veľmi spoľahlivé dnes. Napr. sú to nejaké 2D röntgenové snímky alebo 3D povedzme CT vyšetrenia, MRI vyšetrenia, kde to už je veľa dát a toto vie umelá inteligencia dnes pravdepodobne už spoľahlivejšie urobiť, ako človek a bude teda schopná možno okrem tej diagnostiky možno aj viac urobiť.“

Karolína Lacová, moderátorka: „Viac myslíte v akom smere?“

Ivan SEKAJ: „Povedzme navrhne terapiu, že čo ďalej, keď už sa tá dianostika spraví.“

Karolína Lacová, moderátorka: „Vyhodnotí ten medicínsky postup.“

Ivan SEKAJ: „Vyhodnotí postup, pretože má k dispozícii veľa skúseností z celého sveta, ktoré boli publikované a vie to absorbovať v podstate do nejakej takmer neobmedzenej pamäte a vie navrhnúť postup, ktorý si lekár nie je schopný zapamätať alebo nie je schopný rýchlo nadobudnúť takéto znalosti.“

Karolína Lacová, moderátorka: „Ďakujem. Pán Mesarčík, pozrime sa ešte v krátkosti na ďalšiu oblasť a to je školstvo. Dokonca až 45 percent slovenských učiteľov zatiaľ nevyužilo umelú inteligenciu. To ukázal prieskum fakulty masmediálnej komunikácie univerzity Cyrila a Metoda v Trnave. Čiže ak toto vnímate? Mohla byť väčším prínosom aj pre našich učiteľov v budúcnosti?“

Matúš Mesarčík: „Myslím, že systémy umelej inteligencie využívame a my si to možno neuvedomujeme, pretože predsa len tá umelá inteligencia je taký /???/ a človek si možno pod tým predstaví nejaký veľmi sofistikovaný systém, ale už napr. iba jednoduchý rešerš nejakých dokumentov, keď si človek robí prípravu na hodinu a to jedno, či na základnej alebo vysokej škole, alebo keď píše nejaký článok, tak už vlastne pri tom využíva nejaké systémy a nemusí si byť toho ani celkom vedomí. Čiže tá umelá inteligencia v tom školstve už hrá teraz veľkú úlohu a bude hrať ešte väčšiu práve s nástupom takých veľkých jazykových modelov, ktoré sú následne aj generatívne, ako napr. známy ChatGPT.“

Karolína Lacová, moderátorka: „Ešte ak sa budem držať toho prieskumu, tak tam vzišlo z neho, že 17 % učiteľov si myslí, že predstavuje umelá inteligencia pre žiakov riziko, pretože prestanú samostatne uvažovať. Čiže to je opäť tá negatívna stránka. Bude to väčšie využívanie umelej inteligencie viesť k tomu, že budeme menej rozmýšľať? Dá sa na to pozerať aj takto?“

Matúš Mesarčík: „Dúfam, že nie. To je možno trošku širší problém, že samotná digitálna technológia, ako taká, nám uľahčuje životy a núti nás možno menej premýšľať. Zase na druhej strane to využívanie umelej inteligencie na akúkoľvek činnosť bude chcieť možno trošku iné schopnosti a iný prístup, ako máme k využívaniu iných digitálnych technológií. Čiže možno v niečom budeme musieť premýšľať menej, ale zase na druhej strane niečo budeme musieť premýšľať viac a kriticky vyhodnocovať, čo s tým nástrojom človek robí.“

Karolína Lacová, moderátorka: „Pán Sekaj, budeme sa možno v tomto smere učiť nové veci a do akej miery to môže súvisieť aj s novými profesiami?“

Ivan SEKAJ: „No tak toto je dosť rozsiahla téma a nedá sa to veľmi stručne vysvetliť alebo k tomu zaujať stanovisko. Ale bude to mať veľký súvis na profesie a bude to mať a má to vplyv aj na vzdelávanie na školstvo. Ja by som v tomto nebol až taký optimista, pretože…“

Karolína Lacová, moderátorka: „Čo sa toho rozmýšľania týka?“

Ivan SEKAJ: „Čo sa týka toho rozmýšľania, pretože inteligencia prirodzená, je to vlastne schopnosť riešiť nejaké problémy. Tak, ako sme museli riešiť problémy v minulosti od úplne elementárnych vecí, až po najzložitejšie veci dnešných dní, ak museli sme jednoducho používať náš mozog, trénovať náš mozog a učiť sa tieto problémy riešiť. Toto všetko dnes nás začínajú robiť stroje. Nielen nahrádzajú nejakú prácu mechanickú alebo rutinu alebo rutinu administratívnu a mechanickú, to už je jedno, ale začínajú riešiť problémy za nás a keď neriešime problémy, keď netrénujeme mozog, tak podľa môjho názoru to môže viesť k tomu, že bude tá inteligencia degradovať. Dá sa tomu zabrániť, ale ľudstvo je od svojej podstaty lenivé, robí len to, čo je nevyhnutné a to čo nemusí, nerobí a tak isto je to aj s našimi žiakmi. Tzn. že my musíme vytvoriť prostredie, aby sme ich nútili rozmýšľať a samozrejme zabrániť tomu, aby sme používali moderné nástroje aj na báze umelej inteligencie, nie je možné a podľa mňa to ani nie je správne, ale budeme musieť vytvoriť podmienky a prostredie, aby sme zostali pri tom našom uvažovaní, aj keď inom, aj keď budeme používať tieto nástroje, ale aby sme jednoducho ten náš intelekt trénovali a to naše rozmýšľanie riešenie problémov trénovali.“

Karolína Lacová, moderátorka: „Toto vieme povedať viac, že aké budú tie nástroje?“

Ivan SEKAJ: „No tak tie nástroje nebudú nič zložité. Podľa mňa ja, ešte teda, ja si len útvaram názor na túto problematiku, pretože je to pomerne nové. Aj mňa to zaskočilo, aj keď sa celý život venujem umelej inteligencie, ale ten pokrok je veľmi rýchly a exponenciálny. Tzn. že ja si vytváram svoj názor. Ja si myslím, že nebude to také zložité, pretože my môžeme používať a dovoliť tým študentom používať tieto nástroje k tomu, aby zhromažďovali povedzme tie znalosti, čo bolo v minulosti veľmi pracné, museli chodiť na prednášky, museli čítať knihy a povedzme používali nejaké prehliadače internetové v poslednej dobe. Dnes to boti vedia veľmi rýchlo spraviť za nich. Tzn. že od tohto ich odbremenia, ale my musíme si overiť, že tí študenti tu látku alebo proste tie znalosti majú. Tzn. že oni ich získajú ľahko, ale musia ich dostať do hlavy, musia ich vedieť používať a to si viem overiť tým, že povedzme budem s tým študentom viesť dialóg, budem ho nejakým spôsobom sa ho opýtať a skúšať, či to vie aplikovať.“

Karolína Lacová, moderátorka: „Druhá vec je, že dnes to aj niektorí učitelia ťažko vedia rozoznať, či ten referát napísal skutočne žiak umelá inteligencia. Ale posuňme sa ďalej teda, aby sme nezostali len pri tom školstve a to sú teda tá téma avizovaná dezinformácie. Reportéri bez hraníc zverejnili nový index slobody tlače. Upozorňujú v ňom na záplavu dezinformácií, k čomu má napomáhať aj umelá inteligencia. Ako výrazne sa aktuálne podieľa na šírení týchto takých falošných správ, opýtala som sa Petra Jančarika, spoluzakladateľa projektu konšpirátori.sk. Vypočujeme si krátky rozhovor s ním.“

Peter Jančarik: „Pod umelou inteligenciou si väčšina z nás predstaví hlavne známy ChatGPT, ktorý mal boom koncom minulého roka a ktorý je vlastne takým chatovacím rozšírením už existujúceho jazykového modelu, ktorý vlastne vie vygenerovať nejaký typ textu. Tí vývojári, ktorí ho vytvorili, ale doňho vlastne vstavali isté ochrany, ktoré bránia mu akoby generovať dezinformácie. Napriek tomu užívatelia ho sa snažia všelijakými spôsobmi heknúť a donútiť ho vygenerovať aj nejakú klamlivú informáciu a tieto pokusy samozrejme budú pribúdať a myslím, že tá umelá inteligencia nám zo začiatku v oblasti dezinformácií spôsobí viac škody, ako úžitku a možno neskôr nám skôr pomôže to informačné prostredie trochu čistiť.“

Karolína Lacová, moderátorka: „Aký je to ten časový horizont?“

Peter Jančarik: „No to by som musel mať krištáľovú guľu. Ale keď sa pozrieme na to, aký rýchly vývoj to nabralo a vidíme tu dnes aj tie obavy z toho, že či ten vývoj nie je príliš rýchly, ale to pri technológiách býva vždy, podľa mňa sme v otázke niekoľkých mesiacov, možno jednotiek rokov.“

Karolína Lacová, moderátorka: „Aké sú podľa vás tie možnosti riešenia? Svetoví výskumníci hovoria teda o viacerých. Napr. nejaký obmedzený prístup k umelej inteligencii alebo regulácia zo strany vlád.“

Peter Jančarik: „No aj samotná firma, ktorá vlastne dala svetu ChatGPT, vydala taký zaujímavý paper, ktorý vlastne pojednáva, oni sú si vedomí…“

Karolína Lacová, moderátorka: „Oni vlastne aj sami volajú po tej nejakej regulácii.“

Peter Jančarik: „No to je také zvláštne, že vlastne vy to pustíte do sveta a potom voláte, že prosím vás, niekto to vyriešte a zregulujte. Takže to je istým spôsobom aj trošku alibistické od nich. Ale každopádne dobre, že sa nad tým aspoň zamýšľajú a z toho reportu aj nevyzerá, že majú v rukách momentálne nejaké účinné a konkrétne riešenia. Oni sú naozaj veľmi rôzne. Od toho, čo ste spomínali, tzn. že obmedziť ten prístup k týmto technológiám iba niektorým aktérom. Toto ale samozrejme v autoritárskych štátoch bude veľmi ťažké. Keď si Čína poviete niečo také, že to vyvinie, tak to vyvinie, čiže nainštaluje do toho čo bude chcieť a čo nebude chcieť. Takže toto je také tiež akoby zatiaľ žiadne z tých riešení nie je nejakou striebornou guľkou, ktorá by zabila upíra a jednoducho ten problém vyriešila. Sú to také mäkké opatrenia ako zvyšovanie mediálnej gramotnosti, aby si ľudia dokázali odlíšiť, čo bolo vytvorené umelou inteligenciou, čo nie, ale toto bude veľmi ťažké. Možno si spomínate na tú fotku pápeža v tej bielej páperke, ktorú mnohí ľudia považovali za reálnu, dokonca aj ja.“

Karolína Lacová, moderátorka: „Pán Mesarčík, nebudem sa vás pýtať, či ste považovali vy túto fotku za reálnu alebo nie, ale teda ten obsah bude čoraz ťažšie odlíšiť. To, čo bolo vygenerované človekom a čo strojom a bude práve jedna z tých najväčších výziev súvisieť s dezinformáciami?“

Matúš Mesarčík: „Určite áno, keď sa na to pozrieme zo systémového hľadiska, tak úplne zvrchu, tak to šírenie dezinformácií ovplyvňuje predovšetkým ten priestor, kde sa šíria a tie nástroje, ktoré ich šíria. Ten priestor sú asi najviac sociálne médiá alebo sociálne siete, kde už nejaká regulácia bola nedávno prijatá a potom sú to práve tie odporúčacie systémy, ktoré nám odporúčajú rôzny obsah na základe toho, čo by sa možno páčiť. A to sú práve tie systémy umelej inteligencie. Čiže áno, to sú práve tie 2 kľúčové veci, ktoré je potrebné aj pri regulácii zohľadniť.“

Karolína Lacová, moderátorka: „Aké sú tie možné navrhované riešenia. Niečo spomenul pán Jančarik. A čo teda reálne v našich podmienkach, on síce dodal, že žiadne z tých opatrení nie je striebornou guľkou, ktorá by zabila upíra, čiže súhlasíte s týmto, že v podstate nemáme v rukách adekvátne riešenia?“

Matúš Mesarčík: „V zásade ak chcete voči tomuto, akým spôsobom zakročiť, či už regulačne alebo iným spôsobom, tak potrebujete vedieť, čo ten systém robí a ako funguje. To sa napr. vie dosiahnuť prostredníctvom inštitútov auditovania týchto systémov na tých veľkých sociálnych sieťach. To napr. zavedie, ak v digitálnych službách.“

Karolína Lacová, moderátorka: „Ale funguje to na tých sociálnych sieťach? Ako či to je v praxi účinným nástrojom, na to sa pýtam.“

Matúš Mesarčík: „No v tejto chvíli ešte ten /???/ v digitálnych službách nie je účinný, ale od augusta na tie veľké sociálne siete už bude, čiže oni budú musieť každý rok byť predmetom takéhoto auditu. No uvidíme, ukáže prax, že či to bude dostatočné alebo nie.“

Karolína Lacová, moderátorka: „Pán Mesarčík, ako to vy vnímate ešte tam, tam boli také návrhy od niektorých vedcov, že zodpovedný dizajn, že by vás mala tá daná aplikácia zastaviť, ak budete chcieť od nej nejaký problematický obsah. Čiže, ktoré z tých riešení, o ktorých sa hovorí, by podľa vás bolo adekvátne?“

Ivan SEKAJ: „No nebude to ľahké, pretože tie technológie sú čoraz výkonnejšie a čo je teda zaujímavé alebo by som povedal možno problém alebo zradné je to, že kým v minulosti takéto technológie alebo nie technológie metódy, ktoré tieto technológie používajú, sú vyvinuté ľuďmi, oni vlastne používajú podobné postupy, ako používali v minulosti ľudia, len vedia to robiť automaticky. Vedia to robiť strojovo, vygenerovať to. Hlavne umožňujú to každému alebo takmer každému, tzn. keď v minulosti si to nemohol každý dovoliť, ani médiá neboli také, že dokázali sprostredkovať informácie komukoľvek a teraz vlastne každý si na internete nájde akékoľvek informácie, tak každý, kto chce zneužiť, kto chce použiť dezinformácie, kto chce manipulovať verejnú mienku, tak bude mať skôr alebo neskôr k dispozícii veľmi výkonné nástroje, ktoré by som povedal, sú vedecké, rafinované, presvedčivé.“

Karolína Lacová, moderátorka: „Že budú vlastne cieliť tú falošnú informáciu, ako keby na mieru tej danej skupine.“

Ivan SEKAJ: „Áno, každý si teda zvolí ten cieľ a tú motiváciu, ktorú má a oni mu to sprostredkujú, oni mu to umožnia, tzn. že bude to veľmi ťažké. Nehovorím, že to nebude riešiteľné, ale bude to ťažké. A tam ja teda vidím 2 cesty. 1 cesta je taká technologická, tzn. že keď sa vyvíja nejaká zbraň, tak sa vyvíja protizbraň, čiže existujú tieto generatívne metódy umelej inteligencie, ktoré dokážu vygenerovať informácie, ale dokážu vygenerovať aj zvuk, ale aj obraz, tzn. aj video, ktoré je veľmi presvedčivé. A niekto môže vysvetľovať, že to nepovedal alebo že to nebol on veľmi ťažko, hoci to naozaj nebol on, tzn. že vytvoríme nejaké nástroje, ktoré budú schopné identifikovať. My tak, ako sme natrénovali tie nástroje, aby šírili informácie, vieme natrénovať nejaké nástroje a metódy, že budú identifikovať. S istou pravdepodobnosťou, že…“

Karolína Lacová, moderátorka: „Bude to mať nejaký svoj vrchol, že najskôr budú, tá umelá inteligencia pomôže tým dezinformáciám v šírení a potom následne ako keby očistí ten priestor…“

Ivan SEKAJ: „Myslím, že je to tak ako so zbraňami, že vymyslí sa najskôr zbraň a potom protizbraň, takže podľa mňa to tak bude, ale tá odozva bude veľmi rýchla. Tie metódy sú trocha iné na to, aby som identifikoval, ale podobné, že či to teda urobil človek alebo nie s istou pravdepodobnosťou. Ale to nebude stopercentný nástroj. A podľa mňa existuje nástroj, ktorý bude, ktorý je veľmi účinný, ale je veľmi veľmi ťažký, veľmi drahý a bude s tým zavádzaním asi veľký problém. A to je to, že každý si to odfiltruje sám, tzn. že budeme národ vzdelávať a budeme ho učiť kriticky myslieť. To je úloha na školstvo, na rodiny, na celú kultúru, na celý systém. Podľa mňa vzdelaní ľudia sú ťažko manipulovateľní.“

Karolína Lacová, moderátorka: „Ale to je opäť teda úloha, ktorá je na roky, možno desaťročia pred nami. Poďme teda sa pozrieť na tú európsku reguláciu alebo teda o ktorej sa uvažuje. Európska únia pracuje dlho na tom, aby teda legislatívne umelú inteligenciu nejakým spôsobom uchopila. Aktuálne sa finalizuje pozícia europarlamentu. Aké sú pravidlá, ktoré by mali pre členské štáty platiť, tak to som sa opýtala europoslankyne Miriam Lexmann z KDH.“

Miriam Lexmann: „Návrh Európskeho parlamentu bude deliť umelú inteligenciu za umelú inteligenciu, ktorá obsahuje neakceptovateľné riziko, tam napr. patrí kategorizácia ľudí, ktoré vieme, že takáto umelá inteligencia sa používa v Číne, na to, aby sa nejakým spôsobom ľuďom pridávali na oficiálne kredity a takým spôsobom regulovali aj ich práva, čiže absolútne neakceptovateľné. Potom bude umelá inteligencia s vysokým rizikom, kde naozaj treba chrániť ľudskú dôstojnosť, treba chrániť etické princípy. Tam patrí napr. umelá inteligencia, ktorá sa používa v medicíne alebo napr. aj autonomné autá. Tu tiež bude patriť aj umelá inteligencia, ktorá nejakým spôsobom do určitej miery a to bude odstupňované na rôznych úrovniach, lebo tam budú rôzne skúšobné parametre, ktoré budú určovať, že do akej miery treba pristúpiť k regulácii určitej umelej inteligencie a sem bude patriť aj tá umelá inteligencia so všeobecným využitím, čo je napr. aj ten chat GPT.“

Karolína Lacová, moderátorka: „Kedy by sme mohli pristúpiť naozaj k tomu, že ideme regulovať umelú inteligenciu v európskych krajinách?“

Miriam Lexmann: „Momentálne v Európskom parlamente dokončujeme našu pozíciu. Predpokladá sa, že parlamentu pozíciu schváli teraz v júni a potom vstúpi vlastne Európsky parlament, Európska komisia a členské štáty k dialógu. Predpokladá sa, minimálne rok.“

Karolína Lacová, moderátorka: „Neriešime to teda neskoro a stále ako keby to konečné riešenie ešte sa naťahuje na ďalšie obdobie, čiže nevypomstí sa nám to možno podobne, ako pri sociálnych sieťach a pri ich regulácii?“

Miriam Lexmann: „Áno, môžem potvrdiť, že je to neskoro. Je to taký zápas mačky a myši, ktorá, kde ten vývoj ide veľmi rýchlo, legislátori sa snažia nejakým spôsobom dobiehať tento proces. Keď sa nám podarí uchopiť tie základné princípy, na ktorých treba uchopiť tú mieru regulácie, tak si myslím, že aj keď ten vývoj pôjde dopredu, tak budeme vedieť touto reguláciou alebo touto legislatívou ten vývoj čiastočne predbehnúť, aby sme išli spolu s ním.“

Karolína Lacová, moderátorka: „Pán Mesarčík, súhlasíte s tým, budeme možno vedieť v nejakom bode predbehnúť ten vývoj a ísť spolu s ním, čo zaznelo v závere?“

Matúš Mesarčík: „To je hlavne pri legislatíve veľmi ťažké, ono nejaké pokusy predvídať, čo sa na trhu stane a akým spôsobom to regulovať, tu už boli a nedopadli celkom dobre, ale zároveň ten návrh, o ktorom tu bola reč o tom AY, tak ten bude koncipovaný tak, aby bol nejakým spôsobom udržateľný do budúcnosti, tzn. ako spomínala pani europoslankyňa, budú tam nejaké systémy, ktoré budú systémy vysokého rizika. A tie, ktoré tam padnú, resp. do oblasti, ktoré budú považované za oblasť vysokého rizika….“

Karolína Lacová, moderátorka: „To sú tie, ktoré pracujú s osobnými údajmi, takto by sme mohli povedať?“

Matúš Mesarčík: „To sú skôr oblasti ako napr. presadzovanie práva, biometria. Sú tam napr. využívanie umelej inteligencie pri filtrovaní životopisov, pri prijímaní do zamestnania alebo prevádzka kritickej infraštruktúry, kde sa používajú AY systémy atď. a práve tieto oblasti aplikácie bude môcť Európska komisia dopĺňať, čiže nie už takým…“

Karolína Lacová, moderátorka: „Dopĺňať alebo kontrolovať, resp. takto?“

Matúš Mesarčík: „Kontrolovať a dopĺňať, tzn. nebudem to musieť ísť už niekoľkoročným legislatívnym procesom, ale veľmi rýchlo, oveľa efektívnejšou cestou.“

Karolína Lacová, moderátorka: „Pán Sekaj, ako toto vnímate, by sme si to teda rozmenili na drobné, máme istú nejakú digitálnu stopu, všetci platíme kartami, využívame aplikácie, posielame fotografie. Čo tieto opatrenia v podstate tomu bežnému životu, ak budú schválené, prinesú?“

Ivan SEKAJ: „No tak tieto regulácie určite pomôžu niektorým rizikám, ale tých rizík je viac, ale ja mám obavu, že ja síce veľmi si cením, že to Európska komisia začala robiť a pokiaľ viem je prvá, čo to tak nejak z celosvetového hľadiska robí, alebo začala tento proces. Ale mám obavy, že nepostihne všetko, lebo tých rizík je viac a zatiaľ sú riešené také riziká, ktoré ja osobne identifikujem ako možno menej kritické. Sú samozrejme, dôležité tieto veci určite, ale ja identifikujem z takého dlhodobejšieho hľadiska niektoré riziká, ktoré sú nebezpečnejšie, a ktoré zatiaľ teda v tejto legislatíve sa pokiaľ ja viem neobjavujú. Ja som to síce nejakej detailne nevidel ten dokument, ale jednoducho nepokrývajú to. Spomínali sme, povedzme to, poviem to ľudovo hlúpnutie civilizácie, tzn. že používame technológie, stávame sa závislými od technológií, menej rozmýšľame. Toto je veľmi ťažký problém, ktorý si neviem aké opatrenia vyžiada regulačné. Vy ste spomínali elektronickú stopu, tzn. že je to otázka našej bezpečnosti, našej až intimity, tzn. že či majú rôzne nástroje alebo technológie prístup k našim údajom a našim názorom atď. toto nevidím ako niečo veľmi kritické, aj keď je to dôležité. Potom sú tu sociálno-ekonomické dopady, čiastočne sme sa ich dotkli. Tých bude veľa a to bude ťažká téma, ale riešiteľná.“

Karolína Lacová, moderátorka: „Napr. o čom hovoríme pritom?“

Ivan SEKAJ: „Tzn. že ktoré profesie povedzme budú ohrozené, ktoré nebudú ohrozené. Je tu, sú tu isté kategórie, ktoré sú povedzme už dnes nahradené, ktoré budú v strednodobom horizonte nahradené, ktoré budú neskôr nahradené. To je tiež dlhá téma, o ktorej by sa dalo diskutovať, ale to je, myslím riešiteľná téma, aj keď bude vyžadovať dosť, v budúcnosti nejakú zásadnú reštrukturalizáciu spoločnosti.“

Karolína Lacová, moderátorka: „Ďakujem pekne, pán Sekaj hovoril napr. o tom hlúpnutí, že to tá legislatíva, ako keby neobsiahne. Pán Mesarčík, aspoň stručne na záver, že vnímate to rovnako, že sú tam rezervy, ktoré neriešime stále?“

Matúš Mesarčík: „Určite sú tam rezervy. Otázka je, či by mala riešiť legislatíva alebo regulácia. Regulácia sa snaží riešiť tie systémy AY, ktoré budú na trhu a tie riziká, ktoré teraz nejakým spôsobom vidí napr. AY bude mať veľmi dôležité ustanovenie, dúfam, že prejde, ktoré sa bude týkať udržateľnosti a to ako tie modely vplývajú na životné prostredie. Tzn. budú musieť tí prevádzkovatelia dokladovať, koľko napr. energie trénovania ten model spôsobil, čo je veľmi dôležité z dlhodobých hľadísk.“

Karolína Lacová, moderátorka: „Ďakujem pekne, viac už nestihneme, budeme to sledovať ďalej. Toľko Matúš Mesarčík z Kempelenovho inštitútu inteligentných technológií a Právnickej fakulty univerzity Komenského v Bratislave, vďaka. A taktiež Ivan Sekaj z Fakulty elektrotechniky a informatiky Slovenskej technickej univerzity v Bratislave. Ďakujem.“

Matúš Mesarčík: „Rado sa stalo.“

Karolína Lacová, moderátorka: „Od techniky Štefan Bihúň, dramaturg Jakub Sudek a v štúdiu bola Karolína Lacová.“