Stroje nemohou převzít odpovědnost za to, co činí lidé, říká Zdeněk Kadlec

Štítky této stránky

• Zdeněk Kadlec

Je umělá inteligence hrozbou? Jaké je její využití ve státní správě? A je třeba ji regulovat? Na tyto a další aktuální otázky o tématu AI odpovídal ředitel Krajského úřadu Kraje Vysočina Zdeněk Kadlec. Nakonec prozradil i to, zda služby inteligence sám využívá.

AI je pro vás výzvou nebo hrozbou?

Umělá inteligence je pro nás samozřejmě výzvou, stejně tak pro všechny další organizace ve veřejné i privátní sféře a i pro mnohé občany. Jistě nám bude pomáhat řešit běžné situace rychleji a efektivněji. Zároveň je ale i hrozbou. Musíme být obezřetní, protože obecně o takzvané umělé inteligenci platí okřídlené rčení týkající se ohně, tedy je to dobrý sluha, ale zlý pán.

Využívá se AI ve státní správě?

Ano, prvky, které můžeme nazývat umělou inteligencí, pronikají do veřejné, tedy nejen státní, správy už řadu let. V principu jde o to, že technické zařízení formuluje závěr, respektive odpověď, týkající se nějaké nové, dosud neřešené situace nebo otázky, a to s využitím různých podkladů – například právního a předpisového rámce, zkušeností s obdobnými případy řešenými v minulosti, logiky, možných analogií či podobností. Prudký rozvoj však přichází až v současnosti ruku v ruce s rostoucím výkonem techniky, kdy je možné bleskurychle pracovat s obrovským množstvím dat v různých formátech.

Máte nějaký konkrétní příklad?

Ve veřejné správě, stejně jako v privátní sféře, je AI možné využívat například pro základní komunikaci s klienty, zejména pro činnost call center. Klient sdělí stroji svůj požadavek a stroj klienta navede na způsob jeho řešení, v pokročilejší formě situaci dokonce stroj sám vyřeší. Nebo klient sdělí požadavek na informace a stroj tyto informace vyhledá a interpretuje. Setkal jsem i s tím, že stroj provádí sám zaúčtování faktur, tedy vyhodnotí, o jaký druh nákladu nebo výdaje se jedná a správně jej přiřadí. Zaznamenal jsem i pokusy odpovídat na právní otázky a navrhovat kompletní právní řešení některých situací. Umělá inteligence může vytvářet textové dokumenty, obrázky, zvukové soubory, videa, mono či multimediální prezentace, například také webové stránky, může za nás připravovat rešerše, shrnutí poznatků a další. Stroj je však jen tak chytrý, jak kvalitní informační zdroje může využít a jak kvalitní používá schémata pro jejich hodnocení a využívání. A v tom může být kámen úrazu.

Měla by Evropská unie AI regulovat nebo bychom měli jít nějakou českou cestou?

Jsem silným odpůrcem velkého množství regulací, protože jsou mnohdy kontraproduktivní. Většinou to probíhá tak, že někdo identifkuje, někdy skutečný, někdy domnělý, společenský problém, vytvoří si představu o žádoucím stavu a navrhne, někdy třeba i prosadí, regulaci. Ta ale vyžaduje síly a prostředky na monitoring, identifikaci konkrétních případů podléhajících regulaci, vlastní provedení regulace, řešení souvisejících sporů, vymáhání naplnění regulačních opatření, kontrolu, ošetření bezpečnosti systému před zneužíváním, korupcí a klientelismem, aktualizaci systému, vzdělávání účastníků a v neposlední řadě informování klientů, případně veřejnosti. Často se tedy může stát, že se regulace mine účinkem, postihne ty, které by neměla a naopak se nedotkne původně zamýšlených adresátů. Evropská unie i české národní prostředí jsou podle mého názoru silně přeregulované a začínáme na to doplácet. To platí, myslím, obecně. Na druhou stranu, v případě AI si v současném nastavení evropského systému nedovedu představit, že by na současný prudký rozvoj nebylo odpovídáno alespoň základní regulací. Třeba alespoň tak, že bude výslovně nezákonné a přísně právně postižitelné technologii využívat pro reklamní účely, ovlivňování volebních preferencí nebo výrobu falzifikátů v podobě audiovizuálních prostředků. Pro využívání AI ve veřejné sféře k činnostem, jejichž výstupy se mohou dotýkat práv a zájmů dalších osob, zejména při výkonu veřejné moci, by měl platit zákaz fabulace. Stroj by měl stavět jen na faktech a opírat se o stanovené postupy a pravidla.

Jak využíváte AI vy osobně?

Já zatím využívám většinou jen neplacené služby, a proto jsem velmi obezřetný. Neplacené služby totiž ještě častěji, než ty placené, vydávají nesprávné informace a nekorektní návrhy řešení. Ale i u placených služeb se můžeme často setkávat se špatnými výstupy. Časem se kvalita výstupů jistě bude zlepšovat, ale vždy musí být na konci člověk se zdravým úsudkem a s odpovědností za to, co použije a co nikoliv. Je třeba si pořád připomínat, že stroje nemohou převzít odpovědnost za to, co činíme my, lidé.

• tisk@kr-vysocina.cz