Největší riziko umělé inteligence je v tom, že nevíte, jestli říká pravdu. A ona sama to také neví

Dominik Palla ve studiu Českého rozhlasu Hradec Králové|foto:Milan Baják, Český rozhlas

Co to vůbec je ona umělá inteligence? Kdybychom měli začít nějakým základním popisem či definicí?
Umělá inteligence je pojem, který je tu s námi už řadu let. Většinou v podstatě popisoval technologie, které v sobě měly nějaké strojové učení. Což si můžeme představit jako situace, kdy jsou stroje schopny se učit z nějakého velkého množství dat a dokážou na základě toho potom provádět nějaké operace. To, o čem se dnes nejvíce mluví, odborníci označují jako generativní umělá inteligence, která na základě statistického porovnávání dat dokáže generovat slova za sebou v takovém pořadí, že nám to dává smysl a považujeme to za věty a reálné přemýšlení onoho programu.

Úskalí je v tom, že je potřeba všechny výstupy vždy kontrolovat na základě faktických údajů a dávat si pozor na to, co nám sděluje.
Ing. Dominik Palla, koordinátor Centra umělé inteligence Fakulta informatiky a managementu UHK

Takže si mohu představit umělou hlasatelku v Českém rozhlase Hradec Králové?
V podstatě ano, ovšem s tím rozdílem, že ona nebude mít žádný mozek, nebude nijak přemýšlet nad tím co říká. Bude pouze na základě nějaké statistické analýzy za sebe sázet slova v takovém pořadí, že to bude dávat smysl. Ale nemusí to být fakticky správně. Vy se z toho něco dozvíte, ale ono to třeba s padesátiprocentní šancí nebude správně. Vy tomu ale budete věřit, i když to nebude pravda.

Čtěte také

Halucinování. Umělá inteligence si začne vymýšlet, když nezná přesnou odpověď, vysvětluje youtuber

Budu vědět, že to je nesmysl?
Největší riziko umělé inteligence je v tom, že vy nebudete vědět, že umělá inteligence neříká pravdu. A ona sama to také neví.

Kdo tedy zjistí, že je něco špatně? Kde je rozuzlení toho všeho?
Úskalí je právě v tom, že je potřeba všechny výstupy z těchto programů vždy kontrolovat a dávat si pozor na to, co nám to sděluje, opravdu na základě nějakých faktických údajů.

K čemu nám to tedy, když je něco špatně?
Když si vezmeme i průměrného člověka, tak on také často udělá spoustu chyb.

Ale není to umělá inteligence umělá. Já předpokládám, že umělá inteligence bude vědět víc, než vím já.
Ona ví víc než běžný člověk, dokáže vám vysvětlit spoustu věcí. Je pravda, že ve spoustě případů nedokážeme zjistit, jestli to je pravda nebo ne. Ale přesto jsme schopni si fakta nějak ověřit. A v drtivé většině případů se používá spíše k často opakovaným, třeba administrativním úkolům, kdy potřebujete například rozepsat nějakou informaci nebo udělat sumarizaci z nějakého článku. V těchto situacích se drží svých zdrojových dat a máte nějakou úroveň jistoty, že to, co vám odpoví, bude pravda.

Přirovnal bych to k historické průmyslové revoluci. Protože dochází k posunu činností. Dříve se to posouvalo více do manažerské části.
Ing. Dominik Palla, koordinátor Centra umělé inteligence Fakulta informatiky a managementu UHK

Mám zkušenosti s aplikací ChatGPT. Potřeboval jsem zjistit něco o rychnovském zámku a ono mi to řeklo, že majitelé jsou Kinští místo Kolowratů.
Ano, přesně to je ten typ otázky, kdy umělá inteligence nemusí úplně správně fakticky najít data.

Čtěte také

Umělá inteligence je takový trošku mimozemšťan, kterého si tady sami vytváříme, říká Ing. Karel Mls

Jak velkou revoluci představuje umělá inteligence v současné době? K čemu byste to přirovnal?
To je zajímavá otázka. Já bych to přirovnal klidně k historické průmyslové revoluci. Protože dochází k posunu činností. Dříve se to posouvalo více do manažerské části, teď se to ještě trošku umocňuje a spíše než, aby zaměstnanci vše vymýšleli sami od nuly, tak dávají požadavky umělé inteligenci a na základě výsledků to potom upravují, případně dávají zpětnou vazbu. Hodně to vidíme třeba v odvětví programování nebo marketingu, copywritersví, případně počítačové grafiky. Například jsme dnes už schopni generovat velmi kvalitní obrázky, kolikrát nerozeznatelné od skutečnosti.

Mělo by se u všech takto vytvořených produktů uvádět, že to vytvořila umělá inteligence?
To by se uvádět správně mělo a zároveň by měla být i nějaká možnost, aby byli odborníci schopni detekovat, že je tam něco zvláštního.

Dnes už se totiž dá velmi těžko rozpoznat, že něco stvořila umělá inteligence, viďte?
Pro laiky je to určitě problém. I pokud to vidíte někde na sociálních sítích, tak udělat si závěr, jestli to je či není pravda, je velmi složitá. Muselo by dojít fakticky k detailnější analýze onoho videa v nějakém jiném prostředí.

Hledáme možnosti, jak seniorům, které toto téma velmi zajímá, pomoci se s umělou inteligencí sžít a používat ji v běžném životě.
Ing. Dominik Palla, koordinátor Centra umělé inteligence Fakulta informatiky a managementu UHK

Jaká je tedy budoucnost umělé inteligence? Kdy už to opravdu bude možné udělat takovým způsobem, že to běžný smrtelník nerozpozná?
Myslím, že už v dnešní době to běžný smrtelník nerozpozná. A to je právě z mého pohledu to největší úskalí těchto technologií.

Čtěte také

S novými technologiemi některé profese zaniknou, jiné vzniknou. Bude to tak i s umělou inteligencí

Trošku mě to děsí. Protože my jsme v dnešní době závislí na technologiích, jako je internet, videa a obrázky. Když to na nás bude chrlit nereálné věci, kam to spěje s naší společností? Dominiku?
Bude to tímto směrem stále horší a horší. Bude to náročnější rozeznat. Ale jak já vždy říkám, vzhledem k tomu, jak bude naše populace kvůli tomu vlastně hloupnout, dalo by se říci, protože bude spoléhat na tyto nástroje v podstatě bezmyšlenkovitě už od mladého věku, aniž by se vyvíjelo vlastní kritické myšlení, tak hrozí, že se náš vývoj, řekněme zastaví a tím pádem nám postupně budou chybět kapacity, které by tyto technologie dotahovaly dál a dál.

Nedojde pak ale k tomu, že už by se umělá inteligence začala vyvíjet sama?
Aktuálně v této fázi, ve které jsme, tak i kdyby se sama začala vyvíjet, tak by to určitě nebylo k lepšímu. Protože by to moc dobře nefungovalo, alespoň podle toho, co jsme testovali u nás na fakultě.

Čtěte také

Školství čeká velká změna. Žáci, studenti i učitelé se připravují na soužití s umělou inteligencí

K čemu všemu nám tedy už dnes umělá inteligence slouží? V jakých oblastech ji využíváme?
Běžní lidé ji mohou využít v každodenních činnostech, kdy například připravujeme email nebo pozvánku, nebo kdy potřebujeme sumarizovat nějaké informace z internetu, když ale poskytneme konkrétní články, nikoliv, že bychom se jen tak ptali. Tam už právě dochází k takzvaným halucinacím, jak označujeme ono vymýšlení. A potom samozřejmě umělá inteligence hodně pomáhá podnikatelům v byznysu. S tím se můžeme setkat i v různých státních institucích, třeba v dispečincích našich integrovaných záchranných složek.

Umělá inteligence nám tedy pomáhá, ale že bych přišel ke kadeřníkovi a umělá inteligence vytáhla nůžky a ostříhala mne?
Zatím jsme spíše v fázi, kdy vám tam udělá umělá inteligence rezervaci, než že by vás ostříhala.

Dnes jsme si povídali s Dominikem Pallou, koordinátorem Centra umělé inteligence z Fakulty informatiky a managementu Univerzity Hradec Králové. Tam mimochodem také děláte i kurzy pro seniory, které se týkají umělé inteligence.
Ano, je to tak. Hledáme možnosti, jak seniorům, které toto téma velmi zajímá, pomoci se s umělou inteligencí sžít a používat ji v běžném životě.

Dominik Palla ve studiu Českého rozhlasu Hradec Králové|foto:Milan Baják, Český rozhlas

Tak si přejeme, ať umělá inteligence zůstane vždy jen dobrým sluhou, nikoliv zlým pánem.