AI nástroje napodobují lidský jazyk. Snaží se, aby odpověď zněla dobře, ne pravdivě, varuje analytik
V kolika případech je odpověď od umělé inteligence lživá? Jak fungují textové modely? A jak probíhal jejich vývoj?
Čtěte také
Hostem Klubu Rádia Junior byl analytik a datový novinář Českého rozhlasu Jan Cibulka. Problematiku AI asistentů probral s moderátorkou Klárou Novákovou. Zjednodušeně můžeme říct, že umělá inteligence může být dobrý pomocník, ale nesmíte jí věřit všechno, co vám napíše. Dělá spoustu chyb. Informace si musíte vždy ověřovat i jinde.
Jak funguje umělá inteligence (AI)
Existuje mnoho textových AI asistentů. Všechny ale fungují na stejném principu. Napodobují lidský jazyk. „V zásadě odpovídají tak, aby to znělo dobře,“ prozrazuje Honza.
Před vývojem těchto asistentů se pomocí robotů shromáždilo vše, co bylo na internetu napsané. Množství dat a materiálů následně prošlo analýzou. Vyhledávala se slova, která se ve větách nejčastěji vyskytují vedle sebe.
Není to tedy tak, že by textový model chápal, co v textu je. Pokud se umělé inteligence zeptáte na nejvyšší horu Česka a ona odpoví, že je to Sněžka, není to proto, že by to sama věděla. Je to tím, že na internetu se tato informace objevuje nejčastěji.
Zkreslení informací
Informace, které nám umělá inteligence poskytuje, tedy nejsou vždy správné. A to ani v případě, že chceme zjistit, co je ve světě nového. „Konkrétně v polovině případů je tam nějaký nesmysl,“ říká Honza, který se věnoval výzkumu na toto téma.
Umělá inteligence odkazuje na webové stránky, které neexistují, přímo v odpovědi uvádí nesprávné informace nebo informace zamlčuje. „Buď si sama něco vyvodí, nebo navede člověka, aby si vyvodil něco, co není pravda,“ upozorňuje Honza.
Může nás umělá inteligence v budoucnu ohrozit? To se dozvíte v rozhovoru.
Klub Rádia Junior vysíláme každý den v 19:00. Nenechte si ujít rozhovory se zajímavými hosty >>
