Evropě ve světle práce s umělou inteligencí (AI) hrozí, že se stane synonymem pro regulace a protikladem pro inovace. Před výtvory generativní AI už se stejně neuchráníme, i kdybychom ji snad pomýleně zakázali, tvrdí expert na tuto oblast Jakub Sedláček z Národního institutu SYRI v Brně. Podle něj v budoucnu dál poroste důležitost důvěryhodných informačních zdrojů, jakými jsou třeba vědecké weby.
Příkladem zneužité jsou fake news
Rok s umělou inteligencí mnohé změnil. Tak jako každá nová technologie se dá používat v pozitivním smyslu, nebo zneužít. Příkladem jsou fake news. „Jestli jsou fotka, audionahrávka nebo videozáznam skutečné, už laik a mnohdy ani profesionál nemá moc šanci poznat. Otázka tedy především zní, jestli věříme zdroji, ze kterého se k nám dostaly,“ uvedl Sedláček, který se sám považuje za technooptimistu.
Podporovat startupy a nechat vyrůst světové projekty
Stát by podle něj měl především podporovat startupové podhoubí a nechat v období zlaté horečky kolem umělé inteligence vyrůst projekty s potenciálem světového dosahu. „Inovace k nám v praxi proudí především od zámořských technologických gigantů a my jen horko těžko regulujeme. Evropě tak spíš hrozí, že se stane synonymem pro regulace a antonymem pro inovace, než že by nestihla něco včas zakázat. Stát ale samozřejmě bude potřebovat zaměstnat odborníky, realizovat osvětové kampaně, a gramotnost kolem generativní AI rozvíjet i ve školách. Občan musí být digitálně gramotný, jinak bude demokracie trpět,“ míní expert.
Manipulace obrazu není nic nového, dělal to už Stalin
Umělá inteligence přinesla řadu věcí, na které jsme si za rok ani zvyknout nemohli. Příkladem je revoluce v generování obrazu „umělou inteligencí“, která nastala teprve loni. „Na druhou stranu je dobré připomenout, že manipulace obrazu není nic nového. Třeba vymazávat lidi z fotografické historie nechával už Stalin. A takřka všechno, co dnes umožňují nejnovější generativní nástroje umělé inteligence, zvládne trénovaný uživatel Photoshopu už desítky let. Rozdíl je hlavně v dostupnosti takových nástrojů. Přestávají být potřeba roky praxe s Photoshopem a stačí mobilní aplikace poháněná strojovým učením,“ upozornil vědec.
Nelze regulovat obsah vytvářený umělou inteligencí, říká expert
Regulovat obsah vytvářený umělou inteligencí podle něj možné není. „Můžeme lokálně regulovat služby, které takovou možnost nabízejí. Ale velká část z nich stejně staví na nástrojích, které vznikly v rámci výzkumných projektů, a autoři je buď sdíleli se světem přímo, nebo přinejmenším publikovali postupy, které komunita následně může replikovat. Velice přesvědčivou fotku si tak dnes můžete s trochou digitální gramotnosti vygenerovat doma na výkonnějším počítači s pomocí nástrojů, které jsou k dispozici zdarma. Tuhle Pandořinu skřínku už nelze zavřít,“ zdůraznil odborník z Univerzity Karlovy.
Vývoj směřuje k nerozeznatelnosti výtvoru AI od reality
„Zatím můžeme na fotkách počítat zuby, prsty, okna, sledovat vzory na oblečení nebo chodníku, a odhalit tak nedokonalosti AI, ale to je všechno nejspíš dočasný stav. Když budu chtít, můžu se s někým po telefonu bavit hlasem pana prezidenta a ve videohovoru na sebe vzít jeho docela přesvědčivou podobu. V takové situaci závisí výpovědní hodnota fotografie, audiozáznamu i videa čistě na důvěryhodnosti jejich zdroje,“ uvedl Sedláček. Podle něj schopnost umělé inteligence chrlit takový obsah může zvlášť na sociálních sítích způsobit obrovský problém. Trollím farmám to dá možnost vytvářet dojem, že je daná věc pravdivá čistě proto, že se na nás sype ze všech stran.
Umělá inteligence může dezinformace šířit, ale také proti nim bojovat
Umělá inteligence tedy může dezinformace šířit, ale také s bojem proti nim pomáhat. „Určitě je možné budovat systémy na automatické ověřování informací a částečně i rozpoznávání generovaného obsahu. Na úrovni social media platforem mají různé formy AI v rukou moderování obsahu, a tedy i rozpoznávání obsahu nežádoucího už dávno, a jejich role poroste,“ dodal expert.
