Umělá inteligence a její rizika

„Umělá inteligence“ (neurální sítě, deep learning) zaznamenala v posledním roce mohutný pokrok, a to zejména v oblasti generování grafického obsahu na základě textového zadání.  Technologie se zároveň otevřely veřejnosti a jejich ovládání se stalo pro běžné uživatele velmi snadné a intuitivní, vygenerovat kvalitní fotografii “neexistující skutečnosti” dokáže s trochou cviku téměř každý. Navíc odpadá nutnost cokoli instalovat – drtivá většina AI nástrojů (MidJourney, Stable Diffusion, Dall-E apod.) je volně dostupných prostřednictvím webového prohlížeče.

Možnost generovat velmi kvalitní fotografie a grafiku odkudkoli a kdykoli je doslova revolucí a v budoucnu velmi radikálně ovlivní celou řadu profesí. Proč by si např. lidé kupovali ve fotobankách drahé licence fotografií, když si je dokáží vygenerovat s trochou úsilí a štěstí sami, a to zdarma či za mírný poplatek? Lze předpokládat, že mnoho profesí, které jsou postaveny právě na tvorbě či využívání digitálního vizuálního obsahu, v blízké budoucnosti zaniknou, nebo se minimálně budou muset transformovat do nové podoby. Ostatně některé světové fotobanky již ohlásili, že začnou grafiku generovanou pomocí umělé inteligence aktivně nabízet svým klientům.

Mohutný rozvoj AI zcela jistě zasáhne také do tvorby a šíření vizuálních dezinformací - tj. falešných fotografií (a v budoucnu pravděpodobně i videí). Tyto materiály nebude možná odhalit prostřednictvím reverzního vyhledávání fotografií, protože každý vygenerovaný materiál bude originální, vzniklý na základě práce neurálních sítí.

 
Fotorealistické obrázky vygenerované umělou inteligencí

Podobný problém nastane při generování unikátních fotografií osob např. do profilů na sociálních sítích – reverzní vyhledání zde bude neúčinné. To, že osoba zachycená na “fotografii” je uměle vytvořena, nelze totiž na první pohled odhalit. 

Další problém, který je spojen s neurálními sítěmi a tzv. deep learningem, představuje možnost nechat si vygenerovat text, který je srozumitelný, je logicky uspořádán a je velmi obtížné rozpoznat, že jej nevytvořil živý člověk, ale právě neurální síť. V současnosti patří k nejpoužívajším systémům pro generování smysluplného textu tzv. GPT-3 (Generative Pre-trainer Transformer 3) od společnosti OpenAI. Ten umožňuje generovat velmi rychle komplexní texty právě na základě textového zadání – a pozor, v současnosti i v češtině! Tím pádem nabízí ohromný potenciál pro velmi rychlé generování nejrůznějších druhů článků, postů na sociálních sítích, messengerových zpráv – přičemž obsah může být naprosto libovolný. Již nyní se umělá inteligence zneužívá v rámci nejrůznější druhů podvodů v rámci synchronní či asynchronní komunikace, přičemž oběti podvodů často netuší, že nekomunikují s živou lidskou bytostí, ale se strojem, respektive nějakým prediktivním jazykovým modelem.

Fotografie neexistující osoby vygenerovaná StyleGAN2

Civilizace se bude muset na příchod umělé inteligence nové generace zcela jistě připravit. S umělou inteligencí je spojeno mnoho nebezpečí – umělá inteligence může představovat nebezpečí pro bezpečnost, pokud je použita ke špehování nebo kybernetickým útokům. Umělá inteligence může například přispět k rozvoji sofistikovaných zbraňových systémů, které by mohly být použity k zabíjení lidí, nebo k rozvoji špičkových počítačů, které by mohly být použity k ovlivňování politických rozhodnutí. Umělá inteligence také může přispět k rozvoji nových způsobů, jak šířit dezinformace a manipulovat lidmi.

Pro O2 Chytrou školu, Kamil Kopecký

P. S. Poslední odstavec tohoto textu psala umělá inteligence, poznali jste to?

Zdroje:
Kopecký, K. Mohutný rozvoj neurálních sítí je předzvěstí nové generace dezinformací. Rozpoznat počítačem generovaný obsah bude téměř nemožné. E-Bezpečí. https://e-bezpeci.cz/index.php/clanky-komentare/2805-mohutny-rozvoj-neuralnich-siti-je-predzvesti-nove-generace-dezinformaci-rozpoznat-pocitacem-generovany-obsah-bude-temer-nemozne
Thunström, Almira Osmanovic. (2022) We Asked GPT-3 to Write an Academic Paper about Itself—Then We Tried to Get It Published. Scientific American.
https://www.scientificamerican.com/article/we-asked-gpt-3-to-write-an-academic-paper-about-itself-mdash-then-we-tried-to-get-it-published/
Dikshit, Venkata. GPT-3: Whats, Hows & Takeaways. Medium. https://medium.com/analytics-vidhya/gpt-3-whats-hows-where-bdc15d204867