Umělá inteligence a její rizika

Ještě nedávno bychom „umělou inteligenci“ (neurální sítě, deep learning) bez váhání zařadili do sci-fi. V posledním roce se ale stala součástí našich životů víc, než bychom kdy čekali, hlavně v oblasti generování grafického obsahu na základě textového zadání.  Technologie je dostupná prakticky každému s připojením k internetu. Není potřeba nic instalovat - většinu AI nástrojů (MidJourney, Stable Diffusion, Dall-E apod.) otevřete jednouduše přes webový prohlížeč. Pracovat s ní je jednouché a intuitivní. Vygenerovat si kvalitní fotku “neexistující skutečnosti” proto s trochou cviku dokáže v podstatě kdokoliv. 

Možnost produkovat fotky a grafiku odkudkoli a kdykoli spustila doslova revoluci, která v brzké budoucnosti radikálně ovlivní spoustu profesí. Například: proč byste platili drahou licenci za fotku ve fotobance, když vám umělá inteeligence dokáže vygenerovat originální, a přitom prvotřídní fotku zadarmo, anebo za symbolický poplatek? Dá se čekat, že spousta profesí založených právě na tvorbě nebo využívání digitálního vizuálního obsahu brzo zanikne. Nebo se minimálně bude muset pořádně přizpůsobit. Některé světové fotobanky už teď prohlašují, že grafiku generovanou pomocí umělé inteligence budou klientům aktivně nabízet.

Už teď je prakticky jisté, že překotný rozvoj AI zasáhne i do tvorby a šíření vizuálních dezinformací - tj. falešných fotek (a později i videí). Tyhle materiály reverzním vyhledáváním neodhalíte. Každý vygenerovaný materiál totiž bude originál vzniklý na základě práce neurálních sítí.

Podobný problém nastane při generování unikátních fotek lidí např. do profilů na socsítích – ani tady nám reverzní vyhledání nebude k ničemu. To, že člověk na fotce není reálný, a jeho podoba je výsledkem práce umělé inteligence, není možné na první (a často ani na druhý, třetí... ) pohled odhalit. 

Další problém spojený s neurálními sítěmi a tzv. deep learningem představuje možnost nechat si vygenerovat srozumitelný, logicky uspořádaný text, který působí, jako by ho napsal živý člověk. 

V současnosti nejpoužívajší systém pro generování smysluplného textu, tzv. GPT-3.5 nebo placená verze GPT-4 (Generative Pre-trainer Transformer 3), od společnosti OpenAI umožňuje rychle generovat komplexní texty právě na základě textového zadání. Program je dostupný i v češtině. 

Otvírá se tu ohromný potenciál pro rychlé generování nejrůznějších druhů článků, postů na socsítě, messengerových zpráv s naprosto libovolným obsahem. Už teď dochází ke zneužití umělé inteligence  na všech rovinách komunikace (chat, komentáře atd.), přičemž oběti podvodů často vůbec netuší, že nekomunikují s živou lidskou bytostí, ale se strojem, respektive nějakým prediktivním jazykovým modelem.

Na soužití s umělou inteligencí nové generace se budeme muset připravit. Umělá inteligence může představovat riziko pro bezpečnost, pokud ji použijeme ke špehování nebo kybernetickým útokům. Mohla by například přispět i k rozvoji sofistikovaných zbraňových systémů, které budou sloužit k zabíjení lidí, nebo ke zneužití špičkových počítačů k ovlivňování politických rozhodnutí. Umělá inteligence mít podíl na nových způsobech šíření dezinformací.

Víc informací k tématu najdete na webu Umělá inteligence (AI) (e-bezpeci.cz).

Pro O2 Chytrou školu, Kamil Kopecký, redakčně upravené. 

Zdroje:
Kopecký, K. Mohutný rozvoj neurálních sítí je předzvěstí nové generace dezinformací. Rozpoznat počítačem generovaný obsah bude téměř nemožné. E-Bezpečí. https://e-bezpeci.cz/index.php/clanky-komentare/2805-mohutny-rozvoj-neuralnich-siti-je-predzvesti-nove-generace-dezinformaci-rozpoznat-pocitacem-generovany-obsah-bude-temer-nemozne
Thunström, Almira Osmanovic. (2022) We Asked GPT-3 to Write an Academic Paper about Itself—Then We Tried to Get It Published. Scientific American.
https://www.scientificamerican.com/article/we-asked-gpt-3-to-write-an-academic-paper-about-itself-mdash-then-we-tried-to-get-it-published/
Dikshit, Venkata. GPT-3: Whats, Hows & Takeaways. Medium. https://medium.com/analytics-vidhya/gpt-3-whats-hows-where-bdc15d204867

Poznáš, kterou fotku vytvořila AI? 

Poznáš text napsaný AI?