Herečka Selena Gomez sa tento rok nezúčastnila charitatívnej akcie Met Gala. To nezabránilo jednému fanúšikovi, aby pomocou nástrojov umelej inteligencie vytvoril falošnú snímku Gomez v šatách, ktoré tu rok predtým priniesla iná umelkyňa. Fotografia sa na twitteri stala virálnou a získala viac lajkov ako akýkoľvek reálny model, ktorý sa tento rok objavil na červenom koberci pred newyorským Metropolitným múzeom, uviedol dnes módny časopis Elle.
Twitter k príspevku pridal upozornenie, že Gomez na akcii nebola. "Selena Gomez sa nezúčastnila na Met Gala v roku 2023 a nezúčastňuje sa na Met Gala od roku 2018. Toto sú pozmenené fotky Lily James na Met Gala v roku 2022". Fotka sa šíri na všetkých sieťach.
Obrázok si prezreli milióny ľudí a lajk mu dali státisíce užívateľov, čo naznačuje hlbšie problémy súvisiace s umelou inteligenciou, ako sú problémy s rozpoznávaním vygenerovaného obsahu a jeho popularita napriek kontroverznému pôvodu.
Nie je to prvýkrát, čo sa ľudia nechali nachytať obrázkom vytvoreným umelou inteligenciou. V marci sa na internete šírila falošná snímka pápeža Františka v obrovskej páperovej bunde alebo fotografie zachytávajúce zatknutie amerického exprezidenta Donalda Trumpa. Ani jedna z týchto vecí sa v skutočnosti nestala, ale obe sa na sociálnych sieťach stali virálnymi.
Pred niekoľkými dňami vyšlo najavo, že ľudskoprávna organizácia Amnesty International (AI) využívala na svoju propagáciu snímky vygenerované umelou inteligenciou. Falošné fotografie pripomínali protesty, ktoré pred dvoma rokmi zmietali Kolumbiou. Organizácia niektoré z nich po kritike zmazala s vysvetlením, že len chcela chrániť skutočných protestujúcich. Podľa kritikov ale podkopala dôveru vo vlastnú činnosť.
Na sociálnych sieťach sa tiež šíri hudba vygenerovaná umelou inteligenciou. Spočíva buď v tom, že systémy verne napodobnia vybraného umelca a nechajú ho naspievať cover verziu populárneho hitu, vytvoriť úplne novú skladbu alebo duet s ďalšími interpretmi. Fanúšikovia sú nadšení, ale umelci sa obávajú, uviedol denník The Guardian.
Minulý mesiac vydavateľstvo Universal Music Group (UMG) požiadalo streamovacie platformy, aby sa rozhodli, či chcú stáť "na strane umelcov, fanúšikov a ľudského tvorivého prejavu", alebo "na strane podvrhov, podvodov a odopierania umelcom náležitej odmeny".
Problémom vyhlásenia UMG je predpoklad, že fanúšikovia a umelci stoja na rovnakej strane tejto debaty. Popularita piesní vytvorených umelou inteligenciou, ktorú dokazuje aj viac ako deväť miliónov zhliadnutí falošného duetu rapperov Drakea a The Weeknd, to spochybňuje.
Situácia podľa stanice CNN ukazuje novú realitu v on-line prostredí: vzostup nástrojov umelej inteligencie umožnil lacnejšie a ľahšie ako kedykoľvek predtým vytvárať realistické snímky, zvukové záznamy aj videá – a tie budú zaplavovať sociálne siete stále častejšie.
Šírenie vygenerovaných snímok, zvukov či textov môže viesť k znečisteniu informačného ekosystému. Po rokoch boja s dezinformáciami užívatelia budú ešte ťažšie rozlišovať a overovať, čo je skutočné. Spoločnosti zaoberajúce sa technológiami umelej inteligencie sa v súčasnosti snažia zlepšiť transparentnosť toho, kedy je obsah generovaný počítačom. Zásady pre jeho zdieľanie majú aj niektoré sociálne siete a pracuje sa aj na technologických riešeniach, ktoré by napríklad vygenerovaný obrázok doplnili vodoznakom.
Podľa denníka Le Monde v poslednej dobe ubudlo napríklad falošných fotografií z francúzskych demonštrácií proti dôchodkovej reforme. To však neznamená, že boli definitívne odstránené všetky hrozby pre verejnú diskusiu, poznamenal denník.
Mnoho z nedávnych virálnych snímok generovaných umelou inteligenciou bolo vytvorených nástrojom Midjourney, ktorý umožňuje používateľom vytvárať obrázky na základe krátkych pokynov. Najnovšia verzia aplikácie je teraz dostupná iba pre vybraných užívateľov s predplatným kvôli mimoriadnemu dopytu a "zneužívaniu skúšobnej verzie", uviedla spoločnosť.
Snímky, ktoré je možné vytvárať s predplatenými verziami rôznych systémov umelej inteligencie, sú ale často dokonalejšie a bez hrubých chýb, ktoré kričia, že ide o falošnú fotografiu. Zatiaľ čo falošných spravodajských fotografií z francúzskych ulíc dočasne ubudlo, tie ďalšie budú pravdepodobne dokonalejšie, menej odhaliteľné a oveľa klamlivejšie, dodal Le Monde.
