Technológia špeciálnych efektov zaznamenala v posledných desaťročiach skutočný rozmach, keď sa CGI pohybovala od primitívne hrubej a primitívnej k takmer nerozoznateľnej od reality. Teraz, keď sa vytváranie verisimilitudínových snímok stáva čoraz bežnejším javom, politickí experti aj odborníci na trestné právo očakávajú paniku okolo takzvanej „falošnej“ technológie, ktorá má potenciál ešte viac skomplikovať prebiehajúcu medzinárodnú diskusiu o „falošných správach“. Čo je to však „hlboký falošný“ a aké veľké nebezpečenstvo bude táto technológia v budúcnosti predstavovať?
Technológia deep fake (niekedy štylizovaná ako „deepfake“) označuje syntetizované a / alebo superponované obrázky a / alebo videá vytvorené umelou inteligenciou pomocou existujúcich obrázkov a videí. Pomocou strojového učenia by táto technológia mohla teoreticky vytvoriť presvedčivé zábery osoby, ktorá vykonáva čin, ku ktorému v skutočnosti nikdy nedošlo.
Owen Williams, profesionálny softvérový inžinier a umelec vizuálnych efektov, ponúkol jednoduché vysvetlenie.
„Je to spôsob, ako používať automatizovaný softvérový systém na nahradenie tváre osoby vo videu inou tvárou, ktorá je oveľa automatickejšia a presvedčivejšia, ako to bolo možné pri minulých technológiách,“ povedal Williams Oxygen.com .
Williams poznamenal, že tradičné populárne filmy ako „Jurský park“ a „Blade Runner: The Final Cut“ používajú pre určité scény počítačový softvér spôsobom, ktorý mohol byť predchodcom hlbokých falošných správ: „Vo filmovom priemysle je to naozaj bežné. Povedzme, že máte postavu, ktorá musí predviesť kaskadérsky kúsok, a radšej by ste mali vidieť ich tvár. Klasickým riešením by bolo, že by ste ich videli iba zozadu alebo aby im vlasy boli v tvári, takže ste nedokázali povedať, že ide o dvojitý. Ale je tu dosť zapojená história filmových tvorcov, ktorí používajú počítače na to, aby položili tvár herca na kaskadérsky dvojník. ““
„Bol to veľmi manuálny proces,“ pokračoval Williams. „Teraz pomocou hlbokej falošnej technológie napájate počítač dvoma vecami: Najprv videom, ktoré nahradíte, a potom množstvom vstupov do tváre, ktorú nahradíte. Musíte získať dostatok obrázkov osoby, ktorá robí odlišnú mimiku a z rôznych uhlov pohľadu. Vytvárate knižnicu toho, ako môže tvár tejto osoby vyzerať v rôznych situáciách, potom počítač prejde a pozrie si video. Nepotrebuje to ani presnú zhodu. Môže prehrabávať a premieňať to, čo má v knižnici, aby vyhovovalo tomu, čo potrebuje. To, čo predtým vyžadovalo desiatky umelcov stovky hodín, aby sa pokúsili uskutočniť skutočne komplikovaný efekt, je v súčasnosti iba stlačenie tlačidla. “
Jednou z tvárí tejto technológie, ktorá ľudí znepokojuje, je skutočnosť, že človek nemusí nevyhnutne ochotne predložiť svoju tvár, aby mohol byť tento proces vykonaný, a to vzhľadom na to, koľko obrázkov existuje online pre väčšinu ľudí - najmä celebrít a politických osobností.
„Je tu dosť obrázkov akýchkoľvek celebrít v dostatočnom uhle, aby ste mohli vytvoriť túto knižnicu [bez súhlasu],“ povedal Williams. „Je na to potrebné určité množstvo práce, ale pre každú okrajovo populárnu osobnosť budú tieto veci existovať. Mám pocit, že je menej pravdepodobné, že by to bolo možné pre bežného človeka. “
Prvé hlboko falošné videá sa objavili na fórach Reddit koncom roku 2017, podľa Variety . Používateľ tvrdil, že pomocou svojho počítača vytvoril vysoko realistické pornografické videá rôznych celebrít zapojených do sexuálnych aktivít, ktoré sa v skutočnosti nikdy nestali. Užívateľ tvrdil, že nakŕmil svoj počítač tisíckami fotografií hviezd, z ktorých mohla AI získavať zobrazené výrazy tváre a pohyby. Aplikácia používaná hlboko falošnými tvorcami a zdieľaná na Reddite bola nakoniec stiahnutá viac ako 100 000-krát. (Reddit nakoniec zakáže tento druh obsahu s tým, že porušil ich politiku v oblasti „nedobrovoľnej pornografie“. podľa The Verge .)
Realizmus, ktorý toto médium môže v súčasnosti dosiahnuť, Williams pochybuje.
'Ak ste niekedy sledovali jeden z týchto hlbokých falzifikátov ... je tu určitá zvláštnosť,' povedal Williams. „Nie sú vyleštené. Pravdepodobne to však bude lepšie a lepšie, najmä preto, že Hollywood má záujem na tom, aby sa to automatizovalo, a nie platiť drahých umelcov. ““
Podobne Williams hádal, že napriek panika okolo hlboko falošného pornografie , meniace sa kultúrne postoje k podstate vecí, ako sú pornografia o pomste alebo uniknuté nahé obrázky, znamenajú, že je pravdepodobné, že ľudia, ktorí vytvárajú tento druh médií, budú odsúdení a nebudú oslavovaní, a to ani v rámci zábavného priemyslu pre dospelých.
„Nikdy to nebude mainstream,“ teoretizoval Williams. „Po“ Fappening „Na Reddite sa stala vec, ľudia dokázali zmeniť konverzáciu a povedať:„ Toto nie je škandál, je to sexuálny zločin. “ Takže nevidím, že sa z toho stane taký škandál, ako si ľudia myslia. Ľudia tiež môžu pomerne ľahko nájsť pôvodné pornografie, z ktorých bol hlboký faloš vytvorený, čo znamená, že je pomerne ľahké ich odhaliť. “
Nie je to však len dôvod na obavy, pretože by sa dal použiť na vytvorenie falošného porna celebrít. Ľudia sa obávajú aj politických dôsledkov.
O šírení hlbokých falzifikátov začali politickí experti písať v roku 2018. Článok pre denník Guardian z novembra toho roku zaznamenal vírusové šírenie videa, ktoré údajne zobrazuje prezidenta Donalda Trumpa nabádajúceho belgický národ na odstúpenie od Parížskej dohody o klíme. To podnietilo rozsiahlejšiu diskusiu o možnosti rôznych vlád využiť túto technológiu pri masových dezinformačných kampaniach, rozhovor, ktorý sa už začal vďaka prebiehajúcemu vyšetrovaniu zapojenia Ruska do prezidentských volieb USA v roku 2016.
Panika okolo hlbokých falzifikátov dokonca inšpirovala redakčnú radu spoločnosti Bloomberg Media Group k tomu, aby v tejto veci napísala dôrazne formulovaný výklad.
„Videozáznamy sa stali pilierom systému trestného súdnictva ... práve preto, že film sa javí ako taký spoľahlivý záznam niekoho prejavu alebo konania. Hlboké falzifikáty by mohli skutočne spôsobiť podozrenie z týchto dôkazov, “ oni napísali v júni 2018. „Prvoradou výzvou teda bude identifikácia a vyvolanie týchto falzifikátov - ak je to možné.“
Williams sa zhodol, že povaha hlbokých falzifikátov ohrozuje naše predstavy o „realite“, pokiaľ ide o videozáznamy, ale poznamenal, že tento právny bažant nie je v našej súčasnej digitálnej krajine jedinečný.
„Nejako dôjde k tejto myšlienke, že ľudia majú toto video ako pravdu, čo sa nikdy nestalo. Vedeli sme to od Rodneyho Kinga ďalej. Alebo premýšľajte Eric Garner : Ľudia si mysleli, že [policajt, ktorý ho zabil], je nevinný bez ohľadu na to, aké video z incidentu predpovedalo. Mne [veľa obáv z hlbokých falzifikátov] pripadajú akosi nepodložené. “
Williams vymenoval niekoľko ďalších incidentov, ktoré nezahŕňajú hlboko falošnú technológiu, ktorá ukázala spôsoby, ako je video odvážne manipulované, aby skreslil verejnú mienku o veci, Kontroverzné zastavenie šírenia ACORN Jamesom O'Keefeom a nedávny škandál upravené video údajne zachytávajúce reportéra CNN Jima Acostu, ktorý útočil na zamestnanca Bieleho domu .
Williamsovým konečným záverom bolo, že hystéria okolo hlbokých falzifikátov je trochu prehnaná.
„Vidím, že sa deje, že to bude fungovať obidvoma spôsobmi. Ak vyjde video a bude skutočné, ľudia budú tvrdiť, že je falošné. Ak vyjde video a je falošné, ľudia budú tvrdiť, že je skutočné. Každý prípad predpokladá určité množstvo pravdy priradenej videu [samotnému]. Je ťažké vedieť, akým smerom sa to bude uberať. Ak Pee páska napríklad skutočne viete, čo presne sa stane: Polovica ľudí by povedala: „Toto sú býci - to je nejaký herec!“ a polovica ľudí by povedala: „Tam to je! To je skutočné!' Takže by sa skutočne nič nezmenilo. S novou technológiou to tak býva. Veci sa nemenia tak, ako si ľudia myslia. “
[Foto: SAUL LOEB / AFP / Getty Images]
