Efektitehnoloogia on viimase paarikümne aasta jooksul olnud tõeline buum, kus CGI on liikunud rudimentaarselt toorelt ja primitiivselt reaalsusest peaaegu eristamatuks. Nüüd, kui võrdsete kujutiste loomine muutub üha tavalisemaks, ootavad nii poliitilised asjatundjad kui ka kriminaalõiguse eksperdid paanikat nn sügava võltstehnoloogia ümber, mis võib veelgi raskendada käimasolevat rahvusvahelist arutelu võltsuudiste üle. Mis aga täpselt on „sügav võlts” ja kui suure ohu see tehnoloogia tulevikus kujutab?
Sügav võlts (mõnikord stiliseeritud kui „deepfake“) tehnoloogia tähistab sünteesitud ja / või üksteise peale pandud pilte ja / või videoid, mis on loodud tehisintellekti abil olemasolevate piltide ja videote abil. Masinõppe abil saaks see tehnoloogia teoreetiliselt luua veenva kaadri inimesest, kes sooritab teo, mida reaalses elus tegelikult kunagi ei juhtunud.
Professionaalne tarkvarainsener ja visuaalefektide kunstnik Owen Williams pakkus lihtsa selgituse.
'See on viis kasutada automatiseeritud tarkvarasüsteemi, et asendada inimese nägu videos teise näoga, mis on palju automaatsem ja veenvam kui varasema tehnoloogiaga võimalik,' ütles Williams. Oxygen.com .
Williams märkis, et sellised peamised populaarsed filmid nagu „Jurassic Park” ja „Blade Runner: The Final Cut” kasutasid teatud stseenide jaoks arvutitarkvara viisil, mis võis olla sügavate võltsingute eelkäija: „Filmitööstuses on see tõesti tavaline. Oletame, et teil on tegelane, kes peab trikki tegema, ja eelistaksite, et nende nägu oleks nähtav. Klassikaline lahendus oleks see, et te näeksite neid ainult tagant või nende juuksed oleksid näos, nii et te ei saa öelda, et see on topelt. Kuid on üsna seotud filmitegijate ajalugu, kes kasutavad arvutit, et näitleja nägu kaskadöörile üle anda. '
'See oli varem väga manuaalne protsess,' jätkas Williams. 'Nüüd, kasutades sügavat võltstehnoloogiat, toidate arvutit kahest asjast: kõigepealt video, mille asendate, ja seejärel hulga näo sisendeid, millega asendate. Sa pead saama piisavalt pilte inimesest, kes teeb erinevaid näoilmeid ja erinevate nurkade alt. Loote kogu, kuidas selle inimese nägu võib erinevates olukordades välja näha, ja siis vaatab arvuti läbi video. See ei vaja ka täpset vastet. See võib raamatukogus leiduvat pilgutada ja morfiseerida, et see sobiks vajalikuga. See, mis varem nõudis kümnete kunstnike jaoks sadu tunde, et proovida tõeliselt keerukat efekti, on nüüd vaid nupuvajutus. '
Selle tehnoloogia üks aspekt, mille pärast inimesed muretsevad, on see, et inimene ei pea selle protsessi elluviimiseks ilmtingimata oma nägu vabatahtlikult esitama, arvestades seda, kui palju on veebis enamiku inimeste pilte - eriti kuulsusi ja poliitilisi tegelasi.
'Igast kuulsusest on piisavalt nurka, et saaksite selle teegi luua [ilma nõusolekuta],' ütles Williams. 'Selleks on vaja teatud tööd, kuid iga vähetuntud populaarseima tegelase jaoks on see kraam olemas. Minu arvates on vähem tõenäoline, et see oleks tavainimesele võimalikult võimalik. '
Esimesed sügavad võltsvideod ilmusid Redditi foorumites 2017. aasta lõpus, sordi järgi . Kasutaja väitis, et on oma arvutit kasutanud ülimalt realistlike pornograafiliste videote loomiseks erinevatest kuulsustest, kes tegelevad seksuaalaktidega, mida reaalses elus tegelikult kunagi ei juhtunud. Kasutaja väitis, et toitis oma arvutit tuhandete fotodega tähtedest, millest tehisintellekt võis saada kujutatud näoilmeid ja liigutusi. Rakendus, mida kasutasid sügavad võltsiloojad ja mida Redditis jagati, laaditi lõpuks alla 100 000 korda. (Reddit keelustaks lõpuks sellise sisu, öeldes, et see rikub nende tahtmatu pornograafia poliitikat, vastavalt The Verge .)
Realism, mida see meedium praegu saavutada suudab, kahtleb Williamsis.
'Kui olete kunagi mõnda sellist sügavat võltsingut vaadanud, on seal teatud määral imelikke asju,' ütles Williams. 'Nad pole poleeritud. Tõenäoliselt läheb see üha paremaks, eriti seetõttu, et Hollywood on huvitatud selle automatiseerimisest, mitte kallite kunstnike maksmisest. '
Samamoodi arvas Williams, et vaatamata sellele paanika sügava võltsporniga , muutuv kultuuriline hoiak selliste asjade nagu kättemaksuporn või lekitanud alastipiltide olemuse suhtes tähendab, et tõenäoliselt mõistetakse sellist meediat loovad inimesed hukka ja neid ei tähistata isegi täiskasvanute meelelahutustööstuses.
'See ei saa kunagi olema peavool,' teoreeris Williams. 'Pärast' Rappumine 'asi juhtus Redditis, inimesed said vestlust muuta ja öelda:' See pole skandaal, see on seksikuritegu. ' Nii et ma lihtsalt ei näe, et sellest oleks saanud nii palju skandaali, kui inimesed seda arvavad. Inimesed leiavad üsna hõlpsalt ka originaalse pornograafia, millest sügav võlts loodi, mis tähendab, et seda on üsna lihtne lahti võtta. '
Kuid see ei tekita ainult muret, sest seda saaks kasutada võltskuulsuste pornograafia loomiseks. Inimesed on mures ka poliitiliste tagajärgede pärast.
Poliitilised asjatundjad hakkasid sügavate võltsingute levikust kirjutama 2018. aastal. Guardiani artikkel aasta novembrist märkis viirusliku leviku video, mis kujutas väidetavalt president Donald Trumpi, julgustades Belgia riiki Pariisi kliimaleppest taganema. See ajendas laiemat arutelu erinevate valitsuste võimaluste üle kasutada seda tehnoloogiat massilistes desinformatsioonikampaaniates. Vestlus oli juba alustatud tänu käimasolevale uurimisele Venemaa osalemise kohta Ameerika Ühendriikide 2016. aasta presidendivalimistel.
Sügavate võltsingute ümber tekkinud paanika inspireeris Bloomberg Media Groupi toimkonda isegi selles küsimuses tugevalt sõnastatud opositsiooni kirjutama.
'Videotõenditest on saanud kriminaalõigussüsteemi sammas ... just seetõttu, et film tundub kellegi kõne või tegevuse nii usaldusväärse salvestisena. Sügavad võltsingud võivad selliseid tõendeid kahtlaselt kahtlustada, ' kirjutasid nad juunis 2018. 'Ülekaalukas väljakutse on siis nende võltsingute tuvastamine ja väljakutse - kui see on võimalik.'
Williams nõustus, et sügavate võltsingute olemus ähvardab videotõendite osas meie arusaamu reaalsusest, kuid märkis, et see juriidiline soo ei ole ainulaadne meie kaasaegsele digitaalsele maastikule.
'See taandub mingil moel sellele, et inimestel on see video võrdne tõega, mida pole kunagi olnud. Me teadsime seda alates Rodney Kingist. Või mõelge Eric Garner : Inimesed pidasid [teda tapnud ohvitseri] süütuks, olenemata sellest, millist videot juhtumist ennustati. Mulle [paljud hirmud sügavate võltsingute ümber] tunduvad mulle pisut alusetud. '
kas amityville'i õudusmaja on endiselt olemas
Williams loetles veel mitmeid juhtumeid, mis ei hõlmanud sügavat võltstehnoloogiat, mis näitas, kuidas videoga on julgelt manipuleeritud, et avalikku arvamust mingis asjas moonutada. James O'Keefe ACORNi vastuoluline eemaldamine ja hiljutine skandaal, milles osalesid doktorivideo, mis väidetavalt kujutas CNNi reporterit Jim Acostat Valge Maja töötajat ründamas .
Williamsi lõplik järeldus oli, et sügavaid võltsinguid ümbritsev hüsteeria on mõnevõrra ülepaisutatud.
'See, mida ma näen juhtumas, on see, et see töötab mõlemal viisil. Kui video tuleb välja ja see on tõeline, väidavad inimesed, et see on võlts. Kui video ilmub ja see on võlts, väidavad inimesed, et see on tõeline. Iga juhtum eeldab, et video [ise] omistab teatud hulga tõde. Raske on teada, mis suunas see kõik läheb. Kui Pissilint tegelikult tuli välja, näiteks tead täpselt, mis juhtuma hakkab: pooled inimesed ütleksid: 'See on pull - t, see on mõni näitleja!' ja pooled inimesed ütleksid: 'Seal see on! See on päris!' Nii et midagi tegelikult ei muutuks. Uue tehnoloogiaga juhtub nii: asjad ei muutu nii palju, kui inimesed arvavad. '
[Foto: SAUL LOEB / AFP / Getty Images]
