Sisu
- Hea lugu on sundimatum kui kogu tõde
- Kas nägemine ikka usub?
- Tuvastamatud võltsingud
- Pole vigu ega stressi - teie samm-sammuline juhend elumuutva tarkvara loomiseks ilma oma elu hävitamata
- Võimalikud tagajärjed
- Ennetav planeerimine
Allikas: Mike2focus / Dreamstime.com
Ära võtma:
Meediatarbimine areneb koos tehnoloogia arenguga nagu tehisintellekt (AI). Ehkki üldiselt võtame edusamme omaks, peame olema teadlikud ka teatud tehnoloogiavormide varjukülgedest. AI suutlikkusel, kui seda kasutatakse võltsuudiste reklaamimisel, on tume külg.
Tehnoloogia hämar külg oli nende teemade hulgas, mida uuriti NYC Media Labi teisel Machines + Media konverentsil, mida sponsoreeris ja võõrustas Bloomberg oma globaalses peakontoris linnas 15. mail. Ehkki mõned sessioonid käsitlesid rohkem seda, mida tehnoloogia on praegu meediale kättesaadav, isegi need, kes tõid manipuleerimise ja desinformatsiooni varju.
Hea lugu on sundimatum kui kogu tõde
Buzzfeed, andmekogude osakonna juhataja Gilad Lotan, juhtis istungjärgul pealkirjaga „Kunstiteadus” ja tõi välja, et võltsitud või eksitavate uudiste probleemi ei saa süüdistada üksnes meediaettevõtetes ega uues tehnoloogias. "Inimesed ei pea tingimata otsima fakte," ütles ta. "Lugejad tahavad lugusid."
Ta lisas, et lugude ja soositud narratiivide soovi söötmine võib põhjustada võltsuudiseid, mis on „rohkem manipuleerimine kui valeteave.” Tegelikult ei pruugi esitatud lugu sisaldada üldse midagi valet. Mis on võlts, on see, et teatatud faktid korjatakse kirsilt välja ja eemaldatakse suuremast arutluskäigust, et juhtida lugejaid järelduse poole.
Sarnaselt ütles "Platvormi + meedia" sessioonil Kelly Born Williamsi ja Flora Hewlett'i fondi Us Democracy Initiative'ist: "Inimestele meeldivad uudised, mis tugevdavad nende uskumusi ja eriti kui need tekitavad pahameelt." Ta hoiatas, et meedia on kapitaliseerunud. see kalduvus võib viia “täiusliku tormini”, mis toob meis esile halvima. Seda raskendab võimalus täielikult valmistatud esitlusteks.
Kas nägemine ikka usub?
Tehnoloogia mängib rolli loo jutustamisel piltide ja video kaudu. Tavaliselt usume seda, mida näeme, kui pole ilmseid manipuleerimise märke. Kuna AI parandab võltsvideote realistlikkust, on nüüd võimalik sõna otseses mõttes avaliku elu tegelaste suhu pista. (AI-d ei kasutata ainult ebaregulaarsetel eesmärkidel. Vaadake 5-st viisist, kuidas ettevõtted võiksid kaaluda AI-d, konstruktiivseid võimalusi.)
AI toodetavate väga usutavate videote ohtlikkust demonstreeriti istungjärgul pealkirjaga “Lahendused masinapõhise meedia tumedale küljele”. See algas videoga, kus Barack Obama rääkis asjadest, mida endine president pole kunagi öelnud. Liikumine oli sõnadega endiselt pisut sünkroonis, nii et sellel on mõned jäljed võltsitud videost ja suurem osa publikust ütles, et oskab seda võltsina ära tunda.
See Obama videotöötlus ei saavutanud realistlikkust, et Peter Cushing tõusis ülestõusmisena Grand Moff Tarkiniks filmi "Rogue One" jaoks. Nagu New York Timesi artikkel selgitas, saavutati efekt näitleja kandmisel "liikumise jäädvustamise materjalid pähe". samal ajal kui kaamera ees “, nii et tema nägu saaks asendada Cushingi digitaalse taasloomisega.” Filmi loovjuht / visuaalefektide kõrgem juhendaja nimetas seda “superkõrgtehnoloogiliseks ja töömahukaks versiooniks meik."
Tuvastamatud võltsingud
Tänu AI edusammudele, eriti generatiivsetele võistlusvõrgustikele (GAN), on filmide võluefektide saavutamine lihtsam kui kunagi varem. GAN-e kasutades täpsustatakse ühe AI-süsteemiga materjali, kuni see on piisavalt hea, et võltsingute tuvastamiseks loodud AI-süsteemi abil see reaalseks tunnistada.
Pole vigu ega stressi - teie samm-sammuline juhend elumuutva tarkvara loomiseks ilma oma elu hävitamata
Te ei saa oma programmeerimisoskusi parandada, kui keegi tarkvara kvaliteedist ei hooli.
Selles videos näete, kuidas teadlased demonstreerivad, kuidas näitleja saab avaliku elu tegelase näo liigutusi suunata, et tekitada mis tahes väljendus- ja väljaütlemisvõimalusi sellise lojaalsuse tasemega, mida tavaliselt dokumenteeritud videotes ei leidu.
Kuigi mitte kõigil inimestel, kes videotega mängivad, pole sellist süsteemi praegu saadaval, on tarkvara lähitulevikus rohkemate inimeste käeulatuses.
Võimalikud tagajärjed
Factmata asutaja ja tegevjuht Dhruv Ghulati ütleb, et ta on väga mures selle pärast, kuidas saaks seda võimet kasutada mitte ainult maailma liidrite, vaid ka tegevjuhtide ja kuulsuste nägude videodesse panemiseks, et tõestada nende ütlust või teha asju, mida nad pole veel teinud . Video hävitavat võimet suurendaks robotivõrkude viirusliku efekti saavutamine.
See tähendab, et me "ei saa enam usaldada oma lamavaid silmi", kuulutas Mor Naaman, infoteaduse dotsent Cornell Tech. Ta tundis muret, et see võib usalduse kaotada.
Teised on mures vägivalla leekide õhutamise pärast. Juba "lihtsalt pisut muudetud videoid" kasutatakse "vägivalla tekitamiseks arengumaades", täheldas sotsiaalse meedia vastutuse keskuse peatehnoloog Aviv Ovadya. (Sotsiaalmeedia võib olla tõhus viis vale teabe levitamiseks. Tutvuge 4 parima laastavaima sööda häkke.)
USA-sse investeeriv partner Sarah Hudson väljendas muret, et piltidega manipuleerimine kujutab endast "uskumatut ohtu avalikule turvalisusele".
Ennetav planeerimine
On hädavajalik vältida võimalikult palju sellist kuritarvitamist, "ütles Ovadya. Sellepärast on oluline mõelda tehnoloogia arendamise ajal ette ja mõelda sellele, kuidas leevendada halbu tagajärgi ja pühendada ressursse soovimatute tagajärgedega tegelemiseks.
Edaspidi pole võimalik kella tagasi pöörata, kuid peame vaid tagama, et meie suund oleks läbimõeldud ja kavandatud. See tähendab, et töötatakse mitte ainult tehnoloogia kallal, et näha, mida saaks teha, vaid mõelda ka sellele, mida võiks teha, millest tuleks hoiduda.
Tehnoloogiliste uuenduste jaoks on edasine viis läbi mõelda, millised võivad olla selle tagajärjed, ja kavandada kaitsemeetmed enne ohtude realiseerumist. Selleks vajame koostööd teadlaste, tehnoloogiaettevõtete ja valitsusasutuste vahel, et kehtestada standardid ja parimad tavad, millest inimesed kinni peavad. See peaks olema kõigi asjaosaliste prioriteet.