Ang isang 'deepfake' ng isang vaping teen ay nasa gitna ng isang kaso ng panliligalig-ngunit paano kung hindi ito ginampanan?

Ang isang 'deepfake' ng isang vaping teen ay nasa gitna ng isang kaso ng panliligalig-ngunit paano kung hindi ito ginampanan?

Nagdududa ang mga eksperto na ginamit ang artipisyal na katalinuhan upang lumikha ng isang video na tinawag ng pulisya na isang 'deepfake' at nasa gitna ng isang nagpapatuloy na labanan sa ligal na naglalaro sa Pennsylvania.


optad_b

Ang insidente ay gumawa ng internasyonal na balita noong nakaraang buwan matapos ang ina ng isang cheerleader ng high school ay inakusahan ng pagmamanipula ng mga imahe at video sa isang pagsisikap na ipakita ito na parang ang mga karibal ng kanyang anak na babae ay umiinom, naninigarilyo, at hubad.

Ang ina, 50-taong-gulang na Raffaela Spone, ay nagpadala ng na-doktor na nilalaman mula sa isang hindi nagpapakilalang numero sa tatlong mga cheerleader at kanilang mga coach.



Ang Bucks County District Attorney's Office, na kinasuhan si Spone ng tatlong bilang ng panliligalig sa cyber sa isang bata at tatlong bilang ng panliligalig, na-refer ang terminong deepfake kapag tinatalakay ang mga imahe pati na rin ang isang video na naglalarawan sa isa sa pag-vap ng sinasabing biktima.

Ngunit ang akusasyon ay nagtataas ng mga seryosong katanungan tungkol sa pag-unawa ng nagpapatupad ng batas sa deepfake na teknolohiya, at ang pagpayag ng media na ulitin ang kanilang mga paghahabol nang walang pag-verify.

Habang ang mga tagausig ay hindi nagbigay ng mga detalye, ang mga tool na idinisenyo upang ipakita ang mga kababaihan na hubo sa mga imahe sa tulong ng artipisyal na intelihensiya (AI) mayroon bang . Sa halip ito ay ang pinaghihinalaang vaping video na nagpasigla ng makabuluhang pushback mula sa mga dalubhasa sa deepfake.

Bagaman ang sinasabing deepfake ay una ay hindi magagamit ng publiko, isang recording ng cellphone ng isa pang aparato na nagpe-play ang vaping footage ay ibinigay sa NBC News noong nakaraang buwan matapos na lumapit ang isa sa mga sinasabing biktima.



Si Madi Hame, isang 17 taong gulang na cheerleader kasama ang koponan ng Victory Vipers, ay tinanggihan sa NBC News na ang kuha ay talagang ipinakita sa kanyang vaping. Sinabi ni Hame na nalaman niya ang video matapos itong maipadala, na diumano'y ni Spone, sa kanyang mga coach na nagpapasaya.

'Akala ko kung sinabi ko ito, walang maniniwala sa akin dahil malinaw naman, mayroong katibayan, mayroong isang video-ngunit malinaw naman na ang video ay manipulahin,' sinabi ni Hame sa NBC News.

Naabot ng Daily Dot ang ina ni Hame na si Jennifer, na lumitaw kasama si Hame sa panayam ng NBC News, upang magtanong tungkol sa vaping video, ngunit hindi nakatanggap ng tugon sa pamamagitan ng oras ng pamamahayag.

Si Henry Ajder, isang dalubhasa sa deepfake at sintetikong media na nakabase sa U.K., ay isa sa kauna-unahang nagtanong tungkol sa vaping video matapos ipalabas ng ABC News ang isang katulad na ulat.

'Nagkaroon ako ng aking mga reserbasyon tungkol sa kwento ng isang ina na gumagawa ng mga deepfake ng mga kalaban sa cheerleading ng kanyang anak na babae,' tweet ni Ajder noong nakaraang buwan. 'Ang isa sa mga video na inilabas ng ABC ay hindi lilitaw na isang deepfake, ngunit nilagyan pa rin nila ito ng label na walang malaking patunay o pagsusuri.'

Ang iba pang mga dalubhasa sa deepfake ay lilitaw na may parehong mga alalahanin. Ang tanyag na tagalikha ng deepfake na kilala sa online sa palayaw Dr. Fakenstein —Na kasalukuyang nagtatrabaho bilang isang AI artist para sa comedy show Sassy Justice binuo ng mga tagalikha ng South Park na sina Trey Parker at Matt Stone — sinabi sa Daily Dot na ang vaping video ay hindi lumilitaw na artipisyal na nabuo.



Partikular, nabanggit ni Dr. Fakenstein na ang video ay walang ilang mga glitches na halos palaging lumilitaw sa mga deepfake kapag ang isang mukha ay hinahadlangan ng isa pang bagay.

'Mahirap makita bilang isang video ng isang video ngunit, hindi ito mukhang isang deepfake sa akin,' sabi nila. 'Ang ilaw ay nagbabago tulad ng natural, walang glitching sa paligid kung saan takip ng kamay ang mukha, walang glitching kapag ang ulap ng vape ay napupunta sa harap ng mukha, na napakahirap kung hindi imposibleng gawin nang walang mga glitches.'

Naabot ng Daily Dot ang Kagawaran ng Pulisya ng Hilltown Township , na sumisiyasat at kalaunan ay isinagawa ang pag-aresto laban kay Spone, upang magtanong tungkol sa vaping video.

Sinabi ng Punong Pulis na si Christopher Engelhart na naniniwala siyang ang pagsingil ng mga dokumento laban kay Spone ay hindi tiyak na binansagan ang video bilang isang deepfake.

'Ang aking pagkaunawa ay nakalista ito bilang alinman sa isang deepfake o katulad na teknolohiya,' sabi ni Engelhart.

Nasa reklamong kriminal laban kay Spone, tinukoy ng opisyal ng Hilltown Township Police na si Matthew Reiss ang vaping video bilang 'gawain ng isang programa na o katulad sa 'Deep Fakes.''

Nang mapilit kung ang kagawaran ay inaliw ang posibilidad na ang vaping video ay maaaring hindi maging isang deepfake, sinabi ni Engelhart na hindi siya sigurado kung ang terminolohiya na ginamit upang ilarawan ang video ay ipinakilala ng sinasabing biktima o pulisya.

Nagpunta si Engelhart upang i-claim na ang mga investigator ay nagsagawa ng forensic analysis ng video upang matukoy na ito ay ginawang manipulasyon.

'Ang assertion ay na ang biktima ay hindi vaping,' idinagdag ni Engelhart. 'Ang assertion ay na siya [Spone] ay nagawang manipulahin iyon upang lumitaw na siya ay vaping.'

Ngunit ang mga eksperto ay may pag-aalinlangan na kahit na ang pinakamahusay na mga tagalikha ng deepfake ay maaaring gumawa ng isang kapani-paniwala na video, pabayaan ang Spone. Nang tanungin kung ang 50-taong-gulang na ina ay potensyal na humingi ng tulong mula sa isang tagalikha ng deepfake, sinabi ni Engelhart na habang ito ay isang posibilidad, walang katibayan sa oras na ito na nagpapahiwatig na ang Spone ay may kasabwat.

Ang Derpfakes, isa pang kilalang deepfake artist na ang mga nilikha ay umani milyon-milyong pananaw sa online, tiningnan din ang vaping video tulad ng ipinakita ng NBC News at sinabi sa Daily Dot na hindi nila masabi nang sigurado na ito ay na-manipulate.

'Gusto kong sumandal sa sinasabi na ito ay tunay,' sabi ni Derpfakes. 'Kung ito ay isang deepfake kung gayon tiyak na tumagal ito ng isang tiyak na antas ng kasanayan sa visual effects kaysa sa labas-ng-kahon na deepfake na software.'

Sa panahon ng a press conference noong nakaraang buwan, ang Abugado ng Bucks County District na si Matt Weintraub ay tila iminungkahi na ang vaping video ay batay sa mayroon nang mga kuha mula sa mga social media account ng biktima.

'Ang mga video o larawan ay mayroon na sa ilang porma at pagkatapos ang aming paratang — ito ay siyempre napapailalim sa patunay sa paglilitis, siya ay inosente hanggang sa napatunayan na nagkasala - ngunit ang aming paratang ay kinuha ni Ginang Spone ang mga mayroon nang mga imahe mula sa mayroon nang social media mula sa tatlong ito ang mga mayroon nang mga social media account ng mga biktima at nagmula sa kanila, ”sabi ni Weintraub.

Ang pahayag ay katulad ng mga paghahabol na ginawa ni Engelhart sa Daily Dot na ginamit umano ni Spone ang lehitimong video bilang batayan para sa deepfake. Hindi alam ng pulisya kung ang mukha ng sinasabing biktima ay naidagdag sa isang video ng isa pang batang babaeng vaping o kung ang isang vaping pen at usok ay digital na naidagdag sa isang lehitimong video ng sinasabing biktima.

Anuman, ang mga eksperto ay may pag-aalinlangan na ang alinmang senaryo ay isang tumpak na representasyon ng footage.

Ang kilalang tagalikha ng deepfake na kilala bilang Shamook , na ang mga video ay napanood nang higit sa 21 milyong beses sa YouTube lamang, ay nagtalo na kahit na ang resolusyon ng vaping na video ay 'napakababa, napakalinis nito upang maging isang deepfake.'

'Mula sa aking pananaw hindi ito isang deepfake,' sinabi ni Shamook sa Daily Dot. 'Ang usok mula sa vape ay magiging napakahirap likhain ... Hindi ko makita ang anumang katotohanang katibayan na ito ay isang deepfake.'

Sinabi din ni Weintraub sa panahon ng press conference na tinukoy ng mga investigator na ang video ng vaping ay na-manipulate pagkatapos na pag-aralan ang 'metadata,' isang term na tumutukoy sa naka-embed na impormasyon sa digital media na maaaring ihayag kung paano at kailan ito huling na-edit.

Ngunit pagkatapos makipag-ugnay kay Reiss, ang opisyal na nag-imbestiga kay Spone, nalaman ng Daily Dot na hindi talaga nakuha ng pulisya ang orihinal na video ng vaping. Sa halip, tulad ng nakita sa NBC News, ang pulis ay may access lamang sa isang recording ng cellphone na kuha ni Spone ng vaping video na pinatugtog sa isang hiwalay na aparato. Anumang pagtatasa ng metadata samakatuwid ay mabibigong magsama ng impormasyon sa pinagmulang video.

Bilang tugon sa mga katanungan kung paano natutukoy na ang vaping footage ay minamanipula nang walang pag-access sa orihinal na video, sinabi ni Reiss na nakikita niya sa kanyang mga elemento na 'hubad na mata' na 'walang katuturan.'

'Ang pinagmulan ng kung saan nagmula si Gng. Spone sa video na iyon ay isang katanungan pa rin,' sabi ni Reiss. 'At inaasahan namin na si Ginang Spone sa panahon ng paunang pagdinig o paglilitis ay magpapaliwanag sa amin hanggang sa kung ano ang kanyang pinagmulan at hangarin.'

Tukoy na sinabi ni Reiss na 'ginamit ang artipisyal na katalinuhan' sa mga larawang gumawa ng maraming mga cheerleader na hubo't hubad, na nakahanay sa kasalukuyang teknolohiya na idinisenyo upang gawin iyon. Ngunit ang pagkakaroon ng mga nabago na larawan, bilang karagdagan sa pagtanggi mula sa hinihinalang biktima hinggil sa maliwanag na pagsasama niya sa vaping video, ay tila ang buong batayan para sa paniniwalang ang footage ay manipulahin, kahit na wala pang teknikal na katibayan na sumusuporta sa pag-angkin

Ang salitang 'deepfake,' tulad ng nabanggit sa pagsingil ng mga dokumento, ay tila naging isang catch-all term sa mga pulis, tanggapan ng abugado ng distrito, at ng media kapag tinatalakay ang anuman at lahat ng nilalamang digital na nauugnay sa insidente.

Ang susunod na pagdinig sa korte ni Spone ay nakatakdang maganap sa Mayo 14, kung saan sinabi ni Reiss na mas maraming impormasyon tungkol sa pagsisiyasat ang isasapubliko.

Bagaman maaaring baguhin ng bagong ebidensya ang kaso, ang kuru-kuro na maaaring hindi wastong tinutukoy ng pulisya sa isang tunay na video tulad ng pagmamanipula ay wala sa larangan ng posibilidad.

Kahit na mas nakakagulo, tila walang mga outlet ng media ang nagtangkang patunayan na ang vaping footage ay talagang isang deepfake bago i-broadcast ang habol sa milyun-milyong mga Amerikano.

Ang posibleng maling hakbang ng media, at ang pagkakataong ang sistemang hustisya sa kriminal ay maaaring maling mag-apply ng mga batas laban sa mga video na maling pagkilala sa mga deepfake, ang pinababahala sa mga eksperto.

'Nakakatakot kahit na kung hindi ito isang deepfake,' idinagdag ni Shamook. 'Ito ang maaaring maging simula ng mga taong magagawang siraan ang totoong ebidensya sa pamamagitan lamang ng pagsasabi ng 'deepfake.''

Ang vaping video ay isinasantabi, ang iba pang mga paratang laban kay Spone, kung totoo, ay puno pa rin at frighening. Ngunit ang resulta ng kaso laban sa kanya, kung umaasa kahit na sa bahagi ng hindi tumpak na impormasyon, ay maaaring magkaroon ng mapanganib na ramification sa mundo ng manipulado (at hindi manipulahin) na media.


Nangungunang mga kwento sa teknolohiya sa linggong ito

'Pagod na nang makita ang mga kriminal na niluwalhati': Ang mga pulis sa buong bansa ay nag-abuloy sa fundraiser para sa opisyal na pumatay kay Breonna Taylor
Ang FCC ay naka-deadlock. Kailan ba maaayos ng Biden iyon?
Mga Meme steal na si F * ck Si Jerry ay kumuha ng halos $ 1 milyon sa relief ng coronavirus
Maligayang pagdating sa patuloy na lumalawak na mundo ng mga teoryang sabwatan ng bakuna sa bakuna
Ang isang 'deepfake' ng isang vaping teen ay nasa gitna ng isang kaso ng panliligalig-ngunit paano kung hindi ito ginampanan?
Mag-sign up upang makatanggap ng Daily Dot's Internet Insider newsletter para sa kagyat na balita mula sa frontline ng online.