Microsoft Video Authenticator: nástroj, ktorý pomáha identifikovať deepfake a predchádza falošným informáciám

Spoločnosť Microsoft práve spustila novú technológiu s názvom Microsoft Video Authenticator, ktorá má pomôcť v boji proti podvodom pomocou falošných informácií, obrázkov a dokonca aj videí (technika hĺbkových falošných správ ) na šírenie informácií, dezinformácií, najmä vo svetle nadchádzajúcich prezidentských volieb v Spojených štátoch.

Deepfake a existujúce problémy

Deepfake (portmanteau „hlbokého učenia“ a „falošného“) je technika syntézy ľudského obrazu založená na umelej inteligencii (AI). Používa sa na kombinovanie a prekrývanie iných obrázkov a videí na zdrojové obrázky alebo videá pomocou techniky strojového učenia nazývanej Generative Adversarial Network. ). Zjednodušene povedané, deepfake je program, ktorý využíva umelú inteligenciu a umožňuje používateľom zameniť niečiu tvár vo videu (a dokonca aj na obrázkoch) za tvár niekoho iného.

Kvôli týmto schopnostiam je deepfake často využívaný zlými ľuďmi na vytváranie falošných správ a podvodov na očierňovanie a ovplyvnenie reputácie jednotlivcov, organizácií, najmä celebrít. To poškodzuje nielen česť a dôstojnosť falšovanej osoby, ale vyvoláva aj rozruch vo verejnej mienke a vyvoláva mnohé polemiky či ešte horšie konflikty.

Analýza hlboko falošných videí

Microsoft Video Authenticator

Spôsob, akým Microsoft Video Authenticator funguje, nie je v zásade nič zložité, používa algoritmus na analýzu statických obrázkov alebo videí na úrovni pixelov, ktoré sú voľným okom neviditeľné, aby poskytol percentuálny podiel šancí. skóre asociácie alebo dôveryhodnosti, ktoré naznačuje, aká je pravdepodobnosť je, že obrázok alebo video je sfalšované pomocou deepfake. Najmä v prípade videí môže tento nástroj poskytnúť skóre hodnotenia v reálnom čase pre každú snímku, aby poskytoval čo najpresnejšie výsledky.

Túto technológiu vyvinul tím Microsoft Research v spolupráci s výborom Microsoft AI, Ethics and Effects in Engineering and Research. V počiatočnej fáze nebude sprístupnený priamo verejnosti, ale bude len experimentálne aplikovaný v niektorých agentúrach a organizáciách. Spoločnosť Microsoft v súčasnosti spolupracuje s nadáciou AI ​​Foundation, komerčnou a neziskovou spoločnosťou so sídlom v San Franciscu, s cieľom nasadiť testovanie aplikácie Microsoft Video Authenticator na mnohých spravodajských platformách a politických kampaniach.

Obmedzením tejto technológie je však riziko, že sa rýchlo stane zastaranou, keďže technológia deepfake bude naďalej rásť v sofistikovanosti. Microsoft oznámil samostatný systém, ktorý umožní producentom obsahu pridávať skrytý kód do svojich záberov, aby bolo možné nahlásiť akúkoľvek manipuláciu, a zintenzívňuje partnerstvá s radom mediálnych spoločností, ako sú BBC, CBC/Radio-Canada, New York Times. .. otestovať technológiu a urobiť z nej štandard.

• Táto nebezpečná aplikácia dokáže vďaka technológii deepfake „preniknúť“ do dámskeho oblečenia už za pár sekúnd