Použite samotnú AI na odhalenie falošných správ vytvorených AI

Nedávno výskumníci z Harvardskej univerzity a laboratória AI-MIT Watson na MIT vytvorili nástroj GLTR (Giant Language Model Test Room – Giant Language Model Test Room) na zistenie informačného skreslenia vytvoreného z AI pomocou samotnej umelej inteligencie.

Nástroj GLTR jasne chápe, ako funguje AI, a následne analyzuje obsah informácií. Tento nástroj zisťuje falošné správy vytvorené technológiou AI zvýraznením časti textu. Čitatelia môžu sledovať analytické schopnosti GLTP na obrázku nižšie. Keď sú slová zvýraznené zelenou farbou, sú najviac predvídateľné, červená a žltá sú menej predvídateľné a fialová je najmenej predvídateľná.

Vedci sa spoliehajú na farby v každom kúsku textu a analýzy, aby vyhodnotili pravosť informácií, či už boli vytvorené pomocou algoritmov alebo nie. Text zvýraznený červenou, fialovou a žltou farbou bude menej pravdepodobne generovaný AI kvôli použitiu mnohých zložitých slov. Ak je text pokrytý veľa modrou farbou, znamená to, že existuje veľa bežných slov a pravdepodobne ich vytvoril robot. Tento nástroj pomáha zvýšiť mieru detekcie falošného textu o približne 72%.

V zásade môžu byť vety napísané textovým generátorom AI gramaticky správne, ale určite budú mať sémantické problémy alebo v mnohých prípadoch dokonca postrádajú akýkoľvek skutočný význam.

V súčasnosti sa používanie AI a modelov generovania neprirodzeného jazyka na vytváranie falošných správ a šírenie nepravdivých informácií stáva čoraz bežnejším, čo vedie k vážnym následkom pre spoločnosť. Tieto falošné texty sú niekedy mimoriadne prepracované, takže čitatelia si len ťažko uvedomia, že ich namiesto človeka napísal stroj. Medzitým je nástroj GLTR vybavený schopnosťou presne rozlíšiť vyššie uvedený typ falošného textu a funguje ako účinný nástroj AI „prirodzeného nepriateľa“. To je tiež hlavná myšlienka výskumníkov v tomto projekte GLTR.

Iniciatívy podobné GLTR by sa mali čoskoro presadzovať a široko využívať v praxi. Sú cenné nielen pri odhaľovaní falošného textu, ale zohrávajú obzvlášť účinnú úlohu pri identifikácii robotov na Twitteri, ktorí sa často používajú na narušenie volieb v Spojených štátoch a mnohých ďalších krajinách.

Používanie samotnej AI na detekciu AI je účinným opatrením „prirodzeného nepriateľa“.

Predtým, ako sa zrodil GLTR, existoval široko používaný a pomerne účinný nástroj na rozpoznávanie založený na AI s názvom Botometer. Botometer v podstate používa techniky strojového učenia na určenie, či nejaký účet prevádzkuje človek alebo softvérový algoritmus. Tento nástroj je schopný identifikovať účty robotov a falošné účty, ktoré nie sú obsluhované ľuďmi, s presnosťou až 95%.

Opäť sa poukazuje a zdôrazňuje potreba vytvárať kolaboratívne systémy AI-ľudia na riešenie bežných technologických/sociálnych problémov. Ide o neľahkú, no mimoriadne naliehavú úlohu pre ľudstvo v súčasnej dobe digitálnej a umelej inteligencie.

Pozrieť viac:

• Umelá inteligencia už dokáže napísať celý článok len z niekoľkých informácií
• AI vytvorila tváre, ktoré vyzerajú ako skutoční ľudia, falošné autá, domy a dokonca aj zvieratá
• Umelá inteligencia sa učí, ako vytvoriť ďalšiu umelú inteligenciu, ktorá v budúcnosti nahradí ľudí
• 6 krokov, ako sa začať učiť programovanie umelej inteligencie (AI).