Használja magát az AI-t az AI által létrehozott álhírek észlelésére

Használja magát az AI-t az AI által létrehozott álhírek észlelésére

A közelmúltban a Harvard Egyetem és az MIT AI-MIT Watson laboratóriumának kutatói létrehozták a GLTR eszközt (Giant Language Model Test Room – Giant Language Model Test Room), amely az AI-ból származó információs torzítás kimutatására szolgál, magát a mesterséges intelligenciát felhasználva.

A GLTR eszköz egyértelműen megérti az AI működését, majd elemzi az információtartalmat. Ez az eszköz egy szövegrészlet kiemelésével észleli az AI-technológia által létrehozott álhíreket. Az olvasók az alábbi ábrán követhetik a GLTP elemzési képességeit. A zölddel kiemelt szavakkal ezek a leginkább kiszámíthatóak, a piros és a sárga kevésbé, a lila pedig a legkevésbé.

Használja magát az AI-t az AI által létrehozott álhírek észlelésére

A tudósok az egyes szövegrészek és elemzések színeire hagyatkoznak az információ hitelességének értékeléséhez, függetlenül attól, hogy algoritmusok hozták-e létre vagy sem. A piros, lila és sárga színnel kiemelt szöveget kevésbé valószínű, hogy mesterséges intelligencia generálja a sok nehéz szó használata miatt. Ha a szöveget sok kék borítja, az azt jelenti, hogy sok gyakori szó van, és valószínűleg egy bot hozta létre. Ez az eszköz segít körülbelül 72%-kal növelni a hamis szöveg észlelési arányát.

Használja magát az AI-t az AI által létrehozott álhírek észlelésére

Lényegében az AI szöveggenerátor által írt mondatok lehetnek nyelvtanilag helyesek, de minden bizonnyal szemantikai problémáik vannak, sőt sok esetben hiányzik is belőlük minden valódi jelentés, bármilyen ok.

Jelenleg egyre gyakoribb a mesterséges intelligencia és a természetellenes nyelvgenerálási modellek használata álhírek létrehozására és hamis információk terjesztésére, ami súlyos következményekkel jár a társadalomra nézve. Ezek a hamis szövegek olykor rendkívül kidolgozottak, így az olvasók nehezen veszik észre, hogy nem ember, hanem gép írta őket. Eközben a GLTR eszköz képes pontosan megkülönböztetni a fenti típusú hamis szövegeket, és hatékony "természetes ellenség" AI-eszközként működik. Ez a GLTR projekt kutatóinak alapötlete is.

A GLTR-hez hasonló kezdeményezéseket hamarosan népszerűsíteni kell és széles körben alkalmazni kell a gyakorlatban. Nemcsak a hamis szövegek felderítésében értékesek, hanem különösen hatékony szerepet játszanak a Twitter-botok azonosításában is, amelyeket gyakran használnak a választások megzavarására az Egyesült Államokban és sok más országban.egy másik családban.

Használja magát az AI-t az AI által létrehozott álhírek észleléséreMagának az MI-nek az AI észlelése hatékony „természetes ellenség” intézkedése

A GLTR megszületése előtt létezett egy széles körben használt és viszonylag hatékony AI-alapú felismerő eszköz, a Botometer. A Botometer lényegében gépi tanulási technikákat használ annak meghatározására, hogy egy fiókot emberi vagy szoftveres algoritmus üzemeltet-e. Ez az eszköz akár 95%-os pontossággal képes azonosítani a nem ember által kezelt botfiókokat és hamis fiókokat.

Ismét felhívják a figyelmet és hangsúlyozzák a közös technológiai/társadalmi problémák megoldására szolgáló, együttműködő AI-humán rendszerek létrehozásának szükségességét. Ez nehéz, de rendkívül sürgető feladat az emberiség számára a jelenlegi digitális és mesterséges intelligencia korszakában.

Többet látni:


A tudósok mesterséges intelligencia segítségével mutatják be, mitől boldog a házasság

A tudósok mesterséges intelligencia segítségével mutatják be, mitől boldog a házasság

Úgy tűnik, hogy a modern élet egyre negatívabb hatással van az emberi kapcsolatokra.

A Google mesterséges intelligenciája gyorsabban és jobban tud chipeket tervezni, mint az emberek

A Google mesterséges intelligenciája gyorsabban és jobban tud chipeket tervezni, mint az emberek

Az élgráfokon alapuló összetett neurális hálózati architektúra segítségével a Google Brain mesterséges intelligencia modellje az emberi időnek csupán töredéke alatt képes alaprajzokat megtervezni.

A legjobb Python-eszközök a gépi tanuláshoz és az adattudományhoz

A legjobb Python-eszközök a gépi tanuláshoz és az adattudományhoz

A Python számos nagy könyvtárral és keretrendszerrel rendelkezik, amelyek kényelmesek a kódíráshoz és a számítástechnika fejlesztéséhez. A Docs.NeoTechSystems felkéri Önt, hogy beszéljen néhány hasznos Python-eszközről mind a gépi tanulási, mind az adattudományi alkalmazásokhoz.

Az univerzális arc számos azonosítási rendszert képes feltörni

Az univerzális arc számos azonosítási rendszert képes feltörni

Az izraeli Tel Avivi Egyetem informatikusainak egy csoportja a közelmúltban bejelentette, hogy megtalálták a módját, hogy mesterséges intelligencia segítségével megkerüljék a legtöbb biometrikus arcfelismerő technológiát anélkül, hogy ismernék az áldozat arcát.

3 perces, mesterséges intelligencia technológiával készült film megijeszti a japán animeipart

3 perces, mesterséges intelligencia technológiával készült film megijeszti a japán animeipart

Nemrég a Netflix kiadott egy 3 perces animációs filmet The Dog and the Boy címmel, amely mesterséges intelligencia technológiával készült a cég YouTube csatornáján a japán piac számára.

Mathpix Snip 4.1

Mathpix Snip 4.1

A Mathpix Snip egy olyan eszköz, amellyel szöveget, és különösen matematikát lehet kinyerni képekből és dokumentumokból.

Adobe Presenter

Adobe Presenter

Az Adobe Presenter az Adobe Systems által kiadott e-Learning szoftver, amely Microsoft Windows platformon Microsoft PowerPoint beépülő modulként érhető el.

Sikeresen kifejlesztett egy képzeletbeli billentyűzetet érintőképernyőkhöz és VR-hez, AI-val

Sikeresen kifejlesztett egy képzeletbeli billentyűzetet érintőképernyőkhöz és VR-hez, AI-val

Láthatatlan billentyűzet? Érdekesen hangzik, de még mindig elég homályos...

A Google kiad egy hatalmas mesterséges intelligencia képzési adattárházat, amely több mint 5 millió fotót tartalmaz 200 000 nevezetességről világszerte

A Google kiad egy hatalmas mesterséges intelligencia képzési adattárházat, amely több mint 5 millió fotót tartalmaz 200 000 nevezetességről világszerte

Tegnap, május 5-én, a Google hivatalosan is kiadta a Google-Landmarks-v2 AI képzési adattárházat nyílt forráskóddal, fontos lépésként a számítógépes látásmodellek sikeres fejlesztésére irányuló tervben, amelyek gyorsabban, pontosabban és kifinomultabban képesek felismerni a világ tereptárgyait.

MI a háborúban: „Öngyilkos” UAV-k kezdenek megjelenni a csatatéren

MI a háborúban: „Öngyilkos” UAV-k kezdenek megjelenni a csatatéren

A mesterséges intelligencia egyre fontosabb szerepet játszik az élet számos olyan alapvető területén, mint az ipar, a mezőgazdaság, az egészségügy, az oktatás... És a katonaság is kivétel.