Panika, pretože chatboti sa medzi sebou rozprávajú vo svojom vlastnom jazyku? Toto je pravda

V pondelok vzrušenie technologického sveta dosiahlo svoj vrchol, keď Facebook oznámil, že opustí chatbotov po tom, čo si vytvorili svoj vlastný jazyk.

Niektoré noviny označili tieto programy za „strašidelné“. Niektorí novinári dokonca naznačili, že samotnému Facebooku došli nápady skôr, ako sa nejaká superinteligentná AI „prehovorila“. Britské noviny Sun požadovali vedieť: "Preberajú stroje?". Austrálska televízna stanica Seven News to tiež nazýva „mimoriadnou udalosťou AI“. A odpoveď znie: nie.

Toto sú jednoducho dvaja chatboti, ktorí si navzájom vymieňajú informácie. Pri pohľade na útržky kódu v ich „konverzácii“ je ťažké zistiť, akým jazykom hovoria, nieto ešte rozvíjať jazyk samotný.

Konverzácia chatbota na výmenu informácií

Výbušná tlač a strach z AI po tomto incidente mohli pochádzať z projektu Facebooku. Výskumníci tohto gigantu sociálnych sietí sa pokúsili naučiť dvoch chatbotov používať konverzáciu na vzájomnú komunikáciu. Cieľom je naučiť robota efektívnejšie plánovať a komunikovať.

Keď hovoria nezmysly, žiadna AI sa nezrúti ani nezabije. Namiesto toho nájdeme softvérové ​​chyby a opravíme ich, aby roboti mohli hovoriť viac ako ľudia a výskumníci mohli prezentovať výsledky svojho výskumu.

„Táto práca je veľmi vzrušujúca,“ povedal pre The Register Zachary Lipton, odborný asistent strojového učenia na Carnegie Mellon University . Ide však o statické modely, ako napríklad modely, ktoré Google používa na hranie stolových hier alebo váš telefón na predpovedanie slov, ktoré napíšete. Nemajú vyššiu kognitívnu schopnosť ako miska rezancov alebo pár topánok.“

Môžu chatboti skutočne komunikovať medzi sebou v nových jazykoch?

Boti, ktorí vedia rozprávať, nie sú novým alebo záhadným fenoménom. Výskumníci z OpenAI zistili, že môžu hovoriť cez niečo ako Morseova abeceda, keď sú nútení komunikovať a spolupracovať.

Ryan Lowe, doktorand na McGill University a doktorand na OpenAI, povedal, že ide o „veľmi normálny jav“ a „netreba sa ničoho obávať“.

„Vždy, keď existuje prostredie s viacerými robotmi, je efektívnejšie, keď spolu hovoria,“ povedal, „Ich úlohy sú veľmi obmedzené a jazyk, ktorý používajú, to odráža, je veľmi jednoduchý a nikdy sa nepodobá skutočnému jazyku. . Jazyk má určitý systém syntaxe a gramatiky. Ak sa to neučí explicitne, to, čo produkuje, nemôže pripomínať jazyk.“

Mravec sa mení na slona

Veľa sa objavuje fám a prehnaných informácií o AI. Prechod na pole AI a tvrdenie, že váš produkt používa strojové učenie, môže priniesť veľa peňazí. Toto nie je problém len pre novinárov, ktorí sa špecializujú na vyhľadávanie senzačných správ, technologickí giganti sú tiež veľmi alergickí a často v blogových príspevkoch používajú slová ako „predstavivosť“, „intuícia“, „rozum“.

„Niekto iný, kto je za to zodpovedný, sú výskumné oddelenia veľkých spoločností, ktoré s nadšením realizujú prelomové projekty, o ktorých si mnohí vedci mysleli, že sa už mnoho rokov nedajú realizovať,“ povedal Lipton.

Facebook nedávno zverejnil náborovú reklamu na pozíciu editora AI s cieľom pomôcť „vyvíjať a realizovať stratégie a kampane zamerané na zlepšenie ich AI“. Spoločnosti ako Amazon, Microsoft, OpenAI, Google Brain a DeepMind vydávajú články, ktoré popisujú najnovší vývoj v oblasti AI.

„Spisovatelia môžu byť chytrí a majú dobré úmysly,“ povedal Lipton, „ale je tu problém. To, čo robia, hoci im to pripadá ako žurnalistika, nie je, nesnaží sa vniesť objektivitu, nemá skeptický pohľad ani hĺbkovú analýzu."