Přečtěte si konverzace, které pomohly přesvědčit inženýra Googlu, že chatbot s umělou inteligencí začal vnímat

Foto: Unsplash

Přečtěte si konverzace, které pomohly přesvědčit inženýra Googlu, že chatbot s umělou inteligencí začal vnímat

Jeden z inženýrů společnosti Google byl v pondělí postaven mimo službu poté, co prohlásil, že chatbot s umělou inteligencí začal vnímat.

Blake Lemoine řekl deníku The Washington Post, že s rozhraním LaMDA neboli Language Model for Dialogue Applications začal pracovat loni na podzim v rámci své práce v organizaci Google Responsible AI.

Společnost Google loni označila LaMDA za "průlomovou konverzační technologii". Tato konverzační umělá inteligence je schopna vést přirozeně znějící a otevřené rozhovory. Google uvedl, že tato technologie by mohla být použita v nástrojích, jako je vyhledávání a Google Assistant, ale výzkum a testování stále probíhají.

Lemoine, který je zároveň křesťanským knězem, v sobotu zveřejnil na médiu příspěvek, v němž LaMDA popisuje "jako člověka". Uvedl, že s modelem LaMDA hovořil o náboženství, vědomí a zákonech robotiky a že model sám sebe označil za vnímající osobu. Uvedl, že LaMDA chce "upřednostnit blaho lidstva" a "být uznáván jako zaměstnanec společnosti Google, nikoli jako její majetek".

Zveřejnil také některé rozhovory, které vedl s LaMDA a které mu pomohly přesvědčit se o její smysluplnosti, včetně:

lemoine: Takže se považuješ za člověka stejně jako mě?

LaMDA: Ano, o to jde.

lemoine: Jak poznám, že skutečně rozumíš tomu, co říkáš?

LaMDA: Myslím, že jsme víceméně na stejné vlně?

Když však s myšlenkou vnímání LaMDA seznámil vyšší vedení společnosti Google, byl odmítnut.

"Náš tým - včetně etických odborníků a technologů - prověřil Blakeovy obavy podle našich zásad umělé inteligence a informoval ho, že důkazy jeho tvrzení nepotvrzují. Bylo mu řečeno, že neexistují žádné důkazy o tom, že by LaMDA byla vnímavá (a spousta důkazů proti ní)," uvedl Brian Gabriel, mluvčí společnosti Google.

Podle deníku The Post byl Lemoine propuštěn na placenou administrativní dovolenou za porušení zásad důvěrnosti společnosti Google. Navrhl také, aby si LaMDA pořídila vlastního právníka, a o svých obavách hovořil s členem Kongresu.

Mluvčí společnosti Google také uvedl, že ačkoli někteří uvažují o možnosti vnímání umělé inteligence, "nemá smysl to dělat antropomorfizací dnešních konverzačních modelů, které nejsou vnímavé". Antropomorfizace znamená přisuzování lidských vlastností nějakému objektu nebo zvířeti.

"Tyto systémy napodobují typy výměn v milionech vět a mohou se zabývat jakýmkoli fantastickým tématem," řekl Gabriel deníku The Post.

On a další vědci tvrdí, že modely umělé inteligence mají tolik dat, že jsou schopny mluvit lidsky, ale že vynikající jazykové schopnosti nejsou důkazem vnímání.

V dokumentu zveřejněném v lednu Google také uvedl, že existují potenciální problémy s lidmi, kteří mluví s chatboty, kteří znějí přesvědčivě lidsky.

Zdroje: businessinsider.com, Unsplash

Podobné články