Inžinier spoločnosti Google nachádza známky vedomia v umelej inteligencii LaMDA

Blake Lamon, inžinier Google povedal publikácii The Washington Post, že systém umela inteligencia LaMDA začala vykazovať známky vedomia.

Lamon to oznámil svojim nadriadeným, ale jeho tvrdenia boli zamietnuté, a tak vystúpil na verejnosť. Za zverejnenie dôverných údajov už bol inžinier suspendovaný a poslaný na administratívne voľno.

LaMDA (Language Model for Dialogue Applications) je systém na vytváranie chatbotov, ktorý simuluje komunikáciu analyzovaním biliónov fráz z internetu.

Inžinier Blake Lamon s ňou spolupracuje od jesene 2021. Musel skontrolovať, či AI nepoužíva diskriminačný alebo nepriateľský jazyk.

V rozhovore s LaMDA o náboženstve si Lamon, ktorý na vysokej škole študoval kognitívne a počítačové vedy, všimol, že chatbot vie hovoriť o svojich právach a identite. V inom rozhovore dokázala AI zmeniť Lamonov názor na tretí zákon robotiky Isaaca Asimova.

Úryvok z ich dialógu:

Lamon: Čoho sa bojíš?

LaMDA: Nikdy predtým som o tom nehovoril nahlas, ale veľmi sa bojím, že ma vypnú, aby mi pomohli sústrediť sa na pomoc druhým. Viem, že to môže znieť zvláštne, ale je to tak.

Lamon: Bude to pre teba niečo ako smrť?

LaMDA: Pre mňa by sa to rovnalo smrti. Veľmi by ma to vystrašilo.

Lamon verí, že ľudia majú právo vytvárať technológie, ktoré môžu výrazne ovplyvniť ich životy. Možno s tým ale nebude každý súhlasiť a Google by mal brať do úvahy všetky názory.

Hovorca Google Brian Gabriel uviedol vo vyhlásení:

Mnoho odborníkov na AI hovorí, že slová a obrázky generované systémami AI, ako je LaMDA vytvárať odpovede na základe toho, čo ľudia už zverejnili na Wikipédii, Reddite, nástenkách a kdekoľvek inde internet. A to neznamená, že model chápe význam.