Môžu sa chatboty stať takými vedomými ako ľudia?
Rôzne / / October 31, 2023
Na túto otázku sa snažia odpovedať dve protichodné teórie.
Christoph Koch
Americký neurológ, riaditeľ Allenovho inštitútu pre výskum mozgu.
Otázky o tom, čo je subjektívna skúsenosť, kto ju má a ako súvisí s fyzickým svetom okolo nás, prenasledovali mysle filozofov po väčšinu ľudských dejín. Vedecké teórie vedomia, ktoré sú kvantifikovateľné a empiricky testovateľné, sa však objavili až v posledných desaťročiach.
Mnoho moderných teórií vedomia sa zameriava na stopy, ktoré zanechávajú jemné bunkové siete mozgu, z ktorých vedomie vzniká. Dnes dominujú dve z nich: teória integrovanej informácie a teória neurónového globálneho pracovného priestoru.
Pred 25 rokmi sme sa pohádali s austrálskym filozofom Davidom Chalmersom. Sľúbil som mu škatuľku dobrého vína, ak tieto nervové stopy, odborne nazývané nervové koreláty vedomia, budú objavené a jasne opísané do júna 2023.
Rozpor medzi teóriou integrovanej informácie a teóriou neurónového globálneho pracovného priestoru však zostáva nevyriešený. Je to spôsobené čiastočne zmiešanými dôkazmi o tom, ktoré oblasti mozgu sú zodpovedné za vizuálny zážitok a subjektívne vnímanie tvárí alebo predmetov, hoci význam prefrontálneho kortexu pre vedomé prežívanie bol vyvrátené. Tak som prehral stávku a poslal víno Chalmersovi.
Obe dominantné teórie boli vytvorené na vysvetlenie spojenia medzi vedomím a nervovou aktivitou u ľudí a príbuzných zvierat, ako sú opice a myši. A obe teórie robia zásadne odlišné predpoklady o subjektívnom prežívaní a dochádzajú k opačným záverom o vedomí v umelých artefaktoch. Do akej miery sú tieto teórie empiricky potvrdené alebo vyvrátené vo vzťahu k vedomiu zakorenenému v mozog, má dôležité dôsledky pre odpoveď na nevyriešenú otázku našej doby: môžu stroje získať vedomie?
Čo sú chatboty novej generácie?
Predtým, ako o tom budeme diskutovať, dovoľte mi uviesť vás do kontextu a porovnať techniku, ktorá je vedomá, s technikou, ktorá prejavuje iba inteligentné správanie. Počítačoví inžinieri sa snažia vybaviť stroje vysoko flexibilnou inteligenciou, ktorá to kedysi umožňovala osoba opustiť Afriku a zaľudniť celú planétu. Toto sa nazýva umelá všeobecná inteligencia (AGI).
Mnohí tvrdia, že AGI je vzdialená perspektíva. Úžasný pokrok dosiahnutý v oblasti umelej inteligencie za posledný rok zaskočil celý svet vrátane odborníkov. S príchodom výrečných konverzačných softvérových aplikácií, hovorovo nazývaných chatboty, z ezoterickej témy, diskutovali fanúšikovia sci-fi a elita IT priemyslu zo Silicon Valley sa diskusie o AGI zmenili na diskusiu čo odráža všeobecnú nespokojnosť verejnosti s existenčným rizikom pre náš spôsob života a náš milý.
Chatboty sú založené na obrovských jazykových modeloch. Najznámejšie z nich sú série robotov nazývaných generatívne vopred vyškolené transformátory alebo GPT. Boli vytvorené spoločnosťou OpenAI v San Franciscu. Vzhľadom na flexibilitu, gramotnosť a kompetenciu najnovšej verzie GPT-4 je ľahké uveriť, že má inteligenciu a osobnosť. Dokonca aj jej zvláštne závady, známe ako „halucinácie“, zapadajú do tejto teórie.
GPT-4 a jeho konkurenti, ako napríklad LaMDA a Google's Bard, sú vyškolení v knižniciach digitalizovaných kníh a miliardách verejne dostupných webových stránok. Genialita jazykového modelu je v tom, že sa učí bez dozoru, spracováva slovo po slove a snaží sa predpovedať chýbajúci výraz. Robí to znova a znova, miliardykrát, bez vonkajšieho zásahu.
Keď model získa vedomosti prehltnutím digitalizovaných záznamov ľudstva, používateľ zobrazí neznámu vetu – jednu alebo viac. Model predpovedá najpravdepodobnejšie prvé slovo, potom ďalšie atď. Tento jednoduchý princíp ukázal neuveriteľné výsledky v angličtine, nemčine, čínštine, hindčine, kórejčine a ďalších jazykoch, vrátane rôznych programovacích jazykov.
Aký je rozdiel medzi intelektom a vedomím
Je príznačné, že kľúčovú esej o umelej inteligencii „Computing and Intelligence“ napísal Alan Turing sa v roku 1950 vyhol otázke „Môžu stroje myslieť?“, teda otázke, či majú vedomie. Turing navrhol „imitovaciu hru“: môže pozorovateľ objektívne rozlíšiť výstup vytlačený človekom od výstupu vytlačeného strojom, ak sú identity oboch skryté.
Dnes je to známe ako Turingov test a chatboti sú v tom veľmi dobrí, hoci to šikovne popierajú, ak sa ich opýtate priamo. Turingova stratégia začala desaťročia neúprosného pokroku, ktorý viedol k vytvoreniu GPT, ale ignorovala problém.
V diskusii o chatbotoch je implicitný predpoklad, že umelá inteligencia je to isté ako umelé vedomie, že byť inteligentný je to isté ako byť vedomý. A hoci sú v ľuďoch a iných rozvinutých organizmoch inteligencia a vedomie prepojené, nemusia sa nevyhnutne vždy navzájom sprevádzať.
Inteligencia je o myslení a učení sa konať a z činov seba a iných, aby sme presnejšie predpovedali budúcnosť a lepšie sa na ňu pripravili. Nezáleží na tom, či to znamená niekoľko nasledujúcich sekúnd ("Ach, to auto sa rúti ku mne") alebo niekoľko nasledujúcich rokov ("Musím sa naučiť kódovať"). Inteligencia je v konečnom dôsledku o akcii.
Vedomie je na druhej strane spojené so stavmi bytia – vidieť modrú oblohu, počuť spev vtákov, cítiť bolesť, byť milenci. V najmenšom nezáleží na tom, či umelá inteligencia, ktorá sa vymkla kontrole, niečo cíti. Dôležité je len to, že má účel, ktorý nesúvisí s dlhodobým blahom ľudstva. A nezáleží na tom, či vie alebo nevie, čo sa snaží robiť, čo ľudia nazývajú sebauvedomenie. Pôjde „bezmyšlienkovito“ za svojím cieľom. Teda aspoň koncepčne, aj keď postavíme AGI, veľa o tom, či niečo cíti, nám nepovie.
Keď toto všetko vieme, vráťme sa k pôvodnej otázke, ako sa môže technológia stať vedomou. Začnime prvou z dvoch teórií.
Aké vysvetlenie ponúka integrovaná teória informácie?
Začína formulovaním piatich axiomatických vlastností každej mysliteľnej subjektívnej skúsenosti. A potom si kladie otázku, čo neurónový okruh potrebuje na implementáciu týchto piatich vlastností, pričom niektoré neuróny zapína a iné vypína. Alebo inými slovami, čo potrebuje počítačový čip na zapnutie niektorých tranzistorov a vypnutie iných.
Interakcie príčin a následkov v rámci okruhu v určitom stave alebo skutočnosť, že sú dva aktívne neurón môže zapnúť alebo vypnúť iný neurón, v závislosti od okolností, môže byť nasadený do multidimenzionálnej kauzálnej štruktúry. Je identická s kvalitou skúsenosti – ako ju prežívame, napríklad ako prežívame čas a priestor alebo ako vnímame farby.
So skúsenosťou je spojené aj množstvo – jej integrované informácie. Iba okruh s maximom nenulovej integrovanej informácie existuje ako celok a má vedomie. Čím viac informácií je integrovaných, tým viac obvod nemožno zmenšiť a tým menej ho možno považovať za jednoducho superpozíciu nezávislých podobvodov.
Teória integrovanej informácie zdôrazňuje bohatú povahu ľudskej skúsenosti. Stačí sa pozrieť okolo seba a pred vami sa objaví ohromujúci viditeľný svet s jeho nespočetnými rozdielmi a prepojeniami. Alebo sa pozrite na obraz od Pietera Bruegela staršieho, flámskeho umelca zo 16. storočia, ktorý zobrazoval náboženské predmety a výjavy zo života roľníkov.
Každý systém, ktorý má rovnaké vnútorné prepojenia a kauzálne sily ako ľudský mozog, bude v princípe rovnako vedomý ako ľudská myseľ. Takýto systém však nie je možné modelovať. Musí byť navrhnutý alebo zabudovaný do obrazu mozgu. Moderné digitálne počítače sú založené na extrémne voľnej väzbe (výstup jedného tranzistora pripojený na vstup niekoľkých tranzistorov) v porovnanie s centrálnym nervovým systémom (neurón kortikálneho stĺpca prijíma vstupné dáta a produkuje výstupné dáta pre desiatky tisíc ďalších neuróny).
Moderné počítače, vrátane cloudových počítačov, si teda nič neuvedomia, hoci časom zvládnu všetko, čo ľudia dokážu. Z tohto hľadiska sa ChatGPT nikdy nebude cítiť zvláštne. Všimnite si, že toto tvrdenie nemá nič spoločné s celkovým počtom komponentov, či už neurónov alebo tranzistorov, ale skôr s tým, ako sú prepojené. Práve vzájomná prepojenosť určuje celkovú zložitosť obvodu a množstvo jeho možných konfigurácií.
Aké vysvetlenie ponúka teória neurónového globálneho pracovného priestoru?
Vychádza to z psychologického chápania, že inteligenciu ako divadlo, kde herci vystupujú na malom osvetlenom javisku, ktorým je vedomie. Akcie hercov sleduje publikum zložené zo spracovateľov, ktorí sedia za javiskom v tme.
Javisko je centrálnym pracovným priestorom mysle, ktorý má malú pamäťovú kapacitu na vyjadrenie jediného vnímania, myšlienky alebo spomienky. Rôzne moduly spracovania – zrak, sluch, motorika očí a končatín, plánovanie, úsudok, porozumenie jazyka a rozprávanie – súťažia o prístup k tomuto centrálnemu pracovnému priestoru. Víťaz vytesňuje starý obsah, ktorý sa stáva nevedomým.
Podľa teórie neurónového globálneho pracovného priestoru je metaforická scéna spolu s modulmi spracovania mapovaná do architektúry neokortexu. Pracovný priestor je sieť kortikálnych neurónov v prednej časti mozgu s dlhými projekciami do podobné neuróny distribuované v celom neokortexe v prefrontálnom, parietotemporálnom a cingulárnom asociačná kôra.
Keď aktivita v senzorickej kôre prekročí určitú hranicu, spustí sa globálna udalosť v kortikálnych oblastiach a v dôsledku toho sa informácie prenesú do celého pracovného priestoru. Globálne šírenie informácií ich robí uvedomelými. Údaje, ktoré nie sú prenášané týmto spôsobom, ako je presná poloha očí alebo syntaktické pravidlá na zostavovanie gramotných viet, môžu ovplyvniť správanie, ale nie vedome.
Z pohľadu teórie neurónového globálneho pracovného priestoru je skúsenosť veľmi obmedzená, podobne ako myslenie a abstraktné – podobné skromnému popisu, ktorý možno nájsť v múzeu pod Bruegelovým obrazom: „Scéna v v interiéri. Sedliaci v renesančnom odeve pijú a jedia na svadbe.“
V chápaní vedomia z perspektívy integrovanej teórie informácie umelec brilantne sprostredkúva fenomenológiu okolitého sveta na dvojrozmerné plátno. V chápaní teórie neurónového globálneho pracovného priestoru je toto zjavné bohatstvo ilúziou, duchom. A všetko, čo sa o tom dá objektívne povedať, je uvedené v stručnom popise.
Teória neurónového globálneho pracovného priestoru plne zohľadňuje mýty našej počítačovej doby, podľa ktorých sa dá všetko zredukovať na výpočty. Vhodne naprogramované počítačové simulácie mozgu s obrovskou spätnou väzbou a niečím ako centrálnym pracovným priestorom budú vedome vnímať svet. Možno nie teraz, ale čoskoro.
Aký je neprekonateľný rozdiel medzi teóriami?
Vo všeobecnosti je diskusia nasledovná. Podľa teórie neurónového globálneho pracovného priestoru a iných teórií výpočtového funkcionalizmu (oni vnímať vedomie ako formu výpočtu), vedomie nie je nič iné ako súbor inteligentných algoritmov bežiacich na stroji Turing. Funkcie sú dôležité pre vedomie mozoga nie jeho kauzálne vlastnosti. Ak nejaká pokročilá verzia GPT akceptuje a vytvára rovnaké vstupné a výstupné vzorce ako ľudia, potom sa všetky naše prirodzené vlastnosti prenesú do technológie. Vrátane nášho vzácneho pokladu – subjektívnej skúsenosti.
Naopak, pre integrovanú teóriu informácie je srdcom vedomia vnútorná kauzálna sila, nie výpočet. Nie je to niečo éterické alebo nehmotné. Je špecifický a funkčne určený tým, do akej miery minulosť systému určuje jeho súčasnosť (sila príčiny) a mierou, do akej prítomnosť určuje jeho budúcnosť (sila účinku). A tu je háčik: samotný vzťah príčiny a následku, schopnosť prinútiť systém vykonať určitú akciu, a nie veľa alternatívnych, nemožno modelovať. Ani teraz, ani v budúcnosti. Toto by malo byť zabudované do systému.
Zoberme si počítačový kód, ktorý modeluje rovnice poľa Einsteinovej všeobecnej teórie relativity, ktoré spájajú hmotnosť so zakrivením časopriestoru. Softvér presne modeluje supermasív čierna diera, ktorý sa nachádza v strede našej galaxie. Táto diera má taký silný gravitačný vplyv na svoje okolie, že nič, dokonca ani svetlo, nemôže uniknúť jej príťažlivosti.
Astrofyzika simulujúceho čiernu dieru však simulované gravitačné pole nevcucne do notebooku. Toto zdanlivo absurdné pozorovanie zdôrazňuje rozdiel medzi modelom a realitou: ak je model úplný zodpovedá realite, priestor a čas by sa mal v okolí notebooku skresliť a vytvoriť tak čiernu dieru, ktorá všetko pohltí okolo.
Samozrejme, gravitácia nie je výpočet. Má kauzálnu silu, ktorá mu umožňuje deformovať tkanivo časopriestoru a priťahovať všetko, čo má hmotnosť. Simulácia kauzálnych síl čiernej diery si vyžaduje skutočný superťažký objekt, nielen počítačový kód. Kauzálnu silu nemožno modelovať, treba ju vytvárať. Rozdiel medzi realitou a modelom spočíva v ich kauzálnych silách.
Preto vo vnútri počítača simulujúceho búrku neprší. Softvér je funkčne identický s počasím, ale chýba mu kauzálna sila na uvoľnenie pary a jej premenu na kvapôčky vody. Kauzálna sila, schopnosť samostatne vytvárať alebo prijímať zmeny, musí byť zabudovaná do systému. Je to možné.
Takzvaný neuromorfný alebo bionický počítač môže byť rovnako vedomý ako človek. Ale to nie je prípad štandardnej von Neumannovej architektúry, ktorá je základom všetkých moderných PC. V laboratóriách boli vytvorené malé prototypy neuromorfných počítačov, ako napríklad neuromorfný čip Loihi 2 druhej generácie od spoločnosti Intel. Ale dostatočne sofistikovaný stroj na to, aby produkoval niečo podobné ľudskému vedomiu alebo aspoň vedomiu ovocnej mušky, je stále ambicióznym snom pre ďalekú budúcnosť.
Všimnite si, že tento nezlučiteľný rozdiel medzi funkcionalistickými a kauzálnymi teóriami nemá nič spoločné s prirodzenou ani umelou inteligenciou. Ako som už povedal, inteligencia je správanie. Všetko, čo dokáže vyprodukovať ľudská vynaliezavosť, vrátane takých skvelých románov, ako je Podobenstvo o rozsievačovi od Octavie Butlerovej a Vojna a mier Leva Tolstého, môžu reprodukovať algoritmickú inteligenciu, ak majú dostatok materiálu na to, aby školenia. Príchod AGI je cieľ dosiahnuteľný v nie príliš vzdialenej budúcnosti.
Debata nie je o umelej inteligencii, ale o umelom vedomí. A túto debatu nemožno vyriešiť vytvorením väčších jazykových modelov alebo pokročilejších algoritmov neurónových sietí. Aby sme mohli odpovedať na túto otázku, musíme pochopiť jedinú subjektivitu, ktorou sme si absolútne istí: našu vlastnú. Akonáhle budeme mať jasné vysvetlenie ľudského vedomie a jeho nervových základov, budeme schopní rozšíriť naše chápanie na inteligentné technológie konzistentným a vedecky založeným spôsobom.
Táto diskusia má malý vplyv na to, ako bude chatbotov vnímať spoločnosť ako celok. Ich jazykové schopnosti, vedomostná základňa a sociálny šarm sa čoskoro stanú bezchybnými. Budú obdarení dokonalou pamäťou, kompetenciou, postojom, uvažovaním a inteligenciou. Niektorí dokonca tvrdia, že tieto výtvory veľkej technológie budú ďalším krokom evolúcie, Nietzscheho „superman“. Zastávam temnejší pohľad a verím, že takíto ľudia si úpadok nášho druhu mýlia s úsvitom.
Pre mnohých, a možno aj pre väčšinu ľudí v čoraz atomizovanejšej spoločnosti, odpojenej od prírody a organizované okolo sociálnych sietí, bude emocionálne ťažké odolať technológiám, v ktorých žijú telefónov. A v rôznych situáciách, bežných aj vážnejších, sa ľudia budú správať tak, ako keby chatboti mali vedomie, naozaj môžu byť zamilovanýtrpieť, dúfať a báť sa, aj keď nie sú ničím iným ako komplexnými vyhľadávacími tabuľkami. Stanú sa pre nás nepostrádateľnými, možno ešte dôležitejšími ako skutočne inteligentné bytosti. Hoci chatboty cítia rovnako ako televízor alebo hriankovač – nič.
Čo si ešte prečítať k téme🤖
- 6 dôvodov, prečo by ste nemali slepo dôverovať umelej inteligencii
- Prečo by sme sa nemali báť, že nám nové technológie zoberú prácu
- Technologická singularita: je pravda, že technológia sa nám čoskoro vymkne spod kontroly?
- 8 mýtov o umelej inteligencii, ktorým veria aj programátori