OpenAI varovala pred objavom AI, ktorá by mohla ohroziť ľudstvo

Deň pred exil Generálny riaditeľ OpenAI Sam Altman, niekoľko výskumných pracovníkov spoločnosti napísalo správnej rade list varujúci pred objavom výkonnej umelej inteligencie, ktorá by podľa nich „mohla ohroziť k ľudskosti“. O tom s odvolaním sa na naše vlastné zdroje píše Reuters.

Práve tento list bol uvedený ako jeden z faktorov v dlhom zozname sťažností predstavenstva, ktoré viedli k Altmanovmu odvolaniu. Agentúre Reuters sa nepodarilo osobne hovoriť s autormi ani získať komentár od OpenAI. Po takejto žiadosti však spoločnosť v internej správe zamestnancom oznámila existenciu istého projektu s názvom Q* (vyslovuje sa Q-Star).

Niektorí zamestnanci OpenAI sa domnievajú, že Q* by mohol byť prelomom v tzv všeobecná umelá inteligencia (AGI). OpenAI ho charakterizuje ako autonómny systém, ktorý prekonáva ľudí vo väčšine ekonomicky hodnotných úloh.

Podľa jedného zdroja môže Q* zatiaľ vykonávať matematické úlohy iba na základnej úrovni. školy, ale úspešné absolvovanie takýchto testov dáva výskumníkom veľký optimizmus, pokiaľ ide o vyhliadky na to rozvoj.

Hlavný rozdiel medzi takouto AI je v tom, že dokáže stanoviť ciele, rozdeliť zložité problémy na malé, pracovať naprieč širokou škálou problémov a nájsť riešenia s prihliadnutím na kontext z rôznych domén. Jednoducho povedané, takáto inteligencia môže teoreticky nahradiť vysokokvalifikovaného špecialistu so znalosťami, zručnosťami a rozsiahlymi skúsenosťami.

Vedci veria, že matematika je špičkou generatívnej AI. V súčasnosti vie dobre písať a prekladať, štatisticky predpovedá ďalšie slovo a odpovede na rovnakú otázku sa môžu veľmi líšiť. Ale poraziť matematiku (kde existuje iba jedna správna odpoveď) znamená, že AI bude mať širšie schopnosti uvažovania, ktoré sa podobajú ľudskej inteligencii. To sa dá podľa odborníkov aplikovať napríklad na nový vedecký výskum.

Vo svojom liste správnej rade výskumníci zaznamenali silu AI a potenciálne nebezpečenstvá. Zaznamenali tiež prácu špeciálnej skupiny „vedcov umelej inteligencie“, ktorých existenciu potvrdili mnohé zdroje. Tím študuje, ako optimalizovať existujúce modely AI s cieľom zlepšiť ich uvažovanie a nakoniec s nimi vykonávať vedeckú prácu, povedal jeden z ľudí.

Altman viedol úsilie, aby sa ChatGPT stala jednou z najrýchlejšie rastúcich softvérových aplikácií históriu a prilákali investície a výpočtové zdroje od spoločnosti Microsoft potrebné na ich získanie AGI. A krátko pred svojím odvolaním na summite svetových lídrov v San Franciscu oznámil niekoľko „vážnych úspechov, ktoré sú hneď za rohom“.

O deň neskôr predstavenstvo Altmana vyhodilo.

Možno jedného dňa budú všetky tieto rozhodnutia a udalosti tvoriť základ knihy, celého filmu alebo dokonca učebnice dejepisu.