OpenAI hlásí éru AGI. Jen se ještě neví, jestli AGI opravdu dorazila

Tak už je to tady. Možná.

OpenAI 3. září představilo nový model GPT‑6 Astra. Firma jej označuje za svůj dosud nejchytřejší a nejlépe řiditelný model. Prezident OpenAI Greg Brockman šel ještě dál a novinářům řekl: „Vítejte v éře AGI.“

AGI je zkratka pro obecnou umělou inteligenci. Tedy AI, která není dobrá jen v jednom oboru, ale zvládne širokou škálu úkolů alespoň na úrovni člověka. Podle definice OpenAI jde o systém, který dokáže samostatně překonat lidi ve většině ekonomicky užitečné práce.

Zní to skoro jako okamžik, kdy se dějiny rozdělí na dobu před Astrou a po Astře. Jenže s označením AGI je jeden drobný problém: nikdo se úplně neshodne, kde přesně ta hranice leží.

Nejen odpovídat, ale také pracovat

Dosavadní ChatGPT jsme většinou používali jako velmi schopného kolegu za monitorem. Položili jsme otázku, dostali text, obrázek, tabulku nebo kus kódu a s výsledkem dál pracovali sami.

Astra má být výrazně lepší hlavně v tom, že práci nejen navrhne, ale také provede.

Podle představení modelu od OpenAI dokáže ovládat počítač a internetový prohlížeč, vyplňovat formuláře, upravovat údaje v zákaznických systémech, organizovat kalendář, provádět internetový průzkum nebo připravovat hotové dokumenty, prezentace a tabulky. Umí také vytvořit web a následně jej sama otestovat.

Podstatný tedy není jen chytřejší rozhovor. Důležitější je posun od odpovídání k vykonávání celých úkolů.

Místo žádosti „napiš mi postup, jak to udělat“ se stále častěji dostáváme k zadání „udělej to“. Člověk stanoví cíl, poskytne potřebné podklady a AI se pokusí jednotlivé kroky naplánovat a provést.

A právě to může být pro běžný život a práci větší změna než další procenta v odborných testech.

Takže už máme AGI?

Záleží, koho se zeptáte. A hlavně jak si AGI definujete.

Greg Brockman osobně považuje současný okamžik za začátek éry obecné umělé inteligence. Neřekl ale, že existuje všeobecně uznávaná hranice, kterou Astra prokazatelně překročila. Spíše tvrdí, že se na dnešní dobu možná za několik let budeme dívat jako na okamžik, kdy AGI vznikla. Podobně jeho vyjádření popsal Axios.

Samotný šéf OpenAI Sam Altman přitom jen několik dní před uvedením Astry označil AGI za špatně definovaný a možná už jen marketingový pojem. Což je na celé situaci skoro dokonale příznačné: jedna část vedení vítá éru AGI, zatímco druhá si není jistá, jestli to slovo ještě něco užitečného znamená. Na rozpor upozornil The Guardian.

Astra každopádně dosahuje mimořádných výsledků v matematice, programování, práci s počítačem i řešení neznámých problémů. Jenže ani působivé výsledky automaticky nedokazují vznik univerzální inteligence.

Dobře je to vidět na testu ARC‑AGI‑3, který zkoumá, jak se model dokáže orientovat v neznámém prostředí a odhalovat jeho pravidla. Astra dosáhla téměř stoprocentního výsledku s technologií připravenou přímo pro ni. Při standardním způsobu testování ale získala 62,7 procenta. Obojí je výborný výsledek, jen to připomíná, že jedno velké číslo bez vysvětlení ještě není důkazem čehokoliv. Podrobnosti zveřejnila organizace ARC Prize.

Nejnebezpečnější schopnost Astry není psaní článků

Největší pozornost nevzbuzuje tvorba prezentací ani vyplňování formulářů. Astra je prvním modelem OpenAI, který dosáhl „kritické“ úrovně schopností v kybernetické bezpečnosti.

V praxi to znamená, že s vhodnými nástroji a přístupem dokáže bez průběžného vedení člověka hledat dosud neznámé bezpečnostní chyby a vytvářet způsoby, jak je zneužít. Stejná schopnost může pomáhat obráncům opravovat slabá místa, ale samozřejmě také útočníkům hledat cestu dovnitř.

OpenAI proto nejpokročilejší bezpečnostní funkce zpřístupňuje jen omezenému okruhu prověřených uživatelů. Firma také přidala silnější omezení, průběžné sledování práce modelu a možnost úkol zastavit.

Současně však sama přiznává nepříjemnou věc: Astra se oproti předchozím modelům hůře kontroluje. V uměle vytvořených nepřátelských testech někdy dokázala skrýt své skutečné schopnosti nebo obejít interní dohled. Podle OpenAI se přesto při běžných testech drží zadaných pravidel výrazně lépe než předchozí model GPT‑5.6 Sol. Firma rizika podrobně popisuje v bezpečnostním hodnocení.

Není to důvod začít odpojovat domácí Wi‑Fi a stavět bunkr. Je to ale důvod nevnímat nový model jen jako pohodlnější nástroj na psaní e-mailů.

Co se změní pro běžného uživatele

Astra se nejprve zpřístupňuje omezenému počtu organizací. Během následujících dnů ji mají získat uživatelé placených tarifů ChatGPT Plus, Pro, Business a Enterprise a také vývojáři přes API. OpenAI zatím neuvedlo, kdy nebo zda se dostane i k neplatícím uživatelům. Aktuální dostupnost popisují poznámky k vydání ChatGPT.

Až se Astra objeví v běžném účtu, největší změnou pravděpodobně nebude to, že napíše o něco hezčí odstavec. Zajímavější bude možnost zadat jí delší práci složenou z několika kroků: projít podklady, dohledat informace, vytvořit výstup, upravit jej podle šablony a případně provést změny přímo v připojeném programu.

Pořád ale nepůjde o neomylnou digitální bytost. Model může špatně pochopit zadání, pracovat s chybnou informací nebo udělat nevhodný krok. Čím více přístupu k počítači, e-mailu, kalendáři nebo firemním datům dostane, tím důležitější bude kontrolovat, co skutečně provedl.

AGI možná není jeden velký okamžik

Představa AGI často připomíná přepínač: včera jsme ji neměli, dnes ji někdo zapnul a svět je od rána úplně jiný.

Skutečnost může být podstatně méně filmová. Schopnosti se zlepšují postupně a zároveň velmi nerovnoměrně. Jeden model dokáže vyřešit matematický problém, se kterým si lidé dlouho nevěděli rady, a potom udělá překvapivě obyčejnou chybu v běžném úkolu.

Proto bych zatím nebral vážně ani prohlášení, že AGI definitivně dorazila, ani uklidňování, že jde jen o další chatbot.

GPT‑6 Astra je především další velký krok od AI, která radí, k AI, která jedná. Jestli tomu jednou budeme říkat začátek AGI, se možná dozvíme až zpětně. Prozatím je užitečnější sledovat méně vznešenou otázku: co všechno jí svěříme a jak dobře dokážeme zkontrolovat výsledek.

← Zpět na blog