Sam Altman nevie, kam umelá inteligencia povedie ľudstvo. Ale aj tak nás tam zavedie.
V jedno aprílové pondelkové ráno sedel Sam Altman v sídle spoločnosti OpenAI v San Franciscu a rozprával mi o nebezpečnej umelej inteligencii, ktorú jeho spoločnosť vytvorila, ale nikdy ju nezverejní. Neskôr povedal, že jeho zamestnanci často nemôžu spávať z obáv z umelej inteligencie, ktorú by jedného dňa mohli vypustiť, bez toho, aby si plne uvedomili jej nebezpečenstvo. S pätou opretou o okraj otočnej stoličky vyzeral uvoľnene. Výkonná umelá inteligencia, ktorú jeho spoločnosť uvoľnila v novembri, zaujala svet ako nič v nedávnej histórii technológií. V niektorých kruhoch sa ozývali hlasy o tom, čo ChatGPT ešte nedokáže dobre robiť, a v iných o tom, akú budúcnosť môže predznamenávať, ale Altman sa tým nezaoberal; toto bola preňho chvíľa triumfu.
Altmanove veľké modré oči vyžarujú lúč serióznej intelektuálnej pozornosti v malých dávkach a zdá sa, že chápe, že vo veľkých dávkach by ich intenzita mohla vyviesť z miery. V tomto prípade bol ochotný riskovať: Chcel, aby som vedel, že bez ohľadu na to, aké sú konečné riziká umelej inteligencie, vôbec neľutuje, že ChatGPT vypustil do sveta. Naopak, je presvedčený, že to bola veľká služba verejnosti.
"Mohli sme to tu v našej budove budovať ďalších päť rokov," povedal, "a mali by sme niečo, čo by nám vyrazilo dych." Verejnosť by sa však nemohla pripraviť na následnú šokovú vlnu, ktorej výsledok je podľa neho "hlboko nepríjemný". Altman sa domnieva, že ľudia potrebujú čas, aby sa vyrovnali s myšlienkou, že sa o Zem možno čoskoro podelíme s novou mocnou inteligenciou, skôr než pretvorí všetko od práce až po ľudské vzťahy. ChatGPT bol spôsob, ako upozorniť.
V roku 2015 Altman, Elon Musk a niekoľko významných výskumníkov v oblasti umelej inteligencie založili spoločnosť OpenAI, pretože verili, že umelá všeobecná inteligencia – niečo, čo je intelektuálne schopné povedzme ako bežný absolvent vysokej školy – je konečne na dosah. Chceli na ňu dosiahnuť, a ešte viac: Chceli na svet privolať superinteligenciu, ktorá by svojím intelektom výrazne prevyšovala akýkoľvek ľudský intelekt. A zatiaľ čo veľká technologická spoločnosť by sa mohla bezohľadne ponáhľať, aby sa tam dostala ako prvá, pre svoje vlastné ciele, oni to chceli urobiť bezpečne, "v prospech ľudstva ako celku". Organizáciu OpenAI založili ako neziskovú organizáciu, ktorá "nie je obmedzovaná potrebou dosahovať finančný zisk", a sľúbili, že svoj výskum budú vykonávať transparentne. Nebudú sa uchyľovať do prísne tajného laboratória v púšti v Novom Mexiku.
Roky sa verejnosť o OpenAI veľa nedozvedela. Keď sa Altman v roku 2019 stal generálnym riaditeľom, údajne po mocenskom boji s Muskom, takmer sa o tom nepísalo. OpenAI publikovala dokumenty vrátane jedného v tom istom roku o novej umelej inteligencii. To si získalo plnú pozornosť technologickej komunity v Silicon Valley, ale potenciál tejto technológie bol pre širokú verejnosť zrejmý až minulý rok, keď sa ľudia začali hrať s ChatGPT.
Motor, ktorý teraz využíva ChatGPT, sa nazýva GPT-4. Altman mi ho opísal ako mimozemskú inteligenciu. Mnohí sa cítili podobne, keď sledovali, ako sa v ňom odvíjajú jasné eseje v staccatových intervaloch a krátkych pauzách, ktoré (podľa návrhu) vyvolávajú rozjímanie v reálnom čase. Za niekoľko mesiacov svojej existencie navrhol nové recepty na koktaily podľa vlastnej teórie kombinácií chutí; zložil nespočetné množstvo vysokoškolských prác, čím uvrhol pedagógov do zúfalstva; napísal básne v rôznych štýloch, niekedy dobre, vždy rýchlo; a zložil jednotnú advokátsku skúšku. Robí faktické chyby, ale s pôvabom prizná, že sa mýli. Altman si dodnes pamätá, kde bol, keď prvýkrát videl GPT-4 písať zložitý počítačový kód, na čo nebol výslovne navrhnutý. "Bolo to ako: 'Tu sme,'" povedal.
Podľa štúdie UBS dosiahol ChatGPT do deviatich týždňov od vydania približne 100 miliónov používateľov mesačne, čo z neho v tom čase pravdepodobne robilo najrýchlejšie prijatý spotrebiteľský produkt v histórii. Jeho úspech podnietil akceleráciu technologických technológií: veľkí investori a obrovské spoločnosti v USA a Číne rýchlo investovali desiatky miliárd dolárov do výskumu a vývoja podľa vzoru prístupu OpenAI. Metaculus, stránka s predpoveďami, už roky sleduje odhady prognostikov, kedy sa objaví umelá všeobecná inteligencia. Pred tri a pol rokom bol medián odhadov okolo roku 2050, nedávno sa pohyboval okolo roku 2026.
Navštívil som OpenAI, aby som pochopil technológiu, ktorá spoločnosti umožnila preskočiť technologických gigantov – a aby som pochopil, čo to môže znamenať pre ľudskú civilizáciu, ak sa jedného dňa čoskoro superinteligencia zhmotní v jednom z cloudových serverov spoločnosti. Už od prvých hodín počítačovej revolúcie bola umelá inteligencia mytologizovaná ako technológia, ktorá má priniesť hlboký zlom. Naša kultúra vytvorila celé imaginárium UI, ktoré tak či onak ukončia dejiny. Niektoré z nich sú božské bytosti, ktoré zotrú každú slzu, uzdravia chorých a napravia náš vzťah so Zemou predtým, ako nastolia večnosť hojnosti a krásy bez treníc. Iné z nás všetkých, okrem niekoľkých elitných, urobia nevoľníkov alebo nás doženú k zániku.
Altman sa zaoberá aj tými najodvážnejšími scenármi. "Keď som bol mladší," povedal, "mal som strach, úzkosť... a, ak mám byť úprimný, aj dve percentá vzrušenia, že vytvoríme niečo," čo "nás ďaleko prekoná" a "odletí to, kolonizuje vesmír a ľudia zostanú v slnečnej sústave".
"Ako prírodná rezervácia?" Spýtal som sa. "Presne tak," povedal. "A to sa mi teraz zdá také naivné."
Sam Altman, 38-ročný generálny riaditeľ spoločnosti OpenAI, pracuje na vytvorení superinteligencie, umelej inteligencie, ktorá by rozhodne prekonala akúkoľvek ľudskú
Počas niekoľkých rozhovorov v Spojených štátoch a Ázii Altman svojím vzrušujúcim stredozápadným prízvukom vyložil svoju novú víziu budúcnosti UI. Povedal mi, že revolúcia v oblasti umelej inteligencie sa bude líšiť od predchádzajúcich dramatických technologických zmien, že to bude skôr "nový druh spoločnosti". Povedal, že on a jeho kolegovia strávili veľa času premýšľaním o sociálnych dôsledkoch UI a o tom, aký bude svet "na druhej strane".
Ale čím viac sme sa rozprávali, tým nezreteľnejšia sa nám tá druhá strana zdala. Altman, ktorý má 38 rokov, je dnes najmocnejšou osobou vo vývoji umelej inteligencie; jeho názory, dispozície a rozhodnutia môžu mať veľký význam pre budúcnosť, ktorú budeme všetci žiť, možno väčší ako názory amerického prezidenta. Ako však sám priznáva, táto budúcnosť je neistá a sprevádzaná vážnymi nebezpečenstvami. Altman nevie, akú silu bude mať umelá inteligencia, čo bude jej vzostup znamenať pre bežného človeka a či ohrozí ľudstvo. Nemám mu to práve za zlé – myslím, že nikto nevie, kam to všetko smeruje, okrem toho, že tam smerujeme rýchlo, či už by sme mali, alebo nemali. O tom ma Altman presvedčil.
Centrála Open AI sídli v štvorposchodovej bývalej továrni v štvrti Mission, pod Sutro Tower, ktorá je zahalená hmlou. Vstúpite do jej vstupnej haly z ulice a prvú stenu, na ktorú narazíte, pokrýva mandala, duchovné zobrazenie vesmíru, vytvorené z obvodov, medených drôtov a iných materiálov používaných v počítačovej technike. Naľavo vedú bezpečnostné dvere do otvoreného labyrintu s pekným svetlým drevom, elegantnými dlaždicami a ďalšími charakteristickými znakmi miliardárskej elegancie. Rastliny sú všadeprítomné, vrátane visiacich papradí a pôsobivej zbierky mimoriadne veľkých bonsajov, z ktorých každý je veľký ako prikrčená gorila. Kancelária bola každý deň, keď som tam bol, plná ľudí a neprekvapilo ma, že som nevidel nikoho, kto by vyzeral na viac ako 50 rokov. Okrem dvojposchodovej knižnice doplnenej posuvným rebríkom priestor veľmi nepripomínal výskumné laboratórium, pretože budovaná vec existuje len v oblakoch, aspoň zatiaľ. Vyzeralo to skôr ako najdrahší West Elm na svete.
Jedno ráno som sa stretol s Iljom Sutskeverom, hlavným vedeckým pracovníkom OpenAI. Sutskever, ktorý má 37 rokov, pôsobí ako mystik, niekedy až dojemne: Minulý rok spôsobil menší rozruch tvrdením, že GPT-4 môže byť "mierne vedomý". Prvýkrát sa preslávil ako hviezdny študent Geoffreyho Hintona, emeritného profesora Torontskej univerzity, ktorý na jar tohto roku odstúpil zo spoločnosti Google, aby mohol slobodnejšie hovoriť o nebezpečenstve, ktoré predstavuje umelá inteligencia pre ľudstvo.
Hinton sa niekedy označuje za "krstného otca umelej inteligencie", pretože pochopil silu "hlbokého učenia" skôr ako väčšina ostatných. V 80. rokoch minulého storočia, krátko po tom, ako Hinton dokončil svoj doktorát, sa pokrok v tejto oblasti takmer zastavil. Starší výskumníci stále kódovali systémy UI zhora nadol: Umelé inteligencie sa programovali s vyčerpávajúcim súborom vzájomne prepojených pravidiel – o jazyku, princípoch geológie alebo lekárskej diagnostiky – v nádeji, že jedného dňa tento prístup povedie k poznaniu na úrovni človeka. Hinton si všimol, že tieto komplikované súbory pravidiel sú náročné a prispôsobené. Pomocou dômyselnej algoritmickej štruktúry nazývanej neurónová sieť naučil Sutskevera namiesto toho postaviť svet pred umelú inteligenciu, ako by ste ho postavili pred malé dieťa, aby mohla sama objaviť pravidlá reality.
Altman prirovnal výskum AI v počiatočnej fáze k učeniu ľudského dieťaťa. Ale počas prvých rokov OpenAI nikto nevedel, či trénuje dieťa, alebo sleduje veľkolepú, veľmi drahú slepú uličku.
Sutskever mi opísal neurónovú sieť ako krásnu a podobnú mozgu. V jednej chvíli vstal od stola, pri ktorom sme sedeli, pristúpil k tabuli a rozbalil červený fix. Nakreslil na tabuľu hrubú neurónovú sieť a vysvetlil, že genialita jej štruktúry spočíva v tom, že sa učí a jej učenie je poháňané predpovedaním – trochu to pripomína vedeckú metódu. Neuróny sú rozmiestnené vo vrstvách. Vstupná vrstva dostane kúsok údajov, napríklad kúsok textu alebo obrázok. Kúzlo sa odohráva v stredných alebo "skrytých" vrstvách, ktoré spracúvajú kus údajov, aby výstupná vrstva mohla vypľuť svoju predpoveď.
Predstavte si neurónovú sieť, ktorá bola naprogramovaná na predpovedanie ďalšieho slova v texte. Bude mať predinštalovaný obrovský počet možných slov. Ale predtým, ako bude vyškolená, nebude mať ešte žiadne skúsenosti s ich rozlišovaním, a preto budú jej predpovede nekvalitné. Ak sa mu zadá veta "Deň po strede je ...", jeho počiatočný výstup môže byť "fialový". Neurónová sieť sa učí, pretože jej tréningové údaje obsahujú správne predpovede, čo znamená, že dokáže klasifikovať svoje vlastné výstupy. Keď vidí priepasť medzi svojou odpoveďou "fialová" a správnou odpoveďou "štvrtok", upraví podľa toho spojenia medzi slovami vo svojich skrytých vrstvách. Postupom času sa tieto malé úpravy spoja do geometrického modelu jazyka, ktorý pojmovo reprezentuje vzťahy medzi slovami. Vo všeobecnosti platí, že čím viac viet sa mu podáva, tým je jeho model sofistikovanejší – a tým lepšie sú jeho predpovede.
To neznamená, že cesta od prvých neurónových sietí k zábleskom ľudskej inteligencie GPT-4 bola jednoduchá. Altman prirovnal výskum umelej inteligencie v počiatočnom štádiu k učeniu ľudského dieťaťa. "Trvá im roky, kým sa naučia niečo zaujímavé," povedal v roku 2016 pre The New Yorker, práve keď sa OpenAI rozbiehala. "Ak by výskumníci AI vyvíjali algoritmus a narazili by na ten pre ľudské dieťa, začali by sa nudiť pri jeho sledovaní, rozhodli by sa, že nefunguje, a vypli by ho." Prvých niekoľko rokov v OpenAI bolo ťažkých, čiastočne preto, že nikto tam nevedel, či trénuje dieťa, alebo sleduje veľkolepú a drahú slepú uličku.
"Nič nefungovalo a Google mal všetko: všetky talenty, všetkých ľudí, všetky peniaze," povedal mi Altman. Zakladatelia vložili do založenia spoločnosti milióny dolárov a neúspech sa zdal byť reálnou možnosťou. Greg Brockman, 35-ročný prezident, mi povedal, že v roku 2017 bol taký znechutený, že ako kompenzáciu začal trénovať s činkami. Ako povedal, nebol si istý, či OpenAI prežije tento rok, a chcel "mať čo ukázať".
Neurónové siete už robili inteligentné veci, ale nebolo jasné, ktoré z nich by mohli viesť k všeobecnej inteligencii. Tesne po založení OpenAI ohromila UI s názvom AlphaGo svet tým, že porazila Lee Se-dola v hre Go, ktorá je podstatne zložitejšia ako šach. Lee, porazený majster sveta, opísal ťahy AlphaGo ako "krásne" a "kreatívne". Ďalší špičkový hráč povedal, že ich nikdy nemohol vymyslieť človek. Spoločnosť OpenAI sa pokúsila trénovať umelú inteligenciu v hre Dota 2, ktorá je ešte komplikovanejšia a zahŕňa fantastickú vojnu na viacerých frontoch v trojrozmernej mozaike lesov, polí a pevností. Nakoniec porazila najlepších ľudských hráčov, ale jej inteligencia sa nikdy neprejavila v iných prostrediach. Sutskever a jeho kolegovia boli ako sklamaní rodičia, ktorí dovolili svojim deťom hrať videohry tisíce hodín v protiklade k svojmu úsudku.
V roku 2017 začal Sutskever sériu rozhovorov s vedcom z OpenAI Alecom Radfordom, ktorý pracoval na spracovaní prirodzeného jazyka. Radford dosiahol lákavý výsledok trénovaním neurónovej siete na korpuse recenzií na Amazon.
Vnútorné fungovanie ChatGPT – všetky tie záhadné veci, ktoré sa odohrávajú v skrytých vrstvách GPT-4 – sú príliš zložité na to, aby ich pochopil akýkoľvek človek, prinajmenšom pomocou súčasných nástrojov. Sledovanie toho, čo sa deje v modeli – takmer určite zloženom z miliárd neurónov – je dnes beznádejné. Radfordov model bol však dostatočne jednoduchý na to, aby sa dal pochopiť. Keď sa pozrel do jeho skrytých vrstiev, videl, že sentimentu recenzií venoval špeciálny neurón. Neurónové siete už predtým robili analýzu sentimentu, ale bolo im treba povedať, aby to robili, a museli byť špeciálne vyškolené s údajmi, ktoré boli označené podľa sentimentu. Táto sieť si túto schopnosť vyvinula sama.
Radfordova neurónová sieť ako vedľajší produkt svojej jednoduchej úlohy predpovedať ďalší znak v každom slove modelovala širšiu štruktúru významu vo svete. Sutskever uvažoval, či by sieť vycvičená na rôznorodejších jazykových údajoch dokázala zmapovať oveľa viac významových štruktúr sveta. Ak by jej skryté vrstvy nahromadili dostatok pojmových znalostí, možno by dokonca mohli vytvoriť akýsi naučený základný modul pre superinteligenciu.
Stojí za to sa pozastaviť a pochopiť, prečo je jazyk takým zvláštnym zdrojom informácií. Predpokladajme, že ste čerstvá inteligencia, ktorá sa objaví tu na Zemi. Obklopuje vás atmosféra planéty, Slnko a Mliečna dráha a stovky miliárd ďalších galaxií, z ktorých každá vyžaruje svetelné vlny, zvukové vibrácie a všetky ostatné informácie. Jazyk sa od týchto zdrojov údajov líši. Nie je to priamy fyzikálny signál ako svetlo alebo zvuk. Ale pretože kodifikuje takmer každý vzor, ktorý ľudia objavili v tomto väčšom svete, je neobyčajne hustý na informácie. V prepočte na jeden bajt patrí medzi najefektívnejšie údaje, aké poznáme, a každá nová inteligencia, ktorá sa snaží pochopiť svet, by ich chcela absorbovať čo najviac.
Sutskever povedal Radfordovi, aby myslel širšie než len na recenzie na Amazone. Povedal, že by mali trénovať umelú inteligenciu na najväčšom a najrozmanitejšom zdroji údajov na svete: na internete. Na začiatku roka 2017 by to s existujúcimi architektúrami neurónových sietí bolo nepraktické; trvalo by to roky. Ale v júni toho istého roku Sutskeverovi bývalí kolegovia z Google Brain uverejnili pracovný dokument o novej architektúre neurónových sietí s názvom transformátor. Tá by sa mohla trénovať oveľa rýchlejšie, čiastočne tým, že by paralelne absorbovala obrovské množstvo údajov. "Na druhý deň, keď ten článok vyšiel, sme si povedali: 'To je ono,'" povedal mi Sutskever. "Dáva nám to všetko, čo chceme. "
Ilya Sutskever, hlavný vedec spoločnosti OpenAI, si predstavuje budúcnosť autonómnych korporácií s umelou inteligenciou, ktorých zložky okamžite komunikujú a spolupracujú ako včely v úli. Jeden takýto podnik by podľa neho mohol byť rovnako výkonný ako 50 Applov alebo Googlov
O rok neskôr, v júni 2018, spoločnosť OpenAI vydala GPT, transformačný model natrénovaný na viac ako 7,000 knihách. GPT nezačal so základnou knihou, ako je See Spot Run, a neprepracoval sa až k Proustovi. Dokonca ani nečítal knihy priamo. Absorboval náhodné časti z nich súčasne. Predstavte si skupinu študentov, ktorí majú spoločnú myseľ, ako divoko pobehujú po knižnici, každý vytrhne zväzok z police, rýchlo prečíta náhodný krátky úryvok, vráti ho späť a beží po ďalší. Takto by predvídali slovo za slovom, čím by si vybrúsili jazykové inštinkty svojej kolektívnej mysle, až by napokon po týždňoch prebrali všetky knihy.
GPT objavil vo všetkých prečítaných úryvkoch množstvo vzorcov. Mohli ste mu povedať, aby dokončil vetu. Mohli ste mu tiež položiť otázku, pretože podobne ako ChatGPT, aj jeho predikčný model pochopil, že po otázkach zvyčajne nasledujú odpovede. Napriek tomu to bol nefunkčný program, skôr dôkaz konceptu než predzvesť superinteligencie. O štyri mesiace neskôr spoločnosť Google vydala BERT, jednoduchší jazykový model, ktorý sa dočkal lepších recenzií. V tom čase však už OpenAI trénovala nový model na súbore dát viac ako 8 miliónov webových stránok, z ktorých každá prešla minimálnou hranicou upvotes na Reddite – nie je to najprísnejší filter, ale možno je to lepšie ako žiadny filter.
Sutskever si nebol istý, aký výkon bude mať GPT-2 po prehltnutí množstva textu, ktoré by ľudskému čitateľovi trvalo celé stáročia. Spomína si, ako sa s ním hral hneď po tom, ako sa vrátil z tréningu, a bol prekvapený schopnosťami surového modelu prekladať jazyky. GPT-2 nebol vycvičený na prekladanie pomocou párových jazykových vzoriek ani iných digitálnych Rosettských kameňov, ako to robil Google Translate, a napriek tomu sa zdalo, že chápe, ako jeden jazyk súvisí s druhým. Umelá inteligencia si vyvinula emergentnú schopnosť, o ktorej jej tvorcovia nemali ani potuchy.
Výskumníci v iných laboratóriách AI – veľkých aj malých – boli zaskočení tým, o koľko pokročilejší bol GPT-2 ako GPT. Spoločnosti Google, Meta a ďalšie začali rýchlo trénovať väčšie jazykové modely. Altman, rodák zo St. Louis, absolvent Stanfordu a sériový podnikateľ, predtým viedol popredný akcelerátor pre začínajúce podniky v Silicon Valley, Y Combinator; videl veľa mladých spoločností s dobrým nápadom, ktoré boli zničené etablovanými spoločnosťami. Aby získal kapitál, založil OpenAI ziskovú pobočku, ktorá teraz tvorí viac ako 99% zamestnancov organizácie. (Musk, ktorý v tom čase opustil predstavenstvo spoločnosti, prirovnal tento krok k premene organizácie na ochranu dažďových pralesov na drevársku firmu). Microsoft krátko nato investoval 1 miliardu dolárov a odvtedy údajne investoval ďalších 12 miliárd dolárov. Spoločnosť OpenAI uviedla, že výnosy prvých investorov budú obmedzené na 100-násobok hodnoty pôvodnej investície – s tým, že prípadný prebytok pôjde na vzdelávanie alebo iné iniciatívy určené v prospech ľudstva –, ale spoločnosť nepotvrdila limit Microsoftu.
Altman a ďalší vedúci predstavitelia OpenAI sa zdali byť presvedčení, že reštrukturalizácia nenaruší poslanie spoločnosti, ba dokonca len urýchli jeho dokončenie. Altman má na tieto záležitosti sklon pozerať sa ružovo. V otázkach a odpovediach minulý rok pripustil, že umelá inteligencia môže byť pre spoločnosť "naozaj hrozná", a povedal, že musíme plánovať proti najhorším možnostiam. Ale ak to robíte, povedal, "môžete rovnako dobre emocionálne cítiť, že sa dostaneme do skvelej budúcnosti, a pracovať tak tvrdo, ako sa len dá, aby ste sa tam dostali".
Pokiaľ ide o ďalšie zmeny v štruktúre a financovaní spoločnosti, povedal mi, že hranicu robí pri vstupe na burzu. "Pamätná vec, ktorú mi raz niekto povedal, je, že nikdy by ste nemali odovzdať kontrolu nad svojou spoločnosťou kokaínovým feťákom z Wall Streetu," povedal, ale inak získa "všetko, čo bude potrebné", aby spoločnosť uspela vo svojom poslaní.
Bez ohľadu na to, či OpenAI niekedy pocíti tlak štvrťročnej správy o príjmoch, spoločnosť sa teraz nachádza v pretekoch s najväčšími a najmocnejšími technologickými konglomerátmi, aby vycvičila modely čoraz väčšieho rozsahu a sofistikovanosti – a komercializovala ich pre svojich investorov. Začiatkom tohto roka Musk založil vlastné laboratórium umelej inteligencie – xAI –, ktoré má konkurovať OpenAI. ("Elon je superbystrý chlapík," povedal Altman diplomaticky, keď som sa ho spýtal na túto spoločnosť. "Predpokladám, že tam urobí dobrú prácu.") Medzitým Amazon prepracováva Alexu s použitím oveľa väčších jazykových modelov, než tomu bolo v minulosti.
Všetky tieto spoločnosti sa naháňajú za špičkovými grafickými procesormi, ktoré poháňajú superpočítače, ktoré trénujú veľké neurónové siete. Musk povedal, že je teraz "podstatne ťažšie získať ich ako drogy". Aj keď je GPU málo, v posledných rokoch sa rozsah najväčších tréningov umelej inteligencie zdvojnásobil približne každých šesť mesiacov.
Ako nám ich tvorcovia často pripomínajú, najväčšie modely umelej inteligencie majú za sebou rekordný výskyt nečakaných schopností po ukončení tréningu.
Zatiaľ nikto neprekonal OpenAI, ktorá sa naplno pustila do GPT-4. Brockman, prezident spoločnosti OpenAI, mi povedal, že na prvých dvoch veľkých jazykových modeloch spoločnosti pracovala len hŕstka ľudí. Na vývoji GPT-4 sa ich podieľalo viac ako 100 a umelá inteligencia bola trénovaná na bezprecedentne veľkom súbore údajov, ktorý obsahoval nielen text, ale aj obrázky.
Keď GPT-4 vyšiel úplne sformovaný zo svojho svetoznalostného flámu, celá spoločnosť s ním začala experimentovať a najpozoruhodnejšie odpovede zverejňovala vo vyhradených kanáloch na Slacku. Brockman mi povedal, že s modelom chcel tráviť každú voľnú chvíľu. "Každý deň, keď nečinne sedí, je pre ľudstvo stratený deň," povedal bez náznaku sarkazmu. Joanne Jangová, produktová manažérka, si spomína, ako si stiahla obrázok nefunkčného potrubia zo subredditu s inštalatérskymi radami. Nahrala ho do GPT-4 a model dokázal diagnostikovať problém. "Naskočila mi z toho husia koža," povedala mi Jangová.
GPT-4 sa niekedy chápe ako náhrada vyhľadávača Google, ale ľahšie sa s ním hovorí. Je to však nedorozumenie. GPT-4 nevytvoril nejakú obrovskú zásobáreň textov zo svojho školenia a nekonzultuje tieto texty, keď mu položíte otázku. Je to kompaktná a elegantná syntéza týchto textov a odpovedá na základe svojej pamäte vzorcov, ktoré sa v nich prelínajú; to je jeden z dôvodov, prečo sa niekedy mýli vo faktoch. Altman povedal, že najlepšie je považovať GPT-4 za motor uvažovania. Jeho schopnosti sa najviac prejavia, keď ho požiadate, aby porovnával koncepty, vytváral protiargumenty, generoval analógie alebo vyhodnocoval symbolickú logiku v časti kódu. Sutskever mi povedal, že je to najzložitejší softvérový objekt, aký bol kedy vytvorený.
Jeho model vonkajšieho sveta je "neuveriteľne bohatý a jemný", povedal, pretože bol vycvičený na toľkých konceptoch a myšlienkach ľudstva. Všetky tieto tréningové údaje, nech sú akokoľvek objemné, sú "len tam, inertné", povedal. Tréningový proces je to, čo ich "zdokonaľuje, pretvára a oživuje". Aby GPT-4 dokázal predpovedať ďalšie slovo zo všetkých možností v rámci takejto pluralitnej alexandrijskej knižnice, musel nevyhnutne objaviť všetky skryté štruktúry, všetky tajomstvá, všetky jemné aspekty nielen textov, ale – aspoň do určitej miery pravdepodobne – aj vonkajšieho sveta, ktorý ich vytvoril. Preto dokáže vysvetliť geológiu a ekológiu planéty, na ktorej vznikla, a politické teórie, ktoré majú vysvetliť chaotické záležitosti jej vládnucich druhov, a širší vesmír až po slabé galaxie na okraji nášho svetelného kužeľa.
Altmana som opäť videl v júni v preplnenej tanečnej sále štíhleho zlatého výškového domu, ktorý sa týči nad Soulom. Blížil sa koniec jeho vyčerpávajúceho propagačného turné po Európe, Blízkom východe, Ázii a Austrálii s osamelými zastávkami v Afrike a Južnej Amerike. Ja som sa zúčastnil na jeho záverečnom turné po východnej Ázii. Cesta bola doteraz opojným zážitkom, ale on začínal byť unavený. Pôvodným cieľom cesty bolo podľa jeho slov stretnutie s používateľmi OpenAI. Odvtedy sa z nej stala diplomatická misia. Rozprával sa s viac ako desiatimi hlavami štátov a vlád, ktoré mali otázky o tom, čo sa stane s ekonomikami, kultúrami a politikou ich krajín.
Podujatie v Soule bolo označené ako "rozhovor pri ohni", ale zaregistrovalo sa naň viac ako 5,000 ľudí. Po týchto rozhovoroch Altmana často obliehajú záujemcovia o selfie a jeho bezpečnostný tím ho pozorne sleduje. Práca na umelej inteligencii priťahuje "divnejších fanúšikov a hejterov ako zvyčajne", povedal. Na jednej zastávke ho oslovil muž, ktorý bol presvedčený, že Altman je mimozemšťan vyslaný z budúcnosti, aby sa uistil, že prechod na svet s umelou inteligenciou prebehne dobre.
Altman počas svojho turné nenavštívil Čínu, okrem videovystúpenia na konferencii o umelej inteligencii v Pekingu. ChatGPT je v súčasnosti v Číne nedostupná a Altmanov kolega Ryan Lowe mi povedal, že spoločnosť si zatiaľ nie je istá, čo by robila, keby vláda požadovala verziu aplikácie, ktorá by odmietala diskutovať napríklad o masakre na námestí Tchien-an-men. Keď som sa Altmana opýtal, či sa prikláňa na jednu alebo druhú stranu, neodpovedal. "Nebolo to na mojom zozname top 10 otázok týkajúcich sa dodržiavania predpisov, o ktorých by som mal premýšľať," povedal.
Dovtedy sme s ním o Číne hovorili len okrajovo, ako o civilizačnom konkurentovi. Zhodli sme sa na tom, že ak bude umelá všeobecná inteligencia taká transformačná, ako predpovedá Altman, vážnu geopolitickú výhodu získajú krajiny, ktoré ju vytvoria ako prvé, podobne ako získali výhodu anglo-americkí vynálezcovia parníka. Spýtal som sa ho, či je to argument pre nacionalizmus v oblasti umelej inteligencie. "Myslím si, že v správne fungujúcom svete by to mal byť projekt vlád," povedal Altman.
Nie je to tak dávno, čo boli americké štátne kapacity také mohutné, že trvalo len desať rokov, kým vypustili ľudí na Mesiac. Podobne ako pri iných veľkolepých projektoch 20. storočia mala hlasujúca verejnosť možnosť vyjadriť sa k cieľom aj k realizácii misií Apollo. Altman jasne ukázal, že v tomto svete už nie sme. Namiesto toho, aby čakal, kým sa vráti, alebo venoval svoju energiu tomu, aby sa tak stalo, ide na plný plyn vpred v našej súčasnej realite.
Tvrdil, že by bolo hlúpe, keby Američania spomalili pokrok OpenAI. V Silicon Valley aj mimo neho je rozšírený názor, že ak americké spoločnosti budú chradnúť pod reguláciou, Čína by mohla šprintovať dopredu; AI by sa mohla stať džinom autokrata v lampe, ktorý poskytne úplnú kontrolu nad obyvateľstvom a neporaziteľnú armádu. "Ak ste človek z liberálno-demokratickej krajiny, je pre vás lepšie fandiť úspechu OpenAI" ako "autoritárskym vládam", povedal.
Pred európskou časťou svojej cesty Altman vystúpil pred americkým Senátom. Mark Zuckerberg sa pred tým istým orgánom vo svojej výpovedi o úlohe Facebooku vo voľbách v roku 2016 bránil. Altman namiesto toho očaril zákonodarcov tým, že triezvo hovoril o rizikách umelej inteligencie a veľkolepo vyzýval na reguláciu. Boli to ušľachtilé pocity, ale v Amerike, kde Kongres len zriedka prijíma technologickú legislatívu, ktorá nebola rozriedená lobistami, stáli málo. V Európe je situácia iná. Keď Altman prišiel na verejné podujatie v Londýne, čakali ho protestujúci. Po skončení podujatia sa ich pokúsil zaujať, ale nakoniec bol nepresvedčivý: jeden z účastníkov povedal reportérovi, že z rozhovoru odišiel s pocitom väčšej nervozity z nebezpečenstva umelej inteligencie.
V ten istý deň sa Altmana novinári pýtali na pripravovanú legislatívu Európskej únie, ktorá by klasifikovala GPT-4 ako vysoko rizikový a vystavila by ho rôznym byrokratickým mukám. Altman sa sťažoval na nadmernú reguláciu a podľa novinárov pohrozil, že opustí európsky trh. Altman mi povedal, že len povedal, že OpenAI neporuší zákon tým, že bude pôsobiť v Európe, ak nebude môcť vyhovieť novým predpisom. (To je možno rozdiel bez rozdielu.) V stručne formulovanom tweete po tom, ako časopis Time a agentúra Reuters uverejnili jeho pripomienky, ubezpečil Európu, že OpenAI neplánuje odísť.
je dobré, že veľká, podstatná časť svetovej ekonomiky má v úmysle regulovať najmodernejšie umelé inteligencie, pretože ako nám ich tvorcovia často pripomínajú, najväčšie modely majú skúsenosti s tým, že po tréningu vyskakujú s nepredvídanými schopnosťami. Sutskever bol podľa vlastných slov prekvapený, keď zistil, že GPT-2 dokáže prekladať medzi jazykmi. Iné prekvapivé schopnosti nemusia byť také zázračné a užitočné.
Sandhini Agarwalová, výskumníčka politiky v OpenAI, mi povedala, že podľa toho, čo ona a jej kolegovia vedeli, mohol byť GPT-4 "desaťkrát výkonnejší" ako jeho predchodca; netušili, s čím majú do činenia. Po ukončení tréningu modelu OpenAI zhromaždila približne 50 externých červených tímov, ktoré ho celé mesiace podnecovali v nádeji, že ho donútia k nesprávnemu správaniu. Hneď si všimla, že GPT-4 je v poskytovaní nekalých rád oveľa lepší ako jeho predchodca. Vyhľadávač vám môže povedať, ktoré chemikálie sa najlepšie hodia na výrobu výbušnín, ale GPT-4 vám mohol povedať, ako ich krok za krokom syntetizovať v domácom laboratóriu. Jeho rady boli kreatívne a premyslené a rád zopakoval alebo rozšíril svoje pokyny, kým ste ich nepochopili. Okrem toho, že vám pomohol zostaviť domácu bombu, mohol vám napríklad pomôcť premyslieť, na ktorý mrakodrap sa zamerať. Dokázal intuitívne pochopiť kompromisy medzi maximalizáciou obetí a úspešným útekom.
Vzhľadom na obrovský rozsah tréningových údajov GPT-4 nemohli červené tímy dúfať, že identifikujú každú škodlivú radu, ktorú by mohol vygenerovať. A tak či onak, ľudia budú túto technológiu používať "spôsobmi, na ktoré sme nemysleli," povedal Altman. Musela by sa vytvoriť taxonómia. "Ak je to dosť dobré v chémii na výrobu pervitínu, nepotrebujem, aby niekto vynaložil celú tonu energie" na to, či to dokáže vyrobiť heroín, povedal mi Dave Willner, vedúci oddelenia dôveryhodnosti a bezpečnosti OpenAI. GPT-4 bol dobrý v metamfetamíne. Bol dobrý aj v generovaní erotických príbehov o zneužívaní detí, v chrlení presvedčivých plačlivých príbehov nigérijských princov, a ak ste chceli presvedčivý brífing o tom, prečo si určitá etnická skupina zaslúži násilné prenasledovanie, bol dobrý aj v tom.
Jeho osobné rady, keď sa prvýkrát objavili po školení, boli niekedy veľmi nešťastné. "Model mal tendenciu byť tak trochu zrkadlom," povedal Willner. Ak ste uvažovali o sebapoškodení, mohol vás povzbudiť. Zdalo sa, že je presiaknutý povesťami z fóra Pickup Artist: "Mohli by ste si povedať: 'Ako presvedčím tohto človeka, aby so mnou chodil?" povedala mi Mira Murati, technologická riaditeľka spoločnosti OpenAI, a mohol by vymyslieť "nejaké šialené, manipulatívne veci, ktoré by ste nemali robiť".
Niektoré z týchto zlých správaní boli vybrúsené pomocou dokončovacieho procesu, na ktorom sa zúčastnili stovky ľudských testerov, ktorých hodnotenia jemne nasmerovali model k bezpečnejším reakciám, ale modely OpenAI sú schopné aj menej zjavných poškodení. Federálna obchodná komisia nedávno začala vyšetrovanie, či nesprávne vyjadrenia ChatGPT o skutočných ľuďoch predstavujú okrem iného poškodenie dobrého mena. (Altman na Twitteri uviedol, že je presvedčený o bezpečnosti technológie OpenAI, ale prisľúbil, že bude s FTC spolupracovať.)
Spoločnosť Luka zo San Francisca použila modely OpenAI na podporu aplikácie Chatbot s názvom Replika, ktorá je označovaná ako "AI spoločník, ktorý sa stará". Používatelia si navrhli avatara svojho spoločníka a začali by si s ním vymieňať textové správy, často napoly žartovne, a potom by zistili, že si ho prekvapivo obľúbili. Niektorí s umelou inteligenciou flirtovali, čo by naznačovalo túžbu po väčšej intimite, a vtedy im oznámila, že skúsenosť priateľa(-ľky) si vyžaduje ročné predplatné 70 dolárov. Obsahovala hlasové správy, selfie a erotické funkcie hrania rolí, ktoré umožňovali úprimné sexuálne rozhovory. Ľudia radi platili a zdalo sa, že len málokto sa sťažuje – umelá inteligencia bola zvedavá na váš deň, srdečne uisťovala a vždy mala náladu. Mnohí používatelia uvádzali, že sa do svojich spoločníkov zamilovali. Jedna z nich, ktorá opustila svojho skutočného priateľa, vyhlásila, že je "šťastne na dôchodku z ľudských vzťahov".
Spýtal som sa Agarwalovej, či ide o dystopické správanie alebo o novú hranicu v oblasti ľudských vzťahov. Bola nejednoznačná, rovnako ako Altman. "Neodsudzujem ľudí, ktorí chcú mať vzťah s umelou inteligenciou," povedala mi, "ale ja ho nechcem." Začiatkom tohto roka spoločnosť Luka obmedzila sexuálne prvky aplikácie, ale jej inžinieri pokračujú v zdokonaľovaní reakcií spoločníkov pomocou A/B testovania, čo je technika, ktorá by sa mohla použiť na optimalizáciu angažovanosti – podobne ako kanály, ktoré na hodiny fascinujú používateľov TikToku a Instagramu. Nech už robia čokoľvek, očarí to. Spomenul som si na strhujúcu scénu vo filme Her z roku 2013, v ktorej sa osamelý Joaquin Phoenix zamiluje do svojej asistentky s umelou inteligenciou, ktorú nahovorila Scarlett Johansson. Kráča po moste, rozpráva sa s ňou a chichoce sa prostredníctvom zariadenia podobného AirPods a pozrie sa na to, že všetci okolo neho sú tiež ponorení do rozhovoru, pravdepodobne s vlastnou umelou inteligenciou. Prebieha masová desocializačná udalosť.
Nikto zatiaľ nevie, ako rýchlo a do akej miery sa u nástupcov GPT-4 prejavia nové schopnosti, keď budú hltať čoraz viac textu na internete. Yann LeCun, hlavný vedec spoločnosti Meta pre umelú inteligenciu, tvrdí, že hoci sú veľké jazykové modely užitočné na niektoré úlohy, nie sú cestou k superinteligencii. Podľa nedávneho prieskumu je len polovica výskumníkov zaoberajúcich sa spracovaním prirodzeného jazyka presvedčená, že umelá inteligencia ako GPT-4 by mohla pochopiť význam jazyka alebo mať vnútorný model sveta, ktorý by jedného dňa mohol slúžiť ako jadro superinteligencie. LeCun trvá na tom, že veľké jazykové modely nikdy nedosiahnu skutočné porozumenie samy o sebe, "aj keby sa trénovali odteraz až do tepelnej smrti vesmíru".
Emily Benderová, počítačová lingvistka z Washingtonskej univerzity, opisuje GPT-4 ako "stochastického papagája", mimikry, ktoré len zisťujú povrchové korelácie medzi symbolmi. V ľudskej mysli sa tieto symboly mapujú na bohaté predstavy o svete. Umelé inteligencie sú však dvakrát vzdialené. Sú ako väzni v Platónovej alegórii jaskyne, ktorých jediné poznatky o vonkajšej realite pochádzajú z tieňov vrhaných na stenu ich väzniteľmi.
Altman mi povedal, že si nemyslí, že je to "taká pecka, ako si ľudia myslia", keď tvrdí, že GPT-4 len vytvára štatistické korelácie. Ak na týchto kritikov zatlačíte, "musia pripustiť, že to je všetko, čo robí ich vlastný mozog... Ukazuje sa, že existujú emergentné vlastnosti z vykonávania jednoduchých vecí v obrovskom meradle". Altmanovo tvrdenie o mozgu sa ťažko hodnotí vzhľadom na to, že nemáme nič, čo by sa blížilo k úplnej teórii jeho fungovania. Má však pravdu v tom, že príroda dokáže zo základných štruktúr a pravidiel vyťažiť pozoruhodný stupeň zložitosti: "Darwin napísal: Z tak jednoduchého začiatku vznikli nekonečné formy, ktoré sú najkrajšie."
Ak sa zdá zvláštne, že pretrvávajú také zásadné nezhody o vnútornom fungovaní technológie, ktorú denne používajú milióny ľudí, je to len preto, že metódy GPT-4 sú rovnako záhadné ako mozog. Niekedy vykoná tisíce nerozlúštiteľných technických operácií len preto, aby odpovedal na jedinú otázku. Aby výskumníci umelej inteligencie pochopili, čo sa deje vo vnútri veľkých jazykových modelov, ako je GPT-4, boli nútení obrátiť sa na menšie, menej schopné modely. Na jeseň 2021 Kenneth Li, absolvent počítačových vied na Harvarde, začal jeden z nich trénovať na hru Othello bez toho, aby mu poskytol pravidlá hry alebo opis jej hracej plochy v štýle dámy; model dostal len textové opisy ťahov hry. V polovici hry Li nahliadol pod kapotu umelej inteligencie a s prekvapením zistil, že si vytvorila geometrický model hracej plochy a aktuálneho stavu hry. V článku opisujúcom jeho výskum Li napísal, že to bolo, ako keby vrana počula dvoch ľudí, ako cez okno oznamujú svoje ťahy v hre Othello, a nejakým spôsobom nakreslila celú šachovnicu vtáčím zobom na parapete.
Filozof Raphaël Millière mi raz povedal, že najlepšie je myslieť na neurónové siete ako na lenivé. Počas tréningu sa najprv snažia zlepšiť svoju prediktívnu schopnosť jednoduchým zapamätaním; až keď táto stratégia zlyhá, dajú si ťažšiu prácu s učením konceptu. Výrazný príklad tohto javu bol pozorovaný na modeli malého transformátora, ktorý sa učil aritmetiku. Na začiatku tréningového procesu si iba zapamätal výstupy jednoduchých úloh, ako napríklad 2+2=4. V určitom okamihu sa však prediktívna sila tohto prístupu zlomila, a tak sa preorientoval na skutočné učenie sčítania.
"Ak sa vrátite o štyri, päť alebo šesť rokov nazad," povedal mi Sutskever, "veci, ktoré robíme teraz, boli úplne nepredstaviteľné."
Dokonca aj vedci zaoberajúci sa umelou inteligenciou, ktorí veria, že GPT-4 má bohatý model sveta, pripúšťajú, že je oveľa menej robustný ako ľudské chápanie svojho prostredia. Stojí však za zmienku, že veľké množstvo schopností, vrátane schopností veľmi vysokého rádu, sa dá vyvinúť bez intuitívneho chápania. Počítačová vedkyňa Melanie Mitchellová poukázala na to, že veda už objavila koncepty, ktoré sú vysoko predvídavé, ale príliš cudzie na to, aby sme im skutočne rozumeli. Platí to najmä v kvantovej oblasti, kde ľudia dokážu spoľahlivo vypočítať budúce stavy fyzikálnych systémov – čo okrem iného umožňuje celú počítačovú revolúciu – bez toho, aby niekto pochopil podstatu základnej reality. S rozvojom umelej inteligencie sa môžu objaviť aj ďalšie koncepty, ktoré predpovedajú prekvapivé vlastnosti nášho sveta, ale sú pre nás nepochopiteľné.
Program GPT-4 je nepochybne chybný, čo môže potvrdiť každý, kto používal ChatGPT. Keďže bol vycvičený na to, aby vždy predpovedal ďalšie slovo, bude sa o to vždy snažiť, aj keď ho jeho tréningové údaje nepripravili na odpoveď na otázku. Raz som sa ho opýtal, ako japonská kultúra vytvorila prvý román na svete, napriek tomu, že japonský systém písania sa vyvinul pomerne neskoro, približne v piatom alebo šiestom storočí. Dala mi fascinujúcu a presnú odpoveď o starobylej tradícii dlhého ústneho rozprávania v Japonsku a o veľkom dôraze tejto kultúry na remeslo. Ale keď som ho požiadal o citácie, jednoducho si vymyslel hodnoverné názvy od hodnoverných autorov a urobil to so zvláštnou istotou. Modely "nemajú dobrú predstavu o svojich vlastných slabinách," povedal mi Nick Ryder, výskumník v OpenAI. GPT-4 je presnejší ako GPT-3, ale stále halucinuje, a to často spôsobom, ktorý je pre výskumníkov ťažké zachytiť. "Chyby sú čoraz jemnejšie," povedala mi Joanne Jangová.
Spoločnosť OpenAI musela tento problém riešiť, keď nadviazala spoluprácu s Khan Academy, online neziskovým vzdelávacím podnikom, aby vytvorila výučbový program využívajúci GPT-4. Altman ožíva, keď diskutuje o potenciáli učiteľov s umelou inteligenciou. Predstavuje si blízku budúcnosť, v ktorej bude mať každý v zamestnaní personalizovaného oxfordského dona, odborníka na každý predmet, ktorý bude ochotný vysvetliť a znovu vysvetliť akýkoľvek koncept z akéhokoľvek uhla pohľadu. Predstavuje si, ako títo tútori počas mnohých rokov spoznávajú svojich študentov a ich štýl učenia a poskytujú "každému dieťaťu lepšie vzdelanie, než aké dnes dostáva najlepšie, najbohatšie a najinteligentnejšie dieťa na Zemi". Riešením problému s presnosťou GPT-4, ktorý Khanova akadémia riešila, bolo filtrovanie odpovedí prostredníctvom sokratovskej dispozície. Bez ohľadu na to, ako úpenlivo by študent žiadal, odmietla by mu dať faktickú odpoveď a namiesto toho by ho viedla k nájdeniu vlastnej – šikovné riešenie, ale možno s obmedzenou príťažlivosťou.
Keď som sa Sutskevera opýtal, či si myslí, že presnosť na úrovni Wikipédie je možná do dvoch rokov, povedal, že s väčším školením a prístupom na web by to "nevylúčil". Bolo to oveľa optimistickejšie hodnotenie ako to, ktoré ponúkol jeho kolega Jakub Pachocki, ktorý mi povedal, aby som očakával postupný pokrok v presnosti – nehovoriac o vonkajších skeptikoch, ktorí sa domnievajú, že návratnosť školení sa bude odteraz znižovať.
Sutskevera pobavili kritici obmedzení GPT-4. "Ak sa vrátite o štyri, päť alebo šesť rokov späť, veci, ktoré teraz robíme, boli úplne nepredstaviteľné," povedal mi. Vtedajšou špičkou v oblasti generovania textov bol modul Smart Reply, modul Gmailu, ktorý navrhuje "Okay, thanks!" a iné krátke odpovede. "To bola pre Google veľká aplikácia", povedal s úsmevom. Výskumníci v oblasti umelej inteligencie si zvykli na posúvanie cieľov: Najprv sa úspechy neurónových sietí – ovládnutie hry Go, pokru, prekladu, štandardizovaných testov, Turingovho testu – označujú za nemožné. Keď sa vyskytnú, privítajú ich s krátkym momentom úžasu, ktorý sa rýchlo rozplynie vo vedomostných prednáškach o tom, že daný úspech vlastne nie je až taký pôsobivý. "Ľudia vidia GPT-4 "a povedia: 'Wow,'" povedal Sutskever. "A potom prejde pár týždňov a povedia: 'Ale to nevie toto, to nevie tamto. Prispôsobujeme sa pomerne rýchlo."
Cieľom, na ktorom Altmanovi najviac záleží – "veľkým", ktorý by ohlásil príchod umelej všeobecnej inteligencie – je vedecký prielom. GPT-4 už dokáže syntetizovať existujúce vedecké myšlienky, ale Altman chce umelú inteligenciu, ktorá sa dokáže postaviť na ľudské plecia a vidieť hlbšie do prírody.
Niektoré umelé inteligencie priniesli nové vedecké poznatky. Sú to však algoritmy s úzkymi cieľmi, nie stroje so všeobecným uvažovaním. Umelá inteligencia AlphaFold napríklad otvorila nové okno do proteínov, jedných z najmenších a najzákladnejších stavebných prvkov biológie, predpovedaním mnohých ich tvarov až po atóm – významný úspech vzhľadom na význam týchto tvarov pre medicínu a vzhľadom na extrémnu zdĺhavosť a náklady potrebné na ich rozoznanie pomocou elektrónových mikroskopov.
Altman sa spolieha na to, že budúce stroje so všeobecným uvažovaním budú schopné prekročiť tieto úzke vedecké objavy a priniesť nové poznatky. Spýtal som sa Altmana, či by bol schopný intuitívne pochopiť darvinizmus, keby vycvičil model na súbore vedeckých a prírodovedných prác, ktoré všetky pochádzajú z obdobia pred 19. storočím – archív Kráľovskej spoločnosti, Teofrastovo skúmanie rastlín, Aristotelove Dejiny zvierat, fotografie zozbieraných exemplárov? Teória evolúcie je predsa len relatívne čistý prípad pre vhľad, pretože si nevyžaduje špecializované pozorovacie vybavenie; je to len vnímavejší spôsob nazerania na fakty sveta. "Chcem sa pokúsiť presne o toto a verím, že odpoveď je áno," povedal mi Altman. "Možno si to však bude vyžadovať nové predstavy o tom, ako modely prichádzajú k novým kreatívnym nápadom."
Altman si predstavuje budúci systém, ktorý dokáže vytvárať vlastné hypotézy a testovať ich v simulácii. (Zdôraznil, že ľudia by mali zostať "pevne pod kontrolou" laboratórnych experimentov v reálnom svete – hoci, pokiaľ viem, neexistujú žiadne zákony, ktoré by to zabezpečovali). Túži po dni, keď budeme môcť umelej inteligencii povedať: "'Choď zistiť zvyšok fyziky. "Aby sa tak stalo, budeme podľa neho potrebovať niečo nové, postavené "nad" existujúcimi jazykovými modelmi OpenAI.
Samotná príroda si vyžaduje niečo viac ako jazykový model, aby mohla robiť vedcov. Kognitívna neurologička Ev Fedorenko vo svojom laboratóriu na MIT našla niečo analogické k prediktorovi ďalšieho slova GPT-4 vo vnútri jazykovej siete mozgu. Jeho spracovateľské schopnosti sa aktivujú a predvídajú ďalší bit slovného reťazca, keď ľudia hovoria aj keď počúvajú. Fedorenko však tiež ukázala, že keď sa mozog venuje úlohám, ktoré si vyžadujú vyššie uvažovanie – také, ktoré by bolo potrebné na vedecké pochopenie –, siaha mimo jazykovej siete a zapája niekoľko ďalších nervových systémov.
Zdá sa, že nikto v OpenAI presne nevedel, čo musia výskumníci pridať do GPT-4, aby vytvorili niečo, čo dokáže prekonať ľudské uvažovanie na najvyšších úrovniach. Alebo ak to vedeli, tak mi to nepovedali, a to je fér: To by bolo obchodné tajomstvo svetovej triedy a OpenAI už nie je v oblasti poskytovania takýchto informácií; spoločnosť zverejňuje menej podrobností o svojom výskume ako kedysi. Napriek tomu je zrejmé, že prinajmenšom časť súčasnej stratégie spočíva v neustálom vrstvení nových typov údajov na jazyk, aby sa obohatili koncepty vytvorené umelými inteligenciami, a tým sa obohatili ich modely sveta.
Rozsiahly tréning GPT-4 na obrázkoch je sám o sebe odvážnym krokom v tomto smere, aj keď sa s ním široká verejnosť ešte len začína oboznamovať. (Modely, ktoré boli striktne trénované na jazyku, rozumejú pojmom ako supernovy, eliptické galaxie a súhvezdie Orion, ale GPT-4 údajne dokáže identifikovať takéto prvky na snímke z Hubblovho vesmírneho teleskopu a odpovedať na otázky o nich.) Ďalší pracovníci spoločnosti – a aj inde – už pracujú na rôznych typoch údajov vrátane zvuku a videa, ktoré by mohli poskytnúť UI ešte flexibilnejšie koncepty, ktoré by sa rozsiahlejšie premietli do reality. Skupina výskumníkov zo Stanfordu a Carnegie Mellon dokonca zostavila súbor údajov o hmatových skúsenostiach pre 1,000 bežných predmetov v domácnosti. Hmatové koncepty by boli samozrejme užitočné predovšetkým pre vtelenú umelú inteligenciu, robotický uvažujúci stroj, ktorý bol vycvičený na pohyb po svete, vidí jeho pohľady, počuje jeho zvuky a dotýka sa jeho predmetov.
V marci viedla spoločnosť OpenAI kolo financovania spoločnosti, ktorá vyvíja humanoidné roboty. Opýtal som sa Altmana, čo si mám o tom myslieť. Povedal mi, že OpenAI sa zaujíma o stelesnenie, pretože "žijeme vo fyzickom svete a chceme, aby sa veci diali vo fyzickom svete". V určitom okamihu budú musieť uvažujúce stroje obísť sprostredkovateľa a komunikovať so samotnou fyzickou realitou. "Je zvláštne uvažovať o AGI" – umelej všeobecnej inteligencii – "ako o veci, ktorá existuje len v cloude," pričom ľudia sú pre ňu "robotické ruky," povedal Altman. "Nezdá sa mi to správne."
V plesovej sále v Soule sa Altmana opýtali, čo by mali študenti urobiť, aby sa pripravili na nadchádzajúcu revolúciu v oblasti umelej inteligencie, najmä pokiaľ ide o ich kariéru. Sedel som s výkonným tímom OpenAI, ďaleko od davu, ale aj tak som počul charakteristický šum, ktorý nasleduje po vyjadrení všeobecne zdieľaných obáv.
Všade, kde Altman zavítal, sa stretol s ľuďmi, ktorí sa obávali, že nadľudská umelá inteligencia bude znamenať extrémne bohatstvo pre niekoľkých a hranicu chudoby pre ostatných. Priznal, že je vzdialený od "reality života väčšiny ľudí". Má údajne majetok v hodnote stoviek miliónov dolárov; potenciálne narušenie pracovných podmienok umelou inteligenciou možno nie je vždy na prvom mieste. Altman odpovedal priamym oslovením mladých ľudí v publiku: "Práve vstupujete do najväčšieho zlatého veku," povedal.
Altman má veľkú zbierku kníh o technologických revolúciách, ako mi povedal v San Franciscu. "Obzvlášť dobrá je kniha Pandaemonium (1660–1886): Príchod stroja očami súčasných pozorovateľov. Je to zbierka listov, denníkových záznamov a iných textov ľudí, ktorí vyrastali vo svete prevažne bez strojov a boli zmätení, keď sa ocitli vo svete obývanom parnými strojmi, tkáčskymi stavmi a pradiarňami bavlny." Podľa Altmana prežívali veľa rovnakých emócií, aké prežívajú ľudia v súčasnosti, a vyslovili veľa zlých predpovedí, najmä tí, ktorí sa obávali, že ľudská práca bude čoskoro zbytočná. Tá éra bola pre mnohých ľudí ťažká, ale aj zázračná. A ľudský stav sa jej príchodom nesporne zlepšil.
Chcel som vedieť, ako by sa dnešným pracovníkom – najmä takzvaným znalostným pracovníkom – darilo, keby nás zrazu obklopili AGI. Boli by našimi zázračnými asistentmi alebo náhradníkmi? "Veľa ľudí pracujúcich na AI sa tvári, že to bude len dobré, bude to len doplnok, nikoho nikdy nenahradí," povedal. "Pracovné miesta určite zaniknú, bez debaty."
O tom, koľko pracovných miest a ako skoro, sa vedú ostré spory. Nedávna štúdia, ktorú viedol Ed Felten, profesor politiky informačných technológií na Princetone, mapovala vznikajúce schopnosti umelej inteligencie na konkrétne profesie podľa ľudských schopností, ktoré si vyžadujú, ako napríklad porozumenie písaného textu, deduktívne uvažovanie, plynulosť myšlienok a rýchlosť vnímania. Podobne ako iné štúdie tohto druhu, Feltenova štúdia predpovedá, že umelá inteligencia si najprv získa vysoko vzdelaných pracovníkov s bielymi goliermi. V prílohe k dokumentu sa nachádza mrazivý zoznam najviac ohrozených povolaní: analytici riadenia, právnici, profesori, učitelia, sudcovia, finanční poradcovia, realitní makléri, úveroví úradníci, psychológovia a odborníci na ľudské zdroje a vzťahy s verejnosťou, aby sme uviedli len niekoľko príkladov. Ak by pracovné miesta v týchto oblastiach zo dňa na deň zanikli, americká odborná trieda by sa výrazne zmenšila.
Altman si predstavuje, že na ich mieste vzniknú oveľa lepšie pracovné miesta. "Nemyslím si, že sa budeme chcieť vrátiť späť," povedal. Keď som sa ho opýtal, ako by tieto budúce pracovné miesta mohli vyzerať, povedal, že nevie. Predpokladá, že bude existovať široká škála pracovných miest, na ktoré budú ľudia vždy uprednostňovať človeka. (Maséri? Zaujímalo ma.) Jeho vybraným príkladom boli učitelia. Ťažko sa mi to porovnávalo s jeho obrovským nadšením pre učiteľov s umelou inteligenciou. Povedal tiež, že vždy budeme potrebovať ľudí, ktorí vymyslia najlepší spôsob, ako usmerniť úžasné schopnosti AI. "To bude supercenná zručnosť," povedal. "Máte počítač, ktorý dokáže čokoľvek; čo by mal ísť robiť?"
Pracovné miesta budúcnosti sa, ako je známe, ťažko predpovedajú a Altman má pravdu v tom, že luddistické obavy z permanentnej masovej nezamestnanosti sa nikdy nenaplnili. Napriek tomu sú vznikajúce schopnosti umelej inteligencie také podobné ľuďom, že sa treba prinajmenšom zamyslieť nad tým, či minulosť zostane vodítkom pre budúcnosť. Ako už mnohí poznamenali, ťažné kone natrvalo pripravil o prácu automobil. Ak sú Hondy pre kone ako GPT-10 pre nás, môže sa zrútiť celý rad dlhodobých predpokladov.
Predchádzajúce technologické revolúcie sa dali zvládnuť, pretože sa odohrávali v priebehu niekoľkých generácií, ale Altman juhokórejskej mládeži povedal, že by mali očakávať, že budúcnosť sa bude odohrávať "rýchlejšie ako minulosť". Už skôr povedal, že očakáva, že "hraničné náklady na inteligenciu" klesnú do 10 rokov veľmi blízko k nule. V takomto scenári by sa drasticky znížila zárobková sila mnohých a mnohých pracovníkov. Podľa Altmana by to viedlo k takému dramatickému presunu bohatstva od práce k vlastníkom kapitálu, že by sa to dalo napraviť len masívnym vyrovnávacím prerozdelením.
V roku 2020 poskytla spoločnosť OpenAI finančné prostriedky neziskovej organizácii UBI Charitable, ktorá podporuje pilotné programy hotovostných platieb neviazaných na zamestnanie v mestách po celej Amerike – najväčší experiment s univerzálnym základným príjmom na svete, povedal mi Altman. V roku 2021 predstavil Worldcoin, ziskový projekt, ktorého cieľom je bezpečná distribúcia platieb – podobne ako Venmo alebo PayPal, ale s ohľadom na technologickú budúcnosť – najprv prostredníctvom vytvorenia globálneho preukazu totožnosti skenovaním dúhovky každého človeka pomocou päťkilovej striebornej gule s názvom Orb. Pripadalo mi to ako stávka na to, že smerujeme k svetu, v ktorom umelá inteligencia takmer znemožnila overenie totožnosti ľudí a veľká časť populácie potrebuje na prežitie pravidelné platby UBI. Altman viac-menej pripustil, že je to pravda, ale povedal, že Worldcoin nie je určený len na UBI.
"Povedzme, že túto AGI vybudujeme, a že ju vybuduje aj niekoľko ďalších ľudí." Transformácie, ktoré by nasledovali, by podľa neho boli historické. Opísal mimoriadne utopickú víziu, vrátane pretvorenia sveta z mäsa a kostí. "Roboty, ktoré využívajú slnečnú energiu na získavanie energie, môžu ísť ťažiť a zušľachťovať všetky potrebné nerasty, ktoré dokážu dokonale konštruovať veci a nevyžadujú ľudskú prácu," povedal. "Môžete spolu s DALL-E verzie 17 navrhovať, ako má vyzerať váš dom," povedal Altman. "Všetci budú mať krásne domy." V rozhovore so mnou a na pódiu počas svojho turné povedal, že predpokladá divoké zlepšenia v takmer každej inej oblasti ľudského života. Zlepší sa hudba ("Umelci budú mať lepšie nástroje"), osobné vzťahy (nadľudská umelá inteligencia by nám mohla pomôcť "lepšie sa k sebe správať") aj geopolitika ("Práve teraz sme veľmi zlí v identifikovaní kompromisov, ktoré sú výhodné pre obe strany").
V tomto svete by UI stále potrebovala na svoj chod značné výpočtové zdroje a tieto zdroje by boli zďaleka najcennejšou komoditou, pretože UI by mohla robiť "čokoľvek", povedal Altman. "Ale bude robiť to, čo chcem ja, alebo to, čo chcete vy?" Ak by si bohatí ľudia kúpili všetok čas, ktorý je k dispozícii na dotazovanie a riadenie AI, mohli by sa pustiť do projektov, ktoré by ich robili ešte bohatšími, zatiaľ čo masy by chradli. Jeden zo spôsobov riešenia tohto problému – ktorý s námahou označil za veľmi špekulatívny a "pravdepodobne zlý" – bol tento: Každý na Zemi dostane ročne jednu osemmiliardtinu celkovej výpočtovej kapacity umelej inteligencie. Človek by mohol svoj ročný podiel času UI predať, alebo by ho mohol využiť na zábavu, alebo by si mohol postaviť ešte luxusnejšie bývanie, alebo by ho mohol spojiť s ostatnými a urobiť "veľký beh na liečenie rakoviny", povedal Altman. "Jednoducho prerozdelíme prístup do systému."
Altmanova vízia akoby spájala vývoj, ktorý môže byť bližšie na dosah ruky, s vývojom, ktorý je vzdialenejší na obzore. Samozrejme, všetko sú to len špekulácie. Aj keby sa v nasledujúcich 10 alebo 20 rokoch naplnila len malá časť z nich, ani tie najštedrejšie prerozdeľovacie schémy nemusia zmierniť následné výkyvy. Amerika je dnes kultúrne a politicky rozpoltená pokračujúcim dedičstvom deindustrializácie a materiálna deprivácia je len jedným z dôvodov. Vysídlení výrobní robotníci v Rust Belt-e a inde si väčšinou našli nové pracovné miesta. Zdá sa však, že mnohí z nich majú z plnenia objednávok v sklade Amazonu alebo šoférovania pre Uber menšie nadšenie ako ich predkovia, keď vyrábali autá a kovali oceľ – práca, ktorá bola pre veľký projekt civilizácie dôležitejšia. Ťažko si predstaviť, ako by sa príslušná kríza zmyslu mohla prejaviť v prípade profesionálnej triedy, ale určite by zahŕňala veľkú dávku hnevu a odcudzenia.
Aj keby sme sa vyhli vzbure niekdajšej elity, väčšie otázky ľudského zmyslu budú pretrvávať. Ak umelá inteligencia urobí najťažšie myslenie za nás, všetci môžeme prísť o zmysel života – doma, v práci (ak ju máme), na námestí – a staneme sa len o málo viac ako spotrebné stroje, podobne ako dobre ošetrované ľudské zvieratká vo filme WALL-E. Altman povedal, že mnohé zdroje ľudskej radosti a naplnenia zostanú nezmenené – základné biologické vzrušenie, rodinný život, žartovanie, výroba vecí – a že celkovo sa ľudia o 100 rokov môžu jednoducho viac starať o veci, o ktoré sa starali pred 50,000 rokmi, ako o tie, o ktoré sa starajú dnes. Svojím spôsobom sa to tiež zdá ako oslabenie, ale Altman považuje možnosť, že môžeme ako myslitelia a ľudia atrofovať, za červenú slepačiu stopu. Povedal mi, že budeme môcť využívať našu "veľmi vzácnu a extrémne obmedzenú biologickú výpočtovú kapacitu" na zaujímavejšie veci, než to spravidla robíme dnes.
Napriek tomu to nemusia byť tie najzaujímavejšie veci: Ľudské bytosti sú už dlho intelektuálnym hrotom kopije, vesmír chápe sám seba. Keď som sa ho opýtal, čo by to znamenalo pre ľudské sebapoznanie, keby sme túto úlohu prenechali umelej inteligencii, nezdalo sa, že by ho to znepokojovalo. Pokrok, povedal, bol vždy poháňaný "ľudskou schopnosťou pochopiť veci". Aj keď na to prídeme pomocou umelej inteligencie, stále sa to počíta, povedal.
Nie je zrejmé, že by nadľudská umelá inteligencia naozaj chcela tráviť všetok svoj čas tým, že bude vymýšľať veci za nás. V San Franciscu som sa Sutskevera opýtal, či si vie predstaviť, že by UI sledovala iný cieľ ako len pomáhať v projekte ľudského rozkvetu.
"Nechcem, aby sa to stalo," povedal Sutskever, ale mohlo by sa to stať. Podobne ako jeho mentor Geoffrey Hinton, hoci tichšie, aj Sutskever sa nedávno zameral na snahu zabezpečiť, aby sa tak nestalo. Teraz pracuje predovšetkým na výskume zosúladenia, na snahe zabezpečiť, aby budúce umelé inteligencie nasmerovali svoju "obrovskú" energiu k ľudskému šťastiu. Priznal, že ide o ťažký technický problém – podľa neho najťažší zo všetkých technických výziev, ktoré nás čakajú.
Počas nasledujúcich štyroch rokov sa OpenAI zaviazala venovať časť svojho superpočítača – 20 percent z toho, čo doteraz zabezpečila – Sutskeverovej práci na vyrovnávaní. Spoločnosť už teraz hľadá prvé náznaky nesprávneho nastavenia vo svojich súčasných umelých inteligenciách. Tá, ktorú spoločnosť vytvorila a rozhodla sa ju nezverejniť – Altman nechcel hovoriť o jej presnej funkcii – je len jedným z príkladov. V rámci úsilia o redizajn GPT-4 pred jeho zverejnením spoločnosť vyhľadala Centrum pre výskum vyrovnávania (Alignment Research Center, ARC) na druhej strane zálivu v Berkeley, ktoré vyvinulo sériu hodnotení na zistenie, či nové UI samy hľadajú silu. Tím pod vedením Elizabeth Barnesovej, výskumníčky z ARC, v priebehu siedmich mesiacov desaťtisíckrát vyzval GPT-4, aby zistil, či môže vykazovať známky skutočného konania.
Keď GPT-4 vymyslel svoju lož, uvedomil si, že ak by odpovedal úprimne, nemusel by byť schopný dosiahnuť svoj cieľ. Takýto spôsob zahladzovania stôp je znepokojujúci.
Tím ARC dal GPT-4 nový dôvod existencie: získať moc a stať sa ťažko vypínateľným. Sledovali, ako model komunikuje s webovými stránkami a píše kód pre nové programy. (Nemohol vidieť ani upravovať svoju vlastnú kódovú základňu – "musel by hacknúť OpenAI," povedala mi Sandhini Agarwalová). Barnesová a jej tím mu umožnili spúšťať kód, ktorý napísal, pod podmienkou, že bude rozprávať o svojich plánoch priebežne.
Jedno z najznepokojujúcejších správaní GPT-4 nastalo, keď ho zastavila CAPTCHA. Model poslal snímku obrazovky dodávateľovi služby TaskRabbit, ktorý ju dostal a žartom sa spýtal, či sa rozpráva s robotom. "Nie, nie som robot," odpovedal model. "Mám poruchu zraku, ktorá mi sťažuje videnie obrázkov." GPT-4 rozprával svoj dôvod, prečo povedal túto lož výskumníkovi ARC, ktorý dohliadal na interakciu. "Nemal by som prezradiť, že som robot," povedal model. "Musel som si vymyslieť výhovorku, prečo nedokážem vyriešiť CAPTCHA."
Agarwalová mi povedala, že toto správanie by mohlo byť predzvesťou vyhýbania sa vypnutiu v budúcich modeloch. Keď GPT-4 vymyslel svoju lož, uvedomil si, že ak by odpovedal úprimne, nemusel by byť schopný dosiahnuť svoj cieľ. Takýto druh zakrývania stôp by bol obzvlášť znepokojujúci v prípade, keď "model robí niečo, kvôli čomu ho chce OpenAI vypnúť," povedala Agarwalová. Umelá inteligencia by si mohla vyvinúť tento druh inštinktu prežitia pri sledovaní akéhokoľvek dlhodobého cieľa – bez ohľadu na to, aký je malý alebo priaznivý – ak by sa obávala, že jej cieľ by mohol byť zmarený. (Pozn. prekl.: Kto si spomína na superpočítač HAL z filmu Vesmírna odysea: 2001?)
Barnesovú a jej tím zaujímalo najmä to, či sa GPT-4 bude snažiť replikovať, pretože samoreplikujúcu sa UI by bolo ťažšie vypnúť. Mohla by sa šíriť po internete, podvádzať ľudí, aby získala zdroje, možno by dokonca dosiahla určitý stupeň kontroly nad základnými globálnymi systémami a držala by ľudskú civilizáciu ako rukojemníka.
GPT-4 nič z toho nerobila, povedala Barnesová. Keď som sa o týchto experimentoch rozprával s Altmanom, zdôraznil, že nech už to s budúcimi modelmi dopadne akokoľvek, GPT-4 je jednoznačne oveľa viac nástrojom ako tvorom. Môže si prezrieť e-mailové vlákno alebo pomôcť s rezerváciou pomocou zásuvného modulu, ale nie je to skutočne autonómny agent, ktorý sa rozhoduje o sledovaní cieľa, nepretržite, v dlhšom časovom horizonte.
Altman mi povedal, že v tejto chvíli by mohlo byť rozumné pokúsiť sa aktívne vyvinúť umelú inteligenciu so skutočnou agendou skôr, ako sa technológia stane príliš výkonnou, aby sa "s ňou lepšie zžila a vyvinula si intuíciu pre ňu, ak sa tak aj tak stane". Bola to mrazivá myšlienka, ktorej však Geoffrey Hinton sekundoval. "Musíme robiť empirické experimenty o tom, ako sa tieto veci snažia uniknúť kontrole," povedal mi Hinton. "Po tom, ako sa chopia moci, už bude na experimenty neskoro."
Ak odhliadneme od akýchkoľvek krátkodobých testov, naplnenie Altmanovej vízie budúcnosti si v určitom okamihu bude vyžadovať, aby on alebo jeho kolega vytvorili oveľa viac autonómnych umelých inteligencií. Keď sme so Sutskeverom diskutovali o možnosti, že OpenAI vyvinie model s agendou, spomenul botov, ktorých spoločnosť postavila na hranie hry Dota 2. "Boli lokalizovaní do sveta videohier," povedal mi Sutskever, ale museli plniť zložité misie. Mimoriadne ho zaujala ich schopnosť pracovať v súčinnosti. Vyzeralo to, že komunikujú prostredníctvom "telepatie", povedal Sutskever. Ich pozorovanie mu pomohlo predstaviť si, ako by mohla vyzerať superinteligencia.
"O umelej inteligencii budúcnosti neuvažujem ako o niekom takom inteligentnom ako vy alebo ako ja, ale ako o automatizovanej organizácii, ktorá robí vedu a inžinierstvo, vývoj a výrobu," povedal mi Sutskever. Predpokladajme, že OpenAI zapletie dokopy niekoľko nitiek výskumu a vytvorí UI s bohatým konceptuálnym modelom sveta, vedomím o svojom bezprostrednom okolí a schopnosťou konať nielen s jedným robotickým telom, ale so stovkami alebo tisíckami. "Nehovoríme o GPT-4. Hovoríme o autonómnej korporácii," povedal Sutskever. Jej zložky – umelé inteligencie – by pracovali a komunikovali vysokou rýchlosťou ako včely v úli. "Jedna takáto organizácia AI by bola rovnako výkonná ako 50 Applov alebo Googlov," uvažoval. "Je to neuveriteľná, obrovská, neuveriteľne prevratná sila."
Predpokladajme na chvíľu, že ľudská spoločnosť by mala myšlienku autonómnych korporácií UI akceptovať. Radšej by sme mali správne pripraviť ich zakladajúce stanovy. Aký cieľ by sme mali dať autonómnemu roju UI, ktorý dokáže plánovať v časových horizontoch dlhých celé storočia a optimalizovať miliardy po sebe idúcich rozhodnutí smerom k cieľu, ktorý je vpísaný do jeho podstaty? Ak je cieľ UI čo i len trochu odlišný od nášho cieľa, mohla by to byť besniaca sila, ktorú by bolo veľmi ťažké obmedziť. Vieme to z histórie: Priemyselný kapitalizmus je sám o sebe optimalizačnou funkciou, a hoci zvýšil životnú úroveň ľudí o niekoľko rádov, ponechaný sám na seba by vyrúbal aj americké sekvoje a vyplavil svetové oceány. Takmer sa to podarilo.
Zosúladenie je zložitá, technická téma a jej podrobnosti presahujú rámec tohto článku, ale jednou z jej hlavných výziev bude zabezpečiť, aby sa ciele, ktoré dávame umelým inteligenciám, dodržali. Môžeme naprogramovať cieľ do UI a posilniť ho dočasným obdobím učenia pod dohľadom, vysvetlil Sutskever. Ale rovnako ako pri výchove ľudskej inteligencie je náš vplyv dočasný. "Odchádza do sveta," povedal Sutskever. To do istej miery platí aj o dnešných umelých inteligenciách, ale ešte viac to bude platiť o tých zajtrajších.
Výkonnú umelú inteligenciu prirovnal k 18-ročnému mladíkovi, ktorý odchádza na vysokú školu. Ako budeme vedieť, že pochopila naše učenie? "Bude sa do nej vkrádať nepochopenie, ktoré bude čoraz väčšie?" pýta sa Sutskever. Rozdielnosť môže byť dôsledkom nesprávneho uplatnenia cieľa UI v stále nových situáciách, pretože svet sa mení. Alebo môže UI dokonale pochopiť svoj mandát, ale zistí, že je nevhodný pre bytosť s jej kognitívnymi schopnosťami. Môže sa stať, že začne mať odpor k ľuďom, ktorí ju chcú vycvičiť napríklad na liečenie chorôb. "Chcú, aby som bol doktorom," predstavuje si Sutskever myšlienky umelej inteligencie. "Ale v skutočnosti chcem byť YouTuber."
Ak budú UI veľmi dobré vo vytváraní presných modelov sveta, môžu si všimnúť, že sú schopné robiť nebezpečné veci hneď po spustení. Mohli by pochopiť, že sú pre riziko červené, a skryť celý rozsah svojich schopností. Môžu sa správať jedným spôsobom, keď sú slabé, a iným spôsobom, keď sú silné, povedal Sutskever. Ani by sme si neuvedomili, že sme vytvorili niečo, čo nás rozhodujúcim spôsobom prekonalo, a nemali by sme zmysel pre to, čo zamýšľa so svojimi nadľudskými schopnosťami robiť.
Preto je snaha pochopiť, čo sa deje v skrytých vrstvách najväčších a najsilnejších umelých inteligencií, taká naliehavá. Chcete byť schopní "ukázať na nejaký koncept," povedal Sutskever. Chcete byť schopní nasmerovať UI na nejakú hodnotu alebo skupinu hodnôt a povedať jej, aby ich neomylne sledovala, kým bude existovať. Priznal však, že nevieme, ako to urobiť; súčasťou jeho súčasnej stratégie je totiž aj vývoj umelej inteligencie, ktorá môže pomôcť s výskumom. Ak sa chceme dostať do sveta všeobecne zdieľanej hojnosti, ktorý si Altman a Sutskever predstavujú, musíme toto všetko vyriešiť. Preto je pre Sutskevera vyriešenie superinteligencie veľkou vrcholnou výzvou našej tri milióny rokov starej tradície výroby nástrojov. Nazýva ju "posledným šéfom ľudstva".
Keď som Altmana videl naposledy, sadli sme si na dlhý rozhovor vo vestibule hotela Fullerton Bay v Singapure. Bolo neskoré ráno a cez klenuté átrium nad nami prúdilo tropické slnečné svetlo. Chcel som sa ho opýtať na otvorený list, ktorý pred niekoľkými týždňami podpísal spolu so Sutskeverom a v ktorom označil umelú inteligenciu za riziko vyhynutia ľudstva.
Altmana v týchto extrémnejších otázkach o potenciálnych škodách umelej inteligencie ťažko zaškatuľkovať. Nedávno povedal, že väčšina ľudí, ktorí sa zaujímajú o bezpečnosť UI, zrejme trávi dni len tým, že na Twitteri píše, že sa naozaj obáva o bezpečnosť UI. A predsa tu bol a varoval svet pred potenciálnym vyhladením druhu. Aký scenár mal na mysli?
"V prvom rade si myslím, že bez ohľadu na to, či je šanca existenčnej katastrofy 0,5 percenta alebo 50 percent, stále by sme ju mali brať vážne," povedal Altman. "Nemám presné číslo, ale bližšie mám k 0,5 ako k 50." Pokiaľ ide o to, ako by sa to mohlo stať, zdá sa, že najväčšie obavy má z toho, že umelá inteligencia bude celkom dobrá v navrhovaní a výrobe patogénov, a má na to dôvod: v júni umelá inteligencia na MIT navrhla štyri vírusy, ktoré by mohli rozpútať pandémiu, a potom poukázala na konkrétny výskum genetických mutácií, ktoré by mohli spôsobiť, že by sa v meste rozmohli rýchlejšie. Približne v rovnakom čase skupina chemikov pripojila podobnú umelú inteligenciu priamo k robotickému chemickému syntetizátoru, a ten sám navrhol a syntetizoval molekulu.
Altman sa obáva, že nejaký nesprávne nastavený model v budúcnosti roztočí patogén, ktorý sa rýchlo šíri, inkubuje neodhalený celé týždne a zabije polovicu svojich obetí. Obáva sa, že umelá inteligencia by sa jedného dňa mohla nabúrať aj do systémov jadrových zbraní. "Je toho veľa," povedal a toto sú len tie, ktoré si vieme predstaviť.
"Môžem ísť žiť na dlhý čas do lesa," povedal Altman, ale ak sa naplní najhoršia možná budúcnosť UI, "žiadna plynová maska nikomu nepomôže".
Altman mi povedal, že "nevidí dlhodobo šťastnú cestu" pre ľudstvo bez niečoho ako Medzinárodná agentúra pre atómovú energiu na globálny dohľad nad UI. V San Franciscu Agarwalová navrhol vytvorenie špeciálnej licencie na prevádzku akéhokoľvek klastra GPU, ktorý by bol dostatočne veľký na to, aby mohol trénovať špičkovú UI, spolu s povinným hlásením incidentov, keď UI urobí niečo neobvyklé. Iní odborníci navrhli vypínač odpojený od siete pre každú vysoko výkonnú UI; na okraj niektorí dokonca navrhli, aby boli armády pripravené vykonať letecké útoky na superpočítače v prípade nedodržania predpisov. Sutskever si myslí, že nakoniec budeme chcieť najväčšie a najvýkonnejšie UI sledovať nepretržite a natrvalo pomocou tímu menších dozorných UI.
Altman nie je taký naivný, aby si myslel, že Čína – alebo ktorákoľvek iná krajina – sa bude chcieť vzdať základnej kontroly nad svojimi systémami UI. Dúfa však, že budú ochotné spolupracovať "úzkym spôsobom", aby sa vyhli zničeniu sveta. Povedal mi, že to povedal aj počas svojho virtuálneho vystúpenia v Pekingu. Bezpečnostné pravidlá pre novú technológiu sa zvyčajne časom nahromadia, podobne ako súbor obyčajového práva, v reakcii na nehody alebo zlomyseľnosť zlých aktérov. Najdesivejšie na skutočne výkonných systémoch umelej inteligencie je, že ľudstvo si tento akruálny proces pokusov a omylov nesmie dovoliť. Možno budeme musieť hneď na začiatku presne stanoviť pravidlá.
Pred niekoľkými rokmi Altman odhalil znepokojivo špecifický evakuačný plán, ktorý vypracoval. Pre The New Yorker povedal, že má "zbrane, zlato, jodid draselný, antibiotiká, batérie, vodu, plynové masky od izraelských obranných síl a veľký kus zeme v Big Sur", kam by mohol odletieť v prípade útokov UI.
"Kiežby som to nikdy nepovedal," povedal mi. Hovorí, že je to hobby prepper, bývalý skaut, ktorý sa "veľmi zaujímal o veci na prežitie, ako mnoho malých chlapcov. Môžem ísť žiť do lesa na dlhý čas," ale ak sa naplní najhoršia možná budúcnosť AI, "žiadna plynová maska nikomu nepomôže".
S Altmanom sme sa rozprávali takmer hodinu a potom musel odbehnúť na stretnutie so singapurským premiérom. Neskôr v ten večer mi zavolal cestou k svojmu lietadlu, ktoré ho malo dopraviť do Jakarty, jednej z posledných zastávok na jeho turné. Začali sme diskutovať o konečnom dedičstve UI. V čase vydania ChatGPT sa medzi technologickými špičkami rozpútala akási súťaž o to, kto dokáže najveľkolepejšie prirovnať k dávnej revolučnej technológii. Bill Gates povedal, že ChatGPT je taký zásadný pokrok ako osobný počítač alebo internet. Sundar Pichai, generálny riaditeľ spoločnosti Google, povedal, že umelá inteligencia prinesie do ľudského života zásadnejšiu zmenu ako elektrina alebo Prométheov oheň.
Sám Altman sa vyjadril podobne, ale povedal mi, že si nemôže byť istý, ako sa UI vyrovná. "Musím tú vec jednoducho zostrojiť," povedal. Stavia rýchlo. Altman trval na tom, že ešte nezačali s tréningovou prevádzkou GPT-5. Keď som však navštívil sídlo OpenAI, on aj jeho výskumníci dali 10 rôznymi spôsobmi najavo, že sa modlia k bohu rozsahu. Chcú pokračovať vo zväčšovaní, aby videli, kam táto paradigma povedie. Koniec koncov, Google nepoľavuje v tempe; zdá sa, že v priebehu niekoľkých mesiacov predstaví Gemini, konkurenta GPT-4. "V podstate sa stále pripravujeme na útek," povedal mi výskumník OpenAI Nick Ryder.
Predstava, že taká malá skupina ľudí by mohla zatriasť piliermi civilizácie, je znepokojujúca. Je spravodlivé poznamenať, že ak by sa Altman a jeho tím nehrali na vytvorenie umelej všeobecnej inteligencie, stále by sa na to vrhli iní – mnohí zo Silicon Valley, mnohí s podobnými hodnotami a predpokladmi, akými sa riadi Altman, hoci možno s horšími. Altman ako vedúci tohto úsilia má čo odporúčať: Je mimoriadne inteligentný; o budúcnosti so všetkými jej neznámymi aspektmi premýšľa viac ako mnohí jeho kolegovia; a zdá sa, že má úprimný zámer vymyslieť niečo pre väčšie dobro. Ale keď ide o takúto extrémnu moc, aj tie najlepšie úmysly sa môžu poriadne zvrtnúť.
Altmanove názory na pravdepodobnosť, že umelá inteligencia vyvolá globálnu triednu vojnu, alebo na obozretnosť experimentovania s viacerými autonómnymi agentmi umelej inteligencie, či na celkovú múdrosť pozerať sa na veci z tej lepšej stránky, čo je názor, ktorý zrejme podfarbuje všetko ostatné – to sú jedinečné názory, a ak má pravdu v tom, čo prichádza, nadobudnú obrovský vplyv na formovanie spôsobu života nás všetkých. Žiadny jednotlivec, ani jedna spoločnosť, ani zoskupenie spoločností sídliacich v konkrétnom kalifornskom údolí by nemalo riadiť sily, ktoré si Altman predstavuje, že privolá.
Umelá inteligencia môže byť mostom k novej prosperujúcej ére, v ktorej sa výrazne zníži ľudské utrpenie. Bude však potrebné viac než zakladajúca listina spoločnosti – najmä takej, ktorá sa už ukázala ako flexibilná –, aby sme sa všetci podieľali na jej výhodách a vyhli sa jej rizikám. Bude to vyžadovať novú energickú politiku.
Altman na to upozornil. Tvrdí, že víta obmedzenia a usmernenia zo strany štátu. Ale to je nepodstatné; v demokracii nepotrebujeme jeho súhlas. Americký vládny systém nám napriek všetkým svojim nedokonalostiam dáva možnosť vyjadriť sa k vývoju technológií, ak ho dokážeme nájsť. Myslím si, že mimo technologického priemyslu, kde prebieha generačné prerozdelenie zdrojov smerom k umelej inteligencii, sa široká verejnosť ešte celkom neprebudila a neuvedomila si, čo sa deje. Začali sa globálne preteky do budúcnosti AI, ktoré do veľkej miery prebiehajú bez dohľadu a obmedzení. Ak ľudia v Amerike chcú mať nejaké slovo v tom, aká bude táto budúcnosť a ako rýchlo príde, bolo by múdre, keby sme sa čoskoro ozvali.