ANATÓMIA PREVRATU V OBLASTI AI

Karen Hunt alias KH Mezek, 15. februára 2025

DOGE ruší federálne agentúry, aby zaviedol umelú inteligenciu v celej vláde. Demokracia je v ohrození, píše Eryk Salvaggio z Tech Policy Press.

Dobre si uvedomujem, že tým, čo tu napíšem, môžem prísť o predplatiteľov. Získavanie predplatiteľov však nikdy nebolo cieľom môjho písania pre Break Free Media. Jedného dňa odídem a toto je môj odkaz, ktorý po sebe zanechávam. Píšem to, čo mi leží na srdci.

Elon Musk mal nedávno tlačovú konferenciu o DOGE, v Oválnej pracovni, na ktorej priviedol svojho syna X, ktorého v poslednom čase všade vodí so sebou. Nepamätám si, že by to Melania robila s Barronom. Ani X-ova matka z toho nie je nadšená, ale čo už, ona nemá absolútne žiadne slovo. Čo sa stalo, si môžete pozrieť tu.
Samozrejme, pre vládu je prospešné, ak sa stane efektívnejšou a zbaví sa plytvania. Chcem, aby sa skončilo DEI, muži v ženských priestoroch a podobné veci. Ale vždy sú tu povrchné veci, ktoré odvádzajú pozornosť od toho, čo sa naozaj deje.
Napadlo mi, že ak sa podelím o to, čo povedal niekto iný, možno to bude užitočné. Nebola by som to len ja, kto sa opäť raz správa skleslo, ako to mám vo zvyku, keď hovorím o miliardároch a UI. Nesúhlasím so všetkým, čo Eryk Salvaggio hovorí. Netuším, či je liberál alebo konzervatívec, ale pravdepodobne sa prikláňa k liberalizmu. Je mi to jedno, keďže nepatrím do žiadnej skupiny. Nikdy v živote som sa nezaregistrovala v žiadnej politickej strane. Moja vernosť nepatrí nikomu, iba Bohu. Počúvam rôzne názory, aby som mohla vyvodiť informovanejšie závery. Vždy som bola taká, ale teraz viac ako kedykoľvek predtým, aj keď len preto, aby som zmiatla algoritmy.
Keď si v tejto eseji prečítate niektoré veci, s ktorými nesúhlasíte, napríklad to, ako hovorí o DEI, skúste sa cez to preniesť a pozrieť sa trochu hlbšie. Niekedy je zdravé počúvať ľudí, ktorých by ste možno nikdy nepočuli, pretože algoritmy vám ich nikdy nebudú podsúvať.
Nie je banda miliardárov a ich umelá inteligencia, ktorá preberá kontrolu nad našimi životmi, nad každým aspektom nášho života, niečo ako skok z panvice do ohňa? Aspoň môžeme voliť politikov. Keď AI nainštalujú muži, ktorí ju ovládajú, muži, ktorých nikto nikdy nezvolili do mocenských pozícií, ako sa ich zbavíte?
Pamätáte si, keď všetci konzervatívci varovali pred Novým svetovým poriadkom? Akoby to všetko bol len nejaký sen. Pretože to, čo sa deje teraz, je presne definíciou Nového svetového poriadku. Až na to, že všetci konzervatívci sú presvedčení, že to tak nie je, a sú z toho nadšení. Úžasné, ako sa všetko môže tak geniálne prevrátiť.
Každopádne, tu je esej Eryka Salvaggia z 8. februára 2025. Dúfam, že to bude užitočné.

---

ANATÓMIA PREVRATU V OBLASTI AI

Umelá inteligencia (AI/UI) je technológia na výrobu výhovoriek. Hoci jej chýbajú jasné definície alebo nástroje na hodnotenie, AI napriek tomu uchvátila predstavivosť politikov a manažérov vo vláde, akademickej sfére a priemysle. To, čo však umelá inteligencia dokáže najlepšie, sú ospravedlnenia. Ak chcete, aby zmizla pracovná sila, regulačná byrokracia alebo zodpovednosť, jednoducho poviete: „AI to dokáže.“ Potom sa rozhovor presunie od vysvetľovania, prečo by tieto veci mali alebo nemali zmiznúť, k otázkam, ako by AI fungovala na ich mieste.
Sme uprostred politického prevratu, ktorý by v prípade úspechu navždy zmenil povahu americkej vlády. Neodohráva sa na uliciach. Neexistuje žiadne stanné právo. Odohráva sa miestnosť po miestnosti vo federálnych agentúrach a vo všednej automatizácii byrokracie. Odôvodnenie je založené na mýte o produktivite, podľa ktorého je cieľom byrokracie len to, čo produkuje (služby, informácie, riadenie), a možno ho oddeliť od procesu, ktorým demokracia dosahuje tieto ciele: diskusie, porady a konsenzu.
Umelá inteligencia sa potom stáva nástrojom na nahradenie politiky. Trumpova administratíva rámcuje generatívnu AI ako liek na „vládne plytvanie“. To, čo sa snaží automatizovať, však nie je papierovanie, ale demokratické rozhodovanie. Elon Musk a jeho Ministerstvo pre efektívnosť vlády (DOGE) vsádzajú na populárny, ale falošný klam, že technológie predpovedania slov robia zmysluplné závery o svete. Využívajú ich na to, aby obišli dohľad Kongresu nad rozpočtom, ktorý je podľa ústavy prideľovaním zdrojov na vládne programy prostredníctvom zastupiteľskej politiky.
Hoci sa diskusia o prevrate umelej inteligencie môže zdať konšpiračná alebo paranoidná, je banálna. Na rozdiel od neustálych tvrdení Muska a jeho prívržencov o „existenčnom riziku“, ktorí si predstavujú, že umelá inteligencia ovládne svet prostredníctvom hrubej sily, prevrat v oblasti umelej inteligencie vychádza z kolektívneho rozhodnutia o tom, koľko moci odovzdáme strojom. Je to politické vykladanie, ktoré presúva špinavú prácu spojenú s víťazstvom v politických diskusiách na falošnú autoritu strojovej analýzy. Je to spôsob, ako vytlačiť kolektívne rozhodovanie, ktoré je jadrom zastupiteľskej politiky.

Aktéri

Môžeme si pripraviť scénu tým, že opíšeme herecké obsadenie. V práci Elona Muska na čiastočný úväzok v DOGE zastáva hlavnú úlohu. Jeho tím sa snaží využívať generatívnu umelú inteligenciu na hľadanie rozpočtových úspor, aj keď vyprázdňuje štátnu službu. Subjekt DOGE sa už pokúsil prevziať počítačový systém ministerstva financií na rozdeľovanie finančných prostriedkov a fakticky rozpustil USAID. Musk dúfa, že prinesie „stratégiu AI-first“ pre vládne agentúry, ako napríklad GSAi, „vlastný generatívny chatbot AI pre americký Úrad všeobecných služieb (GSA)“.
Touto úlohou je poverený Thomas Shedd, bývalý inžinier spoločnosti Tesla, ktorý teraz pôsobí ako riaditeľ technologických transformačných služieb General Services Administration. Shedd uviedol, že „federálna vláda potrebuje centralizované úložisko údajov“ na analýzu vládnych zákaziek napriek pochybnej zákonnosti týkajú cej sa uchovávania údajov a ochrany súkromia.
Potom je tu podporné obsadenie. Prvým je tím drobných hráčov, ktorí slúžia ako operátori DOGE. Títo inžinieri, niektorí údajne vo veku 19 až 24 rokov, prišli do rôznych vládnych agentúr, aby prevzali kontrolu nad počítačovými systémami bez toho, aby uviedli svoje celé meno alebo svoj účel. Hoci najmladší z nich práve ukončil strednú školu, táto posádka zasahovala do sietí v Centrách pre kontrolu chorôb a Centrách pre lieky a zdravotnícke služby, pričom Musk odmietol diskutovať o tom, čo DOGE s údajmi robí. Piateho februára začali „dolovať údaje“ o dávkach pre veteránov a záznamoch o kompenzáciách za invaliditu ministerstva pre záležitosti veteránov. Zoznam pokračuje.
Nakoniec tu máme údajných dospelých. V Trumpovom výkonnom nariadení o pokroku v oblasti umelej inteligencie prezident vyzýva na „systémy umelej inteligencie, ktoré sú bez ideologickej zaujatosti alebo vykonštruovaných sociálnych programov“, a na zrušenie „smerníc, ktoré pôsobia ako prekážky amerických inovácií v oblasti umelej inteligencie“, ktorých plán vypracuje nový cár pre umelú inteligenciu a kryptografiu, rizikový kapitalista David Sacks. K Sacksovi sa v tejto úlohe pridá architekt Projektu 2025 Russell Vought ako šéf Úradu pre riadenie a rozpočet (OMB) a bývalý a súčasný technologický riaditeľ Bieleho domu Trumpovej administratívy a kandidát na riaditeľa Úradu Bieleho domu pre vedeckú a technologickú politiku Michael Kratsios.

Plán

Uprostred chaosu vo Washingtone budú firmy zo Silicon Valley pokračovať v argumentácii, že sú riešením. V blízkej budúcnosti môžeme očakávať ďalšie priemyselné oznámenie o radikálnej novej schopnosti umelej inteligencie. OpenAI môže opäť vyhlásiť, že dosiahne inteligenciu na úrovni doktorandov (ako v septembri 2024 a opäť v januári 2025), alebo DOGE môže spustiť nového chatbota vyškoleného na vládnych údajoch.
Po mesiacoch zosmiešňovania štátnej správy za neschopnosť a výkrikov o prebudenej (woke) politike akademických výskumných inštitúcií sa z každého takéhoto oznámenia pravdepodobne vynorí nový blud o predpovedaní slov. V tomto príbehu príjemcovia prevratu v oblasti umelej inteligencie oznámia dokonalé riešenie zlyhaní vlády a ich hanobeného záväzku k rozmanitosti, rovnosti a inklúzii vo vede. Riešením bude „centralizované úložisko údajov“ napojené na chatbota a súbor sľubov.
Shedd takýto projekt opísal na nahrávke na stretnutí so svojím novým tímom:

Pretože ako všetci viete, s tým, ako znižujeme celkovú veľkosť federálnej vlády, stále existuje kopec programov, ktoré musia existovať, čo je táto obrovská príležitosť pre technológie a automatizáciu, ktorá sa môže naplno prejaviť, a preto ste vy všetci takí kľúčoví a rozhodujúci pre túto ďalšiu fázu... Je čas na budovanie, pretože, ako som hovoril, dopyt po technických službách pôjde hore.

Aby slúžila svojmu účelu, akákoľvek tu nasadená generatívna umelá inteligencia by nemusela byť dobrá v rozhodovaní, ba dokonca by vôbec nemusela predvádzať nejaké nové schopnosti. Musí sa len považovať za hodnoverného konkurenta ľudského rozhodovania na dostatočne dlhý čas, aby vytlačila súčasných ľudských rozhodovateľov v štátnej službe, pracovníkov, ktorí stelesňujú hodnoty a poslanie inštitúcie. Po ich nahradení sa stratí ľudské poznanie, ktoré vytvára inštitúciu.
Po ukončení činnosti zamestnancov už inštitúcia nie je sama sebou. Trump a Musk ju môžu posunúť k akémukoľvek účelu zapísanému do systémovej výzvy chatbota a usmerniť druh výstupu, ktorý smie poskytnúť používateľovi.
Potom môže automatizovaný systém zlyhať – ale to je vlastnosť, nie chyba. Pretože ak systém zlyhá, elita zo Silicon Valley, ktorá ho vytvorila, si zabezpečí miesto v novom technickom režime. Tento režim sústreďuje moc u tých, ktorí rozumejú tomuto systému a kontrolujú jeho údržbu, údržbu a aktualizácie. Akékoľvek zlyhanie by tiež urýchlilo snahy o presunutie práce na súkromných dodávateľov. ChatGPTGov spoločnosti OpenAI je ukážkovým príkladom systému, ktorý je pripravený vstúpiť do hry. Presunutím vládnych rozhodnutí na systémy AI, o ktorých musia vedieť, že sú nevhodné, sa tieto technologické elity vyhnú politickej diskusii, ktorú by pravdepodobne prehrali. Namiesto toho vytvárajú celonárodnú IT krízu, ktorú môžu vyriešiť len oni.

Oslabenie opozície

Keď technická elita integruje generatívnu AI do vyprázdnených inštitúcií, administratíva bude pokračovať vo svojom úsilí o likvidáciu nezávislých výskumných inštitúcií. Trump v roku 2023 viedol kampaň za „americkú univerzitu“ , online zdroj prezentujúci „študijné skupiny, mentorov, priemyselné partnerstvá a najnovšie prelomové objavy v oblasti výpočtovej techniky“, ktorá „bude prísne nepolitická a nebude v nej povolený žiadny wokeizmus ani džihádizmus“. Trump navrhol, aby sa Americká univerzita financovala „zdaňovaním, pokutovaním a žalovaním nadmerne veľkých súkromných univerzitných fondov“.
Dajte to dokopy s údajným systémom Trumpovej administratívy založeným na kľúčových slovách, ktorý odmieta výskumné granty aj len okrajovo zamerané na rozmanitosť a inklúziu. Mnohé z toho ovplyvní vedecký výskum univerzít a ich financie. Nakoniec by to mohlo spôsobiť krízu, v dôsledku ktorej by vysoké školstvo, ktorého záväzky v oblasti rozmanitosti sú už vykastrované, mohlo vyhladovať. Oslabený ekosystém univerzitného výskumu by posilnil súkromný sektor tým, že by lákal vedcov do svojich laboratórií, čím by sa znížil dohľad nad nezávislým výskumom.
Zoznamy nahlásených kľúčových slov, ktoré označujú žiadosť o grant na zamietnutie Národnou vedeckou nadáciou, obsahujú výrazy spojené s oslabovaním umelej inteligencie. Odborníci už dlho vedia, že algoritmické systémy sú zaujaté voči väčšine, pretože uprednostňujú štatisticky dominantné vzorky. Slová používané vo výskume na skúmanie a riešenie algoritmickej zaujatosti – vrátane slova „predpojatosť“ – sú však teraz červenými vlajkami pre financovanie. V súvislosti so štúdiom algoritmickej zaujatosti sa hojne vyskytujú aj iné relevantné slová, ako napríklad štúdium „nedostatočne zastúpených“ populácií alebo „systémové“ zaujatosti v tréningových údajoch. To všetko je súčasťou Trumpovho sľubu vylúčiť „radikálne ľavicové myšlienky“ o umelej inteligencii.
Zabratie dohľadu Kongresu nad vládnymi výdavkami a programami uzákonenými zákonom a ich odovzdanie automatizovanému systému by bolo prvým znakom, že prevrat v oblasti UI je dokonaný. Znamenalo by to prechod od demokratického riadenia k technokratickému automatizmu, v ktorom inžinieri určujú, ako kooptovať financovanie Kongresu smerom k cieľom výkonnej moci. Odmietnutie podeliť sa o náhľad na výstupy systému – odkázanie na kombináciu bezpečnostných alebo dokonca komerčných obáv a mýtov o „čiernych skrinkách“ neurónových sietí – by ho ochránilo pred akoukoľvek skutočnou kontrolou zo strany Kongresu.
Cieľom DOGE je nahradiť vládnu byrokraciu technickou infraštruktúrou. Zvrátenie a odstránenie závislostí zakotvených v infraštruktúre je pomalé a náročné, najmä ak sú zakázané snahy o štúdium systémovej zaujatosti. Prísady na „technofašizmus“ sa poskladajú.

Vytváranie krízy

Nakoniec nekvalitná infraštruktúra týchto automatizovaných vládnych agentúr a služieb vytvorí jazyk alebo kód, ktorý vytvorí národnú krízu poháňanú umelou inteligenciou. Keďže žiadny systém umelej inteligencie nie je v súčasnosti vhodný na komplexnú úlohu riadenia, zlyhanie je nevyhnutné. Nasadenie tohto systému je aj tak ľudské rozhodnutie a ľudia by mali niesť zodpovednosť.
Konštruktéri AI nám opakovane povedali, že predstavuje hrozbu podobnú atómovej bombe.
Langdon Winner kedysi napísal, že infraštruktúrne požiadavky štátu s jadrovými zbraňami „si vyžadujú, aby bol riadený centralizovaným, prísne hierarchickým velením uzavretým pred všetkými vplyvmi, ktoré by mohli spôsobiť nepredvídateľnosť jeho fungovania. Vnútorný sociálny systém bomby musí byť autoritatívny, iná cesta neexistuje.“
Bomba predstavuje skutočné riziko pre ľudský život. Winner však varuje, že samotné vnímanie rizika technológie môže inšpirovať sociálnu rigiditu okolo jej používania, ktorá sa prenáša do spoločnosti. Čo sa stane, keď „atómovou bombou“ bude systém umelej inteligencie, ktorý si nárokuje automatizovať rozhodnutia v rámci demokratickej vlády?

Opakované, nejasné varovania pred nebezpečenstvami umelej generatívnej inteligencie od Sama Altmana, Elona Muska a ďalších ľudí utvrdili verejnosť v tom, že takáto hrozba je na obzore. Tvrdia, že spájanie slov do presvedčivých usporiadaní povedie k nášmu fyzickému zániku.

Žiaľ, mnohí zákonodarcovia tomuto mýtu veria. Roky dvojstranného lobovania skupín úzko zameraných na „existenčné riziká“ umelej inteligencie ju postavili do pozície bezpečnostnej hrozby ovládateľnej len technickou elitou Silicon Valley. Tí sú teraz pripravení profitovať z akejkoľvek krízy.
Keďže automatizované systémy nemôžu zabezpečiť bezpečný kód, pravdepodobné scenáre zahŕňajú únik údajov k protivníkovi. V zhone budovania na úkor bezpečnosti môžu tímy nasadiť softvér a platformy napísané umelou inteligenciou priamo. Vygenerovaný kód by mohol napríklad implementovať bezpečnostné opatrenia závislé od externých alebo kompromitovaných prostriedkov. To môže byť najlepší scenár zlyhania. Alternatívy zahŕňajú „halucinácie“ o citlivých alebo zásadných údajoch, ktoré by mohli vyslať kaskádové efekty prostredníctvom automatizovaných závislostí s fyzickými, fatálnymi sekundárnymi dôsledkami.
Ako by mohli USA reagovať? Nedávny vznik DeepSeek – lacnejšieho a efektívnejšieho čínskeho veľkojazyčného modelu – poskytuje návod na hru. Politici oboch strán reagovali na odhalenie cenovo dostupnejšej a energeticky menej náročnej umelej inteligencie deklarovaním svojho záväzku voči americkým spoločnostiam zaoberajúcim sa umelou inteligenciou a ich prístupom. Kríza by poskytla ďalšiu obojstrannú príležitosť na odôvodnenie ďalších investícií v mene politiky USA zameranej na AI.

Algoritmický odpor

Prevrat v oblasti AI nevznikol len spojením Donalda Trumpa a Elona Muska. Zrodil sa z postupov a presvedčení, ktoré sú dnes medzi ideológmi zo Silicon Valley štandardom a ktoré sú väčšine Američanov neznáme. Slabinou technologického priemyslu však je, že nikdy nepochopil emocionálnu a sociálnu zložitosť skutočných ľudských bytostí.
Mnohé z toho, čo som opísal vyššie, predpokladá pasívnu verejnosť, poddajnú byrokraciu a nič nerobiaci Kongres. Predpokladá, že pôsobenie v právnej šedej zóne je spôsob, ako sa vyhnúť súdnemu dohľadu. Táto taktika je dobre známa v Silicon Valley, kde sú technické inovácie čoraz zriedkavejšie, ale vyhýbanie sa právnym predpisom je bežné.
Rýchlosť je pre ich prácu nevyhnutná. Vedia, že nemôžu vytvoriť verejný konsenzus pre toto úsilie a musia sa pohnúť skôr, ako sa začne formovať. Rýchlym postupom a rozbíjaním vecí si DOGE vynucuje kolaps systému, v ktorom sa nezodpovedané otázky stretávajú s technologickými riešeniami. Presunutie diskusie na technické otázky je spôsob, ako zablokovať tvorcov politiky a verejnosť pri rozhodovaní a presunúť túto moc na kód, ktorý píšu.
Prevrat v oblasti umelej inteligencie závisí od rámca efektívnosti vlády. To vytvára pascu pre demokratických predstaviteľov, kde sa argumentácia za zachovanie vládnych služieb – a vládnych zamestnancov – bude pretvárať ako podpora vládneho plytvania. Je to však aj príležitosť. Umelá inteligencia dosahuje „efektívnosť“ tým, že odstraňuje služby. AI, podobne ako predtým Big Data, môže využiť pohodlie a efektívnosť na podporu tvrdení o rozšírení digitálneho dohľadu a odstránení demokratických procesov pri súčasnom znížení zodpovednosti.
Nenechajte sa chytiť do pasce. Demokratická účasť a zastupiteľská politika vo vláde nie sú „plytvanie“. Argumenty by sa nemali zameriavať ani na technické limity konkrétnych systémov, keďže technologické elity neustále revidujú očakávania smerom nahor prostredníctvom nekonečných prísľubov exponenciálnych zlepšení. Argumentom musí byť, že žiadny počítačový systém by nemal nahradiť hlas voličov. Nepýtajte sa, či sa dá stroju dôverovať. Pýtajte sa, kto ich ovláda.

Ak sa Vám tento preklad páčil a viete o niekom, koho by mohol zaujať, s kľudným svedomím ho prepošlite komukoľvek vo svojom zozname spriaznených duší…

---

Tento článok bol pôvodne uverejnený v TechPolicy.Press.
Eryk Salvaggio je kombináciou hackera, výskumníka, dizajnéra a mediálneho umelca, ktorý skúma sociálne a kultúrne vplyvy technológií vrátane umelej inteligencie. Je hosťujúcim profesorom programu Humanities, Computing and Design na Rochester Institute of Technology v roku 2025 a inštruktorom zodpovednej umelej inteligencie na Elisavskej škole dizajnu a inžinierstva v Barcelone. Popri výskume v oblasti umelej inteligencie, umenia a vzdelávania v MetaLab (na) Harvardovej univerzite pôsobí ako poradca pre výskum nových technológií v Siegel Family Endowment a spolupracovník 2025 Tech Policy Press. Píše pravidelný newsletter na stránke cyberneticforests.com.

---

preklad: Kishitusumo Takadonomi –>https://tinyurl.com/yxxk3y9a

---

---

---