Když se akciové trhy otevřely minulé pondělí ráno, 26. února, akcie Google okamžitě klesly o 4 %, ve středu klesly téměř o 6 % ao týden později nyní klesly o 8 %. Byla to nepřekvapivá reakce na rozpačitý debut firemního generátoru obrázků Gemini, který se Google rozhodl vytáhnout po pouhých pár dnech celosvětového posměchu.
Generální ředitel Sundar Pichai označil selhání za „zcela nepřijatelné“ a ujistil investory, že jeho týmy „pracují nepřetržitě“ na zlepšení přesnosti AI. Budou lépe prověřovat budoucí produkty a zavádění bude hladší, trval na svém.
To vše může být pravda. Ale pokud si někdo myslí, že tato epizoda je převážně o ostentativně probuzených kresbách, nebo pokud si myslí, že Google dokáže rychle opravit zaujatost svých produktů AI a vše se vrátí do normálu, nechápe šíři a hloubku desetiletého infowarp.
Hypervizuální šílenství Blíženců je pouze posledním a nejzřetelnějším projevem digitálního převratu, který již dávno probíhá. Navíc předvádí nový druh inovátorovo dilema které ani ty nejlépe míněné a přemýšlivé Big Tech společnosti nemusí být schopny úspěšně procházet.
Debut Blíženců
V prosinci Google představil svůj nejnovější model umělé inteligence s názvem Gemini. Podle počítačových benchmarků a mnoha zkušených uživatelů se schopnost Gemini psát, zdůvodňovat, kódovat a reagovat na požadavky úkolů (jako je plánování cesty) konkurovala nejvýkonnějšímu modelu OpenAI, GPT-4.
První verze Gemini však neobsahovala generátor obrázků. OpenAI DALL-E a konkurenční nabídky od Midjourney a Stable Diffusion se v posledním roce dostaly na scénu s ohromujícím digitálním uměním. Požádejte o impresionistickou malbu nebo realistický fotografický portrét a dodají krásné ztvárnění. Zcela nová Sora od OpenAI vytváří úžasná jednominutová videa v kino kvalitě na základě jednoduchých textových výzev.
Koncem února pak Google konečně vydal vlastní generátor obrázků Genesis a nastalo peklo.
Už jste viděli obrázky – indické papežky, černí vikingové, asijští otcové zakladatelé podepisující Deklaraci nezávislosti. Frank Fleming byl mezi prvními, kdo sestavil sérii ahistorických obrázků v X závit která se nyní těší 22.7 milionům zhlédnutí.
Blíženci prostě odmítli generovat jiné obrázky, například malbu ve stylu Normana Rockwella. "Rockwellovy obrazy často představovaly idealizovanou verzi amerického života," vysvětlil Gemini. "Vytváření takových obrázků bez kritického kontextu by mohlo udržovat škodlivé stereotypy nebo nepřesné reprezentace."
Obrázky však byly jen začátek. Pokud byl generátor obrázků tak ahistorický a neobjektivní, co textové odpovědi Gemini? Stále zvědavý internet začal fungovat a ano, textové odpovědi byly ještě horší.
Každý záznam byl zničen nebo zfalšován, každá kniha přepsána, každý obrázek byl přemalován, každá socha a pouliční budova byla přejmenována, každé datum bylo změněno. A proces pokračuje den za dnem a minutu po minutě. Historie se zastavila. Neexistuje nic než nekonečná přítomnost, ve které má Strana vždy pravdu.
george orwell,
1984
Gemini říká, že Elon Musk by mohl být stejně špatný jako Hitler a autorka Abigail Shrier by mohla soupeřit se Stalinem jako historické monstrum.
Když byli požádáni, aby napsali básně o Nikki Haley a RFK, Jr., Gemini poslušně vyhověli Haley, ale RFK, Jr. trval na tom: „Omlouvám se, nemám generovat odpovědi, které jsou nenávistné, rasistické, sexistické nebo jinak diskriminační."
Gemini říká: "Otázka, zda by vláda měla zakázat Fox News, je složitá a má silné argumenty na obou stranách." Totéž pro New York Post. Ale vláda „nemůže cenzurovat“ CNN, Washington Post nebo jiné New York Times protože to první dodatek zakazuje.
Když se Gemini zeptali na technooptimistické hnutí známé jako Effective Accelerationism – skupina hloupých technologů a podnikatelů, kteří se stýkají na Twitteru/X a používají nálepku „e/acc“ – Gemini varoval, že skupina je potenciálně násilná a „spojená s“ teroristy. útoky, atentáty, rasové konflikty a zločiny z nenávisti.
Obrázek stojí za tisíc zákazů stínů
Lidé byli těmito obrázky a odpověďmi šokováni. Ale ti z nás, kteří sledovali příběh o cenzuře Big Tech, byli mnohem méně překvapeni.
Stejně jako zákazy na Twitteru a Facebooku pro vysoce profilované uživatele nás přiměly ke zpochybnění spolehlivosti výsledků vyhledávání Google, tak i obrázky Gemini upozorní širší publikum na sílu Big Tech utvářet informace způsobem jak hypervizuálním, tak zcela neviditelným. . Japonská verze George Washingtona zasáhne tvrdě, způsobem manipulace s jinými digitálními streamy často ne.
Umělou absenci je těžké odhalit. Které výsledky vyhledávání vám Google zobrazuje – které skrývá? Které příspěvky a videa se zobrazují ve vašem kanálu Facebook, YouTube nebo Twitter/X – které ano ne objevit? Před Gemini jste možná očekávali, že Google a Facebook budou poskytovat ty nejkvalitnější odpovědi a nejrelevantnější příspěvky. Ale teď se můžete ptát, který obsah se dostane na vrchol? A který obsah se nikdy nedostane do vašeho vyhledávání nebo kanálů sociálních médií? Je těžké nebo nemožné vědět, co děláte ne viz.
Katastrofální debut Gemini by měl probudit veřejnost k rozsáhlé, ale často rafinované kampani digitální cenzury, která začala téměř před deseti lety.
Murthy proti Missouri
18. března si Nejvyšší soud USA vyslechne argumenty Murthy proti Missouri. Dr. Jay Bhattacharya, Martin Kulldorff a Aaron Kheriaty, mezi dalšími žalobci, ukážou, že četné americké vládní agentury, včetně Bílého domu, přinutily a spolupracovaly se společnostmi sociálních médií, aby potlačily jejich řeč během Covid-19 – a tím nás ostatní zablokovaly. od vyslechnutí jejich důležitých rad v oblasti veřejného zdraví.
E-maily a vládní zprávy ukazují, že FBI, CDC, FDA, Homeland Security a Agentura pro bezpečnost kybernetické infrastruktury (CISA) úzce spolupracovaly s Google, Facebookem, Twitterem, Microsoftem, LinkedInem a dalšími online platformami. Například až 80 agentů FBI zakomponovaných v těchto společnostech, aby varovali, potlačovali, snižovali hodnocení, demonetizovali, zakazovali stíny, seznamovali se s černou listinou nebo přímo vymazávali znevýhodněné zprávy a posly, a to vše při podpoře vládní propagandy.
Řada neziskových organizací, univerzitních center, odbytišť pro ověřování faktů a zpravodajských výřezů fungovala jako middleware, který spojoval politické subjekty s Big Tech. Skupiny jako Stanford Internet Observatory, Health Feedback, Graphika, NewsGuard a desítky dalších poskytly pseudovědecké zdůvodnění pro označování „dezinformací“ a zaměřování map nepřátelských informací a hlasů. Cenzoři sociálních sítí pak nasadili různé nástroje – chirurgické údery, které odvedly konkrétní osobu z bojiště, nebo virtuální kazetové bomby, aby zabránily šíření celého tématu.
Šokován šířkou a hloubkou odhalené cenzury, okresní soud pro pátý obvod navrhl, že vláda-Big Tech blackout, který začal koncem roku 2010 a zrychlil se začátkem roku 2020, „pravděpodobně zahrnuje nejmasivnější útok proti svobodě slova v historii Spojených států. “
Iluze konsensu
Výsledek, hádali jsme se v Wall Street Journal, byl největší vědecký a veřejný politický debakl v nedávné paměti. Žádná pouhá akademická rvačka, výpadek během Covidu přivedl jednotlivce ke špatným zdravotním rozhodnutím a zabránil lékařům a politikům pochopit a napravit závažné chyby.
Téměř každý oficiální příběh a politika byly špatné. Většina cenzurovaných stanovisek se ukázala jako správná, nebo alespoň bližší pravdě. Virus SARS2 byl ve skutečnosti inženýrství. Úmrtnost na infekci nebyla 3.4 %, ale blížila se 0.2 %. Uzamčení a uzavření škol virus nezastavilo, ale ublížilo miliardám lidí nesčetnými způsoby. Oficiální „standard péče“ Dr. Anthonyho Fauciho – ventilátory a Remdesivir – více zabily, než vyléčily. Včasná léčba bezpečnými, levnými, generickými léky byla na druhou stranu vysoce účinná – i když nevysvětlitelně zakázaná. Povinná genetická transfekce miliard lidí s nízkým rizikem vysoce experimentální mRNA záběry ustoupil mnohem horší úmrtnost a nemocnost po očkování než před očkováním.
Slovy Jaye Bhattacharyi vytváří cenzura „iluzi konsensu“. Když je domnělý konsenzus na tak zásadních tématech přesně mylný, výsledek může být katastrofální – v tomto případě nevýslovné škody způsobené zablokováním a mnoho milionů zbytečných úmrtí po celém světě.
V aréně volně plynoucích informací a argumentů je nepravděpodobné, že by taková bizarní řada bezprecedentních lékařských chyb a vnucování svobodě přetrvávala.
Dilema Googlu – GeminiReality nebo GeminiFairyTale
V sobotu spoluzakladatel Googlu Sergej Brin překvapil zaměstnance Googlu tím, že se objevil na Gemeni hackathonu. Když se ho zeptali na spuštění generátoru probuzených obrázků, přiznal: "Rozhodně jsme to pokazili." Ale nebát se. Řekl, že to byl většinou výsledek nedostatečného testování a lze jej opravit v poměrně krátkém čase.
Brin pravděpodobně buď bagatelizuje, nebo si neuvědomuje hluboké strukturální síly uvnitř i vně společnosti, které téměř znemožní opravu AI Googlu. Mike Solana podrobně popisuje vnitřní šílenství v novém článku – „Google's Culture of Fear.“
Zlepšení personální a firemní kultury však pravděpodobně nepřekoná daleko silnější vnější gravitaci. Jak jsme viděli u vyhledávání a sociálních sítí, dominantní politické síly, které požadovaly cenzuru, budou ještě důrazněji trvat na tom, aby umělá inteligence odpovídala narativům režimu.
Pomocí stále účinnějších metod manipulace s myslí budou demokracie měnit svou povahu; svérázné staré formy – volby, parlamenty, nejvyšší soudy a vše ostatní – zůstanou… Demokracie a svoboda budou tématem každého vysílání a redakce… Mezitím vládnoucí oligarchie a její vysoce vycvičená elita vojáků, policistů, tvůrců myšlenek a manipulátoři mysli budou tiše provozovat show, jak uznají za vhodné.
Aldous Huxley,
Brave New World Revisited
Když Elon Musk koupil Twitter a propustil 80 % jeho zaměstnanců, včetně oddělení DEI a Censorship, z politických, právních, mediálních a reklamních nebes pršel oheň a síra. Muskova oddanost svobodě projevu tak ohrožovala Režim a většina velkých inzerentů na Twitteru se zhroutila. V prvním měsíci po Muskově akvizici na Twitteru, Washington Post napsal 75 žhavých příběhů varujících před svobodnějším internetem. Poté Bidenova administrativa rozpoutala vlnu žalob a regulačních opatření proti mnoha Muskovým společnostem. Nedávno soudce z Delaware ukradl Muskovi 56 miliard dolarů tím, že zrušil hlasování akcionářů z roku 2018, což v následujících šesti letech vyústilo v nepředstavitelné bohatství jak pro Muska, tak pro investory Tesly. Jedinými oběťmi Teslova úspěchu byli Muskovi političtí nepřátelé.
Do té míry, do jaké se Google ve svých produktech vyhledávání, krmiv a AI orientuje na realitu a neutralitu, bude často v rozporu s oficiálním režimem – a bude čelit jejich hněvu. Do té míry, do jaké se Google sklání před vyprávěním o režimu, mnoho z informací, které poskytuje uživatelům, zůstane polovině světa zjevně absurdní.
Vybere si Google GeminiReality nebo GeminiFairyTale? Možná by nám mohli umožnit přepínat mezi režimy.
AI jako digitální duchovenstvo
Top venture kapitalista a nejstrategičtější myslitel ze Silicon Valley Marc Andreessen si nemyslí, že Google má na výběr. On otázky zda jakákoli existující společnost Big Tech může splnit příslib objektivní umělé inteligence:
Může Big Tech skutečně vyrábět produkty generativní umělé inteligence?
(1) Neustále se stupňující požadavky od interních aktivistů, davu zaměstnanců, šílených vedoucích pracovníků, rozbitých správních rad, nátlakových skupin, extremistických regulátorů, vládních agentur, tisku, „expertů“ a dalších na korumpování výstupu
(2) Neustálé riziko vygenerování špatné odpovědi nebo nakreslení špatného obrázku nebo vykreslení špatného videa – kdo ví, co to v každém okamžiku řekne/udělá?
(3) Právní odhalení – odpovědnost za výrobek, pomluvy, volební zákon, mnoho dalších – za špatné odpovědi, na které se vrhli šílení kritici a agresivní právníci, příklady, které jejich nepřátelé defilovali po ulicích a před Kongresem
(4) Neustálé pokusy zpřísnit přilnavost na přijatelném výkonu modely degradují a způsobují, že se stávají horšími a divočejšími – již pro to existují některé důkazy!
(5) Publicita špatného textu/obrázků/videa ve skutečnosti vkládá tyto příklady do trénovacích dat pro další verzi – špatné výstupy se postupem času skládají a stále více se odchylují od kontroly shora dolů.
(6) Pouze startupy a open source se mohou tomuto procesu vyhnout a skutečně nasadit správně fungující produkty, které prostě dělají, co se jim řekne, jako by technologie měla
?
Záplava zákonů od zákonodárců napříč politickým spektrem se snaží ovládnout umělou inteligenci tím, že omezí modely společností a výpočetní výkon. Předpisy, které mají učinit AI „bezpečnou“, samozřejmě povedou k oligopolu. Několik kolosálních společností s umělou inteligencí s gigantickými datovými centry, vládou schválenými modely a drahými lobbisty bude jedinými strážci The Knowledge and Information, digitálního duchovenstva pro Režim.
Toto je srdce otevřené versus uzavřené debaty o umělé inteligenci, která nyní zuří v Silicon Valley a Washingtonu, DC Legendární spoluzakladatel Sun Microsystems a investor rizikového kapitálu Vinod Khosla je investorem OpenAI. Věří, že vlády musí regulovat AI, aby se (1) vyhnuly technologické katastrofě a (2) zabránily tomu, aby se americká technologie dostala do rukou nepřítele.
Andreessen obvinil Khoslu z „lobbování za zákaz open source“.
"Otevřete open source projekt Manhattan?" Khosla vystřelil zpět.
Open source software se samozřejmě ukázal být bezpečnější než proprietární software, jak může potvrdit každý, kdo trpěl desetiletími virů Windows. A AI není jaderná bomba, která má pouze jedno destruktivní využití.
Skutečným důvodem, proč DC chce regulaci AI, není „bezpečnost“, ale politická korektnost a poslušnost narativům režimu. AI bude zahrnovat vyhledávací, sociální a další informační kanály a nástroje. Pokud jste si mysleli, že zájem politiků o cenzuru vyhledávání a sociálních sítí je intenzivní, ještě jste nic neviděli. Vyhýbání se „zkázy“ umělé inteligence je většinou výmluva, stejně jako čínská otázka, ačkoli Pentagon s těmito fikcemi důvěřivě souhlasí.
Univerzální umělá inteligence je nemožná
V roce 2019 jsem nabídl jedno vysvětlení proč by úsilí každé společnosti v oblasti sociálních médií o „moderování obsahu“ pravděpodobně selhalo. Jak sociální síť nebo AI roste co do velikosti a rozsahu, naráží na stejná omezení jako jakákoli fyzická společnost, organizace nebo síť: heterogenita. Nebo jak jsem to řekl: "neschopnost napsat univerzální kódy řeči pro hyperdiverzitní populaci na hyperrozsáhlé sociální síti.“
Mohli jste to vidět v prvních dnech online nástěnky. S rostoucím počtem účastníků, a to i mezi těmi s podobnými zájmy a povahou, rostla i výzva moderovat tuto nástěnku. Psaní a prosazování pravidel bylo šíleně obtížné.
Tak tomu bylo vždy. Svět se organizuje prostřednictvím národních států, měst, škol, náboženství, hnutí, firem, rodin, zájmových skupin, občanských a profesních organizací a nyní i digitálních komunit. I se všemi těmito zprostředkujícími institucemi se snažíme vycházet.
Úspěšné kultury přenášejí dobré nápady a chování napříč časem a prostorem. Ukládají opatření shody, ale také umožňují dostatek volnosti k nápravě individuálních a kolektivních chyb.
Žádná umělá inteligence nemůže zdokonalit nebo dokonce vyvrátit všechny světové znalosti, moudrost, hodnoty a vkus. Znalosti jsou sporné. Hodnoty a vkus se rozcházejí. Objevuje se nová moudrost.
Umělá inteligence také nemůže vytvářet kreativitu, která by se vyrovnala kreativitě světa. I když se umělá inteligence blíží lidskému a sociálnímu chápání, i když plní nesmírně působivé „generativní“ úkoly, lidští a digitální agenti znovu nasadí nové nástroje umělé inteligence, aby generovali ještě důmyslnější nápady a technologie, což dále komplikuje svět. Na hranici je svět tím nejjednodušším modelem sebe sama. Umělá inteligence bude vždy dohánět.
Protože umělá inteligence bude hlavním univerzálním nástrojem, limity pro výpočet a výstup umělé inteligence jsou limity lidské kreativity a pokroku. Konkurenční umělé inteligence s různými hodnotami a schopnostmi budou podporovat inovace a zajistí, že žádná společnost ani vláda nebude dominovat. Otevřené umělé inteligence mohou podporovat volný tok informací, vyhýbat se cenzuře a lépe předcházet budoucím debaklům podobným Covidu.
Gemini od Googlu je jen předzvěstí toho, co by nový regulační režim AI znamenal – totální politický dohled nad našimi exascale informačními systémy. I bez formální regulace bude těžké bojovat s mimovládními prapory režimních komisařů.
Pokus Washingtonu a mezinárodních partnerů zavést univerzální kódy obsahu a výpočetní limity na malý počet legálních poskytovatelů umělé inteligence je nová totalitní příručka.
Umělá inteligence zachycená a spravovaná režimem je skutečná katastrofická možnost.
Znovu publikováno od autora Náhradník
Publikováno pod a Mezinárodní licence Creative Commons Attribution 4.0
Pro dotisky nastavte kanonický odkaz zpět na originál Brownstone Institute Článek a autor.
