Vládní fondy Nástroje umělé inteligence pro dohled nad celým internetem a cenzuru

Cítím se vyděšeně. Velice vystrašený.

Celointernetový dohled a cenzura, kterou umožňuje nepředstavitelně obrovská výpočetní síla umělé inteligence (AI), je tady.

Toto není futuristická dystopie. Už se to děje.

Vládní agentury spolupracují s univerzitami a neziskovými organizacemi na používání nástrojů umělé inteligence ke sledování a cenzuře obsahu na internetu.

To není politické ani stranické. Nejde o žádný konkrétní názor nebo nápad. 

 To, co se děje, je, že nástroj dostatečně silný na to, aby sledoval vše, co se říká a dělá na internetu (nebo jeho velké části), se stává dostupným vládě, aby nás všechny neustále sledovala. A na základě tohoto monitorování může vláda – a jakákoliv organizace nebo společnost, se kterou vláda spolupracuje – použít stejný nástroj k potlačení, umlčení a utlumení jakéhokoli projevu, který se jí nelíbí. 

Ale to není všechno. Pomocí stejného nástroje mohou vláda a její veřejno-soukromí, „nevládní“ partneři (například Světová zdravotnická organizace nebo Monsanto) ukončit jakoukoli činnost spojenou s internetem. Bankovnictví, nákup, prodej, výuka, učení, zábava, vzájemné propojení – pokud se vládou kontrolované AI nelíbí, co vy (nebo vaše děti!) říkáte v tweetu nebo e-mailu, může to všechno vypnout vy. 

Ano, viděli jsme to ve velmi lokálním a zpolitizovaném měřítku např. kanadští truckeři. 

Ale pokud jsme si mysleli, že tento typ činnosti nemůže nebo nebude probíhat v národním (nebo ještě děsivějším – globálním) měřítku, musíme se právě teď probudit a uvědomit si, že se to děje a že to nemusí být zastavitelné.

Nové dokumenty ukazují vládou financovanou umělou inteligenci určenou pro online cenzuru

Výběrový podvýbor Sněmovny reprezentantů pro zbraňování federální vlády byla založena v lednu 2023 „za účelem vyšetřování záležitostí souvisejících se shromažďováním, analýzou, šířením a používáním informací o občanech USA ze strany výkonných agentur, včetně toho, zda jsou takové snahy nezákonné, protiústavní nebo jinak neetické“.

Naneštěstí je práce výboru, dokonce i jeho vlastními členy, vnímána jako převážně politická: Konzervativní zákonodárci zkoumají to, co považují za umlčování konzervativních hlasů liberálně orientovanými vládními agenturami. 

Přesto tento výbor při svých vyšetřováních odhalil některé úžasné dokumenty související s vládními pokusy cenzurovat projev amerických občanů. 

Tyto dokumenty mají zásadní a děsivé důsledky pro celou společnost.

V průběžné zprávě podvýboru ze dne 5. února 2024, dokumenty ukazují, že akademické a neziskové skupiny nabídnou vládní agenturu ohledně plánu využití „dezinformačních služeb“ umělé inteligence k cenzuře obsahu na internetových platformách.

Konkrétně Michiganská univerzita vysvětluje Národní vědecké nadaci (NSF), že nástroje poháněné umělou inteligencí financované NSF lze použít k tomu, aby pomohly platformám sociálních médií vykonávat cenzurní aktivity, aniž by museli skutečně rozhodovat o tom, co by mělo být cenzurováno.

Takto je vztah vizualizován ve zprávě podvýboru:

Zde je konkrétní citace uvedená ve zprávě podvýboru. Pochází z „Poznámek řečníka z prvního vystoupení Michiganské univerzity pro Národní vědeckou nadaci (NSF) o jejím nástroji WiseDex, který je financovaný z prostředků AI.“ Poznámky jsou uloženy ve výboru.

Naše dezinformační služba pomáhá tvůrcům politik na platformách, kteří chtějí...posunout odpovědnost za obtížné úsudky na někoho mimo společnost... externalizací obtížné odpovědnosti cenzury.

Toto je mimořádné prohlášení na mnoha úrovních:

1. Výslovně klade rovnítko mezi „dezinformační službu“ a cenzuru. 

To je zásadní rovnice, protože vlády po celém světě předstírají, že bojují proti škodlivým dezinformacím, i když ve skutečnosti jsou schválení masivních cenzurních zákonů, WEF prohlásil „dezinformace a dezinformace“ jsou „nejzávažnější globální rizika“ v příštích dvou letech, což pravděpodobně znamená, že jejich největší úsilí bude směřovat k cenzuře.

Když vládní dodavatel výslovně prohlásí, že prodává „dezinformační službu“, která pomáhá online platformám „externalizovat cenzuru“ – tyto dva termíny jsou uznávány jako zaměnitelné.

2. Označuje cenzuru jako „odpovědnost“. 

Jinými slovy, předpokládá, že součástí toho, co by platformy měly dělat, je cenzura. Nechrání děti před sexuálními predátory nebo nevinné občany před dezinformacemi – prostě a jednoduše, nefalšovaná cenzura.

3. Uvádí, že úlohou AI je „externalizovat“ odpovědnost za cenzuru.

Tech platformy nechtějí činit cenzurní rozhodnutí. Vláda chce učinit tato rozhodnutí, ale nechce být vnímána jako cenzura. Nástroje AI umožňují platformám „externalizovat“ rozhodnutí o cenzuře a vládě skrýt své cenzurní aktivity.

To vše by mělo ukončit iluzi, že to, co vlády po celém světě nazývají „boj proti dezinformacím a nenávistným projevům“, není přímočará cenzura.

Co se stane, když je plně implementována cenzura umělé inteligence?

S vědomím, že vláda již platí za nástroje cenzury umělé inteligence, si musíme uvědomit, co to obnáší.

Bez omezení pracovních sil: Jak zdůrazňuje zpráva podvýboru, limity vládní online cenzury až dosud zahrnovaly velký počet lidí, kteří museli procházet nekonečnými soubory a činit cenzurní rozhodnutí. S umělou inteligencí nemusí být zapojeni téměř žádní lidé a množství dat, která lze sledovat, může být tak obrovské, jako všechno, co kdokoli říká na konkrétní platformě. Takové množství dat je pro jednotlivý lidský mozek nepochopitelné.

Nikdo není zodpovědný: Jedním z nejděsivějších aspektů cenzury umělé inteligence je, že když to dělá umělá inteligence, neexistuje žádná lidská bytost ani organizace – ať už jde o vládu, platformy nebo univerzity/neziskové organizace – kdo by byl ve skutečnosti za cenzuru odpovědný. Zpočátku lidé dávají nástroji AI instrukce, jaké kategorie nebo typy jazyka mají cenzurovat, ale pak stroj pokračuje a rozhoduje případ od případu sám. 

Bez možnosti reklamace: Jakmile je umělá inteligence spuštěna pomocí sady instrukcí pro cenzuru, zamete miliony online datových bodů a použije cenzurní akce. Pokud chcete napadnout akci cenzury AI, budete si muset promluvit se strojem. Možná platformy zaměstnávají lidi, kteří budou reagovat na výzvy. Ale proč by to dělali, když mají AI, která dokáže tyto reakce automatizovat?

Žádná ochrana pro mladé lidi: Jedním z tvrzení vládních cenzorů je, že musíme chránit naše děti před škodlivými online informacemi, jako je obsah, který je činí anorektickými, podněcuje je k sebevraždě, dělá z nich teroristy ISIS a tak dále. Také kvůli sexuálnímu zneužívání. To všechno jsou vážné problémy, které si zaslouží pozornost. Ale nejsou zdaleka tak nebezpečné pro velké množství mladých lidí jako cenzura AI.

Nebezpečí, které představuje cenzura umělé inteligence, se týká všech mladých lidí, kteří tráví spoustu času online, protože to znamená, že jejich online aktivity a jazyk lze sledovat a používat proti nim – možná ne teď, ale kdykoli se vláda rozhodne jít po určitém typu. jazyka nebo chování. To představuje mnohem větší nebezpečí pro mnohem větší počet dětí než nebezpečí, které představuje jakýkoli konkrétní obsah, protože zahrnuje veškerou činnost, kterou provádějí online, a dotýká se téměř každého aspektu jejich života. 

Zde je příklad pro ilustraci tohoto nebezpečí: Řekněme, že váš teenager hraje spoustu interaktivních videoher online. Řekněme, že náhodou upřednostňuje hry navržené čínskými společnostmi. Možná také sleduje ostatní, jak tyto hry hrají, a účastní se chatů a diskusních skupin o těchto hrách, kterých se účastní i mnoho čínských občanů.

Vláda může příští měsíc nebo příští rok rozhodnout, že každý, kdo se intenzivně zabývá videohrami navrženými v Číně, je nebezpečím pro demokracii. To může vést k uzavření účtů na sociálních sítích vašeho syna nebo k odepření přístupu k finančním nástrojům, jako jsou vysokoškolské půjčky. Může to také zahrnovat jeho označení na pracovních nebo seznamovacích webech jako nebezpečného nebo nežádoucího. Může to znamenat, že mu byl odepřen pas nebo byl zařazen na seznam sledovaných osob.

Život vašeho teenagera je teď mnohem těžší. Mnohem obtížnější, než kdyby byl vystaven náborovému videu ISIS nebo příspěvku na TikTok oslavujícím sebevraždu. A to by se stalo v mnohem větším měřítku než sexuální vykořisťování, které cenzoři používají jako trojského koně za normalizaci myšlenky online vládní cenzury.

Zpeněžitelné cenzurní služby: Nástroj AI vlastněný vládou může teoreticky používat nevládní subjekt se svolením vlády a s požehnáním platforem, které chtějí „externalizovat“ „odpovědnost“ za cenzuru. Takže zatímco vláda může používat AI ke sledování a potlačování, řekněme jako příklad, protiválečného sentimentu – společnost by to mohla použít ke sledování a potlačování, řekněme jako příklad, sentimentu proti rychlému občerstvení. Vláda by mohla vydělat spoustu peněz prodejem služeb nástrojů AI třetím stranám. Platformy by také mohly požádat o snížení. Nástroje pro cenzuru umělé inteligence tak mohou být potenciálně přínosem pro vládu, technologické platformy a soukromé korporace. Pobídky jsou tak silné, že je téměř nemožné si představit, že nebudou využity.

Můžeme obrátit kurz?

Nevím, kolik vládních agentur a kolik platforem používá nástroje cenzury AI. Nevím, jak rychle se mohou zvětšit.

Nevím, jaké nástroje máme k dispozici – kromě zvyšování povědomí a snahy lobbovat u politiků a podávat žaloby, aby zabránili vládní cenzuře a regulovali používání nástrojů umělé inteligence na internetu.

Pokud má někdo další nápady, nyní je čas je realizovat.