Varování před soudným dnem umělé inteligence odvádějí pozornost od bezprostřednějších obav týkajících se umělé inteligence

Umělá inteligence je všude. Začleňuje se do všeho. To je prostě pokrok, říká se nám. A proto ho musíme přijmout, abychom nevypadali jako ludditi a nenechali Čínu vyhrát (ať už to znamená cokoli). Zároveň se však mnoho lidí kvůli umělé inteligenci bojí. Velmi se bojí. A někdy se nám říká, že bychom se také měli bát. Ve veřejné diskusi o umělé inteligenci však často chybí podrobnosti o tom, čeho konkrétně bychom se měli bát. Někdy ani není jasné, co se pod pojmem „umělá inteligence“ rozumí.

Technicky vzato, jak jsem měl dotkl se Dříve by se dalo namítnout (jak to dělají někteří starší informatici), že umělá inteligence je zastřešující termín pro skupinu algoritmů založených na matematice, která někdy existuje více než půl století. 

Prakticky vzato, řadu programů, se kterými žijeme už léta, jako jsou Mapy Google a doporučovací systém Amazonu, lze považovat za umělou inteligenci, a to i přes jejich nedostatek novosti. Ve veřejné diskusi se však termín umělá inteligence obvykle vztahuje na generativní umělou inteligenci (např. ChatGPT), stejně jako na řadu hypotetických budoucích programů, které budou dělat vše, co lidé dokážou, jen lépe, a proto vyřeší všechny naše problémy a zároveň většinu z nás připraví o práci, a nakonec se možná rozhodnou na nás spustit plný Skynet, pokud nerozhodnou, že si za tu námahu nestojíme.

(Zní to docela sexy. Možná by o tom někdo měl natočit sérii filmů. Možná se lidem budou líbit i dva z pěti.)

Bohužel však tato hyperbolická, sci-fi zobrazení hrozeb, které představuje umělá inteligence, obvykle získávají více pozornosti než realističtější a bezprostřednější hrozby týkající se soukromí, svobody, autonomie a dokonce i samotného způsobu života, který si mnozí z nás užívají, a v důsledku toho odvádějí pozornost od nich. Automatický licence deska čtenářů, Rozpoznávání obličeje, digitální babičky, povinné řízení pod vlivem alkoholu a nepozorné osoby detekční programy, o jakékoli z technologií, o kterých „vnuk“ křičel v „Autonomní doručovací robot, "A nositelná nahrávací zařízení které přepisují a zpracovávají osobní rozhovory pro asociální a snadno rozptýlené osoby, jsou jen některé z realističtějších hrozeb, které vás napadnou. (A to zdaleka není úplný seznam).

Proto mám tendenci oceňovat, když si členové naší vládnoucí třídy mohou dopoledne vyhradit na uvážený rozhovor o poměrně dobře definovaných hrozbách, které tato technologie (nebo soubor technologií) představuje, jak se to stalo na zasedání podvýboru pro kybernetickou bezpečnost a ochranu infrastruktury Sněmovny reprezentantů USA 4. června. Setkání na téma „Bezpečnostní prostředí umělé inteligence“.  

Na první pohled by se diskuse na schůzce dala formulovat takto: „Je největší hrozbou, kterou představuje umělá inteligence, vnější hrozba v podobě zahraničních hackerů, kteří se snaží zneužít zranitelnosti v softwaru ovládajícím kritickou infrastrukturu Spojených států, nebo vnitřní hrozba pramenící z nedostatku regulace a odpovědnosti za používání umělé inteligence doma?“

Ze sledování diskuse se však zdálo, že to není ani tak otázka „buď, anebo“, jako spíše nesporná odpověď „Ano a…“.

Sandra Joyce z Googlu, výkonný ředitel Frontier Model Forum Chris Meserole a generální ředitel a spoluzakladatel společnosti Corridor Security Inc. Jack Cable poskytli svědectví o tom, jak umělá inteligence transformuje prostředí kybernetické bezpečnosti, jelikož se digitální zbraně dostávají do rukou kyberbarbarů u bran, kteří je použijí k nalezení zranitelností v naší kritické infrastruktuře a/nebo k nasazení ransomwarových útoků.

„Tato technologie zásadním způsobem ovlivnila kybernetickou bezpečnost jak pro obránce, tak pro útočníka,“ uvedl Joyce.

„[H]ackeři mají silnější nástroje než kdy dříve,“ poznamenal Cable a konkrétně jmenoval Mythos a GPT-5.5.

„Tyto modely nejsou jen reklamou,“ varoval. „Opravdu začínají soupeřit s lidmi, nebo je v bezpečnostních úkolech překonávat, a to v nebývalém měřítku.“

Joyce naznačil, že „hrozební aktéři“ ani nepotřebují něco jako Mythos a že i se starším programem mohou napáchat spoustu škody.

S důrazem na hrozby zevnitř prohlásil Matthew Guariglia, hlavní politický analytik Electronic Frontier Foundation: „Otázkou není, jak omezit umělou inteligenci, ale jak omezit agentury, které by umělou inteligenci uvolnily na americkou veřejnost?“

Guariglia ve své výpovědi zdůraznil, jak americký stát národní bezpečnosti již používá řadu nástrojů, které shromažďují data o lidech bez pravděpodobného důvodu a které mohou „vyvozovat závěry o politickém životě, osobním životě, náboženství a geolokaci dané osoby, někdy nepřesně s vážnými důsledky“. 

Guariglia dále uvedl: „AI má také historii chybných úkonů, od falešných citací v právních podáních až po závažnou chybu AI, která poslala rekruty DHS do terénu bez řádného školení.“ 

„Pravděpodobně existují závažnější příklady, o kterých ani neznáme kvůli klasifikaci, která by zabránila důkladnějšímu zhodnocení,“ dodal.

Podobně poznamenala i poslankyně Delia Ramirezová (demokratka za Illinois): „Sledujeme, jak se monitorovací systémy založené na umělé inteligenci šíří do škol, sociálních bytů a nemocnic, aniž by bylo možné transparentně popsat jejich fungování, aniž by bylo možné je napadnout a aniž by bylo možné se odvolat, když se mýlí.“

V pozdější výměně názorů týkající se možného scénáře, kdy program umělé inteligence označí zásobování města vodou za ohrožené, i když je ve skutečnosti v pořádku, a následně omezí přístup obyvatel města k vodě, Guariglia a Ramirez naznačili, že v mezích současného amerického práva by transparentnost ohledně toho, jak k problému došlo, pravděpodobně zůstala na uvážení města, které systém zavádí, zatímco otázka, kdo může být volán k odpovědnosti, je poněkud nejasná.

I když to není tak sexy jako boj s T-800 v ulicích o naše životy a živobytí, další útoky ransomwaru, další narušování našeho soukromí a nedostatek požadované transparentnosti a odpovědnosti, když HAL udělá nepříjemný šramot a všem vypne vodu, to vše zní docela vážně, i když tyto věci neospravedlňují masovou hysterii nebo filmovou franšízu. Možná dokonce postačují k rozumným obavám ohledně současné situace. Duch času začlenit umělou inteligenci do všeho. A možná, jen možná, nám poskytnou důvod k přehodnocení našeho rozhodnutí propojit vše v moderním životě s internetem.