Byla doba, kdy debaty o determinismu a svobodné vůli patřily katedrám filozofie a nočním rozhovorům na kolejích. Byly příjemné právě proto, že se zdály neškodné. Ať už byla odpověď jakákoli, život šel dál. Soudy soudily, lékaři rozhodovali, učitelé učili a politici byli stále – alespoň nominálně – zodpovědní za své činy. Ta éra je pryč.
Umělá inteligence proměnila to, co se kdysi jevilo jako abstraktní filozofická otázka, v konkrétní problém správy věcí veřejných, moci a odpovědnosti. Determinismus už není jen teorií o fungování vesmíru. Stává se operačním principem moderních institucí. A to mění všechno.
Systémy umělé inteligence jsou svou konstrukcí deterministické. Fungují na základě statistické inference, optimalizace a pravděpodobnosti. I když nás jejich výstupy překvapí, zůstávají omezeny matematickými omezeními. Nic v těchto systémech se nepodobá úsudku, interpretaci nebo chápání v lidském smyslu.
Umělá inteligence neuvažuje.
Neodráží se to.
Nenese odpovědnost za výsledky.
Přesto se s jeho výstupy stále častěji nezachází jako s nástroji, ale jako s rozhodnutími. Toto je tichá revoluce naší doby.
Přitažlivost je zřejmá. Instituce se vždy potýkaly s lidskou proměnlivostí. Lidé jsou nekonzistentní, emocionální, pomalí a někdy neposlušní. Byrokracie preferuje předvídatelnost a algoritmy slibují přesně to: standardizovaná rozhodnutí ve velkém měřítku, imunní vůči únavě a nesouhlasu.
Ve zdravotnictví algoritmy slibují efektivnější třídění. Ve financích lepší hodnocení rizik. Ve vzdělávání objektivní hodnocení. Ve veřejné politice „důkazově založenou“ správu. V moderování obsahu neutralitu. Kdo by mohl namítat proti systémům, které tvrdí, že odstraňují zkreslení a optimalizují výsledky? Pod tímto slibem se však skrývá zásadní zmatek.
Předpověď není soud.
Optimalizace není moudrost.
Konzistence není legitimita.
Lidské rozhodování nikdy nebylo čistě výpočetní. Je ze své podstaty interpretační. Lidé zvažují kontext, význam, důsledky a morální intuici. Vycházejí z paměti, zkušeností a pocitu – jakkoli nedokonalého – odpovědnosti za to, co následuje. To je přesně to, co instituce považují za nepohodlné.
Lidský úsudek vytváří tření. Vyžaduje vysvětlení. Vystavuje osoby s rozhodovací pravomocí vinu. Deterministické systémy naopak nabízejí něco mnohem atraktivnějšího: rozhodnutí bez osob s rozhodovací pravomocí.
Když algoritmus zamítne půjčku, označí občana, sníží prioritu pacienta nebo potlačí projev, nikdo se nezdá být zodpovědný. Udělal to systém. Promluvila data. Model rozhodl.
Determinismus se stává byrokratickým alibi.
Technologie vždy formovala instituce, ale až donedávna převážně rozšiřovala lidské konání. Kalkulačky pomáhaly s uvažováním. Tabulkové procesory vyjasňovaly kompromisy. Dokonce i raný software ponechával lidem viditelně kontrolu. Umělá inteligence tento vztah mění.
Systémy navržené k předpovídání jsou nyní v pozici, kdy mohou rozhodovat. Pravděpodobnosti se proměňují v zásady. Skóre rizika se stávají verdikty. Doporučení se tiše mění v nařízení. Jakmile jsou tyto systémy zakotveny, je těžké je zpochybnit. Koneckonců, kdo by se ptal na „vědu“?
Proto se stará filozofická debata stala naléhavou.
Klasický determinismus tvrzením o kauzalitě bylo, že s dostatkem informací lze budoucnost předpovědět. Dnes se determinismus mění ve filozofii správy a řízení. Pokud lze výsledky dostatečně dobře předvídat, instituce se ptají, proč vůbec povolovat uvážení?
Nedeterminismus je často karikaturně zobrazován jako chaos. Správně pochopen však není ani náhodností, ani iracionalitou. Je to prostor, kde dochází k interpretaci, kde se zvažují hodnoty a kde se odpovědnost váže k osobě, nikoli k procesu.
Odstraňte tento prostor a rozhodování se nestane racionálnějším. Stane se nezodpovědným.
Skutečným nebezpečím umělé inteligence není nekontrolovatelná inteligence ani vnímající stroje. Je to pomalá eroze lidské odpovědnosti pod hlavičkou efektivity.
Rozhodujícím konfliktem 21. století nebude konflikt mezi lidmi a stroji. Bude to mezi dvěma vizemi inteligence: deterministickou optimalizací versus tvorbou významu v nejistotě.
Jeden je škálovatelný.
Ten druhý je zodpovědný.
Umělá inteligence nás nutí rozhodovat se, která z nich bude řídit naše životy.
-
Dr. Joaquim Sá Couto získal doktorát na univerzitě v Lisabonu (Portugalsko) a pokračoval ve své lékařské specializaci v USA, kde získal titul „Diplomát Americké chirurgické komory“(1989). Doktor Sá Couto byl průkopníkem v zavedení pulzního kontrastního laseru Nd-YAG pro léčbu pavoučích žilek (teleangiektázií) v Portugalsku a s touto technikou nashromáždil přibližně 15 let zkušeností.
Zobrazit všechny příspěvky
