Brownstone » Brownstone Journal » Zásady » Synformace: Epistemické zachycení se setkává s umělou inteligencí
Synformace: Epistemické zachycení se setkává s umělou inteligencí

Synformace: Epistemické zachycení se setkává s umělou inteligencí

SDÍLET | TISK | E-MAILEM

Definice (protože na významu slov záleží)

  • Dezinformace = informace (v době šíření považovány za nepravdivé), které se liší od oficiálního státem schváleného narativu, ale nejsou záměrně použity k politickým účelům.
  • Dezinformace = informace (v době šíření považovány za nepravdivé), které se liší od oficiálního, státem schváleného znění, šířené za účelem prosazování politické agendy.
  • Špatné informace = informace, které mohou být pravdivé nebo nepravdivé, ale které způsobují, že osoby, které je přijímají, nedůvěřují státu.
  • Synformace = Syntetické informace a realita vytvořené vytvářením falešných znalostí a souvisejících syntetických „pravdivých“ matic s využitím výpočetních nástrojů „umělé inteligence“ založených na modelech velkých jazyků.
  • Epistemologie = Epistemologie je filozofické studium poznání, zahrnující jeho podstatu, původ a mezeZkoumá, co znamená něco vědět, jak se znalosti získávají prostřednictvím zdrojů, jako je vnímání, rozum, paměť a svědectví, a co odlišuje oprávněnou víru od pouhého názoru. Mezi ústřední pojmy epistemologie patří víra, pravda, ospravedlnění a důkaz, přičemž tradiční definice znalostí se často chápe jako oprávněná pravdivá víra.
  • Epistemické zachycení = Jak formuloval Dr. Toby Rogers ve své výpovědi v Senátu a spisy: „Ve společenských vědách existuje termín zvaný epistemické zachycení, což je situace, kdy se celý proces produkce znalostí dostane do rukou jednoho odvětví (velkých farmaceutických společností). A přesně to se stalo s vědou a medicínou„Upřesnil, že toto zajetí znamená „Farmaceutický průmysl zachytil každý krok procesu produkce znalostí ve vědě a medicíně. Velké farmaceutické společnosti kontrolují, co se studuje, jak se to zkoumá a co se kvalifikuje jako důkaz.. "
  • Pravdivost = Něco má pravdivost, když se to zdá pravdivé, zní pravdivě nebo by to mělo být pravdivé na základě emocí, intuice, přesvědčení nebo ideologické preference – bez ohledu na důkazy, logiku nebo objektivní ověření. Upřednostňuje subjektivní přesvědčení („cítím to v hloubi duše“) před empirickou realitou („důkazy ukazují…“).

„Pravdivost je vlastnost toho, že se něco jeví nebo je to vnímáno jako pravdivé, i když to nutně pravda není. Je to to, co chcete, aby fakta byla, na rozdíl od toho, co fakta jsou. Je to pravda, která vychází z nitra, ne z knih.“

-Stephen Colbert, Colbertova zpráva (Říjen 17, 2005)


Úvod a kontext

Ve své roli spolupředsedy a člena Poradního výboru CDC pro imunizační postupy se účastním školení týkajícího se metodologie GRADE pro rozhodování v oblasti veřejného zdraví. Tato zkratka znamená Hodnocení doporučení, hodnocení, vývoj a vyhodnocení, a tato metodologie má poskytnout strukturovaný a transparentní rámec pro hodnocení kvality (jistoty) důkazů a síly doporučení odvozených z těchto důkazů.

Záměrem této metody je vytvořit nestranný nástroj pro rozhodování o politikách v oblasti veřejného zdraví a klinické medicíny založené na důkazech. Vývoj tohoto složitého systému řídila mezinárodní pracovní skupina od roku 2000 a jejich pracovní produkt nyní přijaly WHO, CDC/ACIP, Cochrane Collaboration, Národní institut pro excelenci v oblasti zdraví a péče (NICE), Spojené království, Kanadská pracovní skupina pro preventivní zdravotní péči (CTFPHC) a mnoho dalších, včetně různých specializovaných lékařských cechů zde v USA.

Pro mnoho zasvěcených osob může být překvapením, že ačkoli je systém GRADE historicky schválen CDC ACIP, není všeobecně (mezinárodně) přijímán. Evropská agentura pro léčivé přípravky (EMA) systém GRADE nepoužívá pro své rozhodovací procesy, jako je hodnocení léčivých přípravků za účelem registrace nebo vývoj vědeckých pokynů. EMA primárně posuzuje kvalitu, bezpečnost a účinnost léčivých přípravků prostřednictvím svých vědeckých výborů (např. Výboru pro humánní léčivé přípravky – CHMP). To zahrnuje analýzu přínosů a rizik na základě údajů z klinických studií, farmakovigilance a regulačních standardů, jako je správná klinická praxe (GCP). Ačkoli EMA vytváří vědecké pokyny k tématům, jako jsou klinické studie a bioekvivalence, tyto pokyny kladou důraz na přístupy založené na důkazech, ale nezahrnují GRADE pro hodnocení kvality důkazů nebo síly doporučení.

Když jsem s ostatními členy ACIP pozorně poslouchal školicí moduly GRADE a přemýšlel o tom, jak se tento propracovaný proces během covidu tak strašně pokazil, napadlo mě, že problém může spočívat v tom, co Dr. Toby Rogers tak stručně shrnul ve svém... svědectví pod přísahou v Senátu USAOdpověď na tuto otázku by mohla být v konceptu „epistemického zachycení“.

Přístup GRADE předpokládá, že v případě recenzovaných klinických a epidemiologických dat (jinak označovaných jako „medicína založená na důkazech“) budou jednotlivé studie odrážet různé formy zkreslení (strukturální, úmyslné nebo nezamýšlené), ale při systematické analýze jako souboru informací se toto zkreslení buď vzájemně vyruší, nebo (pokud je zkreslení zjištěno) může být statisticky kompenzováno. Co se mohlo pokazit? Je zřejmé, že se něco pokazilo. I v propracovaném systému GRADE, který byl vytvořen, může dojít k nezjištěnému zkreslení, které zkresluje výsledky analýzy.

Když přemýšlím o svém vlastním vnitřním posmrtném přemýšlení o ohništi covidové marnivosti, zdá se, že dominantní předsudky, které zkreslovaly rozhodování CDC a ACIP, pramení ze dvou hlavních zdrojů. Tyto dva jsou vzájemně propojené, jako slavná otázka, co bylo dřív, slepice nebo vejce.

Zkreslení č. 1. Kult očkování

Jedním z hlavních zdrojů zkreslení je vlastní lidem, kteří používají systém GRADE, který se opírá o řadu subjektivních procesů hodnocení, a proto je ovlivněn kulturními předsudky ze strany těch, kteří tyto metody používají.

Méně diplomatickým způsobem, jak to vyjádřit, je, že ti, kteří se podíleli na uplatňování systému GRADE jménem ACIP a CDC během pandemie covidu, byli ovlivněni řadou zjevných střetů zájmů. V kontextu CDC a jeho dvojí role propagátora vakcín a monitoru jejich bezpečnosti nazývám tuto formu kulturního zaujatosti „kultem očkování“ a sdíleli ji zaměstnanci, byrokracie a byrokraticky ukořistěná „nezávislá poradní skupina“ s názvem CDC ACIP.

Kněží a praktikující tohoto kultu lze rozpoznat podle jejich papouščího opakovaného prohlášení, že všechny vakcíny jsou „bezpečné a účinné“. Jak Dr. Mattias Desmet, tak já bychom se na to, stejně jako na bezvýhradné obdivování a přijímání mumlání úřadujícího covidového prezidenta Dr. Anthonyho Fauciho, mohli odkázat jako na příklady masové formace, skupinového myšlení nebo obojího.

Ale tohle jsou zprávy ze včerejška a realita, že americká vláda (a CDC) použily lži a dezinformace o Covidu, je nyní tak široce přijímána, že hraničí s všedností. Abychom to podtrhli, stačí počkat na nadcházející Rasmussenův průzkum týkající se nežádoucích účinků očkování po Covidu-19, který má být zveřejněn 21. listopadu tohoto roku. Osobně považuji toto obecné téma za intelektuálně nudné. Zabývám se jím už léta ve stovkách esejů, podcastů a rozhovorů. Mám pocit, jako by to už všechno bylo řečeno, alespoň v USA. Když cestuji do zahraničí a mluvím o tom, stále se s tím zachází jako s odhalením, ale doma musí existovat tisíc „influencerů“, kteří to denně vtloukají do hlavy.

Zkreslení č. 2. Epistemické zachycení

Když Toby Rogers představil koncept „epistemického zachycení“ v kontextu akademického/vládního/průmyslového vakcinačního průmyslu, zasáhlo mě to jako blesk, podobně jako když jsem se poprvé dozvěděl o tom, jak Dr. Desmet aplikoval dobře rozvinuté teorie a akademické práce 20. století týkající se masové formace a totality na situaci s covidem.

Systém GRADE trpí pochopitelnou naivitou, základním předpokladem, který zjevně již není platný. Předpoklad, který jsem sdílel až do svých zkušeností a pozorování během covidu. Předpokladem je dobrá víra a nezávislost v systému generování znalostí týkajících se veřejného zdraví, epidemiologie, lékařské a klinické vědy. Toto bylo spojeno s předpokladem dobré víry a nezávislosti ze strany FDA a dalších západních regulačních orgánů. Covid a následná odhalení a vyšetřování týkající se falešných studií a dat, v kombinaci se systematickým potlačováním všech informací, které jsou v rozporu s vládou schválenými narativy, zcela zničily důvěryhodnost těchto předpokladů.

Pro mě tato realita vyvrcholila během posledního setkání ACIP, kde jsem konfrontoval zástupce společnosti Pfizer s faktem, že společnost podvodně pozměnila a zmanipulovala data, která předložila FDA, a zástupce společnosti v podstatě uznal tuto dobře zdokumentovanou skutečnost, ale informoval výbor ACIP, že FDA si byla vědoma podvodného zmanipulování dat. Mimochodem, tento postoj (který FDA věděl) ​​je pro Pfizer velmi výhodný, protože právně odškodňuje společnost Pfizer za jakékoli případy oznamovatele (qui tam), které by mohly být zahájeny jménem vlády USA s cílem získat zpět peníze vynaložené na nákup podvodného produktu.

Jak můžete aplikovat proces systematického přezkumu, když podkladová data a analýzy byly podvodně zmanipulovány nebo zkresleny průnikem komerčních zájmů a skupinového myšlení/kultovní kultury vládních agentur?

V jeho Svědectví Dr. Tobyho Rogerse v Senátu označuje naprostou ovládnutí procesu produkce znalostí v oblasti, jako je věda a medicína, jediným odvětvím, v tomto případě velkými farmaceutickými společnostmi. Toto jde nad rámec pouhého regulačního ovládnutí a dochází k bodu, kdy průmyslová odvětví ovlivňují všechny aspekty politiky a generování znalostí, aby kontrolovala samotné základy toho, co je známo, studováno a přijímáno jako pravda. Tento koncept mi ​​zněl pravdivě a byl zcela v souladu se zkušenostmi všech, které jsem znal během covidu a kteří se snažili publikovat data a klinické poznatky, které byly v rozporu s narativem propagovaným vládou/CDC.

Například viz následující podskupina z roku 2023 esej:


Od prvního dne na lékařské fakultě až po poslední roky praxe žijí lékaři uvnitř epistemické bubliny pečlivě vytvořené farmaceutickým průmyslem. To, co zde popisuji, je víc než jen „střet zájmů“ – je to systematické zachycení celého procesu produkce znalostí.

Filozofové vědy to nazývají epistemickým uchvácením, což je situace, kdy průmysl kontroluje podmínky produkce znalostí – co se zkoumá, jak a co se počítá jako důkaz. Problémem není jeden špatný regulátor nebo jedna kompromitovaná agentura. Celý systém produkce znalostí ve vědě a medicíně je třeba přepracovat, aby se osvobodil od předsudků a zkreslení vnucených farmaceutickým průmyslem.

-Poznámka/komentář k substacku Dr. Tobyho Rogerse, září 2025


Ve své výpovědi před stálým podvýborem pro vyšetřování Senátu USA z 9. září 2025 Rogers uvedl: „Ve společenských vědách existuje termín zvaný epistemické zajetí, což je situace, kdy celý proces produkce znalostí ovládne jedno odvětví (velké farmaceutické firmy). A přesně to se stalo s vědou a medicínou.“ Upřesnil, že toto zajetí znamená, že „farmaceutický průmysl ovládl každý krok procesu produkce znalostí ve vědě a medicíně. Velké farmaceutické firmy kontrolují, co se studuje, jak se to zkoumá a co se kvalifikuje jako důkaz.“

Rogers popisuje, jak se to projevuje v celém systému:

  • Vzdělávání: Učebnice, osnovy a školení lékařských fakult jsou utvářeny akademickými pracovníky s finančními vazbami na farmaceutický průmysl.
  • Výzkum: Univerzity a vedoucí kateder dostávají značné finanční prostředky z farmaceutického průmyslu; ziskové organizace provádějí většinu klinických studií v prostředí s nízkou regulací, jako je Čína nebo země globálního Jihu.
  • Publikace: Významná část článků v časopisech je psána ghostwritery od zasvěcených osob z oboru.
  • Propagace: Farmaceutický průmysl ročně vynakládá přes 27 miliard dolarů na marketing léčiv a „další lékařské vzdělávání“ lékařů.
  • Praxe: Standardy péče jsou psány lékaři s konfliktními názory, čímž vzniká „epistemická bublina“, která pohlcuje odborníky od vzdělávání až po odchod do důchodu.

Rogers tvrdí, že tato uměle vytvořená bublina upřednostňuje zisky průmyslu před veřejným zdravím, čímž znemožňuje zodpovědět určité otázky, znemožňuje škody a znemožňuje skutečné bádání. Rogers jako příklady uvádí oblasti, jako je výzkum autismu a bezpečnost vakcín. V příspěvku na X z listopadu 2025 to stručně formuloval takto: „Epistemické zachycení: veškerá produkce znalostí ve vědě a medicíně je kontrolována farmaceutickou společností a je navržena tak, aby zvyšovala své zisky.“

Propracovaný systém GRADE, tak pečlivě konstruovaný, zcela neodráží objektivní realitu, když dojde k epistemickému zachycení, jak tomu bylo jasně během pandemie covidu. Proto všechny závěry odvozené i z nejobjektivnějšího a nestranného použití tohoto systému neposkytnou přesné a spolehlivé vodítko pro veřejnou politiku. To zhoršuje nešťastná, ale dobře zdokumentovaná skutečnost, že i bez umělé inteligence (více o tom později)... většinu zjištění z lékařské „recenzované“ literatury nelze snadno reprodukovat.

Když přemýšlím o této nové realitě, ocitám se před dilematem. Jsem nucen dojít k závěru, že veškerou „recenzovanou“ literaturu již nelze použít jako spolehlivý zdroj pro vedení politiky veřejného zdraví, a to ani při použití s ​​​​nejobjektivnějšími standardy dobře míněného systému systematického hodnocení GRADE.

Pokud ano, jak mají ACIP nebo osoby s rozhodovací pravomocí v oblasti veřejného zdraví, které nejsou v konfliktu zájmů, vytvářet poradenství a pokyny v oblasti veřejného zdraví? Na koho a kam se lze obrátit s žádostí o objektivní a přesné informace? Na stát? Z toho, co jsem během pandemie covidu viděl od CDC i FDA, se to zdá dost naivní. Akademická sféra? V područí. Farmaceutické společnosti? To si děláte legraci. Smluvní výzkumné organizace? Buďte realističtí. Dříve jsem pracoval pro odvětví klinického výzkumu CRO. Hluboce kompromitovaný, zcela zavázaný svým sponzorům z řad velkých farmaceutických společností.

V tomhle si nejsem jistý. Máme tady v River City problém, přátelé. Celá moje kariéra teď čelí existenční krizi: zániku medicíny založené na důkazech („alopatické“) a hluboké, systémové korupci lékařských a biomedicínských znalostí. A moc se mi to nelíbí.

Normalizace „pravdivosti“

Zdání pravdy – ať už je podpořeno objektivními a ověřitelnými důkazy, nebo ne – je subjektivní, hluboce formováno kulturními a politickými předsudky a lze jej snadno vyrobit prostřednictvím propagandy a celého portfolia moderních cenzurních a informačních kontrolních technik, často označovaných jako technologie psychologické války (PsyWar).

Nyní je zcela jasné a dobře zdokumentované, že byla rozvinuta globální, harmonizovaná propagandistická kampaň s cílem vybudovat zdánlivou pravdivost kolem propagovaných základních prvků systému přesvědčení o Covidu. Mezi tyto syntetické narativy patřilo tvrzení, že virus SARS-CoV-2 vznikl v přírodě mezidruhovým křížením, je vysoce patogenní a zabije značnou část světové populace.

Další klíčovou součástí této konstruované pravdivé narativu bylo, že jedinými léky účinnými v odvrácení značného rizika úmrtí v důsledku viru SARS-CoV-2 byly „bezpečné a účinné“ genetické „vakcíny proti Covidu“. Faktické informace týkající se rizika úmrtí naleznete v nedávno publikované publikaci „…Regionální vzorce nadměrné úmrtnosti v Německu během pandemie COVID-19: analýza na úrovni států„což je jeden z mnoha příkladů, které se konečně objevují. Každý, kdo měl tu drzost nesouhlasit s těmito narativy, byl (a stále je) vystaven koordinovanému zastrašování, cenzuře, ztrátě zaměstnání, blokování a odmítání předložených vědeckých rukopisů a dalším donucovacím opatřením. Jak bylo toto ospravedlněno?

Tyto pravdivé narativy byly vládními úředníky normalizovány jako nezbytné pro maximalizaci veřejného zdraví. Logika spočívala v tom, že jakékoli informace (ať už dezinformace nebo nepravdivé informace), které by mohly způsobit „váhavost k očkování“ odhalením lží stojící za propagovanými pravdivými narativy, by přímo vedly k úmrtí, kterému se dalo předejít. Protože samozřejmě vakcíny byly (o nichž se tvrdilo, že jsou) bezpečné a účinné. Zprávy od lékařů v první linii a pacientů o opaku musely být potlačeny, včetně zpráv o úmrtích souvisejících s očkováním, aby se běžná populace nestala vůči očkování váhavou.

Pro propagandisty byly klamy propagované narativu o „bezpečnosti a účinnosti“ pro velkou část populace tak zřejmé, že propagované lži vedly k rozsáhlé ztrátě důvěry ve veřejné zdraví, obecný očkovací průmysl, specializované lékařské cechy a alopatickou medicínu obecně. Při zpětném pohledu je zřejmé, že podobný logický klam byl široce uplatňován a posilován pro celý očkovací průmysl (včetně různých rizik nežádoucích účinků) v celém západním světě a že podobná negativní reakce probíhá i nadále.

Nedávným, obecnějším příkladem normalizace pravdomluvnosti je kreativní sestřih videa projevu amerického prezidenta Donalda Trumpa ze 6. ledna 2021, který provedla British Broadcasting System. Novinářka a redaktorka Mary Harringtonová publikovala v britském online vydání „Unherd“ a tento problém ututlala v eseji s názvem „…Proč nám bude chybět BBC. Svět, který představuje, pomíjí.„Celá esej rozhodně stojí za přečtení. Zde Harrington shrnuje kontext:

„Zušlechtění“ Trumpův klip To, co o víkendu pomohlo defenizovat generálního ředitele BBC Tima Davieho, je z hlediska 21. století dokonalým politickým Rorschachovým testem. V něm byly dvě části prezidentova projevu, od sebe vzdálené 52 minut, spojeny dohromady a k tomu byly k dispozici i záběry z davu, takže to vypadá, jako by podněcoval své publikum k fyzické konfrontaci.

Pro mnoho pravicových aktivistů, včetně samotného Trumpa, byla tato úprava propagandou, jejímž cílem bylo vykreslit ho jako demagoga podněcujícího k nepokojům. Pro Trumpovy nenávistníky je to, i když to není přesné ztvárnění toho, co v daném projevu řekl, slušná destilace trumpovskosti, a jako taková je v duchu pravdivá. Kdo má tedy pravdu? Nejde ani tak o debatu o faktech, ale o to, co fakta znamenají.

A právě o tohle jde i pro BBC: ne tak moc, zda je BBC „zaujatá“ a v jakém směru, ale zda stále věříme v možnost neutrálních, autoritativních arbitrů informací jako takových. A Pokud je odpověď „ne“, jak vypadá budoucnost našeho údajně neutrálního a nestranného celostátního vysílatele?“

A v následujícím citovaném textu zkoumá jádro situace, což je jeden z mnoha příkladů použitých k zdůraznění, že dříve BBC propagovaná konsenzuální realita byla roztříštěna do kaleidoskopu oddělených realit spojených s různými mikrokulturami („kmeny“).

Jak přesně vystihuje název, celková myšlenka článku je v podstatě nekrologem vyjadřujícím lítost nad zánikem kapacity BBC, sponzorované britským státem (a americkým) a zaměřené na normalizaci a posilování pravdivosti.

Vskutku, byl to Covid-19, který poskytl inflexní bod v této trajektorii, a to z prostého důvodu, že lockdowny donutily všechny být onlinePokud se od té doby zdá, že se svět zbláznil, není to tím, že by nás k šílenství přivedla sociální izolace. Je to... že internet sežral realituVe výsledné kakofonii si nyní každý sestavuje na míru vytvořenou verzi reality z téměř nekonečné zásoby mediálních kanálů, podcastů, influencerů a podobně.

A protože lidé jsou mimetičtí – to znamená, že se rozhodujeme, co chceme, na základě toho, co chtějí lidé kolem nás – tyto reality se začaly shlukovat do afinitních skupin. Tyto shluky se následně začaly definovat v opozici vůči sobě navzájem a vést proti sobě informační válečné manévry. Jedním z pozoruhodných výsledků těchto střetů je například progresivní zachycení Wikipedie, která byla založena jako neutrální, crowdsourcingovaná online encyklopedie, ale stala se hořce zpolitizovanou.

Toto rozpuštění „pravdy“ v kmenové zákopové válce je nyní základní strukturou toho, čemu jsme dříve říkali „veřejná konverzace“. V tomto novém prostředí jsou již v sázce obrovské množství peněz, postavení a politického vlivu; BBC, která byla koncipována jako nástroj pro komunikaci mezi mnoha lidmi a šíření úctyhodného konsensu establishmentu, je beznadějně špatně vybavena k tomu, aby se v něm orientovala.

Sečteno a podtrženo, „pravda“ je již dlouho obětována státem sponzorované a propagované propagandě, jejímž cílem je vytvořit oblak syntetické „pravdivosti“ kolem témat, která jsou pro stát nevýhodná. Kolaps oficiálních státem sponzorovaných médií (včetně médií sponzorovaných USAID) zanechal vakuum, v němž se v kvaziotevřeném internetovém prostředí propaguje široká škála názorů. Příroda však vakuum nesnáší.

Je rozumné usuzovat, že v této roztříštěné krajině „pravdy“, pokud přijmeme tezi, že farmaceutický průmysl dosáhl epistemického zachycení celé matice generování a nasazení lékařských informací, budou „obrovské množství peněz, postavení a politického vlivu“, o nichž Harrington naráží, použity k posílení pravdivosti narativů, které prosazují komerční zájmy tohoto odvětví.

Jinými slovy, je vysoce pravděpodobné, že informační válka neboli technologie PsyWar se stala ústředním bodem marketingové strategie a taktiky moderního farmaceutického průmyslu, což mu umožňuje rutinně prosazovat syntetické verze pravdy a reality týkající se zdraví a lékařských intervencí.

A co tedy „synformace“?

Jako by to nestačilo, do kontextu tohoto intelektuálního paradoxu, této konkrétní existenciální krize, byla shozena bomba pravdy v podobě nedávného, ​​pečlivě zdokumentovaného... Epoch Times článek s názvem „Jak umělá inteligence posiluje vědecké podvody„Podtitul shrnuje jedno klíčové zjištění: „‚To, co v podstatě právě teď vidíme, je ekvivalentem útoku typu denial-of-service. Skuteční výzkumníci se topí v hluku,‘ řekl jeden expert.“

Akademici a odborníci na kybernetickou bezpečnost varují, že vlna falešných vědeckých výzkumů vytvořených pomocí umělé inteligence (AI) tiše proklouzává přes kontroly plagiátorství a dostává se do akademických záznamů. Tento jev ohrožuje budoucí důvěryhodnost vědeckého výzkumu tím, že zesiluje dlouhodobě fungující průmysl „papírenských“ podvodů, říkají odborníci.

Akademické papírny – falešné organizace, které profitují z falšovaných studií a autorství – trápí vědce už léta a umělá inteligence nyní funguje jako multiplikátor síly.

...

Rukopisy vytvořené pomocí modelů velkých jazyků (LLM) se šíří v mnoha akademických oborech a platformách, včetně Google Scholar, Univerzity v Borasu a dalších. nalezeno. V roce předtisk V září zveřejněném na medRxiv vědci z University of Surrey poznamenali, že nástroje LLM – jako ChatGPT, Gemini a Claude – mohou generovat věrohodný výzkum, který projde standardními kontrolami plagiátorství.

...

V analýze „odpadkové“ vědy generované umělou inteligencí, zveřejněné na Google Scholar, identifikovali švédští univerzitní vědci více než 100 článků podezřelých z umělé inteligence.

Google na to nereagoval Epoch Times žádost o komentář.

Autoři švédské studie uvedli, že klíčovým problémem výzkumu vytvořeného umělou inteligencí – ať už s lidskou pomocí nebo bez ní – je, že dezinformace by mohly být použity ke „strategické manipulaci“.

„Riziko toho, čemu říkáme ‚hacking důkazů‘, se výrazně zvyšuje, když se výzkum generovaný umělou inteligencí šíří ve vyhledávačích,“ uvedl autor studie Bjorn Ekstrom. „To může mít hmatatelné důsledky, protože nesprávné výsledky se mohou šířit hlouběji do společnosti a možná i do stále více oblastí.“

...

Nathan Wenzler, ředitel informační bezpečnosti ve společnosti Optiv, uvedl, že je přesvědčen, že je v sázce budoucnost veřejné důvěry.

„S tím, jak se do seriózních časopisů a klíčových vědeckých přehledů přidává stále více nesprávného nebo přímo falešného obsahu generovaného umělou inteligencí, jsou krátkodobé i dlouhodobé účinky stejné: eroze důvěry,“ řekl Wenzler. Epoch Times.

Toto je příklad ilustrující dopad nadcházející vlny synformace, v níž se i předstírání společně sdíleného souboru faktických informací stane zastaralým anachronismem. Jakmile se to převalí nad alopatickou medicínou a doslova celou internetově propojenou civilizací, problémy „staré školy“ epistemického zachycení se budou zdát nostalgické.

Závěrem doporučuji přečíst si tuto akademickou analýzu z roku 2024 od John Wihbey, s názvem "Umělá inteligence a epistemické riziko pro demokracii: Hrozí krize veřejného poznání?"

Vstupujeme do neprobádaných vod a v nich jsou příšery. V předvídatelné roztříštěné surrealistické informační matici se může stát, že se naším jediným průvodcem stane „pravdivost“. V takovém případě se objektivní, měřitelná realita (a vědecký pokrok) stanou stejně tak artefaktem minulosti jako koňský spřežení, telefony s otočným táhlem a „medicína založená na důkazech“.

Jako stručný úvod k Wihbeyho myšlenkám na toto téma si vezměme následující abstrakt rukopisu:

S vývojem a zaváděním pokročilých technologií umělé inteligence (AI) budou klíčové oblasti informací a znalostí, které podporují demokratický život, komplexněji zprostředkovávány stroji. Chatboti a agenti AI mohou strukturovat většinu internetových, mediálních a veřejných informačních domén.

To, co lidé považují za pravdivé a hodné pozornosti – to, co se stane veřejně známým – může být stále více ovlivňováno úsudky pokročilých systémů umělé inteligence. Tento vzorec bude představovat pro demokracii zásadní výzvy. Vzorec toho, co bychom mohli považovat za „epistemické riziko“, ohrozí možnost etického souladu umělé inteligence s lidskými hodnotami. Technologie umělé inteligence jsou trénovány na datech z lidské minulosti, ale demokratický život často závisí na vynoření se na povrch lidských tichých znalostí a dříve neodhalených preferencí.

V souladu s tím, jak technologie umělé inteligence strukturují tvorbu veřejných znalostí, může být tato substance stále více rekurzivním vedlejším produktem samotné umělé inteligence – postavené na tom, co bychom mohli nazvat „epistemický anachronismus„Tento článek tvrdí, že epistemické zachycení neboli uzamčení a odpovídající ztráta autonomie jsou výraznými riziky, a analyzuje tři příkladové oblasti – žurnalistiku, moderování obsahu a průzkumy veřejného mínění – aby prozkoumal tuto dynamiku.

Cesta vpřed k dosažení jakékoli vize etické a zodpovědné umělé inteligence v kontextu demokracie znamená důraz na epistemickou skromnost v rámci modelů umělé inteligence a také na normy, které zdůrazňují neúplnost úsudků umělé inteligence s ohledem na lidské znalosti a hodnoty.

V nadcházející éře synformaceTi, kteří chtějí propagovat jakýkoli narativ o lékařské léčbě, budou moci zaplavit veřejnost syntetizovanými vědeckými narativy, které snadno obejdou jak historické, těžkopádné, manuální procesy vzájemného hodnocení, tak i jakoukoli metodologii vzájemného hodnocení s využitím umělé inteligence. Nakonec se dominantním narativem stane cokoli... synformace je vyráběn, ozbrojen a propagován těmi, kteří mají nejvíce zlata k utrácení v kampani.

Brzy se setkáme s důsledky nového „zlatého pravidla synformace“: Ti s největším množstvím zlata nejenže vytvoří pravidla – budou syntetizovat samotnou matici přijímané pravdy a reality.

Zastaralé systémy určené k podpoře rozhodování ve veřejné politice, které využívají subjektivní kritéria pro analýzu znalostí, jako je GRADE, nemají šanci. Musíme najít nějakou cestu vpřed k určení objektivní pravdy, jinak zlaté pravidlo synformace nejen zničí „demokracii“ prostřednictvím epistemického zachycení založeného na umělé inteligenci, ale také zničí lidskou civilizaci.

Znovu publikováno od autora Náhradník


Připojte se ke konverzaci:


Publikováno pod a Mezinárodní licence Creative Commons Attribution 4.0
Pro dotisky nastavte kanonický odkaz zpět na originál Brownstone Institute Článek a autor.

Autor

Darujte ještě dnes

Vaše finanční podpora Brownstone Institute jde na podporu spisovatelů, právníků, vědců, ekonomů a dalších lidí odvahy, kteří byli profesionálně očištěni a vysídleni během otřesů naší doby. Prostřednictvím jejich pokračující práce můžete pomoci dostat pravdu ven.

Přihlaste se k odběru zpravodaje Brownstone Journal


Obchod Brownstone

Přidejte se k více než 30 000 nezávislým čtenářům: Získejte ZDARMA newsletter Brownstone Journal