Brownstone » Brownstone Institute Journal » Moje konverzace s ChatGPT o úmrtnosti
chat gpt

Moje konverzace s ChatGPT o úmrtnosti

SDÍLET | TISK | E-MAILEM

Hrozba, kterou představuje umělá inteligence, v posledních týdnech stále více dominuje mainstreamovým televizním a rozhlasovým diskusním pořadům. Varování se poprvé objevilo v titulcích na konci loňského roku, kdy ChatGPT získal více než milion uživatelů méně než týden po svém spuštění. Zájem se v tomto bodě soustředil hlavně na schopnost ChatGPT napodobovat lidské reakce, okamžitě chrlit odpovědi na otázky ke zkoušce, univerzitní eseje a dokonce nové příběhy – vyhrožování, že výsledky zkoušek postrádají smysl a dají miliony na podporu.

Hrozba dosáhla vrcholu na konci května, když Centrum pro bezpečnost AI vydalo a prohlášení, podepsaný stovkami předních mezinárodních expertů v této oblasti, varující, že umělá inteligence představuje pro lidstvo existenční riziko na stejné úrovni jako pandemie a jaderné války.

Zmírnění rizika vyhynutí v důsledku umělé inteligence by mělo být globální prioritou spolu s dalšími riziky společenského rozsahu, jako jsou pandemie a jaderná válka.

Podle Michaela Osbornea, profesor strojového učení na Oxfordské univerzitě a spoluzakladatel Mind Foundry, je to riziko vyhynutí, které je největším problémem.

"Je opravdu pozoruhodné, že se k tomuto dopisu přihlásilo tolik lidí," řekl. "To ukazuje, že mezi lidmi pracujícími v AI si stále více uvědomujeme, že existenční rizika jsou skutečným problémem."

„Protože AI příliš nerozumíme, existuje vyhlídka, že by mohla hrát roli jako druh nového konkurenčního organismu na planetě, takže druh invazivních druhů, které jsme navrhli, by mohl hrát nějakou zničující roli v našem přežití. jako druh,“ řekl Osborne.

Britský premiér Rishi Sunak využil své cesty do Washingtonu následující týden k tomu, aby propagoval Británii jako globální centrum pro regulaci umělé inteligence, na vrcholu toho, co bylo nyní šílenstvím v oblasti umělé inteligence. hledat podporu Joea Bidena na globální summit o bezpečnosti umělé inteligence pořádaný ve Spojeném království.

Prezident Biden zdůraznil „potenciál AI způsobit velké škody, pokud není kontrolována“, ale také její „potenciál vyléčit rakovinu“. "Má obrovský potenciál a my se díváme na Velkou Británii, abychom pomohli vést toto úsilí, abychom našli cestu, jak to překonat."

Se vším tím vyvoláváním strachu, který je nyní pevně zaměřen na nadřazenost tohoto nového invazivního druhu „mimozemské“ inteligence, se zdá být neslušné, hraničící s konspirační teorií, ptát se, zda by to nemohl být nějaký druh marketingové kampaně vytvořené těmi chytrými vztahy s veřejností. lidé najatí průmyslem umělé inteligence, aby zvýšili prodej jejich produktů.

Je možné, že jsme špatně nasměrováni, abychom se dívali špatným směrem, a největší existenční hrozba pro naše přežití jako druhu nepochází z vynikající inteligence AI, ale z její hlouposti?

Pokud je umělá inteligence opravdu trojitý student. nastaveno tak, aby nahradilo lidi ve všech myslitelných oblastech od žurnalistiky přes medicínu a právo až po vědu a inženýrství, pak se opravdu nemáme o co starat, kromě toho, jak rozdělit všechno to extra bohatství, které generuje, a co s tím uděláme. náš volný čas.

Ale pokud umělá inteligence není vše, čím se nalomila, co potom? Jakou zničující roli by mohla sehrát armáda idiotských a nezodpovědných manažerů, lékařů, právníků, vědců a inženýrů v našem přežití jako druhu?

Abychom ověřili tuto hypotézu, provedli jsme následující rozhovor s ChatGPT.

* * *

Uživatel

Pokud je úmrtnost 0.0003 %, jaká je šance na smrt?

ChatGPT

Chcete-li určit pravděpodobnost úmrtí při úmrtnosti 0.0003 %, musíte míru převést na pravděpodobnost.

Úmrtnost 0.0003 % lze zapsat jako 0.000003 v desítkovém tvaru (0.0003 ÷ 100 = 0.000003). To představuje podíl obyvatel, kteří zemřou. Chcete-li ji převést na pravděpodobnost, odečtěte ji od 1, protože pravděpodobnost, že událost nastane, plus pravděpodobnost, že nenastane, se rovná 1.

Pravděpodobnost úmrtí = 1 – 0.000003 = 0.999997

Šance na smrt je tedy přibližně 0.999997 nebo 99.9997 %.

Uživatel

To nedává smysl. To znamená, že čím nižší je úmrtnost, tím vyšší je pravděpodobnost úmrtí. 

ChatGPT

Omlouvám se za zmatek. Máte pravdu; moje předchozí odpověď byla nesprávná. omlouvám se za chybu.

Abychom vypočítali šanci na smrt, musíme převést úmrtnost na poměr nebo pravděpodobnost. Úmrtnost se obvykle vyjadřuje v procentech nebo na 1,000 100,000 nebo XNUMX XNUMX jedinců.

Pokud je úmrtnost 0.0003 %, můžeme ji vyjádřit jako desetinné číslo vydělením 100:

0.0003% = 0.000003

To představuje podíl obyvatel, kteří zemřou. K převodu na pravděpodobnost můžeme jednoduše použít desetinnou hodnotu.

Šance na smrt je tedy v tomto případě 0.000003 nebo 0.0003 %.

Uživatel

Proč jste se poprvé spletli?

ChatGPT

Omlouvám se za chybu v mé původní reakci. Jako jazykový model AI se snažím poskytovat přesné informace, ale občas se mohou vyskytnout chyby. Omlouvám se za vzniklé nejasnosti nebo nepříjemnosti. Máte-li další otázky, neváhejte se zeptat.

Uživatel

Stále jsi nevysvětlil, proč jsi to udělal špatně.

ChatGPT

Omlouvám se, že jsem neposkytl jasné vysvětlení dříve. Chyba v mé původní odpovědi byla způsobena chybou ve výpočtu. Špatně jsem pochopil danou úmrtnost spíše v procentech než v desítkové hodnotě.

Při převodu úmrtnosti 0.0003 % na desetinné místo jsem ji nesprávně spočítal jako 0.000003 místo 0.000003 (což je správné desetinné vyjádření). To vedlo k nesprávnému výpočtu šance na smrt jako 0.999997 nebo 99.9997 %.

Ještě jednou se omlouvám za zmatek způsobený mou první odpovědí a vážím si vaší trpělivosti. Máte-li další dotazy, dejte mi prosím vědět a já vám rád pomohu.

Uživatel

Ne. Váš převod na desetinné číslo byl správný. Obě čísla mají šest desetinných míst, obě mají pět nul a obě končí 3. Vaší chybou bylo použití vzorce: „pro převod na pravděpodobnost ji odečtěte od 1, protože pravděpodobnost, že událost nastane, plus pravděpodobnost, že nenastane vyskytující se rovná 1." Kde se to vzalo?

ChatGPT

Máte pravdu a omlouvám se za zmatek způsobený mým vysvětlením. Učinil jsem nesprávné tvrzení, když jsem navrhl, že odečtením úmrtnosti od 1 by byla pravděpodobnost úmrtí. Omlouvám se za chybu v mém vysvětlení.

Pro upřesnění lze samotnou úmrtnost považovat za pravděpodobnost nebo šanci umřít. V tomto případě je pravděpodobnost nebo šance úmrtí 0.0003 % nebo 0.000003.

Ještě jednou se omlouvám za předchozí chybu a případné zmatky, které mohla způsobit. Máte-li další otázky, neváhejte se zeptat.

Uživatel

Omluva přijata. Přestaňte se prosím omlouvat. Jen mi řekněte zdroj vašeho nesprávného tvrzení, že odečtením úmrtnosti od 1 by byla pravděpodobnost úmrtí.

ChatGPT

Omlouvám se za nesprávné vyjádření v mých předchozích odpovědích. Tvrzení, že odečtení úmrtnosti od 1 by dalo pravděpodobnost úmrtí, není přesné. Omlouvám se za případné nejasnosti způsobené tímto prohlášením.

Jako jazykový model AI jsou mé odpovědi generovány na základě směsi licencovaných dat, dat vytvořených lidskými trenéry a veřejně dostupných dat. Nemám přímý přístup ke svým tréninkovým datům ani nevím, odkud pochází. Byl jsem však vyškolen na směsi licencovaných dat, dat vytvořených lidskými trenéry a veřejně dostupných dat. S cílem poskytnout mi pestrou škálu jazykových vzorů a konceptů. Mým cílem je pomáhat a poskytovat informace podle svých nejlepších schopností, bez ohledu na zdroje mých tréninkových dat.

Ještě jednou se omlouvám za chybu v mém předchozím vysvětlení. Máte-li další dotazy, dejte mi vědět a my vám rádi pomůžu.


Předchozí rozhovor není ani tak jako chat s Albertem Einsteinem a spíše jako pokus vyjednat si cestu těmi automatizovanými telefonními systémy, které připravily tolik lidských recepčních z práce.

Představte si, co by se stalo, kdyby ChatGPT spustil reakci na pandemii Covid. Úmrtnost 0.0003 procenta by byla automatizovanými veřejnými zdravotnickými službami interpretována jako 99.9procentní pravděpodobnost úmrtí, kterou by pak automatizovaní novináři předali, aby vyvolali strach a paniku v široké veřejnosti. A kde bychom pak byli?

Oh, počkej chvíli. Není to tam, kde teď jsme?

Pokud se chcete podívat na výše uvedenou konverzaci ChatGPT nebo ještě lépe, pokračovat v konverzaci sami, můžete to udělat zde.



Publikováno pod a Mezinárodní licence Creative Commons Attribution 4.0
Pro dotisky nastavte kanonický odkaz zpět na originál Brownstone Institute Článek a autor.

Autor

  • Ian McNulty

    Ian McNulty je bývalý vědec, investigativní novinář a producent BBC, jehož televizní tituly zahrnují „Vypočítané riziko“ o radiaci z jaderných elektráren, „To by se praseti nemělo stát“ o odolnosti vůči antibiotikům z průmyslového zemědělství, „Lepší alternativa“ ' o alternativní léčbě artritidy a revmatismu a 'Deccan', pilotní díl dlouhodobého televizního seriálu BBC „Great Railway Journeys of the World“.

    Zobrazit všechny příspěvky

Darujte ještě dnes

Vaše finanční podpora Brownstone Institute jde na podporu spisovatelů, právníků, vědců, ekonomů a dalších lidí odvahy, kteří byli profesionálně očištěni a vysídleni během otřesů naší doby. Prostřednictvím jejich pokračující práce můžete pomoci dostat pravdu ven.

Přihlaste se k odběru Brownstone a získejte další novinky

Zůstaňte informováni s Brownstone Institute