Sam Altman, PT Barnum v oboru umělé inteligence, má vzkaz pro lidi, kteří se obávají technologie, jejímuž rozvoji zasvětil svůj život: Nebojte se, šprti na tom pracují.
Vraťme se o trochu zpět.
Altman, 39letý investor rizikového kapitálu a generální ředitel společnosti OpenAI, hovořil ve středu s novinářem Andrewem Rossem Sorkinem na summitu Dealbook v New York Times. Altman byl jako obvykle mírný, ale odzbrojujícím způsobem laskavý a skoro jstezapomněli, že je miliardářem připravujícím se na soudný den, který také opakovaně varoval před riziky umělé inteligence.
V jednu chvíli se Sorkina zeptal: „Věříte, že vláda nebo někdo jiný přijde na to, jak se vyhnout“ existenčním hrozbám, které představují ‚superinteligentní‘ systémy umělé inteligence?
Následovala úhybná manévrovací manévrovací reakce.
„Věřím, že vědci přijdou na to, jak se tomu vyhnout,“ odpověděl Altman. „Myslím, že existuje soubor technických problémů, na kterých budou pracovat nejchytřejší lidé na světě. A víte, já jsem od přírody trochu moc velký optimista, ale předpokládám, že na to přijdou.“
Dále bez bližšího upřesnění naznačuje, že možná bude umělá inteligence sama o sobě tak chytrá, že prostě přijde na to, jak sama sebe zkrotit.
„Máme tu kouzlo -“ Altman, než se opravil. „Ne magii. Máme neuvěřitelný kus vědy zvaný hluboké učení, který nám může pomoci řešit tyto velmi těžké problémy.“
Ach, ano. A ExxonMobil (XOM) vyřeší klimatickou krizi…
Podívejte, je těžké nebýt okouzlen Altmanem, který na žádost o komentář nereagoval. Vede se s chladnou hlavou, protože ví, že i kdyby jeho technologie zničila světovou ekonomiku, bude v bezpečí ve svém bunkru na pobřeží Kalifornie. („Mám zbraně, zlato, jodid draselný, antibiotika, baterie, vodu, plynové masky od izraelských obranných sil a velký kus země v Big Sur, kam můžu letět,“ řekl v roce 2016 časopisu The New Yorker).
Ale pro nás ostatní by bylo hezké slyšet Altmana nebo kohokoli z jeho kolegů, kteří podporují umělou inteligenci, vysvětlit, co přesně mají na mysli, když říkají věci jako „my to vyřešíme“.
Dokonce i výzkumníci v oblasti umělé inteligence přiznávají, žestále přesně nerozumějí tomu, jak tato technologie vlastně funguje. Podle zprávy, kterou si nechalo vypracovat americké ministerstvo zahraničí, jsou systémy umělé inteligence v podstatě černé skříňky, které představují „hrozbu na úrovni vyhynutí lidského druhu“.
I kdyby se výzkumníkům podařilo vyřešit technickou hatmatilku a vyřešit to, co označují jako „problém sladění“, tedy zajistit, aby se z modelů AI nestali monstrózní roboti ničící svět, Altman připouští, že by stále existovaly problémy, které by musel někdo, nebo nějaká vláda, vyřešit.
Na summitu Dealbook Altman opět přenesl odpovědnost za regulaci této technologie na nějaký vymyšlený mezinárodní orgán rozumných dospělých lidí, kteří se nechtějí navzájem zabíjet. Sorkinovi řekl, že i když „i když se nám podaří učinit tento (superinteligentní model) technicky bezpečným, což předpokládám, že zjistíme, budeme muset mít určitou důvěru v naše vlády… Bude muset existovat globální koordinace… Předpokládám, že se k tomu postavíme čelem, ale zdá se to být náročné“.
To je hodně předpokladů a odráží to krátkozraké chápání toho, jak napříkladtvorba politiky a globální koordinace ve skutečnosti funguje:což znamená, že pomalu, neefektivně a často vůbec.
Je to naivita, kterou je třeba pumpovat do vody jednoprocentním lidem ze Silicon Valley, kteří by rádi nacpali umělou inteligenci do všech zařízení, která používáme, navzdory nedostatkům této technologie. Což neznamená, že je k ničemu! Umělá inteligence se používá k různým skvělým věcem, například k pomoci postiženým nebo starším lidem, jak informovala moje kolegyně Clare Duffyová. A některé modely AI dělají vzrušující věci v biochemii (které jsou upřímně řečeno nad moje síly, ale věřím poctivým vědcům, kteří si za ně letos odnesli Nobelovu cenu).
Přesto se zdá, že nejzářivější hvězdy v oblasti umělé inteligence, které chápou spektrum potenciálu této technologie lépe než kdokoli jiný, se k nedostatku regulací kolem ní staví šokujícím způsobem blazeovaně.
Možná je tato okázalá naivita součástí Altmanovy image. Ve stejném středečním rozhovoru se generální ředitel OpenAI dopustil i dalších těžko uvěřitelných výroků, například když naznačil, že ho nemotivují miliardy dolarů, které by mohl z firmy získat – prostě ho ta práce baví.
A později se Altman také snažil tlumit spekulace o svém dramatickém rozchodu se spoluzakladatelem OpenAI Elonem Muskem, který mezitím založil vlastní společnost zabývající se umělou inteligencí xAI a vyšvihl se do nejužšího okruhu zvoleného prezidenta Donalda Trumpa.
Na otázku, zda se neobává, že Musk zneužije svého nově nabytého vlivu a potenciálně odstaví konkurenty xAI a dalších svých technologických firem, Altman svérázně odpověděl, že kvůli tomu neztrácí spánek.
„Pevně věřím, že Elon udělá správnou věc,“ řekl. „Bylo by hluboce neamerické využívat politickou moc v takové míře, v jaké ji má Elon, k poškozování konkurence a zvýhodňování vlastních podniků.“
