Roboti, kteří si uvědomí sebe sama a vzbouří se proti svým lidským pánům – oblíbený motiv sci-fi příběhů, který se s rychlým rozvojem umělé inteligence stává čím dál realističtější.
Přední vědci a technologičtí magnáti varují před nekontrolovatelným vývojem AI, který by mohl znamenat konec lidské dominance. Je umělá inteligence naší záchranou, nebo zkázou?
Roboti, kteří si uvědomili sebe sama a vzbouřili se proti svým lidským pánům. Oblíbený motiv sci-fi příběhů by podle některých vědců nemusel být ve skutečnosti až tak fantaskní.
S rozvojem umělé inteligence, ke kterému v posledních letech dochází, se spekulace o tom, kam až by to celé mohlo zajít, rozhořely naplno.
A některé nešetří katastrofickými scénáři, ve kterých se umělá inteligence nakonec vymkne kontrole a – protože bude schopná se učit a vyvíjet neuvěřitelně rychle – zcela ovládne svět včetně lidské rasy.
Na tato nebezpečí v minulosti upozorňoval třeba anglický teoretický fyzik Stephen Hawking, zatímco dnes je to řada osobnosti v čele se zakladatelem Applu Stevem Wozniakem nebo podnikatelem a šéfem firmy SpaceX Elonem Muskem.
Ti dokonce přidali své podpisy k prohlášení 50 tisíců signatářů, ve kterém se hovoří o „hlubokém riziku pro společnost a lidstvo.“
Jak se bránit?
Další varovný prst zvedá pro změnu oxfordský profesor Toby Ord. Ten se ve své práci také do hloubky věnoval soudobým civilizačním hrozbám a zjistil, že zatímco šance na jadernou válku je v příštích 100 letech asi 1 :
1000, šance na vývoj umělé inteligence, nesladěné s lidskými hodnotami, je dokonce 1 : 10. Další jeho kolegové pak tvrdí, že si na problémy s umělou inteligencí sice ještě počkáme, ale v podstatě jsou neodvratitelné. Pokud se tedy podaří vyvinout tzv.
obecnou umělou inteligenci – tedy systém, který se sám učí a sám je schopen dosahovat libovolných cílů. Řešení?
Vytváření jen takových systémů umělé inteligence, které budou mít zabudované bezpečnostní pojistky a principy, díky kterým k žádným neočekávaným událostem nedojde. Je to ale vůbec možné, pokud budou tyto systémy časem násobně chytřejší než ti nejchytřejší lidé?
Ještě před pár lety to bylo nemyslitelné. Dnes už je umělá inteligence téměř všude a prostupuje do mnoha profesí. Tady jsou tři programy, které ji využívají:
ChatGPT – bezpochyby nejslavnější platforma využívající umělou inteligenci společnosti OpenAI. Dokáže konverzovat, odpovídat na otázky a vymýšlet obrovské množství textů. Soundraw – automatizovaný generátor hudby.
S pomocí umělé inteligence prostě vytvoříte poměrně solidní hudbu. Stačí určit žánr, nástroje či náladu. Sora – oproti předchozím je Sora stále ve vývoji. Už nyní je ale zřejmé, že přinese revoluci do tvorby videí. Ta umí tvořit na téměř profesionální realistické úrovni.
Umělá inteligence je bezpochyby revoluční technologie, která má potenciál změnit svět k lepšímu. Nicméně, varování před jejím nekontrolovatelným rozvojem je třeba brát vážně.
Klíčem k bezpečné budoucnosti s AI je zodpovědný vývoj, který zahrnuje silné bezpečnostní mechanismy a etické principy. Otázka, zda dokážeme udržet krok s inteligencí, která se učí a vyvíjí exponenciálně rychleji než ta naše, zůstává otevřená.
