Rozvoj moderních technologií se zdá být nezastavitelný a většina lidí jej vítá s nadějí. Přesto se ozývají i varovné hlasy. Příběhů, kdy se technologie vymkly civilizaci z rukou a následně jí zničily, zná Hollywood habaděj. Problém vyspělé techniky však vrtá hlavou i mnohým vědcům.

Fyzik Stephen Hawking (*1942) patří mezi vědecké celebrity.

Muž, který trpí amyotrofickou laterální sklerózou a je trvale upoután na vozík, se rád vyjadřuje k takovým tématům, jakou jsou potenciální kontakty s mimozemšťany nebo stěhování lidstva z domovské planety.

Taková vděčná témata nalézají ohlas, stejně jako Hawkingovo varování před umělou inteligencí:  „Stále více a více firem pracuje na zdokonalování umělé inteligence a podle mých propočtů nás do 100 let roboti takřka ve všem nahradí a překonají.“

Asi každý už četl knihu nebo viděl film, kde hlavním tématem je boj strojů proti lidem.

V současném reálném světě se něco takového zdá nepředstavitelného, ovšem podle Hawkinga k tomu klidně může dojít. Ale pozor, nejen Stephen Hawking se tímto problémem zaobírá.

Na univerzitě v Cambridge vloni otevřeli ústav, který se zabývá výzkumem rizik, spojených se čtyřmi údajně největšími hrozbami pro lidstvo: umělou inteligencí, změnami klimatu, jadernou válkou a biotechnologiemi.

Středisko nese hrozivý název Centrum pro studium existenciálního rizika (CSER) a působí v něm kromě filozofů i IT specialisté či inženýři, například Jann Tallinn, jeden ze zakladatelů společnosti Skype.

Podle Hawkinga je nástup umělé inteligence již takříkajíc za dveřmi. Lidstvo tak vstoupí do zcela nepoznané sféry. „Neexistuje žádný fyzikální zákon, který by bránil částicím, aby se organizovaly ještě lépe, než to dokáže lidský mozek,“ varuje fyzik.

Stroje s nadlidskou inteligencí by svůj intelekt mohly nadále cíleně vylepšovat. V takové chvíli, jak tvrdí Hawking, by člověk ztratil kontrolu nad světem. S tím souhlasí i profesor filozofie Huw Price, který působí na Cambridgské univerzitě:

„V případě umělé inteligence může být otevřena Pandořina skříňka se všemi neodhadnutelnými důsledky.“ Například takovými, že člověk přestane být dominantním druhem. Dějiny přitom jasně ukazují, jak takové druhy dopadají…

„Umělá inteligence může ovládnout finanční trhy nebo vyvinout zbraně, o kterých v tuto chvíli nemáme ani ponětí,“ nevidí Hawking budoucnost příliš vesele.

Podle něj je zásadní otázkou, zda je vůbec umělá inteligence ovladatelná. Hawkingovy myšlenky souzní s idejemi akademiků působících na CSER. „Může nastat okamžik, kdy inteligence přestane být limitovaná biologickými faktory,““ upozorňuje Huw Price.

Zatím tomu tak není, ale že se tomuto problému začínají věnovat velké vědecké kapacity, již o něčem svědčí…