Domů     Asimov nastaví robotům jasné meze: Platí tři zákony robotiky i dnes?
Asimov nastaví robotům jasné meze: Platí tři zákony robotiky i dnes?
14.7.2020

Píše se rok 1942. Americký spisovatel a biochemik Isaac Asimov dokončil svou povídku Hra na honěnou, v níž vyjádří takřka nadčasové zákony pro roboty všech druhů. Letos by se tvůrce tří zákonů robotiky dožil 100 let. Je jeho dílo skutečně nadčasové a platí i dnes?

Autor zákonů Isaac Asimov (1920–1992) má jasno. Aby byl svět s roboty bezpečný, musí mít stroje ve svých pozitronových mozcích zabudovány jakési bezpečnostní pojistky.

Tato zařízení mají jasný účel – zajistí, aby veškeří roboti na naší planetě dodrželi tři robotické zákony. Otázka je nabíledni: Je vůbec reálné, aby nám byli roboti ze 100 procent bezpečnými společníky, kteří se nikdy neobrátí proti nám?

Asimova zajímaly předně otázky Vesmíru, umělé inteligence a matematiky jako takové.
Asimova zajímaly předně otázky Vesmíru, umělé inteligence a matematiky jako takové.

Zákon první: Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby mu bylo ublíženo

Roboty chceme samostatné, ideálně takové, aby zastali většinu práce, která nám lidem zkrátka nevoní. K tomu ale musíme neustále navyšovat jejich inteligenci. A ta v sobě snoubí i schopnost uvědomit si důsledky svého jednání, přemýšlet o několik kroků dopředu.

Proto je třeba robotům vštípit jakési obecné zásady, které roboti pochopí a budou vědět, jak se v daných situacích chovat, aniž by je porušili. Asimov položí jejich základnu v podobě tří zákonů robotiky, k níž přidá v roce 1985 ještě takzvaný nultý zákon:

„Robot nesmí ublížit lidstvu nebo svou nečinností dopustit, aby mu bylo ublíženo,“ čímž autor pomyslně staví lidstvo nad jedince.

Především nehody autonomních vozů spouštějí debaty o platnosti zákonů robotiky a také o právním statutu robotů.
Především nehody autonomních vozů spouštějí debaty o platnosti zákonů robotiky a také o právním statutu robotů.

Zákon druhý: Robot musí poslechnout člověka, kromě případů, kdy je to v rozporu s prvním zákonem

A postupně přibývají další zákony. A nejen tak pro zábavu. Podívejme se například do slunné Kalifornie, kde se autonomní vozy prohánějí po silnicích téměř běžně.

Zkušenost z tamních silnic ukazuje, že trojice základních zákonů nikdy nemůže fungovat stoprocentně. Namátkou zmiňme případ, kdy autonomní vůz Uber srazil a zabil chodce.

Ten totiž přecházel mimo přechod v nepřehledném úseku cesty… A podobných případů je mnohem víc, zkrátka roboti nedokážou dostatečně pracovat s rolí náhody. A i kdyby dokázali, nemáme ani z daleka vyhráno. Konflikt jednotlivých zákonů se může objevit kdykoli.

Jak lze vždy dodržet první zákon, aniž by robot ohrozil život posádky auta? Jak se zachová, pokud si musí vybrat, koho zachránit a koho obětovat? Lze vůbec sestrojit robota, který by se podobným „Sophiiným volbám“ zcela vyhnul?

I ve vědeckých kruzích se objevují ti, jež
I ve vědeckých kruzích se objevují ti, jež „trpí“ Frankensteinovým komplexem. Skutečně jednou roboti ovládnou planetu Zemi?

Zákon třetí: Robot se musí chránit před poškozením, kromě případů, kdy je to v rozporu s prvním nebo druhým zákonem

Robotka Tay od Microsoftu dostala za úkol diskutovat na sociální síti Twitter se „živými“ uživateli. Její inteligence byla na mnohem vyšší úrovni než u zmíněných autonomních vozidel. Tay se totiž v průběhu diskuze dokázala učit.

Ani to ji ale nepřiblížilo k robotímu ideálu, jež dodržuje všechny zmíněné zákony. I přes neuvěřitelnou rychlost reakcí se od lidí naučila být agresivní, xenofobní a nesnášenlivá vůči názorům druhých.

Od toho už byl jen krok k vyhrožování fyzickou likvidací svých diskutujících „soupeřů“, proto ji tvůrci radši vypli.

Najít tu správnou míru inteligence v kombinaci s plným vědomím robota, který ví, že je robot, nikoli tvor podobný člověku, je úkolem, který se tak snažíme efektivně vyřešit i v současnosti.

Joanne Pransky se roboty zabývá celý život, označuje se dokonce za robotí psychiatričku.
Joanne Pransky se roboty zabývá celý život, označuje se dokonce za robotí psychiatričku.

Překonat Frankensteinův komplex

Znáte sousloví Frankensteinův komplex? To hojně využívá právě Asimov. Jde o obavu, která se nejen u autorů sci-fi románů objevuje poměrně často.

Souvisí s představou, že čím více stále dokonalejších robotů mezi námi bude, tím spíš se zvyšuje riziko, že se proti nám vzbouří.

„Je to strach iracionální,“ je přesvědčena futuroložka a expertka na roboty Joanne Pransky, jež se sama označuje za robotí psychiatričku. Domnívá se, že na roboty je třeba pohlížet jako na nástroje, ne jako na alternativu lidí.

Souhlasí však s jinou obavou – roboti prý skutečně mohou způsobit krizi na trhu práce.

Foto: Shutterstock, Wikimedia.
Související články
Věda a technika
Horská dráha: Už Kateřina Veliká zbožňuje klouzání!
Některé se řítí rychlostí přes 200 km/hod. Jiné sviští ve výšce 139 metrů. Občas se ocitnete hlavou dolů. Ruská carevna by zírala, kdyby viděla, co vzešlo z její kratochvíle. Horské dráhy patří k nevyhledávanějším atrakcím zábavních parků po celém světě. Protože kdo by si nechtěl užít adrenalinovou jízdu a zažít chvíle čisté euforie. Zábava pro […]
Věda a technika
Jak se měří inteligence: Dá se spočítat genialita?
Inteligence je základem pro myšlení, učení i přizpůsobivost a určuje, jak jsme v tomto ohledu výkonní. Ačkoliv by se mohlo zdát, že něco takového je obtížně měřitelné, lidstvo se o to už nějakou dobu se střídavými úspěchy pokouší. V druhé polovině 19. století psychologové věřili, že existuje přímá souvislost mezi velikostí lebky a inteligencí. To zpopularizovalo kraniometrii, […]
Věda a technika
Biospehere 2: Lidský skleník skončí fiaskem!
Slunce pomalu prostupuje skleněnými tabulkami. Výzkumníci jako každé ráno vstanou a zkontrolují hodnoty, jenže dnes je něco jinak. Prostorem zazní hlas jejich šéfa, poté jsou konečně volní. Po dvou letech vyjdou na čerstvý vzduch! Uprostřed arizonské pouště stojí několik futuristicky vyhlížejících staveb, které by se hodily do filmu z daleké budoucnosti. Jde však o pomník nepovedeného […]
Věda a technika
Strom života chrání naše zdraví
Jak se účinně bránit před všudypřítomnými civilizačními chorobami? Například synergií adaptogenních bylin, která je základem regeneračních doplňků stravy, nazvaných Strom života. Ty vznikly podle receptů renomovaného léčitele Bohuslava Větrovského. Strom života vychází ze čtyř základních duchovních směrů a principů. „Při sestavování vzorců bylin jsme se rozhodli, že budeme vycházet ze čtyř směrů vnímání přírody,“ vysvětluje […]
reklama
věda a technika
Mobilní telefon není jen zdroj zábavy, ale i užitečný pomocník
Mobilní telefon se stal nejpoužívanějším nástrojem, který bereme do rukou. Předstihl nejen nůž, kapesní zrcátko nebo příbor, ale také tužku a cigaretu. Vedle zábavy a prokrastinování při sledování sociálních sítí se však může stát i užitečným pomocníkem a bezpečnostním nástrojem. Chytrý mobilní telefon je počítačem, který se nám vejde do dlaně. Pro jeho zabezpečení tak […]
Zlá astronautka Lisa M. Nowak
Žen se prozatím do vesmíru nedostalo zdaleka tolik jako mužů, a tak má každá astronautka o slávu a popularitu postaráno. Jedna z nich se ale proslavila ještě trochu v jiném oboru. Děti mají o své budoucnosti různé představy. Některé chce být popelářem, jiné kuchařem. Šestiletá Lisa Marie Caputová (*1963) 16. července 1969 napjatě sleduje přistání […]
Dokonalé starověké zubní protézy
Věděli jste, že zhotovování zubních protéz není novodobou vymožeností, ale dělali je už naši předci před tisíci lety? Už v době Etrusků (asi 900 roků před Kristem) se na území dnešní Itálie vyrábí umělé zuby jako náhrada těch děravých, případně v boji vyražených. Šlo o pečlivou ruční práci, ale masivní plíšky mohly způsobovat otlaky.  „Au, to bolí,“ […]
Na sport, do auta i k počítači si vyberte ty správné brýle!
Zrak je nejdůležitějším lidským smyslem, až 80 % všech informací vnímáme zrakem. Proto je třeba si vidění dobře chránit. Pro korekci zraku je nutné nosit správné dioptrické brýle, oči je však potřeba chránit i při sportu či proti UV záření. Na co se při výběru brýlí zaměřit? U zraku dochází především k poruchám ostrosti, vnímání barev […]
svět zločinu
Jiří Schmitzer: Alkoholový démon si vyžádá život chodce
„Že jsi porazil člověka, to se bohužel může stát, ale žes byl ožralej jak dobytek, to se nepromíjí,“ nemaže se vynikající herec Jiří Sovák (1920–2000) se svým synem Jiřím Schmitzerem krátce poté, co se o tragédii dozvídá. Napjaté vztahy v mládí To, že má i Jiří Sovák pomyslný díl viny na celém neštěstí, tuší jen […]
Sharon Tateová: Krásná herečka zavražděná Mansonovou rodinou
Svým půvabem okouzluje mladičká Sharon Tateová své okolí už od dětství. Roličky v reklamách a televizních seriálech na sebe nenechají dlouho čekat a ve druhé polovině 60. let už je Sharon hollywoodskou hvězdou. Tím spíš, že po jejím boku stojí jeden z tehdy nejvýznačnějších režisérů, Roman Polanski (*1933). Ticho nad Městem andělů Svatba obdivovaného režiséra a […]
Vraťte medaile. Máte pozitivní test!
Dobře znají ten pocit, když jim vestoje tleská celý stadion nebo když jim hostesky navlékají žlutý trikot. Jenže poznali i obrácenou tvář vrcholového sportu. Dny, kdy z titulních stran novin celého světa křičelo velkými titulky jejich jméno. A u něj ještě výraznější text: Dopingový hříšník… Sprintérská rivalita mu zničila život Dlouhá léta bojují o trůn nejrychlejšího […]
Jiří Kajínek: Muž v zeleném tílku, symbol kontroverze a mediální hvězda
Pravděpodobně jde o nejznámějšího českého vězně všech dob. Jiří Kajínek vstupuje do bran věznice Mírov jako ostřílený recidivista, vždyť už si prošel věznicemi v Českých Budějovicích i ve Valdicích. Na Mírově měl ovšem zůstat na doživotí. V roce 1998 je totiž odsouzen na doživotí za spáchání dvojnásobné nájemné vraždy a za pokus o spáchání vraždy. […]
Nenechte si ujít další zajímavé články
Pilaf s rajčaty
tisicereceptu.cz
Pilaf s rajčaty
Pilaf je pokrm z rýže, do něhož lze použít různé druhy masa i zeleniny. Skvěle chutná i s indiánskou rýží. Ingredience na 4 porce 400 g jasmínové rýže 2 cibule 2 konzervy loupaných rajčat oli
Tajemství kamenných bran v Saúdské Arábii: Šlo o vstupy do pekla?
enigmaplus.cz
Tajemství kamenných bran v Saúdské Arábii: Šlo o vstupy do pekla?
V posledních letech se ukazuje, že naše planeta stále ukrývá mnohá tajemství. Před časem například vyšlo najevo, že v poušti na území Saúdské Arábie leží stovky záhadných kamenných útvarů z dávné minu
Přemožené kočky decimují australskou faunu
21stoleti.cz
Přemožené kočky decimují australskou faunu
Pro řadu lidí je symbolem roztomilosti. Ale i to předoucí klubíčko pořád zůstává šelmou. A to takovou, že dokáže rozvrátit celé ekosystémy. Kočka domácí, domestikovaná forma kočky plavé, člověka dopr
Otec atomové bomby přitahoval ženy jako magnet
historyplus.cz
Otec atomové bomby přitahoval ženy jako magnet
Profesor americké literatury John Tatlock se už drahnou dobu marně snaží dozvonit na svoji dceru Jean. Renomovaná psychiatrička po dlouhá léta udržuje komplikovaný vztah se světově proslulým fyzikem Robertem Oppenheimerem. Protože trpí depresemi, vleze její otec záhy do bytu oknem. Bojí se, že by si Jean mohla sáhnout na život… Pouštní krajinu Nového Mexika ozáří
Jak na to: Nalíčené oči i k vodě
nejsemsama.cz
Jak na to: Nalíčené oči i k vodě
Velmi svůdné a času, horku a vodě odolávající líčení vykouzlíte pomocí konturovací tužky. Jdeme na to! Připravte si podklad. Na pohyblivé oční víčko naneste bázi pro oční stíny, můžete také použít trochu korektoru nebo béžový oční stín. Díky tomu se vytvořené líčení ani nehne. Použijte konturovací tužku Čím ostřejší tužka, tím lépe se s ní pracuje. Barvu si
Kdo postavil jávský chrám Borobudur?
epochalnisvet.cz
Kdo postavil jávský chrám Borobudur?
Byl vztyčen uprostřed džungle na ostrově Jáva, a to zhruba před 1200 lety. Kým, to dodnes zůstává záhadou. V době, kdy kamenný skvost Borobudur vznikl, zde totiž žila kultura, která i velké stavby pokrývala jen palmovými listy… Několik dlouhých staletí je Borobudur zcela zapomenutý a skrytý lidským očím. Chátrající kamenný kolos vyrve ze spárů bující
Uteče jí Jeřábek za mladší ženou?
nasehvezdy.cz
Uteče jí Jeřábek za mladší ženou?
Sblížící se padesátkou má herec Tomáš Jeřábek (49) ze seriálu Jedna rodina obavy, že už nikdy nesbalí žádnou mladou kočku. Že by to ještě na poslední chvíli zkusil? Toho se bojí hlavně jeho žena Ha
Benátská! S Impulsem oslaví svojí třetí dekádu třemi velkými S: Scooter, Suzi Quatro & Slade
epochanacestach.cz
Benátská! S Impulsem oslaví svojí třetí dekádu třemi velkými S: Scooter, Suzi Quatro & Slade
Poslední červencový víkend je pro milovníky hudby již neodmyslitelně spjatý s festivalem Benátská! s Impulsem. Ten se od svého vzniku, kdy měl pódium sestavené z lešení a aparaturu přivázanou ke stožárům veřejného osvětlení, etabloval mezi tuzemskou špičku. Letos slaví 30 let. Mezi gratulanty nebudou chybět ani zahraniční ikony Scooter, Suzi Quatro a Slade, kteří mají
Vždycky můžete začít milovat
skutecnepribehy.cz
Vždycky můžete začít milovat
Miluji milostné příběhy. Vždy mi připadaly vzrušující. Proč? Možná jsem sama žila nudný život. Do jisté doby. Je to vlastně smutné, když překročíte padesátku, máte pocit, že roky žijete vedle nesprávného muže a čekáte na rozuzlení, které se děje v telenovelách. Na dnešní poměry jsem se vdávala brzy. Podle zvyklostí za minulého režimu. Bylo mi 25 let,
Moderní obývací pokoj
rezidenceonline.cz
Moderní obývací pokoj
Text: Alena Müllerová Foto: Archiv firem
Nový Mercedes-AMG GT 63 PRO 4MATIC+: více agility pro závodní tratě
iluxus.cz
Nový Mercedes-AMG GT 63 PRO 4MATIC+: více agility pro závodní tratě
Společnost Mercedes-AMG představila na automobilové slavnosti Goodwood Festival of Speed nejnovější přírůstek do rodiny supersportovních vozů AMG GT – nový Mercedes-AMG GT 63 PRO 4MATIC+. Novinka se z
Batikovaná trička jsou zase v módě. Jak si je vyrobit?
panidomu.cz
Batikovaná trička jsou zase v módě. Jak si je vyrobit?
Moderní vzor a ještě batikovaný. Jak si jej vyrobit? Triko nejprve vhodným způsobem poskládáte, sklady převážete provázkem, polijete textilními barvami a pak zafixujete. A to je celé. S příčným pruhem Pomůcky: provázek (gumičky), injekční stříkačka (nebo nosatá láhev), molitanový štětec, mikrotenový sáček, krejčovská křída barevná, zakrývací folie Pomocná chemie: krystalická soda, chlorový čistič, sirnatan sodný