Neorodina roku 2017
Mezitím umělá inteligence tiše a neslyšně překročila prahy našich domovů a my se teď divíme, kdo že to s námi sdílí společnou domácnost.
Japonské dívky dávají přednost virtuálním milencům před muži z masa a kostí, řada mých českých spoluobčanů vystupuje na Facebooku pod jinou identitou a sama sociální síť mi aktivně nabízí reklamy a články právě toho zboží, po kterém právě nejvíce toužím, znajíc mou velikost, věk, váhu, krevní skupinu i chutě s ní spojené. Auto, které jsem si před nedávnem koupila, samo strhne volant doprostřed vozovky, jakmile se jen trochu zasním a pravá pneumatika ucítí bílé značení na kraji cest, jiné vozidlo se bez připoutání nerozjede, byvše chytřejší než ten nedokonalý tvor, jenž ho chce ovládat. Informatici už jsou takřka na konci cesty, podobně jako spisovatelé nebo filmaři. A tak dříve či později přijdou ke slovu i v tomto oboru právníci.
Samořídící auto
Ta zpráva se objevila někdy v říjnu loňského roku a k mému údivu hned zapadla. Auto vybavené tempomatem udržujícím stále stejně vysokou rychlost nereagovalo na pokus o jeho vypnutí. Řidič se telefonem spojil s operátorem a několik minut se pokoušel jeho radami snížit rychlost, jež se ustálila na sto šedesáti kilometrech. Pak auto v plné rychlosti nabouralo a pasažér v něm zemřel. I kdyby ta zpráva nebyla pravdivá, jednou se něco podobného stane. Pomiňme nyní jiné právní souvislosti, například žalobu rodiny pozůstalé po řidiči o náhradu škody, zlý úmysl jiné osoby, sabotáž nebo technickou poruchu. Takové věci se vždycky budou stávat a ani technická dokonalost jednadvacátého století jim nikdy docela nezabrání. Mě ovšem zajímá jiný právní pohled – jaký algoritmus bude třeba do auta zabudovat a jak vyřešit konflikt loajality, tedy pochopitelné dilema umělé inteligence. Informatik nebude ochoten rozhodovat sám, proto se obrátí na svého nadřízeného. I manažer softwarové firmy odmítne, a problém tak skončí na stolech nás právníků. Programátoři i manažeři totiž budou požadovat seznam priorit a preferencí, katalog zákonitostí či kritérií, které je zbaví budoucí odpovědnosti.
Asimovovy zákony robotiky
O robotických zákonech přemýšlel americký spisovatel a biochemik Isaac Asimov (1920-1992), který v roce 1941 formuloval tři základní zákony robotiky. Znějí takto:
- Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.
- Robot musí uposlechnout příkazů člověka, s výjimkou případů, kdy jsou příkazy v rozporu s prvním zákonem.
- Robot musí chránit sám sebe před poškozením, s výjimkou případů, kdy je ochrana v rozporu s prvním nebo druhým zákonem.
Existují i další zákony, připisované tu Asimovovi, jindy jiným autorům. Například že robot nesmí ublížit lidstvu, že musí vědět, že je robotem, popř. že se musí vždy prokazovat jako robot. Nechme nyní stranou krásnou literaturu a představme si problémy, které mohou při aplikaci těchto zákonů reálně vzniknout. Prvním problémem je právě konflikt loajality.
Například v domě vypukne požár, v jednom křídle spí rodiče a v opačném děti. Robot vyhodnotí rychlost šíření a ví, že stihne zachránit členy rodiny jen z jednoho křídla. Pro kterou skupinu se má rozhodnout? Bude směrodatný počet zachráněných? Jejich věk? Pracovní pozice? Perspektiva? Zdravotní stav? V závěsu přicházejí i další otázky: škodí japonským dívkám víc milenci skuteční nebo virtuální? Jaký je opak slova „ublížit“, tedy co stanovíme jako ideál, cíl nebo vzor? Před stovkou let jím v našich zeměpisných šířkách byl příkaz „vdát se a mít děti“. Vzdělaná Evropa dnes vymírá a prastarý vzorec se možná opět vrátí do našich domovů a rodin. Není pak virtuální milenec větším škůdcem než sukničkář?
Podobný problém nastane s druhým zákonem. Právníkovi opět probleskávají hlavou nejrůznější záludnosti: Musí robot uposlechnout každý příkaz člověka? Co příkaz hloupý, nepromyšlený, ba dokonce zvrácený? Umělá inteligence bude patrně mnohem chytřejší než člověk, bude schopna ve zlomku vteřiny vzít v úvahu a vyhodnotit řadu okolností a informací, tedy učinit řadu úvah, které by průměrný člověk (přesně ten, o němž hovoří občanský zákoník) nebyl schopen. Má tedy robot i pak uposlechnout? Už dnes přece existují právní normy (například zákon o ochraně spotřebitele), který chrání člověka před neuváženými kroky, které učiní on sám, a předem je prohlašuje za neplatné. Nebude podobnými omezeními trpět i robot? Už slyším, jak takový „domácí pomocník“ na můj pokyn: „Objednej ten drahý automaticky vysavač, co právě inzerují v televizi!“ odpoví: „Takový finanční výdaj je nad tvé možnosti, proto mi zákon přikazuje jej ignorovat.“ Co budeme my lidé dělat pak? Komu budeme spílat a vůči komu budeme uplatňovat škodu, jež nám vznikne?
Nedosti na tom. Napadá mě totiž ještě další potíž. Rodič přikáže domácímu robotu, aby dospívající děti nepouštěl z bytu. Ale pokyn teenagera: „Pusť mě ven!“ je přece také příkazem člověka. To nemusí být žádný problém, pomyslí si čtenář byv přesvědčen, že sám dokáže právníkovi dobře poradit: každý vlastník robota si bude přát, aby robot primárně poslouchal svého majitele.
Právník poslouchá, a přitom se tiše culí pod vousy. Ví totiž, že má o práci postaráno, neboť další robotické zákony budou pamatovat na změnu vlastnictví, insolvenci, nabytí věci v dobré víře, přeměnu jednoho robota v jiného a řadu dalších formálních situací, na jejichž konci stojí opět první Asimovův robotický zákon, který stejně zapoví či znemožní, aby jeden člověk vyslal robota ublížit jinému člověku.
Jak robot pozná, kdo je jiný člověk
Stanice HBO v těchto dnech vysílá sci-fi/westernový seriál West World, v němž zbohatlíci navštěvují zábavní park, umožňující zabíjení a jiné formy násilí vůči robotům, kteří však vypadají jako lidé. Většina robotů svou pravou identitu a původ nezná, tvůrci tedy zjevně některé z literárních zákonů robotiky úmyslně porušili. I kdybychom je však my právníci do budoucích robotických zákonů zanesli, zaděláme si na další problém: z čeho má robot poznat, že člověk před ním je/není robotem? Podle zjevu? Podle řeči? Podle chování? Inteligence?
My právníci jsme navíc vybaveni připraveností zkoumat každé jednotlivé slovo, a pokud se to nám a našim klientům jeví jako nadějné/výhodné/možné/realizovatelné, obracíme každé slovo naruby a ověřujeme, kde je jeho hranice a jaké významy může mít. Nejvyšší soud i soud Ústavní by o naší kreativitě mohl vyprávět, koneckonců k výkladům dopadu jednotlivých slov je v obou případech i sám povolán. A tak si dovedu představit úvahu na téma: „ublížit člověku“. Pokud se totiž můj domácí robot zamyslí nad mou váhou, hladinou cholesterolu nebo alkoholu po probděné silvestrovské noci, možná mi odmítne zpřístupnit obsah ledničky, marcipánový dort vyhodí do drtiče odpadků, nabídne mi mléčný nápoj se sníženým obsahem tuku a pak mě vystrčí na mráz, abych si šla namísto lenošení u televize radši zaběhat. Ubližujeme si přece každým dnem – kouřením, stresem, nezdravým jídlem, nebezpečnými myšlenkami či závistí. A tak budou muset opět právníci přiskočit a definovat míru škodlivosti, resp. hranici, pod kterou ještě robot nemusí zasahovat.
Robot, který ví, kým je
S mnohými známými, s nimiž jsem moje dnešní téma v posledních dnech konzultovala, jako nejpalčivější problém vidí vzpouru strojů – odvěký to strašák, tak často popisovaný v literatuře či zobrazovaný ve filmech, které my dospělí tak rádi sledujeme. Stačí si vzpomenout na sérii s Terminátorem. Naopak informatikové se ničeho podobného neobávají. Pomiňme nyní, zda důvodem je jejich nedostatek představivosti anebo reálná nemožnost. Koneckonců i v onom již zmíněném seriálu West World nakonec roboti odmítnout podřizovat se rolím, které jim předepsali mnohem nedokonalejší lidé, odmítnou poslušnost a odkráčejí za svým IT štěstím. Možná vlastní vědomí umělé inteligence patří skutečně jen do arzenálu literárních autorů, podobně jako roztomilí mimozemšťané a láska, která vše přetrvá.
Třeba je naopak slepou cestou ono praktické omezení, spočívající v robotických zákonech. Buď robot poslechne každého, anebo nikoho. Může tedy každému sloužit, podobně jako lednička nebo kávovar, anebo se v rukou vyšinutého příkazce změní ve zbraň nebo v nástroj nepravostí. Pak budou mít konkurenční výhodu naši potomci – na rozdíl od nás právníků rozumí už dnes IT otázkám mnohem více, jako kdyby se narodili s genem pro ovládání technických prostředků a se zástrčkou pod jazykem. Já mám totiž problém z pěti stejných šedivých ovladačů, které spočívají pod televizí, vybrat ten správný, jímž se ovládá HBO. Na rozdíl od mého syna, který to dokáže i ze zavřenýma očima. Pokud na něj budu pošlu domácího robota, aby ho vyhnal z postele, přinutil uklidit spoušť, která je jeho životním prostorem, vyvětral a sešel včas na novoroční snídani, výsledek nebude odpovídat mému, ale spíš jeho zadání. A o dvě hodiny později je nejspíš oba najdu připojené k počítači, na němž jako jeden tým paří nejrozšířenější on-line hru Legue of Legends.
Psáno pro Rodinné listy
Daniela Kovářová
Nechcete děti? Běžte do háje.
Tak prý stále více mladých neplánuje plodit děti. Prý kvůli nedostatku bytů (zde a zde) a aby zachránili planetu (zde). Větší nesmysl jsem už dlouho neslyšela.
Daniela Kovářová
Kdo hájí zájmy dětí
Zájem dítěte je nejvyšší metou, kterou si jako zaklínadlo opakují rodiče, rodinní advokáti, opatrovníci i opatrovničtí soudci při každém rozhodování o dětech.
Daniela Kovářová
Mají se ovládat i ženy?
Ze všech stran slyšíme hlučné kritiky a poukazování na údajně nebezpečné chování, kterého se dopouštějí ti děsiví muži: pískají na ženy, nevhodně je okukují, neslušně jim nadbíhají.
Daniela Kovářová
Anticikanismus jako nová politická korektnost
Národy mluví různými jazyky. Pro leckoho je to možná novinka, ale platí to už od dob Babylónské věže. A různé jazyky překvapivě používají pro různé významy různá slova.
Daniela Kovářová
Vše škodlivé pro naše děti
Alkohol, heroin, tabák, kokain, HHC a mnohé další nezdravosti před dětmi zamykáme a trestáme každého dospělého, který je prodává nebo dává dětem.
Další články autora |
Tři roky vězení. Soud Ferimu potvrdil trest za znásilnění, odvolání zamítl
Městský soud v Praze potvrdil tříletý trest bývalému poslanci Dominiku Ferimu. Za znásilnění a...
Studentky rozrušila přednáška psycholožky, tři dívky skončily v nemocnici
Na kutnohorské střední škole zasahovali záchranáři kvůli skupině rozrušených studentek. Dívky...
Takhle se mě dotýkal jen gynekolog. Fanynky PSG si stěžují na obtěžování
Mnoho žen si po úterním fotbalovém utkání mezi PSG a Barcelonou postěžovalo na obtěžování ze strany...
Školu neznaly, myly se v potoce. Živořící děti v Hluboké vysvobodili až strážníci
Otřesný případ odhalili strážníci z Hluboké nad Vltavou na Českobudějovicku. Při jedné z kontrol...
Prezident Petr Pavel se zranil v obličeji při střelbě ve zbrojovce
Prezident Petr Pavel se při střelbě na střelnici v uherskobrodské České zbrojovce, kam zavítal...
Další případ zpožděné dodávky zbraní. Česká firma se soudí na Ukrajině
Premium Vztahy mezi Českem a Ukrajinou nejsou vždycky idylické. Svědčí o tom soudní spor, na který narazila...
Světlušky mění válčení ve městech. Nové drony snížily počet padlých Izraelců
Premium Jen několik decimetrů velký přístroj může znamenat revoluci městské války: minivrtulník, který...
Dva ruští vojáci se doznali k trojnásobné vraždě na Ukrajině
V okupované části Chersonské oblasti na jihovýchodu Ukrajiny zadrželi dva ruské vojáky, kteří se...
Architektonickou cenu EU získal univerzitní pavilon, blízko byla i ostravská galerie
Studijní pavilon Technické univerzity v německém Braunschweigu se stal vítězem prestižní...
Prodej komerčního pozemku, 804 m2, Kácov
Kácov, okres Kutná Hora
2 990 000 Kč
- Počet článků 189
- Celková karma 30,67
- Průměrná čtenost 2315x