A poslední slovo má...
Obrazně řečeno... zatím. Zoufalý souboj o přežití lidí za kniplem se softwarem moderního letadla budiž varováním. Není ještě dost informací, ale vypadá to, že software (stroj) vražedně zvítězil. Reální mrtví lidé jsou. Umělá inteligence rovněž.
Od roku 1921 zná lidstvo díky Karlu Čapkovi a jeho hře RUR pojem ROBOT a celkem ví, co si pod tím představit
Od roku 1942 známe díky panu Isaaku Asimonovi tři zákony robotiky:
1) Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.
2) Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem.
3) Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním, nebo druhým zákonem.
Je to klasika, odhlédněme od pozdějších modifikací a aktualizací jiných autorů, filosofů a novátorů, jako třeba Davida Langforda, který zmírnil hned první pravidlo ve smyslu, že robot může ublížit či zabít pachatele trestných činů (ovšem velící úřední osoba byla stále prvním zákonem chráněna).
A teď realita. Ani žádný opravdický robot, "jen" pouhý software, nedovolí člověku - kapitánu letadla - napravit pravděpodobnou technickou závadu čidla za pár dolarů a navzdory lidským povelům navede letadlo plné lidí do střemhlavého letu k zemi.
Prvotním cílem vyšetřování leteckých nehod není potrestat viníka, ale nalézt příčiny a odstranit je pro příští bezpečnost. I tady se tak jistě stane a software bude patřičně upraven.
Vyšší úroveň je ale jinde. Stejně jako má (snad) dosud i ten tisíce kilometrů vzdálený operátor bojového dronu poslední slovo o tom, zda cíl - samostatně nalezený, vyhodnocený, sledovaný a strojem/robotem nabídnutý ke zničení - má být opravdu zničen, tak podobně bych zavedl i ve všech ostatních aplikacích jednoduchý, dejme tomu "nultý" zákon robotiky: POSLEDNÍ SLOVO MÁ ČLOVĚK.
Jeden příklad za všechny. Povinná vybavení aut plánovaná Evropskou komisí, ať už se jedná o automatické zastavení při zjištění únavy řidiče, nemožnost nastartování při zjištění alkoholu v dechu řidiče (či dokonce spolujezdce!), nemožnost překročení maximální rychlosti. Beru je, ale NE BEZ ALTERNATIVY VYPNUTÍ.
Napadá mne mnoho situací, která budou člověka nutit řídit i za těchto okolností, klasický převoz zraněného či rodičky do nejbližší nemocnice či jinam pro pomoc známe všichni. Najet autem jako zbraní do člověka, který na mne míří samopalem je asi mnohem méně pravděpodobné. ale možné. I český právní řád ale zná přece termíny jako krajní nouze či nutná obrana.
Najděte si prosím, co znamenají a k čemu jsou určená. Nemám nic proti tomu, aby podobná přestoupení strojových omezení byla on-line nahlášena úřadům a objektivně řešena. Protože i marginálně překročit omezenou rychlost může v krajní situaci zachránit život, tak stojí zato ponechat člověku možnost obecně platná pravidla pod tlakem extrémní situace překročit. A zodpovídat se z toho, nést odpovědnost.
A jelikož stroj ani sebedokonalejší robot nikdy podobnou zodpovědnost neponese, pak se moc přimlouvám za jednoduché řešení : u každého stroje, softwaru, robotu musí mít člověk možnost jej kdykoli vypnout. Tlačítko "OFF", to je vše, co po robotech chci. Mít nad nimi moc.
Jan Andrle
Ajznbón (XIII - Čarodějnice)
Byl to poslední den dubna, tedy čekal jsem leccos bizarního, ale že to bude takhle čarodějnické....ale co :-)
Jan Andrle
O biči, koloběžce a řízku
Zní vám to nekompatibilně? Tak to jste ještě nepotkali člověka, kterému to nejen nepřijde divné, ale hlavně o tom ani nepřemýšlí...
Jan Andrle
Útok pizzou
jsme báječná bezpečná země, o tom není pochyb, ale stejně, jednotlivé útoky zde jsou, i bizarní, tak jak se stalo večer nám...
Jan Andrle
Chlapovo štěstí
Jo, to byl ten starej svět. Dobrej. Chlap přijel z práce domů a tam bylo navaříno, naklizeno a načekáno, že až se nají....
Jan Andrle
Nový oblek
Jak slíbil, tak udělal. Sliby se mají plnit, že. A já to stihnu nejen do vánoc, ale dokonce do velikonoc. Tady to je, přátelé blogeřníci.
Další články autora |
Studentky rozrušila přednáška psycholožky, tři dívky skončily v nemocnici
Na kutnohorské střední škole zasahovali záchranáři kvůli skupině rozrušených studentek. Dívky...
Podvod století za 2,4 miliardy. Ortinskému hrozí osm let a peněžitý trest 25 milionů
Luxusní auta, zlaté cihly, diamanty a drahé nemovitosti. To vše si kupoval osmadvacetiletý Jakub...
Rusové hlásí průlom fronty. Ukrajinská minela jim přihrála klíčové město
Premium Jako „den průlomů“ oslavují ruští vojenští blogeři pondělní události na doněcké frontě, kde se...
NATO by Rusy porazilo, Putin má jedinou naději, řekl polský ministr zahraničí
Rusko by se mělo bát Severoatlantické aliance, protože ho v případě střetu s ní čeká „nevyhnutelná...
Pokleknete a budete prosit. Generál slíbil zničit NATO do roku 2030
Velitel čečenských sil bojujících na Ukrajině a věrný obdivovatel ruského prezidenta Vladimira...
Práce k lidem patří, hodnotí účastníci první máj. Oslavy zdůrazňují i politici
Politické strany, hnutí a spolky a jejich příznivci se sešli k oslavám prvního máje. V Praze se...
Hrál na počítači a nechodil ven. Policisté u něj doma našli varnu pervitinu
V bytě na okraji Brna našla policie varnu pervitinu, podezřelý muž skončil ve vazbě. Stíhaná je i...
Na synagogu ve Varšavě kdosi hodil Molotov, čin odsoudil Duda i ambasáda USA
Neznámý útočník v noci na středu hodil tři zápalné lahve na synagogu v centru Varšavy. Případ...
Zatýkáme migranty pro první vlnu deportací do Rwandy, oznámil Londýn
Britská policie ve středu začala se zadržováním migrantů, kteří do Británie přišli nelegálně a byli...
10 nejčastějších podvodů na internetu: Dokážete ochránit sebe i svou rodinu?
V digitální éře, kde technologie proniká do všech aspektů našich životů, se také zvyšuje riziko podvodů. Od falešných e-mailů a inzerátů až po...