A poslední slovo má...

4. 04. 2019 23:19:54
... člověk nebo stroj? Robotická budoucnost už je vlastně přítomností a dilemata podobná těm, která museli řešit nešťastní piloti boeingů 737 max nás mohou i v běžném životě čekat za nejbližším rohem.

Obrazně řečeno... zatím. Zoufalý souboj o přežití lidí za kniplem se softwarem moderního letadla budiž varováním. Není ještě dost informací, ale vypadá to, že software (stroj) vražedně zvítězil. Reální mrtví lidé jsou. Umělá inteligence rovněž.

Od roku 1921 zná lidstvo díky Karlu Čapkovi a jeho hře RUR pojem ROBOT a celkem ví, co si pod tím představit

Od roku 1942 známe díky panu Isaaku Asimonovi tři zákony robotiky:

1) Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.

2) Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem.

3) Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním, nebo druhým zákonem.

Je to klasika, odhlédněme od pozdějších modifikací a aktualizací jiných autorů, filosofů a novátorů, jako třeba Davida Langforda, který zmírnil hned první pravidlo ve smyslu, že robot může ublížit či zabít pachatele trestných činů (ovšem velící úřední osoba byla stále prvním zákonem chráněna).

A teď realita. Ani žádný opravdický robot, "jen" pouhý software, nedovolí člověku - kapitánu letadla - napravit pravděpodobnou technickou závadu čidla za pár dolarů a navzdory lidským povelům navede letadlo plné lidí do střemhlavého letu k zemi.

Prvotním cílem vyšetřování leteckých nehod není potrestat viníka, ale nalézt příčiny a odstranit je pro příští bezpečnost. I tady se tak jistě stane a software bude patřičně upraven.

Vyšší úroveň je ale jinde. Stejně jako má (snad) dosud i ten tisíce kilometrů vzdálený operátor bojového dronu poslední slovo o tom, zda cíl - samostatně nalezený, vyhodnocený, sledovaný a strojem/robotem nabídnutý ke zničení - má být opravdu zničen, tak podobně bych zavedl i ve všech ostatních aplikacích jednoduchý, dejme tomu "nultý" zákon robotiky: POSLEDNÍ SLOVO MÁ ČLOVĚK.

Jeden příklad za všechny. Povinná vybavení aut plánovaná Evropskou komisí, ať už se jedná o automatické zastavení při zjištění únavy řidiče, nemožnost nastartování při zjištění alkoholu v dechu řidiče (či dokonce spolujezdce!), nemožnost překročení maximální rychlosti. Beru je, ale NE BEZ ALTERNATIVY VYPNUTÍ.

Napadá mne mnoho situací, která budou člověka nutit řídit i za těchto okolností, klasický převoz zraněného či rodičky do nejbližší nemocnice či jinam pro pomoc známe všichni. Najet autem jako zbraní do člověka, který na mne míří samopalem je asi mnohem méně pravděpodobné. ale možné. I český právní řád ale zná přece termíny jako krajní nouze či nutná obrana.

Najděte si prosím, co znamenají a k čemu jsou určená. Nemám nic proti tomu, aby podobná přestoupení strojových omezení byla on-line nahlášena úřadům a objektivně řešena. Protože i marginálně překročit omezenou rychlost může v krajní situaci zachránit život, tak stojí zato ponechat člověku možnost obecně platná pravidla pod tlakem extrémní situace překročit. A zodpovídat se z toho, nést odpovědnost.

A jelikož stroj ani sebedokonalejší robot nikdy podobnou zodpovědnost neponese, pak se moc přimlouvám za jednoduché řešení : u každého stroje, softwaru, robotu musí mít člověk možnost jej kdykoli vypnout. Tlačítko "OFF", to je vše, co po robotech chci. Mít nad nimi moc.

Autor: Jan Andrle | čtvrtek 4.4.2019 23:19 | karma článku: 10.26 | přečteno: 228x

Další články blogera

Jan Andrle

Nový oblek

Jak slíbil, tak udělal. Sliby se mají plnit, že. A já to stihnu nejen do vánoc, ale dokonce do velikonoc. Tady to je, přátelé blogeřníci.

27.3.2024 v 22:17 | Karma článku: 19.79 | Přečteno: 528 | Diskuse

Jan Andrle

Turnus

Ono to není snadné, pracovat v turnusu. Ještě u jednoho by to se celkem sneslo, ale u dvou...to už je dost

6.2.2024 v 21:43 | Karma článku: 18.58 | Přečteno: 516 | Diskuse

Jan Andrle

Doprčic!

Jo, youtube přináší leckterá pokušení. A pro předpubertálního autistu velmi lákavá. A ne vždy jste sto usledovat, co tam zrovna sjíždí. A pak se divíte.

4.2.2024 v 22:35 | Karma článku: 14.05 | Přečteno: 275 | Diskuse

Jan Andrle

Žárovka

Jsem blb. Nikdy bych si to nepřipustil, ale je to tak. K prozření stačilo pár žárovek. Což je zajímavé zejména s ohledem na titul inženýra elektrotechniky, kterým bych se mohl tady pyšnit.

17.1.2024 v 1:02 | Karma článku: 25.21 | Přečteno: 594 | Diskuse

Další články z rubriky Ostatní

Ladislav Jakl

Dělají z nás ženy! Nebo jen hlupáky?

Jsme všichni obětmi tajemného spikleneckého experimentu, kdy pomocí přísad do potravin globální vládci nadělají z chlapů zženštilé hermafrodity, neschopné plodit děti?

28.3.2024 v 18:55 | Karma článku: 29.97 | Přečteno: 594 | Diskuse

Milan Šupa

Čerpejme sílu ke vzestupu z prožití reality Ducha

Myslím, tedy jsem! Tato slova jsou lež! Jsou omylem! Kdo je akceptuje, sází na falešnou kartu a promrhává svůj život. Ztotožňování vlastní jsoucnosti s rozumem a myslí je tou největší tragédií, která nás může postihnout.

28.3.2024 v 16:13 | Karma článku: 0.00 | Přečteno: 53 | Diskuse

Jiří Herblich

Slovo, které radí člověku je Božské tím, že chápe princip Božství

Kdo najde slovo své jako Božské tím, že uvěří. Ten najde slovo společné jako svoje a bude to slovo Boha v člověku.

28.3.2024 v 6:28 | Karma článku: 0.00 | Přečteno: 25 | Diskuse

Yngvar Brenna

Jakou chcete budovat společnost aneb pryč s Velikonocemi

Skutečně je to něco, za co máte utrácet peníze i čas a úsilí, abyste ty dopady potírali, či alespoň pokoušeli, byť zcela marně, zmírnit? Přece jde o to, jakou chcete budovat společnost.

28.3.2024 v 1:56 | Karma článku: 15.66 | Přečteno: 302 |

Jan Andrle

Nový oblek

Jak slíbil, tak udělal. Sliby se mají plnit, že. A já to stihnu nejen do vánoc, ale dokonce do velikonoc. Tady to je, přátelé blogeřníci.

27.3.2024 v 22:17 | Karma článku: 19.79 | Přečteno: 529 | Diskuse
Počet článků 472 Celková karma 17.47 Průměrná čtenost 807

jeden takovej... :-)

Smoljak nechtěl Sobotu v Jáchymovi. Zničil jsi nám film, řekl mu

Příběh naivního vesnického mladíka Františka, který získá v Praze díky kondiciogramu nejen pracovní místo, ale i...

Rejžo, jdu do naha! Balzerová vzpomínala na nahou scénu v Zlatých úhořích

Eliška Balzerová (74) v 7 pádech Honzy Dědka přiznala, že dodnes neví, ve který den se narodila. Kromě toho, že...

Pliveme vám do piva. Centrum Málagy zaplavily nenávistné vzkazy turistům

Mezi turisticky oblíbené destinace se dlouhá léta řadí i španělská Málaga. Přístavní město na jihu země láká na...

Velikonoce 2024: Na Velký pátek bude otevřeno, v pondělí obchody zavřou

Otevírací doba v obchodech se řídí zákonem, který nařizuje, že obchody s plochou nad 200 čtverečních metrů musí mít...

Kam pro filmy bez Ulož.to? Přinášíme další várku streamovacích služeb do TV

S vhodnou aplikací na vás mohou v televizoru na stisk tlačítka čekat tisíce filmů, seriálů nebo divadelních...