Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Diskuse k článku

Neziskovka varuje před roboty zabijáky: o smrti musí rozhodovat člověk

Pokud lidé začnou používat naprogramované stroje určené k zabíjení, stanou se nebezpečnou součástí běžné výzbroje a budou rozhodovat o životě a smrti. Podle agentury AP to tvrdí světová nevládní organizace Human Rights Watch, která na zvláštním zasedání pořádaném OSN vyzvala k preventivnímu zákazu robotických zbraní.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

P52a49v16e52l 80O56h97a72r63e23k 2655735664105

Navrhuji založit neziskonku a názvem Humánní válka

0/0
14.4.2016 13:51

I79r85e87n43a 37V46r17á89n26o47v51á 5562162285464

Jojo, je třeba dodržovat zákony robotiky od Asimova.

+1/0
12.4.2016 15:02

M36i50l88e26n69a 67N61o23v65a91n43s42k12a 4432377939169

Číslo 5 živý, život, žije - Neziskovka rozmontovat. Neziskovka pak mrtvý číslo 5?.....;-D

0/0
12.4.2016 12:35
Foto

M36i92l76a14n 48S51o52u21š98e61k 9326677101342

Já nevěděl, že jde o inteligentní robotickou zbraň, jež sama rozhodne, zda zabije, či nikoliv a koho... Původně jsem nabyl pocitu, že ji programují a ovládají lidé. Pokud to tak není a stroj si zabíjí koho chce a kdy chce zcela sám, pak s neziskovkou plně souhlasím a právě ona by mohla být prvním zkušebním cílem.

+1/0
12.4.2016 11:29

J49a79n 36N37o71v76á56k 9965418274725

SW dnes nabývá takové složitosti, že vývojář už jen odhaduje, jak se systém bude chovat.

Viz poslední zápas v Go v Japonsku, problém MS s rasistickým chatovacím robotem...

0/−2
12.4.2016 11:37

M31i50l93e13n15a 56N87o53v45a29n23s50k42a 4872977459159

Vývojář, že jen odhaduje.... To myslíte jak? Nebo jen tak střílíte slova do vzduchu?

0/0
12.4.2016 12:33

D69a16v38i54d 64D67i93r61g75a 7155641278

Samoucici systemy se nepisou tak, ze jim vypisete reakci na kazdou situaci. Nechate je projit spoustou situaci a stanovite jim kriteria "dopadlo to dobre" a "dopadlo to spatne". Stroj se pak snazi smerovat co nejvic k "dopadne to dobre", ale jeho reakci na konkretni situaci uz predem urcit nedokazete, muzete je (zasvecene) hadat.

+1/0
12.4.2016 12:56

D58a39v61i58d 40D26i11r58g17a 7925141448

To mysli tak, ze stroje tohohle typu se neprogramuji tak, ze jim napisete explicitni reakci na kazdou moznou situaci, protoze tech moznosti je prilis mnoho.

Napisete samoucici algoritmus, stanovite kriteria "dobreho" a "spatneho" vysledku a nechate stroj projit spoustou moznych situaci. On se pak bude snazit delat veci, ktere mu fungovaly a vyhybat se vecem, ktere nefunguji (treba ho znici).

Jak presne se zachova v konkretni situaci vam uz pak nikdo predem nerekne. Maximalne muze zasvecene hadat.

+1/0
12.4.2016 13:07
Foto

M24i64l14a36n 39S92o49u73š40e51k 9366357871282

..dost zajímavé věci.. a tedy mohou být tyto stroje i obecně nebezpečné?

0/0
12.4.2016 14:05

D66a82v98i50d 39D50i33r36g85a 7895611908

Tak zatim nam treba coby lidem podlomily sebevedomi pro hrani sachu a go :)

Prakticky pilouzitelna UI je v zacatcich, na vetsinu slozitych cinnosti je zatim jednodussi nasadit cloveka. A zrovna bojove nasazeni je extreme slozita cinnost, kde protistrana hleda, jak vam ukol co nejvic komplikovat.

Obecne mohou byt tyhle veci nebezpecne asi stejne jako vycviceny clovek. Obcas se stane, ze si vojaci navedou palbu na vlastni jednotky nebo ze jednomu z nich hrabne a zastreli si velitele.

Velmi lapidarne receno by se tak treba mohlo stat, ze v ramci vycviku bude mit nepratelsky bojovnik velmi casto na obleceni modre, cervene a bile soucasti a stroj si z toho udela identifikacni znak, protoze proste strilet do vseho, co je cervene modre a bile nese lepsi vysledky nez jinak zbarveni lide. Pak na nej zamavate ceskou vlajkou...

Ale j to samozrejme ad absurdum pripad, spis chci ilustrovat, ze stroji nemuzete rict ani "zabijej nepratele"(protoze nevi, co to znamena) ani mu nahrat databazi vsech nepratelskych vojaku (protoze ji nemate a bavic se porad meni). Takze ho nechate zkusmo bojovat a rikate mu "tohle bylo dobre, tohle spatne". A on si casem najde znaky, ktere by vas treba vubec nenapadly. Proto muzete jen odhadovat.

0/0
12.4.2016 14:31

A11r70c96h86e96r 76S11p93a39r98t62a66n 7329817650903

Hezky vysvětleno, nicméně v tomto konkrétním případě - robotického tanku, nebo jakékoliv robotické zbraně si imho nikdo (v dohledné době) nedovolí nechat takové rozhodování čistě jen na robotovi/jeho umělé inteligenci - bez dohledu operátora, který by jeho činnost monitoroval, bedlivě hlídal a mohl do ní tak okamžitě zasáhnout. I tak je zde pochopitelně riziko, software může selhat a z robota se tak může stát neovladatelná inteligentní zbraň, která půjde například i po vlastním majiteli. Ale to už je jiný problém.

0/0
12.4.2016 16:59

D85a16v13i35d 69D22i59r27g58a 7655631628

Hm. Prvni pridpevek mel nejakr zpozdeni, tak jsem bapsal druhy a prvni dorazil taky :)

0/0
12.4.2016 13:13

J20i87ř78í 24S74c47h91m77i75d52t 5530593334935

Pokud vememe logiku neziskovky do důsledků, tak by jsme měli vést válku nejlíp holýma rukama;-D

+1/0
12.4.2016 11:09

I87r66e29n42a 28V57r84á42n49o79v86á 5352312875214

To by bylo optimální. Škoda, že to nejde.

+1/0
12.4.2016 15:05

D78u38š40a22n 48M83a51č30e48k 6910842884876

bude potřeba vymyslet nový název, na výraz "neziskovka" začínáme mít silnou alergii

+2/0
12.4.2016 10:36

G24a43b61r53i12e75l 34H91o96r25t47e16n 9771779483984

To by bylo stejně jen dočasné, problém není v názvu...

+2/0
12.4.2016 11:03

J36a49n 26N14o65v95á23k 9225468844205

Jsou státy, kde už to řešit začali: http://www.vlasteneckenoviny.cz/?p=141420

0/0
12.4.2016 11:34

O46t46a 79J50e43l67í95n27e16k 8271438320545

Já chápu varování Hawkinga a Muska tak, že nevaruje ani tak před roboty typu současných dronů, kde o zásahu rozhoduje operátor, ale o o autonomně rohodujících robotických zbraní, tj. o robotech, kteří budou "rozhodovat" sami bez jakéhokoliv povelu operátora, jen na základě naprogramované umělé inteligence či samoučících se neuronových sítích ... Podle mne je evidentní, že tímto směrem se vývoj zbraní s velkou pravděpodobností bude ubírat (zbraně budou efektivnější, odpadne nadbytečná komunikace s operátorem), ale zároveň si myslím, že při vývoji autonomních zbraní je třeba brát opravdu vážně Hawkingovo a Muskovo varování R^

+1/0
12.4.2016 10:34

D63a29v81i22d 92D15i69r15g13a 7315221518

To chápate správně. Taky o nich je tenhle článek.

0/0
12.4.2016 10:39

D67a84v31i27d 29K49o16s27t65e87l54n26í74k 9135476801

Jak s něčím nesouhlasí nějaká neziskovka, tak to bude s nějvětší pravděpodobností v pořádku. Už mě profesionální dobroserové, jejichž pracovní náplní je pořád proti něčemu protestovat a na něco upozorňovat, pěkně štvou.

+3/0
12.4.2016 10:28

D59a42v80i92d 26D70i49r46g24a 7115281418

Mě trochu děsí, jak lidi ustupují od přemýšlení o tom, co se říká a zajímá je jen kdo to říká. Podle toho pak dokážou rychle určit, jestli to je pravda nebo ne.

+2/0
12.4.2016 10:38

J24a14n 42F25r67o97l74í82k 6746100855764

Lhář nebo podvodník si vytvoří renomé a nikdo ho nebere vážně i kdyby nelhal a nepodváděl. Tak to mezi lidmi chodí od pradávna. Stačí si trochu počíst dějepis.;-)

+1/0
12.4.2016 10:58

D37a15v88i75d 74D64i47r89g66a 7885551708

Takze kdyz ma zrovna pravdu, lide maji smulu, proste udelajinopak, protoze hej, prece neziskovka rekla neskakejte z okna. Hop.

0/0
12.4.2016 11:02
Foto

J49a28n 35M96a44c84k 5127282302735

Jakmile ctu slovo "neziskovka", uz me svrbi pest.

+7/0
12.4.2016 10:04

M13a60r54t39i58n 76Š37t64ě15p59á55n14e65k 3207803733711

Jak se k necemu vyjadruji neziskovky, tak clovek vi, ze to bude blabol.

+3/0
12.4.2016 9:57
Foto

O59n62d38ř73e34j 58Š71k74o49c71h 8766487891968

Mě fascinují bláboly typu, že piloti dronů nemají bezprostřední pocit ohrožení a tak berou vše jako hru na playstation. Takže lidé mají cítit stres aby lépe bojovali tedy morálněji? Stíhací bombardér co podle daných informací někde zaútočí jen odpálí raketu a mizí bez vyhodnocování. Pilot dronu se nad cílem placatí třeba hodiny protože takový Reaper vydrží na jednu nádrž 20 hodinletu. Pilot je sledován týmem. A musí vyhodnotit výsledek tudíž vidí co se stalo. U autonomní z raně je ta samá situace k plné autonomii nedojde. Když se střílí už z hlediska efektivity rozhoduje o cíli člověk robot jen efektivně proveďe akci. Už vidím jak v protiteroristické akci voják kterému hrozí zastřelení či podřezání při zajetí řeší cíl více než stroj bez pudu sebezáchovy. A v totální válce před kterou nás chráni jaderné zbraně je pak už jedno kam to padá. Proč mají umírat mladí kluci když může jít do akce mašina?!?

+1/0
12.4.2016 9:41

Z67d56e62n12ě37k 31N44o16v70á61k 4123822949249

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z45d62e25n25ě69k 22N52o64v90á10k 4773122819639

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z18d14e60n26ě25k 62N87o56v13á18k 4533522369539

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z91d75e71n51ě62k 56N39o85v56á60k 4773762539129

divný, asi se mi klepe ruka

0/0
12.4.2016 10:24

P64e61t34r35a 48V80a96ň65k11o85v67á 4424364886592

nějakým blábolem (je vcelku jedno jakým) činnost NEziskovka vykázala, dotace z daní pracujících zajištěny, provoz NEziskovky může vesele pokračovat ..

+12/0
12.4.2016 9:04

T16o71m27á85š 97Z71e24m37á35n48e35k 5330328576986

A ještě jednu výhodu mají autonomní stroje. Nefungují proti nim lidské štíty, tedy se taková taktika stává kontraproduktivní. Nějaká hra na city nepadne na úrodnou půdu, proto by měly být na rozhodnutí člověka závislé jen nepřímo.

+8/0
12.4.2016 9:00

M47a47r18t84i90n 50B83i27t14t54n56e36r 4742856836295

Jako že když si vás a vaší rodinu někdo vezme jako lidský štít, případně obsadí plnou školku a bude mít na sobě výbušninu se spínačem mrtvého muže, tak to na ten autonomní stroj nebude fungovat... a to je výhoda podle vás?

+1/−1
12.4.2016 9:09

T29o50m35á49š 87Z59e90m55á39n50e34k 5970858226576

Když to ten protivník bude vědět, tak ano. Musíte myslet dopředu. Když bude vědět, že ten stroj nic nezastaví, nebude se zdržovat něčím tak nepohodlným, jako jsou lidské štíty.

+7/0
12.4.2016 9:14

P73e18t12e47r 29B34a51k96i19č 1329549235410

Ale bude to fungovať, naženú celú dedinu ako ľudský štít, autonómne stroje ich v kľude postrieľajú a bude vymaľované. Autonómny stroj nebude mať nekonečné zásobníky a po minutú munície na dedinčanov bude ľahký cieľ.

0/−2
12.4.2016 9:29

M51a45r49t51i51n 29B15i81t95t17n20e86r 4562616546505

Ok, zkusím to.

Je chlápek, který rozhoduje o tom, kam nasadí pár zmanipulovaných sebevražedných blbů. Pokud je pošle někam do školy s tím, že bude vědět, že nasazeny budou automatické stroje, které tam prostě spustí palbu bez ohledu na civilisty (lidské štíty), tak se v zásadě nemusí ani obtěžovat dávat jim funkční výbušné vesty se spínačem mrtvého muže a podobně. Stačí obyčejné pistole a příměs těch výbušnin na oklamání detektorů. Výsledek bude dva mrtví blbci a třeba xy mrtvých školáků zabitých vesměs těmi stroji (tedy státem).

Toho manipulátora to vyjde na dva beznadějné pitomce, ten stát na obrovskou medializaci vlastního průšvihu, kdy ten stroj pozabíjel školáky prakticky zbytečně.

Při "dobrých" okolnostech a vhodné medializaci spousta kladných bodů pro teroristy / radikály / kohokoli, v podstatě zadarmo.

Takže v praxi si myslím, že by ty stroje, pokud by měly být použity v této situaci naopak lidské štíty zohledňovat musely (také se nemusí bát o vlastní životy, takže je to snazší).

Kde to bude zneužíváno je v nepřehledných bojových operacích třetího světa, případně pokud stát nasadí takové stroje proti vlastním demonstrujícím, kde podle mne mnohem spíš hrozí skutečný průšvih.

0/0
12.4.2016 9:32

T25o84m41á90š 96Z81e28m71á47n63e94k 5770528266276

A právě tady je ta nepřímá zodpovědnost člověka. Rozhodnutí o tom, na jaký druh mise toho robota poslat.

+3/0
12.4.2016 9:54

D43a46v59i13d 93D10i82r56g66a 7165741778

Pokud mate na mysli protivnika ochotneho zemrit za svou vec a ciliciho na co nejvetsi paseku, tak mu tezko muzete nabidnout lepsi novinove titulku nez "protiteroristicti roboti zmasakrovali skolku (a oba teroristy)"

0/0
12.4.2016 13:00

D10u91š59a72n 71D95i56t93r46i22c31h 3438686273769

A jak jste na to přišel? Vy je programujete?:-/

0/0
12.4.2016 12:02

A13d86a33m 37H38o79u89b75a50ř 2969588605497

Lepsi kdyz o smrti alahovo slouhy rozhodne robot, nez kdyz alah rozhodne o smrti me a moji rodiny.

+15/0
12.4.2016 8:57

J42i38ř74í 83B32e14n27d79e86r 7903324802959

Váš názor asi nikdo nepřekoná.R^ Nepočítám dobrosery.

+1/−1
12.4.2016 9:06

J32a79n 31N24o25v43á75k 9325798684425

Pokud budou takovéhle autonomní zbraně běžně ve výrobě, budou je mít určitě k dispozici i alláhovi slouhové - ideální sebevražední atentátníci.

0/0
12.4.2016 9:54

A78d45a96m 20H25o19u74b23a45ř 2169608175477

Umela inteligence je proti alahovi, to byste mohl vedet ;-)

0/0
12.4.2016 10:33

J47a21n 64N98o96v25á94k 9115558424575

Tak to bude problém.

Pokud vyjdu z faktu že muslimský, židovský a křesťanský bůh je totožná entita, tak pak musí být umělá inteligence obecně proti tomuhle bohovi - takže proti 2 miliardám křesťanů, 1,5 miliardě muslimů a cca 18 mil. židů.

0/0
12.4.2016 11:43

D19a53v35i80d 24D83i26r62g69a 7415151858

Tak určitě. Jak má člověk nepřítele ideologicky správně podchyceného, tak je daleko snazší ho zabít. Allův slouha, imperialista, nevěřící pes... račtě si vybrat, který fanatizmus je vám nejbližší.

0/0
12.4.2016 10:41

A16d16a63m 77H26o18u45b88a70ř 2729838765147

Clovek ma rozum aby ho pouzival, kdyz neco vypada jako zlo, chiva se to jako zlo, tak to je zlo. A nezmeni to ani vase relativizace, ani maskujici nazvy typu nabozenstvi miru. Mel byste takovy radobychytry prispevek, kdybych misto alahovo slouha napsal nacek ? Pro me je cely to jejich satanisticky nabozenstvi naprosto totez a staci jen jit do historie aby to clovek pochopil.

+1/0
12.4.2016 11:15

J78a76n 35N63o73v41á32k 9125498114715

Křesťanství na tom bylo ve středověku naprosto stejně.

Křížové výpravy, vybíjení nevěřících a pohanů, inkvizice...

0/0
12.4.2016 11:31

D82a92v98i60d 88D97i47r15g41a 7345571918

Spis mi to pripomina univerzalni nenavist tech nacku vuci zidum.

Nemce jsme po druhe svetove taky nevystrileli podle logiky co nacek to valecny zlocinec.

0/0
12.4.2016 14:39

M42a47r77t91i20n 53B85i46t69t58n76e44r 4172906976945

Ach jo. Kdyby ten titulek byl - Stephen Hawking varuje před roboty zabijáky, reakce by podle mne byly úplně jiné. Opravdu tolik lidí reaguje jen na první slovo v titulku článku?

Autonomní roboti v boji samozřejmě jsou složité téma, mají své výhody, ale také řadu nevýhod a nebezpečí. Například pokud takový robot udělá chybu a povraždí někde civilisty ve vesnici, kdo ponese odpovědnost? Kdo si půjde sednout?

0/0
12.4.2016 8:57

T10o82m83á66š 15Z91e93m32á19n83e98k 5710348776446

U Hawkinga lze očekávat, že se bude věc snažit domyslet do konce a odhadnout možné následky. U lidí z neziskovek lze celkem s úspěchem předpokládat opak.

+5/0
12.4.2016 9:12





Najdete na iDNES.cz



mobilní verze
© 1999–2017 MAFRA, a. s., a dodavatelé Profimedia, Reuters, ČTK, AP. Jakékoliv užití obsahu včetně převzetí, šíření či dalšího zpřístupňování článků a fotografií je bez souhlasu MAFRA, a. s., zakázáno. Provozovatelem serveru iDNES.cz je MAFRA, a. s., se sídlem
Karla Engliše 519/11, 150 00 Praha 5, IČ: 45313351, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze, oddíl B, vložka 1328. Vydavatelství MAFRA, a. s., je členem koncernu AGROFERT.