Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Diskuse k článku

Neziskovka varuje před roboty zabijáky: o smrti musí rozhodovat člověk

Pokud lidé začnou používat naprogramované stroje určené k zabíjení, stanou se nebezpečnou součástí běžné výzbroje a budou rozhodovat o životě a smrti. Podle agentury AP to tvrdí světová nevládní organizace Human Rights Watch, která na zvláštním zasedání pořádaném OSN vyzvala k preventivnímu zákazu robotických zbraní.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

P92a77v76e97l 74O33h58a37r97e37k 2685275884575

Navrhuji založit neziskonku a názvem Humánní válka

0/0
14.4.2016 13:51

I24r27e62n55a 10V69r80á46n56o10v95á 5532332815964

Jojo, je třeba dodržovat zákony robotiky od Asimova.

+1/0
12.4.2016 15:02

M50i63l90e73n65a 98N52o16v83a17n39s53k27a 4842207969539

Číslo 5 živý, život, žije - Neziskovka rozmontovat. Neziskovka pak mrtvý číslo 5?.....;-D

0/0
12.4.2016 12:35
Foto

M82i45l56a89n 32S91o68u73š89e56k 9306767111312

Já nevěděl, že jde o inteligentní robotickou zbraň, jež sama rozhodne, zda zabije, či nikoliv a koho... Původně jsem nabyl pocitu, že ji programují a ovládají lidé. Pokud to tak není a stroj si zabíjí koho chce a kdy chce zcela sám, pak s neziskovkou plně souhlasím a právě ona by mohla být prvním zkušebním cílem.

+1/0
12.4.2016 11:29

J10a76n 40N57o73v77á53k 9335588714215

SW dnes nabývá takové složitosti, že vývojář už jen odhaduje, jak se systém bude chovat.

Viz poslední zápas v Go v Japonsku, problém MS s rasistickým chatovacím robotem...

0/−2
12.4.2016 11:37

M78i48l69e26n62a 60N45o12v51a69n86s34k16a 4272707319989

Vývojář, že jen odhaduje.... To myslíte jak? Nebo jen tak střílíte slova do vzduchu?

0/0
12.4.2016 12:33

D74a52v32i38d 81D85i39r76g86a 7375461298

Samoucici systemy se nepisou tak, ze jim vypisete reakci na kazdou situaci. Nechate je projit spoustou situaci a stanovite jim kriteria "dopadlo to dobre" a "dopadlo to spatne". Stroj se pak snazi smerovat co nejvic k "dopadne to dobre", ale jeho reakci na konkretni situaci uz predem urcit nedokazete, muzete je (zasvecene) hadat.

+1/0
12.4.2016 12:56

D98a59v85i84d 78D52i53r98g57a 7365941848

To mysli tak, ze stroje tohohle typu se neprogramuji tak, ze jim napisete explicitni reakci na kazdou moznou situaci, protoze tech moznosti je prilis mnoho.

Napisete samoucici algoritmus, stanovite kriteria "dobreho" a "spatneho" vysledku a nechate stroj projit spoustou moznych situaci. On se pak bude snazit delat veci, ktere mu fungovaly a vyhybat se vecem, ktere nefunguji (treba ho znici).

Jak presne se zachova v konkretni situaci vam uz pak nikdo predem nerekne. Maximalne muze zasvecene hadat.

+1/0
12.4.2016 13:07
Foto

M74i58l60a22n 51S33o39u12š55e53k 9576167481812

..dost zajímavé věci.. a tedy mohou být tyto stroje i obecně nebezpečné?

0/0
12.4.2016 14:05

D96a61v40i49d 75D32i98r81g52a 7195111488

Tak zatim nam treba coby lidem podlomily sebevedomi pro hrani sachu a go :)

Prakticky pilouzitelna UI je v zacatcich, na vetsinu slozitych cinnosti je zatim jednodussi nasadit cloveka. A zrovna bojove nasazeni je extreme slozita cinnost, kde protistrana hleda, jak vam ukol co nejvic komplikovat.

Obecne mohou byt tyhle veci nebezpecne asi stejne jako vycviceny clovek. Obcas se stane, ze si vojaci navedou palbu na vlastni jednotky nebo ze jednomu z nich hrabne a zastreli si velitele.

Velmi lapidarne receno by se tak treba mohlo stat, ze v ramci vycviku bude mit nepratelsky bojovnik velmi casto na obleceni modre, cervene a bile soucasti a stroj si z toho udela identifikacni znak, protoze proste strilet do vseho, co je cervene modre a bile nese lepsi vysledky nez jinak zbarveni lide. Pak na nej zamavate ceskou vlajkou...

Ale j to samozrejme ad absurdum pripad, spis chci ilustrovat, ze stroji nemuzete rict ani "zabijej nepratele"(protoze nevi, co to znamena) ani mu nahrat databazi vsech nepratelskych vojaku (protoze ji nemate a bavic se porad meni). Takze ho nechate zkusmo bojovat a rikate mu "tohle bylo dobre, tohle spatne". A on si casem najde znaky, ktere by vas treba vubec nenapadly. Proto muzete jen odhadovat.

0/0
12.4.2016 14:31

A37r73c27h31e51r 47S56p47a63r32t35a26n 7349627960433

Hezky vysvětleno, nicméně v tomto konkrétním případě - robotického tanku, nebo jakékoliv robotické zbraně si imho nikdo (v dohledné době) nedovolí nechat takové rozhodování čistě jen na robotovi/jeho umělé inteligenci - bez dohledu operátora, který by jeho činnost monitoroval, bedlivě hlídal a mohl do ní tak okamžitě zasáhnout. I tak je zde pochopitelně riziko, software může selhat a z robota se tak může stát neovladatelná inteligentní zbraň, která půjde například i po vlastním majiteli. Ale to už je jiný problém.

0/0
12.4.2016 16:59

D72a55v12i79d 45D96i55r91g68a 7175601728

Hm. Prvni pridpevek mel nejakr zpozdeni, tak jsem bapsal druhy a prvni dorazil taky :)

0/0
12.4.2016 13:13

J84i91ř16í 50S21c12h95m65i84d34t 5120193584115

Pokud vememe logiku neziskovky do důsledků, tak by jsme měli vést válku nejlíp holýma rukama;-D

+1/0
12.4.2016 11:09

I27r73e36n23a 24V22r35á64n19o95v17á 5302122405284

To by bylo optimální. Škoda, že to nejde.

+1/0
12.4.2016 15:05

D35u61š43a86n 83M61a71č25e83k 6140322664416

bude potřeba vymyslet nový název, na výraz "neziskovka" začínáme mít silnou alergii

+2/0
12.4.2016 10:36

G58a48b52r91i31e44l 78H80o65r54t92e47n 9461299823194

To by bylo stejně jen dočasné, problém není v názvu...

+2/0
12.4.2016 11:03

J43a89n 98N64o47v58á71k 9685318744495

Jsou státy, kde už to řešit začali: http://www.vlasteneckenoviny.cz/?p=141420

0/0
12.4.2016 11:34

O54t58a 51J19e91l55í92n16e69k 8531248980675

Já chápu varování Hawkinga a Muska tak, že nevaruje ani tak před roboty typu současných dronů, kde o zásahu rozhoduje operátor, ale o o autonomně rohodujících robotických zbraní, tj. o robotech, kteří budou "rozhodovat" sami bez jakéhokoliv povelu operátora, jen na základě naprogramované umělé inteligence či samoučících se neuronových sítích ... Podle mne je evidentní, že tímto směrem se vývoj zbraní s velkou pravděpodobností bude ubírat (zbraně budou efektivnější, odpadne nadbytečná komunikace s operátorem), ale zároveň si myslím, že při vývoji autonomních zbraní je třeba brát opravdu vážně Hawkingovo a Muskovo varování R^

+1/0
12.4.2016 10:34

D60a46v69i17d 49D48i46r41g88a 7155491238

To chápate správně. Taky o nich je tenhle článek.

0/0
12.4.2016 10:39

D11a93v98i76d 83K69o55s93t33e32l23n45í11k 9915526231

Jak s něčím nesouhlasí nějaká neziskovka, tak to bude s nějvětší pravděpodobností v pořádku. Už mě profesionální dobroserové, jejichž pracovní náplní je pořád proti něčemu protestovat a na něco upozorňovat, pěkně štvou.

+3/0
12.4.2016 10:28

D22a65v28i90d 40D13i10r88g64a 7285821378

Mě trochu děsí, jak lidi ustupují od přemýšlení o tom, co se říká a zajímá je jen kdo to říká. Podle toho pak dokážou rychle určit, jestli to je pravda nebo ne.

+2/0
12.4.2016 10:38

J17a65n 52F12r94o68l53í98k 6176910695534

Lhář nebo podvodník si vytvoří renomé a nikdo ho nebere vážně i kdyby nelhal a nepodváděl. Tak to mezi lidmi chodí od pradávna. Stačí si trochu počíst dějepis.;-)

+1/0
12.4.2016 10:58

D52a73v37i24d 56D70i48r56g92a 7285751498

Takze kdyz ma zrovna pravdu, lide maji smulu, proste udelajinopak, protoze hej, prece neziskovka rekla neskakejte z okna. Hop.

0/0
12.4.2016 11:02
Foto

J31a32n 91M97a92c20k 5227642862285

Jakmile ctu slovo "neziskovka", uz me svrbi pest.

+7/0
12.4.2016 10:04

M85a67r78t21i50n 42Š48t53ě16p29á95n74e47k 3667753853421

Jak se k necemu vyjadruji neziskovky, tak clovek vi, ze to bude blabol.

+3/0
12.4.2016 9:57
Foto

O92n79d35ř43e88j 89Š13k80o71c76h 8556167951798

Mě fascinují bláboly typu, že piloti dronů nemají bezprostřední pocit ohrožení a tak berou vše jako hru na playstation. Takže lidé mají cítit stres aby lépe bojovali tedy morálněji? Stíhací bombardér co podle daných informací někde zaútočí jen odpálí raketu a mizí bez vyhodnocování. Pilot dronu se nad cílem placatí třeba hodiny protože takový Reaper vydrží na jednu nádrž 20 hodinletu. Pilot je sledován týmem. A musí vyhodnotit výsledek tudíž vidí co se stalo. U autonomní z raně je ta samá situace k plné autonomii nedojde. Když se střílí už z hlediska efektivity rozhoduje o cíli člověk robot jen efektivně proveďe akci. Už vidím jak v protiteroristické akci voják kterému hrozí zastřelení či podřezání při zajetí řeší cíl více než stroj bez pudu sebezáchovy. A v totální válce před kterou nás chráni jaderné zbraně je pak už jedno kam to padá. Proč mají umírat mladí kluci když může jít do akce mašina?!?

+1/0
12.4.2016 9:41

Z14d65e34n86ě69k 44N45o30v15á18k 4493222559529

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z56d83e34n31ě16k 77N28o83v61á83k 4963762759399

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z77d65e91n46ě19k 49N90o18v23á78k 4163512959719

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z73d27e93n76ě43k 59N34o87v51á33k 4983282609299

divný, asi se mi klepe ruka

0/0
12.4.2016 10:24

P14e49t89r91a 67V15a52ň49k25o12v12á 4164614476692

nějakým blábolem (je vcelku jedno jakým) činnost NEziskovka vykázala, dotace z daní pracujících zajištěny, provoz NEziskovky může vesele pokračovat ..

+12/0
12.4.2016 9:04

T54o25m63á80š 55Z20e44m88á29n43e26k 5150888236676

A ještě jednu výhodu mají autonomní stroje. Nefungují proti nim lidské štíty, tedy se taková taktika stává kontraproduktivní. Nějaká hra na city nepadne na úrodnou půdu, proto by měly být na rozhodnutí člověka závislé jen nepřímo.

+8/0
12.4.2016 9:00

M47a89r87t70i13n 73B88i23t83t90n29e33r 4112916736375

Jako že když si vás a vaší rodinu někdo vezme jako lidský štít, případně obsadí plnou školku a bude mít na sobě výbušninu se spínačem mrtvého muže, tak to na ten autonomní stroj nebude fungovat... a to je výhoda podle vás?

+1/−1
12.4.2016 9:09

T96o85m27á95š 18Z44e47m15á19n69e59k 5690578516986

Když to ten protivník bude vědět, tak ano. Musíte myslet dopředu. Když bude vědět, že ten stroj nic nezastaví, nebude se zdržovat něčím tak nepohodlným, jako jsou lidské štíty.

+7/0
12.4.2016 9:14

P62e35t56e64r 22B27a89k43i95č 1659119795880

Ale bude to fungovať, naženú celú dedinu ako ľudský štít, autonómne stroje ich v kľude postrieľajú a bude vymaľované. Autonómny stroj nebude mať nekonečné zásobníky a po minutú munície na dedinčanov bude ľahký cieľ.

0/−2
12.4.2016 9:29

M36a85r42t96i55n 16B28i29t71t27n59e12r 4522826616435

Ok, zkusím to.

Je chlápek, který rozhoduje o tom, kam nasadí pár zmanipulovaných sebevražedných blbů. Pokud je pošle někam do školy s tím, že bude vědět, že nasazeny budou automatické stroje, které tam prostě spustí palbu bez ohledu na civilisty (lidské štíty), tak se v zásadě nemusí ani obtěžovat dávat jim funkční výbušné vesty se spínačem mrtvého muže a podobně. Stačí obyčejné pistole a příměs těch výbušnin na oklamání detektorů. Výsledek bude dva mrtví blbci a třeba xy mrtvých školáků zabitých vesměs těmi stroji (tedy státem).

Toho manipulátora to vyjde na dva beznadějné pitomce, ten stát na obrovskou medializaci vlastního průšvihu, kdy ten stroj pozabíjel školáky prakticky zbytečně.

Při "dobrých" okolnostech a vhodné medializaci spousta kladných bodů pro teroristy / radikály / kohokoli, v podstatě zadarmo.

Takže v praxi si myslím, že by ty stroje, pokud by měly být použity v této situaci naopak lidské štíty zohledňovat musely (také se nemusí bát o vlastní životy, takže je to snazší).

Kde to bude zneužíváno je v nepřehledných bojových operacích třetího světa, případně pokud stát nasadí takové stroje proti vlastním demonstrujícím, kde podle mne mnohem spíš hrozí skutečný průšvih.

0/0
12.4.2016 9:32

T23o28m65á42š 91Z65e96m53á36n60e19k 5160518306396

A právě tady je ta nepřímá zodpovědnost člověka. Rozhodnutí o tom, na jaký druh mise toho robota poslat.

+3/0
12.4.2016 9:54

D16a64v57i77d 32D36i61r24g51a 7325781908

Pokud mate na mysli protivnika ochotneho zemrit za svou vec a ciliciho na co nejvetsi paseku, tak mu tezko muzete nabidnout lepsi novinove titulku nez "protiteroristicti roboti zmasakrovali skolku (a oba teroristy)"

0/0
12.4.2016 13:00

D18u95š62a69n 44D38i10t82r47i45c47h 3968696883879

A jak jste na to přišel? Vy je programujete?:-/

0/0
12.4.2016 12:02

A70d93a95m 21H77o50u86b53a46ř 2939148385167

Lepsi kdyz o smrti alahovo slouhy rozhodne robot, nez kdyz alah rozhodne o smrti me a moji rodiny.

+15/0
12.4.2016 8:57

J60i13ř23í 19B22e74n88d56e73r 7903734762509

Váš názor asi nikdo nepřekoná.R^ Nepočítám dobrosery.

+1/−1
12.4.2016 9:06

J46a91n 70N26o60v18á43k 9485908304545

Pokud budou takovéhle autonomní zbraně běžně ve výrobě, budou je mít určitě k dispozici i alláhovi slouhové - ideální sebevražední atentátníci.

0/0
12.4.2016 9:54

A20d11a49m 30H52o25u75b40a10ř 2939328435327

Umela inteligence je proti alahovi, to byste mohl vedet ;-)

0/0
12.4.2016 10:33

J37a84n 93N98o40v95á12k 9325438364145

Tak to bude problém.

Pokud vyjdu z faktu že muslimský, židovský a křesťanský bůh je totožná entita, tak pak musí být umělá inteligence obecně proti tomuhle bohovi - takže proti 2 miliardám křesťanů, 1,5 miliardě muslimů a cca 18 mil. židů.

0/0
12.4.2016 11:43

D94a82v30i43d 94D93i67r69g82a 7675971208

Tak určitě. Jak má člověk nepřítele ideologicky správně podchyceného, tak je daleko snazší ho zabít. Allův slouha, imperialista, nevěřící pes... račtě si vybrat, který fanatizmus je vám nejbližší.

0/0
12.4.2016 10:41

A35d67a14m 58H25o42u76b56a24ř 2579478875747

Clovek ma rozum aby ho pouzival, kdyz neco vypada jako zlo, chiva se to jako zlo, tak to je zlo. A nezmeni to ani vase relativizace, ani maskujici nazvy typu nabozenstvi miru. Mel byste takovy radobychytry prispevek, kdybych misto alahovo slouha napsal nacek ? Pro me je cely to jejich satanisticky nabozenstvi naprosto totez a staci jen jit do historie aby to clovek pochopil.

+1/0
12.4.2016 11:15

J23a43n 17N93o27v32á75k 9745458354695

Křesťanství na tom bylo ve středověku naprosto stejně.

Křížové výpravy, vybíjení nevěřících a pohanů, inkvizice...

0/0
12.4.2016 11:31

D94a41v44i15d 35D61i60r63g38a 7735681418

Spis mi to pripomina univerzalni nenavist tech nacku vuci zidum.

Nemce jsme po druhe svetove taky nevystrileli podle logiky co nacek to valecny zlocinec.

0/0
12.4.2016 14:39

M36a47r86t88i66n 78B88i47t44t41n67e81r 4602596746655

Ach jo. Kdyby ten titulek byl - Stephen Hawking varuje před roboty zabijáky, reakce by podle mne byly úplně jiné. Opravdu tolik lidí reaguje jen na první slovo v titulku článku?

Autonomní roboti v boji samozřejmě jsou složité téma, mají své výhody, ale také řadu nevýhod a nebezpečí. Například pokud takový robot udělá chybu a povraždí někde civilisty ve vesnici, kdo ponese odpovědnost? Kdo si půjde sednout?

0/0
12.4.2016 8:57

T45o31m45á88š 42Z44e62m82á96n71e30k 5610958836596

U Hawkinga lze očekávat, že se bude věc snažit domyslet do konce a odhadnout možné následky. U lidí z neziskovek lze celkem s úspěchem předpokládat opak.

+5/0
12.4.2016 9:12





Najdete na iDNES.cz



mobilní verze
© 1999–2017 MAFRA, a. s., a dodavatelé Profimedia, Reuters, ČTK, AP. Jakékoliv užití obsahu včetně převzetí, šíření či dalšího zpřístupňování článků a fotografií je bez souhlasu MAFRA, a. s., zakázáno. Provozovatelem serveru iDNES.cz je MAFRA, a. s., se sídlem
Karla Engliše 519/11, 150 00 Praha 5, IČ: 45313351, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze, oddíl B, vložka 1328. Vydavatelství MAFRA, a. s., je členem koncernu AGROFERT.