Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu

Diskuse k článku

Neziskovka varuje před roboty zabijáky: o smrti musí rozhodovat člověk

Pokud lidé začnou používat naprogramované stroje určené k zabíjení, stanou se nebezpečnou součástí běžné výzbroje a budou rozhodovat o životě a smrti. Podle agentury AP to tvrdí světová nevládní organizace Human Rights Watch, která na zvláštním zasedání pořádaném OSN vyzvala k preventivnímu zákazu robotických zbraní.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

P79a97v53e98l 46O93h60a25r30e45k 2215455874935

Navrhuji založit neziskonku a názvem Humánní válka

0/0
14.4.2016 13:51

I34r94e19n34a 60V88r80á13n90o15v45á 5852302615164

Jojo, je třeba dodržovat zákony robotiky od Asimova.

+1/0
12.4.2016 15:02

M63i32l50e16n62a 42N38o13v32a44n56s98k59a 4512797409469

Číslo 5 živý, život, žije - Neziskovka rozmontovat. Neziskovka pak mrtvý číslo 5?.....;-D

0/0
12.4.2016 12:35
Foto

M39i32l77a22n 23S11o45u80š16e79k 9126427941262

Já nevěděl, že jde o inteligentní robotickou zbraň, jež sama rozhodne, zda zabije, či nikoliv a koho... Původně jsem nabyl pocitu, že ji programují a ovládají lidé. Pokud to tak není a stroj si zabíjí koho chce a kdy chce zcela sám, pak s neziskovkou plně souhlasím a právě ona by mohla být prvním zkušebním cílem.

+1/0
12.4.2016 11:29

J22a84n 86N41o89v70á78k 9345518514865

SW dnes nabývá takové složitosti, že vývojář už jen odhaduje, jak se systém bude chovat.

Viz poslední zápas v Go v Japonsku, problém MS s rasistickým chatovacím robotem...

0/−2
12.4.2016 11:37

M91i55l14e79n36a 34N90o69v78a71n78s60k21a 4672277339989

Vývojář, že jen odhaduje.... To myslíte jak? Nebo jen tak střílíte slova do vzduchu?

0/0
12.4.2016 12:33

D88a91v40i61d 56D72i69r41g32a 7365631148

Samoucici systemy se nepisou tak, ze jim vypisete reakci na kazdou situaci. Nechate je projit spoustou situaci a stanovite jim kriteria "dopadlo to dobre" a "dopadlo to spatne". Stroj se pak snazi smerovat co nejvic k "dopadne to dobre", ale jeho reakci na konkretni situaci uz predem urcit nedokazete, muzete je (zasvecene) hadat.

+1/0
12.4.2016 12:56

D38a40v62i49d 72D98i91r43g10a 7515341508

To mysli tak, ze stroje tohohle typu se neprogramuji tak, ze jim napisete explicitni reakci na kazdou moznou situaci, protoze tech moznosti je prilis mnoho.

Napisete samoucici algoritmus, stanovite kriteria "dobreho" a "spatneho" vysledku a nechate stroj projit spoustou moznych situaci. On se pak bude snazit delat veci, ktere mu fungovaly a vyhybat se vecem, ktere nefunguji (treba ho znici).

Jak presne se zachova v konkretni situaci vam uz pak nikdo predem nerekne. Maximalne muze zasvecene hadat.

+1/0
12.4.2016 13:07
Foto

M24i82l34a62n 62S32o13u87š68e62k 9326977231422

..dost zajímavé věci.. a tedy mohou být tyto stroje i obecně nebezpečné?

0/0
12.4.2016 14:05

D28a58v23i51d 31D24i86r89g43a 7385771818

Tak zatim nam treba coby lidem podlomily sebevedomi pro hrani sachu a go :)

Prakticky pilouzitelna UI je v zacatcich, na vetsinu slozitych cinnosti je zatim jednodussi nasadit cloveka. A zrovna bojove nasazeni je extreme slozita cinnost, kde protistrana hleda, jak vam ukol co nejvic komplikovat.

Obecne mohou byt tyhle veci nebezpecne asi stejne jako vycviceny clovek. Obcas se stane, ze si vojaci navedou palbu na vlastni jednotky nebo ze jednomu z nich hrabne a zastreli si velitele.

Velmi lapidarne receno by se tak treba mohlo stat, ze v ramci vycviku bude mit nepratelsky bojovnik velmi casto na obleceni modre, cervene a bile soucasti a stroj si z toho udela identifikacni znak, protoze proste strilet do vseho, co je cervene modre a bile nese lepsi vysledky nez jinak zbarveni lide. Pak na nej zamavate ceskou vlajkou...

Ale j to samozrejme ad absurdum pripad, spis chci ilustrovat, ze stroji nemuzete rict ani "zabijej nepratele"(protoze nevi, co to znamena) ani mu nahrat databazi vsech nepratelskych vojaku (protoze ji nemate a bavic se porad meni). Takze ho nechate zkusmo bojovat a rikate mu "tohle bylo dobre, tohle spatne". A on si casem najde znaky, ktere by vas treba vubec nenapadly. Proto muzete jen odhadovat.

0/0
12.4.2016 14:31

A62r63c22h23e93r 90S93p90a23r30t40a97n 7839467210863

Hezky vysvětleno, nicméně v tomto konkrétním případě - robotického tanku, nebo jakékoliv robotické zbraně si imho nikdo (v dohledné době) nedovolí nechat takové rozhodování čistě jen na robotovi/jeho umělé inteligenci - bez dohledu operátora, který by jeho činnost monitoroval, bedlivě hlídal a mohl do ní tak okamžitě zasáhnout. I tak je zde pochopitelně riziko, software může selhat a z robota se tak může stát neovladatelná inteligentní zbraň, která půjde například i po vlastním majiteli. Ale to už je jiný problém.

0/0
12.4.2016 16:59

D96a75v18i64d 36D40i79r42g29a 7575291198

Hm. Prvni pridpevek mel nejakr zpozdeni, tak jsem bapsal druhy a prvni dorazil taky :)

0/0
12.4.2016 13:13

J96i28ř25í 66S83c13h10m91i66d29t 5220553324825

Pokud vememe logiku neziskovky do důsledků, tak by jsme měli vést válku nejlíp holýma rukama;-D

+1/0
12.4.2016 11:09

I21r51e17n76a 59V14r21á82n24o14v89á 5442162625414

To by bylo optimální. Škoda, že to nejde.

+1/0
12.4.2016 15:05

D81u76š70a34n 46M65a95č61e32k 6690302934396

bude potřeba vymyslet nový název, na výraz "neziskovka" začínáme mít silnou alergii

+2/0
12.4.2016 10:36

G76a73b56r98i66e51l 78H40o16r25t89e84n 9171399203804

To by bylo stejně jen dočasné, problém není v názvu...

+2/0
12.4.2016 11:03

J66a39n 12N36o37v75á74k 9915328344185

Jsou státy, kde už to řešit začali: http://www.vlasteneckenoviny.cz/?p=141420

0/0
12.4.2016 11:34

O82t35a 64J40e71l76í43n53e29k 8821268270585

Já chápu varování Hawkinga a Muska tak, že nevaruje ani tak před roboty typu současných dronů, kde o zásahu rozhoduje operátor, ale o o autonomně rohodujících robotických zbraní, tj. o robotech, kteří budou "rozhodovat" sami bez jakéhokoliv povelu operátora, jen na základě naprogramované umělé inteligence či samoučících se neuronových sítích ... Podle mne je evidentní, že tímto směrem se vývoj zbraní s velkou pravděpodobností bude ubírat (zbraně budou efektivnější, odpadne nadbytečná komunikace s operátorem), ale zároveň si myslím, že při vývoji autonomních zbraní je třeba brát opravdu vážně Hawkingovo a Muskovo varování R^

+1/0
12.4.2016 10:34

D83a75v33i71d 58D74i44r32g40a 7395431358

To chápate správně. Taky o nich je tenhle článek.

0/0
12.4.2016 10:39

D86a28v97i10d 98K64o75s42t43e94l14n51í84k 9285176721

Jak s něčím nesouhlasí nějaká neziskovka, tak to bude s nějvětší pravděpodobností v pořádku. Už mě profesionální dobroserové, jejichž pracovní náplní je pořád proti něčemu protestovat a na něco upozorňovat, pěkně štvou.

+3/0
12.4.2016 10:28

D85a89v97i49d 22D53i52r60g52a 7125421578

Mě trochu děsí, jak lidi ustupují od přemýšlení o tom, co se říká a zajímá je jen kdo to říká. Podle toho pak dokážou rychle určit, jestli to je pravda nebo ne.

+2/0
12.4.2016 10:38

J88a85n 51F95r31o15l84í58k 6456530305284

Lhář nebo podvodník si vytvoří renomé a nikdo ho nebere vážně i kdyby nelhal a nepodváděl. Tak to mezi lidmi chodí od pradávna. Stačí si trochu počíst dějepis.;-)

+1/0
12.4.2016 10:58

D50a83v25i87d 71D81i86r40g66a 7705461508

Takze kdyz ma zrovna pravdu, lide maji smulu, proste udelajinopak, protoze hej, prece neziskovka rekla neskakejte z okna. Hop.

0/0
12.4.2016 11:02
Foto

J41a93n 23M43a75c46k 5567952312285

Jakmile ctu slovo "neziskovka", uz me svrbi pest.

+7/0
12.4.2016 10:04

M52a56r53t18i29n 78Š43t57ě37p42á69n78e97k 3377373633881

Jak se k necemu vyjadruji neziskovky, tak clovek vi, ze to bude blabol.

+3/0
12.4.2016 9:57
Foto

O70n24d12ř89e27j 49Š11k63o36c91h 8516827981958

Mě fascinují bláboly typu, že piloti dronů nemají bezprostřední pocit ohrožení a tak berou vše jako hru na playstation. Takže lidé mají cítit stres aby lépe bojovali tedy morálněji? Stíhací bombardér co podle daných informací někde zaútočí jen odpálí raketu a mizí bez vyhodnocování. Pilot dronu se nad cílem placatí třeba hodiny protože takový Reaper vydrží na jednu nádrž 20 hodinletu. Pilot je sledován týmem. A musí vyhodnotit výsledek tudíž vidí co se stalo. U autonomní z raně je ta samá situace k plné autonomii nedojde. Když se střílí už z hlediska efektivity rozhoduje o cíli člověk robot jen efektivně proveďe akci. Už vidím jak v protiteroristické akci voják kterému hrozí zastřelení či podřezání při zajetí řeší cíl více než stroj bez pudu sebezáchovy. A v totální válce před kterou nás chráni jaderné zbraně je pak už jedno kam to padá. Proč mají umírat mladí kluci když může jít do akce mašina?!?

+1/0
12.4.2016 9:41

Z33d95e31n41ě68k 44N63o61v17á95k 4183432139799

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z61d94e84n15ě21k 57N84o80v29á37k 4353162519539

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z91d86e91n74ě37k 45N45o82v75á94k 4683292349199

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z16d15e80n82ě45k 30N12o41v16á45k 4713512219519

divný, asi se mi klepe ruka

0/0
12.4.2016 10:24

P76e93t16r61a 92V20a68ň30k14o43v15á 4674444786282

nějakým blábolem (je vcelku jedno jakým) činnost NEziskovka vykázala, dotace z daní pracujících zajištěny, provoz NEziskovky může vesele pokračovat ..

+12/0
12.4.2016 9:04

T89o46m91á32š 75Z73e23m55á51n70e30k 5500608806556

A ještě jednu výhodu mají autonomní stroje. Nefungují proti nim lidské štíty, tedy se taková taktika stává kontraproduktivní. Nějaká hra na city nepadne na úrodnou půdu, proto by měly být na rozhodnutí člověka závislé jen nepřímo.

+8/0
12.4.2016 9:00

M13a85r34t93i16n 81B88i17t36t24n50e85r 4112476776775

Jako že když si vás a vaší rodinu někdo vezme jako lidský štít, případně obsadí plnou školku a bude mít na sobě výbušninu se spínačem mrtvého muže, tak to na ten autonomní stroj nebude fungovat... a to je výhoda podle vás?

+1/−1
12.4.2016 9:09

T85o33m22á26š 98Z78e28m44á76n62e47k 5630898716686

Když to ten protivník bude vědět, tak ano. Musíte myslet dopředu. Když bude vědět, že ten stroj nic nezastaví, nebude se zdržovat něčím tak nepohodlným, jako jsou lidské štíty.

+7/0
12.4.2016 9:14

P17e49t57e40r 29B42a49k71i46č 1109389645180

Ale bude to fungovať, naženú celú dedinu ako ľudský štít, autonómne stroje ich v kľude postrieľajú a bude vymaľované. Autonómny stroj nebude mať nekonečné zásobníky a po minutú munície na dedinčanov bude ľahký cieľ.

0/−2
12.4.2016 9:29

M35a87r22t18i73n 91B43i27t48t63n56e33r 4672886266525

Ok, zkusím to.

Je chlápek, který rozhoduje o tom, kam nasadí pár zmanipulovaných sebevražedných blbů. Pokud je pošle někam do školy s tím, že bude vědět, že nasazeny budou automatické stroje, které tam prostě spustí palbu bez ohledu na civilisty (lidské štíty), tak se v zásadě nemusí ani obtěžovat dávat jim funkční výbušné vesty se spínačem mrtvého muže a podobně. Stačí obyčejné pistole a příměs těch výbušnin na oklamání detektorů. Výsledek bude dva mrtví blbci a třeba xy mrtvých školáků zabitých vesměs těmi stroji (tedy státem).

Toho manipulátora to vyjde na dva beznadějné pitomce, ten stát na obrovskou medializaci vlastního průšvihu, kdy ten stroj pozabíjel školáky prakticky zbytečně.

Při "dobrých" okolnostech a vhodné medializaci spousta kladných bodů pro teroristy / radikály / kohokoli, v podstatě zadarmo.

Takže v praxi si myslím, že by ty stroje, pokud by měly být použity v této situaci naopak lidské štíty zohledňovat musely (také se nemusí bát o vlastní životy, takže je to snazší).

Kde to bude zneužíváno je v nepřehledných bojových operacích třetího světa, případně pokud stát nasadí takové stroje proti vlastním demonstrujícím, kde podle mne mnohem spíš hrozí skutečný průšvih.

0/0
12.4.2016 9:32

T43o34m26á63š 54Z42e46m52á17n57e44k 5460608746266

A právě tady je ta nepřímá zodpovědnost člověka. Rozhodnutí o tom, na jaký druh mise toho robota poslat.

+3/0
12.4.2016 9:54

D69a24v19i19d 88D49i39r89g97a 7375511688

Pokud mate na mysli protivnika ochotneho zemrit za svou vec a ciliciho na co nejvetsi paseku, tak mu tezko muzete nabidnout lepsi novinove titulku nez "protiteroristicti roboti zmasakrovali skolku (a oba teroristy)"

0/0
12.4.2016 13:00

D84u11š16a61n 53D33i29t13r74i22c11h 3638916513699

A jak jste na to přišel? Vy je programujete?:-/

0/0
12.4.2016 12:02

A10d25a56m 96H66o72u47b85a19ř 2579788375127

Lepsi kdyz o smrti alahovo slouhy rozhodne robot, nez kdyz alah rozhodne o smrti me a moji rodiny.

+15/0
12.4.2016 8:57

J13i43ř28í 35B12e73n61d50e10r 7953904222419

Váš názor asi nikdo nepřekoná.R^ Nepočítám dobrosery.

+1/−1
12.4.2016 9:06

J71a50n 57N22o55v27á47k 9795398744505

Pokud budou takovéhle autonomní zbraně běžně ve výrobě, budou je mít určitě k dispozici i alláhovi slouhové - ideální sebevražední atentátníci.

0/0
12.4.2016 9:54

A40d84a94m 46H24o96u13b73a95ř 2269988405937

Umela inteligence je proti alahovi, to byste mohl vedet ;-)

0/0
12.4.2016 10:33

J74a60n 28N88o28v98á28k 9655838354105

Tak to bude problém.

Pokud vyjdu z faktu že muslimský, židovský a křesťanský bůh je totožná entita, tak pak musí být umělá inteligence obecně proti tomuhle bohovi - takže proti 2 miliardám křesťanů, 1,5 miliardě muslimů a cca 18 mil. židů.

0/0
12.4.2016 11:43

D96a38v95i11d 61D88i32r73g68a 7765941278

Tak určitě. Jak má člověk nepřítele ideologicky správně podchyceného, tak je daleko snazší ho zabít. Allův slouha, imperialista, nevěřící pes... račtě si vybrat, který fanatizmus je vám nejbližší.

0/0
12.4.2016 10:41

A77d24a36m 13H91o26u26b24a72ř 2209638475937

Clovek ma rozum aby ho pouzival, kdyz neco vypada jako zlo, chiva se to jako zlo, tak to je zlo. A nezmeni to ani vase relativizace, ani maskujici nazvy typu nabozenstvi miru. Mel byste takovy radobychytry prispevek, kdybych misto alahovo slouha napsal nacek ? Pro me je cely to jejich satanisticky nabozenstvi naprosto totez a staci jen jit do historie aby to clovek pochopil.

+1/0
12.4.2016 11:15

J21a92n 49N67o81v74á49k 9125898144205

Křesťanství na tom bylo ve středověku naprosto stejně.

Křížové výpravy, vybíjení nevěřících a pohanů, inkvizice...

0/0
12.4.2016 11:31

D31a47v48i46d 67D60i57r82g68a 7435301448

Spis mi to pripomina univerzalni nenavist tech nacku vuci zidum.

Nemce jsme po druhe svetove taky nevystrileli podle logiky co nacek to valecny zlocinec.

0/0
12.4.2016 14:39

M87a49r67t62i21n 52B94i58t73t32n90e59r 4332396756675

Ach jo. Kdyby ten titulek byl - Stephen Hawking varuje před roboty zabijáky, reakce by podle mne byly úplně jiné. Opravdu tolik lidí reaguje jen na první slovo v titulku článku?

Autonomní roboti v boji samozřejmě jsou složité téma, mají své výhody, ale také řadu nevýhod a nebezpečí. Například pokud takový robot udělá chybu a povraždí někde civilisty ve vesnici, kdo ponese odpovědnost? Kdo si půjde sednout?

0/0
12.4.2016 8:57

T98o51m92á44š 45Z56e87m88á47n37e88k 5550158586116

U Hawkinga lze očekávat, že se bude věc snažit domyslet do konce a odhadnout možné následky. U lidí z neziskovek lze celkem s úspěchem předpokládat opak.

+5/0
12.4.2016 9:12





Najdete na iDNES.cz



mobilní verze
© 1999–2016 MAFRA, a. s., a dodavatelé Profimedia, Reuters, ČTK, AP. Jakékoliv užití obsahu včetně převzetí, šíření či dalšího zpřístupňování článků a fotografií je bez souhlasu MAFRA, a. s., zakázáno. Provozovatelem serveru iDNES.cz je MAFRA, a. s., se sídlem
Karla Engliše 519/11, 150 00 Praha 5, IČ: 45313351, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze, oddíl B, vložka 1328. Vydavatelství MAFRA, a. s., je součástí koncernu AGROFERT ovládaného Ing. Andrejem Babišem.