Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Diskuse k článku

Neziskovka varuje před roboty zabijáky: o smrti musí rozhodovat člověk

Pokud lidé začnou používat naprogramované stroje určené k zabíjení, stanou se nebezpečnou součástí běžné výzbroje a budou rozhodovat o životě a smrti. Podle agentury AP to tvrdí světová nevládní organizace Human Rights Watch, která na zvláštním zasedání pořádaném OSN vyzvala k preventivnímu zákazu robotických zbraní.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

P45a29v58e35l 78O97h81a10r88e56k 2905105134975

Navrhuji založit neziskonku a názvem Humánní válka

0/0
14.4.2016 13:51

I93r83e97n76a 75V76r98á43n56o64v92á 5252632935464

Jojo, je třeba dodržovat zákony robotiky od Asimova.

+1/0
12.4.2016 15:02

M12i90l46e96n85a 51N39o60v41a70n32s14k82a 4572627649699

Číslo 5 živý, život, žije - Neziskovka rozmontovat. Neziskovka pak mrtvý číslo 5?.....;-D

0/0
12.4.2016 12:35
Foto

M79i62l73a91n 59S57o75u54š12e12k 9726927411632

Já nevěděl, že jde o inteligentní robotickou zbraň, jež sama rozhodne, zda zabije, či nikoliv a koho... Původně jsem nabyl pocitu, že ji programují a ovládají lidé. Pokud to tak není a stroj si zabíjí koho chce a kdy chce zcela sám, pak s neziskovkou plně souhlasím a právě ona by mohla být prvním zkušebním cílem.

+1/0
12.4.2016 11:29

J43a86n 63N86o65v54á12k 9275558634335

SW dnes nabývá takové složitosti, že vývojář už jen odhaduje, jak se systém bude chovat.

Viz poslední zápas v Go v Japonsku, problém MS s rasistickým chatovacím robotem...

0/−2
12.4.2016 11:37

M66i16l52e71n26a 85N92o10v33a44n10s30k53a 4522427699529

Vývojář, že jen odhaduje.... To myslíte jak? Nebo jen tak střílíte slova do vzduchu?

0/0
12.4.2016 12:33

D82a49v66i66d 98D17i88r27g28a 7695961208

Samoucici systemy se nepisou tak, ze jim vypisete reakci na kazdou situaci. Nechate je projit spoustou situaci a stanovite jim kriteria "dopadlo to dobre" a "dopadlo to spatne". Stroj se pak snazi smerovat co nejvic k "dopadne to dobre", ale jeho reakci na konkretni situaci uz predem urcit nedokazete, muzete je (zasvecene) hadat.

+1/0
12.4.2016 12:56

D66a61v17i19d 67D92i51r33g81a 7855251788

To mysli tak, ze stroje tohohle typu se neprogramuji tak, ze jim napisete explicitni reakci na kazdou moznou situaci, protoze tech moznosti je prilis mnoho.

Napisete samoucici algoritmus, stanovite kriteria "dobreho" a "spatneho" vysledku a nechate stroj projit spoustou moznych situaci. On se pak bude snazit delat veci, ktere mu fungovaly a vyhybat se vecem, ktere nefunguji (treba ho znici).

Jak presne se zachova v konkretni situaci vam uz pak nikdo predem nerekne. Maximalne muze zasvecene hadat.

+1/0
12.4.2016 13:07
Foto

M92i17l28a42n 65S19o43u32š83e58k 9446157961652

..dost zajímavé věci.. a tedy mohou být tyto stroje i obecně nebezpečné?

0/0
12.4.2016 14:05

D66a98v62i54d 96D25i95r89g66a 7825921218

Tak zatim nam treba coby lidem podlomily sebevedomi pro hrani sachu a go :)

Prakticky pilouzitelna UI je v zacatcich, na vetsinu slozitych cinnosti je zatim jednodussi nasadit cloveka. A zrovna bojove nasazeni je extreme slozita cinnost, kde protistrana hleda, jak vam ukol co nejvic komplikovat.

Obecne mohou byt tyhle veci nebezpecne asi stejne jako vycviceny clovek. Obcas se stane, ze si vojaci navedou palbu na vlastni jednotky nebo ze jednomu z nich hrabne a zastreli si velitele.

Velmi lapidarne receno by se tak treba mohlo stat, ze v ramci vycviku bude mit nepratelsky bojovnik velmi casto na obleceni modre, cervene a bile soucasti a stroj si z toho udela identifikacni znak, protoze proste strilet do vseho, co je cervene modre a bile nese lepsi vysledky nez jinak zbarveni lide. Pak na nej zamavate ceskou vlajkou...

Ale j to samozrejme ad absurdum pripad, spis chci ilustrovat, ze stroji nemuzete rict ani "zabijej nepratele"(protoze nevi, co to znamena) ani mu nahrat databazi vsech nepratelskych vojaku (protoze ji nemate a bavic se porad meni). Takze ho nechate zkusmo bojovat a rikate mu "tohle bylo dobre, tohle spatne". A on si casem najde znaky, ktere by vas treba vubec nenapadly. Proto muzete jen odhadovat.

0/0
12.4.2016 14:31

A84r59c90h46e70r 96S33p87a73r90t87a56n 7619197350733

Hezky vysvětleno, nicméně v tomto konkrétním případě - robotického tanku, nebo jakékoliv robotické zbraně si imho nikdo (v dohledné době) nedovolí nechat takové rozhodování čistě jen na robotovi/jeho umělé inteligenci - bez dohledu operátora, který by jeho činnost monitoroval, bedlivě hlídal a mohl do ní tak okamžitě zasáhnout. I tak je zde pochopitelně riziko, software může selhat a z robota se tak může stát neovladatelná inteligentní zbraň, která půjde například i po vlastním majiteli. Ale to už je jiný problém.

0/0
12.4.2016 16:59

D35a17v27i11d 22D12i35r52g69a 7375871108

Hm. Prvni pridpevek mel nejakr zpozdeni, tak jsem bapsal druhy a prvni dorazil taky :)

0/0
12.4.2016 13:13

J81i12ř50í 44S48c54h33m83i41d46t 5870463814185

Pokud vememe logiku neziskovky do důsledků, tak by jsme měli vést válku nejlíp holýma rukama;-D

+1/0
12.4.2016 11:09

I91r75e20n16a 92V87r88á32n63o58v65á 5912982825334

To by bylo optimální. Škoda, že to nejde.

+1/0
12.4.2016 15:05

D48u75š43a18n 33M15a70č49e52k 6170162844516

bude potřeba vymyslet nový název, na výraz "neziskovka" začínáme mít silnou alergii

+2/0
12.4.2016 10:36

G41a87b28r79i29e13l 19H59o41r63t43e10n 9211599473914

To by bylo stejně jen dočasné, problém není v názvu...

+2/0
12.4.2016 11:03

J78a56n 54N49o59v92á70k 9545378574135

Jsou státy, kde už to řešit začali: http://www.vlasteneckenoviny.cz/?p=141420

0/0
12.4.2016 11:34

O30t35a 66J97e85l12í47n89e75k 8391848720955

Já chápu varování Hawkinga a Muska tak, že nevaruje ani tak před roboty typu současných dronů, kde o zásahu rozhoduje operátor, ale o o autonomně rohodujících robotických zbraní, tj. o robotech, kteří budou "rozhodovat" sami bez jakéhokoliv povelu operátora, jen na základě naprogramované umělé inteligence či samoučících se neuronových sítích ... Podle mne je evidentní, že tímto směrem se vývoj zbraní s velkou pravděpodobností bude ubírat (zbraně budou efektivnější, odpadne nadbytečná komunikace s operátorem), ale zároveň si myslím, že při vývoji autonomních zbraní je třeba brát opravdu vážně Hawkingovo a Muskovo varování R^

+1/0
12.4.2016 10:34

D72a73v16i22d 98D18i22r54g32a 7575721608

To chápate správně. Taky o nich je tenhle článek.

0/0
12.4.2016 10:39

D61a44v90i48d 27K72o52s70t98e88l33n73í65k 9575966721

Jak s něčím nesouhlasí nějaká neziskovka, tak to bude s nějvětší pravděpodobností v pořádku. Už mě profesionální dobroserové, jejichž pracovní náplní je pořád proti něčemu protestovat a na něco upozorňovat, pěkně štvou.

+3/0
12.4.2016 10:28

D69a71v61i93d 83D58i76r85g85a 7585551298

Mě trochu děsí, jak lidi ustupují od přemýšlení o tom, co se říká a zajímá je jen kdo to říká. Podle toho pak dokážou rychle určit, jestli to je pravda nebo ne.

+2/0
12.4.2016 10:38

J45a57n 96F76r92o46l34í66k 6566500575654

Lhář nebo podvodník si vytvoří renomé a nikdo ho nebere vážně i kdyby nelhal a nepodváděl. Tak to mezi lidmi chodí od pradávna. Stačí si trochu počíst dějepis.;-)

+1/0
12.4.2016 10:58

D42a11v95i83d 49D41i55r50g20a 7485841608

Takze kdyz ma zrovna pravdu, lide maji smulu, proste udelajinopak, protoze hej, prece neziskovka rekla neskakejte z okna. Hop.

0/0
12.4.2016 11:02
Foto

J94a78n 76M12a67c14k 5627682272325

Jakmile ctu slovo "neziskovka", uz me svrbi pest.

+7/0
12.4.2016 10:04

M35a51r91t55i80n 28Š33t39ě26p28á23n94e61k 3817623913451

Jak se k necemu vyjadruji neziskovky, tak clovek vi, ze to bude blabol.

+3/0
12.4.2016 9:57
Foto

O53n12d14ř18e95j 72Š46k80o24c68h 8316987511878

Mě fascinují bláboly typu, že piloti dronů nemají bezprostřední pocit ohrožení a tak berou vše jako hru na playstation. Takže lidé mají cítit stres aby lépe bojovali tedy morálněji? Stíhací bombardér co podle daných informací někde zaútočí jen odpálí raketu a mizí bez vyhodnocování. Pilot dronu se nad cílem placatí třeba hodiny protože takový Reaper vydrží na jednu nádrž 20 hodinletu. Pilot je sledován týmem. A musí vyhodnotit výsledek tudíž vidí co se stalo. U autonomní z raně je ta samá situace k plné autonomii nedojde. Když se střílí už z hlediska efektivity rozhoduje o cíli člověk robot jen efektivně proveďe akci. Už vidím jak v protiteroristické akci voják kterému hrozí zastřelení či podřezání při zajetí řeší cíl více než stroj bez pudu sebezáchovy. A v totální válce před kterou nás chráni jaderné zbraně je pak už jedno kam to padá. Proč mají umírat mladí kluci když může jít do akce mašina?!?

+1/0
12.4.2016 9:41

Z88d48e19n75ě53k 91N93o60v36á27k 4793322659469

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z10d26e94n49ě74k 68N18o65v22á23k 4383782549739

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z65d59e11n40ě73k 40N33o56v52á16k 4183102519919

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z75d86e38n73ě16k 98N80o96v73á81k 4333822789339

divný, asi se mi klepe ruka

0/0
12.4.2016 10:24

P36e94t47r74a 46V29a94ň76k25o48v57á 4354224536732

nějakým blábolem (je vcelku jedno jakým) činnost NEziskovka vykázala, dotace z daní pracujících zajištěny, provoz NEziskovky může vesele pokračovat ..

+12/0
12.4.2016 9:04

T40o73m27á26š 89Z34e84m63á71n54e92k 5680848296166

A ještě jednu výhodu mají autonomní stroje. Nefungují proti nim lidské štíty, tedy se taková taktika stává kontraproduktivní. Nějaká hra na city nepadne na úrodnou půdu, proto by měly být na rozhodnutí člověka závislé jen nepřímo.

+8/0
12.4.2016 9:00

M90a60r10t29i56n 67B42i63t32t96n97e70r 4882256806865

Jako že když si vás a vaší rodinu někdo vezme jako lidský štít, případně obsadí plnou školku a bude mít na sobě výbušninu se spínačem mrtvého muže, tak to na ten autonomní stroj nebude fungovat... a to je výhoda podle vás?

+1/−1
12.4.2016 9:09

T37o32m84á50š 58Z64e62m43á11n19e82k 5120908356356

Když to ten protivník bude vědět, tak ano. Musíte myslet dopředu. Když bude vědět, že ten stroj nic nezastaví, nebude se zdržovat něčím tak nepohodlným, jako jsou lidské štíty.

+7/0
12.4.2016 9:14

P90e95t42e66r 73B22a33k27i30č 1979209945280

Ale bude to fungovať, naženú celú dedinu ako ľudský štít, autonómne stroje ich v kľude postrieľajú a bude vymaľované. Autonómny stroj nebude mať nekonečné zásobníky a po minutú munície na dedinčanov bude ľahký cieľ.

0/−2
12.4.2016 9:29

M90a63r94t48i90n 67B64i45t10t77n56e35r 4972656276465

Ok, zkusím to.

Je chlápek, který rozhoduje o tom, kam nasadí pár zmanipulovaných sebevražedných blbů. Pokud je pošle někam do školy s tím, že bude vědět, že nasazeny budou automatické stroje, které tam prostě spustí palbu bez ohledu na civilisty (lidské štíty), tak se v zásadě nemusí ani obtěžovat dávat jim funkční výbušné vesty se spínačem mrtvého muže a podobně. Stačí obyčejné pistole a příměs těch výbušnin na oklamání detektorů. Výsledek bude dva mrtví blbci a třeba xy mrtvých školáků zabitých vesměs těmi stroji (tedy státem).

Toho manipulátora to vyjde na dva beznadějné pitomce, ten stát na obrovskou medializaci vlastního průšvihu, kdy ten stroj pozabíjel školáky prakticky zbytečně.

Při "dobrých" okolnostech a vhodné medializaci spousta kladných bodů pro teroristy / radikály / kohokoli, v podstatě zadarmo.

Takže v praxi si myslím, že by ty stroje, pokud by měly být použity v této situaci naopak lidské štíty zohledňovat musely (také se nemusí bát o vlastní životy, takže je to snazší).

Kde to bude zneužíváno je v nepřehledných bojových operacích třetího světa, případně pokud stát nasadí takové stroje proti vlastním demonstrujícím, kde podle mne mnohem spíš hrozí skutečný průšvih.

0/0
12.4.2016 9:32

T84o39m71á95š 70Z17e73m56á57n16e73k 5140158646526

A právě tady je ta nepřímá zodpovědnost člověka. Rozhodnutí o tom, na jaký druh mise toho robota poslat.

+3/0
12.4.2016 9:54

D48a69v43i52d 47D24i43r21g33a 7705891908

Pokud mate na mysli protivnika ochotneho zemrit za svou vec a ciliciho na co nejvetsi paseku, tak mu tezko muzete nabidnout lepsi novinove titulku nez "protiteroristicti roboti zmasakrovali skolku (a oba teroristy)"

0/0
12.4.2016 13:00

D28u84š40a74n 56D15i79t44r67i48c97h 3578836883489

A jak jste na to přišel? Vy je programujete?:-/

0/0
12.4.2016 12:02

A89d83a92m 60H39o44u34b18a64ř 2649238795327

Lepsi kdyz o smrti alahovo slouhy rozhodne robot, nez kdyz alah rozhodne o smrti me a moji rodiny.

+15/0
12.4.2016 8:57

J51i28ř47í 34B79e25n54d71e27r 7413274972349

Váš názor asi nikdo nepřekoná.R^ Nepočítám dobrosery.

+1/−1
12.4.2016 9:06

J29a84n 98N71o85v68á57k 9745528364405

Pokud budou takovéhle autonomní zbraně běžně ve výrobě, budou je mít určitě k dispozici i alláhovi slouhové - ideální sebevražední atentátníci.

0/0
12.4.2016 9:54

A19d59a56m 93H75o74u20b42a34ř 2569928485107

Umela inteligence je proti alahovi, to byste mohl vedet ;-)

0/0
12.4.2016 10:33

J72a76n 67N43o76v72á52k 9745618154245

Tak to bude problém.

Pokud vyjdu z faktu že muslimský, židovský a křesťanský bůh je totožná entita, tak pak musí být umělá inteligence obecně proti tomuhle bohovi - takže proti 2 miliardám křesťanů, 1,5 miliardě muslimů a cca 18 mil. židů.

0/0
12.4.2016 11:43

D49a19v92i78d 53D32i57r97g90a 7175251308

Tak určitě. Jak má člověk nepřítele ideologicky správně podchyceného, tak je daleko snazší ho zabít. Allův slouha, imperialista, nevěřící pes... račtě si vybrat, který fanatizmus je vám nejbližší.

0/0
12.4.2016 10:41

A68d60a95m 51H30o83u72b77a36ř 2459978975187

Clovek ma rozum aby ho pouzival, kdyz neco vypada jako zlo, chiva se to jako zlo, tak to je zlo. A nezmeni to ani vase relativizace, ani maskujici nazvy typu nabozenstvi miru. Mel byste takovy radobychytry prispevek, kdybych misto alahovo slouha napsal nacek ? Pro me je cely to jejich satanisticky nabozenstvi naprosto totez a staci jen jit do historie aby to clovek pochopil.

+1/0
12.4.2016 11:15

J10a23n 97N79o83v64á56k 9545418534665

Křesťanství na tom bylo ve středověku naprosto stejně.

Křížové výpravy, vybíjení nevěřících a pohanů, inkvizice...

0/0
12.4.2016 11:31

D81a40v88i12d 98D94i57r92g57a 7555981818

Spis mi to pripomina univerzalni nenavist tech nacku vuci zidum.

Nemce jsme po druhe svetove taky nevystrileli podle logiky co nacek to valecny zlocinec.

0/0
12.4.2016 14:39

M80a31r31t89i88n 36B87i13t20t94n69e53r 4192586286175

Ach jo. Kdyby ten titulek byl - Stephen Hawking varuje před roboty zabijáky, reakce by podle mne byly úplně jiné. Opravdu tolik lidí reaguje jen na první slovo v titulku článku?

Autonomní roboti v boji samozřejmě jsou složité téma, mají své výhody, ale také řadu nevýhod a nebezpečí. Například pokud takový robot udělá chybu a povraždí někde civilisty ve vesnici, kdo ponese odpovědnost? Kdo si půjde sednout?

0/0
12.4.2016 8:57

T51o67m74á37š 17Z39e69m88á94n70e77k 5410878146496

U Hawkinga lze očekávat, že se bude věc snažit domyslet do konce a odhadnout možné následky. U lidí z neziskovek lze celkem s úspěchem předpokládat opak.

+5/0
12.4.2016 9:12





Najdete na iDNES.cz



mobilní verze
© 1999–2017 MAFRA, a. s., a dodavatelé Profimedia, Reuters, ČTK, AP. Jakékoliv užití obsahu včetně převzetí, šíření či dalšího zpřístupňování článků a fotografií je bez souhlasu MAFRA, a. s., zakázáno. Provozovatelem serveru iDNES.cz je MAFRA, a. s., se sídlem
Karla Engliše 519/11, 150 00 Praha 5, IČ: 45313351, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze, oddíl B, vložka 1328. Vydavatelství MAFRA, a. s., je členem koncernu AGROFERT.