Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Diskuse k článku

Neziskovka varuje před roboty zabijáky: o smrti musí rozhodovat člověk

Pokud lidé začnou používat naprogramované stroje určené k zabíjení, stanou se nebezpečnou součástí běžné výzbroje a budou rozhodovat o životě a smrti. Podle agentury AP to tvrdí světová nevládní organizace Human Rights Watch, která na zvláštním zasedání pořádaném OSN vyzvala k preventivnímu zákazu robotických zbraní.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

P55a75v20e11l 41O56h41a94r71e44k 2975195624255

Navrhuji založit neziskonku a názvem Humánní válka

0/0
14.4.2016 13:51

I49r35e68n94a 26V63r51á48n17o80v24á 5802462445344

Jojo, je třeba dodržovat zákony robotiky od Asimova.

+1/0
12.4.2016 15:02

M79i51l76e75n77a 73N57o38v57a88n73s35k74a 4952967119369

Číslo 5 živý, život, žije - Neziskovka rozmontovat. Neziskovka pak mrtvý číslo 5?.....;-D

0/0
12.4.2016 12:35
Foto

M73i13l37a29n 70S72o70u30š54e14k 9376137301272

Já nevěděl, že jde o inteligentní robotickou zbraň, jež sama rozhodne, zda zabije, či nikoliv a koho... Původně jsem nabyl pocitu, že ji programují a ovládají lidé. Pokud to tak není a stroj si zabíjí koho chce a kdy chce zcela sám, pak s neziskovkou plně souhlasím a právě ona by mohla být prvním zkušebním cílem.

+1/0
12.4.2016 11:29

J75a94n 60N47o64v56á42k 9865478754765

SW dnes nabývá takové složitosti, že vývojář už jen odhaduje, jak se systém bude chovat.

Viz poslední zápas v Go v Japonsku, problém MS s rasistickým chatovacím robotem...

0/−2
12.4.2016 11:37

M39i47l37e88n25a 72N21o82v22a54n71s40k96a 4602807139149

Vývojář, že jen odhaduje.... To myslíte jak? Nebo jen tak střílíte slova do vzduchu?

0/0
12.4.2016 12:33

D56a28v53i10d 54D67i56r59g78a 7455591468

Samoucici systemy se nepisou tak, ze jim vypisete reakci na kazdou situaci. Nechate je projit spoustou situaci a stanovite jim kriteria "dopadlo to dobre" a "dopadlo to spatne". Stroj se pak snazi smerovat co nejvic k "dopadne to dobre", ale jeho reakci na konkretni situaci uz predem urcit nedokazete, muzete je (zasvecene) hadat.

+1/0
12.4.2016 12:56

D78a41v25i89d 53D92i42r33g92a 7645871648

To mysli tak, ze stroje tohohle typu se neprogramuji tak, ze jim napisete explicitni reakci na kazdou moznou situaci, protoze tech moznosti je prilis mnoho.

Napisete samoucici algoritmus, stanovite kriteria "dobreho" a "spatneho" vysledku a nechate stroj projit spoustou moznych situaci. On se pak bude snazit delat veci, ktere mu fungovaly a vyhybat se vecem, ktere nefunguji (treba ho znici).

Jak presne se zachova v konkretni situaci vam uz pak nikdo predem nerekne. Maximalne muze zasvecene hadat.

+1/0
12.4.2016 13:07
Foto

M90i47l14a31n 33S29o50u13š75e38k 9826897561332

..dost zajímavé věci.. a tedy mohou být tyto stroje i obecně nebezpečné?

0/0
12.4.2016 14:05

D39a91v68i42d 65D92i75r33g75a 7745391258

Tak zatim nam treba coby lidem podlomily sebevedomi pro hrani sachu a go :)

Prakticky pilouzitelna UI je v zacatcich, na vetsinu slozitych cinnosti je zatim jednodussi nasadit cloveka. A zrovna bojove nasazeni je extreme slozita cinnost, kde protistrana hleda, jak vam ukol co nejvic komplikovat.

Obecne mohou byt tyhle veci nebezpecne asi stejne jako vycviceny clovek. Obcas se stane, ze si vojaci navedou palbu na vlastni jednotky nebo ze jednomu z nich hrabne a zastreli si velitele.

Velmi lapidarne receno by se tak treba mohlo stat, ze v ramci vycviku bude mit nepratelsky bojovnik velmi casto na obleceni modre, cervene a bile soucasti a stroj si z toho udela identifikacni znak, protoze proste strilet do vseho, co je cervene modre a bile nese lepsi vysledky nez jinak zbarveni lide. Pak na nej zamavate ceskou vlajkou...

Ale j to samozrejme ad absurdum pripad, spis chci ilustrovat, ze stroji nemuzete rict ani "zabijej nepratele"(protoze nevi, co to znamena) ani mu nahrat databazi vsech nepratelskych vojaku (protoze ji nemate a bavic se porad meni). Takze ho nechate zkusmo bojovat a rikate mu "tohle bylo dobre, tohle spatne". A on si casem najde znaky, ktere by vas treba vubec nenapadly. Proto muzete jen odhadovat.

0/0
12.4.2016 14:31

A16r16c86h69e79r 62S63p64a45r62t30a51n 7379557250183

Hezky vysvětleno, nicméně v tomto konkrétním případě - robotického tanku, nebo jakékoliv robotické zbraně si imho nikdo (v dohledné době) nedovolí nechat takové rozhodování čistě jen na robotovi/jeho umělé inteligenci - bez dohledu operátora, který by jeho činnost monitoroval, bedlivě hlídal a mohl do ní tak okamžitě zasáhnout. I tak je zde pochopitelně riziko, software může selhat a z robota se tak může stát neovladatelná inteligentní zbraň, která půjde například i po vlastním majiteli. Ale to už je jiný problém.

0/0
12.4.2016 16:59

D42a12v13i41d 98D95i68r13g41a 7335311328

Hm. Prvni pridpevek mel nejakr zpozdeni, tak jsem bapsal druhy a prvni dorazil taky :)

0/0
12.4.2016 13:13

J70i25ř23í 38S55c92h14m43i96d87t 5670133374925

Pokud vememe logiku neziskovky do důsledků, tak by jsme měli vést válku nejlíp holýma rukama;-D

+1/0
12.4.2016 11:09

I68r92e39n48a 90V37r47á59n24o42v71á 5362822175194

To by bylo optimální. Škoda, že to nejde.

+1/0
12.4.2016 15:05

D28u66š48a39n 41M41a74č47e17k 6230802614216

bude potřeba vymyslet nový název, na výraz "neziskovka" začínáme mít silnou alergii

+2/0
12.4.2016 10:36

G74a45b24r44i38e71l 13H98o19r11t84e40n 9931339643974

To by bylo stejně jen dočasné, problém není v názvu...

+2/0
12.4.2016 11:03

J94a82n 66N31o36v86á69k 9115648974605

Jsou státy, kde už to řešit začali: http://www.vlasteneckenoviny.cz/?p=141420

0/0
12.4.2016 11:34

O36t28a 91J40e76l56í84n48e49k 8961578900535

Já chápu varování Hawkinga a Muska tak, že nevaruje ani tak před roboty typu současných dronů, kde o zásahu rozhoduje operátor, ale o o autonomně rohodujících robotických zbraní, tj. o robotech, kteří budou "rozhodovat" sami bez jakéhokoliv povelu operátora, jen na základě naprogramované umělé inteligence či samoučících se neuronových sítích ... Podle mne je evidentní, že tímto směrem se vývoj zbraní s velkou pravděpodobností bude ubírat (zbraně budou efektivnější, odpadne nadbytečná komunikace s operátorem), ale zároveň si myslím, že při vývoji autonomních zbraní je třeba brát opravdu vážně Hawkingovo a Muskovo varování R^

+1/0
12.4.2016 10:34

D44a16v28i56d 46D53i10r46g50a 7815191278

To chápate správně. Taky o nich je tenhle článek.

0/0
12.4.2016 10:39

D96a94v89i48d 58K54o43s73t73e51l72n89í19k 9545636471

Jak s něčím nesouhlasí nějaká neziskovka, tak to bude s nějvětší pravděpodobností v pořádku. Už mě profesionální dobroserové, jejichž pracovní náplní je pořád proti něčemu protestovat a na něco upozorňovat, pěkně štvou.

+3/0
12.4.2016 10:28

D48a26v57i97d 35D75i76r90g79a 7505531288

Mě trochu děsí, jak lidi ustupují od přemýšlení o tom, co se říká a zajímá je jen kdo to říká. Podle toho pak dokážou rychle určit, jestli to je pravda nebo ne.

+2/0
12.4.2016 10:38

J53a60n 88F77r19o31l58í58k 6896580115474

Lhář nebo podvodník si vytvoří renomé a nikdo ho nebere vážně i kdyby nelhal a nepodváděl. Tak to mezi lidmi chodí od pradávna. Stačí si trochu počíst dějepis.;-)

+1/0
12.4.2016 10:58

D13a56v79i70d 63D55i65r36g98a 7465981128

Takze kdyz ma zrovna pravdu, lide maji smulu, proste udelajinopak, protoze hej, prece neziskovka rekla neskakejte z okna. Hop.

0/0
12.4.2016 11:02
Foto

J65a60n 29M71a29c22k 5567772132895

Jakmile ctu slovo "neziskovka", uz me svrbi pest.

+7/0
12.4.2016 10:04

M54a29r90t82i22n 10Š32t14ě88p58á66n56e59k 3317283953291

Jak se k necemu vyjadruji neziskovky, tak clovek vi, ze to bude blabol.

+3/0
12.4.2016 9:57
Foto

O26n94d86ř91e54j 24Š89k74o52c70h 8396857701458

Mě fascinují bláboly typu, že piloti dronů nemají bezprostřední pocit ohrožení a tak berou vše jako hru na playstation. Takže lidé mají cítit stres aby lépe bojovali tedy morálněji? Stíhací bombardér co podle daných informací někde zaútočí jen odpálí raketu a mizí bez vyhodnocování. Pilot dronu se nad cílem placatí třeba hodiny protože takový Reaper vydrží na jednu nádrž 20 hodinletu. Pilot je sledován týmem. A musí vyhodnotit výsledek tudíž vidí co se stalo. U autonomní z raně je ta samá situace k plné autonomii nedojde. Když se střílí už z hlediska efektivity rozhoduje o cíli člověk robot jen efektivně proveďe akci. Už vidím jak v protiteroristické akci voják kterému hrozí zastřelení či podřezání při zajetí řeší cíl více než stroj bez pudu sebezáchovy. A v totální válce před kterou nás chráni jaderné zbraně je pak už jedno kam to padá. Proč mají umírat mladí kluci když může jít do akce mašina?!?

+1/0
12.4.2016 9:41

Z53d69e10n66ě34k 50N72o72v52á35k 4753412199539

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z97d13e69n50ě10k 25N36o61v18á12k 4623742759919

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z47d56e60n74ě12k 87N31o13v88á31k 4613712779529

No tak to si nemyslím, že by neměli nějaké dilema. Viděl jsem na to téma film Good Kill, a docela jsou z toho ve stresu, a uvažují o morálce, někteří to nezvládají.

0/0
12.4.2016 10:23

Z32d44e65n77ě81k 79N31o54v67á68k 4453692299269

divný, asi se mi klepe ruka

0/0
12.4.2016 10:24

P17e90t64r70a 75V95a79ň15k77o25v66á 4174654766982

nějakým blábolem (je vcelku jedno jakým) činnost NEziskovka vykázala, dotace z daní pracujících zajištěny, provoz NEziskovky může vesele pokračovat ..

+12/0
12.4.2016 9:04

T79o28m48á53š 57Z18e85m67á96n95e93k 5220258126926

A ještě jednu výhodu mají autonomní stroje. Nefungují proti nim lidské štíty, tedy se taková taktika stává kontraproduktivní. Nějaká hra na city nepadne na úrodnou půdu, proto by měly být na rozhodnutí člověka závislé jen nepřímo.

+8/0
12.4.2016 9:00

M15a66r27t12i85n 81B39i96t10t11n55e51r 4382866626255

Jako že když si vás a vaší rodinu někdo vezme jako lidský štít, případně obsadí plnou školku a bude mít na sobě výbušninu se spínačem mrtvého muže, tak to na ten autonomní stroj nebude fungovat... a to je výhoda podle vás?

+1/−1
12.4.2016 9:09

T72o64m76á67š 88Z27e31m74á67n97e15k 5950738796126

Když to ten protivník bude vědět, tak ano. Musíte myslet dopředu. Když bude vědět, že ten stroj nic nezastaví, nebude se zdržovat něčím tak nepohodlným, jako jsou lidské štíty.

+7/0
12.4.2016 9:14

P67e88t75e31r 60B50a47k74i22č 1979879515520

Ale bude to fungovať, naženú celú dedinu ako ľudský štít, autonómne stroje ich v kľude postrieľajú a bude vymaľované. Autonómny stroj nebude mať nekonečné zásobníky a po minutú munície na dedinčanov bude ľahký cieľ.

0/−2
12.4.2016 9:29

M55a62r43t38i19n 43B77i48t60t34n35e26r 4482956366285

Ok, zkusím to.

Je chlápek, který rozhoduje o tom, kam nasadí pár zmanipulovaných sebevražedných blbů. Pokud je pošle někam do školy s tím, že bude vědět, že nasazeny budou automatické stroje, které tam prostě spustí palbu bez ohledu na civilisty (lidské štíty), tak se v zásadě nemusí ani obtěžovat dávat jim funkční výbušné vesty se spínačem mrtvého muže a podobně. Stačí obyčejné pistole a příměs těch výbušnin na oklamání detektorů. Výsledek bude dva mrtví blbci a třeba xy mrtvých školáků zabitých vesměs těmi stroji (tedy státem).

Toho manipulátora to vyjde na dva beznadějné pitomce, ten stát na obrovskou medializaci vlastního průšvihu, kdy ten stroj pozabíjel školáky prakticky zbytečně.

Při "dobrých" okolnostech a vhodné medializaci spousta kladných bodů pro teroristy / radikály / kohokoli, v podstatě zadarmo.

Takže v praxi si myslím, že by ty stroje, pokud by měly být použity v této situaci naopak lidské štíty zohledňovat musely (také se nemusí bát o vlastní životy, takže je to snazší).

Kde to bude zneužíváno je v nepřehledných bojových operacích třetího světa, případně pokud stát nasadí takové stroje proti vlastním demonstrujícím, kde podle mne mnohem spíš hrozí skutečný průšvih.

0/0
12.4.2016 9:32

T82o34m10á36š 31Z53e83m48á21n40e63k 5320268126546

A právě tady je ta nepřímá zodpovědnost člověka. Rozhodnutí o tom, na jaký druh mise toho robota poslat.

+3/0
12.4.2016 9:54

D89a38v79i31d 21D45i70r66g63a 7465331288

Pokud mate na mysli protivnika ochotneho zemrit za svou vec a ciliciho na co nejvetsi paseku, tak mu tezko muzete nabidnout lepsi novinove titulku nez "protiteroristicti roboti zmasakrovali skolku (a oba teroristy)"

0/0
12.4.2016 13:00

D38u50š95a43n 11D51i48t93r24i62c50h 3268346193589

A jak jste na to přišel? Vy je programujete?:-/

0/0
12.4.2016 12:02

A89d97a12m 23H26o43u32b79a36ř 2209258145167

Lepsi kdyz o smrti alahovo slouhy rozhodne robot, nez kdyz alah rozhodne o smrti me a moji rodiny.

+15/0
12.4.2016 8:57

J46i63ř42í 71B84e29n65d20e69r 7443304312739

Váš názor asi nikdo nepřekoná.R^ Nepočítám dobrosery.

+1/−1
12.4.2016 9:06

J63a59n 74N74o38v15á86k 9365218764645

Pokud budou takovéhle autonomní zbraně běžně ve výrobě, budou je mít určitě k dispozici i alláhovi slouhové - ideální sebevražední atentátníci.

0/0
12.4.2016 9:54

A44d20a12m 93H27o25u17b89a35ř 2439878775987

Umela inteligence je proti alahovi, to byste mohl vedet ;-)

0/0
12.4.2016 10:33

J18a53n 49N88o92v79á37k 9675928934685

Tak to bude problém.

Pokud vyjdu z faktu že muslimský, židovský a křesťanský bůh je totožná entita, tak pak musí být umělá inteligence obecně proti tomuhle bohovi - takže proti 2 miliardám křesťanů, 1,5 miliardě muslimů a cca 18 mil. židů.

0/0
12.4.2016 11:43

D68a29v60i44d 86D98i29r19g51a 7655171508

Tak určitě. Jak má člověk nepřítele ideologicky správně podchyceného, tak je daleko snazší ho zabít. Allův slouha, imperialista, nevěřící pes... račtě si vybrat, který fanatizmus je vám nejbližší.

0/0
12.4.2016 10:41

A19d62a25m 51H28o23u40b48a29ř 2719968745307

Clovek ma rozum aby ho pouzival, kdyz neco vypada jako zlo, chiva se to jako zlo, tak to je zlo. A nezmeni to ani vase relativizace, ani maskujici nazvy typu nabozenstvi miru. Mel byste takovy radobychytry prispevek, kdybych misto alahovo slouha napsal nacek ? Pro me je cely to jejich satanisticky nabozenstvi naprosto totez a staci jen jit do historie aby to clovek pochopil.

+1/0
12.4.2016 11:15

J60a47n 46N28o96v36á76k 9265178354585

Křesťanství na tom bylo ve středověku naprosto stejně.

Křížové výpravy, vybíjení nevěřících a pohanů, inkvizice...

0/0
12.4.2016 11:31

D95a55v54i48d 44D67i67r57g51a 7465981798

Spis mi to pripomina univerzalni nenavist tech nacku vuci zidum.

Nemce jsme po druhe svetove taky nevystrileli podle logiky co nacek to valecny zlocinec.

0/0
12.4.2016 14:39

M39a63r85t48i78n 63B30i48t57t62n68e66r 4472816726335

Ach jo. Kdyby ten titulek byl - Stephen Hawking varuje před roboty zabijáky, reakce by podle mne byly úplně jiné. Opravdu tolik lidí reaguje jen na první slovo v titulku článku?

Autonomní roboti v boji samozřejmě jsou složité téma, mají své výhody, ale také řadu nevýhod a nebezpečí. Například pokud takový robot udělá chybu a povraždí někde civilisty ve vesnici, kdo ponese odpovědnost? Kdo si půjde sednout?

0/0
12.4.2016 8:57

T67o79m72á91š 55Z88e92m32á66n84e98k 5840148396276

U Hawkinga lze očekávat, že se bude věc snažit domyslet do konce a odhadnout možné následky. U lidí z neziskovek lze celkem s úspěchem předpokládat opak.

+5/0
12.4.2016 9:12





Najdete na iDNES.cz