Cyber Grand Challenge

Někde možná rostou obavy z AI (viz Hawking, Musk), ale na druhé straně se zdá, že roste i ochota lidí akceptovat roboty nebo alespoň akceptovat možnost budoucích výhod automatizované (či autonomní) technologie. Roste ale i schopnost robotů… V této souvislosti probíhá zajímavá debata nad preventivním zákazem vojenských robotů (tedy zcela autonomních zbraňových systémů), kterou vedou především lidskoprávní NGOs a akademici; a na téma se rokuje i v OSN.

Debata se samozřejmě soustřeďuje na roboty s kinetickou schopností útoku, tedy např. autonomní drony. Ale co obrana? A co kyberprostor?

Např. SONY hack ukázal, že kybernetické útoky budou velký problém. Ostatně v mediální mlze poměrně uvízla informace, že úspěšné kybernetické útoky s kinetickým (!) efektem probíhají už řadu let. Nedávno se objevila informace o kybernetickém útoku s kinetickým efektem z roku 2008, další příklad je z Íránu (stuxnet) a další třeba letošní info o útoku z Německa na nejmenovanou ocelárnu. Kyberválka jako taková probíhala řadu let v Iráku, kde NSA de facto kontrolovala celou iráckou mobilní síť a mohla si číst SMSky teroristů a dokonce jim posílat vymyšlené zprávy (např. "sejdeme se za hodinu na rohu Saddámovy ulice"). Další problém je nastávající doba "internetu věcí", aneb auto připojené na internet… Kdo první hackne auto, které následně někoho nabourá? 

Podle některých názorů je v zásadě nevyhnutelné, aby obrana před útoky hackerů získala podobu autonomního defenzivního systému, který bude sám rozhodovat, jak systém bránit proti vetřelcům.  Tímto směrem jdou jak úvahy teoretiků, tak i samotný vývoj. Ostatně už existuje i jedna soutěž autonomních obranných systémů pro kyberprostor - organizuje ji americké ministerstvo obrany, resp. jeho futuristická součást, agentura DARPA. Je to Cyber Grand Challenge.

Lze tedy preventivně zakázat všechny autonomní zbraňové systémy? Lze je zakázat selektivně? Co na to mezinárodní humanitární právo? A co Hawkingovy obavy? Lze zajistit, aby se nějaký komplexní defenzivní systém nestal vsutku autonomním a nezačal se sám sebe ptát, jestli ho ti lidi nakonec trochu neotravují? … Skynet.

Legalita šmírování NSA

Zatímco na Východě bylo skandálem roku 2013 odkrytí mafiánské ságy v nejvyšších patrech čínské komunistické strany, na Západě bezpochyby získalo zlatou medaily červnové zveřejnění šmírovacích praktik americké tajné služby NSA. Práskač/whistleblower Edward Snowden vynesl spousty informací o práci americký tajných služeb, čímž odstartoval debatu na mnoha frontách - od politické debaty nad sledováním Angely Merkelové a dalších, přes mezinárodněprávní konotace špionáže až po spor o domácí legalitu sběru dat/metadat Američanů. Na jakých základech stojí šmírovací oprávnění NSA v rámci amerického práva?

Viz post na Jiném právu.

Obama: USA vyvíjí oblek Iron Man

Vtipy stranou. Projekt Talus je jen začátek...

Ben v BBC

Ben Emmerson, zvláštní zmocněnec OSN pro lidská práva a boj s terorismem, se dnes objevil na BBC v pořadu Hard Talk. Debatovalo se o Benovi ("jsem pacifista"), dronech ("nevíme, co říká mezinárodní právo") a Snowdenovi ("nikdy jsem nečekal, že můj osobní email je skutečně soukromý").

       

Imagine your city with no crime

© by OmniCorp

Autonomní zbraňové systémy

Postupně vznikají technologie umožňující vznik autonomních válečných robotů, tedy robotů schopných se bez účasti člověka zapojit do vojenských operací. Lidé budou moci robota úkolovat a měnit jeho program, ale ten bude schopen fungovat i samostatně. V současnosti na podobném principu existují obranné raketové systémy jako americký PATRIOT nebo nedávno proslavený IRON DOME, který chránil Izrael před raketami z Gazy. Vývoj přitom rychle pokračuje vpřed. Americké letectvo testuje schopnost letounu X-47B automaticky vzlétat a přistávat na letadlové lodi a v Afghánistánu už létaly zcela (!) autonomní helikoptéry (viz The Economist report)…

Na Jiném právu viz reading list k tématu preventivního zákazu a regulace autonomních robotů.

Made in China

Toto shrnutí není k dispozici. Příspěvek zobrazíte kliknutím sem.