Cyber Grand Challenge

Někde možná rostou obavy z AI (viz Hawking, Musk), ale na druhé straně se zdá, že roste i ochota lidí akceptovat roboty nebo alespoň akceptovat možnost budoucích výhod automatizované (či autonomní) technologie. Roste ale i schopnost robotů… V této souvislosti probíhá zajímavá debata nad preventivním zákazem vojenských robotů (tedy zcela autonomních zbraňových systémů), kterou vedou především lidskoprávní NGOs a akademici; a na téma se rokuje i v OSN.

Debata se samozřejmě soustřeďuje na roboty s kinetickou schopností útoku, tedy např. autonomní drony. Ale co obrana? A co kyberprostor?

Např. SONY hack ukázal, že kybernetické útoky budou velký problém. Ostatně v mediální mlze poměrně uvízla informace, že úspěšné kybernetické útoky s kinetickým (!) efektem probíhají už řadu let. Nedávno se objevila informace o kybernetickém útoku s kinetickým efektem z roku 2008, další příklad je z Íránu (stuxnet) a další třeba letošní info o útoku z Německa na nejmenovanou ocelárnu. Kyberválka jako taková probíhala řadu let v Iráku, kde NSA de facto kontrolovala celou iráckou mobilní síť a mohla si číst SMSky teroristů a dokonce jim posílat vymyšlené zprávy (např. "sejdeme se za hodinu na rohu Saddámovy ulice"). Další problém je nastávající doba "internetu věcí", aneb auto připojené na internet… Kdo první hackne auto, které následně někoho nabourá? 

Podle některých názorů je v zásadě nevyhnutelné, aby obrana před útoky hackerů získala podobu autonomního defenzivního systému, který bude sám rozhodovat, jak systém bránit proti vetřelcům.  Tímto směrem jdou jak úvahy teoretiků, tak i samotný vývoj. Ostatně už existuje i jedna soutěž autonomních obranných systémů pro kyberprostor - organizuje ji americké ministerstvo obrany, resp. jeho futuristická součást, agentura DARPA. Je to Cyber Grand Challenge.

Lze tedy preventivně zakázat všechny autonomní zbraňové systémy? Lze je zakázat selektivně? Co na to mezinárodní humanitární právo? A co Hawkingovy obavy? Lze zajistit, aby se nějaký komplexní defenzivní systém nestal vsutku autonomním a nezačal se sám sebe ptát, jestli ho ti lidi nakonec trochu neotravují? … Skynet.