Um臎l谩 inteligence a lidsk媒 faktor
Andrea Tornielli
鈥濧utonomní zbra艌ové systémy nemohou být nikdy moráln臎 odpov臎dnými subjekty: výlu膷ná lidská schopnost morálního úsudku a etického rozhodování je více ne啪 slo啪itý soubor algoritm暖 a tuto schopnost nelze redukovat na naprogramování stroje, který, jakkoli je "inteligentní", je stále strojem. Z tohoto d暖vodu je nezbytné zajistit odpovídající, smysluplný a d暖sledný lidský dohled nad zbra艌ovými systémy鈥�. Toto napsal pape啪 Franti拧ek ve svém poselství k leto拧nímu Sv臎tovému dni míru.
Existuje epizoda, která se odehrála p艡ed 膷ty艡iceti lety a která by se m臎la stát paradigmatem, kdykoli budeme hovo艡it o um臎lé inteligenci aplikované na válku, na zbran臎, na nástroje smrti. Jde o p艡íb臎h sov臎tského d暖stojníka, jeho啪 rozhodnutí v rozporu s protokolem zachránilo sv臎t p艡ed jaderným konfliktem, který by m臎l katastrofální následky. Ten mu啪 se jmenoval Stanislav Jevgrafovi膷 Petrov, byl podplukovníkem ruské armády a 26. zá艡í 1983 m臎l no膷ní slu啪bu v bunkru "Serpuchov 15", kde sledoval aktivitu amerických raket. Studená válka se nacházela v rozhodujícím bodu zlomu, americký prezident Ronald Reagan investoval obrovské 膷ástky do zbrojení a práv臎 ozna膷il SSSR za "艡í拧i zla", NATO se ú膷astnilo vojenských cvi膷ení, která rekonstruovala scéná艡e jaderné války. V Kremlu sed臎l Jurij Andropov, který krátce p艡edtím hovo艡il o "bezprecedentní eskalaci" krize, a 1. zá艡í Sov臎ti sest艡elili nad Kam膷atkou dopravní letadlo Korean Air Lines, p艡i膷em啪 zahynulo 269 lidí.
Té noci 26. zá艡í Petrov vid臎l, 啪e po膷íta膷 Krokus, mozkový trust pova啪ovaný za neomylný p艡i sledování nep艡átelské aktivity, ohlásil ze základny v Montan臎 odlet rakety mí艡ící na Sov臎tský svaz. Podle protokolu m臎l d暖stojník okam啪it臎 upozornit své nad艡ízené, kte艡í by dali pokyn k odpov臎di odpálením raket sm臎rem na Spojené státy. Petrov si v拧ak dal na 膷as, v neposlední 艡ad臎 proto, 啪e - jak mu bylo 艡e膷eno - p艡ípadný útok by byl masivní. Proto pova啪oval onu osamocenou raketu za planý poplach. Stejn臎 se zachoval i k dal拧ím 膷ty艡em, které se na jeho monitorech objevily krátce poté, a divil se, pro膷 se neobjevilo 啪ádné potvrzení z pozemního radaru. Dob艡e v臎d臎l, 啪e mezikontinentálním raketám trvá mén臎 ne啪 p暖l hodiny, ne啪 dosáhnou svého cíle, ale rozhodl se nevyvolat poplach a ponechal ostatní p艡ítomný vojenský personál úpln臎 ochromený.
Ve skute膷nosti se elektronický mozek mýlil; k 啪ádnému raketovému útoku nedo拧lo. Krokus se nechal zmást jevem lomu slune膷ního sv臎tla p艡i kontaktu s mraky ve velké vý拧ce. Lidská inteligence zkrátka vid臎la dál ne啪 stroj. Proz艡etelné rozhodnutí neu膷init rozhodnutí u膷inil 膷lov臎k, jeho啪 úsudek dokázal nahlédnout za hranice dat a protokol暖.
Jaderné katastrof臎 se poda艡ilo zabránit, a膷koli o tom tehdy nikdo nev臎d臎l a啪 do za膷átku devadesátých let. Petrov, který zem艡el v zá艡í 2017, o oné noci v bunkru "Serpuchov 15" 艡ekl toto: "Co jsem ud臎lal? Nic zvlá拧tního, jen svou práci. Byl jsem správný 膷lov臎k na správném míst臎 ve správný 膷as". Byl 膷lov臎kem schopným posoudit mo啪nou chybu stroje pova啪ovaného za neomylný, 膷lov臎kem schopným - abychom se vrátili k pape啪ovým slov暖m - "morálního úsudku a etického rozhodování", proto啪e stroj, jakkoli "inteligentní", je stále stroj.
Válka, opakuje Franti拧ek, je 拧ílenství, porá啪ka lidskosti. Válka je vá啪ným poru拧ením lidské d暖stojnosti. Vést válku schováváním se za algoritmy, spoléháním se na um臎lou inteligenci p艡i ur膷ování cíl暖 a zp暖sobu jejich zasa啪ení, a tím o膷i拧钮ovat své sv臎domí, proto啪e si nakonec vybral stroj, je je拧t臎 záva啪n臎j拧í. Nezapomínejme na Stanislava Jevgrafovi膷e Petrova.
