Inteligen葲a artificial膬 葯i factorul uman
ANDREA TORNIELLI
Pope 鈥� 14 iunie 2024. "Sistemele de arme autonome nu pot fi niciodat膬 subiec葲i responsabili din punct de vedere moral: capacitatea exclusiv uman膬 de judecat膬 moral膬 葯i de luare a deciziilor etice este mai mult decât un set complex de algoritmi, iar aceast膬 capacitate nu poate fi redus膬 la programarea unei ma葯ini care, oricât de "inteligent膬" ar fi, r膬mâne o ma葯in膬. Din acest motiv, este imperativ s膬 se asigure o supraveghere uman膬 adecvat膬, semnificativ膬 葯i coerent膬 a sistemelor de arme". Astfel eviden葲iaz膬 papa Francisc în Mesajul pentru Ziua Mondial膬 a P膬cii din 2024.
Exist膬 un episod, petrecut în urm膬 cu patruzeci de ani, care ar trebui s膬 devin膬 o paradigm膬 ori de câte ori vorbim despre inteligen葲a artificial膬 aplicat膬 la r膬zboi, la arme, la instrumente ale mor葲ii. Este povestea ofi葲erului sovietic a c膬rui decizie, înc膬lcând protocolul, a salvat lumea de la un conflict nuclear care ar fi avut consecin葲e catastrofale. Acel om se numea Stanislav Evgrafovici Petrov, era locotenent-colonel în armata rus膬 葯i, la 26 septembrie 1983, se afla în serviciul de noapte în bunc膬rul "Serpukhov 15", monitorizând activitatea rachetelor americane. R膬zboiul Rece se afla într-un moment de cotitur膬 crucial, pre葯edintele american Ronald Reagan investea sume uria葯e în armament 葯i tocmai numise URSS "imperiul r膬ului", iar NATO era angajat膬 în exerci葲ii militare care recreau scenarii de r膬zboi nuclear. La Kremlin se afla Iurij Andropov, care vorbise recent despre o "escaladare f膬r膬 precedent" a crizei, iar la 1 septembrie sovieticii doborâser膬 un avion de linie al Korean Air Lines deasupra peninsulei Kamchatka, ucigând 269 de persoane.
În acea noapte de 26 septembrie, Petrov a v膬zut c膬 computerul Krokus, creierul considerat infailibil în monitorizarea activit膬葲ii inamicului, a raportat de la o baz膬 din Montana plecarea unei rachete care se îndrepta spre Uniunea Sovietic膬. Protocolul prevedea ca ofi葲erul s膬 î葯i alerteze imediat superiorii, care urmau s膬 dea und膬 verde pentru un r膬spuns prin lansarea de rachete spre Statele Unite. Dar Petrov nu s-a gr膬bit 葯i pentru c膬 鈥� dup膬 cum i s-a spus 鈥� orice atac ar fi fost masiv. Prin urmare, a considerat acea rachet膬 izolat膬 o alarm膬 fals膬. 葮i a procedat la fel 葯i în cazul urm膬toarelor patru care au ap膬rut pe monitoarele sale la scurt timp dup膬 aceea, întrebându-se de ce nu a existat nicio confirmare din partea radarului de la sol. 葮tia foarte bine c膬 rachetele intercontinentale au nevoie de mai pu葲in de o jum膬tate de or膬 pentru a ajunge la destina葲ie, dar a decis s膬 nu dea alarma, l膬sându-i pe ceilal葲i militari prezen葲i pietrifica葲i.
În realitate, creierul electronic se în葯elase; nu avusese loc niciun atac cu rachete. Krokus fusese indus în eroare de un fenomen de refrac葲ie a luminii solare în contact cu norii la mare altitudine. Pe scurt, inteligen葲a uman膬 v膬zuse dincolo de cea a ma葯inii. Decizia providen葲ial膬 de a nu ac葲iona fusese luat膬 de un om a c膬rui judecat膬 fusese capabil膬 s膬 priveasc膬 dincolo de date 葯i protocoale.
Catastrofa nuclear膬 a fost evitat膬, de葯i nimeni nu a 葯tiut despre ea la momentul respectiv pân膬 la începutul anilor 1990. Petrov, care a decedat în septembrie 2017, a declarat urm膬toarele despre acea noapte din bunc膬rul "Serpukhov 15": "Ce am f膬cut? Nimic special, mi-am f膬cut doar munca. Am fost omul potrivit la locul potrivit, la momentul potrivit'. El fusese omul capabil s膬 evalueze posibila eroare a ma葯inii considerate infailibile, omul capabil 鈥� pentru a reveni la cuvintele Papei 鈥� 'de judecat膬 moral膬 葯i de luare de decizii etice', pentru c膬 o ma葯in膬, oricât de 'inteligent膬' ar fi ea, r膬mâne tot o ma葯in膬.
R膬zboiul, repet膬 papa Francisc, este o nebunie, o înfrângere a umanit膬葲ii. R膬zboiul este o înc膬lcare grav膬 a demnit膬葲ii umane. Este grav膬 ducerea r膬zboiului ascunzându-se în spatele algoritmilor, bazându-se pe inteligen葲a artificial膬 pentru a determina 葲intele 葯i modul de a le lovi, pentru ca astfel s膬 fie sp膬lat膬 con葯tiin葲a fiindc膬, în cele din urm膬, este un dispozitiv cel care a ales. S膬 nu-l uit膬m pe Stanislav Evgrafovici Petrov."
