Inteligen?a artificial? ?i factorul uman
ANDREA TORNIELLI
Pope – 14 iunie 2024. "Sistemele de arme autonome nu pot fi niciodat? subiec?i responsabili din punct de vedere moral: capacitatea exclusiv uman? de judecat? moral? ?i de luare a deciziilor etice este mai mult decât un set complex de algoritmi, iar aceast? capacitate nu poate fi redus? la programarea unei ma?ini care, oricât de "inteligent?" ar fi, r?mâne o ma?in?. Din acest motiv, este imperativ s? se asigure o supraveghere uman? adecvat?, semnificativ? ?i coerent? a sistemelor de arme". Astfel eviden?iaz? papa Francisc în Mesajul pentru Ziua Mondial? a P?cii din 2024.
Exist? un episod, petrecut în urm? cu patruzeci de ani, care ar trebui s? devin? o paradigm? ori de câte ori vorbim despre inteligen?a artificial? aplicat? la r?zboi, la arme, la instrumente ale mor?ii. Este povestea ofi?erului sovietic a c?rui decizie, înc?lcând protocolul, a salvat lumea de la un conflict nuclear care ar fi avut consecin?e catastrofale. Acel om se numea Stanislav Evgrafovici Petrov, era locotenent-colonel în armata rus? ?i, la 26 septembrie 1983, se afla în serviciul de noapte în bunc?rul "Serpukhov 15", monitorizând activitatea rachetelor americane. R?zboiul Rece se afla într-un moment de cotitur? crucial, pre?edintele american Ronald Reagan investea sume uria?e în armament ?i tocmai numise URSS "imperiul r?ului", iar NATO era angajat? în exerci?ii militare care recreau scenarii de r?zboi nuclear. La Kremlin se afla Iurij Andropov, care vorbise recent despre o "escaladare f?r? precedent" a crizei, iar la 1 septembrie sovieticii doborâser? un avion de linie al Korean Air Lines deasupra peninsulei Kamchatka, ucigând 269 de persoane.
În acea noapte de 26 septembrie, Petrov a v?zut c? computerul Krokus, creierul considerat infailibil în monitorizarea activit??ii inamicului, a raportat de la o baz? din Montana plecarea unei rachete care se îndrepta spre Uniunea Sovietic?. Protocolul prevedea ca ofi?erul s? î?i alerteze imediat superiorii, care urmau s? dea und? verde pentru un r?spuns prin lansarea de rachete spre Statele Unite. Dar Petrov nu s-a gr?bit ?i pentru c? – dup? cum i s-a spus – orice atac ar fi fost masiv. Prin urmare, a considerat acea rachet? izolat? o alarm? fals?. ?i a procedat la fel ?i în cazul urm?toarelor patru care au ap?rut pe monitoarele sale la scurt timp dup? aceea, întrebându-se de ce nu a existat nicio confirmare din partea radarului de la sol. ?tia foarte bine c? rachetele intercontinentale au nevoie de mai pu?in de o jum?tate de or? pentru a ajunge la destina?ie, dar a decis s? nu dea alarma, l?sându-i pe ceilal?i militari prezen?i pietrifica?i.
În realitate, creierul electronic se în?elase; nu avusese loc niciun atac cu rachete. Krokus fusese indus în eroare de un fenomen de refrac?ie a luminii solare în contact cu norii la mare altitudine. Pe scurt, inteligen?a uman? v?zuse dincolo de cea a ma?inii. Decizia providen?ial? de a nu ac?iona fusese luat? de un om a c?rui judecat? fusese capabil? s? priveasc? dincolo de date ?i protocoale.
Catastrofa nuclear? a fost evitat?, de?i nimeni nu a ?tiut despre ea la momentul respectiv pân? la începutul anilor 1990. Petrov, care a decedat în septembrie 2017, a declarat urm?toarele despre acea noapte din bunc?rul "Serpukhov 15": "Ce am f?cut? Nimic special, mi-am f?cut doar munca. Am fost omul potrivit la locul potrivit, la momentul potrivit'. El fusese omul capabil s? evalueze posibila eroare a ma?inii considerate infailibile, omul capabil – pentru a reveni la cuvintele Papei – 'de judecat? moral? ?i de luare de decizii etice', pentru c? o ma?in?, oricât de 'inteligent?' ar fi ea, r?mâne tot o ma?in?.
R?zboiul, repet? papa Francisc, este o nebunie, o înfrângere a umanit??ii. R?zboiul este o înc?lcare grav? a demnit??ii umane. Este grav? ducerea r?zboiului ascunzându-se în spatele algoritmilor, bazându-se pe inteligen?a artificial? pentru a determina ?intele ?i modul de a le lovi, pentru ca astfel s? fie sp?lat? con?tiin?a fiindc?, în cele din urm?, este un dispozitiv cel care a ales. S? nu-l uit?m pe Stanislav Evgrafovici Petrov."
