Pape? na zasedání G7: Lidstvo nemá naději, pokud o jeho budoucnosti rozhodnou stroje
Salvatore Cernuzio
Riziko je bohu?el stejně reálné jako kdykoli p?edtím: ??ádný stroj by se nikdy neměl rozhodnout o tom, ?e vezme ?ivot ?lověku. Franti?ek se ú?astní summitu G7 v Borgo Egnazia v Apulii jako první pape?, který p?ijel na summit ?velikán? planety. Po p?íletu vrtulníkem se zhruba ve 13 hodin věnoval ?ty?em bilaterálním rozhovor?m s Georgievovou (MMF), Zelenským, Macronem a Trudeauem, na?e? se v doprovodu italské premiérky Giorgie Meloniové p?esunul do haly Arena, kde ho líd?i na spole?ném zasedání p?ivítali potleskem.
Je t?eba naléhavě p?ehodnotit vývoj a pou?ívání takzvaných smrtících autonomních zbraní
Pape? k nim promluvil o umělé inteligenci, jednom z hlavních témat zasedání G7. Podle jeho slov se jedná o fascinující a zároveň hrozivý nástroj; nástroj, který je schopen p?iná?et u?itek nebo zp?sobovat ?kodu, stejně jako v?echny nástroje vytvo?ené ?lověkem od úsvitu věk?. Tomuto tématu věnoval pape? ji? své poselství k 58. 厂惫ě迟ovému dni sdělovacích prost?edk?. Nyní p?ed mu?i a ?enami, kte?í nesou odpovědnost za svět, rozebírá jeho mo?nosti, ale p?edev?ím jeho rizika a dopady na budoucnost lidstva. Jeho pohled je up?en p?edev?ím na tuto válku a její stále jednotněj?í ?ásti.
V dramatu, jakým je ozbrojený konflikt, je naléhavě nutné p?ehodnotit vývoj a pou?ívání za?ízení, jako jsou takzvané smrtící autonomní zbraně, s cílem zakázat jejich pou?ívání, a to ji? od aktivního a konkrétního závazku zavést stále významněj?í lidskou kontrolu.
Lidský potenciál
Nikdy nedopus?me, aby stroje zabíjely ?lověka, jen? je vytvo?il. Právě od lidské vynalézavosti odvíjí Franti?ek svou reflexi z pódia G7, aby objasnil, ?e nejde o ?ádné p?edsudky v??i vědeckému a technickému pokroku, ale spí?e o strach z jejich vybo?ení: Věda a technika jsou mimo?ádnými produkty tv?r?ího potenciálu nás lidí, vyslovil se pape?. A právě z vyu?ití tohoto tv?r?ího potenciálu, který nám B?h dal, vzniká umělá inteligence. Je to nesmírně mocný nástroj, zd?razňuje pape?, který se uplatňuje v mnoha oblastech lidského konání: v medicíně, práci, kultu?e, komunikaci, vzdělávání, politice. Nyní je oprávněné p?edpokládat, ?e jeho pou?ívání bude stále více ovlivňovat ná? zp?sob ?ivota, na?e sociální vztahy a v budoucnu i zp?sob, jakým pojímáme svou identitu jako lidské bytosti.
Rozhodnutí p?íslu?í ?lověku
Na jedné straně tedy vzru?ují mo?nosti, které umělá inteligence nabízí, na straně druhé vyvolávají obavy kv?li d?sledk?m, které p?edznamenávají. P?edev?ím je podle Franti?ka t?eba nále?itě rozli?ovat mezi strojem, který m??e v ur?itých formách a s těmito novými prost?edky vytvá?et algoritmické volby, a tedy technickou volbu mezi několika mo?nostmi, a ?lověkem, který naopak nejen volí, ale ve svém srdci je schopen rozhodovat.
Proto tvá?í v tvá? zázra?ným stroj?m, které se zdají být schopny volit samostatně, musíme mít jasno v tom, ?e rozhodnutí musí v?dy z?stat na ?lověku, a to i p?i dramatických a naléhavých tónech, s nimi? se toto rozhodnutí v na?em ?ivotě někdy prezentuje.
Ohro?ení lidské d?stojnosti
Pape?ovo varování je pronikavé: Odsoudili bychom lidstvo k beznadějné budoucnosti, kdybychom lidem vzali mo?nost rozhodovat o sobě a svém ?ivotě a odsoudili je k závislosti na rozhodnutí stroj?. Je t?eba, dodává, zaru?it a chránit prostor smysluplné lidské kontroly nad procesem výběru program? umělé inteligence: na tom závisí samotná lidská d?stojnost.
Zkrátka, nejde jen o vědecký pokrok, ale stojíme p?ed skute?nou kognitivně-pr?myslovou revolucí, která - ?íká pape? Franti?ek - p?ispěje k vytvo?ení nového spole?enského systému charakterizovaného komplexními epochálními proměnami.
Umělá inteligence by mohla umo?nit demokratizaci p?ístupu ke znalostem, exponenciální pokrok ve vědeckém výzkumu, mo?nost delegovat namáhavou práci na stroje; zároveň by v?ak mohla p?inést vět?í nespravedlnost mezi vyspělými a rozvojovými národy, mezi dominantními a utla?ovanými spole?enskými t?ídami, a tím ohrozit mo?nost kultury setkávání ve prospěch kultury odpisu. V tom tkví její nebezpe?í.
Etika a algoretika
Franti?ek proto hovo?í o etice: právě v ní tkví lidská podmínka svobody a odpovědnosti; bez ní lidstvo zvrátilo cíle svého bytí tím, ?e se stalo nep?ítelem sebe sama a planety. A dnes, kdy, jak poznamenává pape?, dochází ke ztrátě nebo p?inejmen?ím k zatmění smyslu pro ?lověka a ke zdánlivé bezvýznamnosti pojmu lidské d?stojnosti, musí být programy umělé inteligence v?dy na?ízeny pro dobro ka?dého ?lověka. Musí mít tedy etickou inspiraci.
V tomto smyslu pape? p?íznivě zmiňuje podepsání ?ímské výzvy k etice umělé inteligence v ?ímě v roce 2020, poznamenaném pandemií, a podporu této formy etické umírněnosti algoritm? zhu?těné do neologismu ?algoretika“.
Jestli?e obtí?ně definujeme jednotný soubor globálních hodnot, m??eme v?ak najít spole?né principy, s jejich? pomocí budeme ?e?it a vy?e?íme p?ípadná dilemata nebo konflikty v ?ivotě.
?ádá se bezodkladná akce "zdravé politiky"
Mezi r?znými riziky se pape? obává také rizika technokratického paradigmatu. Právě zde se podle něj stává politická akce naléhavou. Politika, co? je dnes pro mnohé o?klivé slovo, které p?ipomíná chyby, korupci, neefektivitu některých politik?, k nim? se p?idávají strategie, jejich? cílem je oslabit ji, nahradit ji ekonomikou nebo ji ovládnout nějakou ideologií. M??e v?ak svět fungovat bez politiky? ptá se pape?. Ano, politika je pot?ebná, zní odpově?.
V?dycky je tu poku?ení v?echno standardizovat, dodává spatra a poukazuje na ?slavný román z po?átku 20. století“, Pána světa, knihu Richarda Hugha Bensona, ji? v minulosti několikrát citovanou: Je to anglický román, který ukazuje budoucnost bez politiky, uniformní budoucnost. Je dobré si ho p?e?íst, je zajímavý, ?íká pape?. Tvá?í v tvá? popsaným scéná??m proto znovu zd?razňuje naléhavost ?zdravé politiky“, která nás m??e p?imět hledět do budoucnosti s nadějí a d?věrou.
Jsou toti? věci, které je t?eba změnit zásadním p?enastavením a d?le?itými proměnami, a pouze zdravá politika by se mohla ujmout vedení a zapojit nejr?zněj?í sektory a znalosti, uji??uje pape?. Tímto zp?sobem, dodává, m??e ekonomika integrovaná do politického, sociálního, kulturního a lidového projektu, který by smě?oval ke spole?nému dobru, otev?ít cestu k r?zným p?íle?itostem, které nep?edpokládají zastavení lidské tvo?ivosti a jejího snu o pokroku, ale spí?e nasměrování této energie novým zp?sobem.
