蜜桃交友

Pope

Dikasteriet för trosläran och Dikasteriet för kultur och utbildning publicerade tisdagen den 28 januari ett dokument med titeln

Dokumentet vill erbjuda vägledning för katolska institutioner och mänskligheten som helhet vad gäller den etiska utvecklingen och användningen av AI, enligt sekreteraren för Dikasteriet för kultur och utbildning.

Biskop Paul Tighe säger till Pope att Antiqua et Nova inte är det sista ordet om AI utan snarare hoppas kunna bidra till debatten genom att betona punkter att ta hänsyn till.

”Det finns en bredare förståelse av intelligens, som handlar om vår mänskliga förmåga att finna mål och mening i livet”, sa han. ”Och det är en form av intelligens som maskiner egentligen inte kan ersätta.”

Här är hela utskriften av intervjun med biskop Tighe:

Den Heliga stolen har just släppt ett dokument med titeln Vad skulle du säga är ”nytt” i detta dokument och vad hoppas det kunna säga till världen, särskilt till kyrkan?

Det här dokumentet sammanfattar en hel del reflektioner som har utvecklats organiskt under de senaste åren. AI har varit på agendan i ungefär tio år. Den har funnits längre och det har diskuterats längre, men det har nått allmänhetens medvetande under de senaste tio åren och särskilt under det senaste året eller så med uppkomsten av ChatGPT, som sätter AI-verktyg i händerna på vanliga användare.

Vad vi försöker göra just nu är att sammanföra de reflektioner som kyrkan, och olika kyrkliga organisationer har gjort. Här i Vatikanen har vi budskap till Världsfredsdagen och ett budskap till Världsdagen för kommunikation. Påvliga Livsakademin har arbetat med den här frågan, och den Påvliga Vetenskapsakademin har sammankallat forskare för att tala om AI, och vi har behandlat frågan om utbildning och AI. Tanken är att sammanföra detta och skapa något syntetiskt som förenar alla de olika perspektiv som har vuxit fram organiskt, och kanske samla dem på ett ställe.

Det är inte heller sista ordet; det är det första som måste sägas mycket tydligt. Det här är något som vi kommer att leva med, som kommer att växa. Vad skrivelsen försöker göra är att erbjuda människor några perspektiv utifrån vilka de kan börja tänka kritiskt om AI och dess potentiella fördelar för samhället, och sedan att varna människor något för vad vi behöver tänka på för att säkerställa att vi inte oavsiktligt skapar något, eller tillåter att något skapas, som kan vara skadligt för mänskligheten och samhället.

Jag skulle vilja säga att det finns en viss varning här. Många av oss som var med i början av de sociala medierna var väldigt snabba med att omfamna dess extraordinära potential. Vi såg inte nödvändigtvis de bieffekter som uppstod i form av polarisering, falska nyheter och andra problem.

Vi vill välkomna något som har stor potential för människor. Vi vill se den potentialen, och samtidigt vara uppmärksamma på nackdelarna. Jag tror att det är det vi försöker göra här. Ena dagen läser man rubriker i tidningarna om att AI kommer att vara allas vår räddning. Nästa dag läser vi att den kommer att vår förintelse och slutet för världen.

Vi försöker erbjuda människor ett mer balanserat förhållningssätt. Dokumentet fokuserar på ett antal saker. De stora frågorna som alla har funderat över: frågor om framtidens arbete, om krig, om allvarliga förfalskningar, om ojämlikhet. Och det finns etiska frågor och samhällsfrågor som vi vill titta på.

Men när vi tar itu med dessa försöker vi också fokusera på en mer grundläggande: den antropologiska frågan om vad det innebär att vara människa. Vad är det som ger människans liv värde, syfte och mening? Vi är medvetna om att AI-system kan förbättra och förstärka vissa delar av vår mänsklighet, det vill säga vår förmåga att resonera, bearbeta, urskilja, upptäcka, se mönster och göra innovationer. AI kan verkligen förbättra detta.

Vi vill också säga att den typen av intelligens inte är den enda typen av intelligens. Det finns en bredare förståelse av intelligens, som handlar om vår mänskliga förmåga att finna syfte och mening i livet. Det är intressant att många av dem som arbetar med AI är mycket tydliga med att de vill att AI ska tjäna människans bästa, att de vill ha personcentrerad AI, att de vill ha AI för mänskligheten. Alla dessa titlar finns där.

En del av frågan vi måste ställa oss är: vad är det som är bra för mänskligheten? Vad är det som främjar mänskligt välbefinnande? Och det är en form av intelligens, som maskiner inte riktigt kan ersätta. Vi måste förstå att i den katolska traditionen, som har sina rötter i våra egna filosofiska traditioner, inte bara i katolicismen, är vår förståelse av intelligens mer än bara resonemang, beräkningar och bearbetning, utan innefattar även förmågan att söka efter syfte, mening och riktning i våra liv.

Dokumentet försöker öppna upp för denna bredare förståelse av intelligens i termer av ett antal kategorier. En av dessa kategorier är att gå bortom ren rationalitet och ta itu med frågor som det faktum att en stor del av vår utveckling som människor sker i dialog och debatt med andra. Relation är en viktig del av vad det innebär att ha mänsklig intelligens: vår förmåga att lära oss av andra. Det handlar också om förkroppsligande. Vi lär oss mer och mer att våra sinnen inte är åtskilda från våra kroppar. De är inte något som bara kan lyftas upp och läggas in i en dator. De är organiska. Vi lär oss genom att göra. Vi lär oss genom våra känslor. Vi lär oss genom våra intuitioner.

Dessa är viktiga för den mänskliga visdom som växer fram ur allt detta. Beräkningar är en del av det, men det är inte hela historien. Och slutligen tror jag att det vi alltid är intresserade av är att söka efter ultimata sanningar, efter vad det är som ger form, syfte och mening i livet. Det är något som vi kanske kan använda AI för att hjälpa oss med i vissa delar, men i slutändan handlar det om en typ av intellektuellt engagemang som går utöver något som bara kan göras av en maskin.

Fråga: Utvecklingen av AI sker i snabb takt. Varför har Dikasteriet för trosläran och Dikasteriet för kultur och utbildning beslutat att publicera detta dokument just nu?

Vatikanen har varit uppmärksam på detta, och inte bara den Heliga stolen utan den katolska kyrkan i stort, och många katolska universitet har lett reflektioner om AI och dess betydelse. Om vi ska vara ärliga så är det den ökade offentliga uppmärksamheten på AI under de senaste åren i och med ChatGPT. Det finns andra modeller tillgängliga för lättanvända AI system som har gett det en brådskande karaktär.

Från vårt perspektiv, inom utbildningsvärlden, ställer alla utbildare frågor om AI:s potential att hjälpa till i utbildningen och riskerna om det på något sätt avpersonifierar utbildningens karaktär. Vi svarar också på frågor som ställs till oss under ad limina-besöken, eftersom biskoparna vill ha en viss orientering.

Det här dokumentet samlar ihop många andra initiativ och sätter ihop dem. Det ger det också en enhetlig vision, som försöker förena de etiska frågorna och relatera dem till den mer grundläggande antropologiska visionen om vad det är som gör oss till människor.

Det var intressant att FN har försökt arbeta med övergripande system för styrningen av AI. I ett skede sa de: ”Det här är uppenbarligen frågor som väcker frågor om mänsklighetens framtid, men egentligen kan vi inte göra det eftersom det finns för många olika åsikter om det.

Unesco sa också att AI - och det var detta som slog mig mycket starkt - leder till vad de kallar en antropologisk disruption. Silicon Valley älskar språket om störningar, att bryta ner för att återuppfinna. Men här talar vi om vad det är att vara människa och vad det är som gör människans liv tillfredsställande. Det är därför mycket viktigt att vi reflekterar kritiskt över detta, och att vi inte kringgår frågan om livets yttersta mening.

Det är där jag tycker att frågor som framträder starkt i det här dokumentet är de som handlar om risken för ökad ojämlikhet med AI. Man kan generellt se detta i termer av fördelningen av vad som har hänt med digitaliseringen, vilket har lett till en ökning av ett mycket litet antal extraordinärt rika människor som har extraordinärt mycket makt, som de inte nödvändigtvis är ansvariga för inför andra institutioner. Så hur ska vi tänka för att se till att detta inte bidrar till att splittra den mänskliga familjens enhet, som är ekonomisk enhet men också tillgång till makt och information?

Ett av de områden där det finns en extraordinär potential för AI är inom hälso- och sjukvården. Men vi vet att sjukvården redan idag tenderar att inte vara särskilt rättvist fördelad. Kommer detta att leda till ytterligare ojämlikheter inom detta område? Mycket av vår reflektion och tidpunkten för detta är behovet att ta itu med den debatten.

Detta är inte sista ordet. Det kan inte vara sista ordet, eftersom det här är ett område under utveckling. Men det är också ett försök att se till att vi sätter upp några markörer, några punkter som människor, som är intresserade av att engagera sig i debatten, kan förstå och arbeta med.

Dokumentet är skrivet för kyrkan och för katolska institutioner, men det är också för alla, och berör något som kommer att ha en enorm inverkan på mänsklighetens framtid. Låt oss tänka på det, låt oss lägga till våra röster i debatten. Och låt oss inte känna att vi, eftersom det är ganska komplicerat rent tekniskt, på något sätt lämnar över en kompetens för de större frågorna, som handlar om vår framtid som människor.

Q: I dokumentet som helhet verkar det finnas ett erkännande av AI:s potential, åtföljt av en underton av försiktighet när det gäller missbruk. Jag kommer att tänka på Isaac Azimovs romanserie Robot när jag funderar på mänsklighetens slutliga förhållande till AI. Skulle du säga att dokumentet har en mer välkomnande eller mer försiktig syn på AI?

Jag hoppas att det är en medelväg, att det inte omfamnar någon av de apokalyptiska visionerna. Inte heller försöker man föreställa sig att detta i sig kommer att lösa alla mänskliga problem. Den försöker se potentialen och hylla den extraordinära prestation som AI är. Det är en reflektion över mänsklighetens förmåga att lära sig, att förnya sig och att utvecklas, vilket är en gudagiven förmåga.

Vi vet från tidigare erfarenheter att många underbara innovationer som hade stor potential också blev problematiska av flera olika skäl. Problematiska för att det kanske fanns inneboende brister i själva systemen. Problematiska därför att människor kunde använda samma teknik för mycket bra saker eller mycket dåliga syften. Problematiskt, ibland, eftersom systemen - och vi tänker på AI här - har utvecklats inom en viss kommersiell och politisk miljö och kanske redan präglas av de värderingar som finns i dessa miljöer.

Vi vill tänka kritiskt för att säkerställa att AI i slutändan kommer att utnyttjas av mänskligheten, användas av mänskligheten på ett sätt som säkerställer att den förverkligar sin potential att vara bra för alla människor.

Vi hade en talare här nyligen, Carlo Ratti, en arkitekt. Han talade om teknik, och han citerade en amerikansk filosof och arkitekt, Buckminster Fuller, som sa om all teknik: ”Vi har valet att antingen vara arkitekter eller offer”. På sätt och vis inbjuder detta dokument mänskligheten till att försöka se till att vi håller människor ansvariga, så att vi faktiskt blir arkitekter för något, för att se till, planera och avgöra att AI kommer att användas för det goda, och inte bara lämna det till slumpmässiga faktorer, kommersiella överväganden eller politiska fördelar. Mänskligheten måste äga processerna och vara uppmärksam, för att säkerställa att det finns en känsla av ansvar.

Och det är där Azimovs Robot-serie kommer in i bilden. Var kommer ansvaret att ligga? AI-maskiner kommer att göra extraordinära saker. Ibland kommer vi inte att kunna förstå hur de gör dem. De utvecklar en förmåga att omprogrammera sig själva och utvecklas framåt. Så vad vi måste göra är att försöka säga: var ligger ansvaret? Många i branschen talar nu om att AI ska vara ”ethical by design”. Det innebär att man redan från början bör fundera på vilka problemen är. Vilka är svårigheterna? Hur kan vi planera så att vi undviker problem? Det betyder alltså att vi ska se till att det är säkert, att det fungerar bra och att det inte blir fel. Hur ser vi till att det inte lätt kan utnyttjas av människor som vill använda det på ett dåligt sätt? Hur ser vi till att de databaser som sätter villkor på AI faktiskt återspeglar hela den mänskliga erfarenheten, inte bara det som redan har digitaliserats. Så hur säkerställer vi att AI återspeglar det bästa hos oss som människor?

Därför försöker vi alltid hålla de som designar, planerar och utvecklar, men också de som använder AI, ansvariga. Det här är ett område där vi lägger ut ansvaret. Ett av de områden som har varit mycket intressant inom AI-området är att vissa yrkesorganisationer för ingenjörer och andra som arbetar inom området utvecklar sin egen etiska kod, eftersom de tekniskt sett har kompetensen att utveckla den, men de ställer sig frågorna: vad ska den användas till, hur ska den användas och hur ser vi till att den hålls ansvarig inför det bredare mänskliga samhället?

Fråga: Om du skulle få lyfta fram en aspekt av dokumentet, vilken skulle det vara?

Jag är inte säker på om det är en aspekt av dokumentet som jag skulle vilja lyfta fram, men vad jag skulle vilja säga till människor som kommer att läsa den här texten, oavsett om de är katoliker eller inte, så är att målet är att försöka vara så informerad som möjligt om vad som händer här, inte att känna sig omyndigförklarad eller åsidosatt. Jag säger detta som någon som är äldre i livet, till min generation, och inte bara för att känna att vi klarar oss undan.

En sak som jag skulle vilja säga till människor är att börja använda tekniken, utforska den, se hur extraordinär den är, men också börja vara kritisk till den, lära sig att utvärdera den och vara medveten om det. Så vad jag skulle ta med mig från detta är vikten av ansvar.

Var och en bör fundera över hur stort ansvar han eller hon har, och det ansvaret sträcker sig från användaren. Ska jag börja dela innehåll som jag vet är tveksamt, som jag vet är till för att väcka hat, ska jag ta personligt ansvar för hur jag använder AI och vad jag gör med det.

Ett annat område som lyfts fram i dokumentet - och det kanske är av begränsat intresse för oss här - är de katolska universitetens extraordinära bidrag. De har en underbar blandning av människor som är kunniga inom humaniora, filosofi och teologi, och även människor som har vetenskaplig bakgrund. Förhoppningen är att vi kan skapa tankar från det tvärvetenskapliga och det transdisciplinära som finns på dessa universitet, där vi kan inleda samtal mellan humaniora och vetenskap, för att se till att vi tänker på och reflekterar över ansvarsfull utveckling och användning av AI.