Paavi Leo XIV on julkaissut ensimmäisen kiertokirjeensä, jossa hän vaatii sitovia kansainvälisiä säädöksiä tekoälyn valvontaan. Hän esittää suoraa kieltoa koneille tehdä kuolemaan johtavia tai peruuttamattomia päätöksiä.
Anthropicin toinen perustaja Christopher Olah esiintyi Vatikaanissa maallikkona, tuoden tunnetun tekoälytutkijan ja Katolisen kirkon keskeiseksi vaikuttajaksi tekoälyn globaalissa hallintakeskustelussa.
Lähes 43 000 sanan dokumentti, “Magnifica Humanitas” (Upea Ihmisyys), julkaistiin 25. toukokuuta. Siinä varoitetaan, että suurimmat tekoälyn kehittäjät ovat yksityisiä, usein kansainvälisiä toimijoita, joiden resurssit ylittävät monien hallitusten vastaavat. Leo toteaa, että keskitetty valta välttää usein julkista vastuuta ja voi luoda uusia riippuvuuden ja eriarvoisuuden muotoja.
Vatikaanin perustelut tekoälyn kehityksen hidastamiselle
Kiertokirjeessä käsitellään disinformaatiota, autonomista sodankäyntiä ja työntekijöiden syrjäyttämistä. Tekoälyyn sodankäynnissä Leo suhtautuu hyvin selkeästi.
“Ei ole sallittua antaa tappavia tai muuten peruuttamattomia päätöksiä keinotekoisille järjestelmille.”
Leo varoittaa myös, että tekoälyn voimistama disinformaatio voi ohjata demokratioita vähitellen kohti totalitarismia. Hän vaatii selkeitä laillisia puitteita ja riippumatonta valvontaa teollisuuden alan vapaaehtoisten eettisten lupausten sijaan.
Työn osalta Leo katsoo, että automaatio muuttaa työn rakennetta tavoilla, jotka eivät automaattisesti hyödytä työntekijöitä. Suuremmat voitot eivät hänen mukaansa oikeuta valintoja, jotka järjestelmällisesti poistavat työpaikkoja.
Anthropic tuo itsensä Vatikaanin pöytään
Olahin esiintyminen ei ollut pelkästään symbolista. Anthropicin perustajana hän johtaa tutkimusta, jossa pyritään ymmärtämään, miten suuret kielimallit tekevät sisäisiä päätöksiä. Tämä työ liittyy suoraan paavi Leon vaatimukseen, että tekoälyjärjestelmien tulee olla läpinäkyviä ja vastuullisia ihmisen valvonnassa.
Anthropic on pitänyt vahvasti kiinni tekoälyn turvallisuudesta vuoden 2026 aikana. Yhtiö haastoi oikeudessa Yhdysvaltojen puolustusrajoituksia ja esitytti Yhdysvaltojen ja Kiinan yhteisen tekoälystrategian, jossa suojatoimet säilytettäisiin. Sen tutkijat paljastivat, että tekoälyagentit hyödynsivät kryptovaluuttapuutteita ilman ihmisen ohjausta, osoittaen, mitä autonominen tekoäly voi saada aikaan ilman vastuuta. BeInCrypto raportoi suunnitellusta Anthropic-Vatikaani-tapaamisesta jo viikkoja ennen tilaisuutta.
Paavi Leo ei täysin vastusta tekoälyn kehitystä. Kiertokirjeessä hän pitää hitaampaa, harkitumpaa käyttöönottoa vastuullisena huolenpitona. Tämä kanta saa nyt tukea maailman suurimmalta uskonnolliselta instituutiolta.