W powszechnym odbiorze pierwsza encyklika papieża poświęcona jest sztucznej inteligencji. W sporej części to prawda, ale nie do końca. Encyklika jest starannym, pogłębionym wykładem na temat katolickiej nauki społecznej. Papież przedstawia w nim pokrótce historię nauczania społecznego Kościoła i ukazuje kryteria, którymi kieruje się ta część nauczania kościelnego, a które mają pomóc ocenić w świetle fundamentalnych i niezmiennych kryteriów res nova – nowe rzeczy w rozwoju ludzkości. Dziś taką najważniejszą res nova jest właśnie „ej-aj”, czyli sztuczna inteligencja. Szybko wkracza i zagnieżdża się w różne – a może nawet wszystkie – obszary naszego życia.

Epokowa nowość

Na pozór to kolejny element techniczny, który ma nam pomóc w życiu. Tyle że nie jest to taki element jak radioodbiornik, telewizor, komputer osobisty czy smartfon. To coś znacznie poważniejszego i potencjalnie szalenie groźniejszego dla człowieka. Bo o ile o wspomnianych wcześniej narzędziach moglibyśmy powiedzieć, że same w sobie są neutralne moralnie i mogą być przez użytkownika – człowieka – dobrze lub źle spożytkowane, o tyle w przypadku sztucznej inteligencji jest nieco inaczej. Zagrożenie tkwi w fundamentach. „Jeśli jakiś system zostaje pomyślany lub wykorzystywany w taki sposób, że traktuje niektóre życia jako mniej godne albo wyklucza je bez możliwości odwołania, to nie jest on zwykłym narzędziem, «którego należy dobrze używać»: wprowadza już kryterium sprzeczne z niezbywalną godnością osoby” – tłumaczy papież.

Koń trojański

Dokument powstał w kontekście niekontrolowanego – albo lepiej: kontrolowanego przez małą, maleńką grupkę podmiotów – rozwoju nowej technologii, która często przy aplauzie rzeszy użytkowników, zachwyconych, jak to AI ułatwia im życie i pracę, wkracza w coraz to nowe obszary. To stąd pojawiają się niepokojące informacje, że np. urzędnicy coraz częściej korzystają z tego narzędzia w celu nie tylko poszukiwania informacji, ale też redagowania oficjalnych urzędowych pism. Albo co najgorsze – i temu papież poświęca stosunkowo najwięcej miejsca – AI stosowana jest jako narzędzie prowadzenia wojen i konfliktów, umożliwiające zdobycie przewagi. Chodzi m.in. o to, że AI ułatwia i skraca proces zabijania, albo co gorsza – sama, już bez zezwolenia człowieka, decyduje o życiu i o śmierci osoby ludzkiej. Ktoś może powiedzieć, że wystarczy zatem ustanowić pewne reguły, oddać AI w odpowiedzialne ręce – i sprawa zostanie załatwiona. Złudne nadzieje.

Sedno sprawy

Papież pisze: „Zagrożenie nie polega jedynie na tym, że niektóre technologie mogą być źle używane, lecz na tym, że paradygmat technokratyczny, w którym jesteśmy zanurzeni, wzmocniony przez rewolucję cyfrową i AI, sprawia, iż za słuszną i normalną zaczyna uchodzić wizja antyludzka, wedle której pełnia życia miałaby polegać na tym, by więcej posiadać, zmniejszać kruchość, eliminować to, co nieprzewidywalne, i wszystko kontrolować”. Oznacza to wprost uderzenie w człowieka i zanegowanie stworzonej przez Boga magnifica humanitas (wspaniałe człowieczeństwo), który to przymiot należy się każdemu człowiekowi, oraz usiłowanie stworzenia „nadczłowieka”. To stara pokusa. Próby jej realizacji już przerabialiśmy i obiecywaliśmy sobie po gorzkich owocach, które musieliśmy pozjadać, że nigdy więcej. Czytamy: „Delikatne decyzje dotyczące pracy, kredytu, dostępu do usług i reputacji osób mogą zostać powierzone całkowicie systemom zautomatyzowanym, które nie znają «współczucia, miłosierdzia, przebaczenia, a nade wszystko otwartości na nadzieję przemiany osoby»”. I dalej: „Jeśli jakiś system zostaje pomyślany lub wykorzystywany w taki sposób, że traktuje niektóre życia jako mniej godne albo wyklucza je bez możliwości odwołania, nie jest on zwykłym narzędziem, «którego należy dobrze używać»: wprowadza już kryterium sprzeczne z niezbywalną godnością osoby”.

Czym jest AI dzisiaj

Leon XIV w trzecim, centralnym rozdziale encykliki, opisuje dokładnie i systematycznie zagrożenia, które zostały niejako wpisane w dotychczasowy rozwój AI, a mówimy o jej wieku tak naprawdę dziecięcym („wszelkie tezy dotyczące AI mogą się w krótkim czasie zdezaktualizować ze względu na zdumiewające tempo rozwoju tych systemów”). Coraz więcej osób zaangażowanych we wdrażanie dużych modeli językowych jest zaniepokojonych, a nawet przerażonych kierunkiem rozwoju, który im nadano i w którym zmierzają – mianowicie do punktu, w którym bardzo trudno będzie ten proces odwrócić. Także, a może przede wszystkim dlatego, że dziś, gdy mowa o kontekście rozwoju AI, władza jest skoncentrowana już nie w państwach, ale w nielicznych rękach zarządzających wielkimi platformami cyfrowymi. To potężna siła i moc. Na tyle potężna, że Leon XIV otwarcie pisze: „Ci, którzy dysponują potężnymi środkami technicznymi i ekonomicznymi – a wraz z nimi także znacznymi zasobami ludzkimi potrzebnymi do oddziaływania – mają wielką zdolność wywoływania przemian kulturowych i – ostatecznie – przekonywania znacznej liczby osób co do tego, jaka jest prawda o istocie ludzkiej, o świecie, o sensie istnienia, o rodzinie, a nawet o Bogu. Jest to czysta władza pozbawiona prawdy, która w sposób subtelny lub jawny narzuca to, co chce, aby inni uznali za prawdziwe”. Oto realne zagrożenie.

Co robić?

Papież radzi m.in.: „Domagać się roztropności, wnikliwej weryfikacji, a niekiedy nawet spowolnienia we wdrażaniu sztucznej inteligencji nie znaczy być przeciwnikiem postępu, lecz wyrażać odpowiedzialną troskę o rodzinę ludzką. Wymóg ten jest tym pilniejszy, że często istnieje brak równowagi między szybkością rozwoju technologicznego a tempem, w jakim dojrzewają świadomość, normy, mechanizmy kontroli i instytucje zdolne zarządzać jego skutkami”. Dziś np. na naszym podwórku dyskutujemy o tym, jak ograniczyć ekspozycję dzieci na treści pozyskiwane za pomocą smartfonów. Ta dyskusja idzie trudno, bo technologia zakorzeniła się głęboko w naszej świadomości i w życiu. (Ma już ponad 20 lat, a dyskutujemy o tym dopiero dziś). Można więc powiedzieć, że papież trochę bije na alarm. Podkreśla, że nie jest przeciw rozwojowi, nie jest przeciw AI. Chodzi tylko o to, żeby ją „rozbroić”.

Przeciw rehabilitacji wojny

Ojciec Święty zaznacza, że to jego ulubione słowo, a zarazem najgłębsze pragnienie. Także w kontekście dzisiejszej sytuacji, stąd cały piąty rozdział poświęcony jest zderzeniu cywilizacji miłości z kulturą potęgi. W głównej mierze dotyczy on wojny i jej „rehabilitacji”, czyli traktowania jej jako „zwykłego narzędzia polityki” i koniecznego składnika dziejów. Dziś o to nawet łatwiej niż w przeszłości, bo obecnie świat medialny i cyfrowy do wojny niejako kulturowo przygotowuje. Stąd wojna, konflikt, przemoc wydawać się mogą nie tyle nieuchronne, ile nawet „czyste”.

Leon XIV kończy swoją encyklikę takimi radami skierowanymi do wszystkich ludzi dobrej woli: „Pozostańmy wierni prawdzie! Inwestujmy w wychowanie, które rozpoczyna się od nas samych! Troszczmy się o relacje! Miłujmy sprawiedliwość i pokój!”. To pozwoli obronić „wspaniałe człowieczeństwo” – magnifica humanitas – przed być może najpoważniejszym zagrożeniem w jego historii.