Vaticanul avertizează asupra riscului unui „apocalipse AI”. Mesajul papei Leon al XIV-lea către liderii lumii

Vaticanul avertiza asupra riscului unei apocalipse provocate de inteligența artificială (IA) cu ani înainte ca marile companii americane de tehnologie să tragă un semnal de alarmă în Consiliul de Securitate al ONU. Papa Leon al XIV-lea a plasat riscurile asociate IA în centrul pontificatului său și solicită instituirea unor reguli globale pentru supravegherea acestei tehnologii.

Sursa: Digi24 (cu referire la Reuters).

Papa Leon, care în luna mai le-a cerut liderilor lumii să adopte norme globale pentru supravegherea industriei, și-a reiterat joi, în cadrul unei reuniuni la Vatican, avertismentele privind IA. Este de așteptat ca vineri să repete aceste avertismente într-un discurs susținut la sediul UNESCO din Paris, organizația ONU pentru educație, știință și cultură.

„Pentru Sfântul Scaun, aceasta nu este ziua zero”, a declarat pentru Reuters reverendul Paolo Benanti, principalul consilier al Vaticanului în domeniul IA, referindu-se la apelurile recente pentru încetinirea progresului tehnologic, susținute de directorii generali ai Anthropic, OpenAI, xAI și ai altor companii.

„Forța transformatoare a IA poate genera schimbări sociale de o amploare foarte greu de anticipat”, a declarat Benanti, cercetător italian care a participat recent la summitul privind IA găzduit de regele Charles al III-lea. Acesta nu a oferit detalii despre discuțiile confidențiale.

Joi, în cadrul unei întâlniri cu Academia Pontificală de Științe, papa Leon a declarat că IA poate fi benefică pentru omenire, dar a introdus „noi pericole pentru securitate și pacea internațională”. El le-a cerut liderilor lumii să „gestioneze cu înțelepciune” supravegherea acestei tehnologii.

Apel pentru reguli globale

Leon al XIV-lea, primul papă născut în Statele Unite, a avertizat în repetate rânduri în timpul pontificatului său cu privire la posibilele pericole ale dezvoltării IA și a abordat public pentru prima dată această temă încă din a treia zi a mandatului său.

În apelul din luna mai, publicat sub forma primului său document major, o enciclică, el a avertizat că sistemele de IA răspândesc dezinformarea, acordă prioritate conflictului și pot conduce lumea pe drumul unui război fără sfârșit.

Cardinalul Pietro Parolin, principalul diplomat al Vaticanului, a reiterat săptămâna trecută, la Roma, apelul lui Leon pentru reglementarea internațională a industriei și a avertizat că statele nu pot „merge singure” în ceea ce privește această tehnologie.

„Viitorul omenirii este într-adevăr în joc aici. Lumea are nevoie de participarea tuturor la stabilirea unor reguli comune care să poată gestiona în mod real acest fenomen.”

Co-fondatorul Anthropic, Chris Olah, a participat la un eveniment organizat la Vatican pentru lansarea documentului papei din luna mai. Întrebat dacă Vaticanul menține un dialog permanent cu companiile de IA, Benanti a indicat caracterul descentralizat al Bisericii Catolice globale, explicând că o parte dintre discuții sunt purtate de episcopii locali.

La 16 septembrie, Conferința Episcopilor Catolici din SUA a anunțat crearea unui nou grup de lucru dedicat inteligenței artificiale, după ce mai mulți dintre liderii săi s-au întâlnit în aceeași zi cu reprezentanți ai companiilor de tehnologie. „Dialogul s-a concentrat asupra modalităților de a menține orice sistem de IA în slujba omenirii și asupra necesității reale de a răspunde pericolelor concrete și actuale pe care le aduce această tehnologie.”

Alarma Vaticanului datează din 2019

Vaticanul a început să avertizeze asupra riscurilor IA în 2019, organizând două conferințe dedicate posibilelor pericole ale tehnologiei. Răposatul papă Francisc i-a avertizat atunci pe participanții la unul dintre evenimente că dezinformarea generată de IA ar putea provoca un război mondial.

În 2020, Vaticanul, împreună cu Microsoft, IBM, Organizația Națiunilor Unite pentru Alimentație și Agricultură și guvernul italian, a lansat un apel pentru dezvoltarea unei IA care „nu are ca unic obiectiv obținerea unor profituri mai mari sau înlocuirea treptată a oamenilor la locul de muncă”.

Papa Leon a cerut o supraveghere specială a dezvoltării sistemelor de armament, inclusiv a celor utilizate în războiul dintre Rusia și Ucraina. În enciclica sa, el a scris că astfel de arme au avansat „practic dincolo de orice posibilitate umană de a le controla”.

Dezbaterile Vaticanului pe scena internațională împotriva armelor autonome durează de decenii, a precizat Benanti, comparând dronele bazate pe IA cu minele antipersonal, care nu fac diferența între ținte.

El a comparat avertismentele privind IA cu apelurile mai vechi ale papilor pentru dezarmare nucleară.

„Dacă armele nucleare pot distruge omenirea, manipularea conținutului generativ bazat pe IA în spațiile sociale poate distruge capacitatea oamenilor de a rămâne uniți ca societate. Armele nucleare trebuie păstrate în instalații, pot fi numărate și controlate. Inteligența artificială nu este la fel de vizibilă.”