MISSATGE DEL SANT PARE FRANCESC
PER A LA 58a JORNADA MUNDIAL
DE LES COMUNICACIONS SOCIALS
Intel·ligència artificial i saviesa del cor:
per a una comunicació plenament humana
Benvolguts germans i germanes,
L’evolució dels sistemes de l’així anomenada “intel·ligència artificial”, sobre la qual ja vaig reflexionar al meu recent Missatge per a la Jornada Mundial de la Pau, també està modificant radicalment la informació i la comunicació i, a través d’elles, alguns dels fonaments de la convivència civil. És un canvi que afecta tothom, no només els professionals. La difusió accelerada de sorprenents invents, el funcionament i potencial dels quals són indesxifrables per a la majoria de nosaltres, suscita una sorpresa que oscil·la entre l’entusiasme i la desorientació i ens col·loca inevitablement davant de preguntes fonamentals: què és doncs l’home? Quina és la seva especificitat i quin serà el futur d’aquesta espècie nostra anomenada homo sapiens, a l’era de les intel·ligències artificials? Com podem continuar sent plenament humans i orientar cap al bé el canvi cultural en curs?
Començant des del cor
Abans que res, convé aclarir el terreny de les lectures catastrofistes i dels seus efectes paralitzants. Fa un segle, Romano Guardini, reflexionant sobre la tecnologia i sobre l’home, convidava a no posar-se rígids davant d’allò “nou” en l’intent de «conservar un món bell condemnat a desaparèixer». Tanmateix, alhora de manera encarida advertia profèticament: «El nostre lloc és en l’esdevenidor. Ens hi hem d’inserir, allí on correspon a cadascú […], adherint-nos-hi honestament però alhora restant sensibles, amb un cor incorruptible, a tot allò que hi ha en ell de destructiu i d’inhumà». I concloïa: «És cert que es tracta de problemes de naturalesa tècnica, científica i política; però no es poden resoldre si no és procedint de l’home. Cal que es formi un nou tipus humà, dotat d’una espiritualitat més profunda, d’una llibertat i d’una interioritat noves»[1].
En aquesta època que corre el risc de ser rica en tecnologia i pobra en humanitat, la nostra reflexió només pot partir del cor humà[2]. Només dotant-nos d’una mirada espiritual, només recuperant una saviesa del cor, podrem llegir i interpretar la novetat del nostre temps i redescobrir el camí d’una comunicació plenament humana. El cor, bíblicament entès com la seu de la llibertat i de les decisions més importants de la vida, és símbol d’integritat, d’unitat, però també evoca els afectes, els desitjos, els somnis, i és sobretot el lloc interior de l’encontre amb Déu. La saviesa del cor és, doncs, aquesta virtut que ens permet entrellaçar junts el tot i les parts, les decisions i les seves conseqüències, les capacitats i les fragilitats, el passat i el futur, el jo i el nosaltres.
Aquesta saviesa del cor es deixa trobar per qui la busca i es deixa veure per qui l’estima; s’anticipa a qui la desitja i va a la recerca de qui n’és digne (cf. Sv 6,12-16). Està amb el qui es deixa aconsellar (cf. Pr 13,10), amb el qui té el cor dòcil, un cor que escolta (cf. 1Re 3,9). És un do de l’Esperit Sant, que permet veure les coses amb els ulls de Déu, comprendre els vincles, les situacions, els esdeveniments i descobrir-ne el sentit. Sense aquesta saviesa, l’existència es torna insípida, perquè és precisament la saviesa —l’arrel llatina de la qual sapere es relaciona amb el sabor— la que dona gust a la vida.
Oportunitat i perill
No podem esperar aquesta saviesa de les màquines. Encara que el terme intel·ligència artificial ha suplantat el més correcte utilitzat a la literatura científica, machine learning, l’ús mateix de la paraula “intel·ligència” és enganyós. Sens dubte, les màquines tenen una capacitat incommensurablement més gran que els humans per a emmagatzemar dades i correlacionar-les entre si, però correspon a l’home, i només a ell, desxifrar-ne el significat. No es tracta, doncs, d’exigir que les màquines semblin humanes; sinó més aviat de despertar l’home de la hipnosi on ha caigut a causa del seu deliri d’omnipotència, creient-se un subjecte totalment autònom i autorreferencial, separat de tot vincle social i aliè a la seva creaturalitat.
En efecte, l’home sempre ha experimentat de no ser autosuficient a si mateix i intenta superar la seva vulnerabilitat utilitzant qualsevol mitjà. Començant pels primers artefactes prehistòrics, utilitzats com a prolongació dels braços, passant pels mitjans de comunicació emprats com a prolongació de la paraula, hem arribat avui a les màquines més sofisticades que actuen com a ajuda del pensament. Tot i així, cadascuna d’aquestes realitats pot ser contaminada per la temptació original d’arribar a ser com Déu sense Déu (cf. Gn 3), és a dir, de voler conquerir per les pròpies forces el que, en canvi, s’hauria d’acollir com un do de Déu i viure’s en la relació amb els altres.
Segons l’orientació del cor, tot el que està a les mans de l’home es converteix en oportunitat o perill. El seu propi cos, creat per a ser un lloc de comunicació i comunió, es pot convertir en un mitjà d’agressivitat. De la mateixa manera, tota extensió tècnica de l’home pot ser un instrument de servei amorós o de dominació hostil. Els sistemes d’intel·ligència artificial poden contribuir al procés d’alliberament de la ignorància i facilitar l’intercanvi d’informació entre pobles i generacions diferents. Poden, per exemple, fer accessible i comprensible una enorme riquesa de coneixements escrits en èpoques passades o fer que les persones es comuniquin en llengües que no coneixen. Però alhora poden ser instruments de “contaminació cognitiva”, d’alteració de la realitat a través de narratives parcialment o totalment falses que es creuen —i es comparteixen— com si fossin veritables. Només cal pensar en el problema de la desinformació al qual ens enfrontem des de fa anys en forma de fake news[3] i que avui se serveix de deep fakes, és a dir, de la creació i difusió d’imatges que semblen perfectament versemblants però que són falses (també jo n’he estat objecte), o de missatges d’àudio que utilitzen la veu d’una persona per dir coses que no ha dit mai. La simulació, que està a la base d’aquests programes, pot ser útil en alguns camps específics, però es torna perversa quan distorsiona la relació amb els altres i la realitat.
Ja des de la primera onada de la intel·ligència artificial, la dels mitjans de comunicació socials, hem entès la seva ambivalència veient-ho amb els propis ulls, adonant-nos tant de les seves oportunitats com dels seus riscos i patologies. El segon nivell d’intel·ligència artificial generativa marca un salt qualitatiu indiscutible. Per tant, és important tenir la capacitat d’entendre, comprendre i regular eines que en mans equivocades podrien obrir escenaris adversos. Com tot el que ha sortit de la ment i de les mans de l’home, també els algoritmes no són neutrals. Per això, és necessari actuar preventivament, proposant models de regulació ètica per a frenar les implicacions nocives i discriminatòries, socialment injustes, dels sistemes d’intel·ligència artificial i contrarestar-ne l’ús en la reducció del pluralisme, en la polarització de l’opinió pública o en la construcció d’un pensament únic. Així doncs, renovo la meva crida exhortant «la comunitat de les nacions a treballar unida per a adoptar un tractat internacional vinculant, que reguli el desenvolupament i l’ús de la intel·ligència artificial en les seves múltiples formes»[4]. No obstant això, com en qualsevol àmbit humà, la reglamentació no és suficient.
Créixer en humanitat
Estem cridats a créixer junts, en humanitat i com a humanitat. El repte que tenim davant nostre és fer un salt qualitatiu per a estar a l’alçada d’una societat complexa, multiètnica, pluralista, multireligiosa i multicultural. Ens correspon qüestionar-nos sobre el desenvolupament teòric i l’ús pràctic d’aquests nous instruments de comunicació i de coneixement. Grans possibilitats de bé acompanyen el risc que tot es transformi en un càlcul abstracte, que redueixi les persones a meres dades, el pensament a un esquema, l’experiència a un cas, el bé al benefici, i sobretot que acabem negant la unicitat de cada persona i de la seva història, dissolent la concreció de la realitat en una sèrie de dades estadístiques.
La revolució digital pot fer-nos més lliures, però no certament si ens deixem atrapar pels fenòmens mediàtics coneguts avui com a cambra d’eco. En aquests casos, en lloc d’augmentar el pluralisme de la informació, correm el risc de perdre’ns en un pantà anònim, al servei dels interessos del mercat o del poder. És inacceptable que l’ús de la intel·ligència artificial condueixi a un pensament anònim, a un assemblatge de dades no certificades, a una negligència col·lectiva de responsabilitat editorial. La representació de la realitat en macrodades, per molt funcional que sigui per a la gestió de les màquines, implica de fet una pèrdua substancial de la veritat de les coses, que obstaculitza la comunicació interpersonal i amenaça amb danyar la nostra mateixa humanitat. La informació no es pot separar de la relació existencial: implica el cos, l’estar en la realitat; demana posar en relació no només dades, sinó també experiències; exigeix el rostre, la mirada i la compassió més que l’intercanvi.
Penso en els reportatges de les guerres i en la “guerra paral·lela” que es fa mitjançant campanyes de desinformació. I penso en quants reporters resulten ferits o moren sobre el terreny per a permetre’ns veure el que han vist els seus ulls. Perquè només tocant el patiment dels infants, de les dones i dels homes podem comprendre l’absurditat de les guerres.
L’ús de la intel·ligència artificial podrà contribuir positivament en el camp de la comunicació si no anul·la el paper del periodisme sobre el terreny, sinó que, per contra, el recolza; si augmenta la professionalitat de la comunicació, responsabilitzant cada comunicador; si retorna a cada ésser humà el paper de subjecte, amb capacitat crítica, respecte de la mateixa comunicació.
Interrogants per a l’avui i el demà
Així doncs, sorgeixen espontàniament algunes preguntes: com es pot protegir la professionalitat i la dignitat dels treballadors de l’àmbit de la comunicació i de la informació, juntament amb la dels usuaris d’arreu del món? Com es pot garantir la interoperabilitat de les plataformes? Com es pot garantir que les empreses que desenvolupen plataformes digitals assumeixin la seva responsabilitat en relació del que difonen i del que obtenen beneficis, de la mateixa manera que passa amb els editors dels mitjans de comunicació tradicionals? Com es poden fer més transparents els criteris en els quals es basen els algoritmes d’indexació i de desindexació i dels motors de recerca, capaços d’exaltar o cancel·lar persones i opinions, històries i cultures? Com es pot garantir la transparència dels processos d’informació? Com es pot fer evident l’autoria dels escrits i les fonts rastrejables, evitant el mantell de l’anonimat? Com es pot posar de manifest si una imatge o un vídeo retraten un esdeveniment o el simulen? Com es pot evitar que les fonts es redueixin a una, a un pensament únic elaborat algorítmicament? I com es pot promoure, en canvi, un entorn que preservi el pluralisme i representi la complexitat de la realitat? Com es pot fer sostenible aquesta eina potent, costosa i d’alt consum energètic? Com podem fer-la accessible també als països en vies de desenvolupament?
A partir de les respostes a aquestes preguntes i d’altres, entendrem si la intel·ligència artificial acabarà construint noves castes basades en el domini de la informació, generant noves formes d’explotació i desigualtat; o si, per contra, portarà més igualtat, promovent una informació correcta i una consciència més gran del canvi d’època que estem vivint, afavorint l’escolta de les múltiples necessitats de les persones i dels pobles, en un sistema d’informació articulat i pluralista. D’una banda, plana l’espectre d’una nova esclavitud, de l’altra, una conquesta de la llibertat; d’una banda, la possibilitat que alguns condicionin el pensament de tots, de l’altra, la possibilitat que tots participin en l’elaboració del pensament.
La resposta no està escrita, depèn de nosaltres. Correspon a l’home decidir si es converteix en aliment per als algoritmes o en canvi si alimenta el seu cor amb la llibertat, aquest cor sense el qual no es creix en saviesa. Aquesta saviesa madura traient profit del temps i entenent les debilitats. Creix en l’aliança entre les generacions, entre els qui tenen memòria del passat i els qui tenen visió de futur. Només junts creix la capacitat de discernir, de vigilar, de veure les coses a partir del seu compliment. Per a no perdre la nostra humanitat, cerquem la Saviesa que és anterior a totes les coses (cf. Sir 1,4), la que passant pels cors purs prepara amics de Déu i profetes (cf. Sv 7,27). Ella ens ajudarà també a orientar els sistemes d’intel·ligència artificial a una comunicació plenament humana.
Roma, a Sant Joan del Laterà, 24 de gener de 2024
FRANCESC
____________________________________________________________________________________
[1] Cartes del Llac de Como, Brescia 2022, 95-97.
[2] En continuïtat amb els Missatges de les anteriors Jornades Mundials de les Comunicacions Socials, dedicats a trobar les persones on són i com són (2021), escoltar amb l’oïda del cor (2022) i parlar amb el cor (2023).
[3] Cf. “La veritat us farà lliures” (Jn 8,32). Fake news i periodisme de pau. Missatge de la 52 Jornada Mundial de les Comunicacions Socials, 2018.
[4] Missatge per a la Celebració de la 57 Jornada Mundial de la Pau (1 de gener de 2024), 8.
