Las denominadas inteligencias artificiales no
viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor,
no maduran en las relaciones ni conocen desde dentro lo que significan el amor,
el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia
moral: no juzgan el bien y el mal, no captan el sentido último de las
situaciones ni asumen el peso de las consecuencias.
#99 Magnifica Humanitas
Tiempo de lectura: 14 minutos.
Seguramente el lector ya habrá visto numerosos artículos comentando el contenido de la encíclica, resaltando los aspectos claves del mensaje sobre los impactos que la Inteligencia Artificial, IA, puede tener sobre la dignidad humana. Este artículo se diferencia de aquellos en que no es descriptivo, es analítico y pone el foco en la responsabilidad empresarial como amortiguador de aquel impacto: cómo se ve afectada esa responsabilidad por la IA y cuál es su papel. Y no analiza la encíclica, la usa para poner contexto a la discusión sobre las implicaciones de la IA en la responsabilidad empresarial.
En el aniversario,
15 de mayo, de la promulgación de la encíclica Rerum
Novarum, (1891) de León XIII, su
homónimo León XIV firmó la encíclica Magnifica
Humanitas: Custodia de la persona humana
en el tiempo de la inteligencia artificial (se presentó el 25 de mayo, ver
video). Es de notar que esta vez hubo una presentación y se hizo con la
presencia del papa y con un panel de lideres religiosos y la participación de Christopher
Olah, cofundador de Anthropic, empresa líder en IA y una de las más preocupadas
por el impacto de sus modelos en la condición humana. [i]
En este artículo aprovecharemos
los riesgos y advertencias que la encíclica destaca sobre el potencial de la
IA de afectar la dignidad humana para hacer un análisis
del papel de la responsabilidad de las empresas ante la sociedad de mitigar
algunos de esos impactos, destacando el impacto que tiene sobre los empleados
como personas y en particular sobre su dignidad vía el empleo. [ii] No
es un análisis de la encíclica, que considera muy superficialmente el papel de
la empresa, más bien es aprovechar los mensajes de la encíclica, en el contexto
de la doctrina social de la iglesia, DSI, para analizar el papel de la responsabilidad
empresarial. Para ello, antes haremos un brevísimo repaso de la Doctrina
Social de la Iglesia para apreciar el contexto histórico en el que se sitúa la encíclica.
La encíclica, en 42
300 palabras, 54 páginas y 224 notas pie, cubre una gran diversidad de aspectos
sobre los impactos de la IA en la vida cotidiana y en particular sobre las
acciones y enseñanzas de la Iglesia, y la apremiante necesidad de la regulación
nacional, supranacional y autorregulación de la IA que no consideraremos. Tampoco comentaremos las grandes contribuciones
que la IA puede hacer al mejoramiento de la calidad de vida. No porque creamos
que la regulación no sea crítica y que la que contribución neta no pueda ser positiva,
sino para no alargar este ya largo artículo.
Y como parte del
contexto podemos citar algunas estadísticas sobre el usos de ciertas palabras: Humano
214, Persona 160, Bien común, 67, Dignidad, 98, Doctrina social, 53, empresa(rial),
11 veces.
I.
Continúa con la tradición de la Doctrina Social de la Iglesia.
La encíclica Rerum
Novarum surgió como reacción de la iglesia a los cambios, entonces dramáticos,
sobre la vida de las personas y empresas que ocasionaba la revolución industrial
y esta, Magnifica Humanitas es su espejo, ante la revolución digital,
no menos dramática, que está ocasionando el desarrollo de la Inteligencia Artificial.
La Rerum
Novarum estableció los fundamentos de la Doctrina Social de la Iglesia, aunque
solo adquirió ese nombre a partir del 1950 con el papa Pío XII. Estableció los cuatro
principios fundamentales de esa doctrina: (1) La Dignidad de la persona; (2)
el reconocimiento de que los bienes naturales y culturales son comunes; (3)
Subsidiariedad, por lo que las decisiones deben tomar en cuenta las opiniones
de los niveles más cercanos a las personas, los afectados; y, (4) la Solidaridad
con las personas.
El denominador
común entre ambas encíclicas es la preocupación por el impacto de los cambios
del entorno en la dignidad humana, en el primer caso a través prevención de los posibles efectos de la mecanización
del trabajo y la masificación de la producción con el riesgo de asimilar la
persona con una máquina, con la correspondiente deshumanización. En la
encíclica reciente sobre la prevención del potencial devastador impacto que la
IA, particularmente sobre la degradación, reducción o destrucción del empleo,
con el riesgo, ahora mayor, de prescindir de la persona.
Y en ambos casos es
la empresa la que puede ser causante y amortiguador de esos efectos. Es
oportuno enfatizar que un fuerte fundamento de la dignidad humana es el
empleo digno y de calidad, la oportunidad de sentirse útil, necesario, poder contribuir
al desarrollo de la sociedad y de la familia.
Cuando la eficiencia se vuelve medida de valor, el
ser humano es tentado a considerarse como un proyecto que debe optimizarse más
que como una criatura llamada a la relación y a la comunión.
II.
La Doctrina Social de la Iglesia y la responsabilidad empresarial.
Esta ha sido la preocupación
constante, que se ha cubierto en múltiples encíclicas (he publicado varios artículos
sobre las implicaciones de las encíclicas en la responsabilidad empresarial [iii]). Las
más pertinentes a nuestros propósitos son la de Centesimus annus de Juan
Pablo II, Caritas in Veritas de Benedicto XVI y Laudato sí y Fratelli
tutti de Francisco.
Centesimus
annus (1991) fue promulgada
a los 100 años de la Rerum Novarum, que además de celebrar el aniversario
tenía como objetivo recopilar la DSI y ponerla al día antes los cambios económicos,
en particular la globalización y el auge del mercantilismo. Caritas
in Veritas (2009) [iv] sobre el
desarrollo humano integral y el progreso hacia el bien común, contiene acerbas
críticas al fundamentalismo del libre mercado y por ende contiene numerosas alusiones
a las responsabilidades de las empresas, sobre todo en el tratamiento digno
de sus empleados. Laudato si: Sobre el cuidado de la casa
común,[v] (2015) fue promulgada para coincidir con las
deliberaciones sobre los acuerdos para el combate al cambio climático, que se
logró en la Cumbre de París, y enfatizaba la necesidad de proteger el medio ambiente
y las interrelaciones y el papel determinante que este tenía sobre el bienestar
de las personas. Fratelli
tutti [vi]
(2020) extiende los argumentos de Caritas in Veritas sobre el
fundamentalismo del libre mercado y las consecuencias que ello tiene sobre las
poblaciones más vulnerables. Aboga por su inclusión en el circulo económico de
intercambios y por un refuerzo de la regulación de estos mercados.
Estos principios
de la DSI siguen siendo relevantes hoy en día y son usados en la nueva
encíclica como hilo conductor del análisis del impacto en la condición humana
por lo que son pertinentes para analizar cuál debe ser la responsabilidad
empresarial.
Podríamos decir
que la aplicación de estos principios al contexto empresarial ha tenido una
gran influencia en el desarrollo de lo que hoy llamamos la responsabilidad de
la empresa ante la sociedad y sobre el papel regulador de los gobiernos sobre
los efectos de la actividad económica en el desarrollo humano. El desarrollo
de esa responsabilidad empresarial no ha sido exclusivamente una incitativa
secular. Algunas de las
encíclicas, en base a su poder blando de persuasión, han tenido una influencia
determinante. [vii]
La encíclica Magnifica
Humanitas es la que menos se refiere a la responsabilidad empresarial de
las cuatro mencionadas arriba. Menciona la palabra empresa o empresarial
en solo once ocasiones, siempre en términos de su responsabilidad por el empleo
digno y de calidad.
Para analizar las
implicaciones de la IA para la responsabilidad empresarial usamos el mismo
contexto de la DSI que usa la encíclica para analizar el impacto de la IA sobre
la dignidad humana. Para simplificar la
discusión proponemos su aplicación en la siguiente tabla.
Implicaciones de los Principios de la
Doctrina Social de la Iglesia
sobre la Responsabilidad de la Empresa
ante la Sociedad
|
Principios de la DSI |
Responsabilidad Empresarial |
|
Dignidad de las personas |
Los
empleados son personas, que deben ser tratadas con dignidad, no son un
recurso de producción equivalente a los recursos financieros o físicos. Aún el
pago de un sueldo justo y beneficios monetarios no evacuan la responsabilidad
de un tratamiento digno. |
|
Bien común |
La empresa utiliza en sus actividades bienes que
son comunes a la sociedad por lo que debe utilizarlos de forma sostenible, sin
menoscabar su disfrute por las personas y empresas, de las generaciones
presentes y futuras. |
|
Subsidiariedad |
Las
personas, empleados, clientes y otros miembros de la sociedad que son afectados
por todas las actividades deben poder participar en las decisiones que los
afectan. Principio básico de consulta con los stakeholders |
|
Solidaridad |
Los beneficios monetarios y no monetarios de las
empresa han sido obtenidos utilizando bienes que pertenecen a la sociedad, incluyendo
las personas por lo que los deben compartir en función de las contribuciones relativas
de cada grupo que los ha aportado. Cada uno que aporte lo mejor de sus
capacidades y recursos y que reciba compensación justa por ello. [viii] |
III.
Potencial impacto de la inteligencia artificial en la condición humana.
De la misma
manera también podemos utilizar los principios de la DSI para analizar las consecuencias
de la IA sobre la actividad empresarial. Postulamos que la empresa es un intermediario
clave del impacto de las revoluciones industrial y digital sobre la persona y
su dignidad por lo que la responsabilidad empresarial puede
actuar de amortiguador. Claro
está que no es el único amortiguador, también lo son los gobiernos, asociaciones
gremiales y las instituciones de la sociedad civil, y en este caso en particular,
la Iglesia Católica, pero su consideración excede el objeto de este artículo. Proponemos las siguientes implicaciones.
Principios de la DSI que son afectados por la IA
|
Principios de la DSI |
Inteligencia Artificial |
|
Dignidad de las personas |
Degradación,
reducción y pérdida de empleo. Substitución por herramientas digitales con la
consecuente deshumanización y humillación. |
|
Bien común |
La información pública, privada y personal es un
bien común que no debe ser aprovechado para fines excluyentes. Se apropian
del bien común. |
|
Subsidiariedad |
El
poder se eleva a las empresas tecnológicas y a instrumentos digitales despersonalizados
que desestiman la participación de los afectados. |
|
Solidaridad |
Son instrumentos digitales, incorpóreos, cuyos
fines son ellos mismos, sin necesidad ni interés en compartir los beneficios
del uso de bienes comunes. No es parte de su razón de ser. Si hay solidaridad
será de las empresas, si son responsables, que los controlan. |
Con esto no
queremos decir que la IA es la antítesis de la responsabilidad empresarial, lo
que si queremos enfatizar es que con la aplicación masiva, autónoma,
irresponsable e indiferente de la IA se corren riesgos de degradar la dignidad
humana, y que la responsabilidad empresarial puede jugar un papel en su
mitigación.
IV.
Responsabilidad empresarial ante los impactos de IA.
Esta responsabilidad
la habíamos analizado en cinco artículos previos, [ix] que, aunque
no estaban en el contexto de las encíclicas y de la DSI, son consistentes con
ellos, por lo que solo extraeremos párrafos representativos de cada uno a
manera de resumen (el lector interesado en más detalles puede consultar los
artículos).
a.
Impacto de la inteligencia artificial en
el bienestar social: ¿Bueno, malo o todo lo contrario? (3 febrero 2024).
Y no todos los trabajadores están en condiciones
de adquirir las destrezas necesarias para operar el nuevo entorno, y muchas empresas no lo facilitarán. Habrá
algunas socialmente responsables que sí se preocuparán de sus empleados
afectados…….En general, sus conclusiones, sin hacer muchos cálculos, es que el
neto será beneficioso para la sociedad y que se debe estimular el uso de la
inteligencia artificial…….pero la discusión sobre el neto de los beneficios de
la inteligencia artificial no es el asunto relevante. Lo clave para la
sociedad es como hacer para que los beneficiarios se beneficien sin perjudicar
a los perjudicados, o que haya algunos elementos de compensación en el
corto o mediano plazo. ….Lo que nos atrevemos a
pronosticar es que la inteligencia artificial aumentará la desigualdad social …
a pesar de las intervenciones de los gobiernos.
b.
Inteligencia Artificial en la
sostenibilidad empresarial. 1a. Parte: Responsabilidad de la empresa sobre el
impacto en la humanidad del empleado (29 marzo 2026).
La facilidad de substituir
y mejorar muchas tareas que requieren la participación de personas le da a la
IA la capacidad del desplazamiento de la fuerza laboral, con los consecuentes
impactos sobre su situación financiera y emocional. Adicionalmente la era de la
automatización tiende a valorar lo mecanicista sobre lo humano, desprovisto de
moral, de ética, de emociones, con la consecuente deshumanización del empleado
y sobre el ejercicio de la responsabilidad de la empresa que requiere de
juicios morales y éticos…… incluir, además de los aspectos tradicionales de
las condiciones laborales, preocupación y acciones sobre el impacto en su
condición humana……..debe considerar que, ante esta disrupción, debe haber un
cambio en las prioridades relativas, pasando los aspectos sociales, y en
particular los del empleo, a tener mayor relevancia…...
c.
Inteligencia Artificial en la
sostenibilidad empresarial. 2ª. Parte: Impacto en el empleo (4 abril 2026).
Es de esperar, o por lo menos sería altamente deseable, que las empresas
hicieran los esfuerzos necesarios para mitigar los impactos sobre la
dignidad humana, sobre la calidad del empleo, sobre la protección del empleo y
del empleado, sobre la condiciones laborales y sobre el apoyo a aquellos que lamentablemente tengan que ser
desplazados, …..Es responsabilidad de las empresas que adopten o se
vean afectadas por la tecnología de no concentrarse solamente en sus impactos
físicos y financieros, sino además considerar aquellos que afectan el
humanismo de sus empleados y actuar en consecuencia.
d.
¿Puede la IA hacer juicios morales y
éticos? (14 abril
2026).
Este es un breve
artículo que reproduce la respuesta a la pregunta del título formulada a un
chatbot de la IA, lo que confirma una de las principales falencias de la IA
para la toma de decisiones dentro de la empresa y por ende de su
responsabilidad:
La IA puede simular, imitar y predecir juicios morales basándose en datos
de su entrenamiento, pero no puede tomar decisiones morales de manera
auténtica. Si bien la IA puede analizar dilemas y adherirse a reglas éticas
programadas, carece de conciencia, empatía y una comprensión genuina de
lo correcto y lo incorrecto, lo que significa que no
puede poseer verdadera agencia ni responsabilidad moral. [x]
e.
Inteligencia Artificial en la
sostenibilidad empresarial: 3a. parte: Impacto en la cultura empresarial para la
sostenibilidad
(25 abril 2026).
El uso de la IA promoverá una tendencia desde la humanización hacia la
automatización, hacia la mecanización, lo que cambiará la cultura
organizacional…… para mantener esa cultura conducente, se deben mitigar los
impactos de la mecanización en la humanidad de la empresa…. Para ello, la IA
puede y debe usarse para la facilitación de las actividades de la empresa que
son llevadas a cabo por personas: (1) la iniciativa, (2) el seguimiento, (3) y,
lo más importante, la asunción de responsabilidades. En la medida que se le
“deleguen” alguna de estas tres etapas a la “máquina”, mayor será el riesgo
para que la cultura empresarial se deshumanice y con ello la responsabilidad de
la empresa ante la sociedad y el medio ambiente….. La empresa no puede ser
responsable si sus integrantes no asumen responsabilidad plena por todas sus
actuaciones. Se debe “des-artificializar” la tecnología para que sirva como
de instrumento de apoyo, no de sustitución.
V.
En resumen.
El empleo digno
y de calidad es un factor fundamental en la dignidad de las personas y les permite realizarse, a valorarse,
contribuyendo al bienestar propio, de la familia y de la sociedad. La IA tiene
un elevado potencial de no solo disminuir el empleo sino de degradarlo, de
deshumanizarlo, afectando en mayor grado a las poblaciones vulnerables con menor
capacidad de adaptación al cambio ya que los beneficiados y afectados son colectivos
muy diferentes, por lo que las prioridades de las empresas en su responsabilidad
ante la sociedad se deben mover hacia preservar la dignidad y calidad el empleo.
No es que no se puede reducir el volumen del empleo, pero ello debe considerarse
como último recurso y en todo caso proporcionar apoyos a los que lo pierdan
Y no se debe aceptar
a la ligera el argumento de que el impacto neto de la IA es positivo, a lo mejor en el largo plazo conlleva a
una creación neta de empleo, pero ello enmascara que en el corto plazo son
muchos los seres humanos que se verán afectados, tanto en calidad como en
cantidad. La transición tiene elevados costos sociales. Y es de muy poco consuelo
para los perdedores, el saber que el neto para la economía es positivo. Es responsabilidad
de las empresas (¡y de los gobiernos!) el mitigar en la medida de lo posible
los impactos sobre la dignidad y calidad del empleo en la transición.
[i] Anthropic había convocado en abril una
reunión
de lideres religiosos para solicitar sus consejos en el desarrollo de sus
modelos. He escrito varios artículos sobre la preocupación de Anthropic sobre
el impacto de sus modelos en la humanidad. Ver Principios
por encima del negocio: HURRA POR ANTHROPIC y ¿Cuál debe ser la gobernanza de la
responsabilidad social de la inteligencia artificial?
[ii] Sobre esto hemos ya publicado varios
artículos, ver Mis nueve artículos sobre la Inteligencia Artificial y la
responsabilidad empresarial.
[iii] Ver Mis cinco artículos sobre las
implicaciones de las encíclicas en la responsabilidad empresarial.
[iv] Habíamos analizado sus
implicaciones para la responsabilidad empresarial en La responsabilidad de la empresa en la encíclica
Caritas in Veritate
[v] Habíamos analizado sus
implicaciones para la responsabilidad empresarial en Encíclica Laudato si: Implicaciones para la
responsabilidad de las empresas ante la sociedad.
[vi] Habíamos analizado sus
implicaciones para la responsabilidad empresarial en Economía, el mercado y la empresa en la
encíclica Fratelli tutti.
[vii] La encíclica Rerum Novarum
antecede el primer libro moderno (1953) dedicado a la responsabilidad
empresarial y uno de los primeros artículos de una escuela de negocios (1927), ¿Qué
hay de nuevo bajo el sol en responsabilidad empresarial? y Regreso
al futuro: ¿Hay progreso en RSE? respectivamente.
[viii] Y aquí no estamos proponiendo medidas
radicales como la propiedad colectiva o la participación de los trabajadores en
la gestión de la empresa, pero ello no debe descartarse, en función del
contexto interno y externo en que opera la empresa.
[ix] Ver Mis nueve artículos sobre la
Inteligencia Artificial y la responsabilidad empresarial.
[x] Nótese el parecido entre lo que la IA
dice de sí misma y la cita al comienzo sobre su caracterización en la
encíclica.
