Tiempo de lectura: 10 minutos. En su producción no se ha utilizado la Inteligencia Artificial, a pesar de ser sobre la Inteligencia Artificial.
El propósito de la empresa es equilibrar los intereses de los accionistas con el objetivo de «desarrollar y mantener, de manera responsable, una IA avanzada para el beneficio a largo plazo de la humanidad. Estatutos de Anthropic
Anthropic completó la oferta público/privada de acciones
más grande de la historia, valorando la empresa en más de US$1,5 billones. Obviamente eso ha despertado
gran interés por la empresa, no solo desde el punto de vista de su impacto financiero
en la bolsa y sobre el desarrollo de la Inteligencia Artificial, IA, sino
además por su responsabilidad ante la sociedad.
Este último interés
en la sostenibilidad empresarial es relativamente inusual en ofertas iniciales públicas
de valores, pero en este
caso lo es, mayormente por los aspectos relacionados con la responsabilidad del
producto, por el potencial que tiene la IA de hacer el bien, pero también de
sus usos potencialmente destructivos. Y aun esto es inusual ya que la responsabilidad
del producto es uno de las aspectos de la sostenibilidad empresarial de preocupación
relativamente menor, muchas veces no considerado en las calificaciones de sostenibilidad.
Pero este es un caso especial.
En este artículo comentamos
una reciente calificación de Anthropic
como punto de partida para analizar las actuaciones de Anthropic en
la promoción de la responsabilidad y las salvaguardas necesarias en el
sector de la IA. [i]
No analizaremos los impactos positivos y negativos de la Inteligencia Artificial
en general, lo que ya hemos hecho en otros artículos previos. [ii]
I.
¿Anthropic
irresponsable?
Simultáneamente
con la emisión se publicó una calificación sobre su sostenibilidad por parte de
una de las más prestigiosas agencias de calificación, Mornigstar
Sustainalytics, que la calificó como de “alto riesgo ASG”, como la
segunda peor de su historia de calificaciones (32,1/100).
El análisis es muy extenso por lo que solo comentaremos los aspectos más relevantes para este artículo. A pesar de denominarla una calificación ASG, sus principales preocupaciones se refieren a la responsabilidad del producto y a la gobernanza y ética de la empresa. Tiene un sesgo netamente financiero. No evalúan los impactos ambientales y sociales sobre la sociedad. Sus principales observaciones son:
- Del producto: Potencial abuso con impacto destructivo de la tecnología, autonomía descontrolada de sus productos que invaden sistemas de información (la empresa tiene varias certificaciones independientes relacionadas con políticas y procesos para asegurar la responsabilidad de sus productos y controlar y mitigar estos riesgos). Potenciales problemas legales por la utilización de información de propiedad intelectual de terceros. Complejidad e incertidumbre de las regulaciones futuras.
- Gobernanza y Ética: Estructura accionarial con cinco tipos de acciones y poder de voto mayoritario en los siete fundadores (diseñado para poder implementar su propósito de balance de beneficios para los accionistas y para la sociedad). Potencial conflicto de intereses con suplidores, clientes e inversionistas, que son comunes. No ha producido in informe de sostenibilidad ni tiene un Comité en el Consejo que se ocupe de ello (aunque ha producido extensa información sobre los riesgos de sus actividades). Falta de políticas y programas para atacar sobornos y corrupción (no parecer ser un riesgo relevante para esta empresa).
- Ambiental: La calificación no menciona los términos “agua” y “energía”, cuyo consumo en los centros de datos es una de las grandes preocupaciones de la sociedad que eventualmente deberá ser afrontado (fue un aspecto muy relevante en las recientes elecciones en EE. UU.).
- Social: En este apartado destacan los riesgos para la empresa de encontrar el personal adecuado ante la intensa competencia en el mercado por los especialistas, lo que puede limitar su crecimiento e innovación. Pero no mencionan los impactos sociales sobre la sociedad como, por ejemplo, el elevado potencial impacto negativo sobre la calidad y cantidad del empleo en toda la sociedad y las dificultades de adaptación de los afectados. (aunque esto excede a su capacidad de gestionar o mitigar). [iii]
Lo que no
reconoce esta calificación es que es precisamente Anthropic, de todas las empresas productoras de herramientas de IA,
es quien ha enfatizado estos riesgos desde su fundación, como lo muestra
el prospecto de emisión que comentamos más adelante.
II. ¡Anthropic responsable!
a.
Empresa con fines de beneficios duales, privados y públicos.
Anthropic se ha constituido por estatutos como Public Benefit Corporation, PBC, (Sociedad de Beneficio e Interés Común o Colectivo [iv] o del Cuarto Sector, ¡que no es lo mismo que una empresa certificada B-Corp! [v] ), con lo cual adquiere la obligación legal de perseguir no solo beneficios financieros para sus accionistas, sino además beneficios para la sociedad en general, con una serie de responsabilidades establecidas en la legislación del estado de Delaware (aunque la sede física sea en California).[vi] Además de esta legislación, con sus controles internos y de reporte público del balance de beneficios, los estatutos de Anthropic establecen:
- Misión legal (Propósito): Sus estatutos exigen a los directores equilibrar los intereses de los accionistas con el objetivo de «desarrollar y mantener, de manera responsable, una IA avanzada para el beneficio a largo plazo de la humanidad.
- La seguridad por encima del beneficio puro: Esta estructura legal otorga a la dirección margen para retrasar, restringir o regular el ritmo de lanzamiento de modelos por motivos de seguridad, incluso si esto ralentiza el crecimiento de los ingresos o de los beneficios.
- Fideicomiso para el Beneficio a Largo Plazo (LTBT, por sus siglas en inglés): Establecido en 2023 y gestionado por fideicomisarios independientes, este fideicomiso posee acciones con derechos de voto especiales (Clase T).
- Control de voto de los fundadores: Los cofundadores poseen derechos de voto especiales (Clase F) que ayudan a proteger la misión frente a presiones comerciales o de los accionistas.
- Fondo de Beneficio Público: Anthropic destina parte de su capital a un Fondo de Beneficio Público, para apoyar iniciativas alineadas con su misión, tales como la investigación en seguridad, la interpretabilidad de los modelos y la concesión de descuentos a organizaciones sin ánimo de lucro e instituciones científicas.
Hay solo 18 empresas
PBC que cotizan en la bolsa de valores de Nueva York y Anthropic es la mayor del mundo con mucho, tiene una capitalización
24 veces superior a la que le sigue. [vii]
Pero siempre hay escépticos
sobre esta figura legal, sobre todo porque las legislaciones estaduales PBC pueden
ser un poco ambiguas al no precisar, por ejemplo, como debe logarse ese “balance
de beneficios”. La legislación no
puede especificar explícitamente como deben gestionarse las empresas ya que cada
caso es diferente y puede variar con el tiempo, dependiendo de las circunstancias
financieras y de su impacto sobre la sociedad. Dentro de las reglas deben tener
la capacidad de adaptarse. Son
lineamentos más que restricciones. Debe quedar a la
discreción del Consejo y de los dirigentes, que son seleccionados en función de
su dedicación a estos principios y criterios de gestión. A pesar de ser lineamientos, en caso de desviaciones
notables, los accionistas pueden demandar a la empresa.
Y también hay controversia
con el hecho de que los siete fundadores se reservan el poder de veto al poseer
el 50,1% de las acciones. Los fundadores lo hacen precisamente para asegurarse que
pueden controlar que la empresa cumpla con sus objetivos de beneficios duales,
aunque también es posible utilizar este control para abusar de los accionistas
minoritarios, como es el caso de otras empresas tecnológicas. De hecho, la discrepancia
sobre este propósito fue una de las razones por la que sus fundadores se
separaron de la originaria OpenAI. [viii] Esta estructura
accionaria es generalmente criticada por los que velan por los intereses de los
accionistas minoritarios, como lo son las comisiones nacionales de valores
(aunque sea legal).
Y por supuesto,
no se puede descartar que la empresa decida no seguir siendo una PBC, lo
que está contemplado en la legislación y que ha ocurrido en algunos casos. [ix] Dada
la magnitud y visibilidad de la empresa, su cotización en bolsa, donde el
precio de la acción es lo que manda, pondrá extrema
presión sobre el balance de beneficios y el bienestar y seguridad de la
sociedad. Será una prueba de fuego para el modelo de empresas PBC.
[x]
Pero los que
compran las acciones de Anthropic en
el mercado saben, o ¡deberían saber! cuáles son los objetivos de la empresas,
su estructura accionaria y sus dirigentes.
Al final, lo más
crítico es la credibilidad y compromiso de
los consejeros y dirigentes, y por lo menos por ahora, este parece ser el caso
de Anthropic. Los siete fundadores se han comprometido a
donar el 80% de su participación, lo que no es simbólico (al momento de la emisión
su participación es de cerca de los US$20 000 millones cada uno).
b.
Y ya han demostrado que están dispuestos a defender ese balance entre
beneficios financieros y sociales.
Un ejemplo muy
ilustrativo del compromiso de sus dirigentes es el de la disputa con el Ministerio
de Guerra de EE. UU. durante el 2026. Anthropic venía prestando
servicios al Ministerio, pero este pretendía utilizar su tecnología, además,
para la vigilancia masiva de estadounidenses y en el desarrollo y operación
con armas totalmente autónomas. Anthropic se opuso a la utilización
de sus tecnología con esos fines. El Ministerio de Guerra alegó que puede usar
la tecnología en todas actividades que sean legales, que estas lo eran, y que
“un contratista no puede dictar como la usa”.
Pero esta
supuesta “legalidad” no fue el quid de la cuestión, para Anthropic era cuestión
de principios. No todo lo
que es legal es ético o va en “beneficio a largo plazo de la humanidad”. Ante
la firme posición de Anthropic, el Ministerio optó por terminar el
contrato de US$ 200 millones, y lo que es más grave, declarar a la empresa
como un “riesgo en la cadena de valor” de los que le suministran bienes y
servicios al Ministerio, por lo estos proveedores no podrán usar su tecnología
en estos suministros.
Con la pérdida
del contrato y con la designación de “riesgo en la cadena de valor”, el impacto
financiero sobre Anthropic será substancial, pero a pesar de ello la
empresa ha sido fiel a sus principios, gracias a la ética de sus dirigentes
y su visión de la designación de empresa de beneficio e interés común.[xi]
c.
Y es Anthropic quien ha
enfatizado los riesgos de sus productos.
Un artículo del New York Times, del 17 de noviembre del 2026, Big Money, Existential Risks, analizó el prospecto de más de 300 páginas de la emisión de los valores, que dedica 93 páginas (¡!) al análisis de los riesgos de sus productos, lo que permite poner en contexto la calificación mencionada al principio. Destacamos algunas citas ilustrativas de las advertencias que se hacen en el prospecto:
- La IA puede ser utilizada indebidamente por quienes desean causar daño; por ejemplo, para llevar a cabo ciberataques o diseñar armas biológicas.
- Los gobiernos autoritarios podrían emplear la IA para crear estados de vigilancia de alta tecnología, intensificar la represión y volverse mucho más difíciles de revertir.
- Nuestros modelos de IA podrían comportarse de maneras imprevistas, desalineadas o autónomas, lo que incluiría la ejecución de acciones perjudiciales que ningún usuario o tercero haya ordenado.
- Se han planteado preocupaciones, tanto dentro de nuestra organización como por parte de otros investigadores, organismos reguladores, responsables políticos y actores del sector, de que los sistemas de IA lo suficientemente avanzados —si no se desarrollan, despliegan y operan con las salvaguardas, la supervisión y las medidas de seguridad adecuadas— podrían suponer riesgos catastróficos o existenciales para la humanidad; especialmente si dichos sistemas fueran utilizados indebidamente, replicados, convertidos en armas o si se les permitiera operar con un alto grado de autonomía.
Por lo que se
puede ver, la calificación de Morningstar Sustainalytics no encontró
nada nuevo. Difícil encontrar mayores
transparencias sobre las responsabilidad de un producto en la información
pública.
III.
En resumen.
Los productos de Anthropic
son evidentemente muy poderosos, tanto para hacer el bien a la humanidad como
con el potencial de hacer mucho daño, por lo que empresa se ha constituido como
empresa para el bien público, con la protección legal para sus consejeros y
dirigentes para que puedan perseguir su propósito del “bien a largo plazo de la
humanidad”, sin la obligación de maximizar los beneficios financieros a
toda costa y protegidos de las presiones de los accionistas en este sentido.
Y la presión a
los dirigentes de una empresa con una capitalización de más de US$1,5 billones,
con un gran número de accionistas, muchos de ellos muy poderosos, será inmensa.
Esta protección
legal de la figura de PBC es condición muy necesaria, pero esta figura no es
inamovible, se puede abandonar. Es el
compromiso y convicción de los fundadores, y
las demás salvaguardas incluidas en la gobernanza de la empresa lo que da
mayores confianzas de que no se apartarán de su propósito.
Durante a la
apertura de la cotización en la bolsa de valores de Nueva York, el CEO, Dario
Amodei, dijo: No cederemos ante presiones
comerciales o políticas.
Los riesgos de
la tecnología son múltiples y de gran impacto y muchos de ellos fuera del control de los consejeros
y dirigentes, por lo que será crítica la actuación de los gobiernos en las regulaciones
y del resto del sector de la IA para implementar las salvaguardas necesarias
para mitigarlos y eliminarlos.
Por ahora Anthropic parece ser una empresa que asume su
responsabilidad ante la sociedad.
[i] En términos generales habíamos analizado
estas deficiencias de las calificaciones en Doce razones por las que los criterios ASG no reflejan la sostenibilidad
empresarial
[iii] Esto lo hemos analizado en La Inteligencia Artificial tiene un impacto positivo sobre el empleo:
¿Positivo para quién? Ee Impacto de la inteligencia artificial en
el bienestar social: ¿Bueno, malo o todo lo contrario?
[iv] En España se ha creado la figura SBIC
en la Disposición décima de la Ley 18/2022, de 28 de septiembre, de
creación y crecimiento de empresas. En América Latina existen ya algunos países que han
creado legalmente tal figura corporativa. Ver el estudio del 2024 de la
Secretaría General Iberoamericana, Las empresas con propósito y la regulación
del cuarto sector en Iberoamérica.
[v] Ver un análisis de sus
características en Cuarto Sector: hacia una mayor
responsabilidad social de la empresa.
[vi] Para mayores detalles sobre estas
empresas, ver ¿Se puede ser responsable por estatutos?: Empresas
con fines de beneficios y Empresas B,
[vii] En América Latina, Natura, la
empresa de cosméticos de Brasil, es una B-Corp, pero para cotizar en la bolsa
de valores de Nueva York adaptó sus estatutos a una PBC, aunque legalmente no
esté incorporada en EE. UU como tal. Lo
es de facto, pero no de juris.
[viii] Ver una discusión de los problemas
de la gobernanza de una empresa de IA en ¿Cuál debe ser la gobernanza de la responsabilidad social de la
inteligencia artificial?
[ix] Ver el caso de Allbirds, que,
aunque se constituyó como tal, no aguantó los embates de los inversionistas, Oferta
pública inicial de acciones sostenibles: ¿es posible? y ¿Puede la sostenibilidad empresarial matar
a una empresa?
