Anthropic: El enfoque ético en la carrera de la Inteligencia Artificial

José Carlos Botto Cayo

La inteligencia artificial (IA) ha experimentado un crecimiento exponencial en los últimos años, transformando industrias y generando debates sobre su futuro impacto en la sociedad. Entre los gigantes tecnológicos y las startups innovadoras, una empresa ha emergido con una visión única: Anthropic.

Fundada por ex miembros de OpenAI, Anthropic se ha posicionado como una alternativa que busca desarrollar IA de manera segura y responsable. Este artículo explora la historia, filosofía y enfoque de Anthropic, así como su potencial para influir en el futuro de la IA.

Los orígenes de Anthropic

En 2019, un evento crucial marcó un antes y un después en la historia de la IA: Microsoft invirtió mil millones de dólares en OpenAI. Esta inversión llevó a OpenAI a crear una división con fines de lucro dentro de su estructura sin fines de lucro, lo que generó controversia y descontento entre algunos de sus miembros.

Este conflicto de intereses desencadenó luchas internas de poder en OpenAI, que culminaron con el despido y posterior reincorporación de Sam Altman como CEO. Sin embargo, el desacuerdo con la nueva dirección de la empresa motivó a un grupo de científicos expertos en IA a abandonar OpenAI.

En 2021, este grupo de expertos, liderado por los hermanos Dario y Daniela Amodei, fundó Anthropic. La nueva empresa se estableció con la misión de crear una IA segura y responsable, buscando diferenciarse de la trayectoria que había tomado OpenAI tras su acuerdo con Microsoft.

La estructura y filosofía de Anthropic

A diferencia de OpenAI, Anthropic se constituyó como una compañía de beneficio público. Este modelo híbrido le permite recaudar fondos y generar ganancias para sus inversionistas, pero al mismo tiempo la obliga legalmente a crear un beneficio para la sociedad, priorizando este objetivo por encima de las ganancias.

Uno de los mayores desafíos en el desarrollo de IA es la dificultad para comprender los procesos internos de los modelos de lenguaje a medida que crecen. Estos modelos suelen ser considerados como “cajas negras”, donde se conocen los datos de entrada y salida, pero no lo que sucede en su interior.

Para abordar este reto, Anthropic propone diseñar modelos que permitan ser inspeccionados. Esta aproximación busca crear “ventanas” metafóricas que permitan a los investigadores observar el funcionamiento interno de los modelos, facilitando su comprensión y mejora.

Claude y la IA Constitucional

El 14 de marzo de 2023, Anthropic lanzó Claude, su propio chatbot de IA. Nombrado en honor a Claude Shannon, pionero de la teoría de la información, Claude se presentó como una alternativa mejorada a ChatGPT en varios aspectos.

Una de las innovaciones más notables de Anthropic es el concepto de “Inteligencia Artificial Constitucional”. Bajo este enfoque, Claude opera siguiendo una “Constitución” propia, diseñada para garantizar que sus respuestas sean seguras y confiables.

Esta Constitución se basa en diversos principios éticos, incluyendo la Declaración Universal de los Derechos Humanos de la ONU, los principios de privacidad de Apple, y los principios de Sparrow de DeepMind. Este marco ético busca asegurar que la IA de Anthropic actúe de manera responsable y beneficiosa para la sociedad.

El futuro de Anthropic y la IA

Anthropic ha logrado atraer inversiones significativas desde su fundación. Comenzó con una inversión inicial de más de 100 millones de dólares en 2021 y posteriormente ha recibido fondos de gigantes tecnológicos como Google y Amazon, así como de otras fuentes prominentes en el mundo tecnológico.

La relevancia de Anthropic en el campo de la IA se hizo evidente durante la crisis de liderazgo en OpenAI, cuando la junta directiva que había despedido a Sam Altman consideró la posibilidad de fusionar ambas empresas bajo el liderazgo de Dario Amodei.

A medida que Anthropic continúa creciendo y desarrollando su tecnología, surgen preguntas sobre su futuro papel en la industria de la IA. ¿Logrará Anthropic equilibrar el campo de juego frente a gigantes como OpenAI? ¿Mantendrá su independencia o eventualmente se aliará con una gran corporación? El tiempo dirá si Anthropic, u otras iniciativas como los proyectos de código abierto, serán quienes guíen el desarrollo responsable de la IA en los años venideros.