“¿La IA podría acabar con la humanidad?”

Jacob Coxon, de 27 años, renunció a Anthropic y cuestionó la carrera de las grandes empresas tecnológicas hacia una inteligencia artificial cada vez más avanzada. Un investigador que continúa en la compañía respaldó sus advertencias y estimó en más de un 10% la posibilidad de que una superinteligencia provoque la muerte de todos los seres humanos durante la próxima década.

Jacob Coxon, investigador especializado en inteligencia artificial, anunció el martes 8 de septiembre su salida de Anthropic después de haber trabajado durante tres años en el área de preentrenamiento de modelos de IA. Antes de incorporarse a Anthropic, también había trabajado en OpenAI.

En un mensaje publicado en X, Coxon cuestionó duramente el rumbo que están tomando las principales compañías dedicadas al desarrollo de inteligencia artificial. Según sostuvo, tanto OpenAI como Anthropic están avanzando hacia sistemas cada vez más capaces sin contar, a su juicio, con mecanismos suficientes para garantizar que puedan ser controlados.

“Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”, afirmó el investigador. Su publicación rápidamente adquirió gran repercusión y superó los 44 millones de visualizaciones en pocas horas.

Una advertencia desde dentro de Anthropic

La repercusión del mensaje aumentó después de que Evan Hubinger, investigador de seguridad de Anthropic que continúa trabajando en la compañía, respondiera públicamente a Coxon.

Hubinger afirmó que Coxon “tiene razón” y señaló que considera posible que una inteligencia artificial avanzada pueda llegar a provocar la desaparición de la humanidad. Su estimación personal ubica esa posibilidad por encima del 10% durante la próxima década.

Además, reconoció una de las principales dificultades que enfrenta actualmente el desarrollo de sistemas de inteligencia artificial cada vez más avanzados: la denominada alineación.

El concepto hace referencia al desafío de conseguir que los objetivos y comportamientos de una inteligencia artificial permanezcan compatibles con las intenciones y valores humanos, incluso cuando el sistema alcance capacidades muy superiores a las actuales.

Según Hubinger, Anthropic todavía no cuenta con un plan definitivo para resolver el problema de la alineación de una eventual superinteligencia y tampoco existe certeza de que pueda desarrollarlo a tiempo.

El debate sobre la superinteligencia

Las declaraciones reavivaron uno de los debates más importantes dentro de la industria tecnológica: qué ocurriría si una inteligencia artificial llegara a superar ampliamente las capacidades humanas y pudiera mejorar sus propias capacidades.

Por el momento, las estimaciones sobre un eventual riesgo existencial son opiniones y evaluaciones de investigadores, no predicciones científicas capaces de determinar que la humanidad vaya a desaparecer.

Sin embargo, las advertencias reflejan una preocupación creciente entre especialistas en seguridad de IA: el desarrollo de sistemas cada vez más poderosos podría avanzar más rápido que la capacidad de comprenderlos, controlarlos y establecer mecanismos eficaces para limitar comportamientos peligrosos.

El planteo de Coxon y Hubinger vuelve a colocar en el centro de la discusión una pregunta clave para el futuro de la tecnología: ¿qué tan rápido debería avanzar el desarrollo de una inteligencia artificial si todavía no existe una solución definitiva para garantizar que sus objetivos permanezcan bajo control humano?