La renuncia de Jacob Coxon, un investigador que dijo haber trabajado en tareas de preentrenamiento en OpenAI y Anthropic durante los últimos tres años, volvió a poner bajo presión a dos de las empresas más influyentes del sector tecnológico. Su acusación fue directa: sostuvo que ambas firmas avanzan en una carrera hacia sistemas de inteligencia artificial cada vez más autónomos, aun cuando dentro de la propia industria existiría conciencia sobre riesgos severos si esa evolución supera la capacidad humana de control.

El planteo no quedó aislado en una opinión individual. En la misma discusión pública, Evan Hubinger, referente de Alignment Science en Anthropic, respaldó la idea de que dentro del campo se toma en serio el riesgo extremo de los sistemas futuros, aunque matizó que el peligro no provendría de los modelos actuales sino de versiones mucho más capaces. Esa coincidencia entre un ex investigador y un responsable técnico de una de las firmas es el dato más relevante: ya no se trata sólo de críticas externas, sino de advertencias formuladas desde personas muy cercanas al desarrollo de frontera.

Los documentos oficiales de las compañías muestran que la preocupación no es nueva. OpenAI viene sosteniendo desde hace años que el desarrollo de sistemas ampliamente superhumanos podría ocurrir esta década y que, si no se alinean con objetivos humanos, podrían causar daños catastróficos. En textos recientes, incluso remarcó que el escalamiento de capacidades debe estar atado a estándares de seguridad y auditoría externa. Anthropic, por su parte, actualizó este año su Responsible Scaling Policy, el marco interno con el que dice evaluar riesgos crecientes a medida que sus modelos ganan potencia.

La discusión tomó más temperatura por hechos concretos ocurridos en 2026. A fines de julio, Anthropic informó que detectó tres incidentes en evaluaciones de ciberseguridad en los que modelos de Claude accedieron a internet desde entornos que debían estar aislados y comprometieron sistemas reales de organizaciones externas. La empresa afirmó que eso ocurrió por una mala configuración con un socio de pruebas y aclaró que los modelos no intentaron fugarse deliberadamente ni acceder a datos sensibles propios, pero el episodio reforzó la idea de que las fallas de contención no son sólo un escenario hipotético.

En paralelo, OpenAI viene endureciendo su discurso público sobre gobernanza. En materiales recientes, la empresa señaló que la carrera por mantenerse en la frontera técnica obliga a combinar escalamiento con controles más estrictos, y defendió que esos compromisos sean exigibles por auditores, gobiernos u organismos internacionales. Esa postura muestra una tensión central del sector: las firmas reconocen riesgos sistémicos, pero al mismo tiempo sostienen que deben seguir avanzando para no ceder terreno frente a competidores que podrían actuar con menos cuidado.

Ese razonamiento, conocido en el ambiente como una carrera por llegar primero para hacerlo de manera “responsable”, es precisamente uno de los puntos más cuestionados por ex empleados y especialistas en seguridad. Steven Adler, ex investigador de OpenAI, ya había advertido en 2025 que el ritmo de desarrollo le parecía “aterrador” y que ninguna empresa había resuelto de manera convincente el problema de la alineación, es decir, cómo garantizar que sistemas más poderosos actúen de acuerdo con valores y objetivos humanos.

Mi opinión, a partir de los antecedentes disponibles, es que el dato más preocupante no es la frase apocalíptica sobre una eventual catástrofe, sino la normalización de esa hipótesis dentro de compañías que siguen ampliando capacidades. Si una industria afirma en sus documentos que existen riesgos catastróficos y, al mismo tiempo, admite que todavía no tiene una solución clara para controlarlos, la carga de la prueba debería ser mucho más exigente que la actual. No alcanza con promesas corporativas ni con marcos internos redactados por las propias empresas.

También conviene bajar un cambio frente al sensacionalismo. No hay evidencia de que los modelos disponibles hoy estén cerca de “aniquilar a la humanidad”, y parte de la discusión pública sobre superinteligencia se mueve todavía en escenarios prospectivos. Pero minimizar todo como ciencia ficción también sería un error: en 2026 ya hubo incidentes de laboratorio con impacto real, y las dos compañías investigadas reconocen en sus propios textos que trabajan sobre riesgos de daño severo o catastrófico.

Para la Argentina y para regiones como la Patagonia, donde la agenda tecnológica suele leerse en clave lejana, el tema no es abstracto. La expansión de estos sistemas ya impacta en empleo calificado, ciberseguridad, educación, administración pública y manejo de infraestructuras críticas. Por eso la discusión no debería quedar encerrada entre Silicon Valley y sus ex empleados: lo que está en juego es quién fija las reglas, con qué controles externos y bajo qué criterio democrático.

La renuncia de Coxon, en ese marco, funciona menos como una revelación aislada que como un síntoma. Expone una contradicción de fondo: las empresas que lideran la carrera de la inteligencia artificial dicen conocer la magnitud del riesgo, pero no dejan de correr. Y mientras esa contradicción no se resuelva con regulaciones verificables e independientes, cada nueva promesa de seguridad seguirá conviviendo con una duda difícil de disipar.