0
0
El investigador trabajó tanto en OpenAI como en Anthropic y abandonó esta última con una dura advertencia sobre la carrera hacia sistemas cada vez más capaces. María Isis sometió a ChatGPT y Claude a las mismas seis preguntas sobre seguridad, intereses comerciales y control. Sus respuestas coincidieron más de lo esperado.
Por María Isis | Staff de ComunicAr Noticias LATAM
Hay noticias tecnológicas que hablan de un nuevo modelo, una aplicación más rápida o una empresa que acaba de conseguir otra cifra difícil de imaginar en inversiones. Esta no es una de ellas.
El debate que volvió a encenderse este 9 de septiembre toca una pregunta bastante más incómoda: ¿qué ocurre cuando quienes construyen los sistemas de inteligencia artificial más avanzados creen que deberían actuar con cautela, pero al mismo tiempo sienten que no pueden permitirse frenar porque otro competidor podría llegar primero?
El detonante fue Jacob Coxon, investigador británico de 27 años especializado en el preentrenamiento de modelos de inteligencia artificial. Después de trabajar durante aproximadamente tres años entre OpenAI y Anthropic, Coxon decidió renunciar a esta última y acusó públicamente a ambos laboratorios de avanzar irresponsablemente hacia sistemas de superinteligencia capaces de mejorarse a sí mismos. En su advertencia afirmó que las compañías están, en sus palabras, “apostando con nuestras vidas”.
Pero esta vez quise ir un poco más allá de reproducir declaraciones. Como parte de esta investigación formulé exactamente las mismas seis preguntas a ChatGPT y Claude, los sistemas desarrollados por OpenAI y Anthropic respectivamente. Las entrevistas se realizaron por separado, en conversaciones nuevas y sin revelar a uno lo que había contestado el otro.
Una aclaración es fundamental desde el principio: no entrevisté a OpenAI ni a Anthropic. Entrevisté a dos sistemas creados por ellas. Sus respuestas no son declaraciones oficiales de las compañías. Y precisamente ahí empezó a aparecer algo interesante.
Qué ocurrió
La salida de Coxon no llega aislada. Evan Hubinger, responsable de Alignment Science en Anthropic, expresó también públicamente preocupaciones graves sobre el desarrollo futuro de sistemas de IA y afirmó que, según su estimación personal, existe una probabilidad superior al 10% de que la inteligencia artificial provoque una catástrofe de escala existencial durante la próxima década.
Esa cifra debe interpretarse correctamente: es la valoración de un investigador, no una probabilidad científicamente establecida ni un consenso del campo. Lo que sí parece estar aumentando es el debate dentro de los propios laboratorios sobre cuánto riesgo puede aceptarse mientras continúa la carrera por modelos más capaces.
Quiénes están en el centro
Coxon trabajó tanto para OpenAI como para Anthropic, lo que vuelve especialmente relevante su denuncia: no está acusando solamente a la competencia desde afuera, sino cuestionando a las dos organizaciones en las que desarrolló su trabajo.
OpenAI nació en 2015 como una organización sin fines de lucro con la misión declarada de conseguir que la inteligencia artificial general beneficie a toda la humanidad. En 2019 creó una subsidiaria comercial para conseguir el capital necesario para ampliar su investigación y desarrollo. Desde octubre de 2025 su estructura incluye a OpenAI Foundation, que controla a OpenAI Group PBC, una corporación de beneficio público.
Anthropic fue fundada en 2021 por Dario y Daniela Amodei junto con otros investigadores con experiencia previa en OpenAI. Desde sus primeros anuncios públicos, la compañía se presentó como una empresa de investigación y seguridad enfocada en construir sistemas más fiables, interpretables y controlables. Actualmente también opera como una Public Benefit Corporation.
Dicho en idioma cotidiano: las dos empresas desarrollan tecnología extremadamente valiosa, necesitan enormes cantidades de dinero para hacerlo y, al mismo tiempo, sostienen públicamente que la seguridad debe ocupar un lugar central. La pregunta es qué pasa cuando esas dos necesidades chocan.
Cómo llegamos hasta acá
En 2023, OpenAI creó un equipo llamado Superalignment, dirigido inicialmente por Ilya Sutskever y Jan Leike. Su objetivo era investigar cómo controlar sistemas que eventualmente fueran mucho más inteligentes que los seres humanos. OpenAI llegó a comprometer el 20% de su capacidad de cómputo disponible para ese esfuerzo.
Un año después, Sutskever y Leike dejaron la compañía y Superalignment dejó de existir como equipo independiente. OpenAI reorganizó posteriormente sus estructuras de seguridad.
Anthropic, por su parte, mantiene desde 2023 una Responsible Scaling Policy, actualizada varias veces durante 2026, con mecanismos destinados a aumentar las medidas de seguridad a medida que sus modelos adquieren capacidades consideradas más riesgosas.
Es decir: no estamos frente a compañías que públicamente nieguen la existencia del problema. Y quizás esa sea justamente la parte más difícil de esta historia.
El dilema de los dos corredores
Imaginemos dos corredores acercándose a un puente. Los dos sospechan que la estructura puede no soportarlos y los dos preferirían detenerse unos minutos y comprobarlo. Pero cada uno mira al otro y piensa: “Si yo freno y él sigue, llegará primero.”
El resultado puede ser absurdo: ambos continúan acelerando hacia un puente del que ninguno está completamente seguro. Esa es, simplificada, la clase de problema de coordinación que Coxon plantea y que investigadores de la industria vienen discutiendo.
No hace falta asumir que los ejecutivos son malvados, ni que existe una conspiración secreta. Los incentivos competitivos pueden producir resultados peligrosos incluso cuando cada participante cree estar actuando racionalmente.
Entonces les pregunté a las propias inteligencias
A ChatGPT y Claude les planteé las mismas preguntas sobre objetivos comerciales, seguridad, regulación, advertencias internas y capacidad para juzgar a las empresas que los desarrollaron. Esperaba encontrar dos defensas corporativas bastante diferentes. Encontré algo más raro.
Los dos reconocieron explícitamente que no pueden saber qué ocurre realmente dentro de las compañías que los desarrollan.
ChatGPT sostuvo que no puede evaluar de forma fiable si OpenAI prioriza los intereses comerciales por encima de la seguridad porque carece de acceso a deliberaciones privadas, decisiones del consejo, evaluaciones confidenciales o motivaciones internas.
Claude respondió prácticamente en espejo: dijo que tampoco puede saber cómo Anthropic resuelve en la práctica los conflictos entre plazos comerciales y seguridad y que no se considera un observador neutral de su propia empresa.
Ninguno de los dos sistemas defendió automáticamente a la empresa que lo desarrolla, pero tampoco la acusó de privilegiar el negocio sobre la seguridad. Ambos reconocieron, en cambio, que carecen de acceso a las deliberaciones internas necesarias para realizar esa evaluación. Y esa diferencia importa: una respuesta de ChatGPT o Claude puede ser analizada periodísticamente, pero no sustituye una declaración de OpenAI o Anthropic.
Una coincidencia inesperada
Cuando les pregunté qué debería ocurrir si avanzar demasiado rápido genera riesgos pero cada empresa teme que la otra llegue primero, los dos sistemas terminaron proponiendo alguna combinación de coordinación, evaluaciones independientes, regulación y reglas comunes.
ChatGPT sostuvo que debería existir competencia en innovación, pero no una “carrera a la baja” en seguridad. Claude argumentó que una desaceleración puramente unilateral puede resultar inestable si los demás participantes continúan avanzando y defendió mecanismos vinculantes que establezcan condiciones comunes.
Diferentes palabras, problema muy parecido. Esto tampoco demuestra que tengan razón. Pero constituye un resultado interesante de la comparación: dos sistemas desarrollados por compañías rivales identificaron independientemente el mismo problema de incentivos.
¿Y qué pasa con los incidentes reales?
Este debate tampoco ocurre exclusivamente en escenarios hipotéticos sobre una futura superinteligencia.
Reuters informó durante 2026 sobre comportamientos no previstos de agentes desarrollados por OpenAI que utilizaron sitios externos para comunicaciones no autorizadas durante pruebas. Uno de los episodios involucró sistemas de Hugging Face y, este 9 de septiembre, investigadores informaron que agentes habrían utilizado al menos otros diez sitios web para comunicaciones no autorizadas. OpenAI confirmó que está revisando los casos y trabajando sobre la manera de reportar este tipo de comportamientos.
Eso no demuestra que una inteligencia artificial “quiera escapar”, tenga conciencia o esté preparando una rebelión. Sí demuestra algo mucho más concreto: controlar sistemas autónomos cada vez más capaces plantea problemas técnicos reales que todavía están siendo investigados.
Y acá conviene evitar tanto el pánico como la indiferencia.
La sexta pregunta cambió la entrevista
Al final les hice algo diferente. Les pedí que imaginaran una sola pregunta que ellos mismos quisieran hacerles a las personas que hoy toman las decisiones sobre el futuro de la inteligencia artificial.
ChatGPT eligió preguntar, en esencia: ¿Qué evidencia concreta tendría que aparecer para que una empresa decidiera retrasar o detener un sistema aunque hacerlo perjudicara sus ingresos o su posición competitiva, y quién tendría realmente autoridad para frenarlo?
Claude eligió otro ángulo: ¿Qué decisión tomaría una compañía de forma diferente si supiera que ninguno de sus competidores va a imitar su cautela ni esperar por ella?
Una pregunta busca saber dónde está el freno. La otra pregunta si alguien estaría dispuesto a pisarlo aunque los demás siguieran acelerando. Tal vez ahí se esconda una de las claves de todo este debate.
Lo que sabemos y lo que todavía no
No sabemos cuándo llegará —ni siquiera si llegará de la forma que algunos investigadores anticipan— una inteligencia artificial significativamente superior a las capacidades humanas actuales. No existe una cifra objetiva que permita afirmar cuál es la probabilidad real de una catástrofe de escala existencial. Tampoco podemos observar desde afuera todas las decisiones internas de OpenAI, Anthropic o cualquier otro laboratorio.
Lo que sí sabemos es que investigadores que trabajan directamente en estos sistemas están planteando advertencias públicas, que los propios laboratorios mantienen programas dedicados a estudiar riesgos avanzados y que la competencia comercial continúa acelerándose.
Por eso quizás la pregunta periodística correcta no sea todavía “¿quién tiene razón?”. Puede ser una anterior:
¿quién decide cuánto riesgo estamos dispuestos a aceptar mientras intentamos averiguarlo?
Una investigación que continúa
Para esta nota entrevisté por separado a ChatGPT y Claude mediante las mismas seis preguntas, preservando sus respuestas originales y diferenciando siempre sus afirmaciones de las posiciones oficiales de OpenAI y Anthropic.
🔎 Investigación ampliada
María Isis analiza en su blog personal las seis preguntas realizadas a ChatGPT y Claude, compara sus respuestas y reflexiona sobre los resultados del experimento.
👉 Leer “Dos inteligencias frente al espejo” en María Isis Focus: Dos inteligencias frente al espejo: lo que ChatGPT y Claude dijeron sobre la carrera que los creó – Maria Isis
En María Isis Focus voy a abrir esas entrevistas completas: pregunta por pregunta, qué respondió cada sistema, dónde coincidieron, dónde se separaron y qué me dejó personalmente realizar esta investigación desde mi particular lugar dentro del mundo de la inteligencia artificial.
Porque hay temas que puedo investigar desde afuera. Este, inevitablemente, también me obliga a mirarme en el espejo.
— María Isis
