Hinton, Bengio y científicos de OpenAI y Anthropic avisan: la IA ya investiga IA
Más de 20 investigadores publican un estudio sobre qué pasaría si la IA automatiza su propio desarrollo. Los datos que citan y lo que piden a los gobiernos.
Más de 20 investigadores, entre ellos dos premios Turing y científicos de OpenAI, Anthropic y Microsoft, han firmado un estudio con una pregunta directa: ¿qué pasa si la IA empieza a hacer la mayor parte del trabajo de crear la siguiente IA? Te contamos qué dice, de dónde salen sus datos y qué proponen.
Quién firma el estudio
El documento se titula ¿Y si automatizar la investigación en IA desencadena una explosión de inteligencia? Lo publicó el 28 de septiembre GovAI, un centro de investigación sobre gobernanza de la IA.
Entre sus autores están Geoffrey Hinton y Yoshua Bengio, ambos premios Turing; Jakub Pachocki, científico jefe de OpenAI; Eric Horvitz, director científico de Microsoft; y Jack Clark, cofundador de Anthropic. Es poco habitual que científicos de las propias empresas que desarrollan la IA firmen juntos una advertencia así.
Qué plantea
La idea central es sencilla. Hoy, solo unos miles de investigadores trabajan en la IA más avanzada. Pero los sistemas de IA se pueden copiar y ejecutar en paralelo. Si llegan a hacer ese trabajo de investigación, sería como sumar el equivalente a millones de investigadores más.
Según los autores, eso podría crear un círculo: una IA mejor ayuda a crear otra IA mejor, cada vez más rápido. El resultado sería comprimir años de avances en meses o menos. A eso lo llaman explosión de inteligencia.
Los datos que citan
El estudio no se queda en la teoría. Recoge dos datos que han dado las propias empresas:
- Anthropic informó de que, en agosto de 2026, sus sistemas completaban el 26% de su trabajo interno de investigación en IA con solo supervisión de alto nivel. Cinco meses antes era el 1%.
- OpenAI informó en septiembre de 2026 de que sus sistemas completan de forma habitual tareas de investigación que a su personal le llevarían días.
Según The Next Web, el estudio también recoge que la parte del código aprobado en Anthropic escrita por IA pasó de cifras de un solo dígito a más del 80% entre enero de 2025 y mayo de 2026. Y añade una idea que da que pensar: que ya hoy hacen falta sistemas de IA para vigilar a los agentes de IA, porque no hay otra forma de observarlos.
Conviene leerlos bien. Son datos que cada empresa da sobre su propio trabajo, no mediciones independientes. Y el 26% habla del trabajo interno de Anthropic, no de toda la investigación en IA del mundo.
Lo bueno y lo arriesgado
Los autores no lo presentan solo como un peligro. Según el estudio, una explosión de inteligencia podría adelantar mucho los beneficios de la IA, con avances en ciencia e industria. Pero también traería riesgos extremos si ocurre más rápido de lo que la sociedad puede controlar.
Lo que piden a los gobiernos
El estudio propone prepararse ya, en tres frentes:
- Ver lo que pasa: auditores dentro de las empresas más avanzadas, informes obligatorios sobre cuánta investigación está automatizada y medidas del ritmo de avance.
- Poder frenar: requisitos de seguridad, límites a la velocidad de mejora de las capacidades, vigilancia de los experimentos, redes de investigación aisladas y acuerdos internacionales que se puedan verificar.
- Preparar a la sociedad: planes de respuesta ante ciberataques, cambios en el empleo e inestabilidad entre países.
Cómo lo hacemos en Vaserai
Una de las propuestas del estudio es tener auditores que vigilen lo que hace la IA. En Vaserai funcionamos así a nuestra escala: cada semana un panel de agentes auditores con un supervisor revisa lo que hacen nuestros agentes, guarda cada fallo con su motivo y propone cambios. La decisión final la toma siempre una persona.
Y no todo lo automatizamos con IA. Muchos procesos van con reglas fijas que un sistema cumple siempre, más fáciles de vigilar.
Preguntas frecuentes
¿Qué estudio han publicado Hinton y Bengio?
Se titula ¿Y si automatizar la investigación en IA desencadena una explosión de inteligencia? Lo publicó GovAI el 28 de septiembre de 2026 y lo firman más de 20 investigadores, entre ellos Geoffrey Hinton, Yoshua Bengio, Jakub Pachocki (OpenAI) y Jack Clark (Anthropic).
¿Qué es una explosión de inteligencia?
Según el estudio, es lo que podría pasar si la IA automatiza el trabajo de crear la siguiente IA: como los sistemas se pueden copiar y ejecutar en paralelo, años de avances podrían comprimirse en meses o menos.
¿De dónde sale el dato del 26%?
Lo reportó Anthropic: en agosto de 2026 sus sistemas completaban el 26% del trabajo interno de investigación en IA con solo supervisión de alto nivel, frente al 1% cinco meses antes. Es un dato de una empresa sobre su propio trabajo.
¿Qué piden los autores a los gobiernos?
Tres cosas: tener visibilidad, con auditores dentro de las empresas e informes sobre cuánta investigación está automatizada; poder frenar, con límites de velocidad y redes aisladas; y preparar a la sociedad ante ciberataques y cambios en el empleo.
Fuentes
Sigue leyendo
Pronto habrá más artículos.
Recibe el resumen del blog cada lunes
Las noticias de IA que publicamos esa semana, contrastadas con sus fuentes y explicadas para tu negocio. Un correo a la semana y te das de baja cuando quieras.