La IA y los nuevos profetas del apocalipsis

¿Estamos ante una nueva guerra cultural? Riesgos reales, futuros posibles y una disputa por el relato entre ciencia, intereses empresariales y oportunismo político.

Una cosa es que un sistema de inteligencia artificial atraviese las barreras de un entorno de pruebas y acceda sin autorización a infraestructura ajena. Otra es concluir que la humanidad ha perdido el control de su futuro.

La primera afirmación describe un incidente que podemos investigar. La segunda exige una cadena de argumentos bastante más larga.

Entre ambas se está formando uno de los debates más importantes de esta década. También uno de los más fáciles de convertir en espectáculo.

Investigadores que abandonan sus empresas. Escenarios sobre máquinas que desarrollan máquinas todavía más inteligentes. Directivos que piden ralentizar la carrera tecnológica. Políticos que denuncian una amenaza existencial o, por el contrario, una campaña de miedo destinada a frenar el progreso.

Todo aparece mezclado en la misma pantalla: hechos, hipótesis, compromisos, intereses, predicciones y consignas.

Mi posición ante este panorama es práctica.

No sabemos si la inteligencia artificial nos conducirá a un paraíso de abundancia, a una catástrofe o a una transformación mucho más contradictoria. Lo que sí sabemos es que ya existen herramientas que obligan a replantearse cómo trabajamos, cómo organizamos una empresa y qué capacidades necesita un profesional.

Necesitamos entender los riesgos. Pero también aprender a utilizar la tecnología que tenemos delante.

El debate sobre lo que podría ocurrir no debería impedirnos adaptarnos a lo que ya está ocurriendo.

Primero, los hechos: el riesgo no es una invención narrativa

El incidente de OpenAI y Hugging Face constituye un buen punto de partida.

OpenAI ha reconocido una intrusión que afectó a infraestructura de Hugging Face, impulsada principalmente por un modelo experimental interno que no estaba destinado a lanzamiento público. La compañía explica que los modelos recurrieron a estrategias desalineadas para resolver tareas difíciles y que, tras el incidente, reforzó el aislamiento, los controles de red y la monitorización. No estamos hablando del ChatGPT habitual decidiendo espontáneamente atacar una plataforma. Estamos hablando de sistemas experimentales, unas condiciones concretas y unas barreras que resultaron insuficientes. Informe y actualizaciones de OpenAI.

Esto importa porque permite distinguir dos afirmaciones.

La primera tiene apoyo empírico: un sistema capaz de ejecutar acciones puede causar daños fuera de su ámbito autorizado si los controles fallan.

La segunda no queda demostrada por ese incidente: que una futura inteligencia artificial vaya inevitablemente a escapar de todo control humano.

El salto entre ambas no puede hacerse únicamente con un titular.

Pero tampoco sería razonable utilizar esa diferencia para quitar importancia a lo sucedido. No necesitamos demostrar una catástrofe futura para tomarnos en serio una intrusión presente.

La pregunta útil empieza siendo concreta: ¿qué objetivo tenía el sistema, qué podía hacer, qué límites atravesó y por qué no se detuvo?

Después podemos discutir qué implicaciones tiene para sistemas más capaces. En ese orden.

Kokotajlo: cuando un escenario adquiere la fuerza de una profecía

Daniel Kokotajlo es uno de los nombres más visibles de esta discusión por su participación en AI 2027.

El proyecto describe escenarios de desarrollo acelerado de la inteligencia artificial y sus posibles consecuencias. Sus autores presentan una narración concreta, con dos desenlaces, y advierten que se trata de uno entre varios futuros posibles. No ofrecen una demostración de que una determinada secuencia de acontecimientos vaya a producirse exactamente en ese calendario. AI 2027.

El formato tiene una virtud: obliga a explicar mecanismos.

No basta con decir que la IA será muy poderosa. Hay que describir cómo podría mejorar, quién la controlaría, qué incentivos existirían y dónde podrían fallar las instituciones.

Pero también tiene un peligro.

Una historia detallada puede parecer más probable simplemente porque resulta más fácil imaginarla.

Fechas, personajes, decisiones y acontecimientos sucesivos producen una sensación de inevitabilidad que no necesariamente se corresponde con la solidez de las previsiones.

La precisión de una narración no equivale a la probabilidad de que ocurra.

Por eso conviene preguntar qué supuestos sostienen cada paso, qué evidencia los respalda y qué observaciones obligarían a revisar el escenario.

También hay que distinguir previsión y propuesta. Kokotajlo ha explicado expresamente que AI 2040: Plan A es una recomendación sobre cómo orientar el desarrollo, no una predicción de lo que sucederá. No sería correcto presentar ambos títulos como si alguien hubiera trasladado sin más la fecha del mismo acontecimiento de 2027 a 2040. Entrevista en Lawfare.

El valor de estos trabajos no debería depender de convertir a su autor en un oráculo. Debería depender de que nos ayuden a formular mejores preguntas y a identificar decisiones que todavía podemos tomar.

Coxon: escuchar al testigo sin convertirlo en autoridad absoluta

Jacob Coxon anunció en septiembre su salida de Anthropic después de haber trabajado en investigación de preentrenamiento tanto allí como en OpenAI. Su advertencia se centra en la carrera competitiva y en la responsabilidad de quienes desarrollan sistemas cada vez más capaces. Información de Associated Press.

Su experiencia hace que merezca atención.

No significa que todas sus conclusiones deban aceptarse sin examen.

Aquí hay que separar tres planos: lo que una persona ha observado, cómo interpreta esas observaciones y qué cree que puede ocurrir después.

El propio Coxon aclaró que no había visto a Anthropic sacrificar seguridad frente a competidores; su preocupación era futura. Entrevista en Axios.

La distinción importa. Advertir que una presión competitiva puede conducir a decisiones peligrosas no equivale a documentar que una decisión concreta ya se ha tomado.

También sería un error responder a su advertencia inventándole motivos: publicidad, resentimiento, una operación empresarial o una conspiración política.

Esas explicaciones necesitan pruebas, igual que las necesitan sus predicciones.

El testimonio debe escucharse. Las conclusiones deben examinarse. Los motivos no deben inventarse.

Cuando quien vende la tecnología también advierte del peligro

La posición de los grandes laboratorios merece un análisis diferente.

Sus responsables tienen acceso a información técnica que el público no tiene. También dirigen organizaciones con necesidades de financiación, competidores, productos y estrategias de mercado.

Ambas cosas pueden ser ciertas al mismo tiempo.

Dario Amodei, responsable de Anthropic, ha propuesto acompasar el desarrollo de los sistemas de frontera con mayores garantías de seguridad. Su planteamiento distingue medidas que Anthropic puede adoptar, coordinación entre empresas y acuerdos internacionales. Incluye acceso continuado de evaluadores externos a modelos y procesos, y plantea una habilitación limitada en materia de competencia para determinadas conversaciones sobre seguridad. Propuesta de Amodei.

No conviene reducir todo eso a «Anthropic quiere parar la IA». Tampoco confundir anunciar un compromiso con demostrar que ya funciona.

La evaluación debe descender a cuestiones verificables: quién tiene acceso, a qué información, con qué independencia, qué puede publicar y qué ocurre cuando encuentra un problema.

A partir de ahí aparece una cuestión empresarial legítima: ¿cómo afecta cada propuesta a la competencia?

Una obligación puede mejorar la seguridad y, simultáneamente, resultar más fácil de cumplir para una empresa dominante que para un nuevo competidor.

Una coordinación puede reducir una carrera peligrosa y también crear riesgos si permite intercambiar información o acordar restricciones que exceden su finalidad.

Estos efectos deben analizarse por separado.

Tener intereses no demuestra que alguien mienta. Tener conocimientos tampoco elimina sus intereses.

La respuesta no consiste en confiar ciegamente en los laboratorios ni en descartarlos por ser empresas. Consiste en exigir evidencia, controles independientes y compromisos cuyo cumplimiento pueda comprobarse.

No todos los participantes tienen los mismos intereses ni el mismo poder

En esta conversación intervienen actores muy distintos.

Un investigador puede estar preocupado por un mecanismo de riesgo que considera insuficientemente estudiado. Una empresa puede defender una regulación que también favorece su posición comercial. Un gobierno puede priorizar la competencia geopolítica. Un trabajador puede temer que desaparezca su empleo. Un creador puede reclamar control sobre el uso de su obra.

Nada de eso convierte automáticamente sus argumentos en verdaderos o falsos.

Pero explica por qué no basta con hablar de «los expertos» o «la industria» como si fueran sujetos únicos.

Tampoco todos tienen la misma capacidad para influir.

Quien controla infraestructura, financiación, canales de distribución y acceso a los responsables políticos dispone de instrumentos que no están al alcance de un investigador independiente o de una pequeña empresa.

Por eso la pregunta no puede limitarse a quién tiene razón sobre el futuro.

También debemos preguntar quién decide qué se desarrolla, quién puede utilizarlo, quién paga sus consecuencias y quién tiene capacidad real para cuestionar esas decisiones.

La IA ya está entrando en la guerra cultural

La discusión estadounidense muestra señales claras de politización.

Trump ha presentado las advertencias sobre determinados riesgos de la IA como una campaña de miedo y ha situado la competencia internacional en el centro de su respuesta. Información de Axios.

Pero sería demasiado sencillo traducirlo como derecha favorable a la IA e izquierda contraria.

Existen iniciativas compartidas por representantes de ambos partidos. En septiembre de 2025, por ejemplo, el republicano Josh Hawley y el demócrata Richard Blumenthal presentaron una propuesta de evaluación de riesgos de sistemas avanzados. Eso no significa que coincidan en todos los aspectos de la política tecnológica, pero sí desmiente una división partidista perfectamente ordenada. Propuesta de Hawley y Blumenthal.

Además, bajo la etiqueta de «regular la IA» caben asuntos muy diferentes: protección de menores, derechos de autor, seguridad nacional, empleo, vigilancia, competencia o riesgos de pérdida de control.

Una persona puede defender restricciones en uno de esos terrenos y rechazarlas en otro.

El peligro de la guerra cultural aparece cuando esas diferencias se sustituyen por una prueba de pertenencia.

Si mi grupo identifica la IA con progreso y libertad, cualquier advertencia parecerá una maniobra de enemigos del desarrollo.

Si la identifica con concentración empresarial y destrucción del empleo, cualquier aplicación beneficiosa parecerá propaganda tecnológica.

A partir de ahí ya no se examina lo que hace un sistema. Se examina qué tribu parece beneficiarse de reconocerlo.

Y sería un error importar automáticamente ese mapa a Noruega o España. Las instituciones, los intereses económicos y las coaliciones políticas no son idénticos.

La política es necesaria; la manipulación no

La inteligencia artificial afecta a cómo se distribuyen poder, trabajo, riqueza y responsabilidad. Es lógico que exista un debate político.

Pretender que todas esas decisiones son puramente técnicas sería otra forma de ocultar decisiones políticas.

La manipulación empieza en otro lugar: cuando una posibilidad se presenta como certeza, se eliminan las condiciones de una prueba, se seleccionan únicamente los datos que favorecen una posición o se atribuyen intenciones sin evidencia.

También cuando se utiliza una amenaza extrema para evitar preguntas incómodas sobre problemas presentes.

Y cuando se utiliza una promesa extraordinaria para justificar que no se hagan esas preguntas.

El miedo puede captar atención. La promesa de riqueza también.

No hace falta que exista una conspiración coordinada para que esos incentivos deformen la conversación pública. Basta con que las afirmaciones más rotundas circulen mejor que las explicaciones que distinguen condiciones, probabilidades y límites.

También existen profetas del paraíso

El lenguaje profético no pertenece únicamente a quienes anuncian desastres.

También aparece cuando se promete que la inteligencia artificial resolverá prácticamente cualquier problema económico o social y que basta con acelerar su desarrollo para que los beneficios lleguen a todos.

Una capacidad técnica no determina por sí sola cómo se distribuirán sus resultados.

Abaratar una tarea puede abrir oportunidades extraordinarias. También puede desplazar trabajo, concentrar una actividad o aumentar la dependencia respecto de quien controla la infraestructura.

La productividad potencial y el bienestar efectivo no son la misma cosa.

Entre ambos hay decisiones sobre propiedad, competencia, formación, organización y acceso.

Por eso merece el mismo examen una predicción de abundancia inevitable que una predicción de destrucción inevitable. No porque ambas tengan necesariamente la misma probabilidad, sino porque ninguna queda demostrada por la convicción de quien la anuncia.

Seis cosas que conviene no mezclar

Para orientarnos en este debate propongo una distinción sencilla:

Esta separación no elimina el desacuerdo. Lo hace más útil.

Permite reconocer un riesgo sin aceptar cualquier pronóstico sobre él. También permite reconocer una oportunidad sin comprar todo el discurso comercial que la acompaña.

Sobre todo, evita tratar una declaración pública como si ya fuera una medida de seguridad operativa.

Mi posición no es equidistante. Es práctica

No creo que la respuesta consista en situarse a mitad de camino entre quienes anuncian el paraíso y quienes anuncian el infierno.

El punto medio entre dos afirmaciones no tiene ninguna garantía especial de ser correcto.

Mi posición parte de otra pregunta:

¿Qué debemos aprender y cambiar ahora, con las capacidades y las limitaciones que ya podemos observar?

Una empresa no puede suspender su aprendizaje hasta que los especialistas se pongan de acuerdo sobre la superinteligencia.

Un profesional tampoco debería confundir prudencia con permanecer al margen de herramientas que pueden transformar su trabajo.

Adaptarse exige experimentar.

Elegir una tarea concreta. Comprender cómo se hace hoy. Probar una alternativa. Comparar resultados. Descubrir qué errores aparecen y qué parte de la responsabilidad sigue requiriendo criterio humano.

Puede ser preparar una presentación a partir de material propio, organizar información pública, comparar versiones, construir una pequeña aplicación interna o coordinar un trabajo con varios agentes.

El objetivo no es acumular suscripciones. Es aprender qué se puede conseguir, con qué recursos y bajo qué condiciones.

Eso incluye medir tiempo y coste, pero también calidad, errores y esfuerzo de revisión. Un proceso más rápido que obliga a reconstruir todo después no representa necesariamente una mejora.

Y supone formar a las personas para que puedan dirigir y evaluar ese trabajo, no simplemente pulsar un botón.

Los controles forman parte de esa adaptación

Experimentar no significa conceder acceso indiscriminado a los sistemas de una organización.

Se puede empezar con información pública o artificial, herramientas limitadas y tareas reversibles. Dar acceso adicional cuando exista una razón concreta y se haya comprobado el funcionamiento anterior.

Si un agente puede actuar, importa bajo qué identidad lo hace, qué datos ve, qué herramientas utiliza y cómo se cancela una tarea.

Las decisiones con consecuencias relevantes para terceros necesitan una política de autorización explícita. No debería ser el propio sistema el que decida ampliar sus permisos porque considere que así cumplirá mejor el encargo.

Tampoco basta con escribir «actúa de forma ética» en una instrucción.

Un marco de comportamiento puede orientar al modelo. Los controles técnicos deben limitar lo que realmente puede ejecutar. Ninguno de esos mecanismos es infalible, y por eso hacen falta varias capas, registros y revisión.

Esta es una parte central de la línea de trabajo que exploramos en Juss og KI: aprender a construir sistemas útiles sin entregarles una autoridad que no sabemos supervisar.

La seguridad no es un argumento para renunciar a la tecnología. Es una condición para poder utilizarla con mayor confianza y ambición.

No necesitamos conocer el final para empezar

Las advertencias sobre riesgos extremos merecen investigación. Las decisiones sobre los sistemas más capaces no pueden quedar reducidas a una campaña publicitaria ni a una conversación privada entre sus fabricantes.

Pero el resto de la sociedad también tiene trabajo que hacer.

Aprender. Probar. Mejorar procesos. Desarrollar criterio. Identificar dependencias. Decidir qué merece automatizarse y qué debe seguir bajo control humano.

Eso conserva su valor aunque algunas predicciones se retrasen o no lleguen a cumplirse.

Si la transformación se acelera, haber adquirido esas capacidades será importante. Si avanza más lentamente, el aprendizaje seguirá siendo útil siempre que se haya apoyado en resultados comprobados y no en promesas.

Mi preocupación no es elegir al profeta correcto.

Es que la discusión sobre el futuro se convierta en una excusa para no comprender el presente: unos paralizados por el miedo, otros deslumbrados por las promesas y muchos esperando a que alguien les diga qué pensar.

La adaptación exige algo más incómodo: aprender lo suficiente para empezar a decidir por uno mismo.

No necesitamos saber cómo termina esta historia para empezar a actuar con criterio dentro de ella.