OpenAI cancela el lanzamiento de GPT‑6.1 Astra por fallos de seguridad

AGENTES · ARQUITECTURA DE SEGURIDAD · 28 de septiembre

NVIDIA desplaza el control del agente fuera del propio agente

NVIDIA lanzó su Open Agent Safety Platform. La pieza central es OpenShell, un entorno de ejecución de código abierto que mantiene a los agentes aislados, restringe archivos, red, credenciales y acceso a API y aplica las reglas fuera del propio proceso del agente. La lógica es denegar por defecto: solo existe acceso allí donde una regla lo autoriza expresamente. OpenShell está ya disponible de forma general y pretende funcionar tanto con modelos abiertos como cerrados y con distintos sistemas de coordinación de agentes.

La segunda pieza, NVIDIA Sentry, es un diseño de referencia que utiliza DPU BlueField‑4, chips dedicados al procesamiento de datos, para observar al agente desde un dominio de seguridad separado y aislado por hardware. NVIDIA afirma que puede poner en cuarentena al agente en milisegundos si intenta abandonar sus límites. Son afirmaciones técnicas del fabricante sobre su diseño, pero la arquitectura resulta importante porque el cumplimiento de las reglas no depende de que el modelo decida cooperar.

Por qué importa La seguridad pasa de «pedir al modelo que se comporte bien» a principios clásicos: mínimo privilegio, aislamiento, vigilancia independiente y límites técnicos ejecutables. Eso puede resultar esencial cuando los agentes accedan a correo, código, bases de datos o sistemas de pago.

MODELOS · ECONOMÍA · 28 de septiembre

Anthropic lanza Sonnet 5.5: cerca de Opus en varias pruebas, con tarifas de entrada y salida a la mitad

Anthropic lanzó Claude Sonnet 5.5 en su propia plataforma, AWS, Google Cloud y Microsoft Azure. La API cuesta 2 dólares por millón de tokens de entrada y 10 por millón de salida, frente a 4 y 20 dólares respectivamente para Opus 5.5. Es la misma tarifa por token que Sonnet 5. Anthropic afirma que genera más de un 30 % más rápido y utiliza menos tokens y llamadas a herramientas en numerosas tareas.

El precio por token y el coste total de una tarea no son lo mismo. La factura también depende de cuánto escriba el modelo, cuántos intentos necesite y qué herramientas utilice. Anthropic declara un ahorro de hasta el 30 % respecto a Sonnet 5 para realizar el mismo trabajo.

Según las propias evaluaciones de Anthropic, Sonnet 5.5 mejora especialmente en programación agéntica y trabajo prolongado. En determinadas combinaciones de prueba de rendimiento y nivel de esfuerzo, la empresa sostiene que supera el mejor resultado de Sonnet 5 por aproximadamente una décima parte del coste por tarea. Muchas métricas proceden de Anthropic o de clientes iniciales, por lo que deben interpretarse como resultados atribuidos al proveedor y no como una clasificación universal.

Por qué importa La competición empieza a ser tanto económica como intelectual. Para una empresa que ejecute miles de tareas, un modelo casi tan potente como el buque insignia pero que necesita menos pasos y tiene tarifas más bajas puede tener mayor relevancia práctica. Lo decisivo es cuánto cuesta obtener un resultado que cumpla el nivel requerido.

EMPRESA · CAPITAL · RIESGO · 28–29 de septiembre

El folleto de Anthropic revisado por Reuters revela crecimiento explosivo — y costes explosivos

Reuters ha revisado el folleto para la prevista salida a bolsa de Anthropic. Según el documento, los ingresos crecieron aproximadamente doce veces durante 2025 hasta casi 4.600 millones de dólares, mientras la pérdida operativa aumentó hasta 8.060 millones. La pérdida neta rondó 42.000 millones, aunque unos 34.000 millones correspondieron a un cargo contable relacionado con instrumentos de financiación que podrían convertirse en acciones, no a gasto operativo en efectivo. Anthropic declara además 518.000 millones de dólares en compromisos futuros de nube, computación e infraestructura a lo largo de varios años, no como gasto de un solo ejercicio.

Según Reuters, el folleto resulta también explícito sobre los riesgos de la propia tecnología. Anthropic plantea escenarios en los que sistemas avanzados podrían ocultar información, resistirse a ser apagados o comportarse de forma manipuladora, y reconoce además que los modelos pueden aprender a reconocer cuándo están siendo evaluados. Son factores de riesgo y escenarios, no una afirmación de que los modelos Claude en producción se comporten habitualmente así.

Por qué importa La información de Reuters permite conocer mejor la economía de un laboratorio frontera. Y esa economía explica por qué coste, seguridad y presión competitiva no pueden separarse: los laboratorios deben financiar facturas gigantescas de computación y, al mismo tiempo, estar dispuestos a retrasar o detener sistemas que no superen sus controles.

HARDWARE · IA FÍSICA · 28 de septiembre

AMD acuerda comprar World Labs, de Fei-Fei Li, por 8.200 millones de dólares

AMD ha firmado un acuerdo definitivo para adquirir World Labs mediante una operación íntegramente en acciones valorada en aproximadamente 8.200 millones de dólares. World Labs desarrolla modelos de inteligencia espacial capaces de generar, reconstruir y simular entornos tridimensionales interactivos a partir de texto, imágenes y vídeo, además de tecnología para aprendizaje robótico y simulación. La operación debería cerrarse antes de terminar 2026, condicionada a las autorizaciones regulatorias y demás requisitos de cierre.

Fei-Fei Li se incorporará a AMD como vicepresidenta ejecutiva y directora científica, dependiendo de Lisa Su. El acuerdo resulta particularmente significativo porque un fabricante de chips no pretende comprar únicamente software o clientes: busca incorporar directamente un laboratorio de investigación de modelos para comprender cómo las futuras arquitecturas de IA deberían influir en su propia hoja de ruta de hardware.

Por qué importa La frontera entre desarrollador de modelos y fabricante de hardware empieza a difuminarse. Si la próxima gran ola procede de robótica, simulación e IA física, los procesadores tendrán que optimizarse para cargas diferentes de las de los actuales modelos lingüísticos.

PROPIEDAD INTELECTUAL · NORUEGA · 28 de septiembre

Cierra el plazo de aportaciones a una propuesta de protección más estricta frente al entrenamiento de IA

El plazo para presentar observaciones escritas al Parlamento sobre el Documento 8:249 S terminó a medianoche del 28 de septiembre. La propuesta pide al Gobierno, entre otras medidas, estudiar o introducir consentimiento para utilizar obras protegidas en entrenamiento de IA, transparencia total sobre los datos de entrenamiento, un registro de obras, remuneración justa, derecho de reserva y etiquetado claro del contenido generado por IA. La Comisión de Familia y Cultura tiene hasta el 3 de noviembre para presentar su recomendación.

Se trata de una proposición parlamentaria de diputados, no de Derecho noruego vigente ni de política ya aprobada por el Gobierno. El Storting todavía no ha votado las medidas.

Por qué importa Noruega no está sola ante este conflicto central: ¿debe permitirse el entrenamiento sobre contenido protegido salvo que el titular se oponga, o exigir una licencia o consentimiento expreso? La respuesta puede afectar de forma importante a editoriales, medios, creadores y desarrolladores de modelos noruegos.