OpenAI empieza a marcar texto y reconoce los límites de detectar su origen

Noticias secundarias · 5 de octubre

Nueva York somete a los grandes laboratorios a preguntas bajo juramento

El Comité Plenario del New York City Council celebró el 5 de octubre una audiencia titulada «Examining the Risks Posed by Artificial Intelligence». El expediente incluye propuestas sobre el impacto de herramientas algorítmicas en empleados municipales y sobre representaciones no autorizadas de cargos públicos mediante IA; las actas seguían en estado de borrador y no mostraban resultados legislativos definitivos.

CNBC informó de la comparecencia bajo juramento de representantes de Anthropic, OpenAI, Google y Meta. La presidenta del Consejo, Julie Menin, calificó de «troubling at best» las respuestas a una pregunta sobre responsabilidad jurídica cuando un modelo cause daños financieros graves o muerte.

Cautela. Las predicciones extremas formuladas por antiguos empleados y otros testigos son opiniones o alegaciones presentadas en la audiencia, no hechos demostrados. La audiencia y las propuestas examinadas tampoco son normas aprobadas.

Por qué importa La discusión sobre seguridad pasa de los compromisos voluntarios a preguntas públicas sobre responsabilidad, supervisión y consecuencias. Para empresas y profesionales, la señal relevante no es solo qué promete cada laboratorio, sino qué obligaciones concretas pueden acabar imponiendo los legisladores.

Noticias secundarias · 5 de octubre

Google propone permisos que dependan del contexto para los agentes

Google Research publicó un informe de taller elaborado con más de 50 participantes académicos e industriales. Distingue a los agentes del software determinista por sus interfaces no estructuradas, sus flujos probabilísticos y su autonomía o capacidad de delegar, y sostiene que estas características vuelven insuficientes algunos controles tradicionales.

La propuesta combina sandboxing, identidad del agente, autorización dinámica, razonamiento contextual, controles centrados en el usuario y gobernanza del ecosistema. También plantea motores de políticas que evalúen si un flujo de datos es apropiado antes de que la información salga del espacio de trabajo, y entornos «Agent Gym» para probar interacciones largas y en cascada entre varios agentes.

Cautela. Es una agenda de investigación derivada de un taller celebrado a finales de 2025. No es un estándar aprobado, un producto disponible ni una demostración de que los controles funcionen a escala.

Por qué importa Autorizar a un agente una sola vez no basta cuando la tarea cambia, aparecen nuevas herramientas o intervienen subagentes. La idea útil para una organización es revisar cada flujo de información y cada acción según su finalidad y contexto, además de imponer límites técnicos externos al modelo.

Noticias secundarias · 5–6 de octubre

Claude Code refuerza permisos y corrige dos regresiones horas después

Claude Code 2.1.290 añadió información para distinguir las comprobaciones de permisos del agente principal y de los subagentes, e incorporó el nivel de aprobación exigido por la organización a los eventos de control de herramientas. También corrigió, entre otros casos, la aprobación automática de conectores no destinados solo a lectura en modo plan, lecturas mediante enlaces fuera del directorio de trabajo y reglas de denegación que no cubrían determinadas imágenes, menciones o expansiones del shell.

La versión 2.1.291 corrigió después una regresión de 2.1.290 que podía perder respuestas a solicitudes de permiso en sesiones cloud y otra, originada en 2.1.288, que podía perder los últimos mensajes al salir.

Cautela. Son notas de versión del proveedor. No se publicaron CVE ni pruebas independientes de explotabilidad, y las notas documentan correcciones, no ataques confirmados.

Por qué importa Los límites de un agente dependen tanto del programa que aplica permisos como del modelo. La rápida corrección posterior también recuerda que una actualización de seguridad puede introducir fallos nuevos y debe probarse antes de desplegarse ampliamente.

Noticias secundarias · 5 de octubre

OpenAI prueba anuncios visuales durante la generación de imágenes

OpenAI anunció un nuevo formato visual de publicidad en ChatGPT y la ampliación de herramientas de medición, atribución e idoneidad de marca para anunciantes. TechCrunch informa de que la prueba comenzará más adelante en octubre en Estados Unidos, con anuncios etiquetados junto a las imágenes solicitadas; según OpenAI, no influirán en las respuestas.

Cautela. Se trata de una prueba anunciada, no de un despliegue general. La afirmación de que los anuncios no condicionarán las respuestas es un compromiso del proveedor, no una conclusión auditada de forma independiente.

Por qué importa Insertar publicidad dentro de una interacción creativa exige una separación visible entre contenido y promoción. También obliga a examinar qué señales alimentan la segmentación y la medición, y si el incentivo comercial puede alterar la experiencia aunque no cambie formalmente la respuesta.