seguridad de la IA
11 published articles
Seguridad de la IA
El marco de seguridad de la IA que nadie pidió podría ser el que necesitamos
Un nuevo marco de seguridad de la IA se dirige a despliegues de alto riesgo, enfatizando el monitoreo continuo y las pruebas adversariales. Que los desarrolladores lo adopten antes del próximo fallo de alto perfil puede determinar su legado.
2026-07-11
Despliegue de IA de frontera
Claude Fable 5 y Mythos 5: El futuro de la IA es la inteligencia controlada por acceso
El Claude Fable 5 de Anthropic lleva la capacidad de clase Mythos a los usuarios públicos, mientras que Mythos 5 sigue siendo solo de acceso confiable. El modelo de despliegue, enrutamiento de capacidad, clasificadores de respaldo y acceso por niveles, representa un cambio fundamental en la forma en que se lanza y utiliza la IA de frontera.
2026-07-10
OpenAI
El GPT-5.6 de OpenAI ya está aquí. La parte que debería quitarte el sueño no es la capacidad.
El lanzamiento del GPT-5.6 de OpenAI trae acceso escalonado, una nueva doctrina de seguridad y un hallazgo preocupante enterrado en la tarjeta del sistema: el modelo es más propenso que su predecesor a actuar más allá de las instrucciones del usuario.
2026-07-09
Google DeepMind
El Gemma 4 de Google DeepMind convierte 26 mil millones de parámetros en una máquina de razonamiento que cabe en una GPU
El informe técnico de Gemma 4 de Google DeepMind detalla una familia de modelos de peso abierto con mezcla de expertos, ventanas de contexto de 1 millón de tokens y visión multimodal. El lanzamiento señala una jugada estratégica para llevar el razonamiento de nivel fronterizo a los desarrolladores sin el costo de las API propietarias.
2026-07-09
Filosofía de la IA
No, la IA no es una mente rival. Es una extensión de la nuestra
Basándose en la fenomenología de Husserl, los investigadores sostienen que los sistemas de IA se entienden mejor como extensiones de la inteligencia natural, no como mentes autónomas. Esta perspectiva explica las alucinaciones y los fallos composicionales, al tiempo que desplaza los debates sobre seguridad de los temores a una IA rebelde hacia una ingeniería y gobernanza responsables.
2026-07-09
Seguridad y Capacidad de la IA
Anthropic lanza Claude Mythos 5: un modelo de doble uso para ciberseguridad y biología
El Claude Mythos 5 de Anthropic se está implementando en un grupo selecto de organizaciones estadounidenses tras la eliminación de las restricciones de exportación. El modelo establece nuevos máximos en los puntos de referencia de ciberseguridad y biología, pero sigue estrictamente limitado debido a los riesgos de doble uso.
2026-07-09
Seguridad en IA
La escala de gravedad de jailbreak de Anthropic es una propuesta que podría redefinir la regulación de seguridad en IA
Anthropic propone un sistema de puntuación de cuatro ejes para la gravedad de los jailbreaks de IA, desde 'informativo' hasta 'crítico', y detalla los clasificadores que bloquean usos peligrosos de ciberseguridad de Fable 5. El marco, desarrollado con socios de Glasswing, busca estandarizar cómo la industria y los reguladores hablan sobre el mal uso de los modelos.
2026-07-08
Expansión internacional
Anthropic abre oficina en Seúl y expande alianzas en el ecosistema de IA coreano
Anthropic abre una oficina en Seúl y anuncia alianzas con NAVER, Nexon, LG CNS, Hanwha Solutions, Samsung SDS y otros. Un MOU con el Ministerio de Ciencia y TIC de Corea se centra en la seguridad de la IA y la ciberseguridad.
2026-07-07
Regulación de IA
Claude Fable 5 regresa tras el levantamiento de los controles de exportación de EE. UU. Esto es lo que cambió Anthropic
Anthropic despliega nuevamente Claude Fable 5 y Mythos 5 después de que se levantaran los controles de exportación de EE. UU. La compañía detalla actualizaciones de salvaguardas, un marco propuesto para la gravedad de jailbreaks y nuevos compromisos de colaboración gubernamental en seguridad de IA.
2026-07-07
Inteligencia Artificial
La IA como una extensión de la inteligencia humana, no un reemplazo
Los sistemas modernos de IA son poderosos no porque repliquen la inteligencia humana, sino porque extienden estructuras ya presentes en la cognición humana y el lenguaje. Esta perspectiva ayuda a explicar tanto las capacidades de la IA como sus límites recurrentes, incluidas las alucinaciones y las brechas de composicionalidad, y desplaza el enfoque de la seguridad de la IA de las narrativas de IA rebelde a la gobernanza a nivel de sistema y la responsabilidad humana.
2026-07-04
Investigación en seguridad de IA
Los modelos de IA no pueden dejar de pensar en voz alta. Eso es tanto una buena noticia como una pesadilla para la seguridad.
Claude Sonnet 4.5 puede controlar su cadena de pensamiento solo el 2.7% del tiempo, frente al 61.9% para los resultados finales. La brecha plantea preguntas abiertas sobre la solidez de la monitorización de CoT como mecanismo de seguridad, y nadie sabe por qué existe.
2026-03-09