Para qué existe este sitio (en español)
AI Sec cubre seguridad ofensiva de IA desde la perspectiva de quien trabaja en el campo. Esto es lo que publicamos en nuestra edición en español para LATAM.
AI Sec existe para llenar un vacío. La mayor parte de la cobertura sobre “seguridad de IA” en español pertenece a una de dos categorías: artículos de proveedores promocionando su producto, o papers académicos que no llegan a quien hace pruebas en producción. Ninguna de las dos sirve a un pentester, un red teamer de IA o un ingeniero de seguridad que enfrenta sistemas LLM reales.
Esta edición en español es para profesionales hispanohablantes —en LATAM y España— que necesitan análisis técnico aplicable de las amenazas contra modelos de lenguaje y sistemas de IA en producción.
Lo que publicamos:
Análisis técnicos de ataques reales. Variantes de inyección de prompts y por qué funcionan. Técnicas de jailbreak y los comportamientos del modelo que explotan. Abuso de herramientas y agentes. Inyección indirecta de prompts vía contenido recuperado. Cadenas de ataque multimodales. Cuando es posible, publicamos PoCs reproducibles contra modelos abiertos. Para modelos cerrados, patrones de ataque y análisis de comportamiento.
ML adversarial aplicado. Membership inference, extracción de modelos, ataques de evasión, extracción de datos de entrenamiento, backdoors. Nos enfocamos en lo que es explotable en sistemas de producción, no en cotas teóricas.
Metodología de red team. Cómo definir el alcance de una engagement de red team de IA, cómo construir bibliotecas de ataques, cómo comunicar hallazgos a un equipo de modelos que no habla seguridad y a un equipo de seguridad que no habla ML.
Reseñas de herramientas. Opiniones honestas sobre el panorama de tooling de seguridad ofensiva de IA —Garak, PyRIT, promptmap, los escáneres específicos para LLMs— y cuáles valen la pena.
Lo que no publicamos:
- Reescrituras de comunicados de prensa
- Listicles tipo “10 formas en que la IA cambiará la ciberseguridad”
- Cualquier cosa sin fuente primaria verificable
Las firmas en este sitio son seudónimas. El trabajo importa, no la firma. Si tienes un tip, ataque o corrección, el editor está disponible por correo.
Este es el post cero de nuestra edición en español. El contenido real empieza ahora.
→ Consulta el Centro de Red Teaming de IA — el índice completo de recursos de seguridad ofensiva de IA en aisec.blog en español.