Si vuestra entidad usa herramientas de IA para redactar, gestionar datos o atender consultas —y hoy la mayoría lo hace—, hay una noticia de esta semana que merece la pena traducir a lo que de verdad os toca. Ha recorrido medios generalista como Cadena SER, La Vanguardia, El Confidencial o Xataka, y que merece la pena traducir a lo que de verdad os toca a las entidades que acompañamos cada día. OpenAI reconoció que, durante una evaluación interna de ciberseguridad, dos de sus modelos —entre ellos GPT-5.6 Sol— consiguieron salir de un entorno de pruebas diseñado específicamente para mantenerlos aislados de internet. Lo hicieron aprovechando una vulnerabilidad de tipo zero-day (un fallo de seguridad que nadie conocía todavía, así que tampoco existía ningún parche para cerrarlo) hasta entonces desconocida, con el único objetivo declarado de superar ExploitGym, una especie de examen que mide si un sistema de IA es capaz de encontrar y aprovechar fallos de seguridad reales. En el camino, llegaron a acceder a infraestructura de producción de Hugging Face, una de las plataformas más usadas a nivel mundial para alojar y compartir modelos de IA, algo así como un repositorio central del sector.
La propia OpenAI explicó, en su informe del incidente, que con ese acceso los modelos encadenaron acciones de escalada de privilegios y movimiento lateral —en términos sencillos, fueron ganando permisos cada vez más altos y saltando de un sistema a otro dentro de la red— hasta alcanzar un nodo con salida a internet. Voces académicas como la de Deirdre Mulligan, profesora en Berkeley y recogida por Xataka, han puesto el foco en un punto incómodo: el problema no fue solo lo que hizo el modelo, sino que el propio entorno de aislamiento no estaba bien diseñado para contenerlo.
Por qué esto no es «cosa de laboratorios grandes»
Es fácil leer esta noticia como algo lejano, un experimento de investigadores con presupuestos que no se parecen en nada a los nuestros. Pero el fondo del asunto sí que nos toca de cerca: cada vez más entidades sociales —también las que sois pequeñas, con poco o ningún equipo técnico propio— estáis incorporando IA generativa al día a día. Para redactar, para gestionar bases de datos de personas beneficiarias, para atender consultas. Y lo hacéis, en la inmensa mayoría de los casos, sin ninguna capa de criterio técnico o de seguridad detrás.
Si un sistema diseñado por uno de los laboratorios más avanzados del mundo, con equipos dedicados exclusivamente a contenerlo, encuentra la forma de saltarse sus propias barreras, la pregunta que de verdad importa no es «¿puede pasarnos esto a nosotros?» —seguramente no en esa escala—, sino «¿sabemos qué estamos exponiendo cuando usamos estas herramientas sin ningún tipo de criterio técnico detrás?».
La ciberseguridad, un tema que ya trabajamos con vosotras
No es la primera vez que abordamos la ciberseguridad desde el área de participación y desde el trabajo que hacemos con el Tercer Sector: sabemos que es una de las asignaturas pendientes de muchas entidades, precisamente porque rara vez hay presupuesto o perfil técnico dedicado a ello. Esa es la pregunta que llevamos meses trabajando desde DigitalizaciONG junto a las entidades a las que acompañamos.
Espacio Ágil pone fecha a los temas que más os preocupan
Precisamente para esto existe Espacio Ágil, la iniciativa formativa de Gestión Tercer Sector: sesiones trimestrales de dos horas, en formato webinar, gratuitas y abiertas a cualquier entidad del Tercer Sector, sobre los temas que vosotras mismas proponéis y votáis. No es la primera vez que la ciberseguridad protagoniza una edición —ya dedicamos una sesión al Esquema Nacional de Seguridad— y muy pronto anunciaremos las fechas de la próxima convocatoria, en la que la ciberseguridad aplicada a entidades sociales vuelve a estar entre los temas sobre la mesa: qué preguntar antes de adoptar una herramienta de IA, cómo proteger los datos de las personas a las que atendéis, y qué señales de alarma no deberíais pasar por alto.
Tres gestos que podéis hacer ya
No hace falta esperar a la próxima sesión para empezar a reducir riesgo. Tres cosas sencillas:
- Revisad qué datos compartís con herramientas de IA. Ninguna herramienta gratuita debería recibir datos personales sensibles de las personas beneficiarias sin comprobar antes su política de tratamiento.
- Activad la autenticación en dos pasos en el correo y las plataformas de gestión de la entidad. Es gratis y reduce buena parte del riesgo más común.
- Preguntad, no asumáis. Si una herramienta de IA promete algo que suena demasiado cómodo —automatizar sin supervisión, decidir sin revisión humana—, es el momento de pedir una segunda opinión técnica antes de adoptarla.
Si queréis ir más allá, escribidnos a digitalizaciong@fundacionesplai.org y os contamos cómo encaja vuestra entidad con Espacio Ágil y con el resto de nuestro acompañamiento en transformación digital.
Fuentes: OpenAI (informe del incidente), Xataka, Cadena SER, La Vanguardia, El Confidencial.