Por qué Microsoft, Meta y Palantir apuestan a la IA abierta para ciberseguridad

El pasado miércoles, en un evento organizado en Madrid, ejecutivos de Microsoft, Meta y Palantir coincidieron en un punto que hasta hace poco parecía impensado: la IA de código abierto es clave para mejorar la ciberseguridad global.

El encuentro, reportado por moncloa.com, reunió a voces de estas tres compañías con perfiles muy distintos. Microsoft, dueña de GitHub y Azure; Meta, con su familia de modelos Llama; y Palantir, especialista en análisis de datos para gobiernos y defensa. Todos coincidieron en que los modelos abiertos permiten auditar el código, detectar vulnerabilidades antes y generar defensas más rápidas.

Desde MamaLibre siempre miramos con lupa cuando las grandes corporaciones abrazan el “open”. No es que estemos en contra de que usen código abierto (al fin y al cabo, gran parte de internet corre sobre software libre), pero la historia muestra que muchas veces estas adhesiones son selectivas y convenientes.

¿Qué dijeron exactamente?

Los representantes destacaron que los modelos cerrados crean “cajas negras” imposibles de auditar. Un modelo propietario de IA de seguridad podría tener fallos que solo la empresa conoce, lo que lo convierte en un riesgo estratégico para quien lo usa. En cambio, un modelo abierto permite que investigadores independientes, gobiernos y empresas revisen el código, propongan parches y mejoren colectivamente la herramienta.

Palantir, que trabaja con agencias de inteligencia de varios países, enfatizó que en entornos de alta sensibilidad la transparencia del código es un requisito. Meta recordó que sus modelos Llama 2 y Llama 3 han sido descargados millones de veces y que la comunidad ya encontró y corrigió problemas que un equipo cerrado hubiera tardado más en detectar.

Microsoft, por su parte, viene invirtiendo fuertemente en proyectos como el AI Red Team y ha liberado parte del código de herramientas de seguridad basadas en IA. Su argumento es que la velocidad de innovación en ciberseguridad actual hace insostenible depender solo de soluciones cerradas.

El elefante en la habitación: los datos y el poder

Aquí es donde la cosa se pone interesante. Si bien es positivo que se reconozca el valor de la apertura, ninguna de estas empresas mencionó el otro costado: los datos de entrenamiento. Un modelo abierto puede dejar ver su arquitectura y pesos, pero los datos con los que se entrenó suelen seguir siendo opacos. Y en ciberseguridad, los datos son el verdadero oro: logs de ataques, patrones de malware, comportamientos de usuarios.

Además, liberar un modelo no significa que la empresa deje de controlarlo. Meta sigue decidiendo qué versiones libera y cuándo. Microsoft integra estos modelos en Azure con servicios pagos que terminan generando lock-in. Palantir, directamente, vende plataformas completas a gobiernos donde la “apertura” tiene límites claros cuando se trata de contratos de defensa.

Alternativas realmente libres y federadas

Desde nuestra perspectiva, la verdadera soberanía tecnológica en IA de seguridad pasa por proyectos comunitarios y autohospedables. Herramientas como las basadas en Hugging Face (cuando se usan modelos abiertos de verdad), combinadas con infraestructuras propias, dan un control mucho mayor que depender de “modelos abiertos” de quienes también venden el cloud donde corren.

Proyectos como Open WebUI, Ollama o incluso iniciativas más enfocadas en seguridad como las del colectivo CISA (que publica guías y herramientas abiertas) muestran que la comunidad hacker puede avanzar sin necesidad de que Microsoft o Meta lideren la conversación.

El fediverso y las redes descentralizadas también tienen mucho para aportar aquí: la detección de patrones de desinformación o ataques coordinados puede beneficiarse enormemente de modelos abiertos entrenados de forma transparente y auditada por múltiples ojos.

Conclusión sin romanticismo

Que Microsoft, Meta y Palantir hablen bien de la IA abierta es, en principio, una buena noticia. Genera visibilidad y puede atraer a más desarrolladores al ecosistema. Pero no sustituye la necesidad de construir alternativas completamente independientes, con gobernanza comunitaria y sin ataduras a las big tech.

Cada organización o persona que decide autohospedar sus propios modelos de IA para tareas de seguridad (por más modesto que sea el despliegue) está reduciendo su dependencia de estas empresas. Y eso, al final, es lo que realmente fortalece la ciberseguridad: no depender de un solo proveedor, sea cerrado o “abierto” bajo sus condiciones.

El camino no es fácil. Entrenar o incluso fine-tunear modelos requiere recursos. Pero la historia del software libre nos enseña que donde hay necesidad comunitaria, tarde o temprano aparece la colaboración que lo hace posible. Sigamos exigiendo apertura real, no solo la que conviene a los que ya dominan el mercado.