La batalla por la IA abierta: por qué no todo vale en nombre de la 'seguridad'

En las últimas semanas volvió a prenderse la discusión sobre si los modelos de inteligencia artificial deben publicarse con pesos y código abiertos o si, por el contrario, deben permanecer cerrados “por seguridad”. Google, OpenAI y Anthropic coincidieron en un documento conjunto donde argumentan que los riesgos de la IA abierta superan sus beneficios y proponen regulaciones que, en la práctica, harían muy difícil mantener proyectos como Llama 3, Mistral o Stable Diffusion sin caer en marcos legales restrictivos.

Desde la cultura hacker sabemos que este debate no es nuevo. Ya lo vivimos con el cifrado fuerte en los 90, con las patentes de software y con cada intento de legislar sobre tecnología que termina favoreciendo a quien ya tiene los recursos para cumplir las reglas. El documento de las tres empresas repite el clásico argumento: “en manos equivocadas, un modelo potente puede generar deepfakes, armas biológicas o código malicioso a escala”. Suena razonable hasta que uno se pregunta quién decide qué manos son las equivocadas y quién audita a los que se quedan con el monopolio del conocimiento.

El antecedente del software libre

El movimiento del software libre enfrentó el mismo miedo en los 80 y 90. Richard Stallman y la FSF fueron acusados de irresponsables por querer que cualquiera pudiera modificar y redistribuir programas. Hoy usamos Linux, Apache y Firefox precisamente porque se permitió que miles de ojos revisaran el código. La diferencia, nos dicen, es que un modelo de lenguaje de 70 mil millones de parámetros es más peligroso que un kernel. Puede ser. Pero también es cierto que cerrar el modelo no elimina el riesgo: lo concentra. Quien tenga acceso a los pesos cerrados de GPT-4 o Gemini podrá usarlo para lo que quiera, mientras que la comunidad queda afuera de la posibilidad de auditar, corregir sesgos o crear versiones especializadas.

Lo que realmente propone el documento

El texto sugiere crear categorías de “IA de alto riesgo” donde la publicación abierta de pesos esté prohibida o requiera licencias gubernamentales. En la práctica esto significa que solo las grandes corporaciones —o startups con capital suficiente para pagar abogados y seguros— podrán entrenar y distribuir modelos grandes. Los proyectos comunitarios como EleutherAI, Hugging Face Open LLM Leaderboard o iniciativas europeas de IA abierta quedarían fuera de juego o forzados a trabajar con modelos pequeños que, irónicamente, terminan siendo menos útiles y más fáciles de alinear con valores corporativos.

Desde la experiencia de quien mantiene servidores propios, el paralelo es claro: autohospedar tu propio modelo (con Ollama, llama.cpp o PrivateGPT) es el equivalente digital a correr tu propio mail server en 2024. Es más trabajo, requiere responsabilidad y no siempre es tan eficiente como usar la API de turno. Pero te da soberanía. Si el modelo está cerrado, esa opción desaparece.

Los riesgos existen, no los negamos

Nadie serio en la comunidad hacker defiende que cualquiera pueda entrenar un modelo capaz de diseñar patógenos sin ninguna rendición de cuentas. El copyleft y las licencias libres siempre incluyeron responsabilidad: GPL no te exime de cumplir la ley. Lo que rechazamos es usar el miedo como pretexto para convertir la IA en otra infraestructura crítica controlada por tres o cuatro jugadores. Ya vimos cómo funciona eso con las redes sociales, los chips y los sistemas operativos.

Alternativas que ya están en marcha

Proyectos como Mistral AI (antes de sus últimos giros), el ecosistema alrededor de Llama 3.1, el trabajo de la Allen Institute con OLMo o las iniciativas de la BigScience Workshop muestran que se puede avanzar en IA abierta con responsabilidad. Se publican papers, se comparten datasets con documentación clara y se fomenta la investigación reproducible. Eso es exactamente lo que la ciencia siempre hizo hasta que el software se volvió un producto.

El trade-off honesto

Autohospedar y correr modelos locales tiene costos reales: consumo eléctrico, hardware que se vuelve obsoleto rápido y la necesidad de entender qué estás ejecutando. Pero también tiene beneficios concretos: tus datos no salen de casa, puedes fine-tunear el modelo con tu propia información sin alimentar al próximo unicornio y, sobre todo, puedes inspeccionar qué sesgos tiene el sistema que usás para tomar decisiones.

Si la propuesta de Google, OpenAI y Anthropic prospera, ese camino se estrechará. La “IA segura” terminará siendo la IA que solo unos pocos controlan. Y la historia del software nos enseña que la seguridad real suele venir de la transparencia, no de la opacidad.

Como en los viejos canales de IRC, la solución no pasa por confiar ciegamente ni en las corporaciones ni en el primer script que baja cualquiera. Pasa por construir infraestructura común, documentar lo que hacemos y exigir que las reglas del juego no se escriban solo con el lobby de quienes ya ganaron.