IA infiltrada: cómo el software libre puede esconder trampas
No todo lo que se etiqueta como open source es libre de verdad. Detrás de algunos proyectos hay modelos de IA que recolectan datos, insertan telemetría o dependen de servicios privativos sin avisar. Un repaso realista desde la comunidad.
El otro día en un canal de IRC que frecuento desde los 2000, alguien compartió un enlace a una herramienta nueva para generar diagramas. "Es open source", dijo. Lo bajé, lo compilé y al correrlo me encontré con que pedía una clave de API de OpenAI para funcionar en modo "avanzado". Ningún README lo aclaraba de entrada.
Esto no es un caso aislado. Cada vez más proyectos que se presentan bajo licencias FLOSS integran componentes de inteligencia artificial de forma opaca. A veces es un modelo embebido que corre localmente, pero muchas veces depende de servicios en la nube de terceros. El resultado: creés que estás usando algo soberano y en realidad estás alimentando los servidores de Microsoft, Google o Anthropic.
El problema no está en la IA en sí. Herramientas como Ollama o modelos bajo licencia Apache 2.0 permiten correr LLMs en tu propia máquina sin enviar nada afuera. El tema es cuando el proyecto esconde esa dependencia o, peor, la disfraza de "funcionalidad extra".
Tomemos el caso de algunos forks de aplicaciones populares. Un mantenedor decide agregar "asistencia inteligente" y de repente el binario incluye llamadas a endpoints que no figuran en el código fuente principal. Como la licencia es MIT, es legal. Pero viola el espíritu del software libre que venimos defendiendo desde los tiempos de Stallman: poder estudiar, modificar y redistribuir sin trampas.
En la práctica, esto genera varios trade-offs. Autohospedar tu propio Nextcloud es un acto de soberanía, pero si el cliente de escritorio que usás para sincronizar incluye telemetría con IA, perdés parte de esa independencia. Lo mismo pasa con editores de código, gestores de contraseñas o incluso clientes de Matrix que incorporan "sugerencias inteligentes" basadas en modelos propietarios.
¿Cómo detectarlo? Primero, leer el código. Si ves paquetes como openai, anthropic o google-generativeai en el requirements.txt o package.json, ya sabés por dónde viene la cosa. Segundo, revisar si el proyecto tiene una política clara de privacidad y si menciona el entrenamiento de modelos con datos de usuarios. Tercero, compilar desde cero y correrlo en una máquina aislada para ver qué tráfico genera.
En la comunidad hacker siempre dijimos que "confía pero verifica". Con la explosión de la IA generativa ese mantra se volvió aún más importante. Hay proyectos genuinos como Stable Diffusion WebUI que corren todo localmente y respetan tu privacidad. Pero también hay startups que liberan solo la cáscara del frontend mientras el backend pesado queda en sus servidores.
El año 2026 nos encuentra en un punto donde muchas distribuciones GNU/Linux ya incluyen paquetes relacionados con IA. Fedora, Debian y Arch tienen repositorios con herramientas de machine learning. Eso es bueno, siempre que el usuario sepa qué está instalando. Un apt install inocente puede traer dependencias que terminan enviando tus prompts a California.
Desde MamaLibre siempre defendimos el autohospedaje como forma concreta de recuperar control. Si vas a usar IA, que sea con modelos locales: llama a llama.cpp, usa koboldcpp o monta tu propio servidor con Ollama. Evitá las "herramientas mágicas" que prometen todo sin explicar nada.
Al final, el software libre no es solo una licencia en el README. Es una práctica. Y esa práctica incluye no esconder trampas, aunque vengan envueltas en prompts y respuestas generadas por máquina. La comunidad sigue siendo el mejor antivirus contra estas derivas: leé el código, preguntá en los foros, compartí lo que descubras. Así venimos haciendo desde los viejos canales de IRC y así vamos a seguir.
