Retos y soluciones para implementar inteligencia artificial en entornos públicos con recursos limitados

¿Por qué los gobiernos andan con pies de plomo con la inteligencia artificial?

Pues porque no es cuestión de jugar con los datos de cualquier forma. Un estudio de Capgemini se lleva la palma: el 79% de los altos mandos del sector público están hasta el cuello con la seguridad de los datos en IA. Y no es para menos, cuando estás manejando información ultra sensible que, si sale mal, el desastre puede ser legal, político y hasta social. Han Xiao, el vicepresidente de AI en Elastic, lo clava: los organismos públicos tienen que andarse con mucho cuidado respecto a qué datos mandan a la red. Una tontería o una brecha de seguridad y se arma la mundial.

Pero ojo, que no es sólo paranoia. La pasta y el hardware tampoco acompañan. En el sector privado tienen la suerte (y el presupuesto) de acceder a infraestructura a lo bestia: GPUs a raudales, cloud que no para, modelos de IA titánicos… En cambio, las agencias gubernamentales muchas veces no tienen ni conexiones decentes, ni el derecho a mandar sus datos a la nube, ni el presupuesto para gastarse millones en montar su propio centro de datos de última generación. Por eso, el despliegue de IA en el sector público no es lo mismo que en una startup alocado o Google: el escenario es muy distinto y con muchos más obstáculos.

Así que la pregunta no es si el sector público quiere IA, sino cómo diablos la implementan sin tirarse por el precipicio. ¿Solución? SLMs, modelos de lenguaje pequeños y hechos a medida, que funcionan localmente y no se comen todos los recursos ni la privacidad.

SLMs: los modelos pequeñitos que podrían salvar al sector público

Uno de los mayores problemas con los modelos de lenguaje gigantes (LLMs), esos que chupan GPUs como si fuesen bebedores compulsivos, es que su tamaño y dependencia de infraestructura centralizada los hacen inviables para gobiernos. Sencillo. No hay manera de que almacenes o ejecutes un modelo que pese cientos de gigas y necesite conexión constante cuando tu red da pena, tu presupuesto es limitado y tu deber es proteger cada bit de datos.

Aquí llegan los SLMs (small language models): con menos parámetros, menos glotonería computacional y diseñados para caber en infraescalas modestas, incluso offline. No son “miniaturas” cutres, ojo. Un estudio empírico reveló que SLMs pueden rendir tan bien o incluso mejor que los modelos monstruosos cuando están entrenados para tareas puntuales y específicos. Esto es clave: no queremos un gigante que conoce todo y nada bien, queremos un robot especializado que sepa lo que necesita la agencia, sin meterte todo el catálogo de Wikipedia y memes.

La magia está en que los SLMs mantienen los datos sensibles localizados, con meticulosa gestión de qué va al modelo y cuándo. Usan prompts calibrados, búsquedas vectoriales y validación estricta de la fuente. Esto significa respuestas más precisas, control total del flujo de datos y, sobre todo, un nivel de seguridad y cumplimiento legal que las compras en el cloud actuales ni se acercan a ofrecer.

Han Xiao lo resume con una metáfora genial: “Usar ChatGPT para corregir un texto es pan comido. Pero hacer que tu propio modelo funcione sin red, de forma fluida, es otro nivel y aquí es donde los SLMs juegan sus cartas.”

Conectividad y datos: la montaña rusa del engranaje público

Para el común de los mortales, las apps funcionan en tiempo real y con conexión de fibra óptica sin preocupaciones. En las agencias públicas, no. Según una encuesta de Elastic, un 65% de sus líderes reconoce luchar para usar datos en tiempo real y con escala. ¿Motivos? Lo típico: redes deficitarias, infraestructuras heredadas del pleistoceno, y restricciones regulatorias que van a más.

Además, el tema del hardware no se soluciona con apostarlas por la nube como en las empresas privadas. Los gobiernos a menudo no tienen ni costumbre ni facilidad para comprar GPUs ni regalar mega centros de procesamiento. ¿Cómo quieres correr un modelo si no tienes los ingredientes? Ese cuello de botella frena proyectos de IA brillantes antes de despegar.

Si a eso le sumas el miedo a filtrar datos, necesitas soluciones “on premise” donde las máquinas trabajan con la información sin sacarla del perímetro. Por eso, el punto no es solo desarrollar IA funcional sino también orquestar la infraestructura justa que aguante la carga sin desmoronarse y cumpla con los requisitos legales y operativos.

Más que chatbots: la revolución va por el lado del buscador inteligente

¿Todavía creen que IA solo significa tener un asistente que te diga chistes o resuelva preguntas rápidas? Ni de coña. Los gobiernos tienen montañas de documentos técnicos, contratos, informes, minutas y facturas que hasta ahora les causan más quebraderos de cabeza que soluciones. Lo bueno es que la IA puede ir a la caza de esos datos ocultos y ofrecer respuestas complejas, en múltiples idiomas y formatos (PDFs, imágenes, escaneos, incluso grabaciones), para procesar información mezclada sin despeinarse.

Con sistemas impulsados por SLM que ordenan esos datos, los organismos públicos podrían tener al fin una lupa refinada para tomar decisiones basadas en evidencia, transparentes y accesibles a todos. Nada que ver con el clásico “buscar y rezar”.

Y lo más rompedor: los modelos pueden interpretar normas legales, extraer insights de consultas públicas y facilitar el acceso a servicios. Resultado: menos burocracia, mejores servicios, y que la máquina no solo escuche sino entienda lo que maneja.

Han Xiao insiste: “El sector público tiene un arsenal de datos que ni sabe explotar, ni imagina sus posibilidades.”

¿Y la transparencia y regulaciones? Nada de magia negra

Uno de los escollos más gordos con la IA en la administración es la auditoría y la regulación. Nadie quiere que un algoritmo haga cosas raras sin control. La UE y otras regiones están apretando las tuercas con normas como GDPR y otros marcos legales para proteger datos y exigir civismo algorítmico.

Aquí los SLMs ofrecen un rare power: ser lo suficientemente pequeños y específicos para documentar cada paso, cada decisión, y cumplir rigurosamente con las revisiones. Eso sin contar que entrenar un modelo con datasets súper adaptados reduce los errores, salidas “alucinadas” y sesgos que suelen hacer mierda la reputación de la IA.

La autonomía estratégica en la gestión local de datos deja de ser un capricho para convertirse en una necesidad brutal. Control, trazabilidad y confianza se vuelven pilares. No es un esoterismo geek, son requisitos indispensables en el sector público para que la IA no acabe generando más problemas que soluciones.

¿Estamos frente a un cambio de paradigma o es solo humo digital?

Con todo lo que hay en juego, es un poco increíble que algunos sigan con el mito de que la IA masiva estilo Google o Meta es la única opción. Nada más lejos de la realidad para administraciones con sus limitaciones.

La apuesta por SLMs no solo es pragmática, sino la única forma razonable de no quedarse fuera de la carrera tecnológica. Porque si el sector público no se plantea desde ya acercar la IA a su realidad —y no al revés—, toda la promesa de eficiencia, transparencia y mejor gestión se quedará en un bonito cuento con final infeliz.

Han Xiao remata el mensaje sin rodeos: “No empecéis con chatbots. Empezad con el buscador. La verdadera inteligencia artificial está en encontrar la información precisa y útil, no en lanzar respuestas genéricas.”

Este enfoque cambiará el juego. ¿Quién dijo miedo? Cuando los políticos y funcionarios puedan confiar realmente en sus herramientas IA —seguras, localizadas, adaptadas— tendremos una transformación real, no un desfile de humo digital más.

¿Tú qué crees? ¿Podrá la IA pequeña y especializada colarse en los recovecos del sector público con éxito? ¿O seguirá siendo un sueño para especialistas y geeks? La apuesta está servida.

Artículos Relacionados