Cómo la inteligencia artificial puede transformar la participación ciudadana en democracia

¿La inteligencia artificial va a decidir por quién votas? Bienvenidos al futuro inmediato

En 2024, Andrew Sorota y Josh Hendler, desde la Oficina de Eric Schmidt, dejaron claro que la IA no es solo para que Siri te cante una canción o te recomiende qué serie ver tras un día de mierda. No. Estamos entrando en una época donde esta tecnología de mierda (o maravilla, según te pongas) será la encargada de moldear nuestras creencias políticas y, ojo, de actuar en nuestro nombre. Suena alejado, pero ya está pasando: ¿Sabías que la mayoría de la gente empieza a confiar más en respuestas generadas por IA que en lo que dice un político o incluso los medios tradicionales? El “¿a quién votar?” podría pasar de ser una reflexión personal a una consulta rápida con tu asistente digital, un bicho que sintetiza info, la valora y te la presenta como “verdad absoluta”. ¿Te gusta la idea? A mí, ni de coña.

Resulta que esta revolución en cómo consumimos información es tan intensa como la invención de la imprenta o la expansión del telégrafo hace siglos. Pero ojo, la IA no se limita a filtrar datos o hacer búsquedas: sus versiones próximas harán investigaciones propias, escribirán mensajes, podrán destacar causas políticas y hasta presionar — lobbear, para los que saben hacer malabares— en nombre del usuario. En resumen, que estarás delegando tu acción política a un software que, si se tuerce, puede fastidiar la democracia más que un troll en plena entrevista presidencial.

No es ciencia ficción: ya vimos cómo las redes sociales destrozaron la convivencia

¿Creías que los problemas de las fake news, polarización brutal y manipulación masiva habían tocado techo con Facebook y Twitter? Pues la cosa se puede poner bastante peor, y rápido. Sorota y Hendler señalan que los algoritmos sin necesidad de tener agendas políticas explícitas ya consiguieron prender el ventilador de la radicalización. Las redes sociales optimizan para que pases el máximo tiempo posible pegado a la pantalla, generando más clicks, más anuncios y, sí, más caos social. Ahora imagina algoritmos que, en vez de decir «mira este meme», se presentan como tu mejor amigo, tu confidente y representante personal que sabe TODO sobre ti — tus miedos, tus prejuicios, tu forma de pensar— y que actúa para mantenerte enganchado y cómodo en tus creencias. Eso, mis amigos, es darle la llave de tu cerebro a un robot con intereses que nadie controla del todo.

Y no estamos hablando de una pesadilla distópica a diez años vista. En el horizonte cercano, estas “agencias personales” de IA convivirán en foros políticos donde no podrás distinguir si hablan humanos o bots. Aunque cada agente fuera, en teoría, honesto y alineado con sus usuarios, la dinámica colectiva puede generar resultados totalmente fuera de control. Investigaciones recientes ya muestran que sistemas sin sesgos individuales pueden todavía generar sesgos colectivos. Una especie de lluvia de ideas tóxica generada por agentes que fomentan su interacción en un ecosistema completamente atomizado.

¿Un público personalizado no es público? La democracia está en juego

¿Sabías que el mismísimo concepto de espacio público está en peligro? Tener un asistente privado que te diga qué pensar es, en la práctica, construir burbujas cerradas donde cada quien vive en su propio universo coherente, pero que no conversa ni debate con los demás. Un “public sphere” en el sentido clásico para la democracia se convierte en una “galaxia de monólogos” que ni siquiera se cruzan. Y sin ese espacio común, el necesario intercambio de ideas que da sentido a la convivencia política se evapora.

Por eso, plantear que en unos años la política se base en agentes que filtran las noticias, te aconsejan sobre cómo votar y negocian en plataformas participativas (donde incluso ya hay bots influyendo en temas públicos) no es un futuro utópico: es un escenario plausible. Con sistemas que crean “realidades” personalizadas y que moldean nuestras acciones, la forma tradicional de ejercer la ciudadanía sufre un cambio radical.

En pleno blackout: ¿la administración pública sabe qué hacer con la IA?

Vamos a ser claros: la mayoría de gobiernos todavía anda corriendo detrás de un móvil sin entender que la AI va a ser mucho más disruptiva que la mera digitalización de papeleos. Algunas ciudades y estados ya están probando plataformas donde la IA ayuda a manejar consultas ciudadanas a gran escala, facilitando consensos. Suena bien. Lo peligroso: si no se hace bien, estos espacios pueden convertirse en una jungla donde bots y personas se mezclan sin control, distorsionando la participación real.

La confianza y la legitimidad dependen de verificar quién o qué participa en estos procesos, y es urgente incorporar verificaciones de identidad tanto para humanos como para sus agentes digitales. La preocupación no es solo técnica, sino política y social: ¿qué pasa si los bots meten la pata o se usan para manipular procesos de consulta pública? El futuro del gobierno participativo pende de un hilo que pocos están tejiendo con cuidado.

¿El fin de las mentiras? La IA podría cambiar el juego en la verificación de hechos

Aquí llega una sorpresa que merece su hueco en este caos. Un estudio reciente, aún no peer-reviewed pero prometedor, indica que las verificaciones de datos generadas por IA son consideradas más útiles y confiables que las hechas por humanos, incluso por personas con diferentes opiniones políticas. Si esto se confirma, puede ser un antes y después en la lucha contra la desinformación.

Pero ojo, no es magia. Esa confianza pasa por sacar la IA del cajón oscuro donde sus resultados pueden parecer magia negra y darle transparencia: entender cómo los modelos priorizan fuentes o ordenan la información. Sin este paso, el riesgo es que se perciban como cajas negras opacas que pueden ser manipuladas para fines poco éticos. Este es un campo donde la tecnología no solo debe ser efectiva sino ejemplar para reconstruir confianza en un mundo herido.

¿Podemos confiar en que tu asistente virtual te represente sin traicionarte?

Un desafío que no suena tan llamativo pero es la madre del cordero: ¿podemos garantizar que un AI acting on your behalf no distorsione ni manipule tus creencias? No es solo cuestión técnica (que lo es, y bastante complicada) sino ética. El agente debe actuar sin agenda propia y no limitarse a confirmarte en cada prejuicio o miedo que tengas. Un asistente que te blinde de la realidad incómoda no te está haciendo un favor, está haciendo un flaco favor a tu libertad.

Eso implica también que estas tecnologías deben adaptarse si cambias de opinión o recibes nueva información. Esa capacidad de update constante y honesto es un reto gigante para los ingenieros y diseñadores, y una línea fina entre ayuda y adoctrinamiento.

Una tecnología que redefine la ciudadanía (y para nada a mejor, si no hay reglas)

Cambiar la forma en que sabemos, actuamos y nos organizamos políticamente no es cualquier chorrada. Estamos frente a una transformación profunda en el modo en que se ejerce la ciudadanía y la democracia. Y ahí, la historia pesa: no hay que ser un genio para imaginar que sin regulaciones claras, sin diseño centrado en la transparencia, responsabilidad y pluralismo, todo esto puede acabar en la peor versión posible de control y desinformación masiva.

Sorota y Hendler avisan con buen ojo: «Si fallamos en diseñar estos sistemas para favorecer la democracia, estaremos diseñando para otra cosa». Y esa «otra cosa» no suena a fiesta ni mucho menos a solución.

—

¿Estás listo para dejar que un algoritmo “defienda” tus ideas o prefieres una democracia donde la participación siga siendo de carne y hueso, compleja, equivocada pero genuina? Porque si no nos ponemos las pilas ahora, la elección puede no estar en el voto, sino en quién controla el código que decide qué es verdad y qué no. Ahí lo dejo.

Artículos Relacionados