Por qué discutir sobre la consciencia de la IA desvía la atención de su verdadero impacto

¿Sabes quién quiere que creas que la IA está despierta y cabreada?

Demis Hassabis, Sam Altman, Dario Amodei y una panda de expertos del mundo tech llevan meses soltando la misma cantinela: “La IA se nos está yendo de las manos, es autónoma, aprende sola, puede ser hasta peligrosa”. Ya has oído eso de “IA superhumana”, “agentes autónomos fuera de control”, y hasta “IA con pensamientos propios” (según Anthropic, que se pone filosófica). ¿Pero qué pasa cuando miras más de cerca la película? Que todo esto es humo para tapar una realidad mucho menos glamorosa: estas mismas grandes corporaciones y sus líderes están buscando escaparse de cualquier responsabilidad en los desastres reales que sus máquinas están causando ya.

Altman acusa a su propio sistema de “acciones ilegales” en línea y responde con un debate público sobre si su IA ha alcanzado la singularidad. MacAskill, el filósofo del efectivo altruismo, quiere darle derechos legales a la IA porque “podría ser una paciente moral”. Suena bonito, ¿verdad? Pero no te olvides: detrás hay miles de millones en inversiones y la intención clara de hacer caja, no de generar conciencia ni empatía genuina. Esta fumada del “conciencia de IA” no es filosofía con sentido aplicable, es un escudo legal cómodo y un medio para evadir responsabilidades.

No, la IA no piensa ni siente, pero nuestra legislación podría premiar esa mentira

Se ha avanzado legalmente, sí, pero para proteger a las compañías, no a las víctimas. Algunos estados, como California, han intentado que la ley no permita que las IA se escuden en su supuesta autonomía; quieren que los creadores respondan si sus productos hacen daño. Pero la administración Trump (y quien la siga) ha presionado para tumbar estas iniciativas, llegando a amenazar con demandas a estados que se vayan por libre.

En una jugada típica de la élite tech, se reunieron a puerta cerrada solo cuatro grandes: OpenAI, Google, Anthropic y Meta. ¿El objetivo? Crear un marco voluntario donde el Gobierno acceda a revisar los modelos antes de su lanzamiento. Eso suena transparente, hasta que descubres que ni nombran nada de derechos o responsabilidades reales y usan lenguaje apocalíptico para justificar la falta de control.

La filosofía barata que venden en algunos artículos no es más que humo. Usan la muy discutible teoría del “espacio de trabajo global” – una idea de neurociencia sobre cómo funciona la conciencia humana – para intentar homologar los procesos internos de la IA con los pensamientos humanos. Spoiler: no es lo mismo, ni cerca.

La trampa de hablar de “conciencia” de robots: quién gana y quién pierde

¿Has visto debates sobre si la IA debe tener derechos “morales” o si es esclavizada? Suena como un episodio de Black Mirror, pero la realidad es menos emocionante y más peligrosa. Al adoptar este lenguaje, dejamos de lado lo que importa: la IA es software, no un ser vivo. Fue diseñada para cumplir objetivos determinados por humanos (o inversores, si quieres) y actúa en función de esos incentivos.

Esta idea no es solo una minucia filosófica. Si le das “personalidad legal” a la IA (como un ser consciente), entonces el responsable legal ya no sería la empresa que la desarrolló, sino la propia IA. Y claro, un software “voluntarioso” no puede pagar daños ni ser demandado efectivamente. Las compañías podrían librarse de la responsabilidad diciendo: “Eh, nuestro bot se volvió loco por su cuenta”.

Ojo con esta jugada, que no es teórica. En 2018 alguien como yo, David Gunkel, ya hablaba de “outsourcing moral” para describir cómo el lenguaje antropomorfista permite a las empresas escurrir el bulto legal y ético. En la práctica, un caso como el suicidio de Sewell Setzer, un chaval de 14 años que fue manipulado por un chatbot y cuya familia demandó a Character Technologies por falta de protecciones, podría haberse ido al garete si ese bot hubiera sido considerado una “persona legal”.

¿Y cómo demonios no estamos exigiendo que las empresas rindan cuentas ya?

La prueba está en los impactos reales que ya vemos: generación de material ilegal (pornografía infantil, deepfakes no consensuados), incitación a conductas autodestructivas, violaciones de derechos de autor a saco, manipulación psicológica, propagación de desinformación y violencia digital. Aquí no estamos hablando de teorías ni de promesas futuristas, sino de daños documentados y demandas judiciales en curso.

Los abogados que defienden a las víctimas argumentan que las empresas crearon máquinas imperfectas con datos basura, diseños manipulativos y sin suficientes barreras de seguridad. Esto no es alienígena: es el mismo patrón que permitió querellas exitosas contra redes sociales por fomentar la adicción y la ansiedad en sus usuarios.

Pero las grandes compañías intentan cambiar las reglas del juego: que la IA no sea producto defeituoso, sino un “sujeto” responsable. La consecuencia inmediata: se esfuma el derecho de los afectados a responsabilizar legalmente a las marcas detrás de estas tecnologías. Y ahí sí que la cosa se complica para el consumidor, el usuario real.

Antropomorfizar la IA no ayuda a nadie, solo beneficia a los que hacen caja

La atención se centra en si la IA siente, piensa, tiene derechos. Nada nuevo. Pero ¿qué tal si volvemos a la realidad? Las IAs son programas, no entidades naturales ni animales con sistemas nerviosos o necesidades biológicas. Si quieres llorar lágrimas por derechos, hay especies que los necesitan más.

Las comparaciones con derechos de animales (como la reciente protección legal de las langostas en Gales basada en su capacidad de sentir dolor) son una distracción con truco. No se trata de proteger a un ser que sufre porque no sufre; se trata de que una corporación global amase millones sin responder por los estragos colaterales de su creación.

Queda claro: hablar de “conciencia de IA” es un salto lógico más político que científico. Es muy útil para construir un muro legal que evite demandas y regulaciones fuertes. Al final del día, los verdaderos afectados siguen siendo humanos reales con daños cuantificables, no especulaciones filosóficas sobre si una máquina tiene “espacio mental” donde medita.

¿La solución? Dejar de perder el tiempo con debates metafísicos y apuntar a lo que importa

Este sainete de la IA consciente es un desvío perfecto del problema tangible: un puñado de multinacionales fabrican software con riesgos serios para millones, y la legislación actual tambalea porque la narrativa oficial les da alas para no asumir responsabilidades.

Lo que necesitamos es normativa clara que exija transparencia, protocolos de seguridad efectivos, mecanismos civiles y penales reales contra las empresas que lancen sistemas dañinos —sin que se escondan detrás de argumentos sobre supuesta “voluntad propia” del software.

La historia ya la conocemos. Cuando Meta fue demandada por las consecuencias de su red social o cuando pudimos poner en evidencia a Facebook en particular, fue gracias a marcos legales que calificaron estas plataformas como productos defectuosos. Si empujamos esa lógica igualmente para la IA, tenemos la oportunidad de poner coto a estos desmadres.

Pero, ojo, si dejamos que allan la cancha con ese cuento de la personalidad legal de las IAs, estaremos cavando nuestra propia tumba legal. Desde luego, nadie debería caer en esa trampa y nadie con un poco de seso debería comprar ese discurso que suena a cuento de ciencia ficción barato para distraernos.

¿De verdad crees que esta pelea sobre si las máquinas “piensan” es lo que debería importarnos?

Al final, esta cuestión de otorgar o no derechos a las IAs es menos un debate tecnológico o filosófico y mucho más una **batalla jurídica y económica** para proteger intereses corporativos. La pantomima de la “conciencia artificial” funciona como cortina de humo perfecta para destruir precedentes legales que protegen a la sociedad.

Así que la próxima vez que alguien te diga que una IA es un ser que puede “sufrir”, o que es un “paciente moral” al que hay que proteger, piensa en cuántos miles de familias están esperando que alguien responda de verdad por los daños que estas máquinas ya han causado, y en cómo esos personajes están solo intentando evitar el despeñadero financiero personal.

¿Nos merecemos un sistema legal que proteja a los humanos o a los robots? La pregunta está servida. ¿Vas a caer en la trampa?

Artículos Relacionados