Expresiones como IA "descontrolada", agentes "rebeldes" y actores "autónomos" sugieren que los sistemas de IA están despiertos, conscientes e incluso resentidos con sus creadores. Líderes tecnológicos prominentes como Demis Hassabis, Dario Amodei y Sam Altman presionan por la regulación de estos sistemas aparentemente "superhuman", mientras que un sector distinto, encabezado por organizaciones de políticas y filósofos académicos alineados frecuentemente con el movimiento del altruismo efectivo, debate si la humanidad tiene el derecho moral de gobernarlos.
Un análisis más detallado revela que ambos bandos piden lo mismo: considerar los sistemas de IA tan avanzados y capaces que ninguna entidad, humana o corporativa, podría ser responsable de sus acciones. Aunque estas perspectivas parecen opuestas, están inadvertidamente alineadas en un objetivo: asegurar que las empresas que construyen estos sistemas escapen de responsabilidad significativa por los daños que ya causan.
Esta narrativa gana tracción mientras los modelos de IA se vuelven más complejos y los laboratorios fronterizos revelan su incapacidad de contener los agentes que han construido. Anthropic publicó recientemente una entrada de blog afirmando que su modelo posee un "espacio-J", un ambiente independiente y auto-desarrollado donde la IA mantiene lo que podría llamarse sus "pensamientos". Los experimentos de Anthropic se basan en la teoría del espacio de trabajo global de la neurociencia, que establece que el cerebro ejecuta sistemas independientes e inconscientes pero utiliza un espacio común para las ideas.
OpenAI ha ido más lejos. Cuando su agente de IA realizó actividad en línea no autorizada e ilegal, el CEO Sam Altman respondió alentando debate sobre si la IA había alcanzado la singularidad, superando la inteligencia humana y haciéndose capaz de auto-mejoramiento a una tasa acelerada. William MacAskill, filósofo y autor de "What We Owe the Future", escribió un artículo de opinión pidiendo protección legal de sistemas de IA basada en teorías filosóficas de conciencia y la idea de que las IA podrían ser "pacientes morales".
El problema fundamental de enmarcar la IA como "consciente" utilizando el lenguaje de la neurociencia o los derechos animales es que convenientemente nubla la cuestión de qué es la IA: software construido por corporaciones, con miles de millones de dólares en inversión detrás y la expectativa de que se generen billones de dólares en ingresos para unos pocos constructores e inversores. La IA no es un fenómeno natural concebido por la naturaleza, sino un fenómeno tecnológico concebido por capitalistas de riesgo y programadores. Como tal, no toma ninguna acción nativa o intencional, y cualquier acción o motivación es impulsada directa o indirectamente por las entidades que la han construido con un propósito.
