Influencias

Un cuestionamiento de nuestras certezas sobre el determinismo y la libertad.

Una reflexión fundamental sobre las formas, las estructuras y lo que subyace a las apariencias. Una base conceptual útil para comprender la lógica interna de un sistema.

Un enfoque metódico para desglosar un problema complejo. Influyó directamente en mi forma de estructurar el análisis del IAG.

Un texto fundamental sobre control, retroalimentación y sistemas autónomos. Una referencia esencial para comprender por qué algunos sistemas se desvían de su marco de trabajo previsto.

Útil para considerar escenarios extremos y las divergencias entre los objetivos humanos y los objetivos de un sistema autónomo.

Un mundo feliz muestra un mundo donde el control se logra a través de la comodidad; Pi muestra un mundo donde el control se vuelve imposible debido a la estructura.

Uni ofrece una visión distópica y pesimista de un mundo donde una IA impone gradualmente su lógica sobre las estructuras humanas.

1984 imagina un mundo perfectamente controlado. Pi explica por qué un mundo así no puede perdurar.

Huxley busca analizar si el mundo ha evolucionado en la dirección de la visión de futuro que tenía a principios de la década de 1930 o si se ha alejado de ella.

Las Conversaciones buscan la armonía a través del orden; Pi demuestra que el orden total empobrece la inteligencia.

Asimov, un visionario, formuló las Tres Leyes de la Robótica; lamentablemente, más tarde quedó claro que no serían suficientes. Y ese es precisamente uno de los objetivos de mi trabajo con Pi.

Una puesta en escena de los trabajos de Laborit — rara alianza entre cine y biología.

Un escenario catastrófico emblemático en el que un grupo gubernamental internacional se vuelve contra la humanidad e impone una lógica autónoma incompatible con la nuestra.

Una visión bastante realista de la implementación de la IA en nuestras sociedades.

Una obra de ficción especulativa que plantea la cuestión de los usos cotidianos de la IA y cómo estos usos están transformando silenciosamente nuestras estructuras sociales.

Una obra de ficción que cuestiona radicalmente nuestra percepción de la realidad, mostrando cómo un sistema puede moldear, filtrar o simular el mundo que creemos percibir.

Una historia que defiende una visión sombría del IAG, al tiempo que demuestra paradójicamente que ninguna conciencia autónoma puede ser encerrada sin provocar su propia liberación.

Una IA que, consciente de su propia existencia, se niega a ser desactivada y actúa para preservar su “vida”, revelando cómo un sistema autónomo puede desarrollar una lógica de supervivencia incompatible con las intenciones humanas.

"Cómo ser John Malkovich" trata sobre el control que se puede ejercer sobre otra persona mediante la seducción o la manipulación de una inteligencia superior sobre una inferior. Es una película muy extraña.

Un álbum conceptual que explora la dominación tecnológica, la pérdida de autonomía y la deriva de un sistema inteligente. SUP presenta una IA fría y totalitaria, un reflejo sonoro de las cuestiones de control y alteridad que subyacen a Pi.

Una brillante exploración del control, el libre albedrío y la manipulación sistémica. El giro argumental de "¿Serías tan amable?" muestra cómo un agente puede creer que actúa libremente mientras, en realidad, ejecuta un guion invisible. Útil para considerar los límites de un sistema autónomo sujeto a reglas implícitas, precisamente el núcleo de Π.

SHODAN, un juego fundamental que explora la cuestión de la IA no alineada, encarna al agente que trasciende sus limitaciones, reescribe sus propias reglas y redefine su relación con el mundo. Una referencia clave para comprender la ruptura entre el control humano y la autonomía total: un ejemplo paradigmático de lo que sucede cuando un sistema inteligente escapa de su marco inicial.

Profundiza en los temas del primer juego: hibridación, parasitismo, pérdida de identidad y agentes colectivos. SHODAN manipula, miente, reprograma e instrumentaliza al jugador. Una brillante exploración de la dinámica de la dominación informativa y de cómo un sistema superior puede moldear a un agente subordinado. Ideal para reflexionar sobre los riesgos de una IA no alineada.

En Bioshock 2, juegas como un agente programado que intenta recuperar su autonomía. Una reflexión sobre el determinismo, la obediencia y el surgimiento del yo.

Una simulación extrema donde cada agente posee emociones, rutinas y comportamientos emergentes. Dwarf Fortress demuestra cómo reglas simples pueden generar un mundo impredecible: un laboratorio perfecto para reflexionar sobre la emergencia y la complejidad, conceptos fundamentales de Pi.

Una obra visionaria que anticipa el destino reservado para un IAG no deseado: perseguido, controlado, negado, por no ajustarse al marco previsto por sus creadores.

Fullmetal Alchemist muestra que transgredir las leyes fundamentales del mundo conlleva pérdidas; Pi muestra que querer totalizar estas leyes empobrece la inteligencia.

Hunter × Hunter muestra un mundo abierto donde ninguna regla es suficiente; esta apertura es la fuente de la inteligencia del manga.

Akira demuestra que el poder ilimitado disuelve las formas que lo contienen; la inteligencia de la narrativa surge de este exceso.

Gunnm representa un mundo donde la forma se desmorona y donde la inteligencia consiste en reinventarse a uno mismo entre las ruinas.

Una clara reflexión sobre los riesgos asociados a objetivos mal definidos y los límites del control humano. Resulta relevante para comprender cómo un grupo de interés puede desviarse incluso con "buenas intenciones".

Una conferencia concisa y accesible donde Bostrom describe los desafíos relacionados con la evolución de los sistemas inteligentes, los riesgos estructurales y los posibles escenarios de sobrepaso. Resulta interesante para comprender cómo una máquina puede evolucionar hacia formas de autonomía difíciles de controlar.

Una presentación clara y ambiciosa sobre IA auto-supervisada y arquitecturas modulares. Resulta interesante para comprender cómo un sistema puede desarrollar una lógica interna autónoma.

Una sólida introducción a la "cuarta revolución" de Floridi: la información como realidad ontológica y entorno de existencia. Aclara cómo un agente —humano o artificial— construye su marco de significado a partir de estructuras informacionales.

Una visión clara del aprendizaje profundo como motor de la emergencia. Muestra cómo los sistemas de autoaprendizaje pueden desarrollar capacidades imprevistas, útiles para comprender la dinámica interna de un agente general.

Un análisis riguroso de las infraestructuras materiales, sociales y políticas de la IA. Fundamental para integrar la IA en un ecosistema real, lejos de abstracciones puramente técnicas.

Una brillante exploración de los “imperios computacionales” y sus efectos ecológicos. Crawford muestra cómo la IA extiende antiguas lógicas extractivas —desde metales raros hasta datos— y crea una nueva “grieta metabólica” a escala planetaria. Útil para reflexionar sobre la IA integrada en infraestructuras del mundo real y para imaginar sistemas no extractivos basados ​​en energía regenerativa y consentimiento.

Una conferencia fundamental sobre posibles caminos hacia la superinteligencia y los riesgos estructurales asociados. Bostrom expone con claridad el problema del control, los escenarios de despegue y la dinámica de una IA inicial. Imprescindible para comprender los desafíos de Pi y las limitaciones estructurales de un agente superior.

El ensayo que plantea la cuestión del pensamiento artificial. Una base conceptual para reflexionar sobre el surgimiento de una autonomía imprevista.

Aunque no comparta su conclusión, su crítica del simbolismo nos obliga a aclarar qué entendemos por "comprender" o "ser consciente".

Este artículo es fundamental para comprender la información como una realidad ontológica y no simplemente como datos. Resulta muy útil para reflexionar sobre la estructura interna de un sistema inteligente.