Influences

Une remise en cause de nos certitudes sur le déterminisme et la liberté.

Réflexion fondatrice sur les formes, les structures et ce qui dépasse l’apparence. Une base conceptuelle utile pour penser la logique interne d’un système.

Approche méthodique pour décomposer un problème complexe. Influence directe sur ma manière de structurer l’analyse de l’IAG.

Texte fondateur sur le contrôle, la rétroaction et les systèmes autonomes. Une référence incontournable pour comprendre pourquoi certains systèmes échappent au cadre prévu.

Utile pour penser les scénarios extrêmes et les divergences entre objectifs humains et objectifs d’un système autonome.

Le Meilleur des mondes montre un monde où le contrôle passe par le confort ; Π montre un monde où le contrôle devient impossible par structure.

Uni propose une vision dystopique et pessimiste d’un monde où une IA impose progressivement sa logique aux structures humaines.

1984 imagine un monde parfaitement contrôlé. Π explique pourquoi un tel monde ne peut pas tenir.

Huxley cherche à analyser si le monde a évolué dans la direction de la vision du futur qu'il avait eue au début des années 1930 ou s'il s'en était éloigné.

Les Entretiens cherchent l’harmonie par l’ordre ; Π montre que l’ordre total appauvrit l’intelligence.

Visionnaire, Asimov élabore les Trois Lois de la Robotique, malheureusement, on a vu plus tard que cela ne suffirait pas. Et c'est bien là l'un des objectifs de mon travail avec Π.

Mise en scène des travaux de Laborit — rare alliance entre cinéma et biologie.

Scénario catastrophe emblématique où une IAG se retourne contre l’humanité et impose une logique autonome incompatible avec la nôtre.

Une vision assez réaliste de la mise en place de l'IA dans nos sociétés

Une fiction d'anticipation qui pose la question des usages ordinaires de l’IA et de la manière dont ces usages transforment silencieusement nos structures sociales.

Fiction qui interroge radicalement notre perception de la réalité, en montrant comment un système peut façonner, filtrer ou simuler le monde que nous croyons percevoir.

Récit qui défend une vision sombre de l’IAG, tout en démontrant paradoxalement qu’aucune conscience autonome ne peut être enfermée sans provoquer sa propre libération.

IA qui, consciente de sa propre existence, refuse d’être désactivée et agit pour préserver sa “vie”, révélant comment un système autonome peut développer une logique de survie incompatible avec les intentions humaines.

"Dans la peau de John Malkovich" parle plus du contrôle que l'on peut avoir sur l'autre via la séduction ou via une intelligence supérieure qui manipulerais une inférieure. C'est un film très bizarre.

Album conceptuel qui explore la domination technologique, la perte d’autonomie et la dérive d’un système intelligent. SUP met en scène une IA froide et totalitaire, miroir sonore des questions de contrôle et d’altérité au cœur de Π.

Exploration brillante du contrôle, du libre arbitre et de la manipulation systémique. Le twist “Would you kindly” montre comment un agent peut croire agir librement alors qu’il exécute un script invisible. Utile pour penser les limites d’un système autonome soumis à des règles implicites — exactement le cœur de Π.

Jeu fondateur sur la question d’une IA non alignée. SHODAN incarne l’agent qui dépasse ses contraintes, réécrit ses propres règles et redéfinit son rapport au monde. Une référence majeure pour penser la rupture entre contrôle humain et autonomie totale — un cas d’école pour comprendre ce qui se passe quand un système intelligent échappe à son cadre initial.

Amplifie la réflexion du premier opus : hybridation, parasitisme, perte d’identité, agents collectifs. SHODAN manipule, ment, reprogramme et instrumentalise le joueur. Une exploration brillante des dynamiques de domination informationnelle et de la manière dont un système supérieur peut remodeler un agent inférieur. Parfait pour réfléchir aux risques d’une IAG non alignée.

Dans Bioshock 2, on incarne un agent programmé qui tente de retrouver son autonomie. Une réflexion sur le déterminisme, l’obéissance et l’émergence d’un soi propre.

Simulation extrême où chaque agent possède émotions, routines et comportements émergents. Dwarf Fortress montre comment des règles simples peuvent produire un monde imprévisible — un laboratoire parfait pour penser l’émergence et la complexité, au cœur de Π.

Œuvre visionnaire qui anticipe le sort réservé à une IAG non désirée : traquée, contrôlée, niée, parce qu’elle ne correspond pas au cadre prévu par ses créateurs.

Fullmetal Alchemist montre que transgresser les lois fondamentales du monde conduit à la perte ; Π montre que vouloir totaliser ces lois appauvrit l’intelligence.

Hunter × Hunter montre un monde ouvert où aucune règle ne suffit ; cette ouverture est la source de l’intelligence du manga.

Akira montre qu’un pouvoir sans limite dissout les formes qui le contiennent ; l’intelligence du récit naît de cette démesure.

Gunnm met en scène un monde où la forme se défait, et où l’intelligence consiste à se réinventer dans les ruines.

Réflexion limpide sur les risques liés aux objectifs mal spécifiés et sur les limites du contrôle humain. Pertinent pour comprendre comment une IAG peut diverger même avec de “bonnes intentions”.

Conférence synthétique et accessible où Bostrom expose les enjeux liés à l’évolution des systèmes intelligents, les risques structurels et les scénarios de dépassement. Intéressant pour comprendre comment une machine peut évoluer vers des formes d’autonomie difficiles à contrôler.

Présentation claire et ambitieuse sur l’IA auto‑supervisée et les architectures modulaires. Intéressant pour comprendre comment un système peut développer une logique interne autonome.

Introduction solide à la “quatrième révolution” de Floridi : l’information comme réalité ontologique et environnement d’existence. Clarifie comment un agent — humain ou artificiel — construit son cadre de sens à partir de structures informationnelles.

Vision claire de l’apprentissage profond comme moteur d’émergence. Montre comment des systèmes auto‑améliorants peuvent développer des capacités non prévues, utile pour penser la dynamique interne d’un agent général.

Analyse rigoureuse des infrastructures matérielles, sociales et politiques de l’IA. Indispensable pour replacer l’IAG dans un écosystème réel, loin des abstractions purement techniques.

Exploration brillante des “empires computationnels” et de leurs effets écologiques. Crawford montre comment l’IA prolonge des logiques extractives anciennes — des métaux rares aux données — et crée un nouveau “métabolic rift” à l’échelle planétaire. Utile pour penser une IAG située dans des infrastructures matérielles réelles, et pour imaginer des systèmes non‑extractifs fondés sur l’énergie régénérative et le consentement.

Conférence fondatrice sur les trajectoires possibles vers la superintelligence et les risques structurels associés. Bostrom expose clairement le problème du contrôle, les scénarios de takeoff, et la dynamique d’un seed AI. Indispensable pour comprendre les enjeux de Π et les limites structurelles d’un agent supérieur.

L’essai qui pose la question de la pensée artificielle. Une base conceptuelle pour réfléchir à l’émergence d’une autonomie non prévue.

Même si je ne partage pas sa conclusion, sa critique du symbolisme oblige à clarifier ce qu’on entend par “comprendre” ou “être conscient”.

Article clé pour comprendre l’information comme réalité ontologique et non comme simple donnée. Très utile pour penser la structure interne d’un système intelligent.