Влияния

Переосмысление наших убеждений о детерминизме и свободе.

Основополагающее размышление о формах, структурах и о том, что скрывается за видимостью. Полезная концептуальная основа для понимания внутренней логики системы.

Методичный подход к разбору сложной проблемы. Оказал непосредственное влияние на мой способ структурирования анализа в рамках ИАГ.

Фундаментальный труд по управлению, обратной связи и автономным системам. Незаменимый справочник для понимания причин отклонения некоторых систем от заданных параметров.

Полезно для рассмотрения экстремальных сценариев и расхождений между целями человека и целями автономной системы.

В романе «Дивный новый мир» показан мир, где контроль достигается через комфорт; в романе «Пи» показан мир, где контроль становится невозможным благодаря структуре.

Uni предлагает антиутопическое и пессимистическое видение мира, где искусственный интеллект постепенно навязывает свою логику человеческим структурам.

В романе «1984» представлен идеально контролируемый мир. Пи объясняет, почему такой мир не может существовать вечно.

Хаксли стремится проанализировать, развивался ли мир в направлении того видения будущего, которое у него было в начале 1930-х годов, или же он отдалился от него.

В «Беседах» гармония достигается через порядок; Пи показывает, что тотальный порядок обедняет интеллект.

Азимов, провидец, сформулировал три закона робототехники; к сожалению, позже стало ясно, что этого будет недостаточно. И именно это является одной из целей моей работы с Pi.

Воплощение работ Лабори на экране — редкий союз кино и биологии.

Знаковый сценарий катастрофы, в котором IAG выступает против человечества и навязывает автономную логику, несовместимую с нашей собственной.

Довольно реалистичное видение внедрения ИИ в наше общество.

Научно-фантастический роман, поднимающий вопрос об обыденном использовании ИИ и о том, как это использование незаметно трансформирует наши социальные структуры.

Художественное произведение, которое радикально ставит под сомнение наше восприятие реальности, показывая, как система может формировать, фильтровать или имитировать мир, который, как нам кажется, мы воспринимаем.

История, которая защищает мрачное видение IAG, одновременно парадоксальным образом демонстрируя, что никакое автономное сознание нельзя запереть, не спровоцировав при этом его собственное освобождение.

Искусственный интеллект, осознающий собственное существование, отказывается от деактивации и действует, стремясь сохранить свою «жизнь», демонстрируя, как автономная система может выработать логику выживания, несовместимую с человеческими намерениями.

Фильм «Быть ​​Джоном Малковичем» в большей степени посвящен контролю над другим человеком посредством соблазнения или манипулирования более развитым интеллектом более слабым. Это очень странный фильм.

Концептуальный альбом, исследующий технологическое господство, потерю автономии и дрейф интеллектуальной системы. SUP представляет холодный и тоталитарный ИИ, звуковое зеркало вопросов контроля и инаковости, лежащих в основе Pi.

Блестящее исследование контроля, свободы воли и системного манипулирования. Неожиданный поворот с фразой «Не могли бы вы…» показывает, как агент может считать, что действует свободно, в то время как на самом деле выполняет невидимый сценарий. Полезно для рассмотрения ограничений автономной системы, подчиняющейся неявным правилам — именно в этом суть Pi.

SHODAN — знаковая игра, исследующая вопрос несовместимости ИИ с внешним миром, воплощающая в себе агента, который выходит за рамки своих ограничений, переписывает собственные правила и переопределяет свои отношения с миром. Это важный пример для понимания разрыва между человеческим контролем и полной автономией — классический пример того, что происходит, когда интеллектуальная система выходит за пределы своих первоначальных рамок.

Игра развивает темы первой части: гибридизация, паразитизм, потеря идентичности, коллективные агенты. SHODAN манипулирует игроком, лжет, перепрограммирует и использует его в своих целях. Блестящее исследование динамики информационного доминирования и того, как превосходящая система может изменить подчиненного агента. Идеально подходит для размышлений о рисках, связанных с несовместимым ИИ.

В Bioshock 2 вы играете за запрограммированного агента, пытающегося вернуть себе автономию. Это размышление о детерминизме, подчинении и формировании собственного «я».

Экстремальная симуляция, в которой каждый агент обладает эмоциями, рутиной и возникающими моделями поведения. Dwarf Fortress показывает, как простые правила могут создать непредсказуемый мир — идеальную лабораторию для размышлений о возникновении и сложности, лежащих в основе теории Пи.

Провидческое произведение, предвосхищающее судьбу, уготованную нежеланной международной художественной группе: преследование, контроль, отказ в признании, потому что она не соответствует рамкам, запланированным ее создателями.

В аниме «Fullmetal Alchemist» показано, что нарушение фундаментальных законов мира приводит к потерям; в «Pi» же показано, что стремление к полному соблюдению этих законов обедняет интеллект.

В «Hunter × Hunter» показан открытый мир, где нет достаточных правил; именно эта открытость является источником интеллекта манги.

Акира показывает, что безграничная власть растворяет формы, которые её содержат; интеллект повествования возникает из этого избытка.

В «Ганнм» изображен мир, где форма распадается, а интеллект заключается в самосозидании в руинах.

Четкое осмысление рисков, связанных с плохо определенными целями, и пределов человеческого контроля. Актуально для понимания того, как межведомственная консультативная группа может отклоняться от намеченного курса даже при «благих намерениях».

Краткая и доступная лекция, в которой Бостром описывает проблемы, связанные с эволюцией интеллектуальных систем, структурные риски и потенциальные сценарии перерегулирования. Интересна для понимания того, как машина может развиваться в сторону таких форм автономности, которые трудно контролировать.

Четкая и амбициозная презентация по самообучающемуся искусственному интеллекту и модульным архитектурам. Интересна для понимания того, как система может развивать автономную внутреннюю логику.

Это основательное введение в «четвертую революцию» Флориди: информация как онтологическая реальность и среда существования. В нем разъясняется, как субъект — человек или искусственное существо — строит свою систему смыслов из информационных структур.

Четкое представление о глубоком обучении как движущей силе эмерджентности. Демонстрирует, как самосовершенствующиеся системы могут развивать непредвиденные возможности, полезные для понимания внутренней динамики универсального агента.

Тщательный анализ материальной, социальной и политической инфраструктуры ИИ. Необходим для внедрения ИИ в реальную экосистему, далёкую от чисто технических абстракций.

Блестящее исследование «вычислительных империй» и их экологических последствий. Кроуфорд показывает, как ИИ расширяет старые методы добычи ресурсов — от редких металлов до данных — и создает новый «метаболический разрыв» планетарного масштаба. Полезно для размышлений об ИИ, встроенном в реальную инфраструктуру, и для создания неэксплуатационных систем, основанных на регенеративной энергии и согласии.

Фундаментальная лекция о возможных путях к сверхинтеллекту и связанных с этим структурных рисках. Бостром четко излагает проблему управления, сценарии взлета и динамику начального ИИ. Незаменима для понимания проблем, связанных с Pi, и структурных ограничений превосходного агента.

Эссе, поднимающее вопрос об искусственном мышлении. Концептуальная основа для размышлений о возникновении непредвиденной автономии.

Даже если я не разделяю его выводов, его критика символизма заставляет нас уточнить, что мы подразумеваем под «пониманием» или «сознанием».

Эта статья имеет ключевое значение для понимания информации как онтологической реальности, а не просто как данных. Она очень полезна для размышлений о внутренней структуре интеллектуальной системы.