Сыграло роль не просто самомнение, но представление о системе как о простом линейном единстве, как о том, в чем не может быть ничего особенного и нового. Система ответила на это совершенно непредсказуемым образом. Можно сказать, как «монстр». Справиться с ним уже операторы не смогли. В эти грозные минуты борьбы сверхсложная система ведет себя как живое существо. Как субъект, проявляющий свободную волю.
«Атомный монстр» разрушил самого себя и все вокруг…
26 апреля 1986 года в Чернобыле на переживших шок от страха операторов взглянуло другое лицо, о котором сразу же попытались забыть. И не только религиозные мистики углядели во всем происходящем длань дьявола. Но ошибались все. Антропоморфные качества сверхсложные системы проявляют и проявляли всегда. Нужно лишь внимательно к ним приглядеться. Раньше, например, древние греки, называли эти явления «богами». Боги сражались друг с другом, не обращая внимания на испуганных людей, с ужасом и почтением взирающим на эти ужасные битвы…
Общаться со сверхсложной системой как с простой бывает, подчас, весьма опасно. Она может неожиданно проявить РАЗУМ (если эта система – продукт техники, то это и будет «искусственный разум»), и он, будучи неожиданным, может победить своего Творца, не готового к такому соревнованию. Еще создатель кибернетики Норберт Винер посвятил этому книгу «Творец и робот».
Человеческий ум привык к обращению с простыми системами. Он не приспособлен к общению со сверхсложными системами. Обычные решения, которые кажутся человеку наиболее очевидными в тех или иных ситуациях, как правило, приводят к обратным результатам. Вот что об этом писал Дж. Форестер еще в 1969г.
«Большинство наших интуитивных решений выработалось на законах цепей отрицательной обратной связи первого порядка… Например, если мы греем руки над огнем…, цель процесса состоит в получении тепла без ожога рук. Существенной переменной такого процесса является расстояние от огня… Температура является функцией расстояния от огня… Связь между причиной и следствием прямая и ясная.
Но в сверхсложных системах причина и следствие зачастую не связаны так тесно ни в пространстве, ни во времени. Структура сверхсложной системы не является простой цепью обратной связи… Это система более высокого порядка, включающая многие состояния (уровни) … Наряду с цепями положительной обратной связи, описывающими поиск цели, она содержит цепи положительной обратной связи, описывающие процессы роста.