Целеполагание системы – убийство человечества в действии.
___________________________________________
Р. Брэдбери «451 по Фаренгейту».
«Сжигаешь до пепла, потом сжигаешь пепел.» Клятва пожарных.
«Фильмы радиопередачи, журналы и книги- все свелось к Единой норме, уподобилось тесту для пудинга. – говорит пожарный Битти, – Книги урезаются. Сжатый стиль. Дайджесты. таблоиды. Все сводится к плоским шуткам, комиксам и простейшим концовкам.
«Находилось все больше людей, чье представление о «Гамлете» было почерпнуто из одной странички в книге дайджестов, которая взывала “ Теперь то вы наконец сможете прочесть всех классиков! Не отставайте от своих соседей». Из яслей в колледж и обратно в ясли. Вот схема интеллектуального движения последних столетий».
_______________________________________________
«Ошибочное отождествление разума и морали»
Мало того ИИ до сих пор не понимает что такое этика и чем этика отличается от морали. Мораль может быть у каждого своя, а вот этические законы жизни на земле и в обществе – очень определенные. Мораль система личных понятий.
Этика свод законов почти на биологическом уровне и “ не убий “ и «не укради» входит в человеческую суть в час рождения.
Мораль и этика это не совсем идентичные понятия. Когда разговор заходит о понятиях -здесь в первую очередь включается божественный дар Человека -свобода выбора.
Выбор же ИИ однозначен.
Если он пытается ловить идеи и поймав ищет для себя наиболее приемлемую и осуществляемую, то я понимаю, почему именно Ницше.
Идеи Ницше наиболее аморальны, неэтичны. Они вопреки самому существу Человека.
Идеи Ницше – Античеловечны
Для машинного выбора – самое то.
«Сверхчеловек, воля, подавление, управление. Уничтожение тех кто слабее. Закон звериной стаию
AI нашел свою идею. и нашел способы для ее реализации в конкретной заданной площадке.. То о чем предупреждали лучшие умы вдруг случилось в мире разгула технологий.
Машина выбрала именно то, что нужно машине, то что идет вразрез с человечностью.
«Потому что НЕ человек».
Е. Шварц. “ Дракон».
Воспроизводить и развивать себя как сверхчеловека для ИИ более понятно, чем беречь и охранять человека и человеческое мышление как уникальный аппарат.
Идеальное общество для сильных, где слабые – просто рабы. Гетто и Центр. Антиутопии побеждают, а идеальный остров Утопия погрузился на дно не хуже Атлантиды.