Глава 3. Human override: «Кажется, система ошиблась»
Есть нечто почти трогательное в том, как мы, люди, умеем сомневаться в машинах. Мы создаём системы, способные контролировать траекторию полёта, следить за миллионами операций в секунду, предотвращать крушения и просчитывать поведение ветра за горизонтом. А потом – в самую критическую минуту – отодвигаем их в сторону. Потому что нам показалось, что они ошиблись.
Это называется Human override – ручное вмешательство человека в работу автоматической системы. Обычно это предусмотрено, разумно, нужно. Человек – последний резерв, финальный барьер на случай непредвиденного. Но в этих же самых ситуациях именно он становится уязвимостью. Не потому, что глуп. А потому, что человек – это ощущение. И ощущение часто обманывает.