», – а большинство математиков, в свою очередь, считают, что «
Информация есть мера снятой неопределенности об объекте», то для программиста бессмысленно спорить и выяснять, кто прав – армейский устав или математическая теория коммуникаций. Важнее, следуя известному анекдоту, согласившись и с первым и со вторым определениями, выработать точку зрения, которая приведет к наиболее эффективному программному решению. По этой причине, в дальнейшем мы будем использовать некоторые компромиссные представления о понятиях и критериях, которые не всегда будут совпадать с традиционными для различных научных дисциплин.
Среди работ, лежащих в основе теоретических представлений об информации, необходимо особо выделить труды академика А. А. Колмогорова. В статье «Три подхода к определению понятия «Количество информации»» Колмогоров использует теорию алгоритмов применительно к определению «количества информации в чем-либо (х) о чем-либо (y)» [34]. Колмогоров предлагает оценивать сложность, а стало быть и информативность, объектов через минимальную длину программы, необходимой для получения y из x. Основываясь на этом подходе, можно понять причины проблем, возникших сегодня перед разработчиками поисковых систем, и затем найти пути их решения.