Энтропия – это «недостающая информация», то есть информация со знаком минус. Общее количество энтропии может только возрастать, поскольку информация может только убывать .