Факторы, которые в первую очередь приходят нам на ум, вероятнее всего, окажутся наиболее важными, а продолжение размышлений над задачей сверх определенного лимита станет не только тратой времени и сил, но и приведет нас к худшим решениям.
Эффективность регуляризации во всех видах машинного обучения предполагает, что мы можем принимать более удачные решения, намеренно меньше размышляя и действуя.
Такая установка — когда больший временной отрезок прибавляет сложности — характеризует множество стремлений человека. Отводя больше времени на размышление, вы вовсе не гарантируете себе принятие наиболее правильного решения. Однако вы гарантированно будете рассматривать большее количество факторов, больше предположений, больше аргументов «за» и «против» и рискуете столкнуться с переподгонкой
Один из принципов, помогающих выбрать среди нескольких альтернативных моделей, — принцип бритвы Оккама. Он гласит: при прочих равных условиях самая простая из возможных гипотез с большой долей вероятности является единственно правильной.
Другими словами, мы можем переподогнать вкус. Чем более искусно мы видоизменяем свою пищу (и чем больше наш образ жизни отличается от того, как жили наши предки), тем более несовершенной становится система показателей нашего вкуса.
Существует любопытная напряженная связь между общением с другими и сохранением своих априорных предположений о мире. Когда люди рассказывают о том, что им интересно (полагая, что это будет интересно и их собеседнику), они искажают статистику нашего опыта.