В технологиях нет ничего неизбежного. Это инструмент, который должен быть адаптирован к нашему представлению об истине, к нашим политическим и социальным принципам. Но не наоборот…
Сегодня экран нашего компьютера или смартфона напоминает дом без двери, превратившийся в проходной двор: как создавать какое-либо частное пространство, как принимать какое-нибудь осмысленное решение в этой постоянной толчее, где на нас все смотрят?
ради спасения эволюции, продолжения нашей борьбы с энтропией[174], сохранения самой идеи цивилизации, пребывающей в движении, нужно уберечь элемент случайности. А для этого необходимо восстановить форму индивидуальной автономии, которая может переиграть, удивить ИИ, возразить ему. Как же мы можем сопротивляться сладкоголосым сиренам утилитаризма? Как не стать «дивидами»?
Непредсказуемость – не нехватка знаний, которую нужно восполнить, как это представляют себе нынешние поклонники ИИ[173]. Это фундаментальный элемент эволюции знания.
«миф о целях»[172]. Его тезис прост: самые большие открытия – как в истории науки, так и в жизни человека – происходят за рамками поставленных целей и задач.
Верх парадоксальности: оптимизация – противоположность совершенствования! Оптимизация производится с конкретной целью, совершенствование же предполагает постоянную адаптацию к обстоятельствам, конечная цель которых неведома. Мир, строго подчиненный логике ИИ, будет непоправимо подвержен энтропии, будет тяготеть к застывшей стабильности.
«В большом количестве данные токсичны», – замечает Талеб[170]. Доля неадекватных данных, а значит, риск ложных корреляций растет в геометрической прогрессии по мере их накопления. Вот почему оптимизация наталкивается на естественные пределы.