Цитаты из книги «Технологии против человека»

Нам необходимо срочно задать себе вопрос, действительно ли мы хотим заменить наши врожденные человеческие чувства и возможности обещанием совершенных функциональных возможностей машины и постепенно потерять сам смысл человеческого бытия?

Наблюдая за экспоненциальной мощью технологий, я догадываюсь, к чему это может привести: экзогенез – беременность вне матки, дети, рожденные в лабораториях. Эффективно ли отслеживать ваш автомобиль или любые другие транспортные средства 100 % времени по каждому параметру, такому как скорость, направление, ускорение, внутренняя температура и качество наружного воздуха?

Нам нужно будет быть очень осторожными при принятии решений, основанных исключительно на эффективности, которая почти наверняка приведет к ликвидации рабочих мест для людей, устранит полномочия людей или иным образом заставит их автоматизироваться, уступить и «отречься от престола»

Если достижение максимально возможной эффективности будет оставаться главной задачей, то стремительный рост производительности машин в экспоненциальной эпохе означает, что люди в скором времени, вероятно, не будут участвовать вообще ни в чем.

Анонимность, тайна, беспринципность и ошибки являются важнейшими человеческими атрибутами, которые мы не должны пытаться устранить с помощью технологических средств.

Глобальный совет по вопросам цифровой этики, как мне кажется, должен состоять из хорошо информированных и глубоко мыслящих людей из гражданского общества, академических кругов, правительства, бизнеса и технологий, а также независимых мыслителей, писателей, художников и идейных вдохновителей. (Я и сам был бы рад присоединиться!) Он должен быть глобальным с самого начала и, со временем Совету могут потребоваться аналогичные или даже более широкие полномочия по сравнению с

теми, которыми обладают сегодня специальные эксперты ООН по правам человека, а именно – право контролировать, консультировать и публично сообщать о проблемах и нарушениях Как и в случае с устойчивым развитием, этика часто является последним, чисто номинальным пунктом на повестке дня, который могут исключить всякий раз, когда происходит что-то более срочное. Это принципиально ошибочный и очень опасный подход к охране нашего будущего. Так как мы вступаем в эпоху, когда важнейшие события будут происходить поначалу постепенно, а потом ситуация будет развиваться стремительно, у нас просто не будет взлетно-посадочной полосы, чтобы обдумать этические вопросы в тот момент, когда они уже будут безвозвратно раздавлены думающими машинами. Принцип «поживем – увидим» просто-напросто означает отречение человечества от престола.

Нам необходимо определить ряд реалистичных этических норм, которые подходят для цифрового века: достаточно открытые, чтобы не тормозить прогресс или препятствовать инновациям, но достаточно сильные, чтобы защитить нашу человечность. Нормы, которые станут компасом, а не картой для будущего, в котором более мощные технологии сначала расширят свои возможности, затем дополнят их, а затем станут еще сильнее угрожать человечеству.

Биоэтик Лэрри Черчилль говорит, что «этика, понимаемая как способность критически осмыслять нравственные ценности и управлять нашими действиями с позиции таких ценностей, является общим потенциалом человечества»

Сегодня самая неотложная задача состоит в том, чтобы осознать различие между нами и машинами и понять: мы не найдем в машинном мире наших идеалов – их надо искать внутри нас самих. – Стивен Талбот188,[107]