Цитаты из книги «Что мы думаем о машинах, которые думают: Ведущие мировые ученые об искусственном интеллекте»

Но совсем не обязательно сверхразумное существо должно испытывать то же эволюционное давление, которое заставляет нас исследовать окружающий мир (говоря «нас», я имею в виду непрочные водянистые кульки, именуемые людьми). Действительно ли исследование – это и биологический, и технологический императив? Будет ли у разумных машин мотивация для экспансии?

Инженеры и система ценообразования

Можно ли избежать цифрового апокалипсиса? Сэм Харрис

Проблема загрузки ценностей Элиезер Юдковски

Они сделают нас лучше? Стюарт Рассел

Быстрый, точный и глупый Хелен Фишер

Так что не человеческий разум, а разум машин наиболее полно осмыслит мир. Именно их действия сильнее всего изменят наш мир, а возможно, и то, что находится за его пределами.

Потому-то в долгосрочной эволюционной перспективе люди и все, о чем они когда-либо думали, станут всего лишь примитивной переходной формой, предшествовавшей более глубокому мышлению новой машиноориентированной культуры, простирающейся в отдаленное будущее и далеко за пределы Земли.

Что характерно, многие из известных технопророков даже не задумываются о том, что искусственный интеллект может естественным образом развиваться по женскому типу, то есть будет вполне в состоянии справляться с решением своих задач, не испытывая желания истреблять невиновных или властвовать над цивилизацией.

если мы размышляем над проблемой норм обращения с животными, вопрос состоит не в том, могут ли они мыслить, а в том, могут ли они страдать.