Цитаты из книги «Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта»

Сверхразум может мирно сосуществовать с людьми, либо потому, что принужден к этому (сценарий плененного бога), либо потому, что так хочет его “дружественный искусственный интеллект” (сценарии либертарианской утопии, бога-защитника, благодетельного диктатора или зоопарка). •

Я предлагаю людям пройти ребрендинг и стать .

Марголус и Тоффоли создали термин для абстрактного вещества, которое способно иметь субъективный опыт (от латинского sentio – чувствовать, ощущать)

Для данного физического процесса, преобразующего с течением времени начальное состояние системы в какое-то новое состояние, его интегральная информация Ф представляет из себя меру невозможности разделить этот процесс на независимые части. Если состояние каждой части определяется только ее прошлым состоянием и не зависит от того, что происходило с другой частью, то Ф = 0: то есть то, что мы называли системой, вовсе ею не является, а представляет собой две независимые системы, не коммуницирующие друг с другом

сознание – эмергентное явление, свойства которого лежат за пределами свойств составляющих его частиц

Исследователи нейронных коррелятов тщательно измеряли, сколько именно времени на это требуется, и окончательный итог, подведенный Кристофом Кохом, сводится к тому, что проходит около четверти секунды от момента, когда свет от какого-то сложного объекта проходит через глаз, до тех пор, пока вы осознанно его воспримете таким, каков он есть {108}

сознание = субъективные переживания

соответствии с которыми наш космос состоит из движущихся элементарных частиц, сложно увидеть, почему какая-то одна интерпретация “хорошести”, а не какая-то другая должна играть какую-то специальную роль. Нам еще надо определить некую финальную цель для нашей Вселенной, которая окажется и определимой, и желаемой. Единственные программируемые на данный момент цели, которые точно останутся хорошо определимыми, когда искусственный интеллект станет намного более разумным, это цели, выраженные исключительно в физических категориях, таких как упорядоченность частиц, энергия и энтропия. Однако в данный момент у нас нет причин верить, что любая из таких определимых целей будет желаемой, гарантируя выживание человечества.

людям, свойственно отдавать предпочтение одной организации частиц перед другой

почему мы должны насаждать нашу этику для будущих поколений, которые могут быть существенно умнее нас?