Цитата из книги «Краткое содержание Искусственный интеллект. Этапы. Угрозы. Стратегии»

Сценарий захвата мира искусственным интеллектом Разработчик первого сверхразума будет иметь над остальными подавляющее преимущество. Но созданная система может оказаться настолько могущественной, что уничтожит своих творцов, человечество и весь мир. Даже машина, запрограммированная на мирную цель, такую как подсчет песчинок или изготовление канцелярии, однажды может захотеть разрушить всё, что мешает достижению ее намерений, включая людей. Для захвата власти на Земле потребуется несколько периодов. Отправная точка – создание искусственного интеллекта, который первое время полностью будет