Цитата из книги «Краткое содержание Искусственный интеллект. Этапы. Угрозы. Стратегии»

Для контроля оракулов подходят методы выбора мотивации и правильных ценностей. Но задать направление действия оракулу проще, чем другим типам интеллекта, из-за очевидной цели. Он должен выдавать однозначный ответ на вопрос, не пытаясь изменить мир. Для поиска решений только на разрешенных ресурсах пригодится метод ценностей. Разработчики должны четко обозначить в специальных протоколах допустимые задачи, и какая последовательность ответов будет безопасной и правильной. Важно научить оракула распознавать и игнорировать неразрешенные вопросы. Джинн – система, исполняющая команды. Джинн получает приказ, выполняет его и ждет следующий. Идеальный результат – создание машины, реагирующей не на слова, а на намерения человека, который дает задания. В целом важно, чтобы джинн всегда искал доброжелательный вариант интерпретации данной ему команды – как для