Цитаты из книг автора «Стюарт Рассел»

Если мы используем для достижения своих целей механического посредника, в действие которого не можем эффективно вмешаться… нам нужна полная уверенность в том, что заложенная в машину цель является именно той целью, к которой мы действительно стремимся.

Люди разумны настолько, насколько можно ожидать, что наши действия приведут к достижению поставленных нами целей.

Третья причина, по которой я не предсказываю появление сверхинтеллектуального ИИ, — его принципиальная непредсказуемость. Он требует «концептуальных прорывов», как заметил Джон Маккарти в интервью 1997 г. Далее он сказал: «Вы хотите получить 0,7 Эйнштейна и 0,3 Манхэттенского проекта, причем сначала Эйнштейна

будут доверять персональному помощнику, только если его главнейшую обязанность составит служение пользователю, а не корпорации, которая его создала.

Итак, следует ли из этих двух обстоятельств, что мы должны отказаться от права на конфиденциальность, чтобы пользоваться преимуществами ИИ в быту? Нет. Дело в том, что обучающиеся алгоритмы могут работать с данными, используя методы конфиденциальных вычислений, и обеспечить пользователей возможностью сбора данных без какого-либо ущерба для конфиденциальности

Хорошая идея — подлинный прорыв — часто остается незамеченной в свое время, лишь впоследствии приходит понимание, что она закладывала фундамент для существенного развития ИИ, например, когда кому-то она приходит в более подходящее время

Главной проблемой является невежество — разумеется, не Аристотеля или Маккарти, а всех людей и машин, настоящих и будущих. Лишь в очень немногом из нашего знания мы абсолютно уверены. Особенно важно, что мы очень мало знаем о будущем. Невежество — прямо-таки непреодолимая проблема для чисто логической системы

В 1930 г. блестящий австрийский логик Курт Гёдель опубликовал знаменитую , выразимого в логике первого порядка, алгоритм даст нам ответ на этот вопрос, если тот существует.

Второй тип логики, тот, что Маккарти предложил для ИИ, называется .

В самом буквальном смысле современный микропроцессор — это просто очень большое математическое выражение, в сотни миллионов страниц, написанное на языке пропозиционной логики.