“Artificial general intelligence” by Julian Togelius

© 2024 Massachusetts Institute of Technology

Права на издание книги на русском языке приобретены через Агентство Александра Корженевского» (Москва)

© Издательство Института Гайдара, 2025

* * *

В книге содержатся упоминания компании Meta Platforms Inc., включенной в Перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

* * *

1. Введение

Понятие искусственного интеллекта (ИИ) многогранно. Это и давняя мечта человечества создать мыслящие машины, не уступающие человеку в способности рассуждать. Это и образы из массовой культуры: Терминатор, ВАЛЛ-И и Дейта из сериала «Звездный путь: следующее поколение». В научном мире ИИ – это предмет теоретических и экспериментальных исследований в университетских лабораториях. А в повседневной жизни – это уже существующие технологии, которые прокладывают маршруты, обрабатывают фотографии, управляют игровыми персонажами, ищут информацию в интернете и таргетируют рекламу на основе наших запросов.

В общественных дискуссиях часто происходит путаница между разными аспектами ИИ. Когда видишь заголовок «ИИ захватит мир», а потом смотришь на работу автодополнения в телефоне, становится очевидно, что такая несовершенная система едва ли способна на мировое господство. Или когда выбираешь автомобиль с ИИ-ассистентом вождения, может возникнуть необоснованное беспокойство, что система обретет собственный разум, как компьютер HAL 9000 из фильма «2001 год: Космическая одиссея». Существует явный диссонанс между статьями о превосходстве искусственного интеллекта над человеком и реальными экспериментами, где боты демонстрируют примитивное поведение, бесцельно двигаясь по кругу и натыкаясь на препятствия. Это вызывает сомнения в том, что авторы громких заголовков когда-либо сталкивались с реальной разработкой систем ИИ.

Один источник путаницы – это смешение реальных технологий с художественным вымыслом. Другой – смешение систем, выполняющих одну задачу, с системами, способными выполнять множество разных задач, даже таких, которым они не были обучены. Системы ИИ в фильмах «2001 год: Космическая одиссея», «Терминатор» и «ВАЛЛ-И» способны делать необычайно много вещей. Так, Терминатор может имитировать голоса только что встреченных людей, разрабатывать сложные планы, проводить расследования, управлять мотоциклом и сражаться с множеством полицейских, используя различное оружие. В то же время AlphaGo, система ИИ, поразившая мир в 2016 году победой над лучшими игроками в го, умеет только играть в го. Она не способна играть даже в шахматы без полного переобучения, не говоря уже об управлении мотоциклом или сражении с полицией.

Эта книга посвящена общему искусственному интеллекту (artificial general intelligence), или ОИИ (AGI), понятию, которое до сих пор не имеет единого определения. Несмотря на многочисленные попытки определить ОИИ, существующие формулировки часто расплывчаты и противоречивы. Билл Гейтс дает краткое определение: «программное обеспечение, способное обучаться любой задаче или предмету».^[1] Джон Кармак, легендарный игровой технолог и один из создателей Doom, предлагает иное видение: «форма ИИ, которая не просто имитирует человеческий интеллект, а понимает суть вещей и решает проблемы».^[2] Исследователь ИИ Мюррей Шанахан определяет ОИИ как «искусственный интеллект, не ограниченный специфическими задачами, а способный осваивать такой же широкий спектр задач, как человек».^[3] Нетрудно найти системы, соответствующие одному определению, но не подходящие под другое. Существует еще множество определений – исследователь ИИ Бен Герцель проанализировал десятки из них в своей работе 2014 года, а дискуссия с тех пор стала только интенсивнее.^[4]

В этой книге я буду использовать ОИИ для обозначения программного обеспечения, способного выполнять широкий спектр задач и решать разнообразные проблемы, существенно превосходя возможности современных систем ИИ. Это принципиально отличает его от узкого ИИ (narrow AI), который ограничивается выполнением одной или нескольких связанных между собой задач. Все или практически все существующие системы ИИ относятся именно к категории узкого ИИ.

Искусственный интеллект – еще один термин, не имеющий единого общепринятого определения. С 1960-х годов, когда этот термин появился, было предложено множество определений, нередко противоречащих друг другу. Это разнообразие частично объясняется множеством вычислительных подходов, развивавшихся в рамках искусственного интеллекта.^[5] Одни определения фокусируются на моделировании биологического или человеческого интеллекта, другие опираются на психологические концепции интеллекта, третьи концентрируются на конкретных вычислительных понятиях вроде символов или функций, а четвертые рассматривают типы задач, доступных для решения системами ИИ. В этой книге я буду использовать термин «искусственный интеллект» в двух значениях. Первое значение – стремление научить машины делать то, в чем люди пока их превосходят, особенно задачи, которые у людей требуют мыслительной деятельности. (Под «машинами» сейчас подразумеваются цифровые компьютеры.) Второе значение ИИ – совокупность алгоритмов, программного обеспечения и концепций, созданных исследователями и программистами для решения задач, которые, как считается, требуют интеллекта. Хотя книга рассматривает ИИ прежде всего как путь к созданию машинного интеллекта, я буду часто обращаться к отдельным уже существующим технологиям ИИ.

В этой книге вы не встретите, как и не должны встречать у компетентных авторов, выражение «искусственный интеллект» в значении некоего единого объекта или сущности. Такой вещи в мире сегодня просто не существует – есть только различные программные и аппаратные разработки, созданные для решения конкретных задач. Чтобы избежать недопонимания, говоря о результатах исследований в области ИИ, я буду использовать термины «системы ИИ», «инструменты ИИ» и «алгоритмы ИИ». Важно понимать, что различные технологии, обозначаемые как «ИИ», часто принципиально различны: например, программа для игры в шахматы имеет мало общего с программой для создания реалистичных изображений.

Эта книга посвящена ОИИ, и поскольку таких систем пока не существует – даже самые продвинутые системы ИИ все еще довольно ограниченны, – возникает вопрос, с чего же тогда начать. Логичной отправной точкой становится история, но не ИИ в целом, а история систем ИИ, превосходящих человеческие возможности. В следующей главе я рассмотрю шестидесятилетнюю историю ИИ через призму нескольких систем, превзошедших человека. Главный тезис главы состоит в том, что превосходство над человеком в отдельной области, каким бы впечатляющим и полезным оно ни было, не обязательно приближает нас к созданию общего интеллекта. Параллельно я постараюсь показать многообразие технических методов, используемых в различных системах ИИ.

Мы обсуждаем искусственный интеллект, но еще не определили само понятие «интеллект». В главе 3 речь пойдет об интеллекте неискусственного типа. Интеллект исследовали представители разных наук: философы, психологи, этологи (специалисты по поведению животных) и другие. Мы рассмотрим основные концепции в изучении человеческого и животного интеллекта и их отношение к общему искусственному интеллекту. В частности, мы обсудим фундаментальное разделение на текучий и кристаллизованный интеллект, помогающее понять различия между методами ИИ. Также мы рассмотрим g-фактор – показатель, используемый для измерения общего интеллекта человека.

Кроме того, мы можем обратиться к теоретическим разработкам в области ИИ. В главе 4 я анализирую попытки сообщества исследователей ИИ определить понятие ОИИ. Здесь же рассматриваются математические аргументы, как поддерживающие, так и опровергающие возможность создания ОИИ. Среди них – парадоксальные теоремы о «бесплатном обеде», которые указывают на невозможность общего интеллекта, и концепция универсального интеллекта, предлагающая способ обойти это теоретическое ограничение.

Все эти теории об интеллекте и искусственном интеллекте могут показаться чем-то совсем абстрактным. Они не всегда помогают представить, как будет выглядеть ОИИ. В главе 5 мы рассмотрим различные версии того, каким может быть ОИИ, обращаясь к примерам из научной фантастики. Научная фантастика, вдохновлявшая целые поколения исследователей ИИ, помогает не только представить возможные варианты будущего с ИИ, но и понять различия между ними. Оставляя теоретические рассуждения и переходя к практическим исследованиям ИИ, я посвящаю следующие три главы реальным подходам к созданию ОИИ. В главе 6 я анализирую основные направления исследований ИИ и пытаюсь понять, способно ли хотя бы одно из них самостоятельно привести к созданию ОИИ. Забегая вперед: ответ отрицательный.

В следующих двух главах я рассматриваю наиболее перспективные, на мой взгляд, подходы к созданию ОИИ. Первый из них, описанный в главе 7, – базовые модели на основе самообучения (self-supervised learning). Последние годы принесли впечатляющие результаты в обучении крупных нейронных сетей на колоссальных объемах данных из интернета. Получившиеся сети демонстрируют порой неожиданные возможности, справляясь даже с задачами, для которых их специально не обучали. GPT-4 от OpenAI, изначально обученная только для предсказания текста, способна выполнять переводы, делать обобщения, вести философские рассуждения, решать домашние задания и многое другое. Другая базовая модель, Stable Diffusion, может создавать разнообразные изображения по текстовым запросам, сжимать и ретушировать их и т. д. Однако нетрудно найти задачи, с которыми эти удивительные модели (пока) не справляются. Сработает ли такой подход в более крупном масштабе? Приведет ли простое увеличение размера сетей и объема данных для их обучения к созданию некой формы ОИИ?

В главе 8 я рассматриваю другой, комплементарный подход к ОИИ – открытое обучение в виртуальных средах. При таком подходе системы ИИ выступают как активные агенты в симулированных мирах, а не просто пассивно обучаются на созданных человеком данных. Идея основана на том, чтобы позволить ИИ развиваться эволюционным путем, подобно тому как развивался интеллект на Земле. Ученые давно изучают агентов, обучающихся действовать для максимизации вознаграждения, но несмотря на значительные успехи, такие агенты обычно вырабатывают ограниченные стратегии вместо универсальных решений. Особенность открытого обучения в том, что система ИИ сама формулирует свои цели и создает задачи, которые считает нужным решить. Это помогает избежать чрезмерной специализации. Хотя результаты обнадеживают, остается вопрос: смогут ли такие системы освоить навыки, полезные для человека?

Допустим, нам удастся создать систему искусственного интеллекта со значительной степенью общности. Будет ли у нее внутренний опыт существования? Будет ли у нее собственная точка зрения и самосознание? И если да, возникнут ли у нас этические обязательства перед такой системой? В главе 9 я рассматриваю сложную проблему сознания ОИИ. Хотя однозначных ответов в этой области нет, существуют заслуживающие внимания аргументы.