Идея того, что контроль и коммуникация лежат в основе организации адаптационного поведения организма и выживания организма и вида в целом – вынесена Винером в само название его работы: «Cybernetics. Or control and communication in the animal and the machines». Свое видение того, в каком направлении должна развиваться кибернетика (в том числе ИИ), Винер обосновал следующим образом: «всякий организм скрепляется наличием средств приобретения, использования, хранения и передачи информации».

Винер одним из первых так четко сформулировал идею того, что развитие искусственных «умных» технологий должно строиться на эволюционно-адаптационных принципах, которые лежат в основе всей жизни на Земле. Перенос «сознания» с биологических носителей на искусственные (небиологические) носители возможен на условиях реконструкции структур и принципов, управляющих и контролирующих процесс преобразования информации в поведенческое решение. Однако с тех пор, как Винер выдвинул свой тезис, существенного прогресса в реконструкции таких структур и в целом архитектуры сознания не произошло.

История термина «искусственный интеллект»

В 1956 году Джон МкКарти и Марвин Мински организовывают «Дартмутскую конференцию» – шестинедельный семинар, который объединяет энтузиастов по разработке ИИ. Этим же годом официально датируется появления термина «искусственный интеллект».

– Почему именно «искусственный интеллект»? Изначально никакого особого значения Джон МакКарти не вкладывал в название. Термин возник в некотором смысле случайно; сам МакКарти так объяснил свой выбор: «Надо было как-то назвать, вот я и предложил такое название – искусственный интеллект» (цитата по Mitchell, 2019). На выбор названия повлияло то, что на тот момент времени МакКарти и Мински было важно отделить область своей деятельности от кибернетики и обозначить новое направление в информационных технологиях как самостоятельное.

Термин «искусственный интеллект» оказался поистине гениальным маркетинговым решением. Понятное и амбициозное, зовущее в технологичное будущее, оно мгновенно было подхвачено и растиражировано СМИ, авторами научных и художественных произведений. Новые технологии стремительно привлекали внимание общественности, журналистов, писателей-фантастов, режиссеров и т.п. Общество было взбудоражено перспективами искусственного интеллекта и ожиданиями безграничных возможностей искусственной жизни. Ближайшее будущее представлялось наполненным разумными роботами и небывалыми технологиями решениями, которые сделают жизнь на Земле прекрасной и беззаботной. Многие ожидания даже удалось воплотить в жизнь – компьютеры, смартфоны, роботы, беспилотные автомобили и летательные аппараты т.п. – стали вполне обыденной частью нашей повседневной жизни.

Однако первые десятилетия развития ИИ складывались весьма непросто и порой драматически, со своими взлетами и падениями, тупиками и перезагрузками. Два наиболее продолжительных периода спада в развитии ИИ получили особое название – «зимы ИИ» (AI Winters). Эти периоды сопровождаются резким снижением прогресса в развитии ИИ и, соответственно, сокращением финансирования проектов. Первая «зима ИИ» пришлась на период 60-х годов прошлого столетия и ее связывают с дискредитацией «нейросетевого» подхода, предложенного Розенблатом. Марвин Мински, один из основателей ИИ, выдвинул свой подход – экспертный, «symbolic logic – expert systems», подвергнув критике и заклеймив идеи «перцептрона» и в целом «нейросетевой» подход Розенблата как «тупиковый». Этот эпизод в истории ИИ вошел под названием «Битва разумов» («Brain Wars»).

Только 70-х годах «нейросетевой» подход был реабилитирован и даже стал доминировать в разработках ИИ, хотя его автор – Фрэнк Розенблат – к этому времени уже скончался в возрасте 43 лет. Но на тот момент компьютерам для решения задач с помощью нейросетевых алгоритмов не хватало вычислительных мощностей. В итоге наступает вторая «зима ИИ», которую удалось преодолеть только в 90-е прошлого века, когда был совершен революционный скачок в увеличении мощностей компьютеров.

«В настоящее время ИИ переживает свой новый этап хайпа» (Mueller&Massaron, 2016). Современного человека со всех сторон окружает ИИ, задачи, которые он способен решать, становятся все сложнее, а возможности – все более удивительными и даже – невероятными. Например, ИИ «научился» играть в настольные игры еще в конце 50-х прошлого столетия, а на рубеже 20 и 21 веков ИИ не оставляет шансов человеку в шахматах, Го, и даже в покер. В 1997 году шахматный компьютер «DeepBlue» побеждает действующего чемпиона мира по шахматам. Затем искусственный интеллект одолел чемпиона мира в китайскую игру Го (Google DeepMind Challenge Match) – сначала корейского чемпиона Ли Се-Дола (Lee Se-Dol)в 2016 году, а затем и китайского Ке Цзе (Ke Jie) в 2017 году.

Эти даты и события можно считать историческими вехами, которые ознаменовали торжество ИИ над интеллектуальными возможностями человека. С тех пор, как правило ИИ не оставляет шансов человеку в решении тех задач, для которых он создан и запрограммирован. Он способен не только играть и выигрывать в логические и комбинаторные игры, но также решать очень сложные и важные задачи, на решение которых у человека ушли бы века или даже тысячелетия. Современный компьютер способен обрабатывать до 100 млрд инструкций в секунду и на такой объем работы у человека уйдет порядка 3,5–3,7 тысяч лет (Wooldridge, 2021). Способности обычного человека считать «в уме» ни в какое сравнение не идут даже с простым калькулятором, не говоря уже об алгоритмах ИИ, которые способны собирать и обрабатывать гигантские массивы Bigdata или контролировать многоуровневые аналитические процессы.

ИИ применяется практически во всех жизненно важных сферах жизни человека и успешно решает множество задач: сбор и обработка Bigdata, диагностика заболеваний и определять стратегию лечения, распознание лиц, управление технологическими процессами, торговля акциями, обеспечение безопасностью, запуск и управление спутниками, самолетами и беспилотными устройствами, рисование картин, предсказание землетрясений и цунами, ответы на поисковые запросы в интернет, перевод разговорной речи с одного языка на другой и т.д.

Сингулярность

Технологии ИИ стремительно развиваются и, казалось бы, неизбежно смогут выйти на уровень человеческого интеллекта и сознания в ближайшее время, достигнув точки «сингулярности» – момент в будущем, когда человечество достигнет в разработке ИИ, уровня человеческого сознания. Термин и концепцию «сингулярности» разработал John von Neumann. В дальнейшем Irving John Good в своей работе “Speculations Concerning the First Ultraintelligent Machine” (1965), определил сингулярность применительно к ИИ как «интеллектуальный взрыв» – момент в истории человечества, когда появится «сверхразумная машина … которая может намного превзойти всю интеллектуальную деятельность человека, каким бы умным он ни был»; в этом случае «разум человека остался бы далеко позади». Дальнейшую популярность этому термину придали ученые, философы и писатели-футуристы, в том числе Vernor Vinge (например, Technological Singularity, 1993), Дэвид Чалмерс (The Singularity: A Philosophical Analysis, 2010 David J. Chalmers), Рэй Курцвейл (Singularity is Near, 2015) и другие.

Но именно в отношении этого прогноза – сроков и самой возможности достичь уровня человеческого интеллекта на искусственных носителях – у большого числа специалистов возникают обоснованные сомнения. Более того, все чаще приходится слышать от авторитетных экспертов, что никакого ИИ вообще не существует, а то, с чем мы имеем дело – это лишь программное обеспечение, не имеющее ничего общего ни с интеллектом, ни с сознанием человека.

Три уровня искусственного интеллекта

Традиционно выделяют два или три основных уровня ИИ. Первый – «Ограниченный» или «слабый» (Narrow/ Weak AI), к которому относятся все современные виды ИИ, созданные к настоящему времени. Такие виды ИИ (Narrow /Weak AI) характеризуются способностью ИИ выполнять отдельные задачи, как правило, намного эффективнее и стремительнее, чем это мог бы сделать человек. Например, обработка больших массивов данных (Bigdata), переводы текстов, распознание лиц, сбор информации, управление процессами и производствами, голосовые помощники, беспилотные автомобили, игры в шахматы, Го и т.п.

Второй уровень или тип ИИ – «Расширенный» или «Мощный» (General/ Strong AI) – это ближайшая зона развития современного ИИ, функционирующий по аналогии с человеческим сознанием, способному к самостоятельному обучению, принятию решений, приоритизации задач, эмпатии и т.п. Термин Strong AI предложил в 1980 John Rogers Searle в своей работе "Minds, Brains, and Programs" (1980). Strong AI – «когда машины смогут по-настоящему понимать, что происходит» («This is when a machine truly understands what is happening». Searle, 1980; перевод цитаты – С.Ф.).

Также часто выделяют третий уровень – Super AI или Superintelligence (Nick Bostrom, 2014) – ИИ, превосходящий уровень человеческого сознания и воплощающий в себе все интеллектуальные и когнитивные возможности, которые предоставляет природа и мироздание. Однако, представления о Super AI носят настолько фантастический и недостижимый в обозримом будущем характер, что обсуждать их в настоящее время не имеет смысл.

При этом экспертная оценка того, где сейчас находится прогресс в развитии ИИ – неоднозначна, и по этому вопросу существует несколько точек зрения. Одни эксперты считают, что в настоящий момент мы уже находимся на пути к ИИ, уровня человека и остались считанные годы до наступления «сингулярности». Так, например, известный футуролог и лингвист Рой Курцвейл (в настоящее время – руководитель natural language-oriented project в Google) установил четкую дату создания ИИ, уровня человека – 2029 год, а футурист и специалист в области технологий и гуманизма Gerd Leonhard еще раньше – в 2025. И хотя далеко не все сторонники столь скорого появления ИИ, уровня человека, разделяют его оптимизм, тем не менее, многие настроены позитивно в отношении скорого перехода к ИИ, уровня человека и даже к Super ИИ. Например, Ник Бостром, Стюарт Рассел и другие футуристы, не только прогнозируют появление ИИ, уровня человека в ближайшие десятилетия, но всерьез рассматривают сценарии технологического апокалипсиса, революции «терминаторов» и «восстании машин».

С другой стороны, Родни Брукс (Brooks, 2001) считает, что до создания уйдут многие десятилетия или даже века, прежде чем мы сможем приблизиться к ИИ, уровня человека. В качестве источника возможного решения он предлагает рассмотреть «невообразимое» и открыть некий совершенно новый взгляд на интеллект, сознание и мышление, которые позволят преодолеть «стеклянный потолок» нынешнего ИИ и перейти на новый уровень – ИИ, аналогичного человеческому. «Для систем восприятия может существовать какой-то организующий принцип… какие-то математические принципы или понятия, необходимые для построения хороших объяснений деталей эволюции, познания, сознания или обучения, что позволит расцвести ИИ и Искусственной жизни» (Brooks, 2011; перевод цитаты – С.Ф.)

Дэвид Чалмерс, философ-футуролог предлагает искать «новые свойства, неизведанной материи», которые позволит нам открыть тайну человеческого интеллекта и создать ИИ, уровня человека: «для объяснения сознания может быть необходим принципиально новый тип нового материала, новое физическое свойство вещей во Вселенной, подчиненное физическим законам, которые мы просто еще не понимаем…» (Chalmers, 1996).

Скептицизм

Где же истоки новой волны скептицизма, доходящего до отрицания того, что ИИ действительно создан? – В первую очередь, основные претензии связаны с тем, что технологии, которые по традиции называются ИИ, не являются «интеллектом» как таковым – это лишь продвинутый программный софт и алгоритмы (Rouhiainen, 2018). «Вообще говоря, разница между ИИ и программным обеспечением не такая уж и явная» (Bostrom, 2014). Человеческий интеллект и сознание намного сложнее и не могут быть сведены к набору алгоритмов и решению отдельных задач, или даже множеству самых сложных задач, но по отдельности.

Действительно, что же мы называем ИИ и на каком основании? Является ли пульт от телевизора или кнопки лифта искусственным интеллектом? Смартфон и автоматизированная система обработки Bigdata? Автопилот автомобиля и голосовой помощник? Компьютер для игры в шахматы или в Го?

Мельница с огромными жерновами, скрипящими лопастями, массивными приводящими механизмами и шестернями ни при каких обстоятельствах не удостоится звания ИИ. Но если процесс помола станет невидимым для пользователей, будет управляться с помощью touch screen, начнет подчиняться ситуационным потребностями пользователя и текущим условиям, распознавать лица пользователей, самостоятельно определять – в каком количестве и какого помола выдать муку каждому из них, и если все это еще будет сопровождаться имитацией диалога, подборкой музыкального фона и выдачей красивой аналитики в цветных диаграммах и анимированных презентациях – то уже вполне реалистично претендовать на грант на внедрение ИИ в мукомольной сфере.

Вряд ли кому-то придет в голову называть пульт ТВ или кнопки лифта искусственным интеллектом – условный социологический опрос выявит скорее всего из ста опрошенных ноль желающих назвать эти дивайсы ИИ. Но если лифт начнет «распознавать» входящего и отвозить его на нужный этаж самостоятельно? Возможно, уже один из ста человек согласится назвать такую технологию ИИ. Если при этом лифт начнет «здороваться» приятным голосом, обращаясь к входящему по имени, и включать музыку, соответствующую его предпочтениям и настроению? Поддерживать беседу и отвечать на вопросы о погоде, курсе акций, событиях в мире? Если прямо из лифта можно включить микроволновку или компьютер в своей квартире? Можно предположить, что число тех, кто готов сказать, что такой лифт обладает ИИ – будет возрастать. Но превратит ли это лифт в ИИ на самом деле?

В какой же момент происходит переход от простой «технологии кнопок» к искусственному интеллекту? Ведь по сути ничего не меняется от того, что лифт теперь способен выполнять больше задач, чем просто отвезти своего пассажира на нужный этаж. Также, как смартфон или компьютер, лифт не становится умнее от количества программ и приложений, установленных на них. Возможно ли определить универсальный и объективных маркер или индикатор, которые однозначно укажут: это – искусственный интеллект, а это – просто гаджет. Отсутствие четких границ и критериев, отделяющих ИИ от технологии, софта, программного обеспечения – с одной стороны, и отсутствие явных аналогий с человечески интеллектом и сознанием – с другой, во многом породили новую волну скептицизма в отношении современного ИИ. В результате увеличивается число специалистов, которые полагают, что мы достигли «стеклянного потолка» на данном уровне развития технологии, которую с легкой руки МакКарти традиционно продолжают называть ИИ.

Чтобы называться «интеллектом», недостаточно быть способным выполнять отдельные, узкоспециализированные задачи, даже если они очень сложные и «интеллектуальные». Наши собственные требования к ИИ стали включать сходство с человеческим поведением и сознанием, что неизбежно включает в себя наличие эмоций, чувство ситуации, эмпатию, гибкость в общении, эластичность поведенческих реакций, чувство юмора и т.п.

«ИИ – это не волшебство, а просто набор инженерных методов и алгоритмов, каждый со своими сильными и слабыми сторонами, подходящий для одних задач, но не для других» (Marcus&Davis, 2019). Гаджетам недостаточно простого, рабского послушания нашим командам чтобы называться интеллектом, даже если их функционирование и решение задач идеально, безотказно, эффективно и приятно для пользователя, превосходя «интеллектуальные» возможности самого пользователя. «Всякая компьютерная программа сводится к спискам инструкций. Microsoft Word и PowerPoint сводятся инструкциям. Call of Duty и Minecraft сводятся к инструкциям» (Wooldridge, 2021). Для того, чтобы иметь сходство ИИ с нашим собственным интеллектом, требуется нечто большее – мы ожидаем от искусственного интеллекта и искусственной жизни такого же поведения как наше собственное. Но что это означает на самом деле? Что именно мы ждем от поведения ИИ? Насколько наши требования обоснованы и реалистичны?

Проблема перехода к искусственному интеллекту, уровня человека

В настоящее время «все виды ИИ функционируют в режиме узкоспециализированного ИИ (Narrow AI)» (Bostrom, 2014). При этом задача создать ИИ, аналогичный человеческому, до сих пор не была формализована и определена так, чтобы стало ясно – в каком направлении должны развиваться исследования и как должен выглядеть итоговый результат. Чтобы создать искусственный интеллект, уровня человека, необходимо сначала определиться с тем, что вообще представляет интеллект и сознание человека, а также определиться с тем, что подразумевается под понятием «искусственный интеллект», и какие у нас ожидания от его дальнейшего развития.

Это не философские вопросы ради дискуссии на общую тему. Понятие ИИ, введенное с легкой руки Джона МакКарти для того, чтобы отделить новое направление от кибернетики, оказалось блестящим решением с маркетинговой точки зрения, но содержательно оно не было определено в полной мере ни самим автором, ни его последователями. От названия «ИИ» впоследствии даже пытались отказаться, но было уже поздно – оно цепко и навсегда закрепилось в общественном сознании.

Марвин Мински предложил такое определение: «ИИ – наука о том, как создавать машины, способные выполнять такую работу, которая требовала бы человеческого уровня интеллекта» (Minsky, 1962, цитата по Sleeman&Bernsen, 1992; перевод цитаты – С.Ф.). Это определение не прояснило главную проблему и вопрос остался прежним – что означает: «интеллект, уровня человека»? Каковы критерии? В чем измерять и по какой шкале?