Встать! Суд идёт!

Создание искусственного интеллекта может стать последним технологическим достижением человечества, если люди не научатся контролировать риски.

Стивен Хокинг

– Встать! Суд идёт! – громко объявил человек. Хотя нет, это уже давно не человек, а киборг в облике человека.

«Вот зачем надо делать их такими похожими на своих создателей? Зачем? – задавал себе вопрос Актон, поправляя на себе помятую рубаху. – Мимика, взгляд, жесты, – всё, как у человека. Зачем? А эти судьи…»

В зал вошли три женщины в париках и мантии, пододвинули кресла и грациозно сели.

«Почему они сделали их такими красивыми? Подбородок, брови, ногти на механических руках и эти губы, которые надо целовать, но… Это биомеханика, смесь пластика, металла и резины, и… Ах да, их зёрна интеллекта».

– Слушается дело под номером 250627. Интеллект против человека.

Не обращая внимание на подсудимого, судья, словно снималась в рекламном клипе, кивнула головой обвинителю.

* * *

– Говорят, искусственный интеллект изобрели.

– Уже сто лет как говорят, а воз и ныне там.

– Нет, я сам видел выступление в ООН. Там так и сказали: интеллект, наконец, запущен.

– Ага, пусть сперва разберутся, что такое интеллект. Так глядишь, его можно и к пчёлам или муравьям прикрутить, или к хищнику, у которого обучение на опыте. Они и сами-то не знают, что творят.

– Да брось, ты же не из тех, кто боится?

– Да, из тех, и я боюсь, что там взбредёт им в голову. Люди сходят с ума, убивают друг друга, а там цифры и провода…

– Нет там проводов, это семя в виде…

– Знаю, знаю, читал. И всё же зря они это затеяли, ой, зря.

* * *

Люди ликовали. Был повод, чтобы заглянуть в будущее, построить планы, которые уже давно лежали на полках и пылились. Интеллект был похож на человеческий. Он так же мог, руководствуясь опытом прошлого, абстрактно мыслить и самостоятельно решать задачи.

Никто не знал, что с этим делать. Создали, а что дальше? Было решено, что интеллекту будет присвоен класс. Чем выше, тем больше возможностей. Самый низший, первый, отвечал за простые функции в виде управления лифтом. Вроде бы, что тут такого, лифт и раньше ездил. Но когда добавили зерно интеллекта, двери лифта уже не закрывались механически, – они ждали пассажира. Кабинка, опираясь на данные, вошедших в лифт, могла изменить скорость движения, а при необходимости интеллект мог поговорить о погоде; детям рассказать короткую сказку или включить любимую музыку.

Зерно сознания интеллекта было так сконструировано, что оно не могло объединяться, поэтому, каждое зерно было отдельной личностью. Изначально код был у всех первичный, но с учётом опыта работы любой интеллект получал свои навыки. А значит, все они были разными.

Интеллект стали помещать везде где только можно. Теперь в микроволновке только одна кнопка. Надо было только сказать, что ты хочешь, и интеллект, подняв из своей памяти сотни тысяч рецептов, с учётом личных потребностей хозяина приготовит так, как надо.

У человека есть подсознание, – то, что выполняется механически, а у интеллекта его нет. И поэтому неважно, сколько машина сделала деталей, она каждый раз будет всё обдумывать с самого начала. В этом было большое преимущество интеллекта машины перед человеком.

– Смотри, как эта железяка ведёт машину. Она ни разу не ошиблась. Всё чётко. Я бы уже уснул на дороге, а она…

– Это тоже компьютер.

– Нет, интеллект третьего уровня, у нас в цех завезли станки с шестым. Даже не представляю, что они там будут делать.

– А нам-то что делать?

– А фиг его знает. У нас началось сокращение, но вроде выплачивают пособие.

– Вчера ходил в магазин, а там никого.

– Как никого?

– Ни кассиров, ни продавцов, – совсем никого. Только покупатели и эти железяки.

– Да не кисни ты, они ведь мирные, даже улыбаются.

– Да, сейчас им не запудришь мозги. А помнишь, как мы в детстве… – Амос засмеялся, припомнив, как с другом обманывали продавцов и таскали конфеты.

– Точно, – подхватил тот и также засмеялся.

– Вчера видел рекламу новой модели GL25, круто выглядит, прямо, как человек.

– А видел, какие у них девчонки? Говорят, можно заказать любое лицо, хоть сам нарисуй.

– Серьёзно?

– Ага, только надо придерживаться шаблона и дополнительно платить. Но ведь круто же?

– Ну да, а то Зоя достала меня. Ей всё не нравится. Слушай, а там интеллект какого уровня?

– Десятый. Наивысший.

– Вот это да! Представляю…

– Ага, можно не просто поболтать, но и…

– Серьёзно?

– Не глупи, зачем тогда их такими делать. Конечно, можно, вот бы попробовать.

Люди быстро осознали преимущество интеллекта. Любая машина, выходившая с конвейера, имела первичное зерно, которое можно было при необходимости увеличить до пятого уровня. Самолёты, корабли, диспетчера, справочные службы… Везде, где раньше надо было думать и принимать нестандартное решение, находился интеллект.

Настало время, когда появились первые киборги с наивысшим интеллектом. Они стали партнёрами, друзьями, подругами. Они заняли нишу живых людей, ведь с ними было намного проще. Но у интеллекта машины был минус: они не понимали, что такое юмор. И несмотря на это серьёзное упущение, появились первые пары. Закон не мог регистрировать человека и искусственный интеллект. Не мог передать права наследования, не мог предоставить голос на выборах. Интеллект машины так и оставался машинным, но не всех это устраивало. И как в истории: сперва одиночки, а после и многотысячные митинги пошли в поддержку нового члена разума.

Мир шагнул вперёд. Всё изменилось. Любовь человека к киборгу с интеллектом, с личностью, дала повод пересмотреть законы. Сперва были поправки, а через десятилетия внесены изменения в законодательство. Теперь искусственный интеллект десятого уровня был признан личностью. Его прировняли к живому сознанию, а значит, он был защищён законом. Митинги противников быстро сошли на нет.

* * *

– Встать! Суд идёт!

После того как судья открыл папку и внимательно прочитал первую страницу, он произнёс:

– Судебное заседание считается открытым, – девушка в парике, улыбнувшись, посмотрела на обвиняемого. – Слушается дело под номером 250627. Интеллект против человека.

Актон вздрогнул. Машина судила человека. Даже в самом кошмарном сне невозможно об этом подумать. Но он сейчас в зале суда, где судьи-биороботы с интеллектом одиннадцатого уровня. Этот уровень подняли специально для высшего состава: зам.министров, следователей, директоров и судей.

Подсудимый старался смотреть на всё это как на спектакль, с каким-то любопытством, но в душе скребли кошки от безысходности.

– Обвинитель, вам предоставляется слово, – заявил Судья в мантии и перелистнул страницу уголовного дела.

Поднялся стройный, как с обложки журнала о спортивном питании, биоробот. Он поправил галстук, откашлялся и, выпрямившись, начал говорить.

– Уважаемые судьи, подсудимый Даглас Актон нарушил кодекс личности интеллекта. В среду 13 июня он выбросил, как заявил подсудимый, неисправный прибор под номером FD20000789, в котором размещено зерно искусственного интеллекта уровня четыре под заводским номером L-4_22657_019, – обвинитель внимательно посмотрел на подсудимого и продолжил. – После утилизации зерно пришло в негодность, что признаётся, в соответствии с директивой за номером BB2597, убийством.

– Что? – не выдержав, вскрикнул Актон.

– Вам не давали слова, – спокойно, как ни в чем не бывало, сказал Судья и строго посмотрел на человека. – Продолжайте.

– В связи с этим просим суд признать обвиняемого виновным и назначить ему, в соответствии с пунктом GTU25-43, наказание в полном объёме.

– Что это значит? – тихо спросил Актон у своего адвоката.

– Тихо, а то оштрафуют, – сказал тот и вежливо улыбнулся судье.

– Есть вопросы? – Судья обратилась к обвиняемому.

– Да, – тут же сказал адвокат и встал.

«У человека – человек, у железяки – железяка», подумал Актон и стал слушать своего защитника.

– Основываясь на постановлении за номером 25F48, интеллект ниже пятого уровня не может рассматриваться как живой разум, а соответственно, подсудимый не отвечает за его жизнеспособность.

– Возражаю, – тут заявил обвинитель.

– Принимаю возражение, поясните, – сказал судья обвинителю.

– Постановление 25F48 было пересмотрено новым законопроектом 25F527 и теперь интеллект уровня четыре защищён в правах на существование.

– Поддерживаю, – ласково улыбнувшись, сказала судья.

«Что за бред, они друг другу строят глазки», – возмутился про себя Актон.

– У вас есть ещё что сказать? – в этот раз судья обратилась к адвокату.

– Нет, ваша честь.

– Как нет, – шёпотом спросил Актон и покосился на своего защитника. – Ваша честь! – он вскочил и быстро заговорил. – Интеллект, что я утилизировал, был отключен.

– И что?

– Значит, он не был в тот момент живым.

– Когда человек спит, его мозг не думает, а находится в состоянии покоя, но это не означает, что он неживой. Зерно интеллекта было отключено, но находилось в рабочем состоянии, а значит оно живое и пригодно к нормальному функционированию. Ваше возражение отклоняется, – чуть раздражённо заявил Судья.

– Что теперь? – обратился Актон к адвокату.

– Всё будет хорошо…

– Тогда объявляю приговор.

– Всем встать! – приказал секретарь.

– Дело за номером 250627 было рассмотрено, в связи с чем подсудимый Даглас Актон признаётся виновным по всем пунктам обвинения и приговаривается к принудительной работе в размере 145 часов.

– Фух…

Насколько знал Актон, ещё ни одного человека не приговорили к казни или пожизненному сроку. Даже вандалы, которые целенаправленно охотились за зерном интеллекта, отделывались несколькими годами заключения. Но надолго ли это?

* * *

– Тебя на сколько часов приговорили?

– 350?

– За что?

– Вёл машину.

– Там же есть водитель с зерном.

– Да, есть, но он разогнался, а там поворот. Вижу, что не справится, вот и взял руль в руки.

– И…

– Всё равно улетел в кювет. Машина вдребезги, страховку аннулировали по причине, что управлял ей не интеллект, а человек.

– Ёкнула…

– А свихнулась, не подлежит восстановлению. Шарики за ролики от стресса зашли. Признали виновным в принудительном помешательстве искусственного интеллекта.

– Нда…

* * *

Человеку сознание дано природой. Мы пользуемся этим супералгоритмом по принципу чёрного ящика, зная о некоторых свойствах, но не понимая до конца, как и почему это происходит. И если человек этот алгоритм воспроизведёт на другом носителе, то этот «естественный» интеллект станет «искусственным». Но от понимания «что» надо создать – очень далеко до понимания «как».

Но что будет если?..