Hello World. Как быть человеком в эпоху машин

"Привет Мир: быть человеком в эпоху алгоритмов" занятная книжка о том, что человека практически во всех сферах жизни окружают алгоритмы. Это реклама в интернете, карты и поисковые системы, даже наши с вами муки выбора бывают подчинены алгоритмам. Кто-то любит выстраивать в голове цепочки и закономерности, доверять принятие решения умным автоматам, а другие бояться жизни, в которой за них что-то решают, подталкивают к определённому продукту или заставляют выбирать из нескольких. Ханна Фрай не принимает ни одну из сторон, но пытается описать влияние алгоритмов за человека в целом.

С понятием "алгоритмов" сейчас очень тесно связано понятие "искусственного интеллекта". Ведь умные машины невозможно создать хаотично, каждый элемент, - будь это физическая деталь или кусок программного кода, - подчинён строгой логике, иначе такой аппарат просто не сможет работать как должно и выполнять поставленные задачи. Но чего нет у машины, так это эмоций. В книге приведён показательный пример с шахматной партией между компьютером нового поколения и знаменитым Гарри Каспаровым. Машина не умнее, просто "думает" она согласно алгоритму и ей не знакомо волнение, страх и чувство самосохранения. Именно поэтому и переоценивать её не стоит. Об ошибочных решениях интеллектуально организованных систем тоже есть в данной книге.

В целом это ещё одна неплохая книга о симбиозе человека и машины, ведь как бы умны алгоритмы не были, слепо доверять и полагаться на их решения не стоит. Много новых примеров об использовании искусственного интеллекта в производстве, медицине и органах власти, о которых я раньше не читала. Но автомобили с автопилотом пока не могут рассекать по нашим дорогам, так как их невозможно подготовить к непредвиденным обстоятельствам (резким пешеходам и курьерам Яндекс.Еды в наушниках). Алгоритмы могут сбоить, а данные, загруженные в их недра, попадать в руки злоумышленников. Однако своей жизни без удобных алгоритмов мы уже не представляем. Везде должен быть баланс и решение, как обычно, оставаться за человеком.

Можно читать только книги статистов и экономистов.

Можно восторгаться последней книгой Канемана «Шум».

Справедливости ради, в своей книге учёный обозначил недостаток и несуразность полного полагания на алгоритмы и статистику. И если у вас до сих пор витает мысль, что сухие цифры и математические модели реального мира еще далеки от совершенства, то вы правы и найдёте массу подтверждений уже в этой работе «HELLO WORLD».

Ханна Фрай описывает и критикует большинство современных «модных движений», новшеств и слепую веру в алгоритмы и искусственный интеллект.

Поднимается множество важных и актуальных вопросов для любого человека в XXI веке, но, к сожалению, ни один из них не закрывается. У автора выгодная позиция критика, а единственный инструмент «время». Плохо ли это?

Да, у вас после прочтения останется множество открытых вопросов, но качество и глубина их изменится. В этом большой плюс этой работы

Приятное и лёгкое чтение,

Которое я бы, наверно, всем подряд бы не рекомендовал…

Прочитайте содержание и решите – интересно вам это или нет.

Эту книгу я рассматриваю как приложение к книге Мелани Митчелл "Идиот или гений? Как работает и на что способен искусственный интеллект" . В той книге много идей и науки, а эта полностью состоит из примеров, те идеи иллюстрирующих. Все примеры доказывают, что

люди боятся, что компьютеры станут слишком умными и захватят мир, но настоящая проблема в том, что они слишком глупы и уже захватили мир
(c) Педро Домингос, исследователь ИИ

Эту цитату я уже приводил в отзыве о книге Мелани Митчелл. Здесь вместо неё приведён известный анекдот:

Как шутят летчики, лучший экипаж состоит из троих членов — пилота, компьютера и собаки. Компьютер управляет самолетом, пилот кормит собаку, а собака кусает пилота, если тот попробует прикоснуться к компьютеру.

Интересными показались примеры, относящиеся к правосудию и здравоохранению.
Самая же нетривиальная идея -- о медицинской этике.
Предположим, мы создаём диагностическую программу. В интересах кого она должна действовать? Конкретного пациента или человечества?
История такая. Пусть к нам (пуассоновским потоком) идут пациенты, жалующиеся на кашель.
Если мы действуем в интересах пациента, мы должны назначить ему рентген, бактериологическое исследование, взять на всякий случай анализ крови и т.п. Потом мы ему выпишем антибиотик, и он в большинстве случаев выздоровеет на пару дней раньше, чем без всего этого.
Если же мы действуем в интересах человечества, то учтём загруженность лабораторий, ограниченные средства системы здравоохранения, проблемы резистентности бактерий и прочее в этом роде. Тогда мы просто выпишем пациенту аспирин и попросим перестать ныть.
Интересно, наших студентов-медиков учат таким дилеммам?

Общий вывод в двух словах такой.
Давайте не будем слишком уж доверять алгоритмам и перестанем злоупотреблять словом "интеллект" в целях рекламы. Пусть машины делают что могут и помогают человеку, а человек пусть говорит спасибо, и принимает решения сам.
Забавно, но это ровно та идеология, которую продвигали в 70-е годы прошлого века. Идея там была -- асучить страну. Это от слова АСУ = автоматизированная система управления -- не автоматическая, а автоматизированная, т.е. работающая под человеческим контролем. Это в точности и есть главная мысль этой книги.

Досадно, разумеется, но полностью автономные машины на дорогах общего пользования или просёлках появятся ещё не завтра. Завтра они станут ездить только по специально подготовленным маршрутам.
Водители маршруток должны напрячься от этой вести, остальные пока пусть спят за рулём спокойно.