Сказки о безопасности: Ошибочное задержание

Лето… Жара… А тут еще карантин. Боб уже не раз думал, что худшего не может быть… Оказалось, очень даже может. Носить маску в такую жару – это не просто ужасно. Через час потеет все лицо и потом покрывается сама маска. Как люди ходят в них на улице – непонятно совсем.

– Боб, ты видел результаты системы распознавания лиц, внедренной в аэропорту и на вокзале?

– Да. Мы за два дня сумели поймать больше разыскиваемых, чем за три года перед этим.

– Знаешь, что губернатор приказал еще два месяца назад внедрить ее во всех крупных населенных пунктах и на всех вокзалах?

– Конечно!

– Представь, насколько работать станет легче!

– Не думаю!

– Почему?

– Потому что в результате полицейские могут просто разучиться думать! Они будут верить в то, что камеры не ошибаются. А ведь это просто еще один фактор поиска, и не более!

– Согласен, но удобно же.

– Эй вы, хватит болтать! Кажется, полицейские задержали для проверки некоего Роберта В. Система распознавания лиц определила в нём преступника, который два года назад совершил магазинную кражу. Его доставили в участок.

– А еще какие-то улики есть?

– Нет! Но его ведь опознали?

– Боб, кажется, это то, о чем мы только что говорили. Его арестовали?

– Да! Ну а как же? Его ж опознали. Его пока задержали на 48 часов, и наша задача понять, он или не он совершил кражу.

– Для начала нужно проверить, а был ли он вообще в тот момент в городе, может у него алиби?

– Боб, я не понимаю, ты что, адвокат?

– Нет, конечно! Но я не хочу осудить невиновного, так как прекрасно понимаю, что в любом программном продукте может быть ошибка. И не одна. Давай проверим еще раз, где он находился.

Прошло четыре часа.

– Боб, увы, ты оказался прав. Он в момент ограбления был не только в другом городе, а даже в другом штате. Вот документ. Он был оштрафован полицейским патрулем за превышение скорости. Так что он невиновен.

– Нужно выпускать и извиниться.

– Да.

Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания.

Примечательно, что ПО для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса, вывело следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».

Этот случай создал прецедент, который указывает на гораздо более обширную проблему – всецело доверять алгоритмам искусственного интеллекта пока нельзя.

Сказки о безопасности: Найти человека

Лето… Несмотря на очень раннее утро, уже чувствуется, что день будет очень жарким. В связи с жарким летом император разрешил приходить на службу очень рано, чтобы вечером у людей было немного свободного времени. Так что нужно вставать и идти.

Прогуливаясь по парку, Иоганн думал над вчерашней задачей, поставленной перед ним департаментом контрразведки, или как теперь было принято говорить – службой защиты Родины. Задача была непростой, и непонятно с какой стороны к ней приступать. В смартфоне, захваченном у террористов, был найдено упоминание некоего Пьеро. Ни имени, ни фотографии, ни номера телефона. Но его нужно найти. Как?

А вот и ворота родного департамента.

– Привет, шеф!

– Здравствуйте, Рауль! Как дочка?

– Спасибо! Уже ходит. Наши доктора настоящие волшебники. Мало того, что с меня не взяли ни одного империала, еще и пригласили ее на плавание, сказали, что быстрее выздоровеет. С ней сейчас инструктор занимается. Говорят, что к осени и палочку она оставит. Сможет бегать как раньше! Спасибо, что подсказали.

– Ну а как же! Наше дело – служить империи, а дело императора – заботиться о нас!

– Спасибо, шеф! Да, Марк и Рита уже приехали, ждут вас. Говорят, есть новости.

– Спасибо! Нехорошо заставлять ждать!

– Шеф, это Рита. Мы ждем вас в кабинете. Есть новости о Пьеро. Хорошие.

– Доброе утро, что у вас?

– Шеф, мы просмотрели страницы друзей владельца смартфона в социальной сети. На одной из них есть фото человека, правда его лицо заретушировано, с подписью Пьеро. С уверенностью можем сказать, что это мужчина, судя по всему, ему около 35 лет. Стройный, высокий, приблизительно 180 см, худощавый. Даже известно, кто сфотографирован вместе с ним и где.

– Уже хорошо.

Прошло полдня.

– Шеф, к вам можно?

– Безусловно, Марк!

– Иоганн, мы выяснили, кто стоит с ним на фото, и нашли их снимки в других соцсетях и там же нашли снимок этого Пьеро. А потом уже по нашим базам выдачи загранпаспортов нашли, кто это и его место жительства. А также его телефон, место работы, налоговый номер, номер медицинской страховки и права. Короче, все. Это некий господин N. Он живет в столице, на 17-й улице. Более того, мы смогли отследить его текущее местоположение.

– Так, Марк. Я сейчас звоню в контрразведку и приглашаю их к нам. Пусть заодно скажут, что еще им нужно.

– Да, шеф! Судя по всему, этот человек сейчас находится на 19-ой улице, в кафе «Золотой закат». И кого-то ждет. Я отправил туда оперативника с приказом просто смотреть, документировать и ни во что не вмешиваться.

– Спасибо, Марк!

А вы думаете, что использование только клички в общении вас спасет? Запомните, каждое ваше действие в Интернете оставляет свой след. Ну а затем по мелким следам идут те, кому вы реально нужны.

Сказки о безопасности: Найти телефон

Лето… Жара… Да еще и эта влажность. И ночь не приносит прохладу. Но главное – совершенно нет ветра. Единственное спасение – и на работе, и дома стоят кондиционеры. Выходить никуда не хочется.

В этот момент телефон Боба вдруг коротко рявкнул. Пришла фотография – у двери его дома стояла взволнованная Линда. Она не знала, что ее снимают. Боб не так давно поставил себе «умный» звонок. Если Боб был дома, он сразу же на экране видел, кто к нему звонит и мог открыть дверь. В противном случае камера