Безос против Трампа. Почему Amazon порвала с полицией
Компания Amazon, крупнейший интернет-ритейлер в мире, закрыла для американской полиции доступ к своему детищу - технологии распознавания лиц Rekognition, которую она начала активно продвигать на рынке в 2018 г.
Мораторий, согласно сообщению на сайте компании, вводится сроком на один год. При этом неясно, распространяется ли он на федеральную полицию США.
В то же время организации, занимающиеся поиском детей, спасением жертв торговли людьми и воссоединением семей - Thorn, Международный центр помощи пропавшим и эксплуатируемым детям, Marinus Analytics - технологией пользоваться смогут. Данный софт способен, используя базы данных с сотнями миллионов лиц, распознать порядка сотни человек на одном фото.
Свое решение в компании объяснили желанием дождаться от Конгресса принятия более строгих правил использования технологии распознавания лиц. Такие дискуссии активизировались на фоне массовых протестов в Штатах после убийства Джорджа Флойда.
Amazon, реагируя на рост напряженности в американском обществе, тем самым обезопасила себя от потенциального скандала вокруг ее сотрудничества с правоохранителями.
К тому же правоохранители в нынешних реалиях перечить не будут. Может быть, президент США Дональд Трамп, известный своей нелюбовью к Безосу, его Amazon и The Washington Post, выдаст один-другой критический выпад в Twitter.
С другой стороны, сам Трамп, видимо под давлением советников, все же несколько смягчил риторику в адрес участников протестов. Плюс, как сообщила 10 июня спикер Белого дома Кейли Макэнани, президент рассматривает предложение активистов и политиков принять меры по реформированию полиции.
28 "преступников" на Капитолийских холмах
Rekognition, скажем так, не самым лучшим образом себя зарекомендовала. Фактически в адрес компании звучала критика за технорасизм.
Он проявился в том, что, как констатировали в прошлом году специалисты MIT (Массачусетского технологического института), программа с недостаточной точностью распознает лица темнокожих американцев.
Мало того, прошлым летом компания попала впросак. Тогда ее программу решил протестировать Американский союз защиты гражданских свобод: в систему были загружены 25 тыс. фото людей, полученных из открытых источников, а также 535 фото конгрессменов.
Программа сопоставила изображения и ошибочно определила 28 законодателей (кстати, как афроамериканцев, так и темнокожих) преступниками.
Amazon не единственная компания, которая работает над данной технологией. И не единственная, программа которой оказалась хромой уткой.
Так, сотрудница MIT Джой Буоламвини детально изучила программы Amazon, IBM, Microsoft и обнаружила серьезные "расовые и гендерные" проблемы в распознавании лиц.
Ее работа вынудила IBM и Microsoft вернуть технологию в лабораторию, так сказать, и заняться доработкой.
Что занятно, компания Джеффри Безоса исследование Буоламвини не оценила и подвергла критике ее методы. При этом Amazon также отказалась предоставить свои алгоритмы Национального института стандартов и технологий США, сотрудники которого ранее также обнаружили ошибки в других системах.
И сегодня Amazon, а вместе с ней IBM и Microsoft просят Конгресс о создании более строгих правил, которые снизят риск стереть грань между поиском подозреваемых и нарушением приватности граждан. Хотя ранее отсутствие этих правил их не слишком заботило.
При этом Microsoft, в отличие от Amazon, пока не вводила аналогичный мораторий. Тут Безос первый. Но IBM его все же переплюнула: компания за день до заявления Amazon вообще объявила о выходе из бизнеса по созданию таких технологией.
Но почему же Amazon ввела мораторий на год? Откуда взялся этот срок?
Во-первых, решение тактически верное в том плане, что если Конгресс действительно запустит реформу полиции, то полностью изменится и формат взаимодействия техногигантов с правоохранительными органами.
Во-вторых, таким образом Amazon красивым и правильным жестом снимает с повестки дня - по сути, затирает в медиапространстве - проблемы своей технологии. Крупный бизнес с протестующими - месседж Безоса американцам.
В-третьих, компания получает время доработать программу.
В-четвертых, Amazon усилила свои переговорные позиции в будущих контактах с полицией относительно методик распознавания лиц.
И хотя ритейлер далеко не самая крупная рыбка в этом пруду - те же Microsoft или IBM выделяют куда большие ресурсы на это направление, - вовремя сделанный правильный шаг может подтолкнуть и другие компании последовать примеру Amazon.
Быть или не быть реформе
Конечно, все это может стать реальностью при условии, что Конгресс запустит реформу полиции, а Трамп не будет путаться под ногами. А вдобавок будут выработаны нормы, более жестко регулирующие сферу применения систем распознавания лиц.
На местах соответствующие процессы начались еще в прошлом году, когда ряд городов, в том числе немаленький Сан-Франциско, запретили полиции пользоваться такими технологиями.
Нынешние протесты в Штатах подарили обществу перспективу изменения подхода государства и отношения в целом к системе слежки, да и к системе взаимоотношений государство - гражданин.
Впрочем, этому может помешать промедление или банальная утрата демонстрантами энтузиазма. Тем представителям власти, которым не по нутру требуемая реформа, достаточно затянуть/заболтать процесс, и вопрос постепенно сам собой рассосется.
Опять-таки может угаснуть запал протестующих. Сейчас они требуют кардинальных изменений, но могут, условно говоря, разойтись в большинстве своем, когда им презентуют лишь намек на готовность что-то менять. Останется группка самых упрямых и дальновидных.
Ключевой вопрос в том, захочет ли государство, как бы ни крутил носом Amazon и другие, в принципе отказаться от слежки за гражданами? Учитывая еще и то, что все более интенсивное использование таких технологий - общемировая тенденция.
Да и эпидемия коронавируса некоторым правительствам предоставила возможность внедрить дополнительные инструменты - отслеживать контакты больного Covid-19 и контролировать то, как он соблюдает карантин.
