Курс на антиутопию

«Кремниевый нуар и конец технооптимизма» — под таким названием издания The Intercept выпустило обзор важнейших событий ИТ-отрасли за 2018 г. Этот год войдет в историю как год, когда ИТ, до этого считавшиеся освободительной и уравнивающей силой, окончательно пошли по пути, который ведет к угнетению и антиутопии, пишет The Intercept.
В пример издание приводит ряд резонансных событий в индустрии. Например, в августе стало известно, что Google работает над особой поисковой системой для Китая, в которой будет присутствовать цензура. Проект под кодовым названием Dragonfly развивается с весны 2017 г., его цель — лишить китайских пользователей доступа к материалам о правах человека, демократии, религии и мирных протестах, пишет The Intercept. По данным издания, до запуска финальной версии продукта летом оставалось шесть-девять месяцев.
После публикации материала на Google обрушился шквал критики со стороны правозащитных организаций и либерально настроенных пользователей. В итоге компания сообщила, что приостановила разработку поисковика с цензурой.

Правительственная слежка

The Intercept приводит несколько примеров, имевших место в уходящем году, когда американское правительство следило или пыталось следить за пользователями. Например, в сентябре издание писало, что министерство внутренней безопасности США использует в аэропортах систему распознавания лиц для подтверждения личности пассажиров.
Однако процесс распознавания лиц нередко приводит к тому, что пассажиры опаздывают на рейс, поскольку алгоритму нужно время, чтобы отсканировать и обработать несколько десятков или даже сотен лиц. В таких случаях авиакомпании предпочитают пропустить этап распознавания лиц, чтобы пассажиры оказались на борту самолета вовремя. Судя по обнародованным документам, власти считают, что это недопустимо, и такую практику следует пресечь, даже ценой задержки рейсов.


Иностранные СМИ пишут, что ИТ становятся инструментом усиления имущественного неравенства
В январе 2018 г. издание сообщало, что ряд документов из архива Эдварда Сноудена(Edward Snowden) подтвердил существование технологии, с помощью которой Агентство национальной безопасности (АНБ) может автоматически установить личность говорящего по звуку его голоса. Разработанный властями алгоритм изучает признаки, которые делают голос каждого человека уникальным, и создают динамическую модель голоса в течение нескольких секунд.

Согласно документам, механизм используется для обнаружения террористов или каналов утечки информации вроде самого Сноудена. Однако повсеместное распространение в США голосовых помощников типа Siri и Alexa, с которыми пользователи постоянно общаются голосом, потенциально делает технологию инструментом тотальной слежки за населением.
Также издание сообщает, что в октябре Amazon запатентовала технологию, которая позволяет голосовому помощнику Alexa установить по акценту пользователя, к какой национальности он относится. Опрошенные изданием эксперты опасаются, что появление такого механизма приведет к нарушению прав человека и возможной дискриминации пользователей со стороны рекламодателей. Кроме того, этими данными может заинтересоваться правительство в целях слежки за населением.

Произвол крупных компаний

Некоторые события, вошедшие в обзор The Intercept, касаются не правительственной слежки, а произвола крупных компаний по отношению к пользователям и своим сотрудникам. В пример издание приводит скандал, разгоревшийся в конце августа, когда выяснилось, что часть работников Amazon как минимум в пяти штатах вынуждены были в 2017 г. покупать продукты по продуктовым талонам.
Речь идет о талонах, которые выдаются в рамках правительственной программы помощи малоимущим. Эти карточки дают право на получение скидки при покупке продуктов, и их получают граждане, чей доход находится ниже определенного уровня. В 2017 г. в штате Аризона примерно каждый третий сотрудник Amazon получал такие талоны, или жил с кем-то, кто их получал. В общей сложности это составляет 1,8 тыс. человек.

Напомним, при этом капитализация Amazon в сентябре превысила $1 трлн, а в июле основатель компании Джефф Безос(Jeff Bezos) стал самым богатым человеком в современной истории с состоянием свыше $150 млрд.
В апреле были обнародованы документы, подтверждающие, что Facebook использует механизмы, которые предсказывают поведение пользователя и вероятность покупки им того или иного товара. Полученные данные компания продает рекламодателям, которым гораздо удобнее пользоваться такой информацией, а не стандартным набором сведений о пользователе, куда входит возраст, пол и т. д.
В мае исследователи из Гарварда выяснили экспериментальным путем, что пользователи менее склонны доверять рекламе, если знают, что для ее показа о них были собраны какие-то данные. Именно этим, пишет The Intercept, объясняется то, что в соцсети Facebook возможность ознакомиться со списком сведений, отправляемых рекламодателю, запрятана как можно дальше, под маленькую незаметную кнопку.

Издание отмечает, что подобные действия Facebook выглядят очень непоследовательно на фоне клятв защищать данные пользователей любой ценой, которые компания не устает повторять после скандала британской компанией Cambridge Analytica. Напомним, Cambridge Analytica использовала данные миллионов пользователей Facebook, чтобы повлиять на результат президентских выборов в США.