Общая тетрадь

вестник школы гражданского просвещения

 
 

Оглавление:

К читателю

Тема номера

Вызовы и угрозы

Дискуссия

Экономика и общество

Гражданское общество

Точка зрения

Горизонты понимания

Наш анонс

Nota bene

Номер № 77 (3-4) 2019

Когда правоохранительные органы выходят из-под контроля в либеральных демократиях

Инна Березкина, обозреватель журнала «Общая тетрадь»

Стефани Хэйр, независимый исследователь и автор книги об этике технологий, пишет, что полиция Южного Уэльса в тестовом режиме запускает для смартфонов приложение по распознаванию лиц. Приложение должно не только распознавать лица, но и автоматически сопоставлять полученную информацию с данными полицейской базы.

На первый взгляд в новости нет ничего настораживающего, пишет Хэйр. В конце концов у нас и так везде установлены камеры, и нас уверяют, что если нам нечего скрывать, то не о чем волноваться, а значит, можно пожертвовать неприкосновенностью нашей частной жизни, если это помогает полиции эффективнее бороться с преступностью. Но думать так — ошибка. Только люди, которые никогда не были ограничены в своих гражданских правах, могут распоряжаться ими так небрежно.

Чтобы понять, какую безграничную власть дают технологии распознавания лиц, попробуйте сравнить эту процедуру с использованием полицией биометрических данных (отпечатки пальцев и генетическая экспертиза).

Предоставляя полиции доступ к нашим биометрическим данным, мы становимся полноценными участниками процесса, потому что нам надо быть как минимум арестованными и оказаться в полицейском участке. К тому же полиция может получить наши данные только в индивидуальном порядке, невозможно собрать биометрические данные массово. Полиции приходится соблюдать законы, предусматривающие использование биометрических данных, включая срок их хранения. Если мы были арестованы и отпущены без предъявления обвинения или же следствие вынесло оправдательный приговор, полиция обязана удалить информацию о нашей ДНК и отпечатках пальцев в течение оговоренного периода времени.

С распознаванием лиц совершенно другая ситуация.

Полиция имеет возможность использовать технологию распознавания лиц без нашего ведома. Эти данные могут быть получены массово. В законе нет информации о том, как эти данные могут быть использованы. Если мы отпущены без предъявления обвинения или же оправданы, наши данные могут храниться в течение неопределенного срока. Это ставит нас в ситуацию, в которой мы должны доказывать нашу невиновность, что нарушает один из главных принципов Всеобщей декларации прав человека — мы невиновны, пока не доказано обратное. Технология распознавания лиц потенциально угрожает важнейшим правам граждан.

Полиция Южного Уэльса не может не знать об этом, потому что в Британии вопрос применения технологии распознавания лиц встретил резкое общественное неприятие. Инициатива исходила не только от организаций, занимающихся гражданскими свободами, но и от трех британских регуляторов в сфере защиты личных данных — ответственных за камеры слежения, за биометрические данные и за информацию, а также от членов Палаты общин, а именно Комитета по науке и технологиям, которые призвали объявить мораторий на использование технологии распознавания лиц. Все они признают не только возможные ошибки при реализации системы, но и угрозу праву на личную жизнь и гражданские свободы. Все единодушно признают, что технология, способная идентифицировать людей без их ведома, — мечта любого диктатора, открывающая новую страницу возможностей преследования на основании этнических признаков, религии, пола, сексуальных предпочтений, иммиграционного статуса или политических взглядов.

Либеральные демократии всегда ставили перед собой цель найти баланс между обеспечением свободы и безопасности. Все решения которые гипотетически могут угрожать этому равновесию, будь то технология распознавания лиц или что-то иное, не могут приниматься полицией. Решение должно приниматься парламентом, который представляет общество, считает Хэйр.

Адам Харви, американский активист и расследователь, также углубился в эту тему, потому что случайно обнаружил в базе данных правительства США фотографии коллеги, которые без ее ведома использовались для испытания программы распознавания лиц. Харви считает, что сам термин «распознавание лиц» вводит нас в заблуждение, потому что технически распознавание не останавливается на наших лицах, оно не остановится до тех пор, пока не получит информацию о нашей ДНК.

Но есть и еще один взгляд на проблему. Дэйв Маасс, исследователь и старший научный сотрудник «Фонда электронных рубежей» (Electronic Frontier Foundation — некоммерческая правозащитная организация для защиты заложенных в Конституции и Декларации независимости прав в связи с появлением новых технологий связи) считает, что решение этого вопроса лежит не в поле законности, а в области морали и этики. Известно, что разработчики программ распознавания лиц тестировали оборудование на фотографиях, находящихся в открытом доступе в Интернете, и никто из людей, изображенных на фотографиях, не давал согласия на участие в эксперименте. Часто ресурсами, которые использовали разработчики для получения информации, оказывались такие крупные компании, как Microsoft, IBM или Facebook, и в этой ситуации все участники процесса руководствовались положениями лицензии некоммерческой организации, наблюдающей за защитой права использования личных данных (Creative Commons). Недавно Райан Меркли, первое лицо Creative Commons объяснил позицию организации, заявив, что изначально лицензирование предусматривало защиту прав интеллектуальной собственности. Возложить на компанию ответственность за защиту индивидуальных данных или за регулирование инструментов сбора информации, применяемых в Интернете, — это ошибка, потому что подобные вопросы должны решаться на уровне публичной политики.

Увы, эксперты единодушно считают, что попытка остановить процесс распознавания лиц обречена на провал. Даже если достигнута договоренность со структурой, которая будет собирать и хранить данные, мы не можем предвидеть ситуации их утечки, взлома системы, смены режима и так далее. Таким образом, невозможно предсказать, у кого в конце концов окажется информация.

Ирина Бороган и Андрей Солдатов, ведущие российские эксперты по вопросам Интернета и безопасности, считают, что источником ограничения свобод граждан и передачи их в руки спецслужб является не только стремление последних к власти, но и запрос самих граждан на большую безопасность. Поскольку западное общество несколько десятилетий живет в относительно мирное время, людям начинает казаться, что стопроцентная безопасность возможна. То есть появляется иллюзия высокой эффективности работы служб безопасности. Не говоря уже о том, что когда происходит какая-либо массовая трагедия (теракт), реакция на нее всегда эмоциональна. А это выгодно и властям, и компаниям, которые производят и поставляют средства безопасности, от камер слежения до рамок металлоискателей. В этой ситуации модель отношений государства и общества, образно говоря, подобна контролю родителей за детьми. Но можно ли говорить, что намерения государства по отношению к обществу столь же искренни, как стремление родителей обезопасить детей?

Ирина Бороган и Андрей Солдатов считают, что эта модель ненадежна и распадается при первом столкновении с реальностью. Следуя логике, которую предлагает государство — гарантия безопасности в обмен на свободы, общество соглашается уступить свои свободы под влиянием  страха или под действием заведомо ложных аргументов. Но действительно гарантировать безопасность можно было бы, только приставив к каждому гражданину по охраннику. Другой пример гарантии безопасности, близкой к абсолютной, — шведская тюрьма. Нарочитая абсурдность этого примера полезна, потому что доступно иллюстрирует иллюзорность гарантии безопасности в обмен на свободу.

Но если мы понимаем, что отказ от свободы не гарантирует личную безопасность, а является только отказом от свободы, это приводит нас к главной мысли о свободе как абсолютной ценности. Эту свободу невозможно разменять на иллюзорную безопасность. Ее невозможно получить в дар от государства, как и от любого другого источника. Если мы принимаем свободу как абсолютную ценность, мы должны сделать так, чтобы наш голос, голос общества и голос каждого в отдельности, был услышан. Свобода требует глубокого понимания и нашего ответственного к ней отношения.

В тексте использованы материалы:

What is it like when police go rogue in a liberal democracy? Look to Britain. Каково это, когда полиция выходит за рамки дозволенного в либеральных демократиях. Пример Великобритании. Автор: Стефани Хэйр, 14 августа 2019, Washington Post.

Who’s using your face? The ugly truth about facial recognition. У кого есть доступ к вашему лицу. Некрасивая правда о распознавании лиц. Автор: Мадхумита Мурхия, 9 мая, 2019, The Irish Times.

Ирина Бороган и Андрей Солдатов: Свобода vs безопасность. Беседа в рамках программы i-forum 2019, Школа гражданского просвещения, 3 апреля, 2019. Вызовы и угрозы 39 Гари Симмонс. Взрыв. 1996/2003 40 Вызовы и угрозы Упадок либерализма. Что делать? Под определение «либ

Гари Симмонс. Взрыв. 1996/2003