Есть много стран, граждане которых привыкли видеть камеры видеонаблюдения ежедневно, куда бы они ни пошли. Москва выходит на новый уровень, устанавливая более ста тысяч таких устройств по всему городу, в том числе в подъездах некоторых многоквартирных домов. В декабре 2016 года творческие люди из NTechLab совместно с местными властями внедрили систему распознавания лиц прямо в основе этой инфраструктуры. С тех пор Произведено 6 арестов преступников, которых раньше было трудно поймать, согласно сообщениям, поступившим 28 сентября 2017 года. Но что это говорит об обществе, которое постоянно находится под наблюдением с помощью технологий, которые потенциально могут автоматически признать каждого гражданина?
Что может пойти не так?
Существует аргумент в пользу обеспечения того, чтобы в городе было достаточно места для наблюдения, чтобы отслеживать перемещения и повседневную жизнь разыскиваемых преступников. Аресты, произведенные в Москве, доказывают, что система работает так, как задумано: некоторые из этих преступников годами уклоняются от ареста. Однако мы не можем игнорировать жуткую идею о том, что в одном городе так много камер видеонаблюдения, что местное правительство может практически отслеживать каждое движение каждого въезжающего горожанина и туриста. Подобная общегородская система представляет собой огромную возможность злоупотреблений.
Хотя мы в целом согласны с тем, что убийцы должны быть пойманы и привлечены к ответственности, тревожно представлять себе общество, в котором понятие «нарушитель закона» определяется тем же институтом, который осуществляет столь обширную слежку. Что, если, например, общество, которое ограничивает свободу выражения мнений, запрещая определенные предметы одежды, реализует эту модель наблюдения? Арестам будут подвергнуты лица, которые в определенный день решат надеть неправильную одежду.
Скандал FaceFind
До эксперимента с системой видеонаблюдения NTechLab сделала свою технологию общедоступной через платформу FindFace. С его помощью люди могли найти профиль человека в ВКонтакте (ВК, российская версия Facebook), загрузив его случайное фото. Группа гнусных людей решила используйте это программное обеспечение, чтобы найти профили актрис для взрослых в ВК и связалась со своей семьей и друзьями в надежде, что они вызовут негативную реакцию и усложнят жизнь жертвы. Первоначальные намерения FindFace были далеки от того, для чего он использовался. Он был создан как платформа для поиска новых друзей, но вместо этого стал находкой для сталкеров со всего мира.
Когда благие намерения не достигают своих целей
И платформа видеонаблюдения с распознаванием лиц, и FindFace были созданы с лучшими намерениями. Один был создан для поимки преступников, а другой — для сближения людей. Но человеческая природа плюс природа государственных учреждений рисуют иную картину того, как будет использоваться это программное обеспечение. Мы склонны использовать технологии таким образом, чтобы иметь контроль не только над своей жизнью, но и над другими (например, родитель устанавливает программное обеспечение для отслеживания на телефоне ребенка). При правильном использовании это может помочь нам обеспечить безопасность людей. Однако в чужих руках такие технологии, как FindFace и система распознавания лиц на основе систем видеонаблюдения в Москве, потенциально могут сделать жизнь невинных людей невыносимой.
Считаете ли вы, что нам следует внедрять больше или меньше технологий для содействия государственному надзору? Давайте поговорим об этом в комментариях!
