Запрет на слежку и не только

Верховный комиссар ООН по правам человека Мишель Бачелет сегодня, 15 сентября, подчеркнула срочную необходимость введения моратория на продажу и использование систем искусственного интеллекта (ИИ), которые представляют серьезную опасность для соблюдения прав человека. Она предложила продлить запрет до тех пор, пока не будут приняты надлежащие меры безопасности. Об этом говорится в докладе органа ООН. "Idel.Реалии" изучили документ.

Бачелет также призвала запретить приложения искусственного интеллекта, которые нельзя использовать в соответствии с международным правом.

"Искусственный интеллект может быть силой добра, помогая обществу преодолевать некоторые из серьезных проблем нашего времени. Но технологии искусственного интеллекта могут иметь негативные, даже катастрофические, последствия, если они используются без должного учета того, как они влияют на права человека ", — отметила Бачелет.

В рамках своей работы в области технологий и прав человека Управление ООН по правам человека сегодня опубликовало отчет, в котором анализируется, как ИИ — включая профилирование, автоматизированное принятие решений и другие технологии машинного обучения — влияет на право людей на неприкосновенность частной жизни и другие права, в том числе права на здоровье, образование, свободу передвижения, свободу мирных собраний и ассоциаций и свободу выражения мнений.

"Искусственный интеллект теперь проникает почти во все уголки нашей физической и умственной жизни и даже в эмоциональные состояния. Системы искусственного интеллекта используются для определения того, кто пользуется государственными услугами, принятия решения о том, у кого есть шанс быть принятым на работу, и, конечно же, они влияют на то, какую информацию люди видят и могут делиться в Интернете ", — сказала Верховный комиссар.

В документе отмечается, что уже было множество случаев, когда люди подвергались несправедливому обращению из-за ИИ, например, им отказывали в пособиях по социальному обеспечению из-за неисправных инструментов ИИ или арестовывали из-за неправильного распознавания лиц.

"Сложность среды данных, алгоритмов и моделей, лежащих в основе разработки и эксплуатации систем искусственного интеллекта, а также преднамеренная секретность государственных и частных субъектов являются факторами, подрывающими значимые способы понимания общественностью воздействия систем искусственного интеллекта на права человека и общество", — говорится в докладе.

Верховный комиссар призвала ограничить использование ИИ, по ее словам, соблюдение прав человека приоритетнее.

"Мы не можем позволить себе продолжать "догонять" ИИ, разрешая его использование с ограниченными или отсутствующими границами или надзором, и имея дело с почти неизбежными последствиями для прав человека постфактум. Способность ИИ служить людям неоспорима, как и способность ИИ подпитывать нарушения прав человека в огромных масштабах, практически незаметно. Сейчас необходимо принять меры, чтобы ограничить использование искусственного интеллекта рамками прав человека на благо всех нас", — подчеркнула Бачелет.

Ранее в Управлении Верховного комиссара ООН по правам человека (УВКПЧ) отреагировали на спецпроект "Idel.Реалии" "Китай идет на Запад", третья глава которого посвящена развитию сотрудничества Татарстана с Китаем, в том числе в области технологий слежения.

Тогда в органе ООН тогда подчеркнули необходимость четкой законодательной базы, регулирующей использование технологий распознавания лиц. В УВКПЧ отметили повсеместную тревожную тенденцию "слежки" за гражданами в общественных местах с использованием камер с функцией распознавания лиц.

"Idel.Реалии" писали, что для внедрения системы "Безопасный город" Татарстан активно изучал китайский опыт, а также привлекал китайские компании при реализации проекта. Так, в процессе участвовала компания Hikvision.

По данным Hikvision, система "Безопасный город" в Татарстане примерно на 60% реализована на базе видеокамер этой компании. Оборудование используется в решениях для обеспечения безопасности школ и детских садов, парков и скверов, для охранного мониторинга общественных пространств.

Hikvision — крупнейший в мире производитель камер видеонаблюдения. Коммерческая структура поставляет камеры с функцией распознавания лиц и в Синьцзян. Там китайские власти, как отмечают правозащитники, организовали, как его характеризуют СМИ, цифровой ГУЛАГ для коренных народов региона. Именно компания Hikvision создала камеры с искусственным интеллектом, которые автоматически определяют уйгур. США включили ее в черный список именно за вовлеченность в организацию преследования в Восточном Туркестане.

23 и 31 января в России прошли самые масштабные за последние годы несогласованные акции протеста. На каждой задержали более 4 тысяч человек. Акции прошли и в Казани. СМИ писали об использовании умных камер для преследования участников российских протестов.

Европейские международные организации также предупреждают о том, что установка умных камер должна иметь законную цель, быть необходимой и соразмерной. Правозащитники указывают на то, что биометрические персональные данные подлежат максимальной защите, их использование возможно только при предварительном согласии человека.

"Idel.Реалии" реализуют спецпроект по экспансии Китая в Поволжье "Китай идет на запад". Он описывает глобальную китайскую инициативу "Один пояс — один путь", с запуском которой началась активная фаза репрессий в Синьцзяне, в регионе имеющем ключевое значение для этой инициативы.

Ранее "Idel.Реалии" опубликовали первые три части спецпроекта и в них описали то, как реализуются китайские инициативы в Чувашии, Самарской области и Татарстане.

8 сентября издание опубликовало новую главу проекта, целиком посвященную Ульяновской области.

❌Если ваш провайдер заблокировал наш сайт, скачайте приложение RFE/RL на свой телефон или планшет (Android здесь, iOS здесь) и, выбрав в нём русский язык, выберите Idel.Реалии. Тогда мы всегда будем доступны!

❗️А еще подписывайтесь на наш канал в Telegram.