В школах Екатеринбурга появятся следящие за стоп-словами камеры

The Simpsons / 20th Century Fox Television Gracie Films, 1989-2021

В нескольких школах Екатеринбурга до конца года установят систему отслеживания потенциально опасных или запретных слов, звуков и действий, в том числе курения. Она будет постоянно анализировать данные с камер и микрофонов в школе и передавать сигналы о потенциальной опасности группе быстрого реагирования, сообщает Znak.

Российские власти уже не первый год занимаются разработкой систем для отслеживания происходящего в школах. Так, в 2020 году стало известно, что все школы в России оснастят системой Orwell, которая будет с помощью камер и нейросетей распознавать лица и отслеживать опасные ситуации, такие как возгорания. А летом этого года власти подмосковья решили оснастить одну из школ региона системой, умеющей следить за опасными действиями, например, катанию по перилам, и составлять психологические профили учеников.

Теперь департамент образования Екатеринбурга объявил, что в двух или трех школах города до конца года установят систему, которая будет следить не только за действиями школьников, но и за их словами. Систему разработала екатеринбургская компания «Недремлющее око». Она будет состоять из камер с микрофонами, расставленными по школе, и сервера с нейросетями для распознавания действий и звуков. Аудиоподсистема будет следить за звуками, такими как разбивание стекла или передергивание затвора, и словами, например, «убью» или «бомба». Алгоритмы для анализа видео будут обучены распознаванию действий (драки, курение и прочее), и предметов.

В случае, если нейросети обнаружат какой-либо маркер опасной ситуации, система попросит группу быстрого реагирования посмотреть на видео с камеры, чтобы оценить обстановку и выехать на место, если подозрения системы подтвердятся.

От редактора

Департамент образования Екатеринбурга рассказал Znak, что по мнению чиновников система позволит предотвратить чрезвычайные происшествия, в том числе массовые убийства. Однако в подобном случае система среагирует, когда преступник уже будет находиться в здании и совершать активные действия, на предотвращения которых у охраны и полиции не будет времени, поэтому это обоснование для установки системы неизбирательной слежки выглядит спорно.
Некоторые регионы мира наоборот стараются минимизировать государственное применение систем слежения, основанных на алгоритмах машинного обучения. В начале октября Европарламент принял резолюцию, призывающую запретить государственное использование алгоритмов для массового распознавания лиц, предсказания преступлений и других целей. Недавно мы рассказывали о том, что умеют системы предсказания преступлений и за что их критикуют в материале «Она предсказала убийство».

Григорий Копиев


Нашли опечатку? Выделите фрагмент и нажмите Ctrl+Enter.