Компания Apple временно приостановила программу оценки качества работы голосового помощника Siri, в рамках которой сотрудники Apple и сторонние подрядчики получали доступ к части аудиозаписей с устройств компании. В будущем Apple снова начнет анализировать эти данные, но позволит пользователям отказаться от участия в программе, сообщает The Guardian.
Siri — это голосовой помощник, который с 2011 года встраивается в различные устройства Apple: смартфоны, компьютеры, умные колонки и другие. На части из них Siri, как и почти все другие голосовые помощники, работает в режиме ожидания активационной фразы «Привет, Сири» или «Hey Siri». После этого устройство начинает записывать речь пользователя, отсылать данные на сервер Apple для обработки, а затем озвучивает ответ или выполняет действие.
Концепция приватности голосовых помощников, в том числе и Siri, основана на том, что распознавание активационной фразы происходит на самом устройстве с помощью алгоритма, который имеет высокую точность работы благодаря нацеленности на одну конкретную фразу. Тем не менее, иногда алгоритм все же работает неверно и либо не распознает эту фразу, либо, что случается гораздо чаще, узнает ее в других словах или звуках, то есть включает запись, когда пользователь не ожидает. Из-за этого у Apple есть программа контроля качества, в рамках которой сотрудники сторонних компаний получают часть записей, переданных на сервер, и определяют, насколько корректно алгоритмы распознали активационную фразу и саму команду, а также ответили на нее.
В конце июля 2019 года издание The Guardian рассказало подробности программы со ссылкой на одного из работников, участвовавших в ней. Выяснилось, что работники часто сталкиваются с некорректно распознанными запросами и аудиозаписями, содержащими конфиденциальные разговоры пользователей. Кроме того, оказалось, что аудиозаписи сопровождаются метаданными, в том числе контактами пользователя, местоположением во время записи, историей поиска и другими. Apple признала это, однако заверила, что подрядчики не разглашают полученную информацию, а также не получают идентификатор Apple ID, позволяющий однозначно связать запись с конкретным пользователем.
Несмотря на то, что практика прослушивания части голосовых запросов распространена и применяется другими компаниями, такими как Amazon и Google, этот случай вызвал достаточно большой общественный интерес. Вероятно, именно из-за этого через несколько дней компания объявила, что временно приостановила программу оценки качества работы Siri по всему миру. В дальнейшем прослушивание записей пользователей продолжится, но после пересмотра программы. При этом компания не уточняет, что именно изменится после этого. Известно лишь, что в будущем пользователи смогут отказаться от участия в программе и прослушивания их записей работниками Apple и подрядчиками компании.
Apple — не единственная компания, отдающая записи пользователей голосовых помощников третьим лицам. К примеру, Яндекс улучшает качество работы голосового помощника «Алиса» с помощью своего краудсорсингового сервиса «Толока», где пользователи получают аудиозаписи и размечают их для последующего анализа.
Григорий Копиев