Умная колонка Amazon отправила запись разговора случайному человеку

Умная колонка Amazon Echo Dot записала разговор хозяев дома и без разрешения отправила эту запись их знакомому, сообщает Ars Technica. Представители Amazon объяснили это ошибкой в системе распознавания речи, которая некорректно распознала несколько фраз и приняла их за команды голосовому помощнику.

Amazon Echo Dot — это умная колонка, которая может выступать в качестве голосового помощника, а также управлять другими устройствами в доме. Она слушает все разговоры вокруг в ожидании голосовой команды «Alexa», которая распознается на самом устройстве. После этого колонка направляет запись речи на сервера Amazon, которые анализируют ее и распознают команды. Подразумевается, что по умолчанию устройство пересылает данные только компании и только после того, как пользователь явно начал беседу с колонкой.

Жительница города Портленд штата Орегон в США рассказала, что один из сотрудников компании ее мужа получил запись разговоров из ее дома, сделанную умной колонкой Amazon. Он пересказал предмет разговора и переслал запись женщине. После этого она отключила все четыре колонки в доме и обратилась в Amazon. Инженеры компании проанализировали логи с устройства и подтвердили, что оно записало разговор и переслало его без команды от пользователя.

Позднее в компании дали подробное объяснение инцидента. Оказалось, что колонка услышала в разговоре супругов слово, похожее на команду активации, а затем приняла одну из фраз за команду «Отправить сообщение». После этого она спросила, кому отправить запись, распознала слово в разговоре как имя человека из списка контактов, переспросила, правильно ли она распознала имя и приняла еще одну из фраз как положительный ответ. Компания заявила, что такая череда неправильно распознанных фраз маловероятна, но пообещала, что улучшит распознавание и уменьшит вероятность повторения такого инцидента.

Стоит отметить, что разработчики Amazon Echo предусмотрели в колонке кнопку отключения микрофона, которая аппаратно отключает микрофон таким образом, что программное обеспечение не может включить его обратно. В прошлом году британский специалист по информационной безопасности научились способ взлома колонки и загрузки на нее прошивки, которая записывает разговоры без команды активации и пересылает записи на сторонний сервер, но и она не может вести запись при отключенном микрофоне.

Исследователи не раз использовали несовершенства алгоритмов распознавания речи голосовых помощников для их обмана. Например, китайские специалисты научились давать им неслышимые команды с помощью ультразвука, а исследователи из США создали метод, позволяющий встраивать в запись речи команды, неслышимые для людей, но распознаваемые голосовым помощником. Впрочем, иногда эти недостатки спасают людей. В прошлом году умный дом неправильно распознал фразу человека, угрожавшего своей подруге оружием, и вызвал полицию, которая вскоре приехала к дому и задержала угрожавшего.

Григорий Копиев