Инженеры из Чжэцзянского университета научились создавать неслышимые для людей ультразвуковые команды, которые голосовые помощники на смартфонах и других устройствах воспринимают так же, как и человеческую речь. Для того, чтобы смартфон услышал команды, ультразвуковой передатчик должен находиться близко к нему и в не очень шумной обстановке. Также исследователи предложили и способ защиты от такой атаки. Препринт опубликован на сайте arXiv.org.
Голосовые помощники уже есть практически во всех смартфонах, аналогичные технологии используются в различных центрах управления умным домом, таких как Google Home или Amazon Echo. Они могут выполнять самые разные задачи, в том числе звонить, посылать сообщения или читать их, вести фото и видеосъемку, а также обладают доступом ко многим другим конфиденциальным данным. Из-за этого в последние годы часто появляются сообщения о новых методах взлома таких программ.
Китайские исследователи решили создать метод взлома, который будет универсальным для всех платформ, и при этом незаметным для жертвы. Чтобы атака была незаметной, инженеры использовали ультразвук. Они модулировали записи команд таким образом, чтобы выходной сигнал имел частоту, не воспринимаемую человеческим ухом. Однако, поскольку практически все микрофоны в смартфонах содержат фильтр нижних частот, исследователям пришлось найти способ обратно превращать ультразвуковой сигнал в воспринимаемый микрофоном. Для этого они воспользовались неизбежными нелинейными искажениями в микрофонах и усилителях, которые создавали новые частоты уже в микрофоне, а таким образом демодулировали сигнал.
Исследователи опробовали методику с несколькими голосовыми помощниками. Один из них — Apple Siri — оказался немного более устойчивым к такой атаке за счет того, что он запоминает голос хозяина и отзывается только на него. Инженеры предложили записывать небольшой фрагмент речи владельца, вычленять из него нужные звуки, а затем формировать из них команды, которые смартфон примет за команды хозяина. Кстати, в прошлом году Google создал нейросеть, которая может реалистично имитировать речь людей, что также может быть использовано для таких атак.
У такого метода взлома есть немало ограничений. Например, злоумышленник или его оборудование с ультразвуковым излучателем должны находиться не дальше, чем в 1,75 метра от цели. Также инженеры протестировали взлом при разных уровнях окружающего шума, и если в условиях офиса распознавание было успешным в подавляющем большинстве случаев, то на улице доля успешных команд снижалась до 30 процентов. В качестве защиты от атаки с помощью ультразвука исследователи предлагают использовать метод опорных векторов, который позволит отличить такие команды от команд, произнесенных человеком.
Голосовых помощников часто рассматривают в качестве удобной цели для атаки хакеров. Например, недавно британский специалист по информационной безопасности разработал способ взлома смарт-динамика Amazon Echo, благодаря которому злоумышленники смогут дистанционно прослушивать все, что происходит в доме владельца этого устройства. Другие исследователи наоборот ищут методы защиты от атак через таких помощников. Например, американские исследователи предложили измерять небольшие возмущения магнитного поля, создаваемые динамиками, и таким образом отличать реальный человеческий голос от его записи, воспроизведенной через динамик.
Григорий Копиев
Она пригодится для прогноза погоды и поиска загрязнений в океане
Инженеры из MIT придумали модель, которая предсказывает океанические течения с помощью машинного обучения. Она хорошо отражает физические свойства течений, поэтому работает точнее других методов. Препринт исследования доступен на arXiv.org. Ученые исследуют течения, чтобы получать информацию о состоянии океана: искать нефтяные и пластиковые загрязнения, отслеживать передвижение рыб и водорослей. Если знать направление течений, можно точнее предсказывать погоду или даже нейтрализовать последствия аварий, таких как пожар на буровой станции Deepwater Horizon в Мексиканском заливе в 2013 году. Данные о направлении течений помогут оценивать масштабы катастроф, чтобы защищать ближайшие воды и побережья. Чтобы изучать течения, в океан запускают буи с GPS. По скорости движения буев определяют скорость и направление океанических течений, а также их закрученность и дивергенцию. Закрученность — это вращательное движение течения вокруг воображаемой оси, похожее на спираль. А дивергенция описывает, как вода опускается или поднимается в процессе движения. Иногда несколько течений объединяются и опускаются ближе ко дну, а иногда — поднимаются к поверхности и растекаются в разные стороны. В 2019 году ученые начали моделировать океанические течения с помощью Гауссовского процесса. Это метод машинного обучения, который основан на вычислении вероятностей. Но первые Гауссовские модели течений оказались неточными с физической точки зрения. Дело в том, что в модель Гауссовского процесса можно добавить информацию о распределении данных. В старую модель добавлялась информация о распределении одной величины — скорости буев. Поскольку величина только одна, закрученность и дивергенция в модели считаются распределенными одинаково и действуют в одном масштабе. Но с физической точки зрения это неверно. В реальности радиусы спиралей, которые образуют закрученные структуры воды, на порядок больше, чем масштабы схождений и расхождений течений при дивергенции. Группа ученых из Массачусетского технологического института (MIT) под руководством Тамары Бродерик (Tamara Broderick) придумала новую модель Гауссовского процесса, которая лучше отражает физические свойства океанических течений. Модель основана на теореме Гельмгольца о разложении векторного поля. Океан здесь выступает в роли векторного поля, каждая точка которого представляет скорость и направление движения воды. По теореме Гельмгольца, одно векторное поле можно представить как сумму двух других векторных полей. В случае с океаном, первое поле определяет закрученность течений, при нулевой дивергенции. А второе — дивергенцию течений, но без закрученности. Это позволило ученым добавить в Гауссовский процесс информацию о том, как распределены данные в каждом поле по отдельности. Такая модель более правильная с точки зрения физики и работает лучше. Качество проверяли на реальных и искусственных данных. Реальные данные получили от более чем 1000 буев в Мексиканском заливе Атлантического океана. Их записывала другая исследовательская группа в течение 2 месяцев в 2016 году, и собрала больше 10 миллионов примеров для обучения. Новую модель сравнили со старым алгоритмом, основанном на Гауссовском процессе без теоремы Гельмгольца. Модели оценивали на трех группах заданий: по предсказанию скорости, закрученности и дивергенции течений. Новая модель Гельмгольца обошла конкурентов в 20 из 24 экспериментов. Средняя ошибка модели Гельмгольца в экспериментах по предсказанию скорости составила 0,42, старой модели — 0,7. Средняя ошибка в предсказании дивергенции оказалась 0,53 для модели Гельмгольца и 0,54 для старой модели. Наконец, средняя ошибка модели Гельмгольца в экспериментах по предсказанию закрученности составила 0,47, а старой модели — 0,77. Ученые утверждают, что новая модель требует ненамного больше вычислительных ресурсов, хотя работает эффективней. Дальше авторы планируют научить ее предсказывать, как океанические течения меняются с течением времени. Другая задача, которую еще предстоит решить — как сделать модель более устойчивой к шуму в обучающих данных. Помимо неустойчивости к шуму, модель страдает от разрозненности данных. Буев, которые собирают данные, ограниченное количество. Все они находятся на разном расстоянии от друг друга, то есть распределены неравномерно. Это ограничивает эффективность модели. Модель научилась предсказывать течения в Атлантическом океане и сможет помочь следить за его загрязнением, но другие океаны тоже страдают от мусора. Недавно команда экологов исследовала загрязнения в Тихом океане и описала целую экосистему, которая образовалась в Большом тихоокеанском мусорном пятне. Там на плавающих кусках мусора активно живут и размножаются разные виды беспозвоночных.