Нейросетевая кормушка автоматизировала дрессировку собак
Американские разработчики собрали аппарат для полуавтоматической дрессировки собак. Например, после команды «сидеть» устройство распознает с помощью нейросети положение собаки и, если оно соответствует команде, выдает ей лакомство. Статья о разработке опубликована на arXiv.org.
При дрессировке собак хозяева или тренеры обычно используют метод обучения с подкреплением, то есть тем или иным образом вознаграждают животное за желаемое поведение, например, давая ему лакомство. Этот метод не только гуманнее метода обучения через наказание, но и, как показывают исследования, эффективнее, а также вызывает у собак меньший стресс во время обучения. Поскольку процесс обучения принципиально прост (необходимо оценить действие собаки и дать или не дать награду), его можно автоматизировать и некоторые исследователи уже создавали подобные алгоритмы.
Джейсон Сток (Jason Stock) и Том Кейви (Tom Cavey) из Университета штата Колорадо создали алгоритм, адаптированный для работы на недорогом одноплатном компьютере, и аппарат для дрессировки, который самостоятельно выдает собаке угощение за правильные действия. Они использовали компьютер NVIDIA Jetson Nano, у которого есть мощный видеоускоритель, подходящий для выполнения нейросетевых алгоритмов. К нему они также подсоединили камеру и самодельный дозатор, который приоткрывает отсек с кормом, чтобы оттуда высыпалась порция угощения в качестве награды. Авторы не отметили в статье, как именно дается команда, и не перечислили динамик в списке оборудования, так что, по-видимому, эту часть работы все же выполняет человек и работу аппарата нельзя назвать полностью автоматической.
Разработчики использовали три распространенных команды: «сидеть», «стоять» и «лежать». Для их распознавания они опробовали различные модификации трех сверточных нейросетей: ConvNet, MobileNetV2 и EfficientNet, а после обучения опробовали квантование («сжатие» нейросети за счет преобразования чисел с плавающей запятой в целые, подробнее можно прочитать тут) с помощью TensorFlow и TensorRT.
Для обучения нейросетевых моделей авторы воспользовались датасетом Stanford Dog Dataset и самостоятельно разбили кадры из него на четыре группы, соответствующие трем желаемым положениям собак и одному типу с неопределенным положением. В результате они получили набор из 20578 фотографий с разными собаками, сделанных в разных окружениях и при разном освещении.
Обучив множество комбинаций нейросетей и методов квантования, они определили два оптимальных варианта, один из которых выдает высокую точность и скорость работы, а второй оптимизирован для эффективного использования памяти. Первый вариант — это нейросеть EfficientNetB0, оптимизированная с помощью TensorRT. Она показывает точность 90,75 процентов и работает с частотой 36,28 кадра в секунду, занимая 28,34 мегабайта. Второй вариант — MobileNetV2, оптимизированная при помощи TensorFlow. Она имеет точность 87,57 процента и занимает всего 4,48 мегабайт памяти, но работает с частотой 9,38 кадра в секунду.
В дальнейшем разработчики предлагают добавить к алгоритму нейросеть для распознавания объектов, чтобы он мог определять положение хвоста, лап и других частей тела.
Дрессировку можно использовать не только для домашних питомцев. В 2017 году нидерландские инженеры создали умную кормушку для ворон и воронов, которая выдает еду только в обмен на сигаретные окурки — так они предложили бороться с мусором на улицах.
Григорий Копиев
Она обучалась на библейских текстах
Компания Meta* выпустила языковую модель, которая понимает устную речь. Она распознает более 4000 языков и может разговаривать на 1107 из них. Meta считает, что модель поможет сохранить языковое разнообразие в мире. Статья опубликована на сайте компании, код модели доступен на гитхабе. Обычно модели распознавания речи обучаются на больших объемах данных: им требуются тысячи часов аудиозаписей. При этом каждой записи должен соответствовать текст, чтобы модель научилась сопоставлять звучащую и письменную речь. Такие большие датасеты можно собрать только для популярных языков, на которых говорит много людей. Всего в мире существует около 7000 языков, но современные системы распознавания речи поддерживают не более 200 из них. Команда инженеров из компании Meta под руководством Майкла Аули (Michael Auli) обучила большую модель для распознавания речи Massively Multilingual Speech (MMS), которая может общаться на 1107 языках и распознавать 4017. Нейросеть обучалась на религиозных записях. Исследователи собрали два датасета: один с аудиозаписями и соответствующими текстами и второй только с аудиозаписями. Первый датасет состоит из 55 тысяч аудиозаписей, на которых люди зачитывают вслух тексты из Нового Завета. Всего в Новом Завете 27 книг и 260 глав. Данные собирали из трех источников: Faith Comes By Hearing, GoTo.Bible и YouVersion. Во второй датасет попали 7,7 тысяч часов аудиозаписей с сайта Global Recordings Network: это религиозные песни, записи отрывков из Библии и других религиозных текстов. Для обучения использовали нейросеть архитектуры wav2vec 2.0. Сначала ее предобучили, чтобы она могла превращать аудиозаписи в векторные представления. Дело в том, что нейросети работают не с сырыми записями, а с векторами — наборами чисел. Поэтому нужен механизм для превращения аудиозаписей в вектора из чисел, причем похожие аудиозаписи должны быть представлены геометрически близкими векторами. Для получения векторных представлений можно использовать любые аудиозаписи, главное чтобы их было много. Поэтому ученые объединили второй религиозный датасет с другими большими аудиодатасетами, в том числе Multilingual Librispech, CommonVoice, VoxLingua-107, BABEL и VoxPopuli. Всего в выборку попала 491 тысяча часов аудиозаписей без текстов. После предобучения получилась готовая модель MMS. Затем авторы натренировали MMS превращать речь в текст, дообучив ее на первом религиозном датасете с аудиозаписями и текстами. В разных частях света распространены разные типы языков, поэтому авторы определили точность модели для языков с разных континентов. Она научилась распознавать речь на 1107 языках со средней точностью по континенту 97 процентов. Авторы также проверили качество распознавания речи на нерелигиозных аудиозаписях. MMS сравнили с лучшими моделями для распознавания речи Whisper от OpenAI и USM от Google на датасете FLEURS. MMS ошибалась в два раза меньше, чем Whisper и на 6 процентов меньше, чем USM. В задаче определения языка MMS оценивали на датасетах FLEURS, VoxLingua-107, BABEL и VoxPopuli, в которые входит до 107 языков. К предобученной модели приделали простой линейный слой-классификатор, который натренировали определять язык на аудиозаписи. Модель показала такое же качество, как и конкурентные модели. При увеличении числа распознаваемых языков до 4000 с помощью дообучения на религиозных датасетах, качество модели падает совсем немного, с 94 до 93 и с 84 до 80 процентов на разных датасетах. Также авторы оценили, насколько хорошо MMS генерирует речь на 1107 языках, которые она умеет превращать в текст. Для этого модель обучили на архитектуре VITS — на момент создания MMS эта нейросеть показывала лучшие результаты по генерации звучащей речи на трех языках: английском, португальском и французском. Авторы масштабировали ее до 1107 языков, но в отличие от других задач, обучали нейросеть для каждого языка по отдельности. Качество модели оценили на языках по континентам. Средняя точность генерации речи по континенту составила 98 процентов. Лучше всего модель говорит на европейских и южноамериканских языках, хуже всего — на африканских. Наконец, ученые проверили, не повлиял ли характер религиозных датасетов на качество модели. Для этого нейросеть обучили отдельно на религиозных текстах и на повседневной речи из датасета FLEURS. Затем каждая модель должна была преобразовать звучащую повседневную речь из датасета FLEURS в текст. Хотя в обучающей выборке MMS было много религиозных терминов, в текстах она использовала их ненамного (менее чем на процент) чаще, чем модель, обучения на нерелигиозном датасете. На графике показана частота религиозных терминов в обучающей выборке и при превращении речи в текст. Разница между двумя моделями почти не заметна, хотя и немного отличается для некоторых языков. Качество модели оценивали в трех экспериментах, но задач по пониманию и генерации звучащей речи существует гораздо больше. В работе не указано, насколько хорошо большая мультиязычная модель проявила бы себя в более сложных задачах, таких как перевод, определение темы высказывания или поиск ключевых слов. Хотя MMS работает с большим числом языков, чем конкурентные модели, она пока не понимает все 7000 языков мира. Ученые планируют добавить в модель более редкие языки с малым количеством носителей. Они считают, что это может помочь спасти исчезающие языки от вымирания. Кроме того, в данных недостаточно представлены диалекты разных языков. В даркнете тоже говорят на своем языке, вернее на сленге. Обычные языковые модели плохо его понимают. Южнокорейские ученые обучили нейросеть DarkBERT читать тексты из даркнета и выполнять по ним задачи, связанные с кибербезопасностью. *Деятельность компании Meta запрещена в России.