Разработчики из Facebook представили нейросеть, которая умеет предсказывать движения рук музыканта по аудиозаписи. Система слушает музыкальную композицию и одновременно проецирует в дополненной реальности аватара, играющего мелодию. Программисты, чья статья была представлена на конференции Conference on Computer Vision and Pattern Recognition (CVPR), считают, что разработка может быть полезна для обучения игре на музыкальных инструментах.
Сегодня для самостоятельного обучение игре на различных инструментах используются разные приложения и видеоуроки. Однако они, как правило, позволяют рассмотреть движения музыканта лишь с определенного ракурса. Перенос учителя в виртуальную или дополненную реальность может быть удобен для пользователей, так как он позволит им полностью увидеть правильную постановку рук при игре на инструменте.
Группа разработчиков под руководством Эли Шлицермана (Eli Shlizerman) решила создать виртуальный аватар, который бы мог имитировать движения рук пианиста или скрипача, основываясь на аудиозаписи. Для этого они использовали LSTM-нейросеть. Это разновидность архитектуры рекуррентных нейросетей, где каждый слой имеет обратную связь с другими слоями и обладает своеобразной памятью, позволяющей учиться на своих ошибках и усваивать долгосрочные связи (подробнее об LSTM-нейросетях можно почитать в нашем материале «Самая человеческая задача»).
В качестве данных для обучения программисты использовали публично доступные видеозаписи, на которых профессионалы играют на музыкальных инструментах без аккомпанемента. Для пианино исследователям удалось собрать 3,6 часа материала, для скрипки — 4,4 часа. На каждом кадре видеозаписи нейросеть определяла, где находятся руки и пальцы исполнителя и строила скелетную модель. Она сопоставляла эти данные с мел-частотным кепстральными коэффициентами, которые используются в качестве характеристики аудиосигналов. Важно заметить, что исследователи не использовали midi-файлы, поэтому нейросеть не обучалась зависимостям между нотами и, например, конкретными клавишами пианино.
В результате программа научилась определять взаимосвязь между характеристиками звука и движениями рук музыканта и строить предсказания. Созданную нейросетью скелетную модель разработчики использовали для создания аватара в дополненной реальности. Итог их работы можно увидеть на видео ниже:
На видеоролике хорошо видно, что аватар скорее подражает музыкантам, чем полноценно повторяет их движения. Тем не менее, движения виртуального персонажа выглядят вполне естественно. По мнению создателей, в будущем подобная технология может найти множество применений. Например, аватар может быть использован для обучения — в то время как он будет копировать движения профессионала в виртуальной реальности, пользователь сможет обойти его с разных сторон и понаблюдать за техникой игры.
Сегодня виртуальные аватары все чаще используются для решения различных задач. Например, с их помощью предлагают опрашивать свидетелей преступления, лечить больных шизофренией и парализованных людей.
*Facebook принадлежит компании Meta, деятельность которой в России запрещена.
Кристина Уласович
Пять правил успешной IТ-стажировки
Как попасть на работу в сфере IT без опыта работы? Хороший способ попробовать свои силы, познакомиться с работодателем и зарекомендовать себя — пойти на стажировку. Редакция N + 1 на примере программы Росатома подготовила пять универсальных правил, которые помогут попасть на желаемую IT-стажировку и остаться работать в компании. Правило 1. Выбирайте не только профессию, но и компанию Важно не только выбрать дело по душе, но и подобрать себе подходящее место работы — в наши дни это чуть ли не важнее, чем сама профессия. Хотели бы вы строить карьеру именно с этим работодателем? Если после стажировки вы надеетесь получить трудоустройство, внимательно изучите, чем компания занимается и насколько это близко вам лично. Может прозвучать неожиданно, но в Росатоме — госкорпорации, занимающейся атомной промышленностью, — есть IT-направление. Сотрудники разрабатывают цифровые продукты разного масштаба: от создания программных роботов и цифровизации Северного морского пути до строительства новых электростанций. Попасть на работу в госкорпорацию легче, чем кажется! Особенно если вы студент или выпускник старших курсов технических или IT-специальностей. Поддержка. Формат программы уникален, участие бесплатное и дистанционное. Команде участников предстоит решить реальный кейс при постоянной поддержке куратора и наставничестве эксперта. Кстати, участие в Case Lab можно засчитать как производственную практику в университете. А лучшие студенты получат приглашение на оплачиваемую стажировку в штат Гринатома и другие проекты Росатома. Правило 2. Определитесь, какое направление для вас Ок, с компанией определились. Что дальше? Нужно выбрать направление. Чем четче вы сформулируете свои предпочтения в работе, тем проще будет найти подходящую стажировку. А кандидат с четкой расстановкой приоритетов, безусловно, лучше выглядит в глазах работодателя. В Росатоме открывается много проектов, поэтому список программ Case Lab постоянно обновляется. Вот самые популярные направления: Аналитика и системный подход В условиях импортозамещения самые популярные системы учета в России и СНГ — это продукты 1С, которые используют 1,5 миллиона компаний. С их помощью можно считать зарплату сотрудников, контролировать расчеты с подрядчиками и клиентами, вести документооборот, сводить бухгалтерский баланс, формировать отчеты и делать многое другое. На Case Lab от Гринатома команды участников на реальных примерах изучают, как устроены автоматизация деятельности предприятия, подсчет зарплат, контроль расчетов с подрядчиками и клиентами через систему 1C, и с нуля обучаются новой профессии: 1С-аналитик или 1С-разработчик. Похожий трек есть и по направлению SAP. Там участники работают с SAP BI — системой обработки информации для бизнес-анализа, с помощью которой проводят стратегический анализ данных и принимают стратегические решения в компании. Поддержка В любой технологической компании есть несколько линий поддержки. Чем они отличаются друг от друга? Близостью к пользователю или системе: от непосредственной работы с пользователем до технических вопросов эксплуатации и низкоуровневого взаимодействия с кодом системы. Участники программы Support изучают построение IТ-инфраструктуры и знакомятся со спецификой работы в сфере IT. По итогам марафона Росатом открывает набор на стажировки по разным направлениям: первая линия поддержки пользователей, поддержка видео-конференц-связи или корпоративной системы передачи данных, администрирование систем коммуникаций Microsoft, работа с серверным оборудованием или автоматизация IТ-инфраструктуры. Веб-разработка Если хочешь быть востребованным специалистом, лучше всего изучать JavaScript или Java. Программа подходит для всех, кто начинает делать первые шаги к карьере в IТ. Подготовка идет по двум направлениям: разработка и системная аналитика. Участники учатся создавать, настраивать и кастомизировать несложные сайты, а также пробуют на практике работу в Scrum-команде. Кстати, в Case Lab ребята пишут на JavaScript. Правило 3. Не пренебрегайте конкурсами, хакатонами и другими программами поддержки молодых специалистов Крупные IT-компании давно следуют принципу, что лучше обучить новичков под свой проект с нуля, чем заниматься «перепрошивкой» готового специалиста. Проявите себя — так больше шансов, что вас заметят. Так, для желающих попасть на оплачиваемую стажировку в Росатом после Case Lab учитываются баллы рейтинга, мотивация и умение работать в команде. Программа подготовки к IT-стажировкам по всем направлениям бесплатная и проходит в дистанционном формате. Участникам предлагают совместно решить кейс на основе реальной ситуации. В процессе обучения команду сопровождает куратор, который еженедельно дает обратную связь, а также эксперт, проверяющий выполненное задание. На еженедельных встречах с экспертом участники могут задать вопросы и обменяться опытом. Правило 4. Интегрируйтесь в компанию по максимуму Не забывайте напоминать о себе. Принимайте приглашения на все встречи и совместные мероприятия, не стесняйтесь общаться. В вас должны видеть не только профессионала, но и приятного человека, с которым хочется иметь дело. Стажировка Гринатома может быть рассчитана как на полную, так и на частичную занятость. Руководители помогают стажерам адаптироваться в атомной отрасли и постепенно ставят перед ними практические задачи. Все стажеры официально трудоустроены, а их работа оплачивается исходя из фактической занятости. Росатом заинтересован в том, чтобы после стажировки участники программы остались работать в IT-блоке разных предприятий атомной отрасли. Чтобы участники не чувствовали себя оторванными от коллег, каждую пятницу проводятся развлекательно-познавательные тренинги — онлайн-встречи, на которых сотрудники компании делятся опытом и советами, как успешно пройти стажировку или развить soft skills. Во время онлайн-митапов и квизов стажеры знакомятся между собой и погружаются в процессы компании. IT-вакансии для стажеров доступны как удаленно, так и в офисе в разных городах России. Большинство стажировок можно проходить удаленно, и в этом, на наш взгляд, огромный плюс. Также не забывайте принимать участие во всех активностях компании: в Гринатоме есть беговой клуб, сообщество волонтеров, языковые клубы и многое другое. Правило 5. Не забывайте, стажировка — это полноценная работа Если вы хотите остаться в компании, относитесь к стажировке так же, как к полноценной работе. У вас будет руководитель-наставник, но это уже не учеба. Чтобы стать постоянным сотрудником одной из компаний Росатома, нужно пройти программу стажировки и получить положительную обратную связь от руководителя и наставника. Если все требования будут учтены, вас переведут на позицию джуниора. 80% стажеров Росатома заключают постоянный контракт. Если вам интересна работа в IT-блоке атомной отрасли — подавайте заявку, набор на стажировки открыт круглый год. За подробностями следите в группе «IT-стажировки Росатома» во «ВКонтакте» и на сайте.