Американские разработчики представили систему, которая обучает искусственный интеллект понятию обладания объектами. Такая система состоит из четырех алгоритмов, каждый из которых собирает информацию о владельце объекта и том, какие действия к нему можно применять. Препринт статьи опубликован на arXiv.org.
Одной из необходимых для успешной коммуникации социальных норм считается понятие обладания: в обычной ситуации у людей не принято распоряжаться чужим имуществом без разрешения. Кроме того, норма эта не только социальная, но также этическая и правовая, и ее отсутствие может привести к негативной реакции и нежелательным последствиям.
Для успешной интеграции роботов в человеческое общество умение соблюдать нормы обладания необходимо и искусственному интеллекту. Исследователи под руководством Брайана Сказеллати из Йельского университета разработали единую систему, с помощью которой роботов можно научить базовым принципам обладания.
Система работает на основе четырех алгоритмов. Первый алгоритм собирает информацию о владельцах объектов на примере фразы «Это мое», сказанной владельцем. Второй алгоритм, напротив, учится правилам, в соответствии с которыми человек не является обладателем объекта. Третий и четвертый алгоритм запоминают правила, которые распространяются владельцами на объекты в их обладании: например, обозначают то, что с объектами можно или нельзя делать. Понятие «обладания», таким образом, представляется для обучаемой системы в виде графа, в котором вершины представляют собой объекты и потенциальных владельцев, а ребра — отношения между ними, и большого массива правил, регулирующих приемлемое и неприемлемое взаимодействие робота с предметами. Например, если исследователь попросит выбросить какой-то объект, система сможет обратиться к доступной ему информации о том, что этот объект кому-то принадлежит и, следовательно, не может быть выброшен, а затем отказаться.
Полученную систему интегрировали в робота Baxter и провели эксперимент с объектами — разноцветными кубиками — и их обладателями: разные люди просили робота поднимать или выбрасывать различные объекты. Со встроенной системой определения обладания робот успешно определил валидность просьб исследователей для 14 объектов из 20.
Несмотря на успешную работу представленной системы, ученые отмечают, что пока что она направлена только на анализ собственной оценки обладания объектами, то есть относительно действий самого робота. В будущем ученые также хотят расширить возможности своей системы, обучив ее, к примеру, понятию заимствования, при котором, помимо обладателя, объект может — в той или иной мере — быть использован и другими.
При обучении искусственного интеллекта многие исследователи отмечают предвзятость данных, которые используются для машинного обучения. Например, взяв в качестве обучающей выборки тематические тексты, можно обучить нейросеть «мыслить» как психопат.
Елизавета Ивтушок