Нейросеть наделили характером хичкоковского психопата

Разработчики из Массачусетского технологического института представили Norman — нейросеть, вдохновением для которой стал Норман Бейтс — страдающий раздвоением личности психопат, персонаж романа Роберта Блоха и одноименного фильма Альфреда Хичкока «Психо». Единственная функция нейросети — рассматривать пятна Роршаха и выдавать результаты, а сам проект разработан с целью показать, как обучающая выборка может повлиять на искусственный интеллект. Ознакомиться с Norman можно на официальном сайте университета.

Тест Роршаха был разработан в начале 20-х годов прошлого века швейцарским психиатром Германом Роршахом. Проходящему тест пациенту показывают десять изображений с симметричными кляксами краски, и просят интерпретировать каждую из них: рассказать о первой пришедшей в голову ассоциации. Сам Роршах, а также все его последователи, полагали, что люди с разным психическим состоянием по-разному реагируют на формы и цвета и видят в них совершенно различные фигуры и образы. Несмотря на то, что валидность данного метода до сих пор не подтверждена, его используют в психиатрической практике по всему миру. 

Тест Роршаха послужил основой и для новой нейросети, разработанной исследователями под руководством Пинар Янардаг (Pinar Yanardag) из MIT. Norman разработан с помощью методов глубокого обучения. В качестве обучающей выборки авторы использовали описания изображений из тематического сообщества c Reddit, посвященного разговорам о смерти: из этических соображений разработчики не называют его. На основе собранного датасета нейросеть научили интерпретировать пятна Роршаха. Ответы нейросети затем сравнили с ответами, выданными нейросетью, обученной на датасете MsCOCO, собранном для распознавания изображений. Результаты оказались очень разными: нейросеть, обученная на стандартном датасете, видела в пятнах «вазу с цветами», а Norman — «застреленного мужчину».

Нейросеть достаточно простая и функций у нее немного: единственным практическим применением подобной системы может быть компьютерная диагностика ответов реальных людей на тест Роршаха. На деле же разработчики хотели показать, насколько искусственный интеллект может быть предвзятым в зависимости от обучающей выборки.

Несмотря на то, что предвзятость датасетов может сильно сказаться на работе алгоритма, основанного на методах машинного обучения, ее можно использовать и во благо. Например, с помощью векторного представления слов и анализа множества текстов, написанных в течение ста лет, разработчики смогли изучить, как менялось отношение общества к женщинам и азиатам.

Елизавета Ивтушок

Нашли опечатку? Выделите фрагмент и нажмите Ctrl+Enter.
Человек + машина

Как искусственный интеллект делает работу безопаснее

В промышленности нередко приходится работать с газами, химикатами или большими неповоротливыми машинами. Хотя за последние 200 лет проведено немало полезных реформ, призванных сделать труд безопаснее, на предприятиях все еще требуется соблюдать осторожность. Рассказываем, как люди боролись за право на безопасный труд и как сегодня ИИ помогает там, где человек может пострадать.