Наталия Слюсарь — об универсальной грамматике и нейросетях
В 2023 году Ноам Хомский с коллегами написали для газеты New York Times колонку с красивым заголовком «The False Promise of ChatGPT». В этом тексте они призывают поумерить оптимизм в отношении даров, которые нам сулят все эти успехи больших языковых моделей. Более того, их внедрение, по мнению авторов колонки, представляет серьезную угрозу не только для науки, но и этики как таковой — оттого, что они несут в себе «фундаментально ущербные» понятия о том, что суть язык и знание.
Эту фундаментальную ущербность Хомский и сотоварищи усматривают в том, как языковые агенты осваивают и «понимают» языки. Например, говорят ученые, нейронные сети устроены так, что могут освоить так называемый невозможный язык. То есть научиться говорить на языке, с которым у людей заведомо будут проблемы.
Недавно эту мысль проверили экспериментально и показали, что ChatGPT-2 вообще-то тоже испытывает трудности с освоением невозможных языков. Отсюда возникает вопрос: уязвляет ли эта демонстрация каким-то образом позицию Хомского? И применим ли аргумент Хомского за пределами, собственно, «хомскианской» лингвистики? А есть ли вообще какая-то шкала «(не)возможности», вдоль которой можно выстроить разные языки?
Чтобы во всем этом разобраться, мы позвали в «Три сигмы» лингвиста Наталию Слюсарь, ведущего научного сотрудника Центра языка и мозга Высшей школы экономики.
Подкаст доступен на YouTube и в VK Видео.