Главная » Статьи » Нейросеть наделили характером хичкоковского психопата

Нейросеть наделили характером хичкоковского психопата

Psycho / Paramount Pictures, 1960

Разработчики из Массачусетского технологического института представили Norman — нейросеть, вдохновением для которой стал Норман Бейтс — страдающий раздвоением личности психопат, персонаж романа Роберта Блоха и одноименного фильма Альфреда Хичкока «Психо». Единственная функция нейросети — рассматривать пятна Роршаха и выдавать результаты, а сам проект разработан с целью показать, как обучающая выборка может повлиять на искусственный интеллект. Ознакомиться с Norman можно на официальном сайте университета.

Тест Роршаха был разработан в начале 20-х годов прошлого века швейцарским психиатром Германом Роршахом. Проходящему тест пациенту показывают десять изображений с симметричными кляксами краски, и просят интерпретировать каждую из них: рассказать о первой пришедшей в голову ассоциации. Сам Роршах, а также все его последователи, полагали, что люди с разным психическим состоянием по-разному реагируют на формы и цвета и видят в них совершенно различные фигуры и образы. Несмотря на то, что валидность данного метода до сих пор не подтверждена, его используют в психиатрической практике по всему миру. 

Тест Роршаха послужил основой и для новой нейросети, разработанной исследователями под руководством Пинар Янардаг (Pinar Yanardag) из MIT. Norman разработан с помощью методов глубокого обучения. В качестве обучающей выборки авторы использовали описания изображений из тематического сообщества c Reddit, посвященного разговорам о смерти: из этических соображений разработчики не называют его. На основе собранного датасета нейросеть научили интерпретировать пятна Роршаха. Ответы нейросети затем сравнили с ответами, выданными нейросетью, обученной на датасете MsCOCO, собранном для распознавания изображений. Результаты оказались очень разными: нейросеть, обученная на стандартном датасете, видела в пятнах «вазу с цветами», а Norman — «застреленного мужчину».

Нейросеть достаточно простая и функций у нее немного: единственным практическим применением подобной системы может быть компьютерная диагностика ответов реальных людей на тест Роршаха. На деле же разработчики хотели показать, насколько искусственный интеллект может быть предвзятым в зависимости от обучающей выборки.

Несмотря на то, что предвзятость датасетов может сильно сказаться на работе алгоритма, основанного на методах машинного обучения, ее можно использовать и во благо. Например, с помощью векторного представления слов и анализа множества текстов, написанных в течение ста лет, разработчики смогли изучить, как менялось отношение общества к женщинам и азиатам.

Елизавета Ивтушок