Прогресс в области больших языковых моделей (Large Language Models, LLMs) открывает новые горизонты для понимания машинного поведения. В центре исследований — определение уникальных “личностей” этих систем. Соответственно, возникают два ключевых вопроса:
- Можем ли мы оценить поведение машин, используя психометрические тесты, разработанные для людей?
- Если да, то можем ли мы “воспитать” у LLMs определенные личностные черты?
Тестирование машинного “характера”
Вдохновленные человеческими исследованиями личности, ученые предложили кардинальный подход к изучению машинного поведения — использовать инвентарь оценки личности (Machine Personality Inventory, MPI). В основу этого инструмента положена теория Большой Пятерки (Big Five), которая рассматривает такие черты характера как открытость опыту, ответственность, экстраверсия, дружелюбие и невротизм.
Используя MPI для анализа поведения LLMs — наподобие того как психологи оценивают человеческую личность — исследователи обнаружили стабильность данных черт в ответах моделей на различные сценарии. Это стало первым доказательством наличия уровня “личности” у LLMs: некоторые модели проявляли черты сопоставимые с человеческим уровнем по результатам MPI.
Создание ИИ с персональной “чертой характера”
В рамках эксперимента был разработан метод Подстройки Личности (PERSONALITY PROMPTING), который позволяет контролировать специфические личностные характеристики в поведении LLMs. Суть методики заключается в следующем:
- Задается желаемая особенность из Большой Пятерки.
- Создается простой запрос на основании ключевых слов из психологического словаря.
- Модель самостоятельно создает текст-портрет индивидуума со свойствами заданной черты.
Эффективность P^2 была подвергнута проверке при помощи MPI: получено достоверное изменение склонностей модели к конкретным чертам.
Тестирование на реальных примерах
Чтобы выйти за рамки стандартных тестирований MPI и проверить применимость методик в более широких условиях, был использован так называемый vignette test: моделям предлагалось написать короткое эссе на заданную гипотетическую ситуацию.
Результаты этого эксперимента также подвергали оцении со стороны людей; 100 добровольцев определяли соответствие текстов желаемому “настроению”. Результат? Опросы подтвердили успех P^2: большинство участников признало изменение требуемого свойства в тексте по сравнению с контрольной выборкой.
Заключение
Изучение LLMs через призму человеческой психометрической тестирования открыло новый фасад для анализации ИИ поведения. Метод PERSONALITY PROMPTING имеет потенциал изменять связь модели не только для конструкторского испытания или академический интерес; эта работ может играющий значительную роль которое буквально формируют будущее ИИ коммуникации — создавая более интуитивнопонятного компьютерного помощника или безупречный интерфейсы пользователя.
Оставшийся цель – это не только продолжить работать над безопасными стратегиями использования таких систем чтобы минимизироватся возможный риска непреднамереными последствии или злоумышленное использованиии этого знания.
