- 13,858
- 20
- 8 Ноя 2022
GPT-3 как новая форма социального контроля в тексте.
Израильские ученые из Университета Бен-Гуриона Для просмотра ссылки Войдиили Зарегистрируйся , что искусственный интеллект способен анализировать тексты и определять нарушения социальных норм их авторами. Это стало возможно благодаря применению GPT-3 — большой языковой модели, созданной OpenAI . Как раз она способна автоматизировать создание и анализ контента.
Исследователи применили также метод анализа данных, известный как классификация текста с нулевым выстрелом (позволяет модели классифицировать текст в категории, которые не были известны при обучении). Суть проекта описали следующим образом: «Хотя социальные нормы и их нарушения были много раз изучены в психологии, автоматическое определение социальных норм и их нарушений представляет собой открытую задачу, которая может оказаться крайне важной для ряда проектов... Это открытая задача, потому что сначала нам нужно определить характеристики/сигналы/переменные, указывающие на нарушение... Например, появление на работе в состоянии опьянения и неприглядном виде является нарушением социальной нормы для большинства работающих людей. Однако «обучить» машину или компьютер понимать, что такое неприемлемо — далеко не простая задача».
Разумеется, законы этики отличаются в зависимости от культурных особенностей и места проживания человека, но, по мнению исследователей, реакция на девиантное поведение схожа в разных культурах. «Социальные нормы бывают культурно специфичными и охватывают многочисленные негласные «правила», но эмоциональная реакция окружающих, заложенная в нас эволюцией, может быть гораздо более общей», — отмечается в отчете.
В результате выяснилось, что лучшая стратегия для идентификации социальных нарушений — фокусировка на ограниченном наборе эмоций, таких как вина и стыд. Роль ИИ в том, чтобы распознать, когда пользователь мобильного устройства может испытывать чувство вины за свои действия.
Проект профинансирован DARPA (Агентство перспективных оборонных исследований Пентагона). Организация поддерживает множество научных разработок в надежде найти следующий эффективный инструмент для американской военной индустрии.
Почему именно DARPA заинтересовано в изучении нарушений социальных норм, пока не совсем понятно.
Израильские ученые из Университета Бен-Гуриона Для просмотра ссылки Войди
Исследователи применили также метод анализа данных, известный как классификация текста с нулевым выстрелом (позволяет модели классифицировать текст в категории, которые не были известны при обучении). Суть проекта описали следующим образом: «Хотя социальные нормы и их нарушения были много раз изучены в психологии, автоматическое определение социальных норм и их нарушений представляет собой открытую задачу, которая может оказаться крайне важной для ряда проектов... Это открытая задача, потому что сначала нам нужно определить характеристики/сигналы/переменные, указывающие на нарушение... Например, появление на работе в состоянии опьянения и неприглядном виде является нарушением социальной нормы для большинства работающих людей. Однако «обучить» машину или компьютер понимать, что такое неприемлемо — далеко не простая задача».
Разумеется, законы этики отличаются в зависимости от культурных особенностей и места проживания человека, но, по мнению исследователей, реакция на девиантное поведение схожа в разных культурах. «Социальные нормы бывают культурно специфичными и охватывают многочисленные негласные «правила», но эмоциональная реакция окружающих, заложенная в нас эволюцией, может быть гораздо более общей», — отмечается в отчете.
В результате выяснилось, что лучшая стратегия для идентификации социальных нарушений — фокусировка на ограниченном наборе эмоций, таких как вина и стыд. Роль ИИ в том, чтобы распознать, когда пользователь мобильного устройства может испытывать чувство вины за свои действия.
Проект профинансирован DARPA (Агентство перспективных оборонных исследований Пентагона). Организация поддерживает множество научных разработок в надежде найти следующий эффективный инструмент для американской военной индустрии.
Почему именно DARPA заинтересовано в изучении нарушений социальных норм, пока не совсем понятно.
- Источник новости
- www.securitylab.ru
