- 13,850
- 20
- 8 Ноя 2022
Компания OpenAI столкнулась с этической дилеммой.
OpenAI Для просмотра ссылки Войдиили Зарегистрируйся публичный доступ к функции распознавания лиц в мультимодальной версии GPT-4 из-за вопросов, касающихся конфиденциальности.
GPT-4, анонсированная ранее в этом году, должна не только обрабатывать и генерировать текст, но и анализировать изображения. OpenAI, в сотрудничестве со стартапом Be My Eyes, также разрабатывала приложение, которое помогает незрячим людям взаимодействовать с окружающим миром, описывая им картинки и фотографии. В последнее время некоторые пользователи стали замечать, что приложение перестало передавать информацию о лицах.
Сандхини Агарвал, исследовательница из OpenAI, подтвердила: модель способна идентифицировать общественных деятелей, у которых есть страница на Википедии. Однако возникают сомнения, что эта функция не нарушит законы о конфиденциальности в ряде регионов, где использование биометрии требует согласия граждан.
Среди других потенциальных проблем — опасения OpenAI, что Be My Eyes может неправильно интерпретировать или искажать характеристики лиц. Например, были случаи, когда GPT-4 неверно распознавала пол и эмоции. Подобные ошибки могут оказаться критичными в некоторых ситуациях. Разработчики собираются учесть вопросы безопасности до того, как функция анализа изображений GPT-4 станет широко доступна. «Мы очень хотим вести двусторонний диалог с общественностью. Если люди говорят, что в чем-то нет необходимости, то мы полностью примем такую позицию» — сообщила Агарвал.
Пока проблемы с приватностью остаются нерешенными, другие компании тестируют похожие технологии. Например, Microsoft разработал инструмент визуального анализа на базе GPT-4 в своем чат-боте Bing. Интересно, что Bing еще недавно проходил тест CAPTCHA (публичный тест Тьюринга), это может замедлить запуск обновления.
Google внедрил функции анализа изображений в нейросеть Bard. Она также способна решать текстовые CAPTCHA, хотя с переменным успехом.
Очевидно, массовое распространение ИИ-технологий компьютерного зрения неизбежно. Однако компаниям еще предстоит решить ряд проблем, прежде чем эти технологии станут доступны широкому кругу пользователей.
OpenAI Для просмотра ссылки Войди
GPT-4, анонсированная ранее в этом году, должна не только обрабатывать и генерировать текст, но и анализировать изображения. OpenAI, в сотрудничестве со стартапом Be My Eyes, также разрабатывала приложение, которое помогает незрячим людям взаимодействовать с окружающим миром, описывая им картинки и фотографии. В последнее время некоторые пользователи стали замечать, что приложение перестало передавать информацию о лицах.
Сандхини Агарвал, исследовательница из OpenAI, подтвердила: модель способна идентифицировать общественных деятелей, у которых есть страница на Википедии. Однако возникают сомнения, что эта функция не нарушит законы о конфиденциальности в ряде регионов, где использование биометрии требует согласия граждан.
Среди других потенциальных проблем — опасения OpenAI, что Be My Eyes может неправильно интерпретировать или искажать характеристики лиц. Например, были случаи, когда GPT-4 неверно распознавала пол и эмоции. Подобные ошибки могут оказаться критичными в некоторых ситуациях. Разработчики собираются учесть вопросы безопасности до того, как функция анализа изображений GPT-4 станет широко доступна. «Мы очень хотим вести двусторонний диалог с общественностью. Если люди говорят, что в чем-то нет необходимости, то мы полностью примем такую позицию» — сообщила Агарвал.
Пока проблемы с приватностью остаются нерешенными, другие компании тестируют похожие технологии. Например, Microsoft разработал инструмент визуального анализа на базе GPT-4 в своем чат-боте Bing. Интересно, что Bing еще недавно проходил тест CAPTCHA (публичный тест Тьюринга), это может замедлить запуск обновления.
Google внедрил функции анализа изображений в нейросеть Bard. Она также способна решать текстовые CAPTCHA, хотя с переменным успехом.
Очевидно, массовое распространение ИИ-технологий компьютерного зрения неизбежно. Однако компаниям еще предстоит решить ряд проблем, прежде чем эти технологии станут доступны широкому кругу пользователей.
- Источник новости
- www.securitylab.ru
