Новости Европарламент установил первый в мире стандарт для систем ИИ

[NewsMaker]

Закон об использовании ИИ вводит требования для поставщиков и пользователей ИИ, а также регулирует поведение нейросетей.

---

---

Европарламент Для просмотра ссылки Войди или Зарегистрируйся первые в мире правила для искусственного интеллекта (AI Act). Они направлены на обеспечение безопасности, прозрачности и этичности ИИ в Европе. Правила предусматривают риск-ориентированный подход и устанавливают обязательства для поставщиков и пользователей ИИ в зависимости от уровня риска, который может создавать ИИ.

Системы ИИ с неприемлемым уровнем риска для безопасности людей будут строго запрещены, включая системы, которые используют скрытые или целенаправленно манипулятивные техники, эксплуатируют уязвимости людей или используются для социального скоринга (классификации людей на основе их социального поведения, социально-экономического статуса, личных характеристик).

Депутаты также расширили список запрещенных практик ИИ, включив в него вторжение и дискриминацию при использовании систем ИИ, таких как:

• Удаленное биометрическое распознавание в общедоступных местах в режиме реального времени;
• Удаленное биометрическое распознавание, с единственным исключением правоохранительных органов для преследования серьезных преступлений и только после судебного разрешения;
• Системы биометрической категоризации с использованием чувствительных характеристик (например, пол, раса, этническая принадлежность, статус гражданства, религия, политическая ориентация);
• Для просмотра ссылки Войди или Зарегистрируйся (основанные на профилировании, местоположении или прошлом криминальном поведении);
• Системы распознавания эмоций в правоохранительных органах, пограничных службах, на рабочих местах и в учебных заведениях;
• Неизбирательное извлечение биометрических данных из социальных сетей или видеозаписей с камер видеонаблюдения для создания баз данных распознавания лиц (нарушение прав человека и права на неприкосновенность частной жизни).

Высокорисковый ИИ

Депутаты также добавили системы ИИ для влияния на избирателей в политических кампаниях и в системах рекомендаций, используемых соцсетями к списку высокорисковых.

Поставщики высокорискового ИИ должны выполнить ряд требований, среди которых:

• провести оценку риска и соответствия;
• зарегистрировать свои системы в европейской базе данных ИИ;
• обеспечить высокое качество данных, используемых для обучения ИИ;
• обеспечить прозрачность и информированность пользователей;
• обеспечить эффективный надзор со стороны человека и возможность вмешательства;
• обеспечить безопасность и надежность систем ИИ.

Пользователи высокорискового ИИ должны соблюдать правила использования и обеспечивать должный уровень навыков и знаний. Они также должны иметь возможность подавать жалобы на системы ИИ.

Низкорисковый ИИ

Поставщики ИИ с низким уровнем риска, таких как чат-боты, должны информировать пользователей о том, что они взаимодействуют с ИИ, а не с человеком.

Общие цели ИИ

Депутаты также предлагают создать специальный режим для общих целей ИИ и основных моделей, таких как GPT-3, которые могут быть использованы для различных целей и имеют большой потенциал для инноваций. Этот режим будет основан на принципе «доверяй, но проверяй» и будет включать в себя сертификацию качества и безопасности.

Депутаты также подчеркивают необходимость поддерживать развитие и применение ИИ в соответствии с европейскими ценностями и правами человека. Они призывают к увеличению инвестиций в ИИ, повышению цифровой грамотности и навыков, а также к сотрудничеству с другими странами и международными организациями.

Следующие шаги

После того, как позиция Европарламента будет одобрена на пленарном заседании, начнутся переговоры с Советом и Комиссией для дальнейшего принятия законопроекта.