- 13,854
- 20
- 8 Ноя 2022
Школьные фотографы столкнулись с ложными обвинениями в создании неприличного контента.
В средней школе Лоуренса, штат Канзас, Для просмотра ссылки Войдиили Зарегистрируйся система круглосуточного наблюдения за учениками. С ноября прошлого года школьный округ заключил контракт на 162 000 долларов с компанией Gaggle , специализирующейся на технологиях безопасности учащихся.
Система искусственного интеллекта Gaggle анализирует все домашние задания, электронные письма, фотографии и чаты на школьных устройствах. Она ищет признаки употребления наркотиков и алкоголя, антисоциального поведения и суицидальных наклонностей.
Если ИИ обнаруживает подозрительное слово или изображение, последствия могут варьироваться от беседы с администратором до направления на онлайн-консультацию к психологу или визита местной полиции.
Администрация округа утверждает, что Gaggle — инструмент для повышения безопасности и благополучия учащихся и персонала. Эта цель особенно актуальна, учитывая, что самоубийство является второй по распространённости причиной смерти молодых людей 15-19 лет.
Компания Gaggle заявляет, что с 2018 по 2023 год «спасла» около 5790 жизней учащихся. Однако методология подсчёта этих данных вызывает вопросы у критиков системы.
Использование подобного программного обеспечения также вызывает опасения по поводу нарушения гражданских свобод. Критики указывают на возможное подавляющее воздействие для творчества и самовыражения учеников.
Были случаи, когда система ошибочно помечала работы учеников-фотографов как содержащие «обнажённую натуру», хотя сами ученики это отрицали. Особую обеспокоенность выразили студенты-журналисты. Они утверждают, что система нарушает их права на свободу прессы и конфиденциальность источников.
Несмотря на критику, школьный совет Лоуренса недавно проголосовал за продление контракта с Gaggle на сумму 53 000 долларов. Член совета подчеркнул, что у учащихся и сотрудников нет ожидания конфиденциальности при использовании устройств, выданных округом.
Дебаты вокруг использования систем наблюдения в школах продолжаются. Сторонники утверждают, что, если такая система спасёт хотя бы одну жизнь (а Gaggle заявляет о 5790 спасённых жизней), то оно того стоит. Критики же опасаются, что подобные меры буквально превращают школы в «виртуальные концлагеря».
В средней школе Лоуренса, штат Канзас, Для просмотра ссылки Войди
Система искусственного интеллекта Gaggle анализирует все домашние задания, электронные письма, фотографии и чаты на школьных устройствах. Она ищет признаки употребления наркотиков и алкоголя, антисоциального поведения и суицидальных наклонностей.
Если ИИ обнаруживает подозрительное слово или изображение, последствия могут варьироваться от беседы с администратором до направления на онлайн-консультацию к психологу или визита местной полиции.
Администрация округа утверждает, что Gaggle — инструмент для повышения безопасности и благополучия учащихся и персонала. Эта цель особенно актуальна, учитывая, что самоубийство является второй по распространённости причиной смерти молодых людей 15-19 лет.
Компания Gaggle заявляет, что с 2018 по 2023 год «спасла» около 5790 жизней учащихся. Однако методология подсчёта этих данных вызывает вопросы у критиков системы.
Использование подобного программного обеспечения также вызывает опасения по поводу нарушения гражданских свобод. Критики указывают на возможное подавляющее воздействие для творчества и самовыражения учеников.
Были случаи, когда система ошибочно помечала работы учеников-фотографов как содержащие «обнажённую натуру», хотя сами ученики это отрицали. Особую обеспокоенность выразили студенты-журналисты. Они утверждают, что система нарушает их права на свободу прессы и конфиденциальность источников.
Несмотря на критику, школьный совет Лоуренса недавно проголосовал за продление контракта с Gaggle на сумму 53 000 долларов. Член совета подчеркнул, что у учащихся и сотрудников нет ожидания конфиденциальности при использовании устройств, выданных округом.
Дебаты вокруг использования систем наблюдения в школах продолжаются. Сторонники утверждают, что, если такая система спасёт хотя бы одну жизнь (а Gaggle заявляет о 5790 спасённых жизней), то оно того стоит. Критики же опасаются, что подобные меры буквально превращают школы в «виртуальные концлагеря».
- Источник новости
- www.securitylab.ru
