- 13,850
- 20
- 8 Ноя 2022
Спорное судебное ПО «COMPAS» хотят публично препарировать, чтобы доказать его предвзятость по отношению к обвиняемым.
Партия демократов США в очередной раз Для просмотра ссылки Войдиили Зарегистрируйся , целью которого является обеспечение возможности проверки исходного кода программного обеспечения, используемого для криминальных расследований, и подчинение его стандартизированному тестированию государственными органами.
Законопроект был представлен 15 февраля двумя членами демократической партии от разных штатов. Инициатива получила название «Закон о справедливости в судебных алгоритмах 2024 года».
Данный законопроект запрещает использовать аргументы о коммерческой тайне в качестве основания для непозволения стороне защиты рассматривать исходный код программного обеспечения, имеющего отношение к уголовным делам, а также устанавливает федеральный режим тестирования программного обеспечения для судебной экспертизы.
Этот законопроект нацелен на то, чтобы гарантировать обвиняемым возможность оценить справедливость используемого против них программного обеспечения. Инициативу уже пытались продвинуть в 2019 и 2021 годах, но безуспешно.
Особое внимание привлекает к себе система COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), разработанная компанией Northpointe для расчёта риска повторного преступления обвиняемым и влияющая на решения судебного разбирательства. Компания Northpointe считает свою систему частной собственностью и отказывается раскрывать принципы её работы, ссылаясь на закон о коммерческой тайне.
Всё бы ничего, если бы система COMPAS относилась ко всем справедливо, однако, Для просмотра ссылки Войдиили Зарегистрируйся журналиста Эндрю Ли Парка, это далеко не так. Проведённый компанией ProPublica в 2016 году Для просмотра ссылки Войди или Зарегистрируйся показал, что система COMPAS предвзято относится к афроамериканцам и часто бывает неточной. В ответ на это Northpointe опубликовала Для просмотра ссылки Войди или Зарегистрируйся , утверждающее справедливость своего программного обеспечения, но ProPublica Для просмотра ссылки Войди или Зарегистрируйся .
Тем временем, представители Electronic Frontier Foundation ( EFF ) поддержали требования к прозрачности судебных алгоритмов, подчеркнув, что обвиняемые и общественность имеют право знать, по какому принципу подобные системы отправляют людей за решётку.
Ответчики также утверждают, что отказ в доступе к исходному коду такого программного обеспечения противоречит шестой поправке конституции США и лишает обвиняемого права противостоять своему обвинителю.
Несмотря на актуальность и важность обсуждаемых вопросов, маловероятно, что законопроект пройдёт через обе палаты Конгресса на этот раз, как уже и случалось дважды, однако если это случится, это станет важным шагом вперёд для защиты демократических принципов и прав человека в США.
Обеспечение прозрачности и подотчётности алгоритмов, используемых в криминальных расследованиях, критически важно для предотвращения предвзятости и дискриминации.
Таким образом, принятие этого законопроекта укрепит демократические принципы правосудия и равенства перед законом, обеспечив справедливое и гуманное отношение ко всем обвиняемым независимо от расы, пола и прочих факторов.
Партия демократов США в очередной раз Для просмотра ссылки Войди
Законопроект был представлен 15 февраля двумя членами демократической партии от разных штатов. Инициатива получила название «Закон о справедливости в судебных алгоритмах 2024 года».
Данный законопроект запрещает использовать аргументы о коммерческой тайне в качестве основания для непозволения стороне защиты рассматривать исходный код программного обеспечения, имеющего отношение к уголовным делам, а также устанавливает федеральный режим тестирования программного обеспечения для судебной экспертизы.
Этот законопроект нацелен на то, чтобы гарантировать обвиняемым возможность оценить справедливость используемого против них программного обеспечения. Инициативу уже пытались продвинуть в 2019 и 2021 годах, но безуспешно.
Особое внимание привлекает к себе система COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), разработанная компанией Northpointe для расчёта риска повторного преступления обвиняемым и влияющая на решения судебного разбирательства. Компания Northpointe считает свою систему частной собственностью и отказывается раскрывать принципы её работы, ссылаясь на закон о коммерческой тайне.
Всё бы ничего, если бы система COMPAS относилась ко всем справедливо, однако, Для просмотра ссылки Войди
Тем временем, представители Electronic Frontier Foundation ( EFF ) поддержали требования к прозрачности судебных алгоритмов, подчеркнув, что обвиняемые и общественность имеют право знать, по какому принципу подобные системы отправляют людей за решётку.
Ответчики также утверждают, что отказ в доступе к исходному коду такого программного обеспечения противоречит шестой поправке конституции США и лишает обвиняемого права противостоять своему обвинителю.
Несмотря на актуальность и важность обсуждаемых вопросов, маловероятно, что законопроект пройдёт через обе палаты Конгресса на этот раз, как уже и случалось дважды, однако если это случится, это станет важным шагом вперёд для защиты демократических принципов и прав человека в США.
Обеспечение прозрачности и подотчётности алгоритмов, используемых в криминальных расследованиях, критически важно для предотвращения предвзятости и дискриминации.
Таким образом, принятие этого законопроекта укрепит демократические принципы правосудия и равенства перед законом, обеспечив справедливое и гуманное отношение ко всем обвиняемым независимо от расы, пола и прочих факторов.
- Источник новости
- www.securitylab.ru
