- 13,579
- 20
- 8 Ноя 2022
Инициатива сразу же встретила сопротивление со стороны Meta и Google.
Законодатели Калифорнии Для просмотра ссылки Войдиили Зарегистрируйся за продвижение законопроекта, требующего от компаний, работающих с искусственным интеллектом, в обязательном порядке тестировать свои системы на безопасность и внедрять строгие меры защиты, способные предотвратить возможное манипулирование ими в злонамеренных целях.
Данное нововведение необходимо для предотвращения потенциального использования ИИ, например, для уничтожения электрической сети штата или создания химического оружия. Эксперты предупреждают, что такие сценарии вполне могут стать реальными по мере стремительного развития технологий.
Хотя новаторский законопроект преследует благие цели, он уже сталкивается с ожесточённой оппозицией со стороны венчурных фондов и технологических компаний, включая Meta* и Google. Позиция обеих компаний заключается в том, что подобное регулирование должно быть направлено на тех, кто использует ИИ во вред, а не на разработчиков.
Сенатор-демократ Скотт Винер, автор законопроекта, отметил, что предложение вводит разумные стандарты безопасности для предотвращения «катастрофических последствий» от мощных ИИ-моделей, которые могут быть созданы в будущем.
Требования нового закона, если его примут, будут применяться только к системам, на обучение которых было затрачено более $100 миллионов. На данный момент ни одна существующая ИИ-модель ещё не достигла такого бюджета.
Винер подверг критике кампанию противников законопроекта и подчеркнул, что законопроект не вводит новые уголовные наказания для разработчиков ИИ, чьи модели были использованы во вред несмотря на то, что они провели тестирование и приняли меры по снижению рисков. Как сообщается, только генеральный прокурор штата сможет возбуждать судебные дела в случае явных нарушений.
Гэвин Ньюсом, губернатор Калифорнии, продвигает свой штат как раннего сторонника и регулятора ИИ, отмечая, что совсем скоро на территории Калифорнии получится использовать генеративные ИИ-инструменты для решения проблем с дорожным движением и повышения безопасности на дорогах. Тем не менее, Ньюсом отказался комментировать законопроект и предупредил, что чрезмерное регулирование может поставить штат в «опасное положение».
Тем временем, коалиция технологических компаний утверждает, что требования законопроекта могут отпугнуть корпорации от разработки больших ИИ-систем или открытия своих технологий для свободного доступа.
Противники законопроекта предпочли бы дождаться дополнительных указаний от федерального правительства, в то время как сторонники считают, что Калифорния не может ждать и откладывать это дело в «долгий ящик», ссылаясь на уроки, извлечённые из позднего регулирования социальных сетей.
Местные законодатели также рассматривают две другие амбициозные меры для дальнейшей защиты жителей Калифорнии от потенциальных ИИ-угроз. Так, одна мера будет бороться с дискриминацией искусственного интеллекта при автоматическом отборе резюме и заявок на аренду жилья, а другая запретит социальным сетям собирать и продавать данные лиц младше 18 лет без их согласия или согласия их опекунов.
<span style="font-size: 10pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
Законодатели Калифорнии Для просмотра ссылки Войди
Данное нововведение необходимо для предотвращения потенциального использования ИИ, например, для уничтожения электрической сети штата или создания химического оружия. Эксперты предупреждают, что такие сценарии вполне могут стать реальными по мере стремительного развития технологий.
Хотя новаторский законопроект преследует благие цели, он уже сталкивается с ожесточённой оппозицией со стороны венчурных фондов и технологических компаний, включая Meta* и Google. Позиция обеих компаний заключается в том, что подобное регулирование должно быть направлено на тех, кто использует ИИ во вред, а не на разработчиков.
Сенатор-демократ Скотт Винер, автор законопроекта, отметил, что предложение вводит разумные стандарты безопасности для предотвращения «катастрофических последствий» от мощных ИИ-моделей, которые могут быть созданы в будущем.
Требования нового закона, если его примут, будут применяться только к системам, на обучение которых было затрачено более $100 миллионов. На данный момент ни одна существующая ИИ-модель ещё не достигла такого бюджета.
Винер подверг критике кампанию противников законопроекта и подчеркнул, что законопроект не вводит новые уголовные наказания для разработчиков ИИ, чьи модели были использованы во вред несмотря на то, что они провели тестирование и приняли меры по снижению рисков. Как сообщается, только генеральный прокурор штата сможет возбуждать судебные дела в случае явных нарушений.
Гэвин Ньюсом, губернатор Калифорнии, продвигает свой штат как раннего сторонника и регулятора ИИ, отмечая, что совсем скоро на территории Калифорнии получится использовать генеративные ИИ-инструменты для решения проблем с дорожным движением и повышения безопасности на дорогах. Тем не менее, Ньюсом отказался комментировать законопроект и предупредил, что чрезмерное регулирование может поставить штат в «опасное положение».
Тем временем, коалиция технологических компаний утверждает, что требования законопроекта могут отпугнуть корпорации от разработки больших ИИ-систем или открытия своих технологий для свободного доступа.
Противники законопроекта предпочли бы дождаться дополнительных указаний от федерального правительства, в то время как сторонники считают, что Калифорния не может ждать и откладывать это дело в «долгий ящик», ссылаясь на уроки, извлечённые из позднего регулирования социальных сетей.
Местные законодатели также рассматривают две другие амбициозные меры для дальнейшей защиты жителей Калифорнии от потенциальных ИИ-угроз. Так, одна мера будет бороться с дискриминацией искусственного интеллекта при автоматическом отборе резюме и заявок на аренду жилья, а другая запретит социальным сетям собирать и продавать данные лиц младше 18 лет без их согласия или согласия их опекунов.
<span style="font-size: 10pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru
