- 13,854
- 20
- 8 Ноя 2022
Сторонники свободного ПО активно поддерживают перспективную инициативу.
Open Source Initiative ( OSI ) инициировала новую попытку установить чёткое и единое определение термина «открытый ИИ» в ответ на растущую путаницу и споры в индустрии искусственного интеллекта. Поводом для этого стала практика некоторых компаний, таких как Meta *, которые выпускают модели ИИ с ограничениями на использование, но при этом называют их «открытыми». Это вызвало бурные споры среди сторонников свободного программного обеспечения о том, что действительно означает «открытый» в контексте ИИ.
Например, модель Llama 3 от Meta, хотя и доступна бесплатно, не соответствует традиционным критериям открытого программного обеспечения, определённым OSI, из-за ограничений на её использование в зависимости от размера компании или характера создаваемого контента. Похожая ситуация с генератором изображений Flux, который также не соответствует принципам настоящего открытого исходного кода. В связи с этим OSI предложила использовать альтернативные термины, такие как «открытые веса» или «доступный исходный код», чтобы подчеркнуть разницу.
Для решения этой проблемы OSI собрала группу из 70 экспертов, включая исследователей, юристов и представителей крупных технологических компаний, таких как Meta, Google и Amazon. Группа разработала текущий проект определения «открытого ИИ», который подчёркивает четыре фундаментальные свободы, аналогичные тем, что определяют свободное программное обеспечение: возможность использовать систему для любых целей, изучать её работу, вносить изменения и делиться ими.
OSI надеется, что чёткие критерии для определения «открытого ИИ» помогут разработчикам, исследователям и пользователям лучше оценивать системы ИИ, с которыми они работают. Такое определение также позволит выявлять потенциальные уязвимости в ИИ, поскольку исследователи смогут анализировать модели более детально. В отличие от таких закрытых систем, как ChatGPT от OpenAI, точная архитектура которого остаётся тайной, открытые ИИ-модели могут быть прозрачными для анализа.
Планируется, что окончательная версия определения «открытого ИИ» будет представлена в октябре на конференции All Things Open 2024 в Северной Каролине.
По мнению Стефано Маффулли, исполнительного директора OSI, важно определить, что действительно означает открытый ИИ. Он подчёркивает, что ИИ отличается от обычного программного обеспечения, и требует пересмотра принципов открытого исходного кода в этом контексте. Организация также отмечает, что чёткие определения способствуют прозрачности, сотрудничеству и инновациям.
Инициатива выходит за рамки только модели ИИ и её весов, охватывая всю систему и её компоненты. Для того чтобы система ИИ считалась открытой, она должна предоставлять доступ ко всей информации, необходимой для внесения изменений, включая данные о тренировках, исходный код и параметры модели.
Проект также включает требование предоставления «информации о данных» — метаданных, описывающих источники данных, методы отбора и обработки. Это направлено на обеспечение прозрачности и возможности воспроизведения системы без необходимости раскрытия самих данных, что может затронуть вопросы конфиденциальности или авторских прав.
Стоит отметить, что процесс разработки единого определения открытости начался ещё в 2022 году и включал серию мастер-классов по всему миру. В обсуждениях приняли участие представители различных слоёв общества, что позволило учесть мнения множества заинтересованных сторон. OSI продолжает привлекать общественность к обсуждению через открытые форумы и встречи.
Когда определение будет окончательно утверждено, оно может оказать значительное влияние на индустрию ИИ, определяя, как компании будут выпускать свои модели и как будет развиваться законодательство в этой сфере. OSI надеется, что новое определение объединит участников индустрии ИИ под знаменем прозрачности программного обеспечения.
<span style="font-size: 10pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
Open Source Initiative ( OSI ) инициировала новую попытку установить чёткое и единое определение термина «открытый ИИ» в ответ на растущую путаницу и споры в индустрии искусственного интеллекта. Поводом для этого стала практика некоторых компаний, таких как Meta *, которые выпускают модели ИИ с ограничениями на использование, но при этом называют их «открытыми». Это вызвало бурные споры среди сторонников свободного программного обеспечения о том, что действительно означает «открытый» в контексте ИИ.
Например, модель Llama 3 от Meta, хотя и доступна бесплатно, не соответствует традиционным критериям открытого программного обеспечения, определённым OSI, из-за ограничений на её использование в зависимости от размера компании или характера создаваемого контента. Похожая ситуация с генератором изображений Flux, который также не соответствует принципам настоящего открытого исходного кода. В связи с этим OSI предложила использовать альтернативные термины, такие как «открытые веса» или «доступный исходный код», чтобы подчеркнуть разницу.
Для решения этой проблемы OSI собрала группу из 70 экспертов, включая исследователей, юристов и представителей крупных технологических компаний, таких как Meta, Google и Amazon. Группа разработала текущий проект определения «открытого ИИ», который подчёркивает четыре фундаментальные свободы, аналогичные тем, что определяют свободное программное обеспечение: возможность использовать систему для любых целей, изучать её работу, вносить изменения и делиться ими.
OSI надеется, что чёткие критерии для определения «открытого ИИ» помогут разработчикам, исследователям и пользователям лучше оценивать системы ИИ, с которыми они работают. Такое определение также позволит выявлять потенциальные уязвимости в ИИ, поскольку исследователи смогут анализировать модели более детально. В отличие от таких закрытых систем, как ChatGPT от OpenAI, точная архитектура которого остаётся тайной, открытые ИИ-модели могут быть прозрачными для анализа.
Планируется, что окончательная версия определения «открытого ИИ» будет представлена в октябре на конференции All Things Open 2024 в Северной Каролине.
По мнению Стефано Маффулли, исполнительного директора OSI, важно определить, что действительно означает открытый ИИ. Он подчёркивает, что ИИ отличается от обычного программного обеспечения, и требует пересмотра принципов открытого исходного кода в этом контексте. Организация также отмечает, что чёткие определения способствуют прозрачности, сотрудничеству и инновациям.
Инициатива выходит за рамки только модели ИИ и её весов, охватывая всю систему и её компоненты. Для того чтобы система ИИ считалась открытой, она должна предоставлять доступ ко всей информации, необходимой для внесения изменений, включая данные о тренировках, исходный код и параметры модели.
Проект также включает требование предоставления «информации о данных» — метаданных, описывающих источники данных, методы отбора и обработки. Это направлено на обеспечение прозрачности и возможности воспроизведения системы без необходимости раскрытия самих данных, что может затронуть вопросы конфиденциальности или авторских прав.
Стоит отметить, что процесс разработки единого определения открытости начался ещё в 2022 году и включал серию мастер-классов по всему миру. В обсуждениях приняли участие представители различных слоёв общества, что позволило учесть мнения множества заинтересованных сторон. OSI продолжает привлекать общественность к обсуждению через открытые форумы и встречи.
Когда определение будет окончательно утверждено, оно может оказать значительное влияние на индустрию ИИ, определяя, как компании будут выпускать свои модели и как будет развиваться законодательство в этой сфере. OSI надеется, что новое определение объединит участников индустрии ИИ под знаменем прозрачности программного обеспечения.
<span style="font-size: 10pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru
