- 13,858
- 20
- 8 Ноя 2022
Этика, децентрализация и инновации: строительные блоки AGI от основателя SingularityNET.
На открытии саммита Beneficial AGI Summit в Панаме 27 февраля Бен Герцель, основатель SingularityNET и один из ключевых популяризаторов концепции общего искусственного интеллекта (AGI), Для просмотра ссылки Войдиили Зарегистрируйся уверенность, что уже в следующем году может начать работу ранний прототип системы AGI. Герцель представил детальный план развития AGI, ориентированный на то, чтобы технология служила интересам человечества и не оказалась под контролем крупных корпораций или государств.
AGI, по сути, представляет собой теоретическую модель искусственного интеллекта, способную выполнять любую интеллектуальную задачу, которую может выполнить человек. Для достижения этой цели Герцель выделил несколько ключевых направлений: разработка на основе открытого исходного кода, использование децентрализованной инфраструктуры и систем управления, создание открытой когнитивной архитектуры, применение разнообразных алгоритмов AGI, управление данными на этических принципах, а также вовлечение участников из различных уголков мира.
В беседе с Cointelegraph Герцель подчеркнул, что предложенный план лежит в основе всей деятельности экосистемы SingularityNET. «Мы создаем децентрализованные инфраструктуры искусственного интеллекта, которые не зависят от того, какой подход к искусственному интеллекту вы захотите использовать», — сказал он, отметив, что цель заключалась в том, чтобы любой «12-летний гений из Таджикистана» мог внести свой вклад в этот прорыв.
Герцель особо выделил свой проект OpenCog Hyperon как потенциального кандидата на роль платформы, способной совершить прорыв в достижении AGI. Ожидается, что альфа-версия Hyperon будет представлена в апреле и станет прото-AGI, предлагая разработчикам уникальный инструментарий для создания продвинутых ИИ-систем.
OpenCog — это проект искусственного интеллекта с открытым исходным кодом, основанный Герцелем в 2008 году и связанный с SingularityNET. По его словам, Hyperon Alpha будет своего рода прототипом AGI, использующим специальный язык программирования под названием Metta, который откроется в апреле, чтобы разработчики программного обеспечения с открытым исходным кодом могли использовать его для написания лучшего кода для различных приложений искусственного интеллекта. Hyperon описан в научной работе как «фреймворк для AGI на уровне человека и выше», объединяющий последние идеи, программное обеспечение и техники.
На вопрос о том, будет ли альфа-релиз чем-то вроде детского AGI, который можно будет превратить в полноценный AGI, Герцель ответил утвердительно. «У нас будет полный набор инструментов для создания детского AGI», — пояснил он и сказал, что им необходимо и мы будем основательно масштабировать систему в период с настоящего момента до конца года.
«Чтобы достичь того, что я хотел бы назвать младенцем AGI, нам понадобится ускорение в миллион раз».
«Я думаю, что к началу 2025 года у нас может появиться ребенок AGI», — сказал он. «Я думаю, мы можем назвать его эмбриональным AGI, если вы хотите продолжить эту метафору».
Герцель также поддержал подход Виталика Бутерина к разработке сверхразумного искусственного интеллекта (d/acc).
Мнения о развитии AGI в настоящее время разделились между сторонниками акселерационизма (e/acc), которые хотят броситься к этой технологии из-за ее преимуществ, и сторонниками замедления (decel), которые хотят замедлить развитие технологий искусственного интеллекта из-за страха перед экзистенциальными рисками. По мнению Герцеля, первый подход немного напоминает «Силиконовую долину превыше всего», в то время как второй даже если бы и был лучшим подходом, не имеет реалистичных шансов на реализацию.
Вместо этого Герцель поддерживает подход Бутерина - «децентрализованный акселерационизм», или «защитный акселерационизм». Этот подход призывает продолжать разработку ИИ, но делать её открытой, прозрачной и подотчётной обществу.
Ускорение прогресса к AGI — «вероятно, лучшее, что мы можем сделать», — сказал он, но «мы не хотим, чтобы власть над AGI была сосредоточена в руках какой-либо одной стороны [...] И мы хотим обратить внимание на различные плохие вещи, которые могут произойти».
В своей новой книге «Взрыв сознания», Герцель обсуждает огромные выгоды ИОИ, включая освобождение человечества от рутинной работы, окончание всех физических и психических заболеваний, лечение старения и потенциальное предотвращение непроизвольной смерти. Однако, несмотря на эти преимущества, он признает, что AGI может принести и ряд проблем, включая разработку Китаем и Соединенными Штатами «супер AGI, цель которого — сокрушить другого парня» или неэтичный выпуск AGI, который принесет выгоду только глобальной элите и сделает бедных еще беднее
Регуляторный захват, когда крупные компании лоббируют правила, которые приносят пользу им больше, чем остальным людям, по его мнению, вполне возможен. Хотя он считает это маловероятным, «риск, о котором Голливуд любит говорить» о том, что ИИ выходит из-под контроля, также находится в пределах возможного.
На открытии саммита Beneficial AGI Summit в Панаме 27 февраля Бен Герцель, основатель SingularityNET и один из ключевых популяризаторов концепции общего искусственного интеллекта (AGI), Для просмотра ссылки Войди
AGI, по сути, представляет собой теоретическую модель искусственного интеллекта, способную выполнять любую интеллектуальную задачу, которую может выполнить человек. Для достижения этой цели Герцель выделил несколько ключевых направлений: разработка на основе открытого исходного кода, использование децентрализованной инфраструктуры и систем управления, создание открытой когнитивной архитектуры, применение разнообразных алгоритмов AGI, управление данными на этических принципах, а также вовлечение участников из различных уголков мира.
В беседе с Cointelegraph Герцель подчеркнул, что предложенный план лежит в основе всей деятельности экосистемы SingularityNET. «Мы создаем децентрализованные инфраструктуры искусственного интеллекта, которые не зависят от того, какой подход к искусственному интеллекту вы захотите использовать», — сказал он, отметив, что цель заключалась в том, чтобы любой «12-летний гений из Таджикистана» мог внести свой вклад в этот прорыв.
Герцель особо выделил свой проект OpenCog Hyperon как потенциального кандидата на роль платформы, способной совершить прорыв в достижении AGI. Ожидается, что альфа-версия Hyperon будет представлена в апреле и станет прото-AGI, предлагая разработчикам уникальный инструментарий для создания продвинутых ИИ-систем.
OpenCog — это проект искусственного интеллекта с открытым исходным кодом, основанный Герцелем в 2008 году и связанный с SingularityNET. По его словам, Hyperon Alpha будет своего рода прототипом AGI, использующим специальный язык программирования под названием Metta, который откроется в апреле, чтобы разработчики программного обеспечения с открытым исходным кодом могли использовать его для написания лучшего кода для различных приложений искусственного интеллекта. Hyperon описан в научной работе как «фреймворк для AGI на уровне человека и выше», объединяющий последние идеи, программное обеспечение и техники.
На вопрос о том, будет ли альфа-релиз чем-то вроде детского AGI, который можно будет превратить в полноценный AGI, Герцель ответил утвердительно. «У нас будет полный набор инструментов для создания детского AGI», — пояснил он и сказал, что им необходимо и мы будем основательно масштабировать систему в период с настоящего момента до конца года.
«Чтобы достичь того, что я хотел бы назвать младенцем AGI, нам понадобится ускорение в миллион раз».
«Я думаю, что к началу 2025 года у нас может появиться ребенок AGI», — сказал он. «Я думаю, мы можем назвать его эмбриональным AGI, если вы хотите продолжить эту метафору».
Герцель также поддержал подход Виталика Бутерина к разработке сверхразумного искусственного интеллекта (d/acc).
Мнения о развитии AGI в настоящее время разделились между сторонниками акселерационизма (e/acc), которые хотят броситься к этой технологии из-за ее преимуществ, и сторонниками замедления (decel), которые хотят замедлить развитие технологий искусственного интеллекта из-за страха перед экзистенциальными рисками. По мнению Герцеля, первый подход немного напоминает «Силиконовую долину превыше всего», в то время как второй даже если бы и был лучшим подходом, не имеет реалистичных шансов на реализацию.
Вместо этого Герцель поддерживает подход Бутерина - «децентрализованный акселерационизм», или «защитный акселерационизм». Этот подход призывает продолжать разработку ИИ, но делать её открытой, прозрачной и подотчётной обществу.
Ускорение прогресса к AGI — «вероятно, лучшее, что мы можем сделать», — сказал он, но «мы не хотим, чтобы власть над AGI была сосредоточена в руках какой-либо одной стороны [...] И мы хотим обратить внимание на различные плохие вещи, которые могут произойти».
В своей новой книге «Взрыв сознания», Герцель обсуждает огромные выгоды ИОИ, включая освобождение человечества от рутинной работы, окончание всех физических и психических заболеваний, лечение старения и потенциальное предотвращение непроизвольной смерти. Однако, несмотря на эти преимущества, он признает, что AGI может принести и ряд проблем, включая разработку Китаем и Соединенными Штатами «супер AGI, цель которого — сокрушить другого парня» или неэтичный выпуск AGI, который принесет выгоду только глобальной элите и сделает бедных еще беднее
Регуляторный захват, когда крупные компании лоббируют правила, которые приносят пользу им больше, чем остальным людям, по его мнению, вполне возможен. Хотя он считает это маловероятным, «риск, о котором Голливуд любит говорить» о том, что ИИ выходит из-под контроля, также находится в пределах возможного.
- Источник новости
- www.securitylab.ru
