- 13,854
- 20
- 8 Ноя 2022
Генеральный директор Google DeepMind предсказывает возможный рассвет искусственного общего интеллекта и необходимость разработки стратегий безопасности.
Глава отдела искусственного интеллекта Google DeepMind предсказал, что искусственный интеллект человеческого уровня может появиться уже через несколько лет. Демис Хассабис прогнозирует появление искусственного общего интеллекта (Artificial general intelligence, AGI) - систем, которые могут мыслить похожим, но превосходящим человека способом - гораздо раньше, чем в давалось предыдущих прогнозах. Многие предполагали, что данная технология может появиться только через десятилетия.
“Прогресс в последние годы был довольно невероятным”, - сказал г-н Хассабис на фестивале Future of Everything на этой неделе.
“Я не вижу никаких причин, по которым этот прогресс может замедлиться. Я думаю, что он может даже ускориться. Так что я думаю, что мы можем быть всего в нескольких годах, может быть, в пределах десятилетия”.
Г-н Хассабис - один из нескольких ведущих экспертов в области искусственного интеллекта, который стремится разработать форму AGI, а также создать меры предосторожности, чтобы предотвратить вред от этой технологии для человечества.
"Я бы предложил разрабатывать такие технологии AGI осмотрительно, используя научный метод, когда вы стараетесь провести очень тщательные контролируемые эксперименты, чтобы понять, что делает базовая система", - сказал он.
Gato AI от DeepMind, описанный как "универсальный агент", уже близок к соперничеству с человеческим интеллектом, согласно исследовательскому директору компании Нандо де Фрейтасу.
Он способен выполнять ряд сложных задач, от укладки блоков до написания поэзии, а также вступать в диалог подобно чат-боту ChatGPT от OpenAI.
"Теперь все дело в масштабе", - сказал доктор де Фрейтас в прошлом году.
"Теперь все сводится к созданию более крупных, безопасных, вычислительно эффективных моделей, быстрее выбирающих примеры, с более умным использованием памяти, разнообразными модальностями, инновационными данными, онлайн и офлайн... Решение этих проблем позволит достичь AGI". Он добавил: "Безопасность имеет решающее значение".
Исследователи DeepMind говорят об существенных рисках, связанных с искусственным интеллектом, если он достигнет и превзойдет уровень человеческого интеллекта, и предлагают решение, чтобы предотвратить выход из строя продвинутых ИИ.
В статье 2016 года под названием "Безопасно прерываемые агенты" DeepMind предложила использовать "красную кнопку" в качестве аварийного выключателя в такой ситуации.
"Безопасное прерывание может быть полезным для контроля над роботом, который ведет себя неправильно и может привести к необратимым последствиям", - говорится в статье.
Если такой агент работает в режиме реального времени под контролем человека, время от времени может потребоваться, чтобы оператор нажал большую красную кнопку для того, чтобы предотвратить продолжение агентом вредной последовательности действий – вредных как для самого агента, так и для окружающей среды – и направить агента в более безопасное русло.
Глава отдела искусственного интеллекта Google DeepMind предсказал, что искусственный интеллект человеческого уровня может появиться уже через несколько лет. Демис Хассабис прогнозирует появление искусственного общего интеллекта (Artificial general intelligence, AGI) - систем, которые могут мыслить похожим, но превосходящим человека способом - гораздо раньше, чем в давалось предыдущих прогнозах. Многие предполагали, что данная технология может появиться только через десятилетия.
“Прогресс в последние годы был довольно невероятным”, - сказал г-н Хассабис на фестивале Future of Everything на этой неделе.
“Я не вижу никаких причин, по которым этот прогресс может замедлиться. Я думаю, что он может даже ускориться. Так что я думаю, что мы можем быть всего в нескольких годах, может быть, в пределах десятилетия”.
Г-н Хассабис - один из нескольких ведущих экспертов в области искусственного интеллекта, который стремится разработать форму AGI, а также создать меры предосторожности, чтобы предотвратить вред от этой технологии для человечества.
"Я бы предложил разрабатывать такие технологии AGI осмотрительно, используя научный метод, когда вы стараетесь провести очень тщательные контролируемые эксперименты, чтобы понять, что делает базовая система", - сказал он.
Gato AI от DeepMind, описанный как "универсальный агент", уже близок к соперничеству с человеческим интеллектом, согласно исследовательскому директору компании Нандо де Фрейтасу.
Он способен выполнять ряд сложных задач, от укладки блоков до написания поэзии, а также вступать в диалог подобно чат-боту ChatGPT от OpenAI.
"Теперь все дело в масштабе", - сказал доктор де Фрейтас в прошлом году.
"Теперь все сводится к созданию более крупных, безопасных, вычислительно эффективных моделей, быстрее выбирающих примеры, с более умным использованием памяти, разнообразными модальностями, инновационными данными, онлайн и офлайн... Решение этих проблем позволит достичь AGI". Он добавил: "Безопасность имеет решающее значение".
Исследователи DeepMind говорят об существенных рисках, связанных с искусственным интеллектом, если он достигнет и превзойдет уровень человеческого интеллекта, и предлагают решение, чтобы предотвратить выход из строя продвинутых ИИ.
В статье 2016 года под названием "Безопасно прерываемые агенты" DeepMind предложила использовать "красную кнопку" в качестве аварийного выключателя в такой ситуации.
"Безопасное прерывание может быть полезным для контроля над роботом, который ведет себя неправильно и может привести к необратимым последствиям", - говорится в статье.
Если такой агент работает в режиме реального времени под контролем человека, время от времени может потребоваться, чтобы оператор нажал большую красную кнопку для того, чтобы предотвратить продолжение агентом вредной последовательности действий – вредных как для самого агента, так и для окружающей среды – и направить агента в более безопасное русло.
- Источник новости
- www.securitylab.ru
