- 13,850
- 20
- 8 Ноя 2022
Он выражает опасения по поводу дезинформации и рисков, связанных с развитием искусственного интеллекта.
Доктор Джеффри Хинтон, часто называемый "отцом искусственного интеллекта", ушел из Google , ссылаясь на опасения, вызванные распространением дезинформации, возможностью потери рабочих мест из-за ИИ и "существенным риском" создания подлинного цифрового разума.
Как сообщает The New York Times, Хинтон, которому 75 лет, ушел из Google, чтобы открыто говорить об опасностях искусственного интеллекта и признать, что в частности сожалеет о своем вкладе в развитие этой области. Десять лет назад он присоединился к Google для разработки ИИ-технологий компании, и его подход стал основой для создания таких систем, как ChatGPT.
Хинтон считает, что некоторые опасности, связанные с ИИ-чатботами, "довольно пугающие". Он предупредил, что такие системы могут стать умнее людей и использоваться для деструктивных задач. "Это позволит авторитарным лидерам манипулировать своими избирателями и тому подобное", - отметил он.
В краткосрочной перспективе Хинтон обеспокоен тем, что люди больше не смогут отличить правду от лжи из-за наводнения интернета ИИ-генерируемыми изображениями, видео и текстами. Он также обеспокоен тем, что ИИ в конечном итоге заменит такие рабочие места, как помощники, юристы и другие профессии, выполняющие рутинные задачи.
Главный ученый Google, Джефф Дин, в своем заявлении выразил признательность за вклад Хинтона в работу компании на протяжении последних десяти лет и пожелал ему успехов. "Мы продолжаем стремиться к ответственному подходу к ИИ и изучаем возникающие риски, инновационно развиваясь", - добавил Дин.
Тем временем, другие крупные деятели в области искусственного интеллекта также выразили опасения о том, что технология может нанести серьезный ущерб человечеству. В прошлом месяце Илон Маск заявил, что поругался с сооснователем Google Ларри Пейджем, потому что тот "не принимает достаточно серьезно вопросы безопасности ИИ". Маск сказал Fox News, что Пейдж хочет " создать цифровой сверхразум, аналог цифрового бога как можно скорее".
Валери Пизано, главный исполнительный директор Института искусственного интеллекта Квебека (Mila), заявила, что такой безалаберный подход к безопасности в системах ИИ не был бы допустим в любой другой области. "Технология выводится на рынок, и, пока система взаимодействует с человечеством, разработчики ждут, что произойдет, и после корректируют технологию. Мы никогда бы не приняли такого подхода в других отраслях. В технологиях и социальных сетях мы как будто думаем: 'Да, ладно, разберемся потом'", - отметила она.
Тоби Уолш, главный ученый Института искусственного интеллекта Университета Нового Южного Уэльса, сказал, что люди должны быть осторожны с любыми онлайн-медиа, с которыми они сталкиваются. "Когда дело доходит до любых цифровых данных - аудио или видео - вы должны учитывать возможность того, что это подделка", - заявил он.
Доктор Джеффри Хинтон, часто называемый "отцом искусственного интеллекта", ушел из Google , ссылаясь на опасения, вызванные распространением дезинформации, возможностью потери рабочих мест из-за ИИ и "существенным риском" создания подлинного цифрового разума.
Как сообщает The New York Times, Хинтон, которому 75 лет, ушел из Google, чтобы открыто говорить об опасностях искусственного интеллекта и признать, что в частности сожалеет о своем вкладе в развитие этой области. Десять лет назад он присоединился к Google для разработки ИИ-технологий компании, и его подход стал основой для создания таких систем, как ChatGPT.
Хинтон считает, что некоторые опасности, связанные с ИИ-чатботами, "довольно пугающие". Он предупредил, что такие системы могут стать умнее людей и использоваться для деструктивных задач. "Это позволит авторитарным лидерам манипулировать своими избирателями и тому подобное", - отметил он.
В краткосрочной перспективе Хинтон обеспокоен тем, что люди больше не смогут отличить правду от лжи из-за наводнения интернета ИИ-генерируемыми изображениями, видео и текстами. Он также обеспокоен тем, что ИИ в конечном итоге заменит такие рабочие места, как помощники, юристы и другие профессии, выполняющие рутинные задачи.
Главный ученый Google, Джефф Дин, в своем заявлении выразил признательность за вклад Хинтона в работу компании на протяжении последних десяти лет и пожелал ему успехов. "Мы продолжаем стремиться к ответственному подходу к ИИ и изучаем возникающие риски, инновационно развиваясь", - добавил Дин.
Тем временем, другие крупные деятели в области искусственного интеллекта также выразили опасения о том, что технология может нанести серьезный ущерб человечеству. В прошлом месяце Илон Маск заявил, что поругался с сооснователем Google Ларри Пейджем, потому что тот "не принимает достаточно серьезно вопросы безопасности ИИ". Маск сказал Fox News, что Пейдж хочет " создать цифровой сверхразум, аналог цифрового бога как можно скорее".
Валери Пизано, главный исполнительный директор Института искусственного интеллекта Квебека (Mila), заявила, что такой безалаберный подход к безопасности в системах ИИ не был бы допустим в любой другой области. "Технология выводится на рынок, и, пока система взаимодействует с человечеством, разработчики ждут, что произойдет, и после корректируют технологию. Мы никогда бы не приняли такого подхода в других отраслях. В технологиях и социальных сетях мы как будто думаем: 'Да, ладно, разберемся потом'", - отметила она.
Тоби Уолш, главный ученый Института искусственного интеллекта Университета Нового Южного Уэльса, сказал, что люди должны быть осторожны с любыми онлайн-медиа, с которыми они сталкиваются. "Когда дело доходит до любых цифровых данных - аудио или видео - вы должны учитывать возможность того, что это подделка", - заявил он.
- Источник новости
- www.securitylab.ru
