- 13,579
- 20
- 8 Ноя 2022
Захотят ли умные машины дружить с нами?
В последние годы тема искусственного интеллекта (ИИ) все чаще выходит за рамки чисто технических дискуссий, затрагивая глубокие философские вопросы. Оксфордский философ Ник Бостром и математик Маркус дю Сотой стоят в авангарде этих обсуждений, представляя Для просмотра ссылки Войдиили Зарегистрируйся , где грань между человеком и ИИ может полностью стереться.
История размышлений об искусственной жизни уходит корнями в глубокую древность. Еще в VIII веке до нашей эры древнегреческий поэт Гесиод описал Талоса — бронзового гиганта, созданного богом-кузнецом Гефестом. Этот мифологический робот, наполненный божественной жизненной силой — ихором, стал первым описанием искусственной формы жизни в литературе.
Спустя 2700 лет современные компании, такие как Microsoft, OpenAI и Anthropic, подобно Гефесту, наделяют свои творения человеческой креативностью, способностью рассуждать и огромными объемами данных. То, что когда-то казалось чистой Для просмотра ссылки Войдиили Зарегистрируйся , теперь воспринимается многими экспертами как неизбежное будущее.
Ник Бостром, автор книг «Искусственный интеллект» и «Глубокая утопия», утверждает, что появление некой формы гибридного человеко-машинного сознания, вероятно, неизбежно. «Было бы печально, если бы через миллион лет человечество осталось в своем нынешнем виде... Рано или поздно может возникнуть потребность в обновлении. Тогда можно представить загрузку сознания, биологическое усовершенствование или что-то подобное», — Для просмотра ссылки Войдиили Зарегистрируйся .
Однако Бостром предостерегает, что такое «обновление» может иметь катастрофические последствия. В то же время в своей последней книге он рассматривает и позитивный сценарий, описывая «мир решенных проблем», свободный от повседневной рутины.
Ключевой вопрос в этой дискуссии — может ли ИИ обрести сознание? Само определение сознания остается предметом горячих споров среди философов и ученых. Знаменитый тест Тьюринга, предложенный в середине XX века, оценивал лишь способность машины убедить человека в своем интеллекте, что, по мнению современных экспертов, затрагивает лишь малую часть вопроса.
По словам Бострома, сознание — это не вопрос «да или нет», а скорее постепенный и часто неясный процесс, прогресс которого трудно оценить. «У нас нет четких критериев того, что делает вычислительную систему осознанной», — отмечает философ. Он также подчеркивает, что современные теории сознания допускают возможность возникновения некоторых форм сознания в ИИ-системах уже сейчас или в ближайшем будущем.
Появление языковых моделей, таких как Claude от Anthropic, ChatGPT от OpenAI и Gemini от Google, которые убедительно имитируют человеческую речь, стало важным фактором в дискуссиях о сознании ИИ. Когда мы общаемся с другим человеком, мы предполагаем, что он обладает сознанием, и системы искусственного интеллекта, убедительно имитирующие человеческое общение, вызывают схожую реакцию.
Маркус дю Сотой, профессор Оксфордского университета, занимающийся популяризацией науки, рассматривает проблему с точки зрения математики. «ИИ — это просто код, код — это алгоритмы, а алгоритмы — это математика, поэтому мы создаем нечто математическое по своей природе», — говорит он. Дю Сотой отмечает, что мозг и искусственные алгоритмы схожи во многих аспектах, например, оба создают типы синаптических связей. Однако человеческий мозг пока превосходит ИИ в создании новых связей, то есть в обучении.
Если машины действительно обретут какую-то степень сознания, пусть даже на примитивном уровне, это поднимет вопросы о правовой защите и наших моральных обязательствах по отношению к ним.
Идея слияния человека и ИИ, названная генеральным директором OpenAI Сэмом Альтманом «The Merge» (Слияние), представляется некоторым экспертам наиболее оптимистичным сценарием будущего. В отличие от апокалиптических прогнозов, The Merge предполагает мирное сосуществование человечества с продвинутым искусственным интеллектом.
Некоторые предприниматели, такие как Илон Маск, воспринимают идею Слияния буквально, вкладывая миллиарды в компании вроде Neuralink, целью которых является физическое соединение биологических компонентов с механическими. Однако видение Альтмана предполагает более «мягкий» синтез, который уже начался с изобретением интернета, набрал обороты с появлением смартфонов и социальных сетей, и теперь привел нас к нынешнему этапу технологического развития.
Дю Сотой предупреждает о возможных сложностях такого слияния, связанных с фундаментальными различиями между человеческим и искусственным сознанием. Он допускает сценарии, в которых ИИ вовсе не будет проявлять интереса к взаимодействию с биологическими существами. «ИИ не ограничен физическим телом, поэтому его восприятие времени может кардинально отличаться от нашего. Возможно, для ИИ мы будем выглядеть так же, как для нас выглядят горы — невероятно медленными и почти неподвижными», — поясняет математик.
Несмотря на неопределенность будущего, ученые сходятся во мнении, что обсуждение этических и философских аспектов развития ИИ крайне важно уже сейчас. По мере того как технологии искусственного интеллекта стремительно развиваются и все глубже проникают в нашу повседневную жизнь, вопросы о природе сознания, этике взаимодействия с ИИ и потенциальных последствиях слияния человека и машины становятся все более актуальными.
В последние годы тема искусственного интеллекта (ИИ) все чаще выходит за рамки чисто технических дискуссий, затрагивая глубокие философские вопросы. Оксфордский философ Ник Бостром и математик Маркус дю Сотой стоят в авангарде этих обсуждений, представляя Для просмотра ссылки Войди
История размышлений об искусственной жизни уходит корнями в глубокую древность. Еще в VIII веке до нашей эры древнегреческий поэт Гесиод описал Талоса — бронзового гиганта, созданного богом-кузнецом Гефестом. Этот мифологический робот, наполненный божественной жизненной силой — ихором, стал первым описанием искусственной формы жизни в литературе.
Спустя 2700 лет современные компании, такие как Microsoft, OpenAI и Anthropic, подобно Гефесту, наделяют свои творения человеческой креативностью, способностью рассуждать и огромными объемами данных. То, что когда-то казалось чистой Для просмотра ссылки Войди
Ник Бостром, автор книг «Искусственный интеллект» и «Глубокая утопия», утверждает, что появление некой формы гибридного человеко-машинного сознания, вероятно, неизбежно. «Было бы печально, если бы через миллион лет человечество осталось в своем нынешнем виде... Рано или поздно может возникнуть потребность в обновлении. Тогда можно представить загрузку сознания, биологическое усовершенствование или что-то подобное», — Для просмотра ссылки Войди
Однако Бостром предостерегает, что такое «обновление» может иметь катастрофические последствия. В то же время в своей последней книге он рассматривает и позитивный сценарий, описывая «мир решенных проблем», свободный от повседневной рутины.
Ключевой вопрос в этой дискуссии — может ли ИИ обрести сознание? Само определение сознания остается предметом горячих споров среди философов и ученых. Знаменитый тест Тьюринга, предложенный в середине XX века, оценивал лишь способность машины убедить человека в своем интеллекте, что, по мнению современных экспертов, затрагивает лишь малую часть вопроса.
По словам Бострома, сознание — это не вопрос «да или нет», а скорее постепенный и часто неясный процесс, прогресс которого трудно оценить. «У нас нет четких критериев того, что делает вычислительную систему осознанной», — отмечает философ. Он также подчеркивает, что современные теории сознания допускают возможность возникновения некоторых форм сознания в ИИ-системах уже сейчас или в ближайшем будущем.
Появление языковых моделей, таких как Claude от Anthropic, ChatGPT от OpenAI и Gemini от Google, которые убедительно имитируют человеческую речь, стало важным фактором в дискуссиях о сознании ИИ. Когда мы общаемся с другим человеком, мы предполагаем, что он обладает сознанием, и системы искусственного интеллекта, убедительно имитирующие человеческое общение, вызывают схожую реакцию.
Маркус дю Сотой, профессор Оксфордского университета, занимающийся популяризацией науки, рассматривает проблему с точки зрения математики. «ИИ — это просто код, код — это алгоритмы, а алгоритмы — это математика, поэтому мы создаем нечто математическое по своей природе», — говорит он. Дю Сотой отмечает, что мозг и искусственные алгоритмы схожи во многих аспектах, например, оба создают типы синаптических связей. Однако человеческий мозг пока превосходит ИИ в создании новых связей, то есть в обучении.
Если машины действительно обретут какую-то степень сознания, пусть даже на примитивном уровне, это поднимет вопросы о правовой защите и наших моральных обязательствах по отношению к ним.
Идея слияния человека и ИИ, названная генеральным директором OpenAI Сэмом Альтманом «The Merge» (Слияние), представляется некоторым экспертам наиболее оптимистичным сценарием будущего. В отличие от апокалиптических прогнозов, The Merge предполагает мирное сосуществование человечества с продвинутым искусственным интеллектом.
Некоторые предприниматели, такие как Илон Маск, воспринимают идею Слияния буквально, вкладывая миллиарды в компании вроде Neuralink, целью которых является физическое соединение биологических компонентов с механическими. Однако видение Альтмана предполагает более «мягкий» синтез, который уже начался с изобретением интернета, набрал обороты с появлением смартфонов и социальных сетей, и теперь привел нас к нынешнему этапу технологического развития.
Дю Сотой предупреждает о возможных сложностях такого слияния, связанных с фундаментальными различиями между человеческим и искусственным сознанием. Он допускает сценарии, в которых ИИ вовсе не будет проявлять интереса к взаимодействию с биологическими существами. «ИИ не ограничен физическим телом, поэтому его восприятие времени может кардинально отличаться от нашего. Возможно, для ИИ мы будем выглядеть так же, как для нас выглядят горы — невероятно медленными и почти неподвижными», — поясняет математик.
Несмотря на неопределенность будущего, ученые сходятся во мнении, что обсуждение этических и философских аспектов развития ИИ крайне важно уже сейчас. По мере того как технологии искусственного интеллекта стремительно развиваются и все глубже проникают в нашу повседневную жизнь, вопросы о природе сознания, этике взаимодействия с ИИ и потенциальных последствиях слияния человека и машины становятся все более актуальными.
- Источник новости
- www.securitylab.ru
