- 13,854
- 20
- 8 Ноя 2022
Следующий шаг развития ИИ – приобретение сознания. Исследователи призывают задуматься о “чувствах” машин.
Международная коалиция исследователей выступила с призывом к увеличению финансирования исследований в области Для просмотра ссылки Войдиили Зарегистрируйся (ИИ). На сегодняшний день остаётся неясным, могут ли системы ИИ обладать сознанием. По словам участников Ассоциации по математическому изучению сознания (AMCS), отсутствие исследований в этой области может привести к серьёзным этическим, юридическим проблемам, а также проблемам безопасности.
Этот вопрос был частично проигнорирован на недавнем высокопрофильном саммите по безопасности ИИ в Великобритании, а также в исполнительном приказе президента США Джо Байдена об ответственной разработке ИИ. Особую озабоченность вызывает возможность появления сознательных систем ИИ и вопросы, связанные с их правами и обязанностями.
Не научная фантастика
На данный момент науке неизвестно, существуют ли или когда-либо будут существовать системы ИИ, обладающие сознанием. Даже определение того, разработана ли такая система, является сложной задачей, так как учёные пока не создали методов для научной оценки сознания в машинах. Тем не менее, компании, такие как OpenAI , создатель чат-бота ChatGPT , стремятся разработать универсальный ИИ, способный выполнять широкий спектр интеллектуальных задач, аналогичных человеческим.
Важность проблемы сознания
Исследователи подчёркивают важность понимания возможного сознания ИИ для оценки его последствий для общества, включая потенциальные опасности. Необходимо определить, разделяют ли такие системы человеческие ценности и интересы, и если нет, то могут ли они представлять угрозу для людей.
Кроме того, существуют юридические вопросы: должна ли сознательная система ИИ нести ответственность за умышленные действия и должны ли ей быть предоставлены те же права, что и людям? Ответы на эти вопросы могут потребовать изменений в законодательстве и регулировании.
Развитие исследований
AMCS, объединяющая математиков, компьютерных учёных и философов, призывает правительства и частный сектор финансировать исследования сознания ИИ. Несмотря на ограниченную поддержку, работа в этом направлении уже ведётся. Например, был разработан чек-лист критериев для оценки вероятности сознания системы, основанный на шести ведущих теориях о биологической основе сознания.
Заключение
Необходимость понимания потенциального сознания ИИ и его последствий для общества ставит перед учёными и правительствами новые задачи. Увеличение финансирования исследований в этой области может помочь ответить на многие вопросы и снизить возможные риски.
Международная коалиция исследователей выступила с призывом к увеличению финансирования исследований в области Для просмотра ссылки Войди
Этот вопрос был частично проигнорирован на недавнем высокопрофильном саммите по безопасности ИИ в Великобритании, а также в исполнительном приказе президента США Джо Байдена об ответственной разработке ИИ. Особую озабоченность вызывает возможность появления сознательных систем ИИ и вопросы, связанные с их правами и обязанностями.
Не научная фантастика
На данный момент науке неизвестно, существуют ли или когда-либо будут существовать системы ИИ, обладающие сознанием. Даже определение того, разработана ли такая система, является сложной задачей, так как учёные пока не создали методов для научной оценки сознания в машинах. Тем не менее, компании, такие как OpenAI , создатель чат-бота ChatGPT , стремятся разработать универсальный ИИ, способный выполнять широкий спектр интеллектуальных задач, аналогичных человеческим.
Важность проблемы сознания
Исследователи подчёркивают важность понимания возможного сознания ИИ для оценки его последствий для общества, включая потенциальные опасности. Необходимо определить, разделяют ли такие системы человеческие ценности и интересы, и если нет, то могут ли они представлять угрозу для людей.
Кроме того, существуют юридические вопросы: должна ли сознательная система ИИ нести ответственность за умышленные действия и должны ли ей быть предоставлены те же права, что и людям? Ответы на эти вопросы могут потребовать изменений в законодательстве и регулировании.
Развитие исследований
AMCS, объединяющая математиков, компьютерных учёных и философов, призывает правительства и частный сектор финансировать исследования сознания ИИ. Несмотря на ограниченную поддержку, работа в этом направлении уже ведётся. Например, был разработан чек-лист критериев для оценки вероятности сознания системы, основанный на шести ведущих теориях о биологической основе сознания.
Заключение
Необходимость понимания потенциального сознания ИИ и его последствий для общества ставит перед учёными и правительствами новые задачи. Увеличение финансирования исследований в этой области может помочь ответить на многие вопросы и снизить возможные риски.
- Источник новости
- www.securitylab.ru
