- 13,579
- 20
- 8 Ноя 2022
Эксперты предупреждают о катастрофических последствиях развития ИИ.
На конференции Reuters NEXT в Нью-Йорке эксперты в области искусственного интеллекта (ИИ) выразили озабоченность по поводу его влияния на демократические процессы, такие как выборы, и даже угрозы существованию человечества. Быстрое развитие генеративного ИИ, способного создавать тексты, фотографии и видео, вызывает как восторг, так и опасения, связанные с возможной устареванием некоторых профессий и вмешательством в выборы.
Профессор Гэри Маркус из Нью-Йоркского университета подчеркнул угрозу демократии, особенно с учетом выборов 2024 года, на которые могут повлиять глубокие подделки — реалистичные видео, созданные ИИ. Стоимость создания таких видео резко упала, что увеличивает их доступность и потенциальный вред.
В докладе на конференции также отмечалось, что компании все чаще используют ИИ для принятия решений, что может привести к дискриминационным последствиям. Марта Телладо, генеральный директор некоммерческой организации Consumer Reports, привела пример с автостраховками, где жители районов с преимущественно чернокожим и латиноамериканским населением платят на 30% больше, чем в соседних белых районах.
Антони Агирре, основатель и исполнительный директор Института будущего жизни, выразил опасения, что ИИ может стать настолько мощным, что представит угрозу для человечества. Институт, стремящийся снизить катастрофические риски от продвинутого ИИ, призвал к шестимесячной паузе в обучении систем ИИ, более мощных, чем GPT-4 от OpenAI, указывая на неуправляемую гонку в разработке ИИ.
Эксперты подчеркивают, что развитие все более мощных ИИ может привести к потере рабочих мест, сделав невозможным для людей переобучение и переход в другие отрасли.
На конференции Reuters NEXT в Нью-Йорке эксперты в области искусственного интеллекта (ИИ) выразили озабоченность по поводу его влияния на демократические процессы, такие как выборы, и даже угрозы существованию человечества. Быстрое развитие генеративного ИИ, способного создавать тексты, фотографии и видео, вызывает как восторг, так и опасения, связанные с возможной устареванием некоторых профессий и вмешательством в выборы.
Профессор Гэри Маркус из Нью-Йоркского университета подчеркнул угрозу демократии, особенно с учетом выборов 2024 года, на которые могут повлиять глубокие подделки — реалистичные видео, созданные ИИ. Стоимость создания таких видео резко упала, что увеличивает их доступность и потенциальный вред.
В докладе на конференции также отмечалось, что компании все чаще используют ИИ для принятия решений, что может привести к дискриминационным последствиям. Марта Телладо, генеральный директор некоммерческой организации Consumer Reports, привела пример с автостраховками, где жители районов с преимущественно чернокожим и латиноамериканским населением платят на 30% больше, чем в соседних белых районах.
Антони Агирре, основатель и исполнительный директор Института будущего жизни, выразил опасения, что ИИ может стать настолько мощным, что представит угрозу для человечества. Институт, стремящийся снизить катастрофические риски от продвинутого ИИ, призвал к шестимесячной паузе в обучении систем ИИ, более мощных, чем GPT-4 от OpenAI, указывая на неуправляемую гонку в разработке ИИ.
Эксперты подчеркивают, что развитие все более мощных ИИ может привести к потере рабочих мест, сделав невозможным для людей переобучение и переход в другие отрасли.
- Источник новости
- www.securitylab.ru
