- 13,086
- 20
- 8 Ноя 2022
Почему стартап может пойти по пути тотального контроля?
Гари Маркус, известный когнитивист и исследователь в области искусственного интеллекта, выступил с тревожным прогнозом о будущем компании OpenAI . По его мнению, лидер индустрии ИИ может вскоре сделать резкий поворот в сторону массового наблюдения за пользователями и приблизить нас к антиутопическому миру романа Джорджа Оруэлла "1984".
Выступая Для просмотра ссылки Войдиили Зарегистрируйся в Стэнфордском центре искусственного интеллекта, ориентированного на человека, Маркус заявил: "Я предполагаю, что OpenAI станет самой оруэлловской компанией всех времен. Их будут подталкивать к тому, чтобы стать компанией-надсмотрщиком".
Причина такого исхода, Для просмотра ссылки Войдиили Зарегистрируйся , проста - OpenAI нужно будет найти способ зарабатывать деньги. Стартап, начинавший свой путь как некоммерческая организация с альтруистическими целями, сегодня стала лицом бурно развивающейся индустрии и фактически превратилась в коммерческое предприятие.
Маркус отмечает: в 2023 году OpenAI активно продвигала идею универсального ИИ, способного решать любые задачи. Крупнейшие компании мира с энтузиазмом тестировали эти технологии. Однако к 2024 году настроения изменились: согласно многочисленным отчетам, технология оказалась недостаточно надежной для реального применения из-за "галлюцинаций" и сбоев в ее работе.
"В результате многие компании стали более осторожно подходить к внедрению ИИ", - добавляет исследователь. Это мнение совпадает с оценками других аналитиков, предупреждающих о том, что на рынке искусственного интеллекта может образоваться своего рода “пузырь”. Несмотря на шумиху и огромные инвестиции, до сих пор неясно, как современные модели смогут окупить вложенные в них средства и начать приносить прибыль.
Маркус подчеркивает: идея использования умных технологий для массовой слежки не нова. Многие крупные IT-компании уже сейчас зарабатывают на сборе и продаже данных пользователей. К примеру, социальные сети вроде X (бывший Twitter) продают информацию третьим лицам, среди которых могут быть и компании, сотрудничающие с государственными структурами.
Однако OpenAI, как лидер индустрии, имеет доступ к колоссальным объемам данных со всего интернета. В потенциале это позволит команде создать беспрецедентно мощную систему наблюдения, превосходящую все существующие аналоги.
Уже можно заметить несколько тревожных звоночков. Например, этим летом OpenAI приняла в свой совет директоров бывшего директора Агентства национальной безопасности США Пола Накасоне, чем вызвала бурю обсуждений в сообществе.
Гари Маркус когда-то надеялся, что OpenAI изменит свой курс. Но с тех пор он стал более скептически относиться в том числе к подходу Сэма Альтмана, особенно после того, как компания отбросила маску некоммерческой организации.
"За последние месяцы OpenAI окончательно сбросила маску, и я сильно сомневаюсь, что Альтман когда-либо вернется к изначальной миссии", - заявил исследователь. "Обещание инвесторам сделать бизнес прибыльным фактически означает, что прежние идеалы остались в прошлом".
Гари Маркус, известный когнитивист и исследователь в области искусственного интеллекта, выступил с тревожным прогнозом о будущем компании OpenAI . По его мнению, лидер индустрии ИИ может вскоре сделать резкий поворот в сторону массового наблюдения за пользователями и приблизить нас к антиутопическому миру романа Джорджа Оруэлла "1984".
Выступая Для просмотра ссылки Войди
Причина такого исхода, Для просмотра ссылки Войди
Маркус отмечает: в 2023 году OpenAI активно продвигала идею универсального ИИ, способного решать любые задачи. Крупнейшие компании мира с энтузиазмом тестировали эти технологии. Однако к 2024 году настроения изменились: согласно многочисленным отчетам, технология оказалась недостаточно надежной для реального применения из-за "галлюцинаций" и сбоев в ее работе.
"В результате многие компании стали более осторожно подходить к внедрению ИИ", - добавляет исследователь. Это мнение совпадает с оценками других аналитиков, предупреждающих о том, что на рынке искусственного интеллекта может образоваться своего рода “пузырь”. Несмотря на шумиху и огромные инвестиции, до сих пор неясно, как современные модели смогут окупить вложенные в них средства и начать приносить прибыль.
Маркус подчеркивает: идея использования умных технологий для массовой слежки не нова. Многие крупные IT-компании уже сейчас зарабатывают на сборе и продаже данных пользователей. К примеру, социальные сети вроде X (бывший Twitter) продают информацию третьим лицам, среди которых могут быть и компании, сотрудничающие с государственными структурами.
Однако OpenAI, как лидер индустрии, имеет доступ к колоссальным объемам данных со всего интернета. В потенциале это позволит команде создать беспрецедентно мощную систему наблюдения, превосходящую все существующие аналоги.
Уже можно заметить несколько тревожных звоночков. Например, этим летом OpenAI приняла в свой совет директоров бывшего директора Агентства национальной безопасности США Пола Накасоне, чем вызвала бурю обсуждений в сообществе.
Гари Маркус когда-то надеялся, что OpenAI изменит свой курс. Но с тех пор он стал более скептически относиться в том числе к подходу Сэма Альтмана, особенно после того, как компания отбросила маску некоммерческой организации.
"За последние месяцы OpenAI окончательно сбросила маску, и я сильно сомневаюсь, что Альтман когда-либо вернется к изначальной миссии", - заявил исследователь. "Обещание инвесторам сделать бизнес прибыльным фактически означает, что прежние идеалы остались в прошлом".
- Источник новости
- www.securitylab.ru
