- 13,850
- 20
- 8 Ноя 2022
Как бы вы отреагировали, если бы кто-то мог узнать все о вас по вашему лицу?
В начале 2017 года в штаб-квартире Facebook в Калифорнии инженер по имени Томмер Лейванд сидел в конференц-зале с смартфоном, закрепленным на козырьке своей бейсболки. Резинки помогали удерживать его на месте с камерой, направленной вперед. Этот смешной гаджет, похожий на неуклюжее воплощение будущего, содержал секретный инструмент, известный лишь небольшой группе сотрудников. Он Для просмотра ссылки Войдиили Зарегистрируйся удивительные вещи.
Несколько мужчин в комнате смеялись и перебивали друг друга от волнения, как видно на видео, снятом в тот день, пока один из них не попросил тишины. Комната затихла; демонстрация началась.
Мистер Лейванд повернулся к человеку, сидящему напротив него за столом. Объектив камеры смартфона — круглый, черный, неподвижный — парил над лбом мистера Лейванда, как глаз циклопа, рассматривая лицо перед собой. Через две секунды роботизированный женский голос объявил: «Зак Ховард».
«Это я», подтвердил мистер Ховард, инженер-механик.
Сотрудник, который видел демонстрацию технологии, подумал, что это должно быть шуткой. Но когда телефон начал правильно называть имена, он почувствовал себя не по себе, как будто это что-то из антиутопического фильма.
Гаджет для распознавания лиц мог бы быть спасением для кого-то с проблемами зрения или слепотой к лицам, но он был рискованным. Предыдущее использование технологии распознавания лиц Facebook для помощи людям отмечать друзей на фотографиях вызвало возмущение защитников приватности и привело к коллективному иску в Иллинойсе в 2015 году, который в конечном итоге обошелся компании в 650 миллионов долларов.
С помощью такой технологии на голове мистера Лейванда Facebook мог бы предотвратить забывание имен коллег пользователей, напомнить на коктейльной вечеринке о детях знакомого или помочь найти кого-то на переполненной конференции. Однако спустя шесть лет компания, теперь известная как Meta , не выпустила версию этого продукта, а мистер Лейванд ушел работать в Apple над очками дополненной реальности Vision Pro.
В последние годы стартапы Clearview AI и PimEyes перешли границы того, что общественность считала возможным, выпустив поисковые системы для лиц с миллионами фотографий из общедоступного веба (PimEyes) или даже миллиардами (Clearview). С помощью этих инструментов, доступных полиции в случае Clearview AI и широкой публике в случае PimEyes, снимок кого-то может быть использован для поиска других онлайн-фотографий, где появляется это лицо, потенциально раскрывая имя, профили в социальных сетях или информацию, которую человек никогда не хотел бы связывать с собой публично, например, откровенные фотографии.
То, что сделали эти стартапы, не было технологическим прорывом; это был этический прорыв. Технологические гиганты разработали способность распознавать неизвестные лица людей еще несколько лет назад, но решили удержать технологию под контролем, решив, что самая крайняя версия — присвоение имени незнакомцу — слишком опасна для широкого распространения.
Теперь, когда табу было нарушено, технология распознавания лиц может стать повсеместной. В настоящее время она используется полицией для раскрытия преступлений, авторитарными правительствами для контроля за своими гражданами и бизнесом для отсева своих врагов. Возможно, скоро она станет инструментом в наших руках, приложением на нашем телефоне — или в очках дополненной реальности — которое введет нас в мир без незнакомцев.
Еще в 2011 году инженер Google раскрыл, что он работал над инструментом для поиска чьего-то лица в Google и вывода других онлайн-фотографий этого человека. Через несколько месяцев председатель правления Google Эрик Шмидт сказал на сценическом интервью, что Google «создал эту технологию и отказался от нее».
«Насколько мне известно, это единственная технология, которую Google создал и, посмотрев на нее, мы решили остановиться», — сказал мистер Шмидт.
Нарочно или нет, технологические гиганты также помогли удержать технологию от общего обращения, выкупая самые передовые стартапы, которые ее предлагали. В 2010 году Apple купил перспективную шведскую компанию по распознаванию лиц под названием Polar Rose. В 2011 году Google приобрел американскую компанию по распознаванию лиц PittPatt, популярную среди федеральных агентств. А в 2012 году Facebook приобрел израильскую компанию Face.com. В каждом случае новые владельцы закрыли сервисы приобретенных компаний для посторонних. Тяжеловесы Силиконовой долины были фактически хранителями порядка для того, как и будет ли использоваться эта технология.
Facebook, Google и Apple использовали технологию распознавания лиц в том что они считали относительно безобидными способами: как средство безопасности для разблокировки смартфона, более эффективный способ отмечать известных друзей на фотографиях и организационный инструмент для категоризации фотографий на смартфоне по лицам людей, которые на них изображены.
В последние годы, однако, ворота были разрушены меньшими, более агрессивными компаниями, такими как Clearview AI и PimEyes. То, что позволило этому сдвигу, была открытая природа технологии нейронных сетей, которая теперь лежит в основе большинства программного обеспечения искусственного интеллекта.
Понимание пути технологии распознавания лиц поможет нам ориентироваться в том, что нас ждет с другими достижениями в области ИИ, такими как инструменты для генерации изображений и текстов. Власть решать, что они могут и не могут делать, будет все больше определяться любым человеком с немного техническими навыками, который может не обращать внимания на то, что общественность считает приемлемым.
«Стоя на плечах гигантов» Как мы дошли до того, что кто-то может заметить «горячего папу» на тротуаре Манхэттена и затем использовать PimEyes, чтобы попытаться узнать, кто он и где он работает? Краткий ответ — это сочетание бесплатного кода, разделенного в Интернете, огромного количества публичных фотографий, научных статей, объясняющих, как все это соединить, и беспечного отношения к законам, регулирующим приватность.
Сооснователь Clearview AI Хоан Тон-Тат, который возглавлял технологическую разработку своей компании, не имел особого опыта в области биометрии. До Clearview AI он делал викторины для Facebook, игры для iPhone и глупые приложения, такие как «Trump Hair», чтобы человек на фотографии выглядел как причесанный бывший президент.
В своем стремлении создать прорывное и более прибыльное приложение мистер Тон-Тат обратился к бесплатным онлайн-ресурсам, таким как OpenFace — «библиотека распознавания лиц», созданная группой в Карнеги-Меллонском университете. Библиотека кода была доступна на GitHub с предупреждением: «Пожалуйста, используйте ответственно!»
«Мы не поддерживаем использование этого проекта в приложениях, которые нарушают приватность и безопасность», — говорилось в заявлении. «Мы используем это для помощи людям с когнитивными нарушениями чувствовать и понимать мир вокруг них».
Это была благородная просьба, но совершенно не поддающаяся исполнению.
Мистер Тон-Тат запустил код OpenFace, но он не был идеальным, поэтому он продолжал искать, бродя по научной литературе и репозиториям кода, пробуя то и это, чтобы посмотреть, что работает. Он был как человек, гуляющий по саду, пробующий плоды десятилетних исследований, спелые для сбора и великолепно бесплатные.
«Я не смог бы сделать это, если бы мне пришлось создавать это с нуля», — сказал он, называя некоторых исследователей, которые продвинули компьютерное зрение и искусственный интеллект, включая Джеффри Хинтона, «крестного отца ИИ». «Я стоял на плечах гигантов».
Мистер Тон-Тат все еще строит. Clearview разработал версию своего приложения, которое работает с очками дополненной реальности, более полноценной реализацией шляпы с распознаванием лиц, которую инженерная команда Facebook соорудила несколько лет назад.
Пара очков дополненной реальности стоимостью 999 долларов, сделанная компанией под названием Vuzix, подключает носителя к базе данных Clearview из 30 миллиардов лиц. Приложение Clearview для дополненной реальности, которое может идентифицировать кого-то на расстоянии до 10 футов, пока не доступно публично, но ВВС предоставили финансирование для возможного использования на военных базах.
Осенью мистер Тон-Тат продемонстрировал очки для меня в квартире своей пресс-секретаря на Верхнем Западном берегу Манхэттена, надев их и посмотрев на меня, рассказывает Кашмир Хилл, автор книги "Ваше лицо принадлежит нам": «Оооо, 176 фотографий», — сказал он. «Фестиваль идей в Аспене. Кашмир Хилл», — прочитал он из подписи к одной из фотографий, которая появилась.
Затем он передал мне очки. Я надела их. Хотя они выглядели громоздко, они были легкими и хорошо сидели. Мистер Тон-Тат сказал, что он пробовал другие очки дополненной реальности, но эти показали себя лучше всего. «У них скоро выйдет новая версия», — сказал он. — И они будут выглядеть круче, более хипстерски».
Когда я посмотрела на мистера Тон-Тата через очки, вокруг его лица появился зеленый круг. Я постучал по сенсорной панели у своего правого виска. На квадратном дисплее, который видел только я на правом стекле очков, появилось сообщение: «Ищу…»
А затем квадрат наполнился его фотографиями, под каждой из которых была подпись. Я пролистала их с помощью сенсорной панели. Я нажала, чтобы выбрать одну из них, на которой было написано «Генеральный директор Clearview, Хоан Тон-Тат»; она включала ссылку, которая показывала мне, что оона пришла с сайта Clearview.
<span> Он посмотрел на пресс-секретаря, поискал ее лицо, и появилось 49 фотографий, в том числе одна с клиентом, о котором она попросила его не упоминать. Это небрежно раскрыло, насколько вторжение в чью-то личность может быть, даже для человека, чья работа состоит в том, чтобы заставить мир принять эту технологию.
Он хотел вынести очки на улицу, чтобы посмотреть, как они работают на людях, которых он на самом деле не знает, но мистер Тон-Тат сказал, что они не могут, и потому что очки требовали подключения к Wi-Fi, и потому что кто-то мог бы узнать его и сразу понять, что это за очки и что они могут делать.
Было ясно, что люди, которые владеют таким инструментом, неизбежно будут иметь власть над теми, кто не владеет. Meta работает над своими очками дополненной реальности уже несколько лет. На внутреннем собрании в начале 2021 года главный технологический директор компании Эндрю Босворт сказал, что он хотел бы оснастить их возможностью распознавания лиц.
На записи внутреннего собрания мистер Босворт сказал, что отказ от распознавания лиц в очках дополненной реальности был упущенной возможностью для улучшения человеческой памяти. Он говорил о всеобщем опыте посещения ужина и видения кого-то, кого вы знаете, но не можете вспомнить его имя.
В то время как Meta и Clearview AI разрабатывают очки дополненной реальности с распознаванием лиц, другие компании и организации выступают против этой технологии. Например, стартап Truepic создал приложение для проверки подлинности фотографий и видео, чтобы бороться с манипуляциями и дезинформацией. А группа активистов под названием Dazzle Club проводит мероприятия, на которых люди наносят на лица разноцветные узоры, чтобы сбить с толку алгоритмы распознавания лиц.
Эти примеры показывают, что технология распознавания лиц вызывает разные реакции у разных людей: от восхищения до беспокойства. Некоторые видят в ней полезный инструмент для улучшения безопасности, коммуникации и памяти, а другие — угрозу для приватности, свободы и прав человека. Вопрос в том, кто будет контролировать эту технологию и как она будет регулироваться.
Пока что нет единого ответа на этот вопрос. В разных странах и регионах действуют разные законы и нормы, касающиеся технологии распознавания лиц. Некоторые запрещают ее использование в определенных ситуациях, а другие позволяют ее широкое применение. Также нет общепринятых стандартов качества и этики для разработчиков и поставщиков этой технологии.
Технология распознавания лиц стала доступной для всех, но не все готовы к ее последствиям. Это требует от нас более глубокого осознания возможностей и рисков этой технологии, а также более активного участия в обсуждении ее будущего.
«Мы могли бы прикрепить к ним маленькую бирку с именем», — сказал он на записи со смешком. — Мы могли бы. У нас есть такая возможность».
Но он выразил опасение по поводу законности такого инструмента. В ответ на это мистер Босворт сказал, что распознавание лиц является «очень спорным» и что предоставление широкого доступа к нему — «это дебаты, которые нам нужно провести с общественностью».
Пока очки дополненной реальности Meta все еще находятся в разработке, компания закрыла систему распознавания лиц, развернутую на Facebook для отметки друзей на фотографиях и удалила более одного миллиарда отпечатков лиц своих пользователей.
Было бы легко включить такую систему обратно. Компания однажды может встроить распознавание лиц в свои очки дополненной реальности, он не исключил такой возможности.
</span>
В начале 2017 года в штаб-квартире Facebook в Калифорнии инженер по имени Томмер Лейванд сидел в конференц-зале с смартфоном, закрепленным на козырьке своей бейсболки. Резинки помогали удерживать его на месте с камерой, направленной вперед. Этот смешной гаджет, похожий на неуклюжее воплощение будущего, содержал секретный инструмент, известный лишь небольшой группе сотрудников. Он Для просмотра ссылки Войди
Несколько мужчин в комнате смеялись и перебивали друг друга от волнения, как видно на видео, снятом в тот день, пока один из них не попросил тишины. Комната затихла; демонстрация началась.
Мистер Лейванд повернулся к человеку, сидящему напротив него за столом. Объектив камеры смартфона — круглый, черный, неподвижный — парил над лбом мистера Лейванда, как глаз циклопа, рассматривая лицо перед собой. Через две секунды роботизированный женский голос объявил: «Зак Ховард».
«Это я», подтвердил мистер Ховард, инженер-механик.
Сотрудник, который видел демонстрацию технологии, подумал, что это должно быть шуткой. Но когда телефон начал правильно называть имена, он почувствовал себя не по себе, как будто это что-то из антиутопического фильма.
Гаджет для распознавания лиц мог бы быть спасением для кого-то с проблемами зрения или слепотой к лицам, но он был рискованным. Предыдущее использование технологии распознавания лиц Facebook для помощи людям отмечать друзей на фотографиях вызвало возмущение защитников приватности и привело к коллективному иску в Иллинойсе в 2015 году, который в конечном итоге обошелся компании в 650 миллионов долларов.
С помощью такой технологии на голове мистера Лейванда Facebook мог бы предотвратить забывание имен коллег пользователей, напомнить на коктейльной вечеринке о детях знакомого или помочь найти кого-то на переполненной конференции. Однако спустя шесть лет компания, теперь известная как Meta , не выпустила версию этого продукта, а мистер Лейванд ушел работать в Apple над очками дополненной реальности Vision Pro.
В последние годы стартапы Clearview AI и PimEyes перешли границы того, что общественность считала возможным, выпустив поисковые системы для лиц с миллионами фотографий из общедоступного веба (PimEyes) или даже миллиардами (Clearview). С помощью этих инструментов, доступных полиции в случае Clearview AI и широкой публике в случае PimEyes, снимок кого-то может быть использован для поиска других онлайн-фотографий, где появляется это лицо, потенциально раскрывая имя, профили в социальных сетях или информацию, которую человек никогда не хотел бы связывать с собой публично, например, откровенные фотографии.
То, что сделали эти стартапы, не было технологическим прорывом; это был этический прорыв. Технологические гиганты разработали способность распознавать неизвестные лица людей еще несколько лет назад, но решили удержать технологию под контролем, решив, что самая крайняя версия — присвоение имени незнакомцу — слишком опасна для широкого распространения.
Теперь, когда табу было нарушено, технология распознавания лиц может стать повсеместной. В настоящее время она используется полицией для раскрытия преступлений, авторитарными правительствами для контроля за своими гражданами и бизнесом для отсева своих врагов. Возможно, скоро она станет инструментом в наших руках, приложением на нашем телефоне — или в очках дополненной реальности — которое введет нас в мир без незнакомцев.
Еще в 2011 году инженер Google раскрыл, что он работал над инструментом для поиска чьего-то лица в Google и вывода других онлайн-фотографий этого человека. Через несколько месяцев председатель правления Google Эрик Шмидт сказал на сценическом интервью, что Google «создал эту технологию и отказался от нее».
«Насколько мне известно, это единственная технология, которую Google создал и, посмотрев на нее, мы решили остановиться», — сказал мистер Шмидт.
Нарочно или нет, технологические гиганты также помогли удержать технологию от общего обращения, выкупая самые передовые стартапы, которые ее предлагали. В 2010 году Apple купил перспективную шведскую компанию по распознаванию лиц под названием Polar Rose. В 2011 году Google приобрел американскую компанию по распознаванию лиц PittPatt, популярную среди федеральных агентств. А в 2012 году Facebook приобрел израильскую компанию Face.com. В каждом случае новые владельцы закрыли сервисы приобретенных компаний для посторонних. Тяжеловесы Силиконовой долины были фактически хранителями порядка для того, как и будет ли использоваться эта технология.
Facebook, Google и Apple использовали технологию распознавания лиц в том что они считали относительно безобидными способами: как средство безопасности для разблокировки смартфона, более эффективный способ отмечать известных друзей на фотографиях и организационный инструмент для категоризации фотографий на смартфоне по лицам людей, которые на них изображены.
В последние годы, однако, ворота были разрушены меньшими, более агрессивными компаниями, такими как Clearview AI и PimEyes. То, что позволило этому сдвигу, была открытая природа технологии нейронных сетей, которая теперь лежит в основе большинства программного обеспечения искусственного интеллекта.
Понимание пути технологии распознавания лиц поможет нам ориентироваться в том, что нас ждет с другими достижениями в области ИИ, такими как инструменты для генерации изображений и текстов. Власть решать, что они могут и не могут делать, будет все больше определяться любым человеком с немного техническими навыками, который может не обращать внимания на то, что общественность считает приемлемым.
«Стоя на плечах гигантов» Как мы дошли до того, что кто-то может заметить «горячего папу» на тротуаре Манхэттена и затем использовать PimEyes, чтобы попытаться узнать, кто он и где он работает? Краткий ответ — это сочетание бесплатного кода, разделенного в Интернете, огромного количества публичных фотографий, научных статей, объясняющих, как все это соединить, и беспечного отношения к законам, регулирующим приватность.
Сооснователь Clearview AI Хоан Тон-Тат, который возглавлял технологическую разработку своей компании, не имел особого опыта в области биометрии. До Clearview AI он делал викторины для Facebook, игры для iPhone и глупые приложения, такие как «Trump Hair», чтобы человек на фотографии выглядел как причесанный бывший президент.
В своем стремлении создать прорывное и более прибыльное приложение мистер Тон-Тат обратился к бесплатным онлайн-ресурсам, таким как OpenFace — «библиотека распознавания лиц», созданная группой в Карнеги-Меллонском университете. Библиотека кода была доступна на GitHub с предупреждением: «Пожалуйста, используйте ответственно!»
«Мы не поддерживаем использование этого проекта в приложениях, которые нарушают приватность и безопасность», — говорилось в заявлении. «Мы используем это для помощи людям с когнитивными нарушениями чувствовать и понимать мир вокруг них».
Это была благородная просьба, но совершенно не поддающаяся исполнению.
Мистер Тон-Тат запустил код OpenFace, но он не был идеальным, поэтому он продолжал искать, бродя по научной литературе и репозиториям кода, пробуя то и это, чтобы посмотреть, что работает. Он был как человек, гуляющий по саду, пробующий плоды десятилетних исследований, спелые для сбора и великолепно бесплатные.
«Я не смог бы сделать это, если бы мне пришлось создавать это с нуля», — сказал он, называя некоторых исследователей, которые продвинули компьютерное зрение и искусственный интеллект, включая Джеффри Хинтона, «крестного отца ИИ». «Я стоял на плечах гигантов».
Мистер Тон-Тат все еще строит. Clearview разработал версию своего приложения, которое работает с очками дополненной реальности, более полноценной реализацией шляпы с распознаванием лиц, которую инженерная команда Facebook соорудила несколько лет назад.
Пара очков дополненной реальности стоимостью 999 долларов, сделанная компанией под названием Vuzix, подключает носителя к базе данных Clearview из 30 миллиардов лиц. Приложение Clearview для дополненной реальности, которое может идентифицировать кого-то на расстоянии до 10 футов, пока не доступно публично, но ВВС предоставили финансирование для возможного использования на военных базах.
Осенью мистер Тон-Тат продемонстрировал очки для меня в квартире своей пресс-секретаря на Верхнем Западном берегу Манхэттена, надев их и посмотрев на меня, рассказывает Кашмир Хилл, автор книги "Ваше лицо принадлежит нам": «Оооо, 176 фотографий», — сказал он. «Фестиваль идей в Аспене. Кашмир Хилл», — прочитал он из подписи к одной из фотографий, которая появилась.
Затем он передал мне очки. Я надела их. Хотя они выглядели громоздко, они были легкими и хорошо сидели. Мистер Тон-Тат сказал, что он пробовал другие очки дополненной реальности, но эти показали себя лучше всего. «У них скоро выйдет новая версия», — сказал он. — И они будут выглядеть круче, более хипстерски».
Когда я посмотрела на мистера Тон-Тата через очки, вокруг его лица появился зеленый круг. Я постучал по сенсорной панели у своего правого виска. На квадратном дисплее, который видел только я на правом стекле очков, появилось сообщение: «Ищу…»
А затем квадрат наполнился его фотографиями, под каждой из которых была подпись. Я пролистала их с помощью сенсорной панели. Я нажала, чтобы выбрать одну из них, на которой было написано «Генеральный директор Clearview, Хоан Тон-Тат»; она включала ссылку, которая показывала мне, что оона пришла с сайта Clearview.
<span> Он посмотрел на пресс-секретаря, поискал ее лицо, и появилось 49 фотографий, в том числе одна с клиентом, о котором она попросила его не упоминать. Это небрежно раскрыло, насколько вторжение в чью-то личность может быть, даже для человека, чья работа состоит в том, чтобы заставить мир принять эту технологию.
Он хотел вынести очки на улицу, чтобы посмотреть, как они работают на людях, которых он на самом деле не знает, но мистер Тон-Тат сказал, что они не могут, и потому что очки требовали подключения к Wi-Fi, и потому что кто-то мог бы узнать его и сразу понять, что это за очки и что они могут делать.
Было ясно, что люди, которые владеют таким инструментом, неизбежно будут иметь власть над теми, кто не владеет. Meta работает над своими очками дополненной реальности уже несколько лет. На внутреннем собрании в начале 2021 года главный технологический директор компании Эндрю Босворт сказал, что он хотел бы оснастить их возможностью распознавания лиц.
На записи внутреннего собрания мистер Босворт сказал, что отказ от распознавания лиц в очках дополненной реальности был упущенной возможностью для улучшения человеческой памяти. Он говорил о всеобщем опыте посещения ужина и видения кого-то, кого вы знаете, но не можете вспомнить его имя.
В то время как Meta и Clearview AI разрабатывают очки дополненной реальности с распознаванием лиц, другие компании и организации выступают против этой технологии. Например, стартап Truepic создал приложение для проверки подлинности фотографий и видео, чтобы бороться с манипуляциями и дезинформацией. А группа активистов под названием Dazzle Club проводит мероприятия, на которых люди наносят на лица разноцветные узоры, чтобы сбить с толку алгоритмы распознавания лиц.
Эти примеры показывают, что технология распознавания лиц вызывает разные реакции у разных людей: от восхищения до беспокойства. Некоторые видят в ней полезный инструмент для улучшения безопасности, коммуникации и памяти, а другие — угрозу для приватности, свободы и прав человека. Вопрос в том, кто будет контролировать эту технологию и как она будет регулироваться.
Пока что нет единого ответа на этот вопрос. В разных странах и регионах действуют разные законы и нормы, касающиеся технологии распознавания лиц. Некоторые запрещают ее использование в определенных ситуациях, а другие позволяют ее широкое применение. Также нет общепринятых стандартов качества и этики для разработчиков и поставщиков этой технологии.
Технология распознавания лиц стала доступной для всех, но не все готовы к ее последствиям. Это требует от нас более глубокого осознания возможностей и рисков этой технологии, а также более активного участия в обсуждении ее будущего.
«Мы могли бы прикрепить к ним маленькую бирку с именем», — сказал он на записи со смешком. — Мы могли бы. У нас есть такая возможность».
Но он выразил опасение по поводу законности такого инструмента. В ответ на это мистер Босворт сказал, что распознавание лиц является «очень спорным» и что предоставление широкого доступа к нему — «это дебаты, которые нам нужно провести с общественностью».
Пока очки дополненной реальности Meta все еще находятся в разработке, компания закрыла систему распознавания лиц, развернутую на Facebook для отметки друзей на фотографиях и удалила более одного миллиарда отпечатков лиц своих пользователей.
Было бы легко включить такую систему обратно. Компания однажды может встроить распознавание лиц в свои очки дополненной реальности, он не исключил такой возможности.
</span>
- Источник новости
- www.securitylab.ru
