ВК

Вместо ИИ умный дом Amazon Ring использовал операторов с Украины”

views
0

«Умный дом» XXI века должен быть не просто удобным, но и защищённым от посторонних при помощи подключённых к Сети датчиков, которые непрерывно следят за обстановкой снаружи и внутри. Но, похоже, за владельцами камер безопасности Amazon Ring наблюдали не только алгоритмы — по крайней мере, об этом сообщают источники ресурса The Intercept.

Вместо ИИ умный дом Amazon Ring использовал операторов с Украины"

Компания продвигает своё семейство миниатюрных камер, предназначенных для установки в качестве дверных звонков, в гаражах и просто на книжных полках, не только для того, чтобы следить за домом во время отсутствия жильцов, но и для безопасности — подобные системы могут помочь полиции обнаружить и задержать грабителей при их появлении. «Наша миссия по снижению уровня преступности в домохозяйствах лежит в основе всего, что мы делаем в Ring», — написал основатель и исполнительный директор Джейми Симинов (Jamie Siminoff) прошлой весной, когда его компанию поглотила за $1 млрд Amazon.

Но, по словам источников The Intercept, Ring предоставляла своему украинскому подразделению исследований и разработок практически беспрепятственный доступ к хранилищу в облачном сервисе Amazon S3, в котором содержатся все ролики, созданные каждой камерой Ring по всему миру. Это огромный массив частных видео, которые посторонние получили возможность просматривать легко и непринуждённо. Впервые о подобных практиках The Information сообщила в прошлом месяце.

По словам источника, в момент предоставления украинской группе доступа видеофайлы оставались незашифрованными: руководство Ring готовилось к продаже, а траты на внедрение шифрования требовались большие, что снизило бы доходность и, соответственно, оценку стоимости предприятия. Украинской команде также была предоставлена ​​соответствующая база данных, которая связывала каждый конкретный видеофайл с соответствующим клиентом Ring.

По словам источника, Ring также предоставляла руководителям и инженерам в США высокопривилегированный доступ к видеопорталу технической поддержки компании. Для своих целей они могли круглосуточно осуществлять прямые нефильтрованные трансляции с некоторых камер клиентов, независимо от того, нужна ли им помощь в данный момент. Тем, кому был предоставлен такой полный доступ, нужно было лишь знать email человека, чтобы смотреть на происходящее в его доме или во дворе в любое время. Хотя источник сказал, что не был свидетелем каких-либо вопиющих злоупотреблений, он сообщил The Intercept, что если кто-то знает адрес электронной почты журналиста или конкурента, то может просмотреть все его камеры. Источник также рассказал о случаях, когда инженеры Ring подкалывали друг друга относительно того, с кем они вернулись с романтических свиданий. И хотя сами инженеры знали, что их коллеги в реальном времени могут смотреть на камеру дверного замка, они вряд ли информировали аналогичным образом людей, которых приводили в свой дом.

Решение Ring предоставить такой доступ своей украинской команде было частично вызвано недостатками собственного программного обеспечения для распознавания лиц и объектов. Платформа ИИ-наблюдения Neighbors для борьбы с преступностью в режиме реального времени должна не просто записывать видео, но и распознавать происходящее в видеопотоке. Это собака или человек? Грабитель или дерево? Программное обеспечение Ring годами испытывало трудности с подобными основами распознавания объектов. Согласно последнему информационному отчёту, пользователи регулярно жаловались в службу поддержки клиентов на получение предупреждений, когда у их входной двери ничего не происходило; а система реагировала просто на проезжающий автомобиль на улице или на падающий с дерева лист.

В последние годы компьютерное зрение достигло невероятных успехов, но создание с нуля ПО, позволяющего классифицировать объекты, зачастую обходится дорого и отнимает много времени. Чтобы ускорить процесс, компания Ring использовала недорогих украинских «операторов данных» для помощи в разработке алгоритма, вручную помечая объекты в проблемных видео в рамках процесса обучения ПО в надежде, что оно сможет в будущем лучше распознавать объекты. По-видимому, этот процесс ещё продолжается спустя годы: Ring Labs (украинская команда, о которой идёт речь) по-прежнему использует людей в качестве операторов данных, согласно LinkedIn, и публикует списки вакансий для расстановки тегов на видео. «Вы должны быть в состоянии распознать и правильно пометить все движущиеся объекты в видео с высокой точностью», — говорится в одном из них. — Будьте готовы к быстрым изменениям в задачах так же, как и к долгой монотонной работе».

Вместо ИИ умный дом Amazon Ring использовал операторов с Украины"

Изображение из внутреннего документа Ring показывает, как команда людей изо дня в день помечала незнакомцев на видеороликах в целях улучшения алгоритма

Второй источник, который непосредственно осведомлён об усилиях Ring по расстановке тегов на видео, сказал, что команда аннотирования смотрит отснятый материал не только с более популярных моделей камер и дверных замков, но и трансляции с интерьерных моделей. Источник добавил, что сотрудники Ring время от времени показывали друг другу видеозаписи, которые они аннотировали, и описывали некоторые события, свидетелями которых были, в том числе целующихся людей, стрельбу из огнестрельного оружия и случаи воровства.

Вместо ИИ умный дом Amazon Ring использовал операторов с Украины"

Представитель Ring Ясси Шахмири (Yassi Shahmiri) не стал комментировать вопросы о прошлых практиках компании в отношении данных и о том, чем они отличаются от нынешних, сделав вместо этого следующее заявление:

«Мы очень серьёзно относимся к конфиденциальности и безопасности личной информации наших клиентов. Чтобы улучшить наш сервис, мы просматриваем и аннотируем определённые видео с камер Ring. Эти ролики получены исключительно из общедоступных трансляций Ring из приложения Neighbors (в соответствии с нашими условиями обслуживания) и от небольшой части пользователей Ring, которые дали своё явное письменное согласие на то, чтобы мы могли просматривать и использовать их видео для таких целей.

У нас строгие правила для всех членов нашей команды. Мы внедряем системы для ограничения и аудита доступа к информации. Наша команда придерживается высоких этических стандартов, и любой, кто нарушает правила, сталкивается с дисциплинарными мерами, включающими увольнение и возможные юридические и уголовные последствия. Кроме того, мы абсолютно не терпим злоупотреблений нашими системами и, если находим примеры плохого поведения, предпримем быстрые меры против них».

Вместо ИИ умный дом Amazon Ring использовал операторов с Украины"

Чуть позже господин Шахмири заявил The Intercept, что сотрудники Ring никогда не имели и не предоставляли доступ к прямым трансляциям своих камер.

Ring в описании платформы Neighbours ничего не говорит о распознавании изображений или лиц. Упоминание методов распознавания лиц скрыты в политике конфиденциальности, но при этом ничего не говорится о каких-либо ручных аннотациях видео, проводимых людьми в украинском подразделении, а также вообще не упоминается возможность того, что сотрудники Ring могут получить доступ к частному видео. Ресурс The Information со ссылкой на бывших сотрудников сообщил, что усилия по более жёсткому контролю над доступом к информации были предприняты только в прошлом мае после того, как Amazon посетила офис на Украине. Но даже тогда якобы украинские сотрудники Ring обошли контроль.


Источник

Оставьте комментарий к этой записи ↓

Войти, чтобы оставить комментарий