Roomba зафиксировал женщину в туалете. Как скриншоты оказались на Facebook?

Компании, производящие роботы-пылесосы, заявляют, что ваши изображения в безопасности, но разрастающаяся глобальная цепочка поставок данных с наших устройств создает риск.

Осенью 2020 года работники концертов в Венесуэле разместили серию изображений на онлайн-форумах, где они собрались для обсуждения вопросов. Фотографии представляли собой обыденные, хотя иногда и интимные, бытовые сцены, снятые с низких ракурсов, в том числе такие, которыми вы действительно не хотели бы делиться в Интернете.

На одном особенно показательном кадре молодая женщина в лавандовой футболке сидит на унитазе, ее шорты спущены до середины бедра.

Изображения были сделаны не человеком, а экспериментальной версией робота-пылесоса Roomba J7 от iRobot. Затем их отправили в Scale AI, стартап, который нанимает рабочих по всему миру для маркировки аудио-, фото- и видеоданных, используемых для обучения искусственного интеллекта.

Это были сцены, которые устройства, подключенные к Интернету, регулярно захватывают и отправляют обратно в облако, хотя обычно с более строгим контролем хранения и доступа. Однако ранее в этом году MIT Technology Review получила 15 скриншотов этих частных фотографий, которые были опубликованы в закрытых группах в социальных сетях.

Фотографии различаются по типу и чувствительности. Самым интимным изображением, которое мы видели, была серия видеокадров, на которых изображена молодая женщина в туалете, ее лицо скрыто на главном изображении, но не скрыто на зернистой прокрутке кадров ниже. На другом изображении мальчик лет восьми или девяти, чье лицо хорошо видно, растянулся на животе на полу в коридоре. Треугольная прядь волос падает ему на лоб, когда он с явным весельем смотрит на объект, записывающий его чуть ниже уровня глаз.

На других кадрах показаны комнаты в домах по всему миру, некоторые из них заняты людьми, другие — собаками. Мебель, декор и предметы, расположенные высоко на стенах и потолках, обведены прямоугольными рамками и сопровождаются надписями типа «телевизор», «растение_или_цветок» и «потолочный светильник».

iRobot — крупнейший в мире поставщик роботов-пылесосов, которого Amazon недавно приобрела за 1,7 миллиарда долларов в рамках ожидаемой сделки, — подтвердила, что эти изображения были сделаны ее Roombas в 2020 году. Все они были сделаны «роботами специальной разработки с аппаратными и программными модификациями, которые их никогда не было в потребительских товарах iRobot, которые можно приобрести», — говорится в заявлении компании. Их передали «платным сборщикам и сотрудникам», которые подписали письменные соглашения, подтверждающие, что они отправляют потоки данных, включая видео, обратно в компанию в целях обучения. По данным iRobot, устройства были помечены ярко-зеленой наклейкой с надписью «идет запись видео», и этим платным сборщикам данных предстояло «удалить все, что они считают конфиденциальным, из любого пространства, в котором работает робот, включая детей».

Принимали ли вы участие в сборе данных iRobot? Мы хотели бы услышать от вас. Пожалуйста, свяжитесь с[email protected].

Другими словами, по оценкам iRobot, любой, чьи фотографии или видео появлялись в потоках, согласился позволить своим Roomba контролировать их. Компания iRobot отказалась предоставить MIT Technology Review возможность ознакомиться с соглашениями о согласии и не предоставила никому из своих платных сборщиков или сотрудников возможность обсудить их понимание условий.

Хотя изображения, которыми мы поделились, не были предоставлены клиентами iRobot, потребители регулярно соглашаются на то, чтобы наши данные контролировались в той или иной степени на различных устройствах — от iPhone до стиральных машин. Эта практика стала более распространенной за последнее десятилетие, поскольку жаждущий данных искусственный интеллект все чаще интегрируется в совершенно новый набор продуктов и услуг. Большая часть этой технологии основана на машинном обучении — методе, который использует большие объемы данных, включая наши голоса, лица, дома и другую личную информацию, — для обучения алгоритмов распознаванию закономерностей. Наиболее полезные наборы данных являются наиболее реалистичными, поэтому данные, полученные из реальной среды, например дома, особенно ценны. Часто мы соглашаемся, просто используя продукт, как указано в политике конфиденциальности с расплывчатыми формулировками, которые дают компаниям широкую свободу действий в том, как они распространяют и анализируют информацию о потребителях.