Фото девушки на унитазе попало в Facebook. Ее сфотографировал робот-пылесос Roomba

В социальную сеть Facebook попали фото людей, сделанные роботом-пылесосом iRobot Roomba серии J7. В частности, там были фото и достаточно интимного содержания.

О том, как это случилось и о проблемах конфиденциальности передачи данных рассказал MIT Technology Review.

Реципиент №1. Робот-пылесос Roomba

iRobot – крупнейший в мире поставщик роботов-пылесосов, о приобретении которого за $1,7 млрд совсем недавно заявила корпорация Amazon.

Робот-пылесос Roomba первого поколения появился в 2002 году. Он имел ультразвуковые датчики для определения расположения стен и сборки схемы уборки и датчики ударов во избежание столкновения с предметами. Roomba стал первым коммерчески успешным роботом-пылесосом.

Наиболее простые модели до сих пор работают по схожему алгоритму. Но пылесосы среднего класса имеют улучшенные датчики и другие методы навигации. Это, например, одновременная локализация и картографирование, чтобы найти место в комнате и выбрать лучшие пути уборки.

Модели же более высокого класса перешли к технологии компьютерного зрения – типа искусственного интеллекта, подобного человеческому зрению и обучающегося путем считывания и извлечения информации из изображений и видео.

И именно к таким относится наш герой – пылесос iRobot Roomba J7.

Для того чтобы совершенствовать свою систему искусственного интеллекта, многим работам-пылесосам, включая Roomba, нужно делать фото и отправлять их в облачное хранилище.

Реципиент №2. Scale AI и другие системы искусственного интеллекта

После того, как iRobot Roomba J7 сделал фото или видео, он их посылает в Scale AI – это стартап, занимающийся тренировкой искусственного интеллекта. При этом робот-пылесос может отправлять файлы в облачное хранилище автоматически при наличии подключения к интернету.

Данные, собранные работами-пылесосами, могут быть особенно интимными.

«Современные роботы-пылесосы имеют мощное оборудование, мощные датчики. Они могут передвигаться по вашему дому – и у вас нет возможности это контролировать. В особенности это касается пылесосов iRobot Roomba J7», – заявил Деннис Гизе, Phd одного из американских университетов.

Большинство компаний заявляют, что они не используют личные данные для улучшения систем искусственного интеллекта. Но здесь много нюансов.

По словам самих представителей компании, пользователи знают, что за ними ведется видеонаблюдение. Да и эти пользователи — либо непосредственно сотрудники компании или «фрилансеры», добровольно и платно согласившиеся на сбор данных. Соответствующий договор они подписывают с компанией.

В самой компании утверждают, что пользователи могут выбирать файлы, приемлемые для тренировки искусственного интеллекта, а работы-пылесосы обозначены ярко-зеленой наклейкой с надписью «Происходит видеозапись».

Однако разработчики роботов-пылесосов отказались предоставить MIT Technology Review копию договора. Кроме того, компания не предоставила ни одному из своих «подопытных кроликов» или сотрудников возможность обсудить их понимание условий наблюдения.

«Используя технологию мы часто соглашаемся с политикой конфиденциальности и расплывчатыми формулировками. Они дают компаниям широкую свободу действий по поводу того, как они распространяют и анализируют информацию о потребителях», — утверждают аналитики.

Кто в самом конце пищевой цепочки?

Но все же – как личные фото стали (становятся, станут) публичными?

Дело в том, что Scale AI, лидер рынка ИИ, построил специфическую бизнес-модель, заключающуюся в заключении контрактов с удаленными работниками из стран третьего мира. Очень часто с помощью аутсорсинговых компаний, что может существенно снимать ответственность с компании-разработчика. И, вероятно, мы понимаем, что за такую ​​работу платят немного.

В нашем случае речь идет о работниках из Венесуэлы. Конкретно они должны перебрать, классифицировать и маркировать конкретные данные. Выбор инструментов, которые они используют для работы, очень часто никем не регулируется. И венесуэльские рабочие имели опрометчивость поделиться этими фотографиями в Facebook.

«Всегда где-то сидит группа людей – обычно в комнате без окон. Они просто совершают простые действия «найди и щелкни», определяя объект», — объясняет Мэтт Бин, доктор Калифорнийского университета, эксперт в изучении человеческого труда, лежащего в основе робототехники.

В конце концов этот вопрос не о безответственности отдельной компании или отдельных людей. Здесь мы имеем дело с растущей в геометрической прогрессии практикой обмена потенциально конфиденциальными данными для обучения алгоритмам. А также об удивительном путешествии личностных данных по всему миру. И это при условии, что компании-разработчики роботехники добросовестно выполняют соглашение о конфиденциальности и не решили сэкономить на конфиденциальности пользователей.