Фото дівчини на унітазі потрапило в Facebook. Її сфотографував робот-пилосос Roomba

В соціальну мережу Facebook потрапили фото людей, зроблені роботом-пилососом iRobot Roomba серії J7. Зокрема, там були фото й досить інтимного характеру.

Про те, як це трапилося і про проблеми конфіденційності передачі даних розповів MIT Technology Review.

Реципієнт №1. Робот-пилосос Roomba

iRobot – найбільший у світі постачальник роботів-пилососів, про придбаня якого за $1,7 млрд зовсім нещодавно заявила корпорація Amazon.

Робот-пилосос Roomba першого покоління з’явився в 2002 році. Він мав ультразвукові датчики для визначення розташування стін та складання схеми прибирання і датчики ударів щоб уникнути зіткнення з предметами. Roomba став першим комерційно успішним роботом-пилососом.

Найбільш прості моделі до сих пір працюють за схожим алгоритмом. Але вже пилососи середнього класу мають покращені датчики та інші методи навігації. Це, наприклад, одночасна локалізація та картографування, щоб знайти своє місце в кімнаті та обрати найкращі шляхи прибирання.

Моделі ж більш високого класу перейшли до технології комп’ютерного зору – типу штучного інтелекту, який подібен до людського зору та який навчається шляхом зчитування вилучення інформації з зображень і відео.

І саме до таких належить «наш герой» – пилосос iRobot Roomba J7.

Для того, щоб удосконалювати свою систему штучного інтелекту, багатьом роботам-пилососам, включаючи Roomba, потрібно робити фото та відправляти їх в хмарне сховище.

Реципієнт №2. Scale AI та інші системи штучного інтелекту

Після того, як iRobot Roomba J7 зробив фото чи відео, він їх надсилає в Scale AI – це стартап, який займається тренуванням штучного інтелекту. При цьому робот-пилосос може відправляти файли в хмарне сховище автоматично, при наявності підключення до інтернету.

Дані, зібрані роботами-пилососами, можуть бути особливо особистісними.

«Сучасні роботи-пилососи мають потужне обладнання, потужні датчики. Вони можуть пересуватися по вашому дому — і у вас немає можливості це контролювати. В особливості це стосується пилососів iRobot Roomba J7», — заявив Денніс Гізе, Phd одного з університетів США.

Більшість компаній заявляють що вони не використовують особисті дані для покращення систем штучного інтелекту. Але тут є багато нюансів.

По словам самих представників компанії, користувачі знають, що за ними ведеться відеоспостереження. Та й ці користувачі — або безспосередньо співробітники компанії або «фрілансери», які добровільно і платно погодились на збір даних. Відповідний договір вони підписують з компанією.

В самій компанії стверджують, що користувачі можуть обирати файли, прийнятні для тренування штучного інтелекту, а роботи-пилососи позначені яскраво-зеленою наклейкою з написом «Відбувається відеозапис».

Проте розробники роботів-пилососів відмовилися надати MIT Technology Review копію договору. Крім того, компанія не надала можливість жодному зі своїх «піддослідних кроликів» чи співробітників можливість обговорити їхнє розуміння умов спостереження.

«Використовуючи технологію ми часто ми погоджуємося з політикої конфіденційності та розпливчастими формулюваннями. Вони дають компаніям широку свободу дій щодо того, як вони поширюють та аналізують інформацію про споживачів», — стверджують аналітики.

Хто в самому кінці харчового ланцюжка?

Але все ж таки — як особисті фото стали (стають, стануть) публічними?

Справа в тому, що Scale AI, лідер ринку ШІ, побудував специфічну бізнес-модель, яка полягає у укладанні контрактів з віддаленими працівниками з країн третього світу. Дуже часто — через аутсорсингові компанії, що може суттєво знімати відповідальність з компанії-розробника. І, мабуть, ми розуміємо, що за таку роботу платять небагато.

В нашому випадку мова йде про працівників з Венесуели. Саме вони повинні перебрати, класифікувати та маркувати конкретні дані. Вибір інструментів, які вони використовують для роботи дуже часто ніким не регулюється. Венесуельскі робітники мали необачність поділитися цими фотографіями в Facebook.

«Завжди десь сидить група людей — зазвичай у кімнаті без вікон. Вони просто роблять прості дії «знайди та клацни», визначаючи  об’єкт», — пояснює Метт Бін, доктор Каліфорнійського університету, експерт у вивченні людської праці, яка лежить в основі робототехніки.

Зрештою, це питання не про безвідповіддальність окремої компанії чи окремих людей. Тут ми маємо справу з зростаючою в геометричній прогресії практикою обміну потенційно конфіденційними даними для навчання алгоритмів.  А також про дивовижну подорож особистісних даних по всьому світу. І це за умови, що компанії-розробники роботехніки доброчесно виконують угоду про конфіденційність і не вирішили «зекономити» на конфіденційності користувачів.