aleks78
Американские роботы-пылесосы фотографировали владельцев и отправляли снимки в сторонние компании ( 1 фото )
Текст:Business FM
За шпионажем поймали пылесосы iRobot Roomba. Производитель уверяет, что эта модель не присутствовала на рынке, а предоставлялась людям с их согласия для обучения ИИ
Пылесосы iRobot Roomba серии J7 фотографировали своих пользователей и отправляли снимки сторонним компаниям. Статья об этом вышла в журнале MIT Technology Review, принадлежащем Массачусетскому технологическому институту.
Так, в телеграм-каналах распространяется фото девушки, которая сидит на унитазе. Ее лицо закрыто черным квадратом. На других фотографиях видно в основном помещения — стены, шкафы, холодильники. Есть и фото, где в камеру смотрит ребенок.
Снимки слил сотрудник сторонней компании Scale AI, который должен отсматривать снимки от пылесосов и маркировать их — отмечать, например, где на картинке расположен шкаф, где окно. Все это нужно, чтобы обучить искусственный интеллект пылесоса самостоятельно ориентироваться на местности.
Как пылесос использует фотографии и можно ли ему это запретить? Отвечает руководитель отдела перспективных технологий Positive Technologies Александра Мурзина.
Александра Мурзина
руководитель отдела перспективных технологий Positive Technologies
«Сейчас много разных умных устройств, вообще, умные дома довольно популярны, и многие такие устройства используют техники машинного обучения и какие-то данные, чтобы улучшать свои интеллектуальные способности, ориентацию в пространстве. И, конечно, для того чтобы обучить какие-то вещи либо дообучить, многие вендоры собирают данные, видимо, в том числе фотографии. Когда покупаете какое-то устройство, там есть какое-то лицензионное соглашение, и при покупке автоматически пользователи соглашаются на определенный функционал. Возможно, это как-то у этого вендора заложено, нужно читать документацию. Будет ли продукт хуже, если эти данные не отправлять? Если базовая функциональность уже достаточно удовлетворяет пользователя, то, наверное, все будет хорошо. На рынке есть достаточно много пылесосов, которые в целом без всяких фотокамер неплохо справляются со своими функциями. Опять же, зависит от конкретного вендора, что он обещает. Как минимум можно просто заклеить камеру, как многие делают с ноутбуками, с телефонами. Наши исследования показывают, что нужно быть осторожным не только с умными пылесосами, мы уже находили уязвимости у одного из вендоров как раз таки умных пылесосов, в то время были популярные майнеры, и как раз таки с помощью уязвимости злоумышленники могли какую-то нагрузку подавать на этот пылесос, и пылесос мог майнить какие-то вещи. Нужно быть осторожным, как и везде, понимать, для чего какой-то функционал используется, действительно ли вам в пылесосе нужна камера».
В компании iRobot заявили, что все фотографии делались с согласия пользователей. И более того — модели, которые ведут съемку, продавались только людям, которые сотрудничают с компанией и готовы участвовать в обучении ИИ. Но это все еще не объясняет, как снимки в итоге попали в интернет. И это может стать отдельным основанием для судебного иска. Комментирует руководитель практики Technology & Product консалтинговой компании Comply Сергей Сайганов:
Сергей Сайганов
руководитель практики Technology & Product консалтинговой компании Comply
«Это достаточно очевидный и однозначный кейс для судебного иска, то есть ущемленный потребитель имеет полное право пожаловаться на такую компанию и к регуляторам своей страны, где он находится, где он приобретал эту продукцию, и в судебные органы. Здесь есть несколько оснований. Например, распространение персональных данных без законного основания. В этом случае суд должен постановить выдать предписание владельцам таких страниц в социальных сетях либо самим социальным сетям провести модерацию, удалить такие персональные данные под угрозой блокировки, плюс в принципе здесь у пользователей есть полное право требовать возмещения морального вреда, который они принесли за такую публикацию. Если бы такой кейс образовался в России, то вполне можно было бы пожаловаться в Роскомнадзор на незаконное распространение персональных данных. Каждая компания, которая хочет собирать, обрабатывать данные пользователей своих продуктов, должна пользователей об этом уведомить, причем в Европе подчеркивается, что это должно быть сделано своевременно, простым, понятным, доходчивым образом, чего, собственно, судя по всему, не происходило в данной ситуации. Действительно, часто владельцы продуктов этой обязанностью пренебрегают, условно говоря, могут зашивать согласие в какие-то неочевидные документы, которые никто никогда не читает, типа пользовательского соглашения, оферты, либо вообще нигде ни о чем никого не предупреждать, ограничиваясь формулировкой об обработке неких обезличенных данных. Здесь налицо и обработка персональных данных без надлежащего уведомления субъекта, и передача третьим лицам, и не вполне ясное правовое основание для всего этого».
Компания Scale AI, сотрудник которой слил фото от пылесосов в интернет, — лишь одна из нескольких, с которой сотрудничает iRobot. Всего производитель пылесосов отправляет сторонним компаниям для анализа миллионы снимков. Представитель iRobot Джеймс Бауссман заявил, что в компании приняли все меры для обеспечения безопасности.
За шпионажем поймали пылесосы iRobot Roomba. Производитель уверяет, что эта модель не присутствовала на рынке, а предоставлялась людям с их согласия для обучения ИИ
Пылесосы iRobot Roomba серии J7 фотографировали своих пользователей и отправляли снимки сторонним компаниям. Статья об этом вышла в журнале MIT Technology Review, принадлежащем Массачусетскому технологическому институту.
Так, в телеграм-каналах распространяется фото девушки, которая сидит на унитазе. Ее лицо закрыто черным квадратом. На других фотографиях видно в основном помещения — стены, шкафы, холодильники. Есть и фото, где в камеру смотрит ребенок.
Снимки слил сотрудник сторонней компании Scale AI, который должен отсматривать снимки от пылесосов и маркировать их — отмечать, например, где на картинке расположен шкаф, где окно. Все это нужно, чтобы обучить искусственный интеллект пылесоса самостоятельно ориентироваться на местности.
Как пылесос использует фотографии и можно ли ему это запретить? Отвечает руководитель отдела перспективных технологий Positive Technologies Александра Мурзина.
Александра Мурзина
руководитель отдела перспективных технологий Positive Technologies
«Сейчас много разных умных устройств, вообще, умные дома довольно популярны, и многие такие устройства используют техники машинного обучения и какие-то данные, чтобы улучшать свои интеллектуальные способности, ориентацию в пространстве. И, конечно, для того чтобы обучить какие-то вещи либо дообучить, многие вендоры собирают данные, видимо, в том числе фотографии. Когда покупаете какое-то устройство, там есть какое-то лицензионное соглашение, и при покупке автоматически пользователи соглашаются на определенный функционал. Возможно, это как-то у этого вендора заложено, нужно читать документацию. Будет ли продукт хуже, если эти данные не отправлять? Если базовая функциональность уже достаточно удовлетворяет пользователя, то, наверное, все будет хорошо. На рынке есть достаточно много пылесосов, которые в целом без всяких фотокамер неплохо справляются со своими функциями. Опять же, зависит от конкретного вендора, что он обещает. Как минимум можно просто заклеить камеру, как многие делают с ноутбуками, с телефонами. Наши исследования показывают, что нужно быть осторожным не только с умными пылесосами, мы уже находили уязвимости у одного из вендоров как раз таки умных пылесосов, в то время были популярные майнеры, и как раз таки с помощью уязвимости злоумышленники могли какую-то нагрузку подавать на этот пылесос, и пылесос мог майнить какие-то вещи. Нужно быть осторожным, как и везде, понимать, для чего какой-то функционал используется, действительно ли вам в пылесосе нужна камера».
В компании iRobot заявили, что все фотографии делались с согласия пользователей. И более того — модели, которые ведут съемку, продавались только людям, которые сотрудничают с компанией и готовы участвовать в обучении ИИ. Но это все еще не объясняет, как снимки в итоге попали в интернет. И это может стать отдельным основанием для судебного иска. Комментирует руководитель практики Technology & Product консалтинговой компании Comply Сергей Сайганов:
Сергей Сайганов
руководитель практики Technology & Product консалтинговой компании Comply
«Это достаточно очевидный и однозначный кейс для судебного иска, то есть ущемленный потребитель имеет полное право пожаловаться на такую компанию и к регуляторам своей страны, где он находится, где он приобретал эту продукцию, и в судебные органы. Здесь есть несколько оснований. Например, распространение персональных данных без законного основания. В этом случае суд должен постановить выдать предписание владельцам таких страниц в социальных сетях либо самим социальным сетям провести модерацию, удалить такие персональные данные под угрозой блокировки, плюс в принципе здесь у пользователей есть полное право требовать возмещения морального вреда, который они принесли за такую публикацию. Если бы такой кейс образовался в России, то вполне можно было бы пожаловаться в Роскомнадзор на незаконное распространение персональных данных. Каждая компания, которая хочет собирать, обрабатывать данные пользователей своих продуктов, должна пользователей об этом уведомить, причем в Европе подчеркивается, что это должно быть сделано своевременно, простым, понятным, доходчивым образом, чего, собственно, судя по всему, не происходило в данной ситуации. Действительно, часто владельцы продуктов этой обязанностью пренебрегают, условно говоря, могут зашивать согласие в какие-то неочевидные документы, которые никто никогда не читает, типа пользовательского соглашения, оферты, либо вообще нигде ни о чем никого не предупреждать, ограничиваясь формулировкой об обработке неких обезличенных данных. Здесь налицо и обработка персональных данных без надлежащего уведомления субъекта, и передача третьим лицам, и не вполне ясное правовое основание для всего этого».
Компания Scale AI, сотрудник которой слил фото от пылесосов в интернет, — лишь одна из нескольких, с которой сотрудничает iRobot. Всего производитель пылесосов отправляет сторонним компаниям для анализа миллионы снимков. Представитель iRobot Джеймс Бауссман заявил, что в компании приняли все меры для обеспечения безопасности.
Взято: Тут
276