Авторы: Стив Стеклоу, Вэйлон Каннингем и Хенджу Джин
ЛОНДОН/САН-ФРАНЦИСКО (Рейтер) - Компания Tesla Inc заверяет миллионы своих владельцев электромобилей, что их конфиденциальность “всегда была и будет чрезвычайно важна для нас”. Камеры, которые компания встраивает в автомобили для облегчения вождения, как отмечается на ее веб-сайте, “разработаны с нуля, чтобы защитить вашу частную жизнь”.
Но в период с 2019 по 2022 год группы сотрудников Tesla в частном порядке обменивались через внутреннюю систему обмена сообщениями, иногда весьма инвазивными видео и изображениями, записанными автомобильными камерами клиентов, согласно интервью Reuters с девятью бывшими сотрудниками.
Некоторые записи застали клиентов Tesla в неловких ситуациях. Один бывший сотрудник описал видеозапись, на которой мужчина приближается к автомобилю совершенно голым.
Также поделились: аварии и инциденты, связанные с яростью на дорогах. По словам другого бывшего сотрудника, на одном видео аварии в 2021 году было видно, как Tesla, двигаясь на высокой скорости по жилому району, сбила ребенка, катавшегося на велосипеде. Ребенок полетел в одну сторону, велосипед - в другую. Видео распространилось по офису Tesla в Сан-Матео, Калифорния, через частные чаты один на один, “как лесной пожар”, сказал бывший сотрудник.
Другие изображения были более обыденными, например, фотографии собак и забавных дорожных знаков, которые сотрудники превратили в мемы, украсив их забавными подписями или комментариями, прежде чем публиковать их в приватных групповых чатах. В то время как некоторые публикации были доступны только двум сотрудникам, другие, по словам нескольких бывших сотрудников, могли видеть десятки из них.
Tesla заявляет в своем онлайн-“Уведомлении о конфиденциальности клиентов”, что ее “записи с камер остаются анонимными и не связаны с вами или вашим автомобилем”. Но семь бывших сотрудников сообщили агентству Reuters, что компьютерная программа, которую они использовали на работе, могла показывать местоположение записей, что потенциально могло бы показать, где жил владелец Tesla.
Один бывший сотрудник также сказал, что некоторые записи, по-видимому, были сделаны, когда машины были припаркованы и выключены. Несколько лет назад Tesla получала видеозаписи со своих автомобилей, даже когда они были выключены, если владельцы давали согласие. С тех пор он перестал это делать.
“Мы могли заглядывать внутрь гаражей людей и их частной собственности”, - сказал другой бывший сотрудник. “Допустим, у клиента Tesla в гараже было что-то особенное, вы знаете, люди бы публиковали подобные вещи”.
Tesla не ответила на подробные вопросы, отправленные компании для этого отчета.
Около трех лет назад некоторые сотрудники наткнулись на видео уникального подводного аппарата, припаркованного в гараже, и поделились им, по словам двух человек, которые его просмотрели. Подлодка White Lotus Esprit, получившая прозвище “Мокрая Нелли”, была показана в фильме о Джеймсе Бонде 1977 года “Шпион, который любил меня”.
Владелец автомобиля: исполнительный директор Tesla Илон Маск, который купил его примерно за 968 000 долларов на аукционе в 2013 году. Неясно, знал ли Маск об этом видео или о том, что им поделились.
Маск не ответил на запрос о комментариях.
Чтобы сообщить об этой истории, агентство Reuters связалось с более чем 300 бывшими сотрудниками Tesla, которые проработали в компании последние девять лет и участвовали в разработке ее системы самостоятельного вождения. Более дюжины человек согласились ответить на вопросы, и все они говорили на условиях анонимности.
Агентству Reuters не удалось получить ни одно из опубликованных видео или изображений, которые, по словам бывших сотрудников, они не сохранили. Информационное агентство также не смогло определить, продолжается ли сегодня практика обмена записями, которая имела место в некоторых подразделениях Tesla еще в прошлом году, и насколько широко она была распространена. Некоторые бывшие сотрудники, с которыми связались, сказали, что единственный обмен информацией, который они наблюдали, был в законных рабочих целях, таких как обращение за помощью к коллегам или начальству.
ОБОЗНАЧЕНИЕ ПЕШЕХОДОВ И УЛИЧНЫХ ЗНАКОВ
Обмен конфиденциальными видеозаписями иллюстрирует одну из менее заметных особенностей систем искусственного интеллекта: им часто требуются армии людей, чтобы помогать обучать машины автоматизированным задачам, таким как вождение.
Примерно с 2016 года Tesla наняла сотни людей в Африке, а затем и в Соединенных Штатах для нанесения изображений, которые помогут ее автомобилям научиться распознавать пешеходов, уличные знаки, строительную технику, гаражные ворота и другие объекты, встречающиеся на дороге или в домах клиентов. Для достижения этой цели специалистам по маркировке данных был предоставлен доступ к тысячам видео или изображений, записанных автомобильными камерами, которые они могли просматривать и идентифицировать объекты.
Tesla все больше автоматизирует этот процесс и в прошлом году закрыла центр маркировки данных в Сан-Матео, Калифорния. Но в Буффало, штат Нью-Йорк, по-прежнему работают сотни специалистов по маркировке данных. В феврале Tesla сообщила, что штат сотрудников компании вырос на 54% за предыдущие шесть месяцев и составил 675 человек.
Два бывших сотрудника заявили, что их не беспокоит обмен изображениями, заявив, что клиенты дали свое согласие или что люди давно отказались от каких-либо разумных ожиданий сохранения личных данных в тайне. Трое других, однако, сказали, что их это беспокоит.
“Честно говоря, это было нарушением неприкосновенности частной жизни. И я всегда шутил, что никогда бы не купил Tesla после того, как увидел, как они обращались с некоторыми из этих людей”, - сказал один бывший сотрудник.
Другой сказал: “Меня это беспокоит, потому что люди, которые покупают машину, я не думаю, что они знают, что их частная жизнь, типа, не уважается … Мы могли видеть, как они стирают белье и занимаются действительно интимными вещами. Мы могли бы увидеть их детей”.
Один бывший сотрудник не видел ничего плохого в том, чтобы делиться изображениями, но описал функцию, которая позволяла специалистам по маркировке данных просматривать местоположение записей на картах Google, как “массовое вторжение в частную жизнь”.
Дэвид Чоффнес, исполнительный директор Института кибербезопасности и конфиденциальности при Северо-Восточном университете в Бостоне, назвал обмен конфиденциальными видео и изображениями сотрудниками Tesla “морально предосудительным”.
“Любой нормальный человек был бы потрясен этим”, - сказал он. Он отметил, что распространение конфиденциального и личного контента может быть истолковано как нарушение собственной политики конфиденциальности Tesla, что потенциально может привести к вмешательству Федеральной торговой комиссии США, которая обеспечивает соблюдение федеральных законов, касающихся конфиденциальности потребителей.
Представитель FTC заявил, что компания не комментирует отдельные компании или их поведение.
Чтобы разработать технологию беспилотных автомобилей, Tesla собирает огромный массив данных из своего глобального парка, насчитывающего несколько миллионов автомобилей. Компания требует от владельцев автомобилей предоставить разрешение на использование сенсорных экранов автомобилей, прежде чем Tesla соберет данные об их автомобилях. “Ваши данные принадлежат вам”, - говорится на веб-сайте Tesla.
В своем уведомлении о конфиденциальности клиентов Tesla объясняет, что, если клиент соглашается делиться данными, “ваш автомобиль может собирать данные и предоставлять их Tesla для анализа. Этот анализ помогает Tesla улучшать свои продукты, функции и быстрее диагностировать проблемы”. В нем также говорится, что данные могут включать “короткие видеоклипы или изображения”, но не связаны с учетной записью клиента или идентификационным номером транспортного средства, “и не идентифицируют вас лично”.
Карло Пильц, юрист по защите персональных данных в Германии, сказал агентству Reuters, что было бы трудно найти юридическое обоснование в соответствии с европейским законом о защите данных и неприкосновенности частной жизни для распространения записей транспортных средств внутри страны, когда это не имеет “ничего общего с обеспечением безопасности автомобиля или функциональностью” Tesla self.- приводная система.
В последние годы система автомобильных камер Tesla вызвала споры. В Китае некоторые правительственные здания и жилые кварталы запретили использование Teslas из-за опасений по поводу его камер. В ответ Маск сказал в виртуальном выступлении на китайском форуме в 2021 году: “Если Tesla будет использовать автомобили для шпионажа в Китае или где-либо еще, нас закроют”.
В других странах регулирующие органы тщательно изучили систему Tesla на предмет потенциальных нарушений конфиденциальности. Но дела о неприкосновенности частной жизни, как правило, были сосредоточены не на правах владельцев Tesla, а на правах прохожих, не подозревающих, что их могут записывать припаркованные автомобили Tesla.
В феврале Голландское управление по защите данных, или DPA, заявило, что завершило расследование Tesla в связи с возможными нарушениями конфиденциальности в отношении “Режима охраны”, функции, предназначенной для записи любых подозрительных действий при парковке автомобиля и оповещения владельца.
“Люди, которые проходили мимо этих машин, были сняты на видео, сами того не подозревая. И владельцы Teslas могли бы вернуться и посмотреть на эти изображения”, - говорится в заявлении члена правления DPA Кати Мур. “Если бы человек припарковал один из этих автомобилей перед чьим-то окном, он мог бы заглянуть внутрь и увидеть все, что делал другой человек. Это серьезное нарушение неприкосновенности частной жизни”.
Надзорный орган определил, что это была не Tesla, а владельцы транспортных средств, которые несли юридическую ответственность за записи своих автомобилей. В нем говорилось, что компания решила не штрафовать компанию после того, как Tesla заявила, что внесла несколько изменений в режим Sentry, включая включение импульса фар автомобиля для информирования прохожих о том, что их могут записывать.
Представитель DPA отказался комментировать выводы Reuters, но написал по электронной почте: “Персональные данные должны использоваться для определенной цели, и конфиденциальные персональные данные должны быть защищены”.
ЗАМЕНА ВОДИТЕЛЕЙ-ЛЮДЕЙ
Tesla называет свою автоматизированную систему вождения Autopilot. Представленная в 2015 году система включала в себя такие расширенные функции, как разрешение водителям менять полосу движения нажатием на сигнал поворота и параллельная парковка по команде. Чтобы заставить систему работать, Tesla изначально установила датчики гидролокатора, радар и единственную фронтальную камеру в верхней части лобового стекла. Последующая версия, представленная в 2016 году, включала восемь камер по всему автомобилю, чтобы собирать больше данных и предлагать больше возможностей.
Видение будущего Маска заключается в том, чтобы в конечном итоге предложить режим “полного самостоятельного вождения”, который заменил бы водителя-человека. Tesla начала выпускать экспериментальную версию этого режима в октябре 2020 года. Хотя он требует от водителей держать руки на руле, в настоящее время он предлагает такие функции, как возможность автоматического замедления автомобиля при приближении к знакам "стоп" или светофорам.
В феврале Tesla отозвала более 362 000 автомобилей в США для обновления их полного программного обеспечения для самостоятельного вождения после того, как Национальное управление безопасности дорожного движения заявило, что это может позволить транспортным средствам превышать ограничения скорости и потенциально приводить к авариям на перекрестках.
Как и во многих проектах по искусственному интеллекту, для разработки автопилота Tesla наняла специалистов по маркировке данных для идентификации объектов на изображениях и видео, чтобы научить систему реагировать, когда автомобиль находится на дороге или припаркован.
Первоначально Tesla передала маркировку данных на аутсорсинг некоммерческой организации из Сан-Франциско, известной тогда как Samasource, сообщили Reuters люди, знакомые с этим вопросом. Организация имела офис в Найроби, Кения, и специализировалась на предоставлении возможностей для профессиональной подготовки и трудоустройства женщинам и молодежи, находящимся в неблагоприятном положении.
По словам человека, знакомого с этим вопросом, в 2016 году Samasource предоставляла там около 400 работников для Tesla, по сравнению примерно с первоначальными 20.
Однако к 2019 году Tesla больше не была удовлетворена работой специалистов по маркировке данных Samasource. На мероприятии под названием Tesla AI Day в 2021 году Андрей Карпати, тогдашний старший директор по ИИ в Tesla, сказал: “К сожалению, мы очень быстро обнаружили, что работа с третьей стороной для получения наборов данных для чего-то столь важного просто не поможет … Честно говоря, качество не было потрясающим”.
Бывший сотрудник Tesla сказал о маркировщиках Samasource: “Они бы выделяли пожарные гидранты как пешеходов … Они все время будут скучать по объектам. Их уровень мастерства в рисовании коробок был очень низким”.
Samasource, теперь называемая Sama, отказалась комментировать свою работу для Tesla.
Tesla решила внедрить маркировку данных собственными силами. “Со временем мы выросли до более чем 1000 человек в организации по маркировке данных, в которой полно профессиональных этикетировщиков, которые очень тесно сотрудничают с инженерами”, - сказал Карпати в своей презентации в августе 2021 года.
Карпати не ответила на запросы о комментариях.
Собственные специалисты Tesla по маркировке данных первоначально работали в районе залива Сан-Франциско, включая офис в Сан-Матео. По словам бывших сотрудников, группам специалистов по маркировке данных было поручено множество различных задач, включая маркировку линий движения на улицах или транспортных средств экстренной помощи.
В какой-то момент Tesla на автопилоте испытывали трудности при выезде задним ходом из гаражей и путались, сталкиваясь с тенями или такими предметами, как садовые шланги. Поэтому некоторых специалистов по маркировке данных попросили идентифицировать объекты на видео, записанных внутри гаражей. В конце концов проблема была решена.
В интервью два бывших сотрудника рассказали, что в ходе их обычных рабочих обязанностей их иногда просили просмотреть изображения клиентов в их домах и вокруг них, в том числе внутри гаражей.
“Иногда я задавался вопросом, знают ли эти люди, что мы это видим”, - сказал один из них.
“Знаете, иногда я видел кое-какие скандальные вещи, например, сцены интимной близости, но не наготы”, - сказал другой. “И там определенно было много такого, чего я бы не хотел, чтобы кто-нибудь видел о моей жизни”.
В качестве примера, этот человек вспомнил, что видел “смущающие предметы”, такие как “определенные предметы белья, определенные предметы сексуального гигиены ... и просто интимные сцены из жизни, в которые мы действительно были посвящены, потому что машина заряжалась”.
МЕМЫ В ОФИСЕ В САН-МАТЕО
Tesla укомплектовала свой офис в Сан-Матео в основном молодыми работниками в возрасте от 20 до 30 лет, которые принесли с собой культуру, в которой ценятся развлекательные мемы и вирусный онлайн-контент. Бывшие сотрудники описывали непринужденную атмосферу в чатах, где работники обменивались шутками по поводу изображений, которые они просматривали во время наклеивания этикеток.
По словам нескольких бывших сотрудников, некоторые разработчики этикеток делились скриншотами, иногда помеченными с помощью Adobe Photoshop, в приватных групповых чатах Mattermost, внутренней системы обмена сообщениями Tesla. Там они привлекли бы отклики других работников и менеджеров. Участники также добавляли свои собственные отмеченные изображения, шутки или смайлики, чтобы поддержать беседу. По словам нескольких бывших сотрудников, некоторые эмодзи были созданы специально для отсылки к шуткам office inside.
Один бывший разработчик этикеток описал обмен изображениями как способ “нарушить монотонность”. Другой описал, как совместное использование вызвало восхищение у сверстников.
“Если вы увидели что-то классное, что вызвало бы реакцию, вы публикуете это, верно, а потом позже, в перерыве, люди подходят к вам и говорят: "О, я видел, что вы опубликовали. Это было забавно”, - сказал этот бывший этикетировщик. “Люди, которых повысили до руководящих должностей, поделились многими из этих забавных вещей и получили известность за то, что были забавными”.
Часть общего контента напоминала мемы в Интернете. Там были собаки, интересные автомобили и ролики, на которых люди, записанные камерами Tesla, спотыкаются и падают. Был также тревожный контент, например, кого-то затащили в машину, по-видимому, против его воли, сказал один бывший сотрудник.
По словам нескольких бывших сотрудников, видеоклипами аварий с участием Teslas также иногда делились в частных чатах на Mattermost. К ним относились примеры плохого вождения людей или столкновений с участием людей, которых сбили во время езды на велосипедах – например, на велосипеде с ребенком – или мотоцикле. Некоторые разработчики этикеток для данных перематывали такие клипы назад и воспроизводили их в замедленном режиме.
Время от времени менеджеры Tesla подавляли неуместный обмен изображениями на общедоступных каналах Mattermost, поскольку они утверждали, что такая практика нарушает политику компании. Тем не менее, скриншоты и основанные на них мемы продолжали распространяться через частные чаты на платформе, сообщили несколько бывших сотрудников. Работники делились ими один на один или в небольших группах совсем недавно, в середине прошлого года.
По словам двух бывших сотрудников, одним из преимуществ работы в Tesla в качестве специалиста по маркировке данных в Сан–Матео был шанс выиграть приз - воспользоваться служебным автомобилем на день или два.
Но некоторые из счастливчиков становились параноиками, когда садились за руль электромобилей.
“Знание того, сколько данных способны собирать эти транспортные средства, определенно заставляло людей нервничать", - сказал один бывший сотрудник.
(Репортажи Стива Стеклоу и Вэйлона Каннингема из Лондона и Хенджу Джина из Сан-Франциско. Под редакцией Питера Хиршберга.)
