Tesla Inc запевняє своїх мільйонів власників електромобілів, що їх конфіденційність «є і завжди буде для нас надзвичайно важливою». Камери, які він вбудовує в транспортні засоби для допомоги водієві, зазначає на своєму веб-сайті, «спроектовані з нуля, щоб захистити вашу конфіденційність».

Але між 2019 і 2022 роками групи співробітників Tesla приватно ділилися через внутрішню систему обміну повідомленнями іноді дуже агресивними відео та зображеннями, записаними камерами автомобілів клієнтів , згідно з інтерв’ю Reuters із дев’ятьма колишніми співробітниками.

Деякі із записів застали клієнтів Tesla в незручних ситуаціях. Один колишній співробітник описав відео, на якому чоловік повністю голий підходить до автомобіля.

Також поділилися: ДТП і аварії на дорогах. За словами іншого колишнього співробітника, на одному відео аварії у 2021 році було показано, як Tesla їде на високій швидкості в житловому районі та збиває дитину, яка їхала на велосипеді. Дитина полетіла в один бік, велосипед – в інший. Відео поширилося в офісі Tesla в Сан-Матео, штат Каліфорнія, через приватні чати сам на сам, «як лісова пожежа», сказав колишній співробітник.

Інші зображення були більш повсякденними, як-от зображення собак і кумедних дорожніх знаків, які працівники перетворювали на меми, прикрашаючи їх кумедними підписами чи коментарями, перш ніж публікувати їх у приватних групових чатах. За словами кількох колишніх співробітників, деякі публікації ділилися лише двома працівниками, а інші могли бачити десятки.

Tesla заявляє в своєму онлайн-«Повідомленні про конфіденційність клієнта», що «записи камери залишаються анонімними і не пов’язані з вами чи вашим автомобілем». Але семеро колишніх співробітників розповіли Reuters, що комп’ютерна програма, яку вони використовували на роботі, може показати місцеперебування записів, що потенційно може виявити, де живе власник Tesla.

Один колишній співробітник також сказав, що деякі записи, здається, були зроблені, коли автомобілі були припарковані та вимкнені. Кілька років тому Tesla отримувала відеозаписи зі своїх автомобілів, навіть коли вони були вимкнені, якщо власники давали згоду. Відтоді це перестало робити.

«Ми могли бачити всередині гаражі людей та їхню приватну власність», — сказав інший колишній співробітник. «Скажімо, клієнт Tesla мав у своєму гаражі щось характерне, знаєте, люди публікували такі речі».

Tesla не відповіла на детальні запитання, надіслані компанії для цього звіту.

Близько трьох років тому деякі співробітники випадково натрапили та поділилися відео унікального підводного автомобіля, припаркованого в гаражі, за словами двох людей, які його переглядали. Біла сабвуфер Lotus Esprit на прізвисько «Мокра Неллі» була показана у фільмі про Джеймса Бонда «Шпигун, який мене кохав» 1977 року.

Власник транспортного засобу: виконавчий директор Tesla Ілон Маск, який купив його приблизно за 968 000 доларів на аукціоні в 2013 році. Невідомо, чи знав Маск про відео, чи воно було поширене.

Маск не відповів на запит про коментар.

Щоб повідомити про цю історію, агентство Reuters зв’язалося з понад 300 колишніми співробітниками Tesla, які працювали в компанії протягом останніх дев’яти років і брали участь у розробці її системи самостійного водіння. Понад десяток погодилися відповісти на запитання, усі вони говорили на умовах анонімності.

Reuters не зміг отримати жодного з опублікованих відео чи зображень, які, за словами колишніх співробітників, вони не зберігали. Інформаційне агентство також не змогло визначити, чи практика обміну записами, яка мала місце в деяких частинах Tesla ще минулого року, продовжується сьогодні та наскільки вона була поширена. Деякі колишні співробітники, з якими зв’язалися, сказали, що єдиний обмін, який вони спостерігали, був для законних робочих цілей, таких як звернення за допомогою до колег або керівників.

ПОЗНАЧЕННЯ ПІШОХОДІВ ТА ВУЛИЧНИХ ЗНАКІВ

Обмін конфіденційними відеозаписами ілюструє одну з менш помічених особливостей систем штучного інтелекту: вони часто вимагають цілої армії людей, щоб допомогти навчити машини вчитися автоматизованим завданням, таким як водіння.

Приблизно з 2016 року Tesla найняла сотні людей в Африці, а потім і в Сполучених Штатах, щоб позначати зображення, щоб допомогти своїм автомобілям навчитися розпізнавати пішоходів, вуличні знаки, будівельну техніку, двері гаражів та інші об’єкти, які зустрічаються на дорозі або в будинках клієнтів. . Щоб досягти цього, спеціалісти з маркування даних отримали доступ до тисяч відео або зображень, записаних автомобільними камерами, які вони могли переглядати та ідентифікувати об’єкти.

Tesla все більше автоматизує процес і закрила центр маркування даних минулого року в Сан-Матео, Каліфорнія. Але в Баффало, штат Нью-Йорк, у ньому продовжують працювати сотні етикетників даних. У лютому Tesla заявила, що кількість співробітників компанії зросла на 54% за попередні шість місяців до 675 осіб.

Двоє колишніх співробітників сказали, що їх не турбує обмін зображеннями, заявивши, що клієнти дали свою згоду або що люди давно відмовилися від будь-яких розумних очікувань зберігати особисті дані конфіденційними. Однак троє інших сказали, що їх це турбує.

«Чесно кажучи, це було порушенням конфіденційності. І я завжди жартував, що ніколи не куплю Tesla, побачивши, як вони поводяться з деякими з цих людей», — сказав один колишній співробітник.

Інший сказав: «Мене це непокоїть, тому що люди, які купують машину, я не думаю, що вони знають, що їхнє приватне життя, начебто, не поважається… Ми могли бачити, як вони прали та справді інтимні речі. Ми могли бачити їхніх дітей».

Один колишній співробітник не бачив нічого поганого в тому, щоб ділитися зображеннями, але описав функцію, яка дозволяла особам, які маркують дані, переглядати розташування записів на Картах Google, як «масове вторгнення в конфіденційність».

Девід Чоффнс, виконавчий директор Інституту кібербезпеки та конфіденційності при Північно-східному університеті в Бостоні, назвав поширення конфіденційних відео та зображень співробітниками Tesla «морально осудливим».

«Будь-яка нормальна людина була б вражена цим», — сказав він. Він зазначив, що розповсюдження конфіденційного та особистого контенту може бути витлумачено як порушення власної політики конфіденційності Tesla, що потенційно може призвести до втручання Федеральної торгової комісії США, яка забезпечує дотримання федеральних законів щодо конфіденційності споживачів.

Представник FTC заявив, що не коментує окремі компанії чи їхню поведінку.

Щоб розробити технологію безпілотних автомобілів, Tesla збирає величезну кількість даних зі свого глобального автопарку з кількох мільйонів автомобілів. Компанія вимагає від власників автомобілів надати дозвіл на сенсорні екрани автомобілів, перш ніж Tesla збере дані про їхні автомобілі. «Ваші дані належать вам», — йдеться на веб-сайті Tesla.

У своєму Повідомленні про конфіденційність клієнта Tesla пояснює, що якщо клієнт погоджується надати дані, «ваш автомобіль може збирати дані та надавати їх Tesla для аналізу. Цей аналіз допомагає Tesla покращувати свої продукти, функції та швидше діагностувати проблеми». У ньому також зазначено, що дані можуть включати «короткі відеокліпи або зображення», але не пов’язані з обліковим записом клієнта чи ідентифікаційним номером транспортного засобу «і не ідентифікують вас особисто».

Карло Пільц, юрист з питань конфіденційності даних у Німеччині, сказав Reuters, що буде важко знайти юридичне обґрунтування в рамках європейського законодавства про захист даних і конфіденційності для внутрішнього поширення записів транспортних засобів, якщо це «не має нічого спільного з забезпеченням безпеки чи безпеки». Автомобіль або функціональність» системи автономного водіння Tesla.

В останні роки система автомобільних камер Tesla викликала суперечки. У Китаї деякі урядові будівлі та житлові квартали заборонили Tesla через занепокоєння щодо її камер. У відповідь Маск сказав у віртуальній розмові на китайському форумі в 2021 році: «Якщо Tesla використовувала автомобілі для шпигунства в Китаї чи будь-де, нас закриють».

В інших місцях регулятори ретельно перевіряли систему Tesla на наявність можливих порушень конфіденційності. Але справи щодо конфіденційності, як правило, зосереджені не на правах власників Tesla, а на перехожих, які не знають, що їх можуть записувати припарковані автомобілі Tesla.

У лютому Управління із захисту даних Нідерландів (DPA) заявило, що завершило розслідування Tesla щодо можливих порушень конфіденційності щодо «сторожового режиму», функції, призначеної для запису будь-якої підозрілої активності, коли автомобіль припаркований, і сповіщення власника.

Наглядовий орган визначив, що не Tesla, а власники транспортних засобів, які несуть юридичну відповідальність за записи своїх автомобілів. У компанії заявили, що вирішили не штрафувати компанію після того, як Tesla заявила, що внесла кілька змін у режим Sentry Mode, зокрема включила фари транспортного засобу, щоб інформувати перехожих про те, що вони можуть бути записані.

Представник DPA відмовився коментувати висновки Reuters, але сказав в електронному листі: «Особисті дані мають використовуватися з певною метою, а конфіденційні персональні дані мають бути захищені».

ЗАМІНА ЛЮДЕЙ-ВОДІЇВ

Tesla називає свою автоматизовану систему водіння автопілотом. Представлена ​​в 2015 році система включала такі розширені функції, як можливість водіям змінювати смугу руху, торкаючись покажчика повороту, і паралельне паркування за командою. Щоб система працювала, Tesla спочатку встановила сонарні датчики, радар і одну фронтальну камеру у верхній частині лобового скла. Наступна версія, представлена ​​в 2016 році, включала вісім камер навколо автомобіля, щоб збирати більше даних і пропонувати більше можливостей.

Майбутнє бачення Маска полягає в тому, щоб зрештою запропонувати режим «Повного автономного водіння», який замінить людину-водія. Tesla почала розгортати експериментальну версію цього режиму в жовтні 2020 року. Хоча він вимагає від водіїв тримати руки на кермі, наразі він пропонує такі функції, як можливість автоматично сповільнювати автомобіль, коли він наближається до знаків зупинки або світлофора.

У лютому Tesla відкликала понад 362 000 автомобілів США для оновлення програмного забезпечення для повного автономного керування після того, як Національне управління безпеки дорожнього руху заявило, що це може дозволити транспортним засобам перевищувати обмеження швидкості та потенційно спричиняти аварії на перехрестях.

Як і у випадку з багатьма проектами штучного інтелекту, для розробки автопілота Tesla найняла маркувальники даних для ідентифікації об’єктів на зображеннях і відео, щоб навчити систему реагувати, коли автомобіль знаходиться на дорозі або припаркований.

Tesla спочатку передала маркування даних некомерційній організації Samasource, що базувалася в Сан-Франциско, повідомили Reuters люди, знайомі з цим питанням. Організація мала офіс у Найробі, Кенія, і спеціалізувалась на пропонуванні навчання та можливостей працевлаштування для знедолених жінок і молоді.

У 2016 році Samasource надавав близько 400 працівників для Tesla, порівняно з початковими 20, за словами людини, знайомої з цим питанням.

Однак до 2019 року Tesla вже не була задоволена роботою маркувальників даних Samasource. На заході під назвою Tesla AI Day у 2021 році Андрій Карпаті, тодішній старший директор AI у Tesla, сказав: «На жаль, ми дуже швидко виявили, що робота з третьою стороною для отримання наборів даних для чогось такого критичного просто не збирається скорочувати це … Чесно кажучи, якість не була вражаючою».

Колишній співробітник компанії Tesla сказав про етикетки Samasource: «Вони виділяли пожежні гідранти як пішоходів… Вони весь час пропускали об’єкти. Їхній рівень навичок малювати ящики був дуже низьким».

Samasource, яка тепер називається Sama, відмовилася коментувати свою роботу для Tesla.

Tesla вирішила запровадити власне маркування даних. «З часом ми виросли до понад 1000 осіб, які займаються маркуванням даних (організацією), у якій є професійні етикетувальники, які дуже тісно співпрацюють з інженерами», — сказав Карпаті у своїй презентації в серпні 2021 року.

У «Карпатах» не відповіли на прохання про коментарі.

Власні маркувальники даних Tesla спочатку працювали в районі затоки Сан-Франциско, включаючи офіс у Сан-Матео. Колишні співробітники розповіли, що групам осіб, які маркують дані, було призначено ряд різних завдань, у тому числі маркування смуг вулиць або автомобілів екстрених служб.

У якийсь момент Teslas на автопілоті відчував труднощі з виїздом заднім ходом із гаражів і збивався з пантелику, стикаючись із тінями чи предметами, наприклад садовими шлангами. Тож декого з етикетників попросили ідентифікувати об’єкти на відео, знятих у гаражах. Зрештою проблема була вирішена.

В інтерв’ю двоє колишніх співробітників сказали, що під час виконання своїх звичайних робочих обов’язків їх іноді просили переглянути зображення клієнтів у їхніх будинках та навколо них, зокрема в гаражах.

«Іноді я думав, чи знають ці люди, що ми це бачимо», — сказав один.

«Іноді я бачив деякі скандальні речі, знаєте, наприклад, я бачив сцени інтимної близькості, але не наготи», — сказав інший. «І було просто багато речей, які я не хотів би, щоб хтось бачив про моє життя».

Як приклад, ця особа пригадала, що бачила «незручні об’єкти», такі як «певні предмети білизни, певні предмети сексуального здоров’я… і просто приватні сцени з життя, в які ми дійсно були втягнуті, оскільки машина заряджалася».

МЕМИ В ОФІСІ САН-МАТЕО

Компанія Tesla укомплектувала свій офіс у Сан-Матео переважно молодими працівниками віком від 20 до 30 років, які принесли з собою культуру, яка цінувала розважальні меми та вірусний онлайн-контент. Колишні співробітники описували атмосферу вільного ходу в чатах, коли працівники обмінювалися жартами про зображення, які вони бачили під час маркування.

За словами кількох колишніх співробітників, деякі лейблери ділилися знімками екрана, іноді розміченими за допомогою Adobe Photoshop, у приватних групових чатах у Mattermost, внутрішній системі обміну повідомленнями Tesla. Там вони привернуть відгуки інших працівників і менеджерів. Учасники також додавали власні розмічені зображення, жарти чи емодзі, щоб підтримувати розмову. Кілька колишніх співробітників розповіли, що деякі емодзі були створені на замовлення, щоб посилатися на офісні жарти.

Один колишній торговець етикетками описав обмін зображеннями як спосіб «порушити монотонність». Інший описав, як обмін викликав захоплення у однолітків.

«Якщо ви бачите щось круте, що викликає реакцію, ви публікуєте це, правильно, а потім пізніше, під час перерви, люди підходять до вас і кажуть: «О, я бачив, що ви опублікували». Це було смішно», — сказав цей колишній торговець етикетками. «Люди, яких підвищили на керівні посади, ділилися багатьма цими кумедними речами та здобули славу за те, що вони смішні».

Частина спільного вмісту нагадувала меми в Інтернеті. Були собаки, цікаві автомобілі та ролики людей, знятих камерами Tesla, які спотикалися та падали. Був також тривожний контент, як-от когось затягнули в машину, здається, проти їхньої волі, сказав один колишній співробітник.

Кілька колишніх співробітників повідомили, що відеозаписи аварій за участю Tesla також іноді публікувалися в приватних чатах на Mattermost. Це включало приклади поганого керування автомобілем або зіткнень за участю людей, які потрапили під час їзди на велосипеді (наприклад, зіткнення з дитиною) або на мотоциклі. Деякі пристрої для етикеток даних перемотували б такі кліпи назад і відтворювали їх у сповільненому режимі.

Часом менеджери Tesla припиняли невідповідний обмін зображеннями на загальнодоступних каналах Mattermost, оскільки вони стверджували, що така практика порушує політику компанії. Тим не менш, скріншоти та меми на їх основі продовжували циркулювати в приватних чатах на платформі, повідомили кілька колишніх співробітників. Робітники ділилися ними один на один або невеликими групами ще в середині минулого року.

За словами двох колишніх співробітників, однією з переваг роботи в Tesla як маркувальник даних у Сан-Матео був шанс виграти приз – використання службового автомобіля на день-два.

Але деякі з щасливчиків стали параноїками під час керування електромобілями.

«Знання того, скільки даних здатні зібрати ці транспортні засоби, безумовно, викликало у людей хвилювання», — сказав один із колишніх співробітників.