Сотрудники Amazon подслушивают

Amazon нанимает тысячи людей по всему миру, которые ежедневно слушают фрагменты разговоров владельцев «умных» колонок Amazon Echo, оснащенных встроенным голосовым помощником Alexa, пишут «Ведомости». В своих маркетинговых материалах Amazon пишет, что Alexa «живет в облаке и постоянно становится умнее». Но, как и в случае со многими программными инструментами, частично этим обучением занимаются люди. «Вы не думаете, что другой человек слушает все, что вы в интимной обстановке дома говорите «умной» колонке. Мы привыкли считать, что машина занимается магическим машинным обучением. Но на самом деле в этом процессе до сих пор есть ручная составляющая», – сказал изданию профессор университета Мичигана Флориан Шауб, который занимался исследованием вопросов конфиденциальности при использовании «умных» колонок. 

Каждый день сотрудник за девятичасовую смену прослушивает около 1000 аудиосообщений, рассказали Bloomberg два сотрудника офиса Amazon в Бухаресте. Некоторые расшифровывают команды пользователей и комментируют их взаимодействие с помощником, кто-то должен находить в записях отдельные фразы.

Другие должны расшифровывать в том числе фоновые записи, даже если это разговоры детей на заднем фоне. Иногда сотрудникам попадаются приватные записи: например, нестройное пение в душе или крик ребенка о помощи. Отдельные записи могут свидетельствовать о преступлениях: двое сотрудников рассказывали, что слышали что-то похожее на сексуальное насилие. Если сотрудники слышат персональные данные, например, детали банковского счета, они помечают файл как содержащий «критические данные».

«Мы внимательно следим за безопасностью и конфиденциальностью персональной информации наших клиентов», – заявил изданию представитель Amazon. Компания разбирает «экстремально малое» количество аудиозаписей Alexa, чтобы улучшать пользовательский опыт. Эта информация помогает тренировать распознавание речи и понимание натурального языка, чтобы Alexa лучше понимала запросы пользователей.