В последние месяцы усилились опасения относительно "цифровых помощников" - растущего рынка,
который может рассматриваться как новый рубеж в вычислительной технике.

Недавние инциденты, связанные с устройствами Google, Apple и Amazon, показывают,
что несмотря на быстрый рост рынка интеллектуальных голосовых устройств, требуются
дополнительные усилия, чтобы убедить потребителей в надежной защите их данных
при использовании этих технологий.

Apple на этой неделе заявил о приостановке программы "Siri grading", в рамках которой
прослушивались фрагменты различных разговоров для улучшения технологии распознавания голоса:
британская газета Guardian сообщила, что участники слышали конфиденциальную медицинскую информацию,
криминальные происшествия и даже сексуальные контакты.

Google заявил, что приостановит работу "помощника Google" по прослушиванию и расшифровке разговоров
на территории Евросоюза на фоне ведущегося расследования в Германии, связанного с нарушением конфиденциальности.

Amazon также признал, что использует наемный персонал в работах по развитию искусственного интеллекта устройств
на базе Alexa, и объявил о внедрении новой функции, облегчающей удаление всех записанных данных.

Все эти факты создают у потребителей впечатление, что кто-то "слушает" их разговоры, хотя это редко бывает правдой.

"С точки зрения технологии неудивительно, что эти компании используют людей для аннотирования данных,
потому что машина пока недостаточно хороша, чтобы понимать всё", - говорит Флориан Шауб, профессор
Мичиганского университета, специализирующийся на взаимодействии человека и компьютера, который провел
собственное исследование цифровых помощников. "Проблема в том, что люди этого не ожидают, и об этом открыто не говорится".

Каролина Миланези, технологический аналитик творческих стратегий, согласилась, что для улучшения технологии требуется участие людей:

"У пользователей есть несколько нереалистичное ожидание, что эти помощники просто по волшебству станут лучше,
что они могут обучаться и улучшаться самостоятельно, но мы все еще находимся в самом начале ИИ,
и человеческое вмешательство по-прежнему важно".

По данным исследовательской фирмы eMarketer, почти 112 миллионов человек - треть населения США -
заявляет о готовности использовать голосовой помощник по крайней мере ежемесячно на разных устройствах,
в том числе для поиска музыки или информации.

Опрос Microsoft потребителей в пяти странах показал, что 80 процентов позитивно оценили свой опыт работы
с цифровыми помощниками. Но 41% опрошенных заявили, что у них есть опасения по поводу конфиденциальности,
доверия и пассивного прослушивания.

Некоторые опасения относительно конфиденциальности при использовании смарт-динамиков основаны
на ложных предположениях. Устройства не записывают и не передают информацию, пока не будут "активированы"
с помощью ключевого слова или фразы, такой как "Hey, Siri" или "Alexa".

"Но всегда есть риск ложной активации", - отметил Шауб. "Вам придется верить устройству и производящей его компании,
что микрофон работает только на прием, пока не будет произнесено слово активации".

Райан Кало, директор "Tech Policy Lab" Университета Вашингтона, говорит об опасениях по поводу доступа к разговорам:
"Если сотрудники слышат вещи, к которым они не должны иметь доступа, это действительно "красный сигнал",
это плохая практика".

Р.Кало утверждает, что проблемы конфиденциальности при использовании цифровых помощников будут увеличиваться,
поскольку устройства расширяют свои возможности:
"Я беспокоюсь о тенденции, когда эти системы будут слышать и воспринимать не только ваши команды:
они могут начать реагировать на звук разбитого стекла, или признаки беды, или плач ребенка.
Внезапно окажется, что система прослушивает всё, а лягушка сварилась постепенно".

Кало также выразил обеспокоенность тем, что устройства могут быть включены удаленно,
что представляет потенциальную угрозу для гражданских свобод.

"Если правоохранительные органы получат ордер, ваше Echo превратится в подслушивающее устройство".
Ф.Шауб утверждает, что потребителей также беспокоит использование данных с их устройств для таргетинга рекламы.
"Люди хотят преимуществ, но не позволяют использовать их данные против них".

Siri вызывают на допрос

МВД Германии добивается доступа к информации «умных» цифровых устройств и голосовых помощников

"Коммерсантъ" от 06.06.2019

Власти Германии хотят, чтобы полиция и спецслужбы страны имели доступ к информации,
хранящейся на «умных» цифровых устройствах граждан и в голосовых помощниках,
таких как Amazon Alexa, Apple Siri, Google Assistant.

Противники этой инициативы уверены, что она неконституционна и представляет собой
масштабное вмешательство в личную жизнь граждан.

На следующей неделе министры внутренних дел германских федеральных земель обсудят
на конференции вопрос возможного использования так называемых «цифровых следов»,
то есть информации, хранящейся на цифровых устройствах и в голосовых помощниках граждан,
для повышения эффективности борьбы с терроризмом и преступностью.

С инициативой предоставления правоохранительным органам и спецслужбам Германии доступа
к такой информации выступил глава МВД земли Шлезвиг-Гольштейн Ханс-Йоахим Гроте.
Как заявили Financial Times в МВД ФРГ, важность «цифровых следов» все время растет,
а юридической базы для их использования пока нет. Поэтому на конференции будет представлен
законопроект, обеспечивающий такую базу.

Как считают сторонники инициативы, полиция и спецслужбы в расследованиях могли бы использовать
данные какого-нибудь «умного» устройства, будь то холодильник, обогреватель, автомобиль
или голосовой помощник, которые подтвердили бы, например, факт пребывания конкретного человека
в конкретное время в конкретном месте.

Некоторые устройства хранят в том числе записи разговоров. Собранные данные можно было бы использовать
в качестве доказательств в суде. И конечно, для получения доступа к такой информации спецслужбам
и правоохранительным органам необходимо будет получить разрешение суда.

Федеральное Министерство внутренних дел Германии поддерживает эту инициативу:
«Очень важно, чтобы федеральные и региональные службы безопасности в целях борьбы с преступностью
имели право использовать данные, хранящиеся на этих устройствах».
Между тем многие эксперты и чиновники считают недопустимым такое вмешательство в личную жизнь граждан
даже ради борьбы с терроризмом и преступностью.

https://www.kommersant.ru/doc/3992709