Технології

З’ясувалося, що підслуховують голосові помічники

Ok, Google

Дослідники з Рейнського університету в Бохумі та Інституту кібербезпеки і захисту приватності Товариства Макса Планка склали список слів, на які помилково включаються голосові помічники.

Коли голосовий помічник активується, він записує невеликий шматок мови і відправляє його виробнику для подальшої розшифровки та аналізу. Відповідно, якщо помічник запускається помилково, то виникає ризик небажаної витоку інформації. Німецькі дослідники вирішили точно з’ясувати, в яких випадках це може статися.

В експерименті брали участь голосові помічники від Amazon, Apple, Google, Microsoft, Deutsche Telekom, Xiaomi, Baidu і Tencent. Їм багато годин програвали різні аудіоматеріали англійською, німецькою та китайською мовами, в тому числі деякі серії “Ігри престолів», «Американської сімейки», “місця злочину” і випуски новин. Також використовувалися професійні записи, призначені для навчання помічників.

Читайте також:  Китай випробував свій перший багаторазовий космічний корабель

Кожен помічник був підключений до діода, що показує його активацію. Крім реакції на певні звуки відстежувався також і момент відправки даних через Інтернет.

В результаті був отриманий список з більш ніж 1000 звукових послідовностей, які помилково приводили до активації голосових помічників. Наприклад, в залежності від вимови Alexa реагувала на англійські слова «unacceptable» і «election», а Google на «OK, cool». У разі німецької мови помічник Amazon запускався при проголошенні поєднання “Am Sonntag”, а Siri — на слово “Daiquiri”.

Щоб зрозуміти, що саме призводило до запуску програм, автори дослідження розклали виявлені слова-тригери на мінімальні складові частини і ідентифікували ті з них, на які реагували помічники. Потім на цій основі були підібрані інші слова, які виробляли такий же ефект.

Читайте також:  Xiaomi розсекретила назву і дату анонса нового флагмана

“Помічники навмисно запрограмовані досить ліберально, щоб бути здатними розуміти людей. Вони включаються, скоріше, частіше, ніж потрібно, а не рідше”, – говорить Доротея Колоса з Рейнського університету.

В ході експерименту також з’ясувалося, як самі помічники і їх виробники обробляють помилкові запуски. Зазвичай цей процес складається з двох рівнів-спочатку сам помічник намагається визначити, чи містить мова слово-тригер, і якщо вважає, що так, то відправляє досить довгий шматок запису в хмару виробника для більш точного аналізу. Якщо Хмарний аналіз показує помилку, то помічник не запускається, а вся його активність проявляється тільки в короткому миготінні світлового сигналу.

Читайте також:  SteamDB розкрив рекомендовані Valve ціни на ігри

«З точки зору приватності це, звичайно, виглядає небезпечно, оскільки частина приватної розмови опиняється в чужих руках, – говорить Тростен Хольц, керівник кафедри системної безпеки в Рурському університеті. – Але з інженерної точки зору такий підхід зрозумілий, оскільки система може бути поліпшена тільки за допомогою цих даних. Виробник повинен, по суті, сідати на шпагат між захистом даних і технічною оптимізацією».

Залишити коментар