Apple Watch с ИИ: новые функции прослушивания вызывают вопросы о приватности

Компания Apple пытается приучить потребителей к новой реальности: ваша техника всегда слушает. На мероприятии «Surprise and Shine», где был представлен новый iPhone, главным сюрпризом оказались не складные смартфоны, а новые функции Apple Watch, позволяющие обрабатывать живое аудио и транскрибировать сказанное.

Означает ли это, что вас всегда записывают, если собеседник носит Apple Watch? Не совсем, хотя некоторых это может смутить. Возникает вопрос: действительно ли потребители хотят такую технологию, или Apple пошла на это из-за страха, что другая компания, например OpenAI, скоро представит собственное конкурентоспособное ИИ-устройство?

Сегодня многие стартапы верят, что транскрипция на основе ИИ — ключевой потребительский сценарий. Пока это чаще касается записи совещаний, лекций или интервью. Некоторые компании, например ИИ-кулон Friend и Amazon Bee, пошли дальше, предлагая постоянно доступных ИИ-компаньонов, которые пассивно записывают заметки в течение дня.

Apple выбрала иной путь. С функциями «audio intelligence», «Live Rewind» и «Siri Recap» в новых часах компания балансирует между доступностью и полезностью с одной стороны и технологией, которая начинает ощущаться как вторжение в личное пространство, с другой.

Сама по себе функция Audio Intelligence выглядит полезной для глухих и слабослышащих: она предупреждает владельца о сиренах, сигнализации, дверных звонках, плаче ребенка и других звуках с помощью ИИ на устройстве. Это работает даже без iPhone рядом и в некоторых случаях может спасти жизнь, например при срабатывании пожарной сигнализации или датчика угарного газа. Вряд ли кто-то будет против такого аудио-ИИ.

Источник изображения:Apple

Однако Live Rewind и Siri Recap выходят за рамки вспомогательных технологий и попадают в более мутную зону. Хотя защита данных Apple может сделать эти функции приемлемыми для некоторых, нормализация прослушивающих технологий может быть не лучшим шагом для компании, позиционирующей себя как защитника конфиденциальности. Особенно на фоне негативной реакции потребителей на технологии слежения, такие как камеры Flock, ИИ-дата-центры и ИИ-приложения.

Функция Live Rewind позволяет «отмотать» время на 15 секунд и получить транскрипцию сказанного двойным нажатием на цифровую коронку часов. Транскрипцию можно сохранить в новом приложении Siri, чтобы вернуться к ней позже.

Источник изображения:Apple

Apple предлагает использовать это для запоминания «рекомендации книги, блестящей идеи коллеги или того, что вы не расслышали с первого раза», но это также означает, что можно записать любого, кто сказал что-то, не предназначенное для записи, и сохранить это.

Это поднимает вопросы согласия — не только с этической, но и с юридической точки зрения. Например, производитель ИИ-устройств Plaud советует клиентам получать юридически необходимое согласие перед записью. Условия использования Amazon Bee напоминают пользователям, что именно они несут ответственность за соблюдение законов о конфиденциальности данных несовершеннолетних, а не Amazon.

Поскольку Apple не сохраняет аудио, неясно, как суды отнесутся к новым текстовым транскриптам. Возможно, заметки можно будет использовать в качестве доказательств, но отсутствие аудио может затруднить их проверку. Правила использования таких доказательств также будут различаться в зависимости от штата.

Помимо юридических проблем, сама идея постоянной записи с часов имеет культурные последствия. Исследования показывают, что записывающие устройства, социальные сети и культура наблюдения уже влияют на поведение людей в реальной жизни. Осознание того, что вас могут записать в любой момент, подавляет общение и самовыражение.

Источник изображения:Apple

Однако для фото или видео требуется очевидное действие: поднять телефон и направить его на объект. Запись аудио для транскрипции нажатием на коронку часов — гораздо более незаметный жест, даже несмотря на звуковой сигнал и анимацию микрофона на весь экран, как утверждает Apple.

Другая новая функция, «Siri Recap», использует фоновое прослушивание для «создания кратких заметок» о разговорах, которые можно просматривать в приложении Siri на iOS. Заметки автоматически получают заголовок, резюме и ключевые моменты на основе записанного и обобщенного ИИ. Это не дословные транскрипты.

Apple считает, что это может быть полезно для записи итогов встреч или ключевой информации с родительского собрания. Компания также попыталась заверить пользователей, что подошла к этим функциям с уважением к конфиденциальности. Siri Recap не включена по умолчанию, в отличие от некоторых других ИИ-носимых устройств. Пользователь сам решает, когда её включать, например, только на работе или только днём. Функцию можно отключить в любой момент из Пункта управления.

Примечательно, что Apple не создаёт и не хранит аудиозаписи, а само аудио недоступно даже для Apple. Компания не идентифицирует говорящих и защищает транскрипты и заметки сквозным шифрованием. Достаточно ли этого, чтобы пользователи не считали функцию жуткой, — вопрос открытый. Либо Apple нашла правильный баланс между полезностью и приватностью, либо столкнется с негативной реакцией потребителей.