Обновление Android: ИИ Google Bard будет читать все ваши сообщения

Интеграция Google Bard в Android-приложение «Сообщения» вызывает беспокойство. Готовый пользовательский интерфейс, похожий на ChatGPT, будет доступен для готовой базы пользователей в сотни миллионов человек.

Bard придет в Google Сообщения, чтобы "помочь вам писать сообщения, переводить языки, определять изображения и изучать интересы", – 9to5Google

Google Bard отмечает:

Это ИИ-ассистент может улучшить ваш опыт обмена сообщениями... от облегчения общения до повышения креативности и предоставления информации... Это будет ваш личный ИИ-ассистент в вашем приложении для обмена сообщениями.

Но Bard также будет анализировать приватное содержимое сообщений, «чтобы понять контекст ваших разговоров, ваш тон и ваши интересы». Он будет анализировать настроение ваших сообщений, «чтобы адаптировать свои ответы к вашему настроению», а также «проанализирует историю ваших сообщений с разными собеседниками, чтобы понять динамику ваших отношений и персонализировать ответы в зависимости от того, с кем вы общаетесь».

Это очередное поле битвы за конфиденциальность для владельцев смартфонов, которые еще привыкают к разрешениям приложений, меткам конфиденциальности и прозрачности отслеживания. Задача Google — убедить пользователей в том, что никакого ущерба для конфиденциальности данная интеграция не принесет.

Другой, менее спорный вопрос конфиденциальности будет связан с запросами ваших сообщений к Bard. Они будут отправлены в облако для обработки, использованы для обучения и, возможно, просмотрены человеком в обезличенном виде. Эти данные будут храниться 18 месяцев и сохранятся в течение нескольких дней, даже если вы отключите ИИ.

Такие запросы не подпадают под действие нового стандартного сквозного шифрования Google Messages — вы буквально переписываетесь с самой Google. Хотя это и не является предметом спора, об этом стоит помнить.Как и в случае со всеми генеративными чат-ботами с ИИ, включая ChatGPT, вы должны исходить из того, что все, о чем вы спрашиваете, не является конфиденциальным.

Однако, контент сообщений находится под защитой сквозного шифрования. Идеальным вариантом здесь будет обработка ИИ на устройстве, при этом данные никогда не покинут ваш телефон.

Именно здесь может развернуться борьба между Android и iPhone. Исторически сложилось так, что Apple гораздо сильнее анализирует данные на устройстве, чем Google, который по умолчанию обращается к облаку для анализа пользовательского контента.

Издание The FT сообщило:

Apple потихоньку наращивает свои возможности, чтобы привнести ИИ в следующее поколение iPhone. Цель Apple заключается в том, чтобы задействовать генеративный ИИ в мобильных устройствах, чтобы чат-боты и приложения с ИИ работали на собственном аппаратном и программном обеспечении телефона, а не на облачных сервисах в дата-центрах.

Последние данные о попытках Apple внедрить генеративный ИИ в iOS свидетельствуют о том, что намерение компании сохранить все на устройстве может оказаться не таким твердым, как ожидалось.

Код, обнаруженный 9to5Mac в новой бета-версии iOS 17.4, рисует картину происходящего. «Apple продолжает работать над новой версией Siri на основе технологии больших языковых моделей, с небольшой помощью из других источников».

Прошлой осенью Марк Гурман (Mark Gurman) из Bloomberg отмечал:

Apple в основном сидела в стороне, когда ChatGPT от OpenAI взлетал как ракета... Компания лишь наблюдала, как Google и Microsoft выпустили генеративные версии ИИ для своих поисковых систем... Единственным заслуживающим внимания релизом ИИ от Apple стала улучшенная система автокоррекции в iOS 17.

По данным 9to5Mac, одним из источников для Apple является ChatGPT:

Похоже, что Apple использует API ChatGPT от OpenAI для внутреннего тестирования, чтобы помочь в разработке собственных моделей ИИ.

Код iOS 17.4 указывает на то, что Apple тестирует четыре различные модели ИИ. В том числе две версии [внутренней модели Apple] AjaxGPT, включая ту, которая обрабатывается на устройстве, и ту, которая не обрабатывается.

Судя по всему, Apple проверяет результаты собственных моделей ИИ с ChatGPT, включает в них интерфейс iMessage, и все это происходит не на устройстве, а в облаке.

Проблема Apple заключается в том, что система Google подходит для более производительной архитектуры edge/cloud, которая позволяет использовать генеративный ИИ, такой как ChatGPT. Предполагалось, что анализ содержания сообщений будет осуществляться только на устройстве, но реальность такова, что миллионы пользователей будут добиваться новых функций и с радостью пожертвуют непрозрачными политиками конфиденциальности.

Будут существовать ограничения на обработку ИИ на устройстве и в облаке, которые будут обусловлены технологическим прогрессом, стоимостью оборудования, временем автономной работы, нагревом и общими операционными ограничениями.

Гурман отмечает:

iOS 18 рассматривается в компании как одно из крупнейших обновлений iOS, если не самое крупное, за всю историю компании. В Apple ведутся дебаты о том, как внедрять генеративный ИИ: полностью на устройстве, в облаке или какое-то компромиссное решение. Подход с устройством будет работать быстрее и поможет обеспечить конфиденциальность, но развертывание LLM Apple через облако позволит выполнять более сложные операции.

Это решение о том, где будет происходить обработка данных ИИ, может стать самым серьезным изменением в принципах конфиденциальности Apple. Apple полностью контролирует всю свою экосистему и поэтому вводить очень смелые изменения. Но это совершенно новый уровень сложности.

Когда Apple начнет внедрять ИИ в iMessage, то увидим волну критику от сторонников конфиденциальности. Горячая реакция на предложенный анализ CSAM показала, насколько спорной может стать ситуация, если Apple в той или иной форме повторит анализ контента Goolge Bard.

Примечательно, что Google Bard утверждает следующее:

Google заверила, что весь анализ Bard будет происходить на вашем устройстве, то есть ваши сообщения не будут отправляться на какие-либо серверы. Кроме того, вы будете иметь полный контроль над тем, какие данные анализирует Bard и как их использует.

Однако на практике может оказаться, что эти гарантии на устройстве будут сведены на нет. Будет иметь смысл обеспечить более бесшовный интерфейс между смартфоном и облаком. Анализ или фактический контент могут затеряться в общей массе. Компании нужно будет найти способ объяснить риски группе пользователей, жаждущих новизны.

Вы сами должны решить, достаточно ли вас успокоят полученные гарантии, чтобы позволить Bard свободно работать с вашим личным контентом.

И еще одно предостережение. Есть разница между тем, что нельзя сделать, например, взломать сквозное шифрование, и тем, что не делается, например, политикой в отношении того, где проводится анализ контента. Рекомендуем проявлять осторожность и не открывать свой контент слишком свободно, пока мы не увидим надлежащих гарантий.

Google Bard подтверждает это:

Хотя Google гарантирует анализ на устройстве, любые данные, к которым получает доступ Bard, технически собираются, даже временно. Возникает беспокойство по поводу возможных утечек, злоупотреблений или скрытой практики обмена данными. Масштабы анализа Bard и то, как он использует ваши данные, должны быть прозрачными. Пользователи заслуживают детального контроля над тем, какие данные анализируются, для каких целей и как долго они хранятся.

События этого года определят ландшафт развития на многие годы. Google и Apple рассматривают свои приложения для обмена сообщениями в качестве основного пользовательского интерфейса для возможностей генеративного ИИ, что позволяет предположить, что это действительно станет переломным моментом.

Интеграция генеративного ИИ в чат и обмен сообщениями навсегда изменит текстовые платформы, быстро откроет новый угол конкуренции между Google, Apple и Meta, чьи экосистемы и приложения для смартфонов управляют нашей жизнью.

Google Bard говорит:

Хотя точная дата пока неизвестна, все признаки указывают на то, что Bard появится в Google Messages где-то в 2024 году. Это может быть вопрос нескольких недель или месяцев, но это определенно произойдет

То, что мы увидели на данный момент, находится глубоко внутри бета-версии и может быть изменено до релиза.

Когда данные изменения будут выпущены, хорошо подумайте, прежде чем разблокировать настройки конфиденциальности сообщений.

Google Bard сообщает:

В конечном итоге, решение о том, использовать ли анализ сообщений, остается за вами. Тщательно взвесьте потенциальные преимущества и опасения по поводу конфиденциальности и сделайте осознанный выбор, исходя из своего уровня комфорта и ожиданий.

Анализ истории ваших сообщений —  не единственная тема для споров о конфиденциальности. Внедрение Bard компанией Google — это лишь часть перехода от поиска в браузере к направленному поиску, и вам придется все более внимательно относиться к качеству выдаваемых результатов. Bard — это не беседа с другом. Это интерфейс, предлагаемый самой мощной и ценной в мире «машиной» для рекламы и отслеживания.