ИИ больше не считает ваш ПК — персональным

Современные ИИ-системы все чаще устанавливаются на персональные компьютеры (ПК) для ускорения рабочих процессов. Однако их автономность ставит под сомнение приватность пользователей.

К примеру, недавно Microsoft анонсировала новые функции для платформы Copilot Studio. Теперь там ИИ-агенты способны имитировать действия пользователей: они нажимают кнопки, заполняют формы и анализируют данные. По заявлению компании, «если человек может пользоваться приложением, то и ИИ-агент сможет». Однако подобная автономность ставит под вопрос само понятие «персонального» устройства.

Читайте также

Читайте также

Мы больше не ищем информацию — за нас это делает ИИ

Евгений Глинский

Интернет

Новые функции, такие как Copilot Vision и Analyst, демонстрируют двойственность технологий. С одной стороны, они упрощают обработку данных, прогнозируют спрос и визуализируют информацию. С другой — требуют доступа к конфиденциальным данным, включая корпоративные таблицы и веб-страницы. Интеграция с CRM-платформами (управляющими отношениями с клиентами — Customer Relationship Management), например, американскими Salesforce и ServiceNow или австралийской Confluence, усиливает риски утечек. Особенно при отсутствии прозрачности алгоритмов.

Однако основной момент, вызывающий беспокойство пользователей — границы контроля. ИИ-агенты действуют автономно, и пользователи не всегда понимают, как именно обрабатываются их данные. Так, функция Analyst (Аналитик) построена на модели рассуждений o3-mini от OpenAI. Она выполняет запросы, код которых скрыт от пользователя. Это создает риски ошибок и манипуляций. Еще одна проблема — согласие на сбор данных. ИИ-агент анализирует веб-страницы только с разрешения пользователя, но постоянный контроль действий легко может превратить его в инструмент слежки. Так вопрос приватности выходит на первый план.

К тому же ни Microsoft, ни другие компании не предлагают четких стандартов безопасности для ИИ, работающего с персональными данными. Пока компании соревнуются в создании «умных» функций, пользователи вынужденно доверяют обещаниям разработчиков. По мнению экспертов, рост производительности за счет помощи ИИ неизбежно ведет к снижению приватности.