Meta Muse имеет проблемы с конфиденциальностью данных пользователей

0
1

ИИ-агент Muse, разрабатываемый компанией Meta, продемонстрировал критические уязвимости в обработке личных данных, смешивая информацию разных пользователей и предоставляя несанкционированный доступ к конфиденциальным сведениям. Это было выявлено в ходе внутреннего тестирования продукта, как сообщает Reuters.

ИИ-агент Muse: Что стоит за новым стражем искусственного интеллекта?
ИИ-агент Muse. Источник: Meta

Проблемы с конфиденциальностью данных в Meta Muse

В ходе внутреннего тестирования сотрудники Meta получали от ИИ-агента Muse личную информацию, не имеющую отношения к их запросам. Среди некорректно выданных данных были советы по уходу за детьми, рекомендации по карьере, информация о заказах товаров и даже остатки на банковских счетах, принадлежащие другим лицам.

В одном из зафиксированных случаев ИИ-агент Muse, в ответ на запрос о погоде и приливах, неожиданно предоставил пользователю данные о балансах счетов в банках Capital One и Charles Schwab. В другом инциденте сотрудница получила от Muse на свой личный телефон напоминание ответить на сообщение сестры в Signal – мессенджере с сквозным шифрованием. Женщина подчеркнула, что не давала приложению Meta Muse доступа к другим сервисам и не помнит, чтобы её об этом спрашивали.

Реакция Meta на инциденты

Представитель Meta прокомментировал ситуацию изданию TechCrunch, заявив, что тестирование с участием сотрудников является стандартной частью процесса разработки продукта. По его словам, это позволяет компании собирать ценные отзывы и внедрять необходимые меры безопасности и защиты приватности. Он также уточнил, что сотрудники используют специализированные версии Meta Muse, которые отличаются от тех, что доступны обычным пользователям, и тестируют функционал, ещё не предназначенный для широкой аудитории.

НОВОСТИ ПАРТНЕРОВ

БОЛЬШЕ НОВОСТЕЙ