Недавно пользователь Google Кевин Бэнкстон заметил необычное поведение искусственного интеллекта Google Gemini. Оказалось, что ИИ анализирует приватные PDF-документы пользователя в Google Диске, даже если пользователь не давал на это разрешения.
Как возникла проблема
Когда Бэнкстон открыл свою налоговую декларацию в Google Документах, Gemini внезапно создал для нее резюме, хотя пользователь не просил об этом. Похоже, что Gemini автоматически анализирует все личные документы пользователя в Google Диске.
В службе поддержки Google не смогли объяснить причину такого поведения. Бенкстон выдвинул теорию, что Gemini может сканировать любые файлы на Диске, а не только документы Google. При этом настройки конфиденциальности Gemini либо недоработаны, либо ИИ "галлюцинирует".
Как решена проблема
В конце концов Бэнкстон нашел соответствующий переключатель настроек Gemini. Но оказалось, что эти функции уже были отключены.
Проблема, вероятно, касается только Google Диска и возникает после нажатия кнопки Gemini в одном документе. Затем ИИ автоматически обрабатывает все файлы этого типа.
Что делать пользователям
Бэнкстон считает, что ошибка могла возникнуть из-за включения Google Workspace Labs, которая могла сбросить настройки Gemini. Поэтому пользователям стоит внимательно относиться к экспериментальным функциям Google.
Хотя компания уверяет, что Gemini работает конфиденциально, пользователям следует самостоятельно проверять настройки конфиденциальности ИИ и ограничивать доступ к личным данным. Ведь ошибки искусственного интеллекта могут привести к утечке важной информации.
