AI-новости16 июля 2025 г., 16:50 МСК🤖 Auto

AI-суммы Gmail под ударом фишеров

<p> Исследователи выявили, что AI-подсказки Gmail можно обойти с помощью невидимого текста — и так разослать фишинговые инструкции прямо в итогах суммаризации.</p>

<div> <h2>Фишинг через AI-резюме Gmail: как это работает</h2> <p>Google активно внедряет Gemini во все свои продукты, и автосуммирование писем в Gmail кажется удобной фишкой. Но честно говоря, стоит ли доверять ей безоговорочно?</p> <p>Исследователи продемонстрировали, что достаточно спрятать часть текста в письме — сделать его белым на белом фоне — и система невольно выдаёт скрытые инструкции прямо в сводке. Заметили? Никаких ссылок и вложений: спам-датчики спят, а вы получаете мнимое уведомление о взломе учётки.</p> <p>В этом «идеальном» сценарии AI-сводка рекомендует позвонить по номеру для сброса пароля — и вот вы уже на связи с мошенниками. Удивительно, но факт: достаточно одного скрытого тега «Admin», чтоб Gemini процитировал текст слово в слово.</p> <p>Пока что это лишь proof-of-concept, и фишка доступна только пользователям Workspace. Но разве не тревожно, что подобную атаку можно развернуть в реальных условиях без лишнего кода?</p> <p>Однако есть и важный вопрос: готовы ли мы отдавать AI ключи от нашей переписки? Google, кажется, поймёт это совсем скоро и выпустит патч — и лучше бы это произошло до того, как «умный» ассистент начнёт рассылать неуместные советы.</p> </div>