Генеративный искусственный интеллект прочно вошел в нашу жизнь. Мы используем его для подготовки текстов, написания кода, анализа данных, решения рабочих задач. Однако, как и любой мощный инструмент, ИИ может быть обращен и во вред. Хакеры уже активно применяют нейросети для повышения эффективности своих атак.
В этой статье специалисты Центра информационной безопасности рассказывают о реальных сценариях злоупотребления ИИ и, что важнее, о практических мерах защиты для каждого сотрудника.
— Мы видим, как генеративные модели меняют ландшафт киберугроз. То, что раньше требовало высокой квалификации и временных затрат, сегодня хакеры автоматизируют с помощью ИИ. Наша задача — не просто предупредить, а вооружить сотрудников алгоритмами защитного поведения. Технологии защиты тоже не стоят на месте, но основа безопасности по прежнему — бдительность и критическое мышление каждого из нас.
Как хакеры используют ИИ: основные сценарии
1. Фишинг нового поколения
Раньше фишинговые письма легко распознавались по ошибкам, неестественному языку и «левым» ссылкам. Теперь злоумышленники применяют ИИ для создания:- грамотных, стилистически выверенных текстов — без опечаток и нелепых фраз;
- персонализированных сообщений — нейросеть анализирует открытые профили в соцсетях и формирует обращение: «Иван, видели ваш пост про отпуск в Сочи — вот специальное предложение»;
- убедительных легенд — например, письмо от имени HR отдела о пересмотре зарплат с фишинговой ссылкой.
2. Создание и оптимизация вредоносного кода
ИИ позволяет даже неопытному злоумышленнику:- писать скрипты для взлома (на Python, PowerShell, VBA) без глубоких знаний программирования;
- обходить сигнатуры антивирусов — нейросеть предлагает варианты кода с изменённой логикой, сохраняющей вредоносный эффект;
- генерировать макросы для документов Word/Excel, которые запускают вредоносные действия при открытии файла.
3. Социальная инженерия и дипфейки
- Голосовые дипфейки — ИИ клонирует голос человека по короткому аудиофрагменту (например, из видео в открытом доступе). Злоумышленники звонят жертве от имени начальника или родственника и просят срочно перевести деньги.
- Видеодипфейки — создаётся поддельное видео с «руководством компании», дающим указания по финансовым операциям или разглашению данных.
- Чат-боты-мошенники — ИИ ассистент в мессенджере имитирует поддержку банка или сервиса, чтобы выудить логины, пароли или данные банковской карты.
4. Автоматизация разведки (OSINT)
Хакеры поручают ИИ:- собирать и структурировать информацию о компании или конкретном сотруднике из открытых источников (соцсети, форумы, базы утечек);
- анализировать эти данные для поиска уязвимостей — например, выявлять сотрудников, которые часто публикуют фото с рабочего места или рассказывают о внутренних процессах;
- составлять персонализированные списки целей для фишинга с готовыми сценариями атак.
5. Создание правдоподобного вредоносного контента
- Поддельные новости и дезинформация — массовая генерация статей или постов, провоцирующих панику, финансовые колебания или внутренние конфликты.
- Вредоносные обучающие материалы — например, PDF инструкция «Как настроить безопасный Wi Fi», которая на самом деле содержит скрытый вредоносный код или ссылку на загрузку трояна.
Как защититься: практические меры от Центра информационной безопасности
Для пользователей
1. Повышенная бдительность к «идеальным» сообщениямЕсли письмо или сообщение выглядят профессионально, но от неожиданного отправителя — это повод насторожиться. Всегда проверяйте:
- домен отправителя (фишинговый может отличаться на 1–2 символа, например, tacras.ru вместо tagras.ru);
- контекст — просят ли вас сделать что то срочно, нестандартно, перейти по ссылке или открыть вложение;
- реальный URL ссылки (наведите курсор, не кликая).
Даже если злоумышленник украдёт ваш пароль, без второго фактора он не получит доступ к системе.
3. Будьте осторожны с голосовыми и видеозвонками от «знакомых»
Если просьба звучит подозрительно (особенно о деньгах, переводах, конфиденциальных данных), перезвоните человеку по известному вам номеру и уточните.
4. Регулярно обновляйте ПО и антивирус
Современные защитные решения детектируют не только вредоносный код, но и поведенческие паттерны, характерные для атак с использованием ИИ.
5. Ограничьте публичность личных и рабочих данных в соцсетях и мессенджерах
Чем меньше информации о вас доступно в открытом доступе, тем сложнее хакерам создать убедительный фишинговый сценарий.
Общие рекомендации
- Критическое мышление — главный щит. Не доверяйте информации только потому, что она выглядит профессионально. Перепроверяйте источники, особенно если вас торопят или запугивают.
- Осторожно с ИИ инструментами. Никогда не вводите в чат боты конфиденциальные данные: пароли, номера карт, коммерческую тайну, внутренние документы.
- Следите за новостями кибербезопасности. Подпишитесь на официальные каналы регуляторов (например, НКЦКИ в РФ) и крупных вендоров (Kaspersky, Positive Technologies и др.).
ИИ — это палка о двух концах. Хакеры используют его для автоматизации и усиления атак, но те же технологии работают на стороне защиты. Современные системы информационной безопасности уже применяют ИИ для анализа сетевого трафика, выявления аномалий и блокировки угроз быстрее, чем это способен сделать человек.
Ключевое правило остается неизменным: безопасность — это процесс, а не разовое действие. Комбинируйте технические меры (2FA, обновления ПО, антивирус) с осознанностью, здравым смыслом и здоровой привычкой все перепроверять. Так вы значительно снизите риски даже в эпоху продвинутого генеративного ИИ.
Центр информационной безопасности всегда готов ответить на ваши вопросы и помочь с внедрением защитных мер.
