🤖 Искусственный интеллект не только идеальный помощник, но и прекрасный сообщник для хакеров В новом исследовании наши коллеги проанализировали, в каких кибератаках и для чего злоумышленники уже применяют ИИ, а также рассказали о его пока не реализованном потенциале: https://vk.cc/cFqMPe ❗ Сегодня такие технологии задействованы в 5% всех техник MITRE ATT&CK, еще для 17% доказана возможность использования искусственного интеллекта. По прогнозу экспертов Positive Technologies, киберпреступники смогут найти ИИ применение во всех тактиках из базы MITRE ATT&CK, а также в 59% техник. Что умеет ИИ Разработчики больших языковых моделей (LLM) закладывают в них правила, не дающие создавать вредоносный контент (например, писать фишинговые тексты или код для ВПО), но хакеры научились обходить эту защиту. Обращение к LLM помогает начинающим киберпреступникам, не имеющим специальных навыков и ресурсов, найти слабые места в плане проведения атаки, ускорить подготовку к ней и упростить реализацию. А для более опытных такие помощники пишут скрипты и даже частично автоматизируют атаки. Подробные и очень интересные примеры применения ИИ ищите в исследовании. А тут — коротко о том, что он может делать как помощник киберзлодеев 😈: • Собирать данные о жертве из открытых источников и составлять ее профиль. Искать и эксплуатировать простые уязвимости. • Массово генерировать фишинговые сообщения и контент для сайтов. • Создавать аудио- и видеодипфейки. • Автоматизированно поддерживать диалог. • Писать и модифицировать вредоносный код. 😨 Стоит ли бояться «Высокий потенциал искусственного интеллекта в кибератаках не повод для паники, — комментирует ситуацию аналитик исследовательской группы департамента аналитики Positive Technologies Роман Резников. — Нужно реалистично смотреть в будущее, изучать возможности новых технологий и системно заниматься обеспечением результативной кибербезопасности. Логичная контрмера атакующему ИИ — более эффективный ИИ в защите, который поможет преодолеть нехватку специалистов по кибербезопасности через автоматизацию многих процессов». Что будет дальше В ближайшем будущем аналитики ожидают появления отдельных модулей ИИ (какие есть в ряде инструментов ИБ) для решения конкретных задач в уже известных сценариях атак. С течением времени они будут объединяться в кластеры, позволяющие автоматизировать большую часть шагов атаки. Следующая цель после автоматизации — расширение «полномочий» искусственного интеллекта на самостоятельный поиск жертв. 💬 Хотите поговорить об этом? Ждем вас в 11:00 4 декабря на вебинаре, где можно будет подробнее узнать, какими функциями LLM пользуются злоумышленники, как успешно противостоять таким атакам, и задать вопросы нашим аналитикам. Регистрируйтесь заранее — и до встречи: https://vk.cc/cFqO2H #PositiveЭксперты #PositiveTechnologies