🤯 Какую опасность для бизнеса несут в себе внедрение и использование ИИ? Рассказали об этом в новом исследовании: https://vk.cc/cOg45G Наши эксперты проанализировали киберугрозы по трем ключевым направлениям развития искусственного интеллекта: агентский ИИ (agentic AI), ИИ на периферийных устройствах (edge AI) и квантовый ИИ (quantum AI). 🕴 Агентский ИИ Злоумышленники могут подменить данные в памяти и использовать инструменты агента или мультиагентной системы, построенных на больших языковых моделях, для получения доступа к конфиденциальной информации или критической инфраструктуре. Ложные входные данные и перегруз массой запросов потенциально приводят к нарушению бизнес-процессов или игнорированию политик безопасности. а внедрение вредоносного кода в фреймворки для разработки ИИ-агентов может повлиять на все связанные системы. 🏠 ИИ на периферийных устройствах Под угрозой — уязвимые умные устройства, например с небезопасно настроенными параметрами или с устаревшими компонентами. Передача данных по сети несет риск DDoS-атак, спуфинга и атак типа «человек посередине». Злоумышленники могут атаковать и саму модель ИИ, к примеру, подменив входные данные, и в результате способны получить доступ к чувствительной информации организации. 💎 Квантовый ИИ В ближайшем будущем большинство взаимодействий с квантовым ИИ будет происходить через облачных провайдеров. Используя уязвимости облачных платформ, злоумышленники могут похитить сведения об архитектуре модели, обучающие данные и другую интеллектуальную собственность. К критически опасным ошибкам могут приводить скрытые уязвимости, внедренные на этапе обучения моделей, а также искаженные входные данные. «Пока злоумышленникам, включая APT-группировки, проще получать доступ к корпоративным системам проверенными методами, чем создавать ИИ-агенты для взлома, проводить атаки на ИИ-модели или использовать дорогое квантовое оборудование. Но уже завтра картина может измениться, и бизнесу нужно учитывать эти риски», — отмечает Яна Авезова, ведущий аналитик направления аналитических исследований Positive Technologies. 🛡 Защита от угроз Наши эксперты считают, что внедрение ИИ требует комплексной оценки рисков. Недостаточно ограничиваться технической защитой модели — нужно контролировать стык технологий и бизнес-процессов через обучение сотрудников и стандартизацию рабочих процедур. Особое внимание стоит уделить защите данных: ограничить доступную ИИ информацию и внедрить механизмы контроля для предотвращения утечек конфиденциальных сведений. 👀 Больше о роли ИИ в бизнес-процессах и о возможных угрозах читайте в исследовании у нас на сайте: https://vk.cc/cOg45G #PositiveЭксперты #PositiveTechnologies