Как ИИ может повысить и снизить безопасность бизнеса

Домашняя / Блог / Как ИИ может повысить и снизить безопасность бизнеса

22.01.2025 Автор: Мария Огнивчук

Искусственный интеллект — друг или враг бизнеса?

Киберугрозы и системы безопасности стремительно эволюционируют, и искусственный интеллект (ИИ) играет в этом важную роль. Особенно заметно его влияние в финансовом секторе, где счет потенциальных потерь от кибератак исчисляется миллиардами долларов. Не менее драматично выглядят угрозы физической безопасности, связанные с решениями, принимаемыми ИИ.

Искусственный интеллект превратился в технологию двойного назначения в мире кибербезопасности — то, что защищает одних, становится оружием в руках других. Например, в 2023 году система искусственного интеллекта Visa предотвратила 80 миллионов мошеннических транзакций на сумму 40 миллиардов долларов. В то же время на теневом рынке появились инструменты ИИ вроде ProKYC, способные создавать поддельные личности для обхода систем верификации.

Как поставщик сервисов и разработчик решений ИИ в сфере кибербезопасности, мы ежедневно наблюдаем эту технологическую дуэль между защитниками и злоумышленниками. Наш опыт показывает: побеждает тот, кто умнее использует технологии ИИ.

В предыдущей статье на эту тему мы детально разобрали риски при разработке и применении искусственного интеллекта, включая проблемы достоверности, конфиденциальности и целостности данных, а также правильности решений, принимаемых машиной. Также мы подробно рассмотрели методы обеспечения безопасности систем ИИ с самого начала их создания.

Теперь настало время взглянуть на вопросы безопасности и ИИ с точек зрения не только разработчиков систем ИИ, но и пользователей сервисов и решений на основе ИИ. Давайте узнаем, как ИИ становится щитом для современного бизнеса.

В этом материале мы рассмотрим конкретные примеры реальных киберинцидентов, связанных с ИИ, и покажем, как бизнес может минимизировать свои риски, делая ставку на продуманные подходы к информационной безопасности с использованием ИИ.

Двойная природа технологий

Современные технологии давно обладают двойной природой: они могут как усиливать защиту, так и становиться причиной новых рисков и инцидентов. Это проявлялось задолго до бурного развития ИИ в последние годы. Например, шифрование защищает конфиденциальные данные при передаче и хранении, снижая риск утечек, но злоумышленники также используют сильное шифрование и анонимизацию для сокрытия преступной деятельности, усложняя расследование инцидентов и киберпреступлений.

Другой пример, за счёт распределённого характера работы блокчейн повышает безопасность данных, обеспечивает их целостность и прозрачность транзакций, но снижает безопасность некоторых процессов из-за необратимости ошибочных транзакций, рисков потери ключей доступа, уязвимостей смарт-контрактов и другой специфики, присущей блокчейну.

Искусственный интеллект (ИИ) — яркий пример этого феномена. В руках экспертов ИИ способен повысить уровень безопасности компаний, предсказывая потенциальные атаки, анализируя большие объемы данных и выявляя аномалии. При неправильном использовании ИИ может применяться для автоматизации хакерских атак и других нежелательных действий. Однако снова, правильное внедрение средств защиты, в том числе, с использованием ИИ, позволяет эффективно противостоять таким попыткам. Рассмотрим основные грани двойственной природы ИИ в современном представлении.

ИИ как защитник бизнеса

Согласно отчёту Gartner «Hype Cycle for Artificial Intelligence 2024», ИИ усиливает безопасность бизнеса с помощью трёх ключевых механизмов:

Интеллектуальное обнаружение угроз. ИИ анализирует большие объёмы данных в реальном времени. Это позволяет выявлять аномалии и потенциальные угрозы значительно быстрее и точнее традиционных методов.
Автоматизация реагирования. Современные решения ИИ способны автоматически принимать защитные меры при обнаружении угроз. Это существенно снижает нагрузку на команды безопасности и ускоряет реакцию на инциденты.
Поведенческий анализ. Системы ИИ отслеживают и анализируют действия пользователей. Это помогает своевременно выявлять подозрительную активность и потенциальные инсайдерские угрозы.

Если посмотреть на эволюцию современных решений кибербезопасности, применение ИИ можно заметить в очень многих классах современных систем безопасности — от анализа файлов и трафика на предмет атак и вредоносов до управления облачными средами и реагирования на злонамеренные действия пользователей.

ИИ как источник угроз

В то же время Gartner указывает на серьезные риски, связанные с использованием ИИ:

Эволюция киберугроз. Злоумышленники применяют ИИ для создания более изощренных атак, включая генерацию убедительных фишинговых сообщений и автоматизацию процессов взлома.
Проблема ложных срабатываний. Некачественно спроектированные или неправильно настроенные системы ИИ могут генерировать слишком много ложные тревоги. Это приводит к нерациональному использованию ресурсов службы безопасности.
Этико-правовые вызовы. Использование ИИ поднимает серьезные вопросы конфиденциальности данных, возможной предвзятости алгоритмов и распределении ответственности за автоматически принятые решения.

Для того чтобы технологии работали на пользу, важно внедрять их с учетом кибербезопасности и регулярно оценивать их возможные риски. Бизнесу стоит инвестировать не только в развитие ИИ, но и в обучение сотрудников, разработку эффективных стратегий реагирования на инциденты и применение многоуровневых защитных решений. Обсудим это глубже.

Реальные киберинциденты с ИИ: анализ и влияние на бизнес

Рассмотрим подробно конкретные случаи, подчеркивающие важность безопасности ИИ и его влияние на бизнес.

ИИ — убийца (2018 год)

История развития искусственного интеллекта содержит примеры, демонстрирующие не только уязвимость передовых технологий, но и риски физической безопасности, которые вызываются этими технологиям. Особенно тревожны ситуации, когда сбои в работе систем ИИ приводят к серьезным последствиям для жизни и безопасности людей. В 2018 году произошел трагический инцидент с беспилотным автомобилем Uber: система искусственного интеллекта не смогла корректно идентифицировать пешехода, что привело к фатальному столкновению.

Риски для бизнеса: если ваш бизнес связан с автономным транспортом, IoT, IIoT, операционными технологиями и другими применениями компьютерных технологий в физическом мире, то внедрение технологий ИИ в ваши процессы или продукты — это вопрос времени. Соответственно, не ждите пассивно киберфизические инциденты, связанные с ИИ, а готовьтесь управлять этими рисками уже сейчас.

Мошенничество с использованием дипфейка голоса (2019 год)

В марте 2019 года генеральный директор британского подразделения энергетической компании получил звонок от лица, имитирующего голос его начальника с помощью технологии дипфейка. Злоумышленник убедил его перевести 200 000 фунтов стерлингов (около 243 000 долларов США) насчет якобы венгерского поставщика.

Этот случай был одним из первых инцидентов, получивших широкую известность и продемонстрировавших, как ИИ может быть использован для создания поддельных голосов в целях финансового мошенничества. Дальнейшее развитие технологий дипфейков показало, что в дополнение к подделке голоса мошенники с целью обмана своих жертв также эффективно используют поддельные видео, в том числе, в реальном времени.

Бизнес-риск: угрозы дипфейков заставляют пересмотреть процедуры аутентификации, которые ранее полагались на голосовые или видео-подтверждения. Крупная проблема может крыться в том, что не все такие процедуры описаны формально. В компаниях часто применяются неписанные процедуры и неформальные практики, связанные с различными личными просьбами или подтверждениями.

Взлом системы распознавания лиц Clearview AI (2020 год)

Компания Clearview AI, разработчик технологий распознавания лиц для правоохранительных органов и частных компаний, столкнулась с атакой, в ходе которой хакеры похитили данные клиентов и сотрудников. Учитывая, что биометрические данные уникальны, и их невозможно сменить, как пароль или номер телефона, утечка вызвала обеспокоенность общественности и обсуждения на международном уровне.

Последствия для бизнеса: инцидент привел к юридическим спорам и проверкам регулирующих органов. Потеря биометрических данных может сделать невозможным использование ряда сервисов, так как такие данные невозможно перегенерировать. Для бизнеса это сигнал о необходимости строгих мер защиты и дополнительных уровней шифрования биометрических данных.

Манипуляция системой рекомендаций YouTube (2020 год)

В 2020 году исследователи выяснили, что система рекомендаций YouTube подверглась манипуляциям: злоумышленники использовали ботов для искусственного повышения количества просмотров и взаимодействий с контентом. Это привело к распространению дезинформации и вредоносного контента, нанеся вред пользователям и вызвав критику в адрес платформы. Подобные манипуляции продемонстрировали уязвимость алгоритмов к накрутке метрик и подделке активности. Это усилило недоверие к системе рекомендаций и информационным платформам в целом.

Риски для бизнеса: манипуляции рейтингами и дезинформация могут нанести значительный ущерб репутации бренда. Например, продвижение ложной информации о компании способно спровоцировать падение акций или недоверие со стороны клиентов.

Утечка заголовков бесед ChatGPT (2023 год)

В марте 2023 года произошел инцидент с ChatGPT: пользователи заметили, что при открытии чата отображались заголовки чужих бесед. Это произошло из-за сбоя в библиотеке с открытым исходным кодом, используемой приложением. OpenAI быстро исправила проблему и внедрила меры для предотвращения повторения ошибок.

Влияние на бизнес: этот инцидент подчеркнул важность обеспечения безопасности данных в сервисах, основанных на искусственном интеллекте. Утечки подобного рода могут подорвать доверие пользователей, привести к юридическим последствиям и финансовым потерям. Согласно отчету IBM за 2024 год, средний ущерб компаний от утечки данных составил 4,88 миллиона долларов. Хотя точные финансовые потери OpenAI не были раскрыты, инцидент, вероятно, привел к дополнительным расходам на усиление мер безопасности, урегулирование возможных претензий и восстановление репутации. Подобные расходы часто включаются в сумму ущерба от инцидента.

Утечка историй бесед ChatGPT для macOS (2024 год)

В июле 2024 года пользователи обнаружили, что приложение ChatGPT для macOS хранило историю бесед на локальных устройствах в незашифрованном виде. Это означало, что любой человек с физическим доступом к устройству мог просмотреть содержимое разговоров, включая конфиденциальную информацию, такую как корпоративные данные или личные переговоры.

OpenAI оперативно отреагировала и выпустила обновление, внедрив шифрование локальных данных для устранения уязвимости. Однако инцидент напомнил о важности обеспечения безопасности приложений ИИ на уровне пользовательских устройств.

Вывод: для бизнеса этот случай подчеркивает необходимость регулярных аудитов и проверки настроек безопасности программного обеспечения ИИ. Внедрение инструментов мониторинга локальных накопителей и централизованного управления безопасностью приложений может предотвратить подобные инциденты.

Инцидент безопасности, связанный с ИИ, может стать не просто технологической проблемой, но и ударом по репутации компаний. Утечка конфиденциальной информации способна нанести непоправимый ущерб доверию клиентов и партнеров. Бизнесы, которые полагаются на ИИ, рискуют столкнуться с последствиями вроде падения продаж, разбирательств с регуляторами и даже ухода ключевых партнеров.

Конфиденциальность данных находится под особым прицелом, так как любая утечка информации может стать причиной серьезного скандала. Кроме того, нарушение достоверности и целостности данных усложняет принятие решений: бизнес-процессы начинают базироваться на искаженной или ложной информации.

Для снижения подобных рисков бизнес должен пересмотреть все свои процессы с точки зрения новых угроз и внедрить комплексные меры безопасности, включая защиту от внешних и внутренних угроз, а также от ошибочных решений ИИ.

Популярные способы улучшения безопасности бизнеса с помощью ИИ

Как мы упоминали выше, очень многие технологии, если не почти все, могут как повышать надёжность и безопасность бизнеса, так и снижать её. В предыдущей и текущей статьях мы уделили достаточно внимания рискам безопасности ИИ. Поэтому теперь перейдём к возможностям повышения надёжности и безопасности бизнеса, которые дарит нам ИИ.

Рассмотрим наиболее эффективные активно используемые современные методы повышения безопасности ИТ с помощью ИИ и приведем реальные примеры их успешного применения.

1. Обнаружение и блокировка вредоносного ПО: умные системы защиты

Одна из основных задач информационной безопасности (ИБ) — выявление и предотвращение проникновения вредоносного программного обеспечения (ПО). Современные системы защиты используют комбинацию сигнатурного анализа, поведенческого анализа и предиктивной аналитики на основе ИИ, часто интегрируясь с облачными системами безопасности.

ИИ значительно улучшил процесс обнаружения подобных угроз. Вместо анализа по шаблонам, алгоритмы машинного обучения (ML) выявляют аномальное поведение системы, которое может указывать на вредоносные действия.

Пример: компания Palo Alto Networks разработала платформу, способную выявлять новые типы атак благодаря анализу поведения файлов и сетевого трафика. В одном из кейсов эта система предотвратила атаку с использованием вируса, который маскировался под обычное обновление программы.

Другие компании, такие как Darktrace, применяют ИИ для создания «цифрового иммунитета» — модели, которая распознает аномалии на основе того, как должна функционировать «здоровая» система. Это позволяет блокировать угрозы еще до их активного проявления.

2. Оптимизация управления идентификацией и доступом

Сложные системы с множеством пользователей часто становятся уязвимыми из-за слабого контроля доступа и человеческого фактора. Забытые учетные записи, неправильные настройки прав доступа и использование одинаковых паролей сотрудниками — все это увеличивает риск утечки данных и взлома.

ИИ помогает создать многоуровневую систему управления доступом, анализируя пользовательские сессии и выявляя подозрительное поведение.

Кейс: Azure Active Directory от Microsoft применяет ИИ для мониторинга попыток входа. Если система обнаруживает подозрительную активность, например попытку входа из непривычного места или в необычное время, она блокирует доступ и уведомляет администратора. Благодаря этому ежедневно предотвращаются сотни миллионов атак по всему миру.

3. Автоматизация процессов реагирования на инциденты

В условиях кибератак каждая секунда может иметь значение. Быстрая реакция на инциденты позволяет минимизировать последствия и предотвратить распространение угрозы на другие системы. Однако без автоматизации многие компании теряют драгоценное время из-за ручных проверок и согласований.

Системы ИИ способны автоматически распознавать инцидент, изолировать инфицированный сегмент сети и активировать сценарии реагирования, не требуя вмешательства человека.

Пример: компания IBM использует решения на базе ИИ, которые позволяют сократить время обработки инцидентов на 75%. В одном из кейсов компания предотвратила массовую атаку на свои дата-центры благодаря автоматической блокировке подозрительного трафика и оповещению службы безопасности о необходимости детального анализа.

4. Интеграция генеративного ИИ в административные интерфейсы: улучшение прозрачности и аналитики

Генеративный ИИ в административных панелях безопасности позволяет анализировать огромное количество данных и представлять их в удобной и понятной форме для администраторов. Это помогает обнаруживать паттерны, которые могли бы остаться незамеченными при традиционном подходе.

Например, генеративные модели, такие как ChatGPT, могут предлагать администратору сценарии оптимизации политики безопасности на основе текущих данных и прошлых инцидентов. Вместо ручного поиска проблем система самостоятельно формулирует предложения и шаги для повышения безопасности.

Кейс: компания Splunk внедрила интеграцию с генеративными системами, которые предоставляют аналитические отчеты и дают рекомендации для быстрого устранения уязвимостей.

5. Приоритизация исправлений уязвимостей: умные решения для быстрого патчинга

В больших компаниях количество уязвимостей в системах может исчисляться тысячами, и далеко не каждую из них можно устранить мгновенно. Неправильная приоритизация может привести к тому, что действительно критическая уязвимость останется без внимания.

ИИ помогает определять, какие уязвимости представляют наибольший риск для бизнеса, и предлагает порядок их устранения. Системы приоритизации используют контекстные данные — например, вероятность эксплуатации уязвимости и ее влияние на ключевые функции компании.

История успеха: компания Qualys внедрила систему предиктивного анализа уязвимостей на базе ИИ. В результате время на оценку и устранение критических уязвимостей сократилось на 40%. Это снизило вероятность успешных атак на инфраструктуру компании.

6. Персонализированное обучение безопасности

Традиционные тренинги по ИБ часто оказываются малоэффективными, так как предоставляют сотрудникам общую информацию без учета их поведения и действий. ИИ позволяет создать индивидуальные программы обучения, анализируя компьютерные привычки и уровень знаний каждого сотрудника.

Примеры: платформы Immersive Labs и CybSafe используют алгоритмы, которые формируют сценарии обучения на основе того, как сотрудник взаимодействует с корпоративными системами. Если ИИ замечает, что пользователь склонен к открытию подозрительных писем или использует небезопасные сайты, ему предлагаются специальные тренинги по фишингу и распознаванию угроз.

Преимущество: персонализированный подход снижает вероятность ошибок сотрудников и превращает их из слабого звена в активную линию защиты.

7. Другие популярные способы и успешные кейсы

ИИ помогает выявлять действия сотрудников, которые могут угрожать безопасности, будь то несанкционированный доступ к данным, случайные или намеренные попытки обойти системы безопасности. Например, система Forcepoint применяет поведенческую аналитику, чтобы отслеживать необычную активность в корпоративной среде.

Для противодействия угрозам фишинга компании активно внедряют решения на основе ИИ. Например, компания Darktrace разработала систему ИИ, способную выявлять и блокировать фишинговые атаки в реальном времени, анализируя поведение пользователей и сетевой трафик.

Алгоритмы ИИ, способные анализировать сетевой трафик и выявлять вредоносную активность, используются для борьбы с ботами. Так, компания Cloudflare представила инструмент, основанный на ИИ, для защиты веб-сайтов от ботов, которые несанкционированно извлекают данные для обучения моделей искусственного интеллекта.

Применение ИИ в информационной безопасности открывает перед бизнесом широкие возможности для защиты данных и предотвращения кибератак. Компании, которые внедряют современные решения, способны быстро выявлять и блокировать угрозы, улучшать контроль доступа и автоматизировать процессы реагирования на инциденты. Однако важно понимать, что технологии ИИ не являются панацеей. Без комплексного подхода и постоянного мониторинга безопасности даже самые современные алгоритмы могут оказаться бессильными перед киберугрозами.

Перспективные пути улучшения информационной безопасности

Чтобы идти в ногу с прогрессом, компании должны не только использовать текущие технологии ИИ, но и внедрять инновационные подходы. Рассмотрим перспективные направления, которые способны укрепить ИБ и минимизировать риски в будущем.

Прогнозирование будущих атак

Одной из главных задач информационной безопасности является не просто реагирование на уже случившиеся инциденты, а предсказание потенциальных угроз. Традиционные системы фокусируются на обнаружении известных паттернов атак. Современный ИИ идет дальше: он создает предиктивные модели, анализирующие поведение злоумышленников и глобальные тренды. Это позволяет выявлять уязвимости до их эксплуатации.

Пример: платформа CrowdStrike использует продвинутые технологии предиктивного анализа. Система собирает данные о миллионах кибератак по всему миру, применяет алгоритмы машинного обучения для выявления скрытых закономерностей и создает динамические поведенческие сценарии. Это позволяет не только детектировать известные угрозы, но и предсказывать новые векторы атак. В одном из кейсов такая система помогла предотвратить масштабную фишинговую атаку, обнаружив её признаки ещё до начала массовой рассылки писем, основываясь на анализе подготовительных действий злоумышленников.

Будущее применения: следующим этапом развития станут “цифровые предсказатели”, способные не только выявлять общие тренды, но и предупреждать об угрозах с точностью до конкретных систем и направлений атаки, используя нейронные сети нового поколения.

Выявление слабых мест в средствах защиты кибербезопасности

Нередко компании уверены, что их системы полностью защищены, пока не происходит атака. Но системы ИИ могут помочь выявить слабые места до того, как ими воспользуются злоумышленники. Автоматизированные инструменты проводят симуляции атак и оценивают, как системы реагируют на них, чтобы определить «пробелы» в защите.

Пример: решение AttackIQ позволяет компаниям моделировать сценарии кибератак и тестировать свою инфраструктуру на устойчивость. Это помогает в реальном времени увидеть, где система уязвима, и устранить эти проблемы до появления реальных угроз. Этот анализ намного глубже сканирования уязвимостей. Примерно таким моделированием занимаются пентестеры и Red Team, только они делают это эпизодически, например, раз в год или квартал, а системы на базе ИИ могут тестировать безопасность компаний непрерывно и круглосуточно.

Самоадаптирующиеся системы безопасности

Самоадаптирующиеся системы — это один из самых перспективных шагов в развитии кибербезопасности. Такие системы способны анализировать угрозы и перестраивать свои алгоритмы защиты в режиме реального времени, адаптируясь к новым типам атак без вмешательства человека.

Пример: компания Darktrace разработала модель ИИ, которая не просто блокирует угрозы, но и сама «учится» на каждом инциденте, обновляя свою модель защиты. Такая система, заметив аномалию в поведении пользователей или сети, может мгновенно изменить политику доступа и заблокировать потенциальный вектор атаки.

Будущее: с развитием подобных систем компании смогут получать защиту, которая «эволюционирует» вместе с киберугрозами и минимизирует фактор устаревших правил безопасности.

Разработка методов квантовостойкого шифрования

С развитием квантовых компьютеров традиционные алгоритмы шифрования, такие как RSA и AES, могут стать уязвимыми. ИИ играет ключевую роль в разработке новых методов защиты, которые будут устойчивы к возможностям квантовых вычислений.

Факт: компании, такие как IBM и Google, уже активно тестируют квантовостойкие алгоритмы, используя ИИ для анализа их надежности и устойчивости к атакам.

В будущем это приведет к появлению шифрования, способного защитить данные даже при использовании квантовых вычислительных мощностей, которые смогут взламывать текущие алгоритмы за минуты.

Глобальное сотрудничество в области кибербезопасности

Сложность современных киберугроз требует скоординированных усилий со стороны компаний, правительств и поставщиков решений по ИБ. ИИ способен помочь в создании глобальных платформ обмена данными о кибератаках и методах защиты, чтобы оперативно внедрять решения по всему миру.

Пример: международная инициатива Cyber Threat Alliance объединяет компании по всему миру и использует ИИ для анализа и распространения информации о новых угрозах. Это позволяет предотвращать атаки еще до того, как они достигнут определенных регионов.

Другие перспективные направления

Некоторые другие перспективные направления применения ИИ в кибербезопасности:

Устранение ложноположительных срабатываний. Разработка систем ИИ, которые способны уменьшать количество ложных срабатываний и давать только обоснованные сигналы.
ИИ для защиты IoT-устройств. С ростом числа «умных» устройств ИИ помогает предотвращать атаки на подключенные к сети датчики, камеры и бытовую технику.
Этический аудит алгоритмов. Внедрение ИИ для контроля за тем, чтобы алгоритмы безопасности не принимали предвзятых решений и соответствовали стандартам справедливости и прозрачности.

Варианты применения ИИ в кибербезопасности не ограничиваются приведенными примерами. Работа специалиста по информационной безопасности включает много рутины, которая уже давно автоматизирована. Однако остаётся ещё довольно много интеллектуальной работы, которую нельзя автоматизировать традиционными средствами, но можно облегчить с помощью ИИ.

Итоговый взгляд на роль ИИ в кибербезопасности бизнеса и рекомендации

Использование ИИ в информационной безопасности открывает перед компаниями множество перспектив. ИИ может автоматизировать процессы, обеспечивать точное обнаружение угроз и даже прогнозировать потенциальные атаки. Однако полное доверие к технологиям без человеческого контроля может привести к неожиданным последствиям, таким как ошибки в моделях ИИ или принятие неверных решений при ложноположительных сигналах.

С каждым новым шагом развития технологий искусственного интеллекта возрастает необходимость нахождения баланса между возможностями ИИ и его потенциальными рисками. Как же бизнесу найти «золотую середину» и эффективно использовать ИИ без ущерба для безопасности?

Баланс возможностей и рисков

Для эффективного использования ИИ важно следовать трем ключевым принципам:

Интеграция ИИ с элементами человеческого контроля. Эффективность систем ИИ повышается при регулярном аудите и оценке, которые могут проводиться как внутренними специалистами, так и внешними экспертами, в зависимости от возможностей и потребностей организации.
Инвестиции в обучение сотрудников. Люди остаются важнейшим звеном кибербезопасности. Обучение работе с системами ИИ и сценариями реагирования на инциденты — важный шаг к снижению человеческого фактора.
Разработка стратегии внедрения ИИ. Прежде чем интегрировать ИИ в систему безопасности, важно провести всесторонний анализ рисков и разработать план, который учитывает технические и юридические аспекты защиты данных.