Практически в каждом сегменте нашей жизни ИИ (искусственный интеллект) сейчас оказывает значительное влияние: он может лучше ставить медицинские диагнозы и проводить лечение; выявлять и снижать риск финансового мошенничества; улучшать управление запасами; и давать правильные рекомендации для просмотра фильмов в пятницу вечером. Однако можно также привести веские доводы в пользу того, что некоторые из наиболее значительных последствий ИИ связаны с кибербезопасностью.
Способность ИИ обучаться, адаптироваться и прогнозировать быстро меняющиеся угрозы сделала его незаменимым инструментом защиты бизнеса и правительств мира. От базовых приложений, таких как фильтрация спама, до продвинутой прогнозной аналитики и реагирования с помощью ИИ, ИИ играет важнейшую роль на передовой, защищая наши цифровые активы от киберпреступников.
Однако будущее ИИ в сфере кибербезопасности - это не все радуги и розы. Сегодня мы можем видеть первые признаки значительного сдвига, обусловленного демократизацией технологий ИИ. Хотя ИИ продолжает давать организациям возможность создавать более надежную защиту, он также предоставляет субъектам угрозы инструменты для проведения более изощренных и скрытных атак.
В этом блоге мы рассмотрим, как изменился ландшафт угроз, проследим эволюционирующую роль ИИ в киберзащите и рассмотрим последствия для защиты от атак будущего.
ИИ в кибербезопасности: первая волна (2000-2010)
Когда мы вступили в новое тысячелетие, начальные этапы цифровой трансформации начали влиять на нашу личную и профессиональную жизнь. В большинстве организаций работники умственного труда выполняли свою работу в жестко управляемых ИТ-средах, используя настольные компьютеры и ноутбуки, а также локальные центры обработки данных, которые составляли основу организационной ИТ-инфраструктуры.
Киберугрозы, получившие известность в это время, в первую очередь были направлены на то, чтобы посеять хаос и завоевать дурную славу. В начале 2000-х годов появились такие вредоносные программы, как ILOVEYOU, Melissa и MyDoom, которые распространились подобно лесному пожару и вызвали значительные глобальные сбои. По мере приближения к середине 2000-х годов соблазн финансовой выгоды привел к распространению фишинговых схем и финансовых вредоносных программ. Банковский троянец Zeus стал серьезной угрозой, незаметно крадущей банковские учетные данные ничего не подозревающих пользователей.
Организации в значительной степени полагались на базовые средства контроля безопасности, такие как антивирусное программное обеспечение на основе сигнатур и брандмауэры, пытаясь отразить действия злоумышленников и защитить цифровые активы. Концепция сетевой безопасности начала развиваться, и в арсенал кибербезопасности вошли усовершенствованные системы обнаружения вторжений. В настоящее время набирает обороты двухфакторная аутентификация (2FA), добавляющая дополнительный уровень безопасности для конфиденциальных систем и данных.
Именно тогда ИИ впервые начал проявлять значительную ценность для защитников. По мере роста объемов спама нежелательные — и часто вредоносные — электронные письма засоряли почтовые серверы и почтовые ящики, соблазняя пользователей схемами быстрого обогащения, незаконными фармацевтическими препаратами и подобными приманками, чтобы обманом вынудить их раскрыть ценную личную информацию. Хотя ИИ для многих все еще казался научной фантастикой, он оказался идеальным инструментом для быстрого выявления и карантина подозрительных сообщений с ранее невообразимой эффективностью, помогая значительно снизить риски и восстановить утраченную производительность. Несмотря на то, что ИИ находился в зачаточном состоянии, он продемонстрировал проблеск своего потенциала в оказании организациям помощи в защите от быстро меняющихся масштабных угроз.
ИИ в кибербезопасности: вторая волна (2010-2020)
По мере того, как мы вступали во второе десятилетие тысячелетия, структура ИТ-инфраструктуры существенно изменилась. Бурное распространение приложений SaaS (программное обеспечение как услуга), облачных вычислений, политик BYOD (принесите свое собственное устройство) и появление теневых ИТ сделали ИТ-ландшафт более динамичным, чем когда-либо. В то же время это создало постоянно расширяющуюся поверхность для изучения и использования злоумышленниками.
Участники угроз стали более изощренными, а их цели расширились; кража интеллектуальной собственности, саботаж инфраструктуры и атаки с целью монетизации в более крупных масштабах стали обычным явлением. Все больше организаций стало осознавать угрозы со стороны национальных государств, исходящие от хорошо финансируемых и очень изощренных противников. Это, в свою очередь, вызвало потребность в не менее изощренных средствах защиты, которые могли бы автономно обучаться достаточно быстро, чтобы оставаться на шаг впереди. Такие инциденты, как червь Stuxnet, нацеленный на иранские ядерные объекты, и разрушительные атаки на такие известные компании, как Target и Sony Pictures, приобрели дурную славу и подчеркнули растущие ставки.
В то же время в центре внимания оказалась уязвимость цепочек поставок, примером чего стала утечка данных SolarWinds, которая имела последствия для десятков тысяч организаций по всему миру. Возможно, наиболее примечательно, что участились атаки программ-вымогателей и wiper, а такие известные штаммы, как WannaCry и NotPetya, сеют хаос по всему миру. Несмотря на относительную простоту обнаружения, масштабы этих угроз требовали средств защиты, которые могли масштабироваться со скоростью и точностью до уровней, намного превосходящих возможности человека-аналитика.
За это время ИИ превратился в незаменимый инструмент для защитников. Возглавила атаку компания Cylance, основанная в 2012 году для замены устаревшего антивирусного программного обеспечения с тяжеловесными функциями на облегченные модели машинного обучения. Эти модели были обучены быстро и эффективно выявлять и останавливать быстро развивающееся вредоносное ПО. Роль ИИ в кибербезопасности продолжает расширяться, поскольку методы машинного обучения используются для обнаружения аномалий, выявления необычных моделей или поведения, указывающих на сложную атаку, и выполнения прогнозной аналитики для предвидения и предотвращения возможных направлений атак.
ИИ в кибербезопасности: третья волна (2020-настоящее время)
Сегодня вокруг использования ИИ в кибербезопасности происходят глубокие изменения. Повсеместное распространение удаленной работы в сочетании с гиперсвязанными и децентрализованными ИТ-системами размыло традиционный периметр безопасности. С ростом IoT (Интернета вещей) и подключенных устройств — от умных домов до умных автомобилей и целых городов — поверхность атак расширилась в геометрической прогрессии.
На этом фоне роль искусственного интеллекта превратилась из чисто защитного механизма в обоюдоострый меч, которым владеют и противники. В то время как коммерческие инструменты генерирования ИИ, такие как ChatGPT, пытались создать ограждения, препятствующие злоумышленникам использовать технологию в злонамеренных целях, появились инструменты состязательности, такие как WormGPT, которые восполняют пробел для злоумышленников.
Потенциальные примеры включают:
Заключение
Эволюционный путь кибербезопасности подчеркивает неустанную изобретательность субъектов угрозы и необходимость для защитников быть хорошо экипированными и информированными. По мере того, как мы переходим к фазе, когда ИИ служит и союзником, и потенциальным противником, история становится все более сложной и увлекательной.
Cylance® AI существует с самого начала, являясь пионером в области кибербезопасности, основанной на искусственном интеллекте, и признанным лидером на рынке. Заглядывая в будущее, мы в BlackBerry® постоянно расширяем границы нашей технологии искусственного интеллекта Cylance, чтобы узнать, что ждет нас впереди. Следите за нашим предстоящим блогом, где мы расскажем о том, как генеративный ИИ выходит на сцену в качестве мощного инструмента для защитников, предлагая новый подход к предвидению изощренных угроз завтрашнего дня и противодействию им.
Будущее сулит большие перспективы тем, кто готов принять участие в развитии кибербезопасности на базе искусственного интеллекта.
Чтобы похожие статьи и новости доставлялись прямо на ваш почтовый ящик, подпишитесь на блог BlackBerry.
Чтение по теме
Способность ИИ обучаться, адаптироваться и прогнозировать быстро меняющиеся угрозы сделала его незаменимым инструментом защиты бизнеса и правительств мира. От базовых приложений, таких как фильтрация спама, до продвинутой прогнозной аналитики и реагирования с помощью ИИ, ИИ играет важнейшую роль на передовой, защищая наши цифровые активы от киберпреступников.
Однако будущее ИИ в сфере кибербезопасности - это не все радуги и розы. Сегодня мы можем видеть первые признаки значительного сдвига, обусловленного демократизацией технологий ИИ. Хотя ИИ продолжает давать организациям возможность создавать более надежную защиту, он также предоставляет субъектам угрозы инструменты для проведения более изощренных и скрытных атак.
В этом блоге мы рассмотрим, как изменился ландшафт угроз, проследим эволюционирующую роль ИИ в киберзащите и рассмотрим последствия для защиты от атак будущего.
ИИ в кибербезопасности: первая волна (2000-2010)
Когда мы вступили в новое тысячелетие, начальные этапы цифровой трансформации начали влиять на нашу личную и профессиональную жизнь. В большинстве организаций работники умственного труда выполняли свою работу в жестко управляемых ИТ-средах, используя настольные компьютеры и ноутбуки, а также локальные центры обработки данных, которые составляли основу организационной ИТ-инфраструктуры.
Киберугрозы, получившие известность в это время, в первую очередь были направлены на то, чтобы посеять хаос и завоевать дурную славу. В начале 2000-х годов появились такие вредоносные программы, как ILOVEYOU, Melissa и MyDoom, которые распространились подобно лесному пожару и вызвали значительные глобальные сбои. По мере приближения к середине 2000-х годов соблазн финансовой выгоды привел к распространению фишинговых схем и финансовых вредоносных программ. Банковский троянец Zeus стал серьезной угрозой, незаметно крадущей банковские учетные данные ничего не подозревающих пользователей.
Организации в значительной степени полагались на базовые средства контроля безопасности, такие как антивирусное программное обеспечение на основе сигнатур и брандмауэры, пытаясь отразить действия злоумышленников и защитить цифровые активы. Концепция сетевой безопасности начала развиваться, и в арсенал кибербезопасности вошли усовершенствованные системы обнаружения вторжений. В настоящее время набирает обороты двухфакторная аутентификация (2FA), добавляющая дополнительный уровень безопасности для конфиденциальных систем и данных.
Именно тогда ИИ впервые начал проявлять значительную ценность для защитников. По мере роста объемов спама нежелательные — и часто вредоносные — электронные письма засоряли почтовые серверы и почтовые ящики, соблазняя пользователей схемами быстрого обогащения, незаконными фармацевтическими препаратами и подобными приманками, чтобы обманом вынудить их раскрыть ценную личную информацию. Хотя ИИ для многих все еще казался научной фантастикой, он оказался идеальным инструментом для быстрого выявления и карантина подозрительных сообщений с ранее невообразимой эффективностью, помогая значительно снизить риски и восстановить утраченную производительность. Несмотря на то, что ИИ находился в зачаточном состоянии, он продемонстрировал проблеск своего потенциала в оказании организациям помощи в защите от быстро меняющихся масштабных угроз.
ИИ в кибербезопасности: вторая волна (2010-2020)
По мере того, как мы вступали во второе десятилетие тысячелетия, структура ИТ-инфраструктуры существенно изменилась. Бурное распространение приложений SaaS (программное обеспечение как услуга), облачных вычислений, политик BYOD (принесите свое собственное устройство) и появление теневых ИТ сделали ИТ-ландшафт более динамичным, чем когда-либо. В то же время это создало постоянно расширяющуюся поверхность для изучения и использования злоумышленниками.
Участники угроз стали более изощренными, а их цели расширились; кража интеллектуальной собственности, саботаж инфраструктуры и атаки с целью монетизации в более крупных масштабах стали обычным явлением. Все больше организаций стало осознавать угрозы со стороны национальных государств, исходящие от хорошо финансируемых и очень изощренных противников. Это, в свою очередь, вызвало потребность в не менее изощренных средствах защиты, которые могли бы автономно обучаться достаточно быстро, чтобы оставаться на шаг впереди. Такие инциденты, как червь Stuxnet, нацеленный на иранские ядерные объекты, и разрушительные атаки на такие известные компании, как Target и Sony Pictures, приобрели дурную славу и подчеркнули растущие ставки.
В то же время в центре внимания оказалась уязвимость цепочек поставок, примером чего стала утечка данных SolarWinds, которая имела последствия для десятков тысяч организаций по всему миру. Возможно, наиболее примечательно, что участились атаки программ-вымогателей и wiper, а такие известные штаммы, как WannaCry и NotPetya, сеют хаос по всему миру. Несмотря на относительную простоту обнаружения, масштабы этих угроз требовали средств защиты, которые могли масштабироваться со скоростью и точностью до уровней, намного превосходящих возможности человека-аналитика.
За это время ИИ превратился в незаменимый инструмент для защитников. Возглавила атаку компания Cylance, основанная в 2012 году для замены устаревшего антивирусного программного обеспечения с тяжеловесными функциями на облегченные модели машинного обучения. Эти модели были обучены быстро и эффективно выявлять и останавливать быстро развивающееся вредоносное ПО. Роль ИИ в кибербезопасности продолжает расширяться, поскольку методы машинного обучения используются для обнаружения аномалий, выявления необычных моделей или поведения, указывающих на сложную атаку, и выполнения прогнозной аналитики для предвидения и предотвращения возможных направлений атак.
ИИ в кибербезопасности: третья волна (2020-настоящее время)
Сегодня вокруг использования ИИ в кибербезопасности происходят глубокие изменения. Повсеместное распространение удаленной работы в сочетании с гиперсвязанными и децентрализованными ИТ-системами размыло традиционный периметр безопасности. С ростом IoT (Интернета вещей) и подключенных устройств — от умных домов до умных автомобилей и целых городов — поверхность атак расширилась в геометрической прогрессии.
На этом фоне роль искусственного интеллекта превратилась из чисто защитного механизма в обоюдоострый меч, которым владеют и противники. В то время как коммерческие инструменты генерирования ИИ, такие как ChatGPT, пытались создать ограждения, препятствующие злоумышленникам использовать технологию в злонамеренных целях, появились инструменты состязательности, такие как WormGPT, которые восполняют пробел для злоумышленников.
Потенциальные примеры включают:
- Фишинговые кампании, созданные искусственным интеллектом: С помощью генерирующего искусственного интеллекта злоумышленники теперь могут создавать весьма убедительные фишинговые электронные письма, что делает идентификацию этих вводящих в заблуждение сообщений все более сложной. Недавние исследования также подтверждают, что генеративный ИИ может сэкономить злоумышленникам дни работы над каждой фишинговой кампанией, которую они создают.
- Идентификация целей с помощью искусственного интеллекта: Используя алгоритмы машинного обучения для анализа социальных сетей и других онлайн-данных, злоумышленники могут более эффективно выявлять важные цели и соответствующим образом настраивать атаки.
- Анализ поведения, основанный на искусственном интеллекте: Вредоносное ПО, управляемое искусственным интеллектом, может изучать типичное поведение пользователей или сети, позволяя проводить атаки или эксфильтрацию данных, которые не обнаруживаются за счет лучшей имитации обычной деятельности.
- Автоматическое сканирование уязвимостей: Разведывательные инструменты на базе искусственного интеллекта могут облегчить автономное сканирование сетей на наличие уязвимостей, автоматически выбирая наиболее эффективный эксплойт.
- Интеллектуальная сортировка данных: вместо массового копирования всех доступных данных ИИ может идентифицировать и отбирать наиболее ценную информацию для извлечения, что еще больше снижает шансы обнаружения.
- Социальная инженерия с помощью ИИ: Использование созданных ИИ поддельных аудио или видео в атаках vishing может убедительно выдавать себя за доверенных лиц, повышая доверие к атакам социальной инженерии, которые убеждают сотрудников раскрывать конфиденциальную информацию.
Заключение
Эволюционный путь кибербезопасности подчеркивает неустанную изобретательность субъектов угрозы и необходимость для защитников быть хорошо экипированными и информированными. По мере того, как мы переходим к фазе, когда ИИ служит и союзником, и потенциальным противником, история становится все более сложной и увлекательной.
Cylance® AI существует с самого начала, являясь пионером в области кибербезопасности, основанной на искусственном интеллекте, и признанным лидером на рынке. Заглядывая в будущее, мы в BlackBerry® постоянно расширяем границы нашей технологии искусственного интеллекта Cylance, чтобы узнать, что ждет нас впереди. Следите за нашим предстоящим блогом, где мы расскажем о том, как генеративный ИИ выходит на сцену в качестве мощного инструмента для защитников, предлагая новый подход к предвидению изощренных угроз завтрашнего дня и противодействию им.
Будущее сулит большие перспективы тем, кто готов принять участие в развитии кибербезопасности на базе искусственного интеллекта.
Чтобы похожие статьи и новости доставлялись прямо на ваш почтовый ящик, подпишитесь на блог BlackBerry.
Чтение по теме
- Прогнозирующий искусственный интеллект в кибербезопасности: что работает и как это понять
- Как снизить риск заражения программой-вымогателем LockBit по мере роста списка жертв
- Мнения клиентов: BlackBerry назвала выбор клиентов в 2023 году в качестве платформ защиты конечных точек в Gartner® Peer Insights ™
