Бесплатное обнаружение и платный уровень автоматизированного управления. Компания Wing Security объявила сегодня, что теперь она предлагает более тысячи SaaS-приложений с искусственным интеллектом и поддержкой AI. Это позволит компаниям лучше защищать свою интеллектуальную собственность (IP) и данные от растущих и эволюционирующих рисков, связанных с использованием AI.
Количество приложений SaaS, похоже, увеличивается с каждым днем, как и количество интегрированных в них возможностей AI. По данным Wing Security, компании по обеспечению безопасности SaaS, которая исследовала более 320 компаний, ошеломляющие 83,2% используют приложения GenAI. Хотя эта статистика, возможно, и не стала сюрпризом, исследование показало, что 99,7% организаций используют приложения SaaS, которые используют возможности AI для предоставления своих услуг. Такое использование GenAI в SaaS-приложениях, которые не являются "чистым" AI, часто остается незамеченным как службами безопасности, так и пользователями.
Прианализе сотен SaaS-приложений, использующих AI, Wing Security смогла классифицировать различные способы использования этими приложениями данных организации, а также предложить решение для этой новой угрозы:
Хранение данных: В некоторых случаях данные хранятся AI в течение очень длительных периодов времени; в других они могут храниться только в течение коротких периодов. Хранение данных позволяет моделям обучения AI и будущим моделям постоянно тренироваться на нем. Тем не менее, основная проблема возникает при рассмотрении множества различных типов атак, наблюдаемых в приложениях SaaS. Когда приложение скомпрометировано, данные, которые оно хранит, также могут быть скомпрометированы.
Обучение модели: Обрабатывая огромные объемы информации, системы искусственного интеллекта могут выявлять закономерности, тенденции и инсайты, которые могут ускользать от анализа человеком. С помощью алгоритмов машинного обучения модели AI извлекают уроки из данных и со временем адаптируются, повышая свою производительность и точность, что приводит к улучшению обслуживания конечных пользователей. С другой стороны, позволяя этим моделям изучать ваш код, патенты, ноу-хау в области продаж и маркетинга, приложения, использующие AI, потенциально могут повысить конкурентоспособность вашей организации. Для некоторых эти утечки знаний считаются более значительными, чем утечки данных
Человеческий фактор: Некоторые приложения с искусственным интеллектом используют проверку человеком для обеспечения точности и достоверности собираемых ими данных. Этот совместный подход, часто называемый "человек в цикле" или ИИ с участием человека, предполагает интеграцию человеческого опыта в алгоритмический процесс принятия решений. Это приводит к повышению точности модели AI, но также означает, что человек, работающий в приложении GenAI, получает доступ к потенциально конфиденциальным данным и ноу-хау.
Использование автоматизации для борьбы с рисками AI-SaaS
Недавно выпущенное решение Wing для искусственного интеллекта гарантирует, что службы безопасности будут лучше адаптироваться к постоянно растущему и практически неостановимому использованию искусственного интеллекта в своих организациях и контролировать его. Их решение состоит из трех основных шагов - Знать, оценивать, контролировать.
Знайте: Как и в случае со многими рисками безопасности, первым шагом является обнаружение их всех. В случае с AI недостаточно просто пометить "обычных подозреваемых" или приложения pure GenAI, такие как ChatGPT или Bard. Поскольку тысячи приложений SaaS в настоящее время используют искусственный интеллект для улучшения своих услуг, обнаружение должно включать любое приложение, использующее данные клиентов для улучшения своих моделей. Как и в случае со своими предыдущими решениями, Wing предлагает этот первый и фундаментальный шаг в качестве бесплатного решения для самообслуживания, позволяющего пользователям самостоятельно подключаться к интернету и начинать узнавать о масштабах приложений на базе AI, используемых их сотрудниками.
Оценка: После обнаружения SaaS, использующего AI, Wing автоматически предоставляет оценку безопасности и детализирует способы использования данных компании искусственным интеллектом: как долго они хранятся? Есть ли человеческий фактор? И, возможно, самое главное, настраивается ли он? Предоставляет подробное представление о пользователях приложения, разрешениях и информации о безопасности. Этот автоматический анализ позволяет командам безопасности принимать более обоснованные решения.
Контроль: обнаружение и анализ Wing выявляет наиболее важные проблемы, требующие решения, позволяя командам безопасности легко понять уровень риска и типы необходимых действий. Например, решает, следует ли разрешать использование определенного приложения или просто настраивать элементы AI, чтобы они лучше соответствовали их политике безопасности.
Секрет: автоматизация всего вышеперечисленного
Автоматизируя обнаружение, оценку и контроль, службы безопасности экономят время на определении того, на чем сосредоточить свои усилия, вместо того чтобы распыляться, пытаясь справиться с огромной и развивающейся областью атак. Впоследствии это значительно снижает риски.
Автоматизированные рабочие процессы Wing также обеспечивают уникальное межорганизационное решение: позволяя пользователям напрямую общаться с администратором приложения или пользователями, Wing предлагает более информированные решения в области безопасности наряду с более строгой культурой включения в систему безопасности, а не просто черный или белый список.
В эпоху, когда приложения SaaS распространены повсеместно, их интеграция с искусственным интеллектом ставит новые задачи. С одной стороны, использование AI стало отличным инструментом повышения производительности, и сотрудники должны иметь возможность использовать его для получения многочисленных преимуществ. С другой стороны, поскольку зависимость от AI в приложениях SaaS продолжает расти, потенциальные риски, связанные с использованием данных, становятся более выраженными.
Wing Security ответила на этот вызов, представив новый подход, направленный на расширение возможностей организаций ориентироваться и контролировать растущее использование AI в своих операциях, одновременно вовлекая конечных пользователей в цикл и гарантируя, что они могут безопасно использовать AI-SaaS, в которых они нуждаются. Их платформа автоматизированного управления обеспечивает всестороннее понимание того, как приложения AI используют организационные данные и ноу-хау, решая такие проблемы, как хранение данных, обучение модели и человеческий фактор в цикле AI. Службы безопасности могут экономить драгоценное время благодаря четкой расстановке приоритетов рисков и вовлечению пользователей.
Количество приложений SaaS, похоже, увеличивается с каждым днем, как и количество интегрированных в них возможностей AI. По данным Wing Security, компании по обеспечению безопасности SaaS, которая исследовала более 320 компаний, ошеломляющие 83,2% используют приложения GenAI. Хотя эта статистика, возможно, и не стала сюрпризом, исследование показало, что 99,7% организаций используют приложения SaaS, которые используют возможности AI для предоставления своих услуг. Такое использование GenAI в SaaS-приложениях, которые не являются "чистым" AI, часто остается незамеченным как службами безопасности, так и пользователями.
Прианализе сотен SaaS-приложений, использующих AI, Wing Security смогла классифицировать различные способы использования этими приложениями данных организации, а также предложить решение для этой новой угрозы:
Хранение данных: В некоторых случаях данные хранятся AI в течение очень длительных периодов времени; в других они могут храниться только в течение коротких периодов. Хранение данных позволяет моделям обучения AI и будущим моделям постоянно тренироваться на нем. Тем не менее, основная проблема возникает при рассмотрении множества различных типов атак, наблюдаемых в приложениях SaaS. Когда приложение скомпрометировано, данные, которые оно хранит, также могут быть скомпрометированы.
Обучение модели: Обрабатывая огромные объемы информации, системы искусственного интеллекта могут выявлять закономерности, тенденции и инсайты, которые могут ускользать от анализа человеком. С помощью алгоритмов машинного обучения модели AI извлекают уроки из данных и со временем адаптируются, повышая свою производительность и точность, что приводит к улучшению обслуживания конечных пользователей. С другой стороны, позволяя этим моделям изучать ваш код, патенты, ноу-хау в области продаж и маркетинга, приложения, использующие AI, потенциально могут повысить конкурентоспособность вашей организации. Для некоторых эти утечки знаний считаются более значительными, чем утечки данных
Человеческий фактор: Некоторые приложения с искусственным интеллектом используют проверку человеком для обеспечения точности и достоверности собираемых ими данных. Этот совместный подход, часто называемый "человек в цикле" или ИИ с участием человека, предполагает интеграцию человеческого опыта в алгоритмический процесс принятия решений. Это приводит к повышению точности модели AI, но также означает, что человек, работающий в приложении GenAI, получает доступ к потенциально конфиденциальным данным и ноу-хау.
Использование автоматизации для борьбы с рисками AI-SaaS
Недавно выпущенное решение Wing для искусственного интеллекта гарантирует, что службы безопасности будут лучше адаптироваться к постоянно растущему и практически неостановимому использованию искусственного интеллекта в своих организациях и контролировать его. Их решение состоит из трех основных шагов - Знать, оценивать, контролировать.
Знайте: Как и в случае со многими рисками безопасности, первым шагом является обнаружение их всех. В случае с AI недостаточно просто пометить "обычных подозреваемых" или приложения pure GenAI, такие как ChatGPT или Bard. Поскольку тысячи приложений SaaS в настоящее время используют искусственный интеллект для улучшения своих услуг, обнаружение должно включать любое приложение, использующее данные клиентов для улучшения своих моделей. Как и в случае со своими предыдущими решениями, Wing предлагает этот первый и фундаментальный шаг в качестве бесплатного решения для самообслуживания, позволяющего пользователям самостоятельно подключаться к интернету и начинать узнавать о масштабах приложений на базе AI, используемых их сотрудниками.
Оценка: После обнаружения SaaS, использующего AI, Wing автоматически предоставляет оценку безопасности и детализирует способы использования данных компании искусственным интеллектом: как долго они хранятся? Есть ли человеческий фактор? И, возможно, самое главное, настраивается ли он? Предоставляет подробное представление о пользователях приложения, разрешениях и информации о безопасности. Этот автоматический анализ позволяет командам безопасности принимать более обоснованные решения.
Контроль: обнаружение и анализ Wing выявляет наиболее важные проблемы, требующие решения, позволяя командам безопасности легко понять уровень риска и типы необходимых действий. Например, решает, следует ли разрешать использование определенного приложения или просто настраивать элементы AI, чтобы они лучше соответствовали их политике безопасности.
Секрет: автоматизация всего вышеперечисленного
Автоматизируя обнаружение, оценку и контроль, службы безопасности экономят время на определении того, на чем сосредоточить свои усилия, вместо того чтобы распыляться, пытаясь справиться с огромной и развивающейся областью атак. Впоследствии это значительно снижает риски.
Автоматизированные рабочие процессы Wing также обеспечивают уникальное межорганизационное решение: позволяя пользователям напрямую общаться с администратором приложения или пользователями, Wing предлагает более информированные решения в области безопасности наряду с более строгой культурой включения в систему безопасности, а не просто черный или белый список.
В эпоху, когда приложения SaaS распространены повсеместно, их интеграция с искусственным интеллектом ставит новые задачи. С одной стороны, использование AI стало отличным инструментом повышения производительности, и сотрудники должны иметь возможность использовать его для получения многочисленных преимуществ. С другой стороны, поскольку зависимость от AI в приложениях SaaS продолжает расти, потенциальные риски, связанные с использованием данных, становятся более выраженными.
Wing Security ответила на этот вызов, представив новый подход, направленный на расширение возможностей организаций ориентироваться и контролировать растущее использование AI в своих операциях, одновременно вовлекая конечных пользователей в цикл и гарантируя, что они могут безопасно использовать AI-SaaS, в которых они нуждаются. Их платформа автоматизированного управления обеспечивает всестороннее понимание того, как приложения AI используют организационные данные и ноу-хау, решая такие проблемы, как хранение данных, обучение модели и человеческий фактор в цикле AI. Службы безопасности могут экономить драгоценное время благодаря четкой расстановке приоритетов рисков и вовлечению пользователей.
