В новых данных, опубликованных сегодня, Darktrace показывает, что решения для обеспечения безопасности электронной почты, включая встроенные, облачные и «статические» инструменты искусственного интеллекта, проходят в среднем тринадцать дней с начала атаки на жертву до обнаружения этой атаки, оставляя защитников уязвимыми почти на две недели, если они полагаются исключительно на эти инструменты.
В марте 2023 года Darktrace заказала глобальный опрос с участием 6711 сотрудников в Великобритании, США, Франции, Германии, Австралии и Нидерландах, чтобы собрать сторонние данные о поведении людей в отношении электронной почты, чтобы лучше понять, как сотрудники реагируют во всем мире к потенциальным угрозам безопасности, их пониманием безопасности электронной почты и современными технологиями, которые используются в качестве инструмента для преобразования угроз против них.
- 82% сотрудников по всему миру обеспокоены тем, что хакеры могут использовать генеративный ИИ для создания мошеннических электронных писем, неотличимых от подлинного сообщения.
- Три основные характеристики общения, которые заставляют сотрудников думать, что электронное письмо является фишинговой атакой: приглашение щелкнуть ссылку или открыть вложение (68%), неизвестный отправитель или неожиданное содержание (61%), а также плохое использование орфографии и грамматики. (61%)
- Почти каждый третий (30%) сотрудников по всему миру попадался на мошенническую электронную почту или текстовое сообщение в прошлом.
- Семьдесят процентов сотрудников по всему миру заметили увеличение частоты мошеннических электронных писем и текстовых сообщений за последние 6 месяцев.
- Восемьдесят семь процентов сотрудников по всему миру обеспокоены объемом личной информации о них, доступной в Интернете, которая может быть использована для фишинга и других мошенничеств с электронной почтой.
- Более трети людей пробовали ChatGPT или другие чат-боты Gen AI (35%).
Ландшафт угроз электронной почты сегодня
Исследователи Darktrace наблюдали 135-процентное увеличение «новых атак социальной инженерии» среди тысяч активных клиентов Darktrace/электронной почты с января по февраль 2023 года, что соответствует широкому распространению ChatGPT.
В этих новых атаках с использованием социальной инженерии используются сложные лингвистические методы, в том числе увеличенный объем текста, пунктуация и длина предложения без ссылок или вложений.
Тенденция предполагает, что генеративный ИИ, такой как ChatGPT, предоставляет злоумышленникам возможность разрабатывать сложные и целенаправленные атаки с высокой скоростью и масштабом.
Кроме того, злоумышленники быстро используют цикл новостей, чтобы извлечь выгоду из страха, срочности или волнения сотрудников.
Последней итерацией этого является крах Silicon Valley Bank (SVB) и вызванный им банковский кризис, который предоставил злоумышленникам возможность подделывать чрезмерно конфиденциальные сообщения, например, пытаясь перехватить законные сообщения, в которых получателям предлагается обновить банковские реквизиты для платежной ведомости.
Семьдесят три процента сотрудников, работающих в организациях, предоставляющих финансовые услуги, заметили увеличение частоты мошеннических электронных писем и текстовых сообщений за последние шесть месяцев.
Невинная человеческая ошибка и внутренние угрозы остаются проблемой. Многие из нас (почти 2 из 5) отправили важное электронное письмо не тому получателю с похожим псевдонимом по ошибке или из-за автозаполнения.
Этот показатель превышает половину (51%) в сфере финансовых услуг и 41% в юридической сфере, добавляя еще один уровень риска безопасности, который не является вредоносным.
Самообучающаяся система может обнаружить эту ошибку до того, как конфиденциальная информация будет передана неправильно.
Что означает гонка вооружений для генеративного ИИ для безопасности электронной почты?
Ваш генеральный директор отправляет вам электронное письмо с запросом информации. Он написан именно тем языком и тем тоном, который они обычно используют.
Они даже ссылаются на личный анекдот или шутку.
Исследование Darktrace показывает, что 61% людей обращают внимание на неправильное использование орфографии и/или грамматики как на признак того, что электронное письмо является мошенническим, но это электронное письмо не содержит ошибок.
Орфография и грамматика идеальны, в нем есть личная информация, и он совершенно убедителен. Но ваш генеральный директор этого не писал. Он был создан с помощью генеративного ИИ с использованием базовой информации, которую киберпреступник извлек из профилей в социальных сетях.
Появление ChatGPT вывело ИИ в массовое сознание — 35% людей уже попробовали ChatGPT или другие чат-боты Gen AI для себя — и вместе с этим возникли реальные опасения по поводу его последствий для киберзащиты. 82% сотрудников по всему миру обеспокоены тем, что хакеры могут использовать генеративный ИИ для создания мошеннических электронных писем, неотличимых от настоящих сообщений.
Электронные письма от генеральных директоров или других руководителей высшего звена являются третьим по значимости типом электронных писем, с которыми сотрудники чаще всего взаимодействуют, с чем согласны более четверти респондентов (26%).
Защитники противостоят генеративным ИИ-атакам, которые являются лингвистически сложными и совершенно новыми мошенничествами, использующими методы и справочные темы, которые мы никогда раньше не видели.
В мире растущих атак с использованием ИИ мы больше не можем возлагать на людей ответственность за определение достоверности сообщений. Теперь это работа для искусственного интеллекта.
Понимая, что является нормальным, он может определить, что не относится к почтовому ящику конкретного человека. Системы безопасности электронной почты слишком часто ошибаются: 79% респондентов заявили, что фильтры спама/безопасности их компании неправильно предотвращают попадание важных законных электронных писем в их почтовый ящик.
Обладая глубоким пониманием организации и того, как люди в ней взаимодействуют со своими почтовыми ящиками, ИИ может определить для каждого письма, является ли оно подозрительным и следует ли принять меры, или оно является законным и должно оставаться нетронутым.
Такой подход может остановить такие угрозы, как:
- Фишинг
- Мошенничество с генеральным директором
- Компрометация деловой электронной почты (BEC)
- Мошенничество со счетами
- Фишинговые мошенничества
- Кража данных
- Социальная инженерия
- Программы-вымогатели и вредоносные программы
- Атака цепочки поставок:
- Целевой фишинг на основе URL
- Захват аккаунта
- Человеческая ошибка
- Программы-вымогатели и вредоносные программы
- Майкрософт
- Внутренняя угроза
Самообучающийся ИИ в электронной почте, в отличие от всех других инструментов безопасности электронной почты, не обучен тому, как выглядит «плохой», а вместо этого изучает вас и обычные модели жизни для каждой уникальной организации.
Социальная инженерия, в частности вредоносные кибер-кампании, рассылаемые по электронной почте, остается основным источником уязвимости организации для атак.
Безопасность электронной почты, ставшая популярной в 1990-х годах, уже почти три десятилетия бросает вызов киберзащитникам.
Цель состоит в том, чтобы заманить жертв к разглашению конфиденциальной информации посредством общения, которое использует доверие, шантаж или обещание вознаграждения, чтобы злоумышленники могли добраться до сути критически важных систем.
Социальная инженерия — прибыльный бизнес для хакеров: по оценкам, каждый день доставляется около 3,4 миллиарда фишинговых электронных писем.
Поскольку организации продолжают полагаться на электронную почту в качестве своего основного инструмента для совместной работы и общения, инструменты безопасности электронной почты, которые полагаются на знание прошлых угроз, не могут защитить организации и их сотрудников от развивающихся угроз электронной почты.
Широкая доступность генеративных инструментов искусственного интеллекта, таких как ChatGPT, а также растущая изощренность национальных субъектов означает, что мошенничество с электронной почтой стало более убедительным, чем когда-либо.
Люди больше не могут полагаться на свою интуицию, чтобы остановить хакеров; пришло время вооружить организации ИИ, который знает их лучше, чем злоумышленники.