Тренды фишинга

В 2025 году наблюдался огромный прогресс в разработке фишинговых атак, поскольку злоумышленники продолжают активно использовать методы, основанные на идентификации личности. Непрерывная эволюция фишинга означает, что он остается одним из наиболее эффективных методов, доступных злоумышленникам сегодня — фактически, он, возможно, эффективнее, чем когда-либо. Давайте подробнее рассмотрим ключевые тенденции, определившие фишинговые атаки в 2025 году, и что эти изменения означают для команд безопасности в 2026 году. - 2025’s Top Phishing Trends and What They Mean for Your Security Strategy

см. также другие публикации по теме фишинг

LLM и фишинг

Большие языковые модели (LLM) способны генерировать беглый и убедительный текст, что делает их ценными инструментами для коммуникации. Однако эта способность также делает их привлекательными для злонамеренных целей. Хотя ряд исследований показал, что LLM могут поддерживать общий фишинг, их потенциал для персонализированных атак в больших масштабах еще не был изучен и количественно оценен. В этом исследовании мы оцениваем эффективность целевого фишинга на основе LLM в эксперименте с участием 7700 человек. Используя целевые адреса электронной почты в качестве запросов, мы собираем личную информацию посредством веб-поиска и автоматически генерируем электронные письма, адаптированные для каждого участника. Наши результаты показывают тревожную ситуацию: целевой фишинг на основе LLM почти втрое увеличивает количество кликов по сравнению с общими стратегиями фишинга. Этот эффект сохраняется независимо от того, написаны ли общие электронные письма людьми или также сгенерированы LLM. Более того, стоимость персонализации минимальна и составляет приблизительно 0,03 доллара США за письмо. Учитывая, что фишинг по-прежнему является основным вектором атак на ИТ-инфраструктуры, мы приходим к выводу о наличии острой необходимости усиления существующих мер защиты, например, путем ограничения общедоступной информации, связанной с адресами электронной почты, и включения персонализированных методов борьбы с фишингом в программы повышения осведомленности. - A Large-Scale Study of Personalized Phishing using Large Language Models

См. также другие публикации, посвященные LLM

LLM для детектирования фишинга

Фишинг по электронной почте — один из наиболее распространенных и имеющих глобальные последствия векторов кибератак. Поскольку системы все чаще используют приложения на основе больших языковых моделей (LLM), они сталкиваются с развивающимися угрозами фишинговых писем, которые используют уязвимости их фундаментальной архитектуры. Современные LLM требуют существенного усиления защиты перед внедрением в системы безопасности электронной почты, особенно от скоординированных многовекторных атак, использующих архитектурные уязвимости. В данной статье предлагается LLMPEA — основанная на LLM структура для обнаружения фишинговых атак по электронной почте с использованием различных векторов атаки, включая внедрение подсказок, уточнение текста и многоязычные атаки. Мы оцениваем три передовые LLM (например, GPT-4o, Claude Sonnet 4 и Grok-3) и комплексную разработку подсказок, чтобы оценить их осуществимость, устойчивость и ограничения в отношении фишинговых атак по электронной почте. Наш эмпирический анализ показывает, что LLM-модели могут обнаруживать фишинговые электронные письма с точностью более 90%, при этом мы также отмечаем, что системы обнаружения фишинговых писем на основе LLM-моделей могут быть использованы злоумышленниками, внедрять подсказки и осуществлять многоязычные атаки. Наши результаты предоставляют важные сведения для обнаружения фишинга на основе LLM-моделей в реальных условиях, где злоумышленники используют множество уязвимостей в комбинации. - Phishing Email Detection Using Large Language Models

см. также другие публикации по теме фишинг

Смишинг

В последнее время во всем мире наблюдается всплеск SMS-фишинга, также известного как смишинг. Однако отсутствие обновленных наборов данных в открытом доступе затрудняет изучение этой глобальной проблемы исследователями. Операторы мобильной связи и государственные учреждения предоставляют пользователям специальные сервисы для сообщения о SMS-спаме. Хотя эти сервисы являются региональными, и пользователи в основном не осведомлены о них. Поэтому пользователи часто обращаются к публичным форумам, таким как Twitter или Reddit, чтобы сообщать о смишинге и обсуждать его. В данной статье представлен новый методологический подход к сбору обновленных данных о смишинге и оценке инфраструктуры, целей и стратегий, используемых злоумышленниками для заманивания жертв. Мы программно собираем сообщения пользователей о смишинге с пяти публичных форумов, собирая более 64,5% вложений изображений и отчетов, включая 28,6% идентификаторов отправителей и 25,9% URL-адресов, которые злоумышленники используют для проведения кампаний по смишингу на 66 языках. Мы раскрываем эксплуатируемую инфраструктуру, охватывающую операторов мобильной связи и домены. Мы классифицируем смишинг-тексты по семи типам мошенничества и объясняем, как преступники обманывают жертв, вынуждая их предоставить конфиденциальную/финансовую информацию. На примере исследования, основанного на измерениях в режиме реального времени на случайной выборке сообщений в Twitter, мы демонстрируем, как обнаружить вредоносное ПО для Android, распространяемое посредством смишинга. Мы предлагаем эффективные методы для предотвращения этого широко распространенного вида киберпреступности. - Fishing for Smishing: Understanding SMS Phishing Infrastructure and Strategies by Mining Public User Reports

Интересная работа. Важная тема, по которой не так-то просто собрать данные.

Удар автоматизацией по фишингу

В 2024 году рабочая группа по борьбе с фишингом выявила более миллиона фишинговых страниц. Фишеры достигают такого масштаба, используя фишинговые наборы — готовые к использованию фишинговые веб-сайты — для быстрого развертывания фишинговых кампаний с использованием специфических методов извлечения данных, уклонения от их обнаружения или мимикрии. В отличие от этого, исследователи и защитники прав потребителей продолжают бороться с фишингом на постраничной основе и полагаются на ручной анализ для распознавания статических признаков, при идентификации наборов. Цель данной статьи — помочь исследователям и аналитикам, автоматически дифференцируя группы фишинговых страниц на основе лежащего набора, автоматизируя ранее выполняемый вручную процесс и позволяя нам измерять популярность различных клиентских методов в этих группах. Для обнаружения наборов наша система обеспечивает точность 97% на основе набора данных из 548 семейств наборов, развернутых на 4562 фишинговых URL-адресах. На немаркированном наборе данных мы используем сложность JavaScript-логики 434 050 фишинговых страниц, чтобы сгруппировать их в 11 377 кластеров, аннотируя кластеры с указанием фишинговых техник, которые они используют. Мы обнаружили, что интерактивность пользовательского интерфейса и базовая идентификация являются универсальными методами, присутствующими в 90% и 80% кластеров соответственно. С другой стороны, обнаружение мыши с помощью интерфейса мыши браузера является одним из самых редких видов поведения, несмотря на то, что оно использовалось при развертывании 7-летнего открытого фишингового набора. Наши методы и результаты предоставляют исследователям и аналитикам новые способы борьбы с большим количеством фишинговых страниц. - Characterizing Phishing Pages by JavaScript Capabilities

см. также другие публикации по теме фишинг

Адаптивное определение фишинга

Неустанное развитие фишинговых методов приводит к значительным финансовым потерям, утечкам данных и репутационным потерям для отдельных лиц и организаций. Традиционные методы обнаружения сталкиваются с такими ограничениями, как неспособность адаптироваться к быстро меняющимся шаблонам атак и вычислительная неэффективность частых обновлений моделей. Для устранения этих ограничений мы предлагаем новую структуру, которая преследует следующие цели: разработать адаптивную структуру, интегрирующую динамический выбор признаков с методами онлайн-обучения, реализовать эффективные механизмы обнаружения дрейфа для мониторинга распределения признаков в реальном времени и подтвердить повышение производительности по сравнению с традиционными методами. Предлагаемый нами метод использует тесты Колмогорова-Смирнова для обнаружения дрейфа вместе с онлайн-стохастическим градиентным спуском для непрерывной оптимизации модели. Проверка с использованием фишинговых URL-адресов в реальном времени от PhishTank демонстрирует точность 99,85% с минимальным уровнем ложноположительных результатов 0,067%, что значительно превосходит традиционные подходы. - An Efficient Framework for Phishing URL Detection Using Adaptive Drift-Aware Feature Monitoring and Online Learning

см. также другие публикации по теме фишинг

Как предупреждать о фишинге

Фишинг стал заметным риском в современной кибербезопасности, часто используемым для обхода технологических защит, эксплуатируя предсказуемое поведение человека. Предупреждающие диалоги являются стандартной мерой снижения рисков, но отсутствие ясности объяснений и статичный контент ограничивают их эффективность. В данной статье мы сообщаем о нашем исследовании по оценке способности больших языковых моделей (LLM) генерировать понятные, лаконичные и масштабируемые объяснения предупреждений о фишинге. Мы провели масштабное межгрупповое исследование пользователей (N = 750), чтобы сравнить влияние предупреждающих диалогов, дополненных вручную сгенерированными объяснениями, с теми, которые генерируются двумя LLM, Claude 3.5 Sonnet и Llama 3.3 70B. Мы исследовали два стиля объяснений (основанный на признаках и контрфактуальный) на предмет их влияния на поведенческие показатели (кликабельность) и результаты восприятия (например, доверие, риск, ясность). Результаты показывают, что хорошо продуманные объяснения, сгенерированные LLM, могут сравниться или превзойти объяснения, созданные вручную, в снижении восприимчивости к фишингу; предупреждения, сгенерированные Claude, продемонстрировали особенно высокую эффективность. Объяснения, основанные на признаках, были более эффективны при реальных попытках фишинга, тогда как контрфактуальные объяснения снизили частоту ложноположительных срабатываний. Другие переменные, такие как рабочая нагрузка, пол и предыдущее знакомство с диалоговыми окнами предупреждений, значительно смягчали эффективность предупреждений. Эти результаты показывают, что LLM можно использовать для автоматического создания объяснений для предупреждения пользователей о фишинге, и что такие решения масштабируемы, адаптивны и соответствуют ценностям, ориентированным на человека. - Can Large Language Models Improve Phishing Defense? A Large-Scale Controlled Experiment on Warning Dialogue Explanations

См. также другие публикации по теме фишинг

INJOIT том 12, номер 7

Вышел седьмой номер журнала INJOIT в 2024 году. И двенадцатый год издания журнала.

Темы статей:

• Гибридные модели предиктивной аналитики в креативной индустрии
• Semantic Data Fragmentation for Identification of Covariant Conceptual Drift in Machine Learning Models
• Prod2Query: решение проблемы холодного старта продаж для электронной коммерции с помощью генеративного языкового моделирования
• Hybrid Naive Bayes TF-IDF Algorithm and Lexicon Approach for Sentiment Analysis of Reviews
• On the optimal scheme of the possible three predictors in discrete optimization problems using decision-making algorithms
• Метод Построения Модели Пространства Автономных Транспортных Средств
• Анализ LSTM и GRU моделей для построения прогнозов временных рядов
• О болезни Паркинсона и ее математических моделях
• Применение нейронных сетей для обнаружения аномального трафика в сетях Интернета вещей
• On the possibility of increasing the noise immunity of OFDM telecommunication systems using fractional Fourier transforms
• Оптимальное распределение вычислительных ресурсов для реализации сервисов цифровых валют центральных банков
• A Framework for Cloud Migration in Academic Institutions
• Метод полной интуиционистской нечеткой кластеризации C-средних
• Данные телеметрии как фактор минимизации экологических последствий лесозаготовок
• Biometric Based Recognition Systems - An Overview
• Анализ тенденций развития цифровых двойников нового поколения
• Toward Eradication of Phishing Attacks in E-government Systems
• Состязательные атаки для автономных транспортных средств

/via Лаборатория ОИТ

Архив журнала находится здесь.

ChatGPT в атаке

Некоторые ссылки, посвященные генерации или обработке вредоносного контента с помощью LLM. Собрано для новой магистратуры по Кибербезопасности

ChatGPT and Malware: Making Your Malicious Wishes Come True

WormGPT и FraudGPT

Пока не очень получается генерить вредоносное ПО, но фаззинг является перспективной идеей для LLM. Google обещает открыть детали

DarkBERT и DarkBARD - Google API и тренировка на всем даркнете.

PentestGPT - надстройка для ChatGPT, тесты проникновения
Deng, Gelei, et al. "PentestGPT: An LLM-empowered Automatic Penetration Testing Tool." arXiv preprint arXiv:2308.06782 (2023).

Beckerich, Mika, Laura Plein, and Sergio Coronado. "RatGPT: Turning online LLMs into Proxies for Malware Attacks." arXiv preprint arXiv:2308.09183 (2023).

Интересная презентация - Marcus Botacin. 2023. GPThreats-3: Is Automated Malware Generation a Threat? SlideShare.

Jennifer Fernick. 2023. On the malicious use of large language models like GPT-3. nccgroup.

A Survey on Large Language Model based Autonomous Agents. Агентам предстоит сыграть важную роль в автоматизации кибератак.

Malware researchers analyzed the application of Large Language Models (LLM) to malware automation investigating future abuse in autonomous threats. Executive Summar

Aaron Mulgrew. 2023. I built a Zero Day virus with undetectable exfiltration using only ChatGPT prompts.

Fábio Perez and Ian Ribeiro. 2022. Ignore Previous Prompt: Attack Techniques For Language Models. arxiv:2211.09527

OPWNAI: Cybercriminals Starting to Use ChatGPT. Check Point.

Sangfor Technologies. 2023. ChatGPT Malware: A New Threat in Cybersecurity.

Gradient Flow: Unleashing LLMs in Cybersecurity: A Playbook for All Industries

Awesome Large Language Model Tools for Cybersecurity Research

New LLM-based SOC tool to help automate security response

Hazell, Julian. "Large language models can be used to effectively scale spear phishing campaigns." arXiv preprint arXiv:2305.06972 (2023).

См. также другие публикации, посвященные LLM