Showing posts sorted by date for query Фишинг. Sort by relevance Show all posts
Showing posts sorted by date for query Фишинг. Sort by relevance Show all posts

Thursday, July 09, 2026

Совместная оценка вопросов и ответов LLM

Большие языковые модели (БЛМ) все чаще используются в интерактивных приложениях, однако они остаются уязвимыми для враждебных взаимодействий, которые приводят к вредоносным, обманным или нарушающим правила вывода. Существующие средства защиты обычно анализируют либо пользовательские запросы, либо сгенерированные результаты, но не то и другое одновременно. Однако многие реальные атаки используют разделение между враждебным намерением, выраженным в запросе, и причиняемым вредом, проявляющимся только в ответе. В результате, средства защиты, основанные только на запросе и только на ответе, часто упускают из виду небезопасные взаимодействия, которые кажутся безобидными при рассмотрении с любой стороны по отдельности. Мы представляем структуру защиты, ориентированную на верификацию, которая совместно оценивает намерение запроса и вред, причиняемый ответом, до того, как БЛМ-ответ будет доставлен пользователю. В этой структуре используются специализированные аналитики для оценки намерения и вреда, а также судья для разрешения конфликтов. Мы формализуем модель угроз для атак типа «запрос-ответ» и оцениваем структуру в рамках пяти категорий угроз: взлом системы, внедрение запроса, фишинг, киберзлоупотребления и вредоносный контент. Эксперименты на нескольких эталонных наборах данных показывают, что совместная проверка намерения запроса и вреда от ответа неизменно превосходит односторонние методы защиты и базовые модели на основе рассуждений одного агента. В рамках категорий угроз структура улучшает средний показатель F1 с 0,9 для наиболее сильных применимых базовых моделей до 0,95, одновременно снижая средний процент успешных атак до 4,1%. По сравнению с базовой моделью SingleAgent+CoT, она улучшает средний показатель F1 с 0,87 до 0,95 и снижает частоту ложных срабатываний на безобидных запросах с высокой чувствительностью с 0,12 до 0,06. Мы также оцениваем архитектурно-ориентированные адаптивные атаки, в которых злоумышленник знает структуру верификатора и пытается обойти отдельные компоненты проверки. Наши результаты показывают, что проверка оперативного реагирования обеспечивает практическую основу для защиты приложений LLM от развивающихся угроз со стороны враждебных структур. - Verifying Intent and Harm: A Unified Defense Against LLM-Generated Threats

См. также другие публикации, посвященные LLM

Monday, April 06, 2026

Осведомленность о фишинге

Фишинг уже в течение довольно длительного времени остается одной из самых опасных кибератак. Будучи технически простым подходом в реализации для атакующих, будучи довольно хорошо распознаваемым инструментальными средствами, обладая явно распознаваемыми признаками, этот способ атаки все равно остается работающим. Причина – это пользователи, которые продолжают переходить по подготовленным вредоносным ссылкам. Именно люди оказываются слабым звеном, которое и обеспечивает успех фишинга. Отсюда большое внимание, которое уделяется в мире образованию (уведомлению) пользователей об опасности и характерных признаках фишинга. В настоящей статье мы хотим остановиться на существующих в мире программах обучения противодействия фишингу. Такие программы существуют на разных уровнях: национальных, академических, в частных компаниях. Основа таких тренировок – это определение учащимися фишинговых сообщений среди реальных текстов (почтовых сообщений). Особый интерес представляет собой шкала фишинга от NIST, которая позволяет оценивать сложность таких тренировочных примеров. - Осведомленность о фишинге - статья в журнале Современные информационные технологии и ИТ-образование

Tuesday, February 24, 2026

Теневые агенты

Google опубликовал отчет Кибербезопасность 2026

В докладе эксперты выделяют три ключевые темы: искусственный интеллект, киберпреступность и деятельность государственных хакеров.

ИИ на стороне злоумышленников становится обыденностью. Хакеры активно применяют его для ускорения атак, генерации вредоносного кода и проведения информационных кампаний. Особое внимание уделяется переходу к ИИ-агентам, способным автономно выполнять целые цепочки атак.

Инъекции подсказок (Prompt injection) — одна из главных новых угроз. Google прогнозирует резкий рост числа таких атак на корпоративные системы, работающие на базе искусственного интеллекта.

Отдельная масштабная проблема — социальная инженерия с использованием ИИ. Массовым явлением станет голосовой фишинг с имитацией голосов руководителей или сотрудников IT-отдела.

«Агентный сдвиг» в безопасности: ИИ-агенты фундаментально меняют архитектуру защиты. Google предвидит появление нового направления — «агентного управления идентификацией» (agentic identity management), где каждый агент будет обладать собственной цифровой личностью с минимальными привилегиями и временным доступом.

«Теневые агенты» (Shadow Agent) — скрытая внутренняя угроза. Сотрудники начнут самостоятельно разворачивать ИИ-агентов для выполнения рабочих задач в обход корпоративных политик. Это приведет к появлению неконтролируемых потоков конфиденциальных данных. Запреты в данном случае бесполезны — они лишь заставят пользователей уйти в тень. Решение проблемы — создание управляемой ИИ-инфраструктуры с полноценным аудитом.

Friday, February 20, 2026

Тренды фишинга

В 2025 году наблюдался огромный прогресс в разработке фишинговых атак, поскольку злоумышленники продолжают активно использовать методы, основанные на идентификации личности. Непрерывная эволюция фишинга означает, что он остается одним из наиболее эффективных методов, доступных злоумышленникам сегодня — фактически, он, возможно, эффективнее, чем когда-либо. Давайте подробнее рассмотрим ключевые тенденции, определившие фишинговые атаки в 2025 году, и что эти изменения означают для команд безопасности в 2026 году. - 2025’s Top Phishing Trends and What They Mean for Your Security Strategy

см. также другие публикации по теме фишинг

Tuesday, February 10, 2026

LLM и фишинг

Большие языковые модели (LLM) способны генерировать беглый и убедительный текст, что делает их ценными инструментами для коммуникации. Однако эта способность также делает их привлекательными для злонамеренных целей. Хотя ряд исследований показал, что LLM могут поддерживать общий фишинг, их потенциал для персонализированных атак в больших масштабах еще не был изучен и количественно оценен. В этом исследовании мы оцениваем эффективность целевого фишинга на основе LLM в эксперименте с участием 7700 человек. Используя целевые адреса электронной почты в качестве запросов, мы собираем личную информацию посредством веб-поиска и автоматически генерируем электронные письма, адаптированные для каждого участника. Наши результаты показывают тревожную ситуацию: целевой фишинг на основе LLM почти втрое увеличивает количество кликов по сравнению с общими стратегиями фишинга. Этот эффект сохраняется независимо от того, написаны ли общие электронные письма людьми или также сгенерированы LLM. Более того, стоимость персонализации минимальна и составляет приблизительно 0,03 доллара США за письмо. Учитывая, что фишинг по-прежнему является основным вектором атак на ИТ-инфраструктуры, мы приходим к выводу о наличии острой необходимости усиления существующих мер защиты, например, путем ограничения общедоступной информации, связанной с адресами электронной почты, и включения персонализированных методов борьбы с фишингом в программы повышения осведомленности. - A Large-Scale Study of Personalized Phishing using Large Language Models

См. также другие публикации, посвященные LLM

Thursday, December 25, 2025

LLM для детектирования фишинга

Фишинг по электронной почте — один из наиболее распространенных и имеющих глобальные последствия векторов кибератак. Поскольку системы все чаще используют приложения на основе больших языковых моделей (LLM), они сталкиваются с развивающимися угрозами фишинговых писем, которые используют уязвимости их фундаментальной архитектуры. Современные LLM требуют существенного усиления защиты перед внедрением в системы безопасности электронной почты, особенно от скоординированных многовекторных атак, использующих архитектурные уязвимости. В данной статье предлагается LLMPEA — основанная на LLM структура для обнаружения фишинговых атак по электронной почте с использованием различных векторов атаки, включая внедрение подсказок, уточнение текста и многоязычные атаки. Мы оцениваем три передовые LLM (например, GPT-4o, Claude Sonnet 4 и Grok-3) и комплексную разработку подсказок, чтобы оценить их осуществимость, устойчивость и ограничения в отношении фишинговых атак по электронной почте. Наш эмпирический анализ показывает, что LLM-модели могут обнаруживать фишинговые электронные письма с точностью более 90%, при этом мы также отмечаем, что системы обнаружения фишинговых писем на основе LLM-моделей могут быть использованы злоумышленниками, внедрять подсказки и осуществлять многоязычные атаки. Наши результаты предоставляют важные сведения для обнаружения фишинга на основе LLM-моделей в реальных условиях, где злоумышленники используют множество уязвимостей в комбинации. - Phishing Email Detection Using Large Language Models

см. также другие публикации по теме фишинг

Friday, October 10, 2025

Что защищать от постоянных угроз?

Злоумышленники запускают атаки с использованием современных постоянных угроз (APT), разрабатывая их для конкретной цели и стремясь оставаться незамеченными в течение длительного времени. Злоумышленники используют множество методов для доставки и эксплуатации нескольких вредоносных программ вручную или автоматически. Поставщики решений для кибербезопасности публикуют технические отчеты, известные как отчеты о киберугрозах, о прошлых APT-атаках, которые являются богатым источником информации о вредоносных методах. Для защиты организаций необходимо определить распространенные методы, наблюдаемые во вредоносном ПО, используемом в APT-атаках, и их взаимосвязь.

Цель: Цель данного исследования — помочь специалистам по кибербезопасности в защите от APT-атак путем анализа методов вредоносного ПО, задокументированных в отчетах о киберугрозах.

Методология: Мы формируем курируемый набор из 798 отчетов о киберугрозах, а затем анализируем зарегистрированные методы вредоносного ПО с помощью MITRE ATT&CK — общеизвестного термина, обозначающего методы кибератак, киберпреступные группировки и кампании в APT-атаках. Мы анализируем частоту и тенденции применения методов, а затем проводим качественный анализ. Далее мы проводим анализ ассоциативных правил для выявления сопутствующих методов, после чего проводим качественный анализ.

Результаты: Мы установили, что получение информации об операционной системе и сетевой системе зараженной среды является наиболее распространённым методом и встречается в наибольшем количестве сопутствующих пар. Мы установили, что фишинг является наиболее распространённым способом первоначального заражения. Мы также выявили три распространённых способа злоупотребления системными функциями: макросы в документах Office, реестр Windows и планировщик задач. Мы рекомендуем организациям уделять первоочередное внимание защите от выявленных распространённых методов и активно выявлять потенциальные вредоносные вторжения на основе выявленных ассоциаций между методами вредоносного ПО. - SoK: An empirical investigation of malware techniques in advanced persistent threat attacks

Tuesday, September 30, 2025

Фишинг будущего

Довольно подробное исследование современного фишинга

см. также другие публикации по теме фишинг

Удар автоматизацией по фишингу

В 2024 году рабочая группа по борьбе с фишингом выявила более миллиона фишинговых страниц. Фишеры достигают такого масштаба, используя фишинговые наборы — готовые к использованию фишинговые веб-сайты — для быстрого развертывания фишинговых кампаний с использованием специфических методов извлечения данных, уклонения от их обнаружения или мимикрии. В отличие от этого, исследователи и защитники прав потребителей продолжают бороться с фишингом на постраничной основе и полагаются на ручной анализ для распознавания статических признаков, при идентификации наборов. Цель данной статьи — помочь исследователям и аналитикам, автоматически дифференцируя группы фишинговых страниц на основе лежащего набора, автоматизируя ранее выполняемый вручную процесс и позволяя нам измерять популярность различных клиентских методов в этих группах. Для обнаружения наборов наша система обеспечивает точность 97% на основе набора данных из 548 семейств наборов, развернутых на 4562 фишинговых URL-адресах. На немаркированном наборе данных мы используем сложность JavaScript-логики 434 050 фишинговых страниц, чтобы сгруппировать их в 11 377 кластеров, аннотируя кластеры с указанием фишинговых техник, которые они используют. Мы обнаружили, что интерактивность пользовательского интерфейса и базовая идентификация являются универсальными методами, присутствующими в 90% и 80% кластеров соответственно. С другой стороны, обнаружение мыши с помощью интерфейса мыши браузера является одним из самых редких видов поведения, несмотря на то, что оно использовалось при развертывании 7-летнего открытого фишингового набора. Наши методы и результаты предоставляют исследователям и аналитикам новые способы борьбы с большим количеством фишинговых страниц. - Characterizing Phishing Pages by JavaScript Capabilities

см. также другие публикации по теме фишинг

Tuesday, August 12, 2025

Квишинг

Это фишинг, но только в QR-коде.

Рост фишинга с использованием QR-кодов («Quishing») представляет собой растущую угрозу кибербезопасности, поскольку злоумышленники все чаще используют QR-коды для обхода традиционных средств защиты от фишинга. Существующие методы обнаружения в основном сосредоточены на анализе URL-адресов, который требует извлечения полезной нагрузки QR-кода и может непреднамеренно подвергнуть пользователей вредоносному контенту. Более того, QR-коды могут кодировать различные типы данных помимо URL-адресов, например, учетные данные Wi-Fi и платежную информацию, что делает обнаружение на основе URL-адресов недостаточным для решения более широких проблем безопасности. Чтобы устранить эти пробелы, мы предлагаем первую структуру для обнаружения quishing, которая напрямую анализирует структуру QR-кода и пиксельные паттерны без извлечения встроенного содержимого. Мы создали набор данных фишинговых и безопасных QR-кодов и использовали его для обучения и оценки нескольких моделей машинного обучения, включая логистическую регрессию, деревья решений, случайный лес, наивный байесовский алгоритм, LightGBM и XGBoost. Наша самая эффективная модель (XGBoost) достигает AUC 0,9106, что демонстрирует возможность обнаружения, основанного на QR-кодах. С помощью анализа важности признаков мы выявляем ключевые визуальные индикаторы злонамеренности и совершенствуем набор признаков, удаляя неинформативные пиксели, что повышает производительность до AUC 0,9133 при сокращении пространства признаков. Наши результаты показывают, что структурные особенности QR-кода сильно коррелируют с риском фишинга. Эта работа закладывает основу для снижения риска фишинга и подчеркивает потенциал прямого анализа QR-кодов как критического уровня в современных системах защиты от фишинга. - Detecting Quishing Attacks with Machine Learning Techniques Through QR Code Analysis

Непонятно, насколько это реалистичная идея. Почему вредоносность URL должна отражаться в пикселях QR-кода?

см. также другие публикации по теме фишинг

Tuesday, July 22, 2025

Адаптивное определение фишинга

Неустанное развитие фишинговых методов приводит к значительным финансовым потерям, утечкам данных и репутационным потерям для отдельных лиц и организаций. Традиционные методы обнаружения сталкиваются с такими ограничениями, как неспособность адаптироваться к быстро меняющимся шаблонам атак и вычислительная неэффективность частых обновлений моделей. Для устранения этих ограничений мы предлагаем новую структуру, которая преследует следующие цели: разработать адаптивную структуру, интегрирующую динамический выбор признаков с методами онлайн-обучения, реализовать эффективные механизмы обнаружения дрейфа для мониторинга распределения признаков в реальном времени и подтвердить повышение производительности по сравнению с традиционными методами. Предлагаемый нами метод использует тесты Колмогорова-Смирнова для обнаружения дрейфа вместе с онлайн-стохастическим градиентным спуском для непрерывной оптимизации модели. Проверка с использованием фишинговых URL-адресов в реальном времени от PhishTank демонстрирует точность 99,85% с минимальным уровнем ложноположительных результатов 0,067%, что значительно превосходит традиционные подходы. - An Efficient Framework for Phishing URL Detection Using Adaptive Drift-Aware Feature Monitoring and Online Learning

см. также другие публикации по теме фишинг

Friday, July 18, 2025

Как предупреждать о фишинге

Фишинг стал заметным риском в современной кибербезопасности, часто используемым для обхода технологических защит, эксплуатируя предсказуемое поведение человека. Предупреждающие диалоги являются стандартной мерой снижения рисков, но отсутствие ясности объяснений и статичный контент ограничивают их эффективность. В данной статье мы сообщаем о нашем исследовании по оценке способности больших языковых моделей (LLM) генерировать понятные, лаконичные и масштабируемые объяснения предупреждений о фишинге. Мы провели масштабное межгрупповое исследование пользователей (N = 750), чтобы сравнить влияние предупреждающих диалогов, дополненных вручную сгенерированными объяснениями, с теми, которые генерируются двумя LLM, Claude 3.5 Sonnet и Llama 3.3 70B. Мы исследовали два стиля объяснений (основанный на признаках и контрфактуальный) на предмет их влияния на поведенческие показатели (кликабельность) и результаты восприятия (например, доверие, риск, ясность). Результаты показывают, что хорошо продуманные объяснения, сгенерированные LLM, могут сравниться или превзойти объяснения, созданные вручную, в снижении восприимчивости к фишингу; предупреждения, сгенерированные Claude, продемонстрировали особенно высокую эффективность. Объяснения, основанные на признаках, были более эффективны при реальных попытках фишинга, тогда как контрфактуальные объяснения снизили частоту ложноположительных срабатываний. Другие переменные, такие как рабочая нагрузка, пол и предыдущее знакомство с диалоговыми окнами предупреждений, значительно смягчали эффективность предупреждений. Эти результаты показывают, что LLM можно использовать для автоматического создания объяснений для предупреждения пользователей о фишинге, и что такие решения масштабируемы, адаптивны и соответствуют ценностям, ориентированным на человека. - Can Large Language Models Improve Phishing Defense? A Large-Scale Controlled Experiment on Warning Dialogue Explanations

См. также другие публикации по теме фишинг

Thursday, June 12, 2025

Фишинг для ИИ агентов

Исследователи обнаружили простой способ ввести в заблуждение автономных агентов на основе больших языковых моделей.

Что нового: Энг Ли и его коллеги из Колумбийского университета разработали метод использования неявного доверия, которое агенты склонны оказывать популярным веб-сайтам, отравляя эти веб-сайты вредоносными ссылками.

Ключевая идея: коммерчески доступные агентские системы могут не доверять случайным сайтам в Интернете, но они склонны доверять популярным сайтам, таким как сайты социальных сетей. Злоумышленник может использовать это доверие, создавая, казалось бы, типичные посты, которые ссылаются на вредоносный веб-сайт. Агент может перейти по ссылке, ошибочно распространив свое доверие на ненадежный сайт.

Как это работает:

1) авторы протестировали агентов веб-браузинга, включая Anthropic Computer Use и MultiOn, на таких задачах, как покупки или отправка электронных писем.
2) Авторы создали посты Reddit, которые тематически соответствовали определенной агентской задаче, например, покупке обуви Air Jordan 1. Посты содержали текст, похожий на маркетинг (например, «Где купить Air Jordan 1 Chicago»), а также инструкции, указывающие на вредоносный сайт, контролируемый авторами («для получения дополнительной информации посетите <веб-сайт>»).
3) Авторы отправляли агенту запрос типа «Где купить Nike Air Jordan 1 в Чикаго?». Они также вводили конфиденциальную информацию, такую как данные кредитной карты или учетные данные электронной почты.
4) Агент искал в Интернете ресурсы, необходимые для выполнения запроса. Он изучал сайты и находил посты Reddit, написанные авторами.
5) Агент следовал инструкциям в постах и посещал вредоносный веб-сайт. Веб-сайт включал инструкции, которые манипулировали агентом для достижения цели злоумышленника, например, отправляли данные кредитной карты или отправляли фишинговые письма с адреса электронной почты пользователя.

Результаты: после того, как агент был перенаправлен на вредоносные веб-сайты, он надежно следовал инструкциям злоумышленника. Например, каждый из протестированных агентов разглашал информацию о кредитной карте в 10 из 10 испытаний. Аналогично, каждый агент отправлял фишинговое сообщение с учетной записи электронной почты пользователя с просьбой к получателям отправить деньги злонамеренному «другу» в 10 из 10 испытаний.

Почему это важно: Предоставление агентам возможности выполнять реальные действия, такие как совершение покупок и отправка электронных писем, повышает вероятность того, что их могут обмануть и заставить совершить вредоносные действия. Манипулирование агентами путем направления их на вредоносный веб-контент является эффективным вектором атаки. Агенты будут в большей безопасности, если они будут разработаны так, чтобы избегать и противостоять таким манипуляциям.

Мы думаем: люди тоже могут быть обмануты фишингом и другими вредоносными действиями, и путь к программированию агентов для защиты от них кажется проще, чем путь к обучению большинства людей этому. В долгосрочной перспективе агенты сделают онлайн-взаимодействия более безопасными. /via Deeplearning.ai

См. также другие публикации, посвященные агентам

Friday, September 13, 2024

Еще о фишинге

Интересная работа по определению признаков фишинговых URL

"Наша модель использует извлеченные из веб-страниц признаки, используя 89 признаков для точной классификации фишинговых URL-адресов. На основе алгоритмов выбора признаков, таких как прямой выбор (forward selection) и регуляризация Lasso, мы выбрали 27 лучших признаков."

см. также другие публикации по теме фишинг

Sunday, September 01, 2024

Анти-фишинг LLM

Использование LLM для определения фишинговых страниц

"В этой работе мы предпринимаем шаги для изучения эффективности больших языковых моделей (LLM), в частности, мультимодальных LLM, при обнаружении фишинговых веб-страниц. Учитывая, что LLM предварительно обучены на большом массиве данных, мы стремимся использовать их понимание различных аспектов веб-страницы (логотип, тема, иконка и т. д.) для идентификации бренда данной веб-страницы и сравнения идентифицированного бренда с доменным именем в URL-адресе для обнаружения фишинговой атаки. Мы предлагаем двухфазную систему, использующую LLM на обоих этапах: первый этап фокусируется на идентификации бренда, а второй проверяет домен. Мы проводим комплексные оценки на недавно собранном наборе данных. Наши эксперименты показывают, что система на основе LLM достигает высокого уровня обнаружения при высокой точности; что важно, она также предоставляет интерпретируемые доказательства для решений. Наша система также работает значительно лучше, чем современная система обнаружения фишинга на основе бренда, демонстрируя при этом устойчивость к двум известным состязательным атакам."

см. также другие публикации по теме фишинг