См. также другие публикации, посвященные LLM
технические проблемы и идеи, родившиеся в бурных водах реки Abava (а равно как и на ее берегах, далеких и близких), выставленные на всеобщее обсуждение
Thursday, July 09, 2026
Совместная оценка вопросов и ответов LLM
Monday, April 06, 2026
Осведомленность о фишинге
Tuesday, February 24, 2026
Теневые агенты
В докладе эксперты выделяют три ключевые темы: искусственный интеллект, киберпреступность и деятельность государственных хакеров.
ИИ на стороне злоумышленников становится обыденностью. Хакеры активно применяют его для ускорения атак, генерации вредоносного кода и проведения информационных кампаний. Особое внимание уделяется переходу к ИИ-агентам, способным автономно выполнять целые цепочки атак.
Инъекции подсказок (Prompt injection) — одна из главных новых угроз. Google прогнозирует резкий рост числа таких атак на корпоративные системы, работающие на базе искусственного интеллекта.
Отдельная масштабная проблема — социальная инженерия с использованием ИИ. Массовым явлением станет голосовой фишинг с имитацией голосов руководителей или сотрудников IT-отдела.
«Агентный сдвиг» в безопасности: ИИ-агенты фундаментально меняют архитектуру защиты. Google предвидит появление нового направления — «агентного управления идентификацией» (agentic identity management), где каждый агент будет обладать собственной цифровой личностью с минимальными привилегиями и временным доступом.
«Теневые агенты» (Shadow Agent) — скрытая внутренняя угроза. Сотрудники начнут самостоятельно разворачивать ИИ-агентов для выполнения рабочих задач в обход корпоративных политик. Это приведет к появлению неконтролируемых потоков конфиденциальных данных. Запреты в данном случае бесполезны — они лишь заставят пользователей уйти в тень. Решение проблемы — создание управляемой ИИ-инфраструктуры с полноценным аудитом.
Friday, February 20, 2026
Тренды фишинга
см. также другие публикации по теме фишинг
Tuesday, February 10, 2026
LLM и фишинг
См. также другие публикации, посвященные LLM
Thursday, December 25, 2025
LLM для детектирования фишинга
см. также другие публикации по теме фишинг
Friday, October 10, 2025
Что защищать от постоянных угроз?
Цель: Цель данного исследования — помочь специалистам по кибербезопасности в защите от APT-атак путем анализа методов вредоносного ПО, задокументированных в отчетах о киберугрозах.
Методология: Мы формируем курируемый набор из 798 отчетов о киберугрозах, а затем анализируем зарегистрированные методы вредоносного ПО с помощью MITRE ATT&CK — общеизвестного термина, обозначающего методы кибератак, киберпреступные группировки и кампании в APT-атаках. Мы анализируем частоту и тенденции применения методов, а затем проводим качественный анализ. Далее мы проводим анализ ассоциативных правил для выявления сопутствующих методов, после чего проводим качественный анализ.
Результаты: Мы установили, что получение информации об операционной системе и сетевой системе зараженной среды является наиболее распространённым методом и встречается в наибольшем количестве сопутствующих пар. Мы установили, что фишинг является наиболее распространённым способом первоначального заражения. Мы также выявили три распространённых способа злоупотребления системными функциями: макросы в документах Office, реестр Windows и планировщик задач. Мы рекомендуем организациям уделять первоочередное внимание защите от выявленных распространённых методов и активно выявлять потенциальные вредоносные вторжения на основе выявленных ассоциаций между методами вредоносного ПО. - SoK: An empirical investigation of malware techniques in advanced persistent threat attacks
Tuesday, September 30, 2025
Удар автоматизацией по фишингу
см. также другие публикации по теме фишинг
Tuesday, August 12, 2025
Квишинг
Рост фишинга с использованием QR-кодов («Quishing») представляет собой растущую угрозу кибербезопасности, поскольку злоумышленники все чаще используют QR-коды для обхода традиционных средств защиты от фишинга. Существующие методы обнаружения в основном сосредоточены на анализе URL-адресов, который требует извлечения полезной нагрузки QR-кода и может непреднамеренно подвергнуть пользователей вредоносному контенту. Более того, QR-коды могут кодировать различные типы данных помимо URL-адресов, например, учетные данные Wi-Fi и платежную информацию, что делает обнаружение на основе URL-адресов недостаточным для решения более широких проблем безопасности. Чтобы устранить эти пробелы, мы предлагаем первую структуру для обнаружения quishing, которая напрямую анализирует структуру QR-кода и пиксельные паттерны без извлечения встроенного содержимого. Мы создали набор данных фишинговых и безопасных QR-кодов и использовали его для обучения и оценки нескольких моделей машинного обучения, включая логистическую регрессию, деревья решений, случайный лес, наивный байесовский алгоритм, LightGBM и XGBoost. Наша самая эффективная модель (XGBoost) достигает AUC 0,9106, что демонстрирует возможность обнаружения, основанного на QR-кодах. С помощью анализа важности признаков мы выявляем ключевые визуальные индикаторы злонамеренности и совершенствуем набор признаков, удаляя неинформативные пиксели, что повышает производительность до AUC 0,9133 при сокращении пространства признаков. Наши результаты показывают, что структурные особенности QR-кода сильно коррелируют с риском фишинга. Эта работа закладывает основу для снижения риска фишинга и подчеркивает потенциал прямого анализа QR-кодов как критического уровня в современных системах защиты от фишинга. - Detecting Quishing Attacks with Machine Learning Techniques Through QR Code Analysis
Непонятно, насколько это реалистичная идея. Почему вредоносность URL должна отражаться в пикселях QR-кода?
см. также другие публикации по теме фишинг
Tuesday, July 22, 2025
Адаптивное определение фишинга
см. также другие публикации по теме фишинг
Friday, July 18, 2025
Как предупреждать о фишинге
См. также другие публикации по теме фишинг
Thursday, June 12, 2025
Фишинг для ИИ агентов
Что нового: Энг Ли и его коллеги из Колумбийского университета разработали метод использования неявного доверия, которое агенты склонны оказывать популярным веб-сайтам, отравляя эти веб-сайты вредоносными ссылками.
Ключевая идея: коммерчески доступные агентские системы могут не доверять случайным сайтам в Интернете, но они склонны доверять популярным сайтам, таким как сайты социальных сетей. Злоумышленник может использовать это доверие, создавая, казалось бы, типичные посты, которые ссылаются на вредоносный веб-сайт. Агент может перейти по ссылке, ошибочно распространив свое доверие на ненадежный сайт.
Как это работает:
1) авторы протестировали агентов веб-браузинга, включая Anthropic Computer Use и MultiOn, на таких задачах, как покупки или отправка электронных писем.
2) Авторы создали посты Reddit, которые тематически соответствовали определенной агентской задаче, например, покупке обуви Air Jordan 1. Посты содержали текст, похожий на маркетинг (например, «Где купить Air Jordan 1 Chicago»), а также инструкции, указывающие на вредоносный сайт, контролируемый авторами («для получения дополнительной информации посетите <веб-сайт>»).
3) Авторы отправляли агенту запрос типа «Где купить Nike Air Jordan 1 в Чикаго?». Они также вводили конфиденциальную информацию, такую как данные кредитной карты или учетные данные электронной почты.
4) Агент искал в Интернете ресурсы, необходимые для выполнения запроса. Он изучал сайты и находил посты Reddit, написанные авторами.
5) Агент следовал инструкциям в постах и посещал вредоносный веб-сайт. Веб-сайт включал инструкции, которые манипулировали агентом для достижения цели злоумышленника, например, отправляли данные кредитной карты или отправляли фишинговые письма с адреса электронной почты пользователя.
Результаты: после того, как агент был перенаправлен на вредоносные веб-сайты, он надежно следовал инструкциям злоумышленника. Например, каждый из протестированных агентов разглашал информацию о кредитной карте в 10 из 10 испытаний. Аналогично, каждый агент отправлял фишинговое сообщение с учетной записи электронной почты пользователя с просьбой к получателям отправить деньги злонамеренному «другу» в 10 из 10 испытаний.
Почему это важно: Предоставление агентам возможности выполнять реальные действия, такие как совершение покупок и отправка электронных писем, повышает вероятность того, что их могут обмануть и заставить совершить вредоносные действия. Манипулирование агентами путем направления их на вредоносный веб-контент является эффективным вектором атаки. Агенты будут в большей безопасности, если они будут разработаны так, чтобы избегать и противостоять таким манипуляциям.
Мы думаем: люди тоже могут быть обмануты фишингом и другими вредоносными действиями, и путь к программированию агентов для защиты от них кажется проще, чем путь к обучению большинства людей этому. В долгосрочной перспективе агенты сделают онлайн-взаимодействия более безопасными. /via Deeplearning.ai
См. также другие публикации, посвященные агентам
Friday, February 28, 2025
Tuesday, October 01, 2024
Фишинговые фичи
см. также другие публикации по теме фишинг
Friday, September 13, 2024
Еще о фишинге
"Наша модель использует извлеченные из веб-страниц признаки, используя 89 признаков для точной классификации фишинговых URL-адресов. На основе алгоритмов выбора признаков, таких как прямой выбор (forward selection) и регуляризация Lasso, мы выбрали 27 лучших признаков."
см. также другие публикации по теме фишинг
Sunday, September 01, 2024
Анти-фишинг LLM
"В этой работе мы предпринимаем шаги для изучения эффективности больших языковых моделей (LLM), в частности, мультимодальных LLM, при обнаружении фишинговых веб-страниц. Учитывая, что LLM предварительно обучены на большом массиве данных, мы стремимся использовать их понимание различных аспектов веб-страницы (логотип, тема, иконка и т. д.) для идентификации бренда данной веб-страницы и сравнения идентифицированного бренда с доменным именем в URL-адресе для обнаружения фишинговой атаки. Мы предлагаем двухфазную систему, использующую LLM на обоих этапах: первый этап фокусируется на идентификации бренда, а второй проверяет домен. Мы проводим комплексные оценки на недавно собранном наборе данных. Наши эксперименты показывают, что система на основе LLM достигает высокого уровня обнаружения при высокой точности; что важно, она также предоставляет интерпретируемые доказательства для решений. Наша система также работает значительно лучше, чем современная система обнаружения фишинга на основе бренда, демонстрируя при этом устойчивость к двум известным состязательным атакам."
см. также другие публикации по теме фишинг
Wednesday, August 21, 2024
Фишинговая почта
см. также другие публикации по теме фишинг
Thursday, July 25, 2024
Про фишинг
См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению
Wednesday, May 15, 2024
Большой фишинг
См. также другие публикации, посвященные LLM