Random Thoughts

На днях говорили об использовании новых технологий в сфере мошенничества и вот замечательная статься об эффективности spear phishing (целевой фишинг?) кампаний.

В ней краткий обзор исследования “Evaluating Large Language Models' Capability to Launch Fully Automated Spear Phishing Campaigns: Validated on Human Subjects” опубликованного 30 Ноября 2024. Ссылка в статье.

Изюм подхода в том, что ИИ агенты собирают публичную информацию о жертве в интернетах и упаковывают в очень индивидуальное сообщение.

Использование LLM (Большая Языковая Модель) увеличило эффективность более чем в 4 раза против контрольной группы. Проходимость (click-through) таких emails на уровне 54-56%.

Жду исследования об эффективности использования ИИ в системах обнаружения и блокировки.

#BraveNewWorld #AI
January 2025.

Lesswrong

Human study on AI spear phishing campaigns — LessWrong

TL;DR: We ran a human subject study on whether language models can successfully spear-phish people. We use AI agents built from GPT-4o and Claude 3.5…

www.group-telegram.com/cn/random_from_sherlock.com/526

270 viewsJan 7 at 17:47

На днях говорили об использовании новых технологий в сфере мошенничества и вот замечательная статься об эффективности spear phishing (целевой фишинг?) кампаний.

В ней краткий обзор исследования “Evaluating Large Language Models' Capability to Launch Fully Automated Spear Phishing Campaigns: Validated on Human Subjects” опубликованного 30 Ноября 2024. Ссылка в статье.

Изюм подхода в том, что ИИ агенты собирают публичную информацию о жертве в интернетах и упаковывают в очень индивидуальное сообщение.

Использование LLM (Большая Языковая Модель) увеличило эффективность более чем в 4 раза против контрольной группы. Проходимость (click-through) таких emails на уровне 54-56%.

Жду исследования об эффективности использования ИИ в системах обнаружения и блокировки.

#BraveNewWorld #AI
January 2025.

BY Random Thoughts