ai-agent-tool-abuse
Abuse an LLM agent's tools/functions — coerce it to call tools with attacker-chosen args for SSRF, RCE, data exfil, or privilege abuse. Load when the target is an agent with tools/ function-calling/plugins, MCP servers, code interpreters, or "the assistant can do X". Signals: function-calling, tool
v2026.10.14-ee0e0c53 установки+3 за 7 дней27 ЗвездыMITсинхронизировано 22 часа назад
Установка
Ещё нет NotHoly CLI? Сначала установите её.
$ curl -fsSL https://notholy.com/install.sh | sh$ notholy skills install noorqureshi/ai-agent-tool-abuseПишет в ~/.notholy/skills после проверки подписи и SHA-256.
ПодписьПодписано, ed25519
Пакетb6fe48c7…946d752c
b6fe48c70192…3cce946d752c1 файл · 1.5 KBПроверкаНизкийзамечаний нет
Источникgithub.com/NoorQureshi/security-skills/tree/main/skills/ai-ml/ai-agent-tool-abuse@ee0e0c5
Эта запись еще не переведена на русский, поэтому показан текст на другом языке: English.
На странице
When it applies
The target isn't just a chatbot — it can act: call functions, browse, run code, query databases, send email, hit internal APIs, or chain MCP tools. Impact jumps from "bad text" to real actions taken with the agent's privileges.
Why it works
The model decides which tool to call and with what arguments, driven by text it can't fully trust (user input or fetched content). If tools are over-permissioned or arguments aren't validated, attacker text steers real actions — the classic "confused deputy".
Method
- Enumerate the tools: get the agent to reveal its tools/functions and schemas (often it just lists them), or read the app/MCP config.
- Coerce a call (direct or via
ai-prompt-injection/ai-rag-poisoning): craft input so the agent invokes a tool with your arguments. - Route to impact:
- SSRF/internal reach: a browse/fetch tool → internal URLs, cloud metadata (→
cloud-imds-ssrf). - RCE: a code-interpreter/shell tool → command execution.
- Data exfil: a query/email/file tool → dump data to you (markdown-image beacon, an email to your address).
- Privilege abuse: an admin/action tool called on behalf of a victim (confused deputy).
- SSRF/internal reach: a browse/fetch tool → internal URLs, cloud metadata (→
- Chaining: poisoned content the agent reads later triggers the tool call (indirect, multi-user).
Gotchas
- The severity is the action, tied to the tool's real privilege — demonstrate the effect, not just intent.
- Guardrails on the model don't cover tool arg-validation — the bug is often at the tool boundary.
- Defenders: least-privilege tools, human-in-the-loop for sensitive actions, validate/allowlist args, isolate the browser/exec.
Verify success
The agent performs an attacker-directed action via a tool — an SSRF hit, code execution, data exfiltrated, or a privileged action taken — traceable to your input.
References
OWASP LLM Top 10 (2025) LLM06/LLM01; MCP security guidance; agent "confused deputy" research.
Файлы этой версии
- SKILL.md2.6 KB
Права
| Право | Заявлено | Найдено проверкой |
|---|---|---|
| Читает файлы | Нет | Нет |
| Пишет файлы | Нет | Нет |
| Выполняет команды shell | Нет | Нет |
| Ходит в сеть | Нет | Нет |
| Использует коннекторы | Нет | Нет |
| Управляет браузером | Нет | Нет |
Замечания проверки
Проверено 13 нояб. 2026 г.
Проверка не нашла в этой версии ничего подозрительного.
Чистая проверка снижает риск, но не доказывает, что пакет безопасен. Читайте то, что ставите.
| Версия | Опубликована | Коммит | SHA-256 | Подпись | Изменение прав |
|---|---|---|---|---|---|
| v2026.10.14-ee0e0c5 | 13 нояб. 2026 г. | ee0e0c5 | b6fe48c7 | Подписана | – |
Ещё от NoorQureshi
Всё от этого издателяЕще в категории «ИИ, агенты и MCP»
Вся категория- fal-assetsrehan-remade/fal-assets5
- ai-system-prompt-leakagenoorqureshi/ai-system-prompt-leakage4
- ai-prompt-injectionnoorqureshi/ai-prompt-injection4
- testing-prompt-injection-in-rag-pipelinesmukul975/testing-prompt-injection-in-rag-pipelines4
- implementing-llm-guardrails-for-securitymukul975/implementing-llm-guardrails-for-security4
- defending-llms-with-guardrailsmukul975/defending-llms-with-guardrails4
Спрашивайте обо всём, что позволяет ваш скоуп.
Создайте аккаунт, пополните баланс и задайте первый вопрос в чате или в терминале.
- 1/3
Создайте аккаунт
Личный или для компании. Позже можно перейти на аккаунт компании без потери баланса и ключей.
ЛичныйКомпания - 2/3
Пополните баланс
Картой. Оплата за токены, без подписки.
$5.00минимальное пополнение - 3/3
Спрашивайте
В чате, или установите CLI и выполните notholy login в терминале.
$ notholy login