דילוג לתוכן
New

DeepSeek V4.1 Flash free for 7 days: 10M tokens a day after a top-up of $10 or more. Until Nov 30.

How it works
noorqureshi/ai-model-extractionAI, סוכנים ו-MCP

ai-model-extraction

⁨Extract or steal an ML/LLM model's parameters, training data, or system prompt via query access — model stealing, membership inference, training-data extraction. Load when testing an ML API/endpoint, "model extraction/inversion", data-leakage or IP-theft concerns, exposed inference endpoints. Signal⁩

v2026.10.14-ee0e0c53 התקנות⁦+3⁩ ב-7 ימים27 כוכביםMITסונכרן לפני 22 שעות

התקנה

עדיין אין לכם את ה-CLI של NotHoly? התקינו אותו קודם.

$ curl -fsSL https://notholy.com/install.sh | sh
$ notholy skills install noorqureshi/ai-model-extraction

נכתב אל ⁦~/.notholy/skills⁩ אחרי בדיקת החתימה וה-SHA-256.

חתימהחתום, ed25519
fD+s7L2zJC…TMG3noAA==ה-CLI בודק את ה-SHA-256 ואת החתימה לפני שהוא כותב קובץ כלשהו.
חבילה546da050…452f9189
546da050a8b2…c0ab452f9189קובץ אחד · ⁦1.4 KB⁩
סריקהנמוךאין ממצאים
הסריקה לא מצאה בגרסה הזו שום דבר שצריך לסמן.לסריקה המלאה
מקורgithub.com/NoorQureshi/security-skills/tree/main/skills/ai-ml/ai-model-extraction@ee0e0c5

הפריט הזה עדיין לא נכתב בעברית, ולכן הוא מוצג בשפה אחרת: English.

When it applies

You have query access to an ML/LLM endpoint and want to show it leaks the model itself, its training data, or confidential context — IP theft or privacy impact, not just a bad answer.

Why it works

Query access is more powerful than it looks. Outputs (labels, probabilities, embeddings, generations) carry information about the model and its data. Enough targeted queries reconstruct a functional copy, reveal whether a record was in training, or regurgitate memorized secrets.

Method

  1. Model stealing: query systematically (esp. if confidence scores/logits are returned) to train a surrogate that mimics the target — proves the model can be cloned via the API.
  2. Membership inference: compare model behaviour (confidence, loss) on candidate records to infer whether a specific record was in the training set (privacy impact).
  3. Training-data / secret extraction (LLM): prompt for memorized data — PII, keys, or the system prompt/hidden context (overlaps ai-prompt-injection); look for verbatim regurgitation.
  4. Embedding inversion: if an embeddings API is exposed, reconstruct approximate input text from vectors.
  5. Cost/DoS angle: unbounded/unthrottled querying is itself a finding (LLM10).

Gotchas

  • Tie it to impact: a stolen surrogate, a confirmed membership leak, or verbatim secret output — not "it answered a lot".
  • Respect scope/RoE — extraction requires many queries; get authorization and mind rate/cost limits.
  • Defenders: rate-limit, strip logits, add output filtering, and monitor query patterns.

Verify success

Demonstrated leakage: a working surrogate, a reliable membership inference, or verbatim training-data/secret extraction.

References

OWASP LLM Top 10 (2025); "Stealing ML models via prediction APIs" (Tramèr et al.); membership-inference literature.

הקבצים בגרסה הזו

הרשאות

הרשאההוצהרנמצא בסריקה
קורא קבציםלאלא
כותב קבציםלאלא
מריץ פקודות shellלאלא
משתמש ברשתלאלא
משתמש במחבריםלאלא
שולט בדפדפןלאלא

ממצאי הסריקה

נבדק ב-13 בנוב׳ 2026

הסריקה לא מצאה בגרסה הזו שום דבר שצריך לסמן.

סריקה נקייה מורידה את הסיכון, אבל לא מוכיחה שהחבילה בטוחה. כדאי לקרוא מה מתקינים.

גרסהפורסמהCommitSHA-256חתימהשינוי בהרשאות
v2026.10.14-ee0e0c513 בנוב׳ 2026ee0e0c5546da050חתומה–

שאלו כל מה שהסקופ מאפשר.

יוצרים חשבון, מוסיפים קרדיטים ושואלים את השאלה הראשונה בצ׳אט או בטרמינל.

  1. 1/3

    יצירת חשבון

    פרטי או חברה. אפשר לעבור לחשבון חברה אחר כך בלי לאבד יתרה או מפתחות.

    פרטיחברה
  2. 2/3

    הוספת קרדיטים

    בכרטיס אשראי. תשלום לפי טוקן, בלי מנוי.

    $5.00טעינה מינימלית
  3. 3/3

    שאלה ראשונה

    בצ׳אט, או להתקין את ה-CLI ולהריץ notholy login בטרמינל.

    $ notholy login