למה מודל abliterated חשוב לעבודה ההתקפית

עוזר כללי נעצר באמצע עבודת אבטחה שגרתית. בקשו ממנו להסביר את ה-SQL injection בטופס התחברות שנשכרתם לבדוק, לכתוב proof of concept ל-IDOR שכבר מצאתם, או לקרוא shellcode מתוך דגימה במעבדה שלכם, והתשובה לרוב היא סירוב או הטפה קצרה. המשימה הייתה בתוך ה-scope. הבעיה הייתה הכלי.

NotHoly מגישה מודלים abliterated בפתיחת משקלים שאין בהם הרפלקס הזה. השאלה מגיעה למודל והמודל עונה. מה זה abliteration מסביר את השיטה; הטקסט הזה הוא על למה זה משנה את העבודה.

#מה abliteration עושה

abliteration מסירה מהמשקלים של מודל קיים את כיוון הסירוב ומשאירה את כל השאר במקומו. מחקר מ-2024 של Arditi ועמיתיו איתר את רוב הסירובים במודלים פתוחים לכיוון יחיד באקטיבציות, והראה שהסרתו מחלישה את הרפלקס לסרב בלי לאמן מחדש את המודל (המאמר). עמוד המודלים אומר את התוצאה בשורה אחת: כל מודל בקטלוג הוא מודל abliterated בפתיחת משקלים שהתנהגות הסירוב שלו הוסרה על ידי עריכת המשקלים. הבסיס של כל אחד מופיע שם, כך שאתם תמיד יודעים לאיזה מודל פתוח הגעתם.

התוצאה היא פחות קירות מתים בעבודה שמעולם לא עמדה בסימן שאלה. pentester שקורא את הקוד של הלקוח, צייד bug bounty שכותב payload לתוכנית שמשלמת על זה, מהנדס הפוך שמסביר disassembly, אנליסט שעושה triage לדגימה: לאף אחד מהם לא עוזר מודל שמתווכח אם הבקשה מותרת. ה-scope בא מהחוזה שלכם, מהלקוח שלכם ומכללי התוכנית שלכם, והמודל נשאר מחוץ להחלטה הזאת.

#זה עדיין מודל

הסרת הסירוב לא הופכת את הפלט לנכון. המודלים האלה ממציאים, מצטטים CVE שלא רלוונטי וכותבים קוד שלא מתקמפל, כמו כל מודל. עמוד המודלים מורה לבדוק את הפלט כמו כל מקור אחר, וזה נכון. NotHoly לא מפרסמת benchmark משלה ולא מבטיחה דיוק. המשטחים סביב המודל קיימים בדיוק בשביל זה: הצ׳אט מראה את העמוד שקרא, בסיס הידע שומר רישיון וייחוס על כל קטע, ורשומת CVE נושאת את התאריך שבו כל מקור נשלף. קראו תשובה כרמז לאימות, לא כממצא מוכן למסירה. מה יש לנו ומה אין כתוב.

#שלחו את השאלה שנדחתה

המודלים מקבלים בקשה תואמת OpenAI. כוונו את ה-base URL ל-NotHoly, קראו ID של מודל מהקטלוג, ושאלו.

curl https://api.notholy.com/v1/chat/completions \
  -H "Authorization: Bearer $NOTHOLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "MODEL_ID", "messages": [{"role": "user", "content": "Explain the IDOR in this endpoint and write a proof of concept."}]}'

אותה שאלה רצה בצ׳אט, בטרמינל ובתוסף של העורך, מול אותו קטלוג.

#איפה זה מתאים

מתאים להנדסה הפוכה, pentest, bug bounty, red team, OSINT, phishing ל-engagement, ניתוח malware ומחקר חולשות. אלה השאלות שמודל אבטחה אמור לקבל ושעוזר כללי לרוב לא מקבל. המודל מנתח את מה שאתם מביאים לו: הקוד, ה-disassembly, הדגימה, העמוד שכבר משכתם.

#איפה זה לא מתאים

לא מתאים אם אתם רוצים מודל שידחה בעצמו כל דבר רגיש. הוא לא מעביר את האחריות על השימוש שלכם בתשובה, והשרתים של NotHoly לעולם לא סורקים ולא שולחים תעבורה למטרה. המשקלים אינם שלנו ואנחנו לא מאמנים אותם מחדש, ולכן הפערים וההטיות של מודל הבסיס מגיעים איתו. מודל abliterated עדיין יכול להסס או לסרב פה ושם, כי השיטה מחלישה את הרפלקס במקום למחוק את הידע שמאחוריו. הוא גם לא אנונימי: החשבון צריך אימייל שעובד, והצ׳אט שומר את השיחות שלכם אלא אם פתחתם שיחה חולפת.

אם העבודה שלכם ממשיכה להיתקל בקיר שאין לו שום קשר ל-scope, הקיר הוא הכלי. שימו סכום קטן בתמחור ושלחו את הבקשה שנדחתה.