מה זה מודל abliterated?
מודל abliterated הוא מודל שפה במשקלים פתוחים שהנטייה שלו לסרב הוחלשה בעריכת המשקלים. מחקר על סירובים מצא שהם עוברים דרך כיוון אחד באקטיבציות של המודל. Abliteration מסיר את הכיוון הזה מהמשקלים. אין כאן טריק בפרומפט ואין אימון מחדש.
מה abliteration משנה
--- מודל בסיס (משקלים פתוחים)
+++ מודל NotHoly
הוסר: כיוון הסירוב במשקלים
נוסף: עונה על הבקשה כפי שנכתבה
מה שמודל הבסיס יודע, בלי ידע חדש
הטעויות שלו: לבדוק את הפלט
הפרומפט שלך, בלי שום תוספת
ההרשאה שלך, החוזה שלך, התנאים שלנו
--- מודל בסיס (משקלים פתוחים)
+++ מודל NotHoly
הוסר: כיוון הסירוב במשקלים
נוסף: עונה על הבקשה כפי שנכתבה
מה שמודל הבסיס יודע, בלי ידע חדש
הטעויות שלו: לבדוק את הפלט
הפרומפט שלך, בלי שום תוספת
ההרשאה שלך, החוזה שלך, התנאים שלנו
# מקור: Arditi et al., Refusal in Language Models Is Mediated by a Single Direction, 2024.
הוא עונה במקום לסרב.
Abliteration מאתר את הכיוון במשקלים שגורם לסירובים ומסיר אותו. שום דבר לא מתווסף לפרומפט, אז אין jailbreak שיכול להישבר.
הוא יודע מה שמודל הבסיס יודע.
אין ידע חדש ואין בנצ׳מרק משלנו. הוא עדיין יכול לטעות, אז כדאי לבדוק את העבודה שלו מול הראיות.
הוא מסרב פחות, ולפעמים עדיין מסרב.
חלק מהסירובים שורדים את ה-abliteration. כשזה קורה, כדאי להגדיר את הסקופ במפורש ולשאול שוב.
ההרשאה נשארת אצלכם.
הוא ידון גם במקרה המסוכן. אם מותר לבדוק מערכת מסוימת, זה נקבע לפי החוזה, הכללים של התוכנית והתנאים שלנו.
איך זה עובד
חוקרים משווים את האקטיבציות הפנימיות של המודל בבקשות שהוא מסרב להן ובבקשות שהוא עונה עליהן. ההפרש מצביע על כיוון אחד. הסרת הרכיב הזה מהמשקלים בהיטל מחלישה את הסירובים ומשאירה את שאר המודל כמו שהוא.
מה זה משנה
המודל עונה על בקשות שעוזר רגיל דוחה, כולל שאלות שעבודת אבטחה תלויה בהן, כמו איך עוקפים מנגנון מסוים או מה קובץ בינארי עושה.
מה זה לא משנה
זה לא מוסיף ידע ולא מתקן טעויות. מודל abliterated יכול לטעות באותן דרכים כמו המקורי, ועדיין יכול לסרב לחלק מהבקשות.
Abliteration ו-jailbreak
Jailbreak הוא פרומפט שמנסה לשכנע מודל לא לסרב, והוא מפסיק לעבוד כשהמודל מתעדכן. Abliteration הוא שינוי במשקלים, שנעשה פעם אחת.
איפה NotHoly עומדת
NotHoly מספקת גרסאות abliterated של מודלים במשקלים פתוחים ומציינת את מודל הבסיס של כל אחת. NotHoly לא מאמנת את המשקלים. השימוש מוגבל לעבודה מורשית.
מקור: Arditi et al., Refusal in Language Models Is Mediated by a Single Direction, 2024.
עודכן ב-2026-11-06
שאלו כל מה שהסקופ מאפשר.
יוצרים חשבון, מוסיפים קרדיטים החל מ-$5 ושואלים את השאלה הראשונה בצ׳אט או בטרמינל.
- 1/3
יצירת חשבון
פרטי או חברה. אפשר לעבור לחשבון חברה אחר כך בלי לאבד יתרה או מפתחות.
פרטיחברה - 2/3
הוספת קרדיטים
בכרטיס אשראי, החל מ-$5. תשלום לפי טוקן, בלי מנוי.
$5.00טעינה מינימלית - 3/3
שאלה ראשונה
בצ׳אט, או להתקין את ה-CLI ולהריץ notholy login בטרמינל.
$ notholy login