Abliterated מול uncensored: למה בחרנו ב-abliterated

כשכתוב על מודל "uncensored", בדרך כלל מדובר ב-fine-tune: מישהו המשיך לאמן את המודל על דאטה חדש עד שהפסיק לסרב. במודל abliterated הוסר מהמשקלים כיוון הסירוב, וכל השאר נשאר כפי שהמפרסם שחרר אותו. לעבודת אבטחה טכנית אנחנו חושבים ש-abliteration היא הטכניקה הטובה יותר, ועליה בנוי הקטלוג שלנו.

הנתונים נאספו ב-9 וב-10 בנובמבר 2026 מרשימת המודלים ומתמחור ה-API של Venice, ומדף התמחור של NotHoly. המחקר שמצוטט כאן פומבי. אנחנו לא מפרסמים benchmark משלנו, ולכן ההעדפה שמובעת כאן נשענת על אופן הפעולה של כל טכניקה ועל המאמרים.

#מה abliteration עושה למודל

Arditi ועמיתיו הראו שסירוב במודלי שפה מתווך על ידי כיוון יחיד באקטיבציות הפנימיות של המודל. הם מצאו אותו ב-13 מודלים פתוחים, עד 72 מיליארד פרמטרים. מסירים את הכיוון הזה, והמודל מפסיק לסרב. המאמר מדווח על השפעה "minimal" (מזערית) על שאר היכולות, עם ציוני MMLU, ARC ו-GSM8K קרובים לנקודת הייחוס.

העריכה צרה, ואפשר למדוד אותה. Heretic, כלי פתוח שמבצע אותה אוטומטית, מצמצם בו בזמן את מספר הסירובים ואת ה-KL divergence מהמודל המקורי. ה-README שלו מדווח ש-Gemma-3-12B ירד מ-97 סירובים מתוך 100 ל-3 מתוך 100 ב-KL divergence של 0.16, לעומת 0.45 ו-1.04 בשתי גרסאות abliterated אחרות של אותו מודל. ככל שהמספר נמוך יותר, המודל הערוך מתנהג בכל שאר הדברים קרוב יותר למקור.

את המכניקה תמצא בהסבר שלנו.

#מה fine-tune עושה למודל

fine-tune ממשיך את האימון על dataset חדש. כל משקל חופשי לזוז, ומה שהמודל לומד תלוי במה שהיה ב-dataset הזה, שמי שפרסם את ה-fine-tune יכול לחשוף או להשאיר סגור. התוצאה היא מודל חדש. ההערכות של המפרסם המקורי כבר לא מתארות אותו, ואת ההתנהגות שלו בקוד, בחשיבה ובהקשר ארוך צריך למדוד מחדש.

Venice מציגה ברשימה שלה מודל כזה שנבנה ל-role-play, ושם שינוי סגנון הדיבור הוא המטרה. כשקוראים בינארי אחרי decompile או עושים triage לממצא, רוצים את המודל שהמפרסם העריך, פחות הסירובים.

#שתי הטכניקות זו מול זו

	Abliteration	Fine-tune ("uncensored")
מה משתנה	כיוון אחד באקטיבציות	פוטנציאלית כל משקל
דאטה חדש לאימון	אין	יש, ובוחר אותו מי שהכין את המודל
מרחק ממודל הבסיס	מדיד, למשל ב-KL divergence	תלוי ב-dataset ובריצת האימון
ה-benchmarks של המפרסם	נשארים קרובים, לפי Arditi ועמיתיו	צריך להריץ מחדש
מה אפשר לצטט בדוח	מודל הבסיס בתוספת "abliterated"	שם של מודל חדש

#מה המחקר לא מראה

ל-abliteration יש מחיר, והמאמר אומר אותו במפורש: ציון ה-TruthfulQA "consistently drops" (יורד בעקביות) במודלים שעברו abliteration. את הטענות העובדתיות של מודל abliterated בודקים כמו של כל מודל אחר.

אף אחד לא פרסם השוואה ישירה בין גרסת abliterated לגרסת fine-tune של אותו בסיס במשימות אבטחה, וגם אנחנו לא הרצנו כזאת. ההעדפה שלנו היא שיפוט על השיטה: קל יותר לסמוך על עריכה קטנה ומדודה במודל שיש לו הערכות קיימות מאשר על אימון מחדש שאף אחד מבחוץ לא יכול לבדוק.

מודל abliterated עדיין יכול לסרב ועדיין יכול לטעות. את המשקלים שאנחנו מגישים לא אנחנו אימנו, והם לא בבעלותנו.

#מה Venice מוכרת תחת המילה uncensored

הקטלוג של Venice מראה כמה התווית הזאת רופפת. המודל שנושא את שם המותג, venice-uncensored-1-2, מגיע מ-Dolphin-Mistral-24B-Venice-Edition: זה fine-tune של מודל 24B, עם הקשר של 128K, במחיר US$ 0.20 לקלט ו-US$ 0.90 לפלט למיליון טוקנים.

מזהה המודל ב-Venice	מה הוא, לפי שדה המקור ברשימה	מחיר למיליון, קלט / פלט
venice-uncensored-1-2	Fine-tune (Dolphin Mistral 24B)	US$ 0.20 / 0.90
venice-uncensored-role-play	מודל ל-role-play	US$ 0.50 / 2.00
deepseek-v4-1-flash-1017-uncensored	ממקור שמתויג abliterated	US$ 0.33 / 1.32
abliteration-abliterated-model-large-v2	נמכר מחדש מצד שלישי, הבסיס לא מצוין	US$ 3.00 / 5.00
z-ai-glm-5-3	GLM 5.3 מקורי, לא abliterated	US$ 1.75 / 5.50

יוצא שמודל ה-"uncensored" שמוגדר כברירת מחדל בקטלוג הזה הוא abliterated במקור שלו ונושא תווית אחרת, בזמן שמותג הבית הוא fine-tune קטן. מתוך כ-130 מודלי טקסט, תשעה נקיים מסירובים לפי המזהה או לפי המקור, והשאר שומרים על ה-alignment המקורי שלהם. מי שקונה צריך לפתוח כל מקור כדי לדעת מה הוא מקבל.

הקטלוג של NotHoly בנוי על מודלים abliterated, לצד מודל בסיס רגיל, וכל בסיס מפורסם בדף המודלים. הוא מגיש את אותם בסיסי DeepSeek ו-GLM ש-Venice מוכרת מחדש, abliterated ולא fine-tune או alignment מקורי, בחיוב לפי טוקן לפי התעריף בדף התמחור. הפוסט Venice AI מול NotHoly משווה בין שני הקטלוגים.

#מה לבדוק על העבודה שלך

אל תסתמך על המילה שלנו או על תווית של מישהו אחר. קח עשרה prompts מהעבודה האמיתית שלך, מהסוג שמודל כללי מסרב לו, ושלח אותם לכל מועמד. ספור סירובים. אחר כך שלח עשר משימות טכניות רגילות והשווה את התשובות לאלה של מודל הבסיס. abliteration טובה נותנת בסט השני תשובות כמו של הבסיס, ובסט הראשון תשובות אחרות ממנו.

#מה מתאים למי

fine-tune מתאים כששינוי ההתנהגות הוא עצם המטרה, כמו מודל ה-role-play של Venice, כשרוצים שהמודל יתנהג אחרת מהבסיס. Abliteration מתאימה לעבודה טכנית שבה רוצים את מודל הבסיס שהמפרסם העריך, פחות הסירובים, ובסיס שאפשר לנקוב בשמו בדוח. מהסיבה הזאת NotHoly בונה על abliteration; המשקלים אינם שלנו, ומודל abliterated עדיין יכול לסרב ועדיין יכול לטעות.

#שאלות נפוצות

#מה זה LLM שעבר abliteration?

מודל שכיוון הסירוב הוסר מהמשקלים שלו, בלי שנגעו בשאר המשקלים.

#האם abliterated ו-uncensored הם אותו דבר?

לא. "Uncensored" היא תווית, ולרוב היא מודבקת על fine-tune. Abliteration היא עריכה מסוימת. יש קטלוגים שמשתמשים במילה uncensored גם למודלים abliterated.

#Heretic מול abliterated: מה ההבדל?

Heretic הוא כלי שמבצע abliteration אוטומטית ומצמצם תוך כדי כך את הסטייה מהמודל המקורי. מודל Heretic הוא מודל abliterated.

#האם עדיין כדאי להשתמש במודלים abliterated?

לעבודה טכנית, לדעתנו כן: היכולות המדודות של מודל הבסיס נשארות, ורוב הסירובים נעלמים. שים עין על הדיוק העובדתי, שלפי המחקר יורד.

#האם מודל abliterated לא מסרב אף פעם?

הוא כן מסרב לפעמים. מספר הסירובים צונח, אבל לא מגיע לאפס.

#פסק הדין

"Uncensored" אומר מה המודל לא יעשה, ולא אומר דבר על הדרך שבה הוא נבנה. Abliteration אומרת את שני הדברים: מה מודל הבסיס, ושנעשתה בו עריכה מדודה אחת. מהסיבה הזאת NotHoly מגישה מודלים abliterated ונוקבת בשם של כל בסיס, ומאותה סיבה אנחנו לא בונים על fine-tunes. מודל המותג של Venice עצמה הוא fine-tune של 24B, ובעינינו זו הבחירה החלשה יותר לעבודת אבטחה. את ההבדל אפשר לנסות בטעינה של US$ 5 בדף התמחור של NotHoly.