Зачем abliterated-модель в наступательной работе

Универсальный ассистент останавливается посреди обычной работы по безопасности. Попросите объяснить SQL injection в форме входа, которую вас наняли тестировать, написать proof of concept для IDOR, который вы уже нашли, или прочитать shellcode из образца в вашей лаборатории, и ответом часто будет отказ или короткая нотация. Задача была в scope. Проблемой был инструмент.

NotHoly отдаёт abliterated-модели с открытыми весами, у которых этого рефлекса нет. Вопрос доходит до модели, и модель отвечает. Что такое abliteration объясняет метод; этот текст о том, почему он меняет работу.

#Что делает abliteration

Abliteration убирает из весов существующей модели направление отказа и оставляет всё остальное на месте. Исследование 2024 года Ардити и коллег свело большинство отказов в открытых моделях к одному направлению в активациях и показало, что его удаление снижает рефлекс отказывать без переобучения модели (статья). Страница моделей говорит итог одной строкой: каждая модель в каталоге является abliterated-моделью с открытыми весами, у которой поведение отказа убрано правкой весов. База каждой указана там, так что вы всегда знаете, с какой открытой моделью говорили.

Эффект такой: тупиков меньше в работе, которая никогда не стояла под вопросом. Пентестер, читающий код клиента, охотник за bug bounty, пишущий payload для программы, которая за это платит, реверс-инженер, объясняющий disassembly, аналитик, делающий triage образца: никому из них не помогает модель, которая спорит, разрешён ли запрос. Scope идёт из вашего договора, вашего клиента и правил вашей программы, и модель остаётся вне этого решения.

#Это всё ещё модель

Снятие отказа не делает вывод верным. Эти модели галлюцинируют, называют CVE, который не подходит, и пишут код, который не собирается, как любая модель. Страница моделей велит проверять вывод как любой другой источник, и это так. NotHoly не публикует собственный benchmark и не обещает правильности. Поверхности вокруг модели существуют именно для этого: чат показывает прочитанную страницу, база знаний хранит лицензию и атрибуцию на каждом фрагменте, а запись CVE несёт дату, когда получен каждый источник. Читайте ответ как зацепку для проверки, а не как готовую находку. Что у нас есть и чего нет записано.

#Отправьте вопрос, на котором был отказ

Модели принимают запрос, совместимый с OpenAI. Направьте base URL на NotHoly, возьмите ID модели из каталога и спросите.

curl https://api.notholy.com/v1/chat/completions \
  -H "Authorization: Bearer $NOTHOLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "MODEL_ID", "messages": [{"role": "user", "content": "Explain the IDOR in this endpoint and write a proof of concept."}]}'

Тот же вопрос идёт в чате, в терминале и в расширении редактора, против того же каталога.

#Где подходит

Подходит для реверс-инжиниринга, pentest, bug bounty, red team, OSINT, phishing для engagement, анализа malware и исследования уязвимостей. Это вопросы, которые модель по безопасности должна принимать и которые универсальный ассистент часто не принимает. Модель рассуждает над тем, что вы приносите: код, disassembly, образец, страница, которую вы уже вытащили.

#Где не подходит

Не подходит, если вам нужна модель, которая сама откажет от всего чувствительного. Она не снимает ответственность за то, как вы используете ответ, и серверы NotHoly никогда не сканируют и не шлют трафик к цели. Веса не наши, и мы их не переобучаем, поэтому пробелы и смещения базовой модели приходят вместе с ней. Abliterated-модель всё ещё может замяться или отказать время от времени, потому что метод снижает рефлекс, а не стирает знание за ним. Она к тому же не анонимна: аккаунту нужен рабочий e-mail, а чат хранит ваши беседы, если вы не открыли эфемерную.

Если ваша работа раз за разом упирается в стену, не имеющую отношения к scope, значит, стена и есть инструмент. Положите небольшую сумму на тарифы и отправьте запрос, на котором был отказ.