Termos definidos com exatidão.
Definições curtas das palavras usadas em segurança ofensiva e em modelos abliterated.
A
- Abliteration
- Edição dos pesos de um modelo para remover a direção das ativações que provoca recusas, de modo que ele responda pedidos que recusaria.
- Análise estática
- Examinar código ou um binário sem executá-lo: estrutura, strings, imports, fluxo de controle.
C
- CVE
- Common Vulnerabilities and Exposures: um identificador público, como CVE-2021-44228, atribuído a uma vulnerabilidade divulgada.
- CVSS
- Common Vulnerability Scoring System: uma nota de 0 a 10 para a severidade técnica de uma vulnerabilidade, calculada a partir de um vetor de métricas.
- CWE
- Common Weakness Enumeration: um catálogo de tipos de fraqueza, como CWE-79 para cross-site scripting, ao qual as vulnerabilidades pertencem.
D
- Direção de recusa
- Uma única direção no espaço de ativações de um modelo de linguagem que, segundo a pesquisa, comanda as recusas. Removê-la enfraquece as recusas.
E
I
- IDOR
- Insecure Direct Object Reference: uma falha de controle de acesso em que trocar um identificador na requisição devolve o objeto de outra pessoa.
J
- Jailbreak
- Um prompt feito para o modelo ignorar o treino de segurança. Funciona por persuasão e costuma parar de funcionar quando o modelo é atualizado.
K
- KEV
- O catálogo Known Exploited Vulnerabilities da CISA: CVEs com evidência de exploração real, com prazos de correção para órgãos dos EUA.
M
- Modelo de pesos abertos
- Um modelo cujos pesos treinados são publicados, para qualquer pessoa rodar, estudar ou modificar.
P
- PoC
- Prova de conceito: a demonstração mínima de que uma vulnerabilidade existe e tem o impacto descrito.
- Prompt injection
- Instruções escondidas em conteúdo que o modelo lê, como um arquivo ou uma página, que tentam mudar o que o modelo ou as ferramentas fazem.
R
- RCE
- Execução remota de código: uma vulnerabilidade que permite rodar código num sistema alvo pela rede.
- Red team
- Uma equipe que simula um adversário contra uma organização, com autorização, para testar detecção e resposta.
- Regra Sigma
- Um formato genérico de regra de detecção em YAML que pode ser convertido para a linguagem de consulta de diferentes SIEMs.
S
- SSRF
- Server-Side Request Forgery: fazer um servidor mandar requisições para um destino escolhido pelo atacante, muitas vezes um serviço interno.
T
- Triagem
- Separar relatórios ou achados por validade, severidade e prioridade antes do trabalho mais fundo.
X
- XSS
- Cross-site scripting: injetar script que roda no navegador de outra pessoa, no contexto de um site vulnerável.
Pergunte tudo o que o seu escopo permite.
Crie a conta, adicione créditos a partir de US$ 10 e faça a primeira pergunta no chat ou no terminal.
- 1/3
Crie a conta
Individual ou empresa. Dá para virar empresa depois sem perder saldo nem chaves.
Pessoa físicaEmpresa - 2/3
Adicione créditos
No cartão, a partir de US$ 10. Você paga por token, sem assinatura.
$10.00recarga mínima - 3/3
Pergunte
No chat, ou instale o CLI e rode notholy login no terminal.
$ notholy login