lf.wtf
Levi Foster

Pesquisa em IA

Relatórios de laboratório do meu trabalho com a edição direta de modelos de linguagem: ler o que um modelo pequeno já contém e depois enxertar partes que usam isso. Os resultados são de problemas que foram selados antes de qualquer construção começar.

Relatórios

  1. Enxertos de circuito

    Pequenos circuitos de regras levaram o SmolLM2-135M de 21.3% para 83.1% na multiplicação com problemas reservados. Cinco habilidades de matemática subiram de 37 a 62 pontos, sem mudar nenhum peso original e sem treino por gradiente.

    SmolLM2-135M Leia o relatório