#machine-learning
7 posts
2026 - outubro
1 postTreinei meu próprio modelo de IA (Spoiler: é só pra estudo)
Faltava um exercício: treinar um LLM do zero. Parti do microgpt do Karpathy, 200 linhas de Python puro, e expandi pra um laboratório com tokenizer, pré-treino, SFT, servidor compatível com OpenAI e integração com o OpenCode. Menos de duas semanas, uma RTX 5090, 10 bilhões de tokens, 137 horas de treino, no máximo uns R$ 80 de luz. O modelo final tem 337 milhões de parâmetros, acerta 58 de 100 funções Python simples e zera em tudo que exige agir num repositório. Explico cada etapa, os tropeços, as dimensões contra GPT-2 e modelos de fronteira, e por que acho que o futuro são modelos menores e especializados.
2025 - maio
2 postsÚltimo Tentativa de Treinar uma LLM com LoRa. Tiro de canhão, mas errando a mosca.
Aluguei uma H100 para treinar Qwen3-32B com LoRA, mas o modelo consumiu quase toda a VRAM, ficou lento e, no fim, não conseguiu gerar código utilizável.
Ensinando Zig mais recente pra sua LLM - Treinando LoRas (quase)
Treinei um LoRA para levar Zig 0.14 ao Qwen3-8B. O modelo passou a responder que conhecia a versão nova, mas continuou inventando detalhes e errando código, num semi-sucesso.
2025 - abril
1 postEntendendo o Básico de ComfyUI pra gerar imagens com I.A.
Explico os principais componentes do ComfyUI usando um workflow que transforma uma foto em anime. Modelos, mapas e parâmetros mudam bastante o resultado, então é preciso experimentar.
2023 - junho
1 post[Akitando] #142 - Entendendo COMO ChatGPT Funciona - Rodando sua Própria IA
Rodei um Vicuna 30B localmente e mostro como transformers geram texto por probabilidades, com limites de contexto, custo e escala. Hoje, servem como auxílio, mas não são AGI nem substituem programadores.
2023 - abril
1 post[Akitando #140] Desbloqueando o "Algoritmo" do Twitter - Introdução a Grafos
Akita analisa o código aberto das recomendações do Twitter, passando por grafos, PageRank e GraphJet. O repositório é incompleto, não compila sem arquivos essenciais e mostra só parte do sistema em produção.
2020 - setembro
1 post[Akitando #84] Entendendo "O Dilema Social" e Como Você é Manipulado
Akita disseca The Social Dilemma, explica machine learning, manipulação e Bayes, e dá nota 5/10 ao documentário. Para ele, pensamento crítico importa mais que culpar as ferramentas.