Un modelo de 26M de parámetros entrenado con destilación de Gemini para tool calling apareció en HN y me hizo parar todo. No para celebrar, sino para entender qué problema real señala, dónde están los límites y si vale la pena integrarlo en un stack como el mío.
Un modelo open-weight de 35B parámetros corriendo en mi máquina le ganó a Claude Opus 4.7 en una tarea concreta: dibujar un pelícano en ASCII. No es un benchmark abstracto. Es una pregunta real sobre qué estamos pagando y cómo medimos inteligencia.
Fui team Ollama desde el día uno. La semana pasada intenté reemplazarlo con llama.cpp directo y un wrapper mínimo. El resultado me obligó a repensar algo que creía que ya tenía resuelto: Ollama soluciona UX, no infraestructura.
Reproducí el experimento del LLM tiny que explotó en Show HN: Gemma corriendo en el browser, sin API keys, desde mi stack habitual. Acá está todo lo que salió mal — y lo poco que salió bien.
32 años en la trinchera del desarrollo. Acá escribo lo que aprendí, lo que rompí y lo que nadie te cuenta en los tutoriales.
Sin spam. Cancelás cuando querés.