Un modelo de lenguaje pequeño tiene relativamente pocos parámetros y también funciona en un portátil o un móvil.
Ejemplo
Un modelo pequeño en tu móvil ordena tus notas sin que los datos salgan del dispositivo.
Para profesionales
No hay un límite fijo. Según la fuente, se sitúa entre unos 10 000 y 40 000 millones de parámetros; lo decisivo es que el modelo funcione en hardware normal. Son rápidos, baratos y respetuosos con la privacidad, pero más débiles en conocimiento general. Para tareas de agente bien acotadas suelen bastar.
Prompts, skills, agentes y herramientas relacionados
