Chinese bedrijven ontwikkelen lichtgewicht grote taalmodellen. Het lichtgewicht model, ook wel bekend als een kleinere grote model, verwijst in principe naar diegenen die minder parameters vereisen. Dit betekent dat ze een beperkte capaciteit hebben om tekst te verwerken en te genereren in vergelijking met grote modellen. Simpel gezegd zijn deze kleine modellen als compacte auto's.