Parametre
Modelin “ayar düğmelerinin” sayısı. Daha fazla parametre her zaman daha iyi anlamına gelmez ama genellikle daha yüksek kapasite demektir.
Parametreler, modelin eğitim sırasında ayarladığı sayılardır. Bunları, ayarları ağın davranışını belirleyen milyonlarca küçük düğme gibi düşünebilirsiniz. Modelin boyutu parametre sayısıyla ifade edilir: milyarlar (B) artık standart hâle gelmiştir, en büyük modellerde ise bu sayı yüz milyarları bulur. Daha fazla parametre genellikle daha fazla kapasite demektir; ancak çalıştırma maliyetini artırır ve yanıtları yavaşlatır. Bu nedenle dev modellerin yanı sıra, boyutlarının çok küçük bir kısmına sahip olmalarına rağmen belirli görevlerde şaşırtıcı derecede başarılı olan küçük ve uzmanlaşmış modeller de geliştiriliyor.