量子化について詳しく解説する
量子化は、人工知能のモデルを小さくする技術として広く知られるようになった。学習済みモデルでは、数十億から数千億個に及ぶ重みが数値として保存されている。重みを 32 ビットや 16 ビットの浮動小数点数から、8 ビットや … 続きを読む
量子化は、人工知能のモデルを小さくする技術として広く知られるようになった。学習済みモデルでは、数十億から数千億個に及ぶ重みが数値として保存されている。重みを 32 ビットや 16 ビットの浮動小数点数から、8 ビットや … 続きを読む