スペキュレーティブデコーディング

スペキュレーティブデコーディングは、小型の下書きモデルと大型の検証モデルを組み合わせ、出力品質を損なわずに推論速度を大幅に向上させるLLM最適化技術である。仕組みから活用例まで徹底解説する。