12日の発表と13日付の配布案内
公式ブログは11月12日に145B・120Bモデルの公開を発表し、開発用リポジトリは13日付で案内を掲載した。Bはモデルの規模を表す十億単位の指標だ。端末上で文章生成や作業支援を行うため、モデルに加えて実行用のソフトウェアも提供する。ただし、共通の仕組みが掲げる対応機器の一覧と、今回配られた大型モデルの対応環境は同じではない。
必要な部分を選んで計算するMoE
技術資料によると、145BはMoEと呼ぶ方式を使う。複数の専門的な処理部分を用意し、入力ごとに一部を選んで計算する仕組みで、全体の規模と毎回使う計算量を分けて考えられる。実行時はGPU側のメモリーだけでなく主記憶も利用する。公開された小さいメモリー枠での測定は、特定の機器に制限を設けた試験であり、その容量さえあれば動くという最低要件の保証ではない。
コードの公開とモデルの商用利用は別条件
モデルカードは、個人利用、研究、内部利用、生成結果の商用利用などと、モデルの販売や商用サービスへの組み込みを区別している。後者の一部には別途の書面による許諾が必要と説明する。また、元になったQwen側の条件も適用される。実行用コードの公開ライセンスを見ただけで、モデル自体をあらゆる事業へ自由に転用できると判断することはできない。
対応OSと性能評価で残る確認点
今回の構築手順が対象とするのは、CUDA 13を使うNVIDIA製GPUとLinuxまたはWindowsだ。資料にあるApple M2 Ultraの測定は、macOS版の配布開始を示すものではないと明記されている。性能表も配布元による結果で、量子化というデータを小さくする処理の各形式について、品質を個別に検証した表ではない。今後は第三者による再現試験と、配布対象の更新を確認したい。