AIモデルではなく、動かすための基盤が更新
開発チームは13日、llama.cppとggmlの両ライブラリーを1.0.0として公開した。推論とは、学習済みのモデルを使って応答などを計算すること。llama.cppはこの処理を幅広い機器で実行し、ggmlは数値計算の土台を担う。今回の版番号は新しいAIモデルの名称ではない。GitHubの両リリースページでも公開を確認でき、告知と変更一覧を対応させて読める。既に組み込んでいるアプリにとっては、接続部分の変更が焦点になる。
互換性の境界を、三つの版番号で示す
発表は、公開C APIの互換性を壊す変更を主要版番号、後方互換を保つ機能追加などを小版番号、不具合修正を末尾の番号で示す方針を掲げる。APIは、別のソフトが機能を呼び出すための取り決めだ。ABIはコンパイル済み部品同士の接続規則を指す。開発元はAPIとABIの非互換を主要版更新へ反映すると説明しており、今後の変更の境界を分かりやすくする意図がある。ただし、あらゆる利用条件で変更が不要になる保証ではない。
旧機能の削除と、多様な計算環境への変更
llama.cppの変更一覧は、非推奨だった公開機能の削除や、補助APIの正式なヘッダーへの移動などを挙げる。ヘッダーは、組み込む側に利用方法を伝えるファイルで、既存の拡張との適合確認が必要となる。ggml側でも古いAPIや処理を整理し、GPUなどの計算方式ごとに最適化や修正を加えた。通信規約を更新して互換性のない接続先を拒否する変更も含む。これらの追加を、一律の高速化率に読み替えることはできない。
利用者の反応と、更新時に確認する条件
Hacker Newsでは、同じ機材での速度改善や、Vulkan対応の機器で利用できる点を評価する声が見られた。いずれも投稿者個人の条件に基づく体験で、今回の全機能を独立検証した結果ではない。編集上は、版番号の節目だけで更新を急がず、利用中のアプリ、対応モデル、計算方式が新しい版を支えるかを確認するのが具体的な着眼点となる。今後の修正版や組み込み側の対応案内も、公開された変更一覧と合わせて追いたい。