自宅PCで巨大AIが高速動作？　ノートPCで350億、プロ向けGPU1枚で7530億パラメータのAIモデルを非公式量子化なしで動かす無償ツール「FreeToken」など生成AI技術5つを解説（生成AIウィークリー）

この1週間の気になる生成AI技術・研究をいくつかピックアップして解説する今回の「生成AIウィークリー」（第157回）は、AIが自ら問題を作って学習する自己改善型モデル「Ornith-1.5」や、スマホで撮った1本の動画から動く人の3D映像を作るAI技術「4DAnyone」を取り上げます。

また、ご家庭のノートPCやゲーミングPCなどで巨大なAIモデルを動作させることを可能にするツール「FreeToken」や、Z.aiの新しいモデル「GLM-5.3」をご紹介します。

そして、生成AIウィークリーの中でも特に興味深いAI技術や研究にスポットライトを当てる「生成AIクローズアップ」では、Hugging Faceのトレンドを占拠したQwen3.8-27B派生版の大量発生を別の単体記事で取り上げています。

Qwen3.8-27B派生版が大量発生、トレンド上位埋め尽くす。10件は「無検閲版」で過半数（生成AIクローズアップ） | テクノエッジ TechnoEdge

今回は、Hugging Faceのトレンドを占拠したQwen3.8-27B派生版の大量発生を取り上げます。

https://www.techno-edge.net/article/2026/08/26/5426.html続きを読む »

AIが自ら問題を作って学習する自己改善型モデル「Ornith-1.5」、一部でClaude Opus 4.8に匹敵

「Ornith-1.5」は、AI自身が学習のサイクルを回して成長していく自己改善機能を備えた言語モデルです。

人間が手作業で用意した学習データではなく、モデル自身が適した問題を作成し、その課題を解くための作業環境や手順を整え学習します。

モデルは397B、35B、9Bの3種類が提供されています。397Bは、ベンチマーク評価において同規模のオープンソースモデルを上回りました。また、コーディング能力を測るTerminal-Bench 2.1やSWE-bench VerifiedなどでClaude Opus 4.8を上回るスコアを達成し、匹敵する性能を示しました。

また、量子化版をスマートフォンに搭載できる9Bモデルは、Gemma 4-31Bなど、規模の大きいモデルに匹敵するパフォーマンスを発揮します。

スマホで撮った1本の動画から、動く人の3D映像を作るAI技術「4DAnyone」

カメラ（単眼）で撮影した動画から、さまざまな角度から自由に見ることができる動く人物映像を生成する技術「4DAnyone」が発表されました。

立体化（4DGS）には数十視点の映像が必要ですが、一度に生成できる量には限りがあるため、視点をグループに分けて処理することになります。しかし、すでに生成した視点をお手本にすると参照量が視点数に比例して膨らむ問題と、グループ同士が情報を共有できず全体の構造が食い違う問題が生じます。

4DAnyoneは、参照映像を圧縮して一定量に収める「RCP」と、序盤はグループ分けを入れ替えて構造情報を伝播させ、仕上げでは固定して細部を安定させる「TCR」でこれら問題を解決しました。

また、視点の手がかりには3D骨格を使い、手前の部位が奥を隠すように描くことで前後の曖昧さを解消しています。

ノートPCで350億、プロ向けGPU1枚で7530億パラメータのAIモデルを追加の量子化なしで高速に動かす無償ツール「FreeToken」

高性能なオープンウェイトモデルが続々と登場していますが、動かすにはデータセンター級の設備が必要です。Apache 2.0ライセンスの「FreeToken」は、極端な量子化なしで公式チェックポイントを用い、手持ちのノートPCやゲーミングPCで巨大モデルを動かすためのシステムです。

MoE（Mixture-of-Experts）型のモデルは、生成時に全パラメータのうち一部のエキスパートしか使いません。理論上は家庭のPCでも動くはずですが、使わないエキスパートもどこかに置いておく必要があり、その出し入れの遅延と、エージェント特有の長いやり取りで繰り返される再計算がボトルネックでした。

FreeToken は、計算している裏で次の層のエキスパートをまとめて先回りして運ぶことで転送待ちを隠し、足りない分だけGPUに運ぶかCPUで計算するかをマシンの帯域に合わせて振り分けます。さらに、AI がツールを使ったり考え直したりする際の文章の切れ目に印を置くことで、履歴が編集されても最初から計算し直さずに済ませ、ブラウザやゲームで空きメモリが変動してもエンジンを止めずに追従します。

結果、VRAM 8GBのRTX 4060ノートPCでNVFP4版Qwen3.6-35B-A3B（350億パラメータ）が毎秒39.3トークン、VRAM 32GBのRTX 5090でMXFP4版DeepSeek-V4-Flash（2840億パラメータ）が毎秒22～25トークンで動作。さらに、ワークステーションGPU 1枚（RTX PRO 6000）でもNVFP4版GLM-5.2（7530億パラメータ）が毎秒14.9トークンで動作したといいます。これらは有志による追加の量子化に頼らず、公式配布のチェックポイントだけを使っています。

Z.aiが新モデル「GLM-5.3」を発表　自律コーディングとセキュリティ能力が進化

Z.aiから新たなAIモデル「GLM-5.3」が発表されました。前世代のGLM-5.2と同じベースモデルを使用しつつ、事後学習を大規模化したことで性能向上を遂げています。

高まったのは、自律的なコーディング能力。GLM-5.3は、単なるプログラミング問題を解くだけでなく、長期タスクでも性能向上が持続するようになっています。社内ベンチマークであるZ.ai Code Benchにおいて、GLM-5.2と比較して50%の性能向上を実現しています。

さらに、サイバーセキュリティ能力も進化を見せています。CyberGymで84.5%（GLM-5.2は77.2%）と最高スコアを記録し、実環境でも中国のセキュリティチームと協力し、269のOSSプロジェクトから2,436件の脆弱性を発見しました。