Experts say exploiting Anthropic’s Fable isn’t how Kimi K3 got so good
概要
ホワイトハウスの科学顧問マイケル・クラツィオス氏とスティーブン・ベッセント財務長官は、中国の企業ムーンショットが制限されたチップを使用してAnthropicのFable LLMを蒸留し、強力なKimi K3モデルを構築したと主張した。しかし、AI専門家らは、そのタイムラインが短すぎてそのような規模の効率的な蒸留を行うことは不可能であり、中国のエンジニアチームには高い技術的専門知識があると指摘し、この主張に懐疑的な見方を示している。蒸留や制限されたハードウェアの使用はAI業界で共通の懸念事項である一方、研究者らはKimi K3の高度な能力は単にアメリカのモデルを模倣したものではなく、厳格なトレーニング手法に由来する可能性が高いと強調している。
(出典:TechCrunch)