アリババが静かにMarco-MiniとMarco-Nanoをリリース：超高速で省エネなAIモデル

アリババの国際デジタルコマース部門が6日前に2つの新しい大規模言語モデル（LLM）をこっそりリリースしました。Marco-Miniは173億個のパラメータを持ちながら、実際には8.6億個しか起動しません。Marco-Nanoはさらに小さく、80億個のパラメータで6億個のみ起動します。これらは混合専門家（MoE）アーキテクチャを採用しており、必要なタスクに必要な部分だけを「起動」する仕組みです。パラメータと起動パラメータの比率が異常に効率的で、これは驚くほど高速で低コストで動作することを意味します。多言語対応が必要だけど、サーバーに負荷をかけたくない場合には理想的です。