marquina

国内最近发布的第一梯队大模型在跑分上已经接近 gpt4 这样的第一梯队了（至少是 gpt4 的早期版本）。但成本/算力限制了这些大模型的使用范围，而且 gpt4 本身也在不停的演进。
比如：minimax 的 abab6.5 （宣称万亿参数 moe ，gpt4 同等级规模）、天工 3.0 （ 4000 亿参数 moe ）

@JeriffCheng [激战大模型，云厂商到底拼什么？]( https://m.thepaper.cn/newsDetail_forward_24447179)
“尤其是字节的顶级显卡最多，A100 和 V100 总数接近 10 万块。阿里巴巴集团也拥有大约 10 万块顶级显卡，这些显卡也是阿里云的底气。”
冷知识，大模型火起来之前，各大厂商就已经出于自身业务需要/客户需要采购了大量显卡；大模型火起来后、美国制裁前，各大厂商也在积极向英伟达下单；美国制裁后，各大厂商还在向英伟达下单未被制裁的型号（ A800/H800/L20 等等）