- A+
新智元报道
据业内人士透露，
编辑：YHluck
站在用户角度来说，
【新智元导读】Grok-2正式开源，登上Hugging Face，9050亿参数+128k上下文有多猛？近万亿参数「巨兽」性能首曝。马斯克再现「超人」速度，AI帝国正在崛起。
说到底，
什么？马斯克终于开源了Grok-2！
一大早，xAI正式官宣，向所有人开源Grok-2！
综上所述，
马斯克还预告，Grok-3将在6个月后开源。
Grok-2于2024年完成训练，体积超500GB。其混合专家（MoE）架构在Grok-1的基础上进行了改进。
事实上，
那Grok-2到底开源了哪些部分？开源版本的技术特点是什么？开源权限有什么？
综上所述，
本平台为朋友们一一梳理了下，上干货：
其实，
开源了什么？
XM外汇消息：
xAI本次向所有使用者开源了Grok-2以下核心部分：
XM外汇行业评论：
-
-
模型权重
综上所述，
-
模型架构
必须指出的是，
模型权重
模型架构
XM外汇专家观点：
Grok-2开源版本技术特点
不妨想一想，
这个开源的「大脑」拥有非常强大的技术规格：
巨大的模型规模：总参数量高达9050亿（905B），在推理时，每次会激活其中的1360亿（136B）参数。这使它成为目前最强大的开源模型之一。
与其相反的是，
超 XM官网 长的上下文窗口：承认高达131,072 (128k) token的上下文长度。
这意味着它允许一次性阅读和处理非常长的文档或对话历史（大约相当于一本200多页的书），进行更棘手的推理和总结。
混合专家架构 (MoE)：这种架构允许在不增加巨大计算成本的前提下，大幅扩展模型规模，提升模型能力。
较新的训练数据：其预训练数据覆盖了大量的文本和代码，截止到2024年初。
反过来看，
Grok-2和Grok-1架构不同点，网友对此做了一个总结：
开源权限是什么？
综上所述，
商业用途门槛：仅当关联公司年收入低于一百万美元时，才可用于商业用途。超过此门槛的商业用途需获得xAI的单独许可。
但实际上，
限制：除非本协议条款允许对Grok 2进行修改或微调，否则不得运用材料、衍生品或输出（包括生成的数据）来训练、创建或改进任何基础、大型语言或通用人工智能模型。
XM外汇消息：
目前，Grok-2现已正式开源，可在Hugging Face上下载。
HF地址：https://huggingface.co/xai-org/grok-2
综上所述，
运用方法：通过SGLang部署
可能你也遇到过，
下载权重文件
朋友们允许把/local/grok-2替换成任意朋友们喜欢的文件夹名称。
下载过程中朋友们可能会遇到一些错误，请多次重试直到下载成功。
如果下载成功，该文件夹下应包含42个文件，总大小大约为500GB。
说出来你可能不信，
启动服务器
安装最新版的SGLang推理引擎（版本≥v0.5.1），地址：
https://github.com/sgl-project/sglang/
有分析指出，
运用以下命令启动推理服务器。这个检查点（checkpoint）配置为 TP=8，因此需要8张GPU（每张显存大于40GB）。
XM外汇财经新闻：
发送请求
这是一个经过额外训练的模型，因此需要运用正确的对话模板。
朋友们应该能看到模型输出名字——Grok。
与其相反的是，
大佬点评
大家常常忽略的是，
网友XFreeze称，xAI发展的速度极其惊人！
事实上，
他透露，xAI位于孟菲斯的巨像数据中心仅用122天建成并全面投入运营，配备100,000块英伟达H100 GPU。
「短短两年内，xAI凭借Grok 4的发布，以极其精简的团队登顶全球最强人工智能之巅。」他感叹道。
黄仁勋曾称，这是「超人」之举，只有马斯克能做到！
在人工智能发展进程上，有网友毫不吝啬地赞美马斯克和xAI：他们正以光速推动AI的进步。
事实上，
他还预告，Grok 5训练即将启动。
然而，
有网友感叹道，92天内将容量翻倍，这不是资本分配带来的结果，而是一种绕过传统运用一种新的运营策略带来的。
总的来说，
有网友表示，这一切，就像在实时观看一个科幻梦想成真——真正达到了创新的巅峰！
说出来你可能不信，
Grok 4发布会上，马斯克曾预告了下一步路线图——
说出来你可能不信，
8月将发布编码模型，9月发布多模态智能体，10月发布视频生成模型。
但实际上，
xAI模型能飞速迭代，主要背靠了强大的超算中心。预计5年内，xAI将打造出5000块H100巨无霸超算。
老马自信满满地表示，「xAI很快就能干掉谷歌以外的所有对手，就连谷歌，超过它也是迟早的事」。
真是有点期待，下一个AI帝国诞生了。
有分析指出，
参考资料：
XM外汇专家观点：
https://huggingface.co/xai-org/grok-2返回搜狐，查看更多
