当前位置:首页 > 实时热点 > 正文内容

马斯克宣布开源Grok-2 最强开源模型问世

5小时前实时热点4

  马斯克宣布开源Grok-2 最强开源模型问世!马斯克终于开源了Grok-2。xAI正式宣布向所有人开放Grok-2,并预告Grok-3将在6个月后开源。Grok-2于2024年完成训练,体积超过500GB,其混合专家(MoE)架构在Grok-1的基础上进行了改进。

  此次开源包括Grok-2的核心部分,技术特点如下:总参数量高达9050亿,在推理时每次激活其中的1360亿参数,使其成为目前最强大的开源模型之一;支持高达131,072 token的上下文长度,可以一次性处理非常长的文档或对话历史;采用混合专家架构,可以在不增加巨大计算成本的前提下大幅扩展模型规模;预训练数据覆盖了大量的文本和代码,截止到2024年初。

  

  关于开源权限,当关联公司年收入低于一百万美元时,才可用于商业用途,超过此门槛的商业用途需获得xAI的单独许可。除非协议条款允许对Grok 2进行修改或微调,否则不得使用材料、衍生品或输出来训练、创建或改进任何基础、大型语言或通用人工智能模型。

  现在,Grok-2已在Hugging Face上开放下载。用户可以通过SGLang部署,下载权重文件并启动服务器。下载过程中可能会遇到一些错误,需要多次重试直到成功。下载完成后,该文件夹下应包含42个文件,总大小约500GB。启动服务器需要安装最新版的SGLang推理引擎,并使用正确的对话模板发送请求。

  网友XFreeze表示,xAI的发展速度极其惊人,仅用122天建成并全面投入运营的孟菲斯巨像数据中心配备了100,000块英伟达H100 GPU。短短两年内,xAI凭借Grok 4的发布,以极其精简的团队登顶全球最强人工智能之巅。黄仁勋曾称这是“超人”之举,只有马斯克能做到。有网友认为,这一切就像在实时观看一个科幻梦想成真,真正达到了创新的巅峰。预计5年内,xAI将打造出5000块H100巨无霸超算,老马自信满满地表示,xAI很快就能超越谷歌以外的所有对手。马斯克宣布开源Grok-2 最强开源模型问世

相关文章

宣布永远关注!三一集团:许愿有天请赵露思开挖掘机 超强带货能力令商家震惊

宣布永远关注!三一集团:许愿有天请赵露思开挖掘机 超强带货能力令商家震惊

   三一集团:许愿有天请赵露思开挖掘机   【三一集团:许愿有天请赵露思开挖掘机】8月8日,三一集团官方账号在社媒...

4-0!王楚钦把张本智和打笑了 侧身倒地冲直线,张本“望球兴叹”!!

4-0!王楚钦把张本智和打笑了 侧身倒地冲直线,张本“望球兴叹”!!

   王楚钦把张本智和打笑了   【王楚钦把张本智和打笑了】北京时间7月14日,wtt美国大满贯男单决赛上,王楚钦首...

专家:美股美债对美经济衰退看法不同 市场信号分歧明显

专家:美股美债对美经济衰退看法不同 市场信号分歧明显

  上周公布的美国非农就业数据表现不佳,促使固定收益投资者迅速调整预期实时热点,认为经济将急剧放缓。然而,在股票和信贷市场中,这份就业报告的影响几乎被忽视。本周,各类高风险交易再度飙升,尽...

川渝鄂豫苏皖等地将迎暴雨天气 局地大暴雨或特大暴雨

川渝鄂豫苏皖等地将迎暴雨天气 局地大暴雨或特大暴雨

  中央气象台预计,8月9日下午至12日,四川盆地、西北地区东南部至黄淮南部、江汉、江淮一带将出现持续较强降雨天气。四川中东部、云南东北部、重庆中北部、陕西东南部、河南南部、湖北、湖南北部...

中国男篮三战全胜晋级八强 锁定小组头名直通淘汰赛

中国男篮三战全胜晋级八强 锁定小组头名直通淘汰赛

  北京时间8月9日,中国男篮在亚洲杯小组赛中对阵西亚劲旅约旦队。经过四节较量,中国男篮以90比68战胜约旦,三战全胜以小组第一的身份晋级淘汰赛,锁定亚洲杯八强。   ...

泰方指责柬违反渥太华公约 柬方驳斥 边境冲突再起波澜

泰方指责柬违反渥太华公约 柬方驳斥 边境冲突再起波澜

  泰国陆军发言人文泰·苏瓦里9日表示,3名泰军士兵在泰柬边境巡逻时触雷受伤,柬方的行为明显违反了禁止使用杀伤性地雷的《渥太华公约》。文泰还提到,泰方8月4日在四色菊府边境一处曾被柬军占据...