当前位置:首页 > 实时热点 > 正文内容

DeepSeek提到的FP8到底是啥 引发AI圈热议

16小时前实时热点4

  DeepSeek提到的FP8到底是啥 引发AI圈热议!DeepSeek V3.1发布后,一则官方留言在AI圈引起轰动。短短不到20个字的留言中提到新的架构和下一代国产芯片,信息量巨大。受此影响,国产芯片企业的股价纷纷上涨,例如寒武纪早盘盘中大涨近14%,总市值跃居科创板头名。半导体ETF也在半天内大涨5.89%。

  

  许多人对UE8M0 FP8这一概念感到困惑。UE8M0 FP8可以拆分为两部分解释。UE8M0是MXFP8路径中的“缩放因子”,而MXFP8是Open Compute Project在2023年发布的8 bit微缩块格式。Open Compute Project是一个由Facebook(现Meta)、英特尔、Rackspace等发起的开源硬件协作计划,旨在通过共享数据中心及服务器设计推动行业效率提升。其成员包括微软、谷歌、亚马逊、AMD、英伟达以及国内的阿里、腾讯、百度等公司。

  

  MXFP8基于FP8建立,将常规浮点格式压缩到8 bit。MXFP8的核心思想是将张量切成固定长度的“块”,为每个块指定一个2的整数次幂作为“缩放因子”,然后将块内所有数值除以这个系数后再写成FP8。这种块级的缩放方式保留了8 bit位宽,同时扩展了可用动态范围。UE8M0中的U表示无符号,E和M分别代表指数位和尾数位分配到的bit数。UE8M0指8个bit全部分配给了指数位。

  采用全指数表示缩放因子的方式有多个好处。首先,处理器在根据缩放因子复原数据时只需移动指数位,无需进行浮点乘法、规格化或舍入逻辑,缩短了时钟关键路径。此外,UE8M0的动态范围覆盖2^(−127)到2^128,为后续块缩放提供了充足空间。它还能解决单尺度FP8无法同时处理大/小值的问题,减少了信息损失。

  

  UE8M0 FP8更适配“下一代国产芯片”。目前,大部分已量产的国产AI加速器仍使用FP16/BF16 + INT8计算通路,未集成完整的FP8乘加单元。但摩尔线 NPU等新款国产芯片已在宣传资料中列出“原生 FP8”或“Block FP8”支持,并与多家厂商联合验证UE8M0格式。虽然下一代国产芯片在HBM/LPPDDR带宽方面仍有差距,但UE8M0让一组32个FP8数据只追加8bit缩放引子,相比传统FP32节省75%流量,成为重要优化方向。DeepSeek提到的FP8到底是啥 引发AI圈热议

相关文章

董璇:下一个大事就是有了小小张 姐弟恋的真实与挑战

董璇:下一个大事就是有了小小张 姐弟恋的真实与挑战

  董璇和张维伊的婚姻官宣瞬间引爆了社交媒体,但在这片看似甜蜜的海洋下,涌动着关于“姐弟恋”和“重组家庭”的真实焦虑与深刻反思。这不仅仅是明星八卦,更是现代亲密关系中每个人可能面临的挑战与...

北京今明有分散性雷阵雨 闷热感持续 注意防雷避雨

北京今明有分散性雷阵雨 闷热感持续 注意防雷避雨

  今明两天,北京受弱短波槽影响,将有分散性雷阵雨。今天白天晴转多云,西部山区可能出现雷阵雨,北转南风2至3级,最高气温32℃;夜间多云间阴,有分散性雷阵雨,南风2级左右,局地阵风可达7级...

舒淇为51岁老公冯德伦庆生 靓佬生日快乐

舒淇为51岁老公冯德伦庆生 靓佬生日快乐

  8月9日,舒淇为老公冯德伦庆生,并在社交媒体上祝福他生日快乐,称呼他为“靓佬”。冯德伦在评论区幽默回应:“终于等到你坦诚面对我靓仔了。”两人结婚近9年实时热点,感情依旧甜蜜。舒淇为51...

健身网红山阿离世 此前患有抑郁症 年仅33岁,网友猜测:是不是过度失去碳水导致抑

健身网红山阿离世 此前患有抑郁症 年仅33岁,网友猜测:是不是过度失去碳水导致抑

   健身网红山阿离世 此前患有抑郁症   【健身网红山阿离世 此前患有抑郁症】5月12日,健身网红“山阿”妈妈发讣...

震惊!女孩肚痛查出卵巢像麻花一样扭了4圈 肚子里竟“藏”了15cm的大包块!

震惊!女孩肚痛查出卵巢像麻花一样扭了4圈 肚子里竟“藏”了15cm的大包块!

   女孩肚痛查出卵巢像麻花一样扭了4圈   【女孩肚痛查出卵巢像麻花一样扭了4圈】近日,一则令人揪心的医疗新闻引发...

机器人足球世界杯冠军国内首秀 清华火神队荣耀归来

机器人足球世界杯冠军国内首秀 清华火神队荣耀归来

  来自37个国家的近250支参赛队伍经过4轮激烈角逐,中国机器人足球世界杯代表队——清华大学火神队以压倒性优势斩获2025年机器人世界杯冠军。这是该赛事自创办以来规模最大的一届。...