搜索 登录

AI实际性能仅20%!微软高管炮轰存储厂-建再多厂也没用 (ai实际性能)

快科技9月14日消息,据报道,微软Azure硬件系统与基础设施总裁Rani Borkar近日表示,单纯增加存储芯片产能无法解决AI基础设施的瓶颈。她批评道:"存储不应被视为供应或组件问题,本质上是系统问题。"

Borkar指出,AI推理模型越来越大、对话上下文越来越长,存储与电力正成为比计算芯片更难绕开的硬限制。许多AI系统由多层架构组成,受限于数据传输延迟与带宽限制,系统往往仅能发挥约20%的实际性能。

她提出的解决路径是"从芯片到系统"的跨层协同设计,涵盖模型、编译器、芯片、网络到供电的联合优化。目标是在相同存储容量与电力条件下,让更多计算资源持续工作并产出更多token。

以微软自研AI加速器Maia 200为例,Borkar表示微软并非只靠增加存储容量处理瓶颈。Maia 200采用台积电3nm工艺,搭载216GB HBM3e高带宽内存,同时从模型压缩、数据科学与架构设计三方面降低KV Cache需求。

网络方面,微软采用双层Scale-up网络,将网络接口控制器直接整合进芯片,搭配定制化传输层。此举降低延迟的同时减少昂贵加速器因拥塞、故障恢复或配置不当而闲置。

电力端同样面临巨变。AI机柜功耗已从数十千瓦升至数百千瓦,数据中心园区以吉瓦规模规划。微软导入固态变压器与800V直流供电架构,并将精细电压与时钟控制器直接整合至Cobalt 200的每个核心内。

Borkar强调,没有任何一项创新能单独消除瓶颈,但放在一起就能大幅提高相同存储资源所交付的成果。微软提出的"有效产出"新指标,正将AI基建竞争从堆砌芯片数量转向系统级效率比拼。

AI实际性能仅20%高管炮轰存储厂建再多厂也


AI“货币化困境”:ChatGPT收入增长停滞,微软Github Copilot收10元倒赔20元

AI领域正面临严峻的“货币化困境”,ChatGPT收入增长停滞、微软GitHub Copilot“收10元赔20元”等现象,揭示了生成式AI在商业化过程中成本高企、用户留存率低、价值证明困难等核心问题。以下从具体案例、成本结构、用户行为和市场趋势四个维度展开分析:

一、ChatGPT:收入增长停滞,流量连续下滑 二、GitHub Copilot:客户越多,亏损越大 三、用户留存率低,AI未成“必需品” 四、市场趋势:泡沫消退,行业面临洗牌 核心矛盾:技术潜力与商业现实的脱节

生成式AI的困境源于技术成熟度与商业化节奏的错配:

未来突破口或在于:

当前,AI行业正从“技术狂欢”转向“价值验证”阶段,能否跨越货币化鸿沟,将决定其是昙花一现还是持续进化。

微软AI公开折磨微软员工,修Bug唯一贡献是改了PR标题,GitHub评论区成吃瓜现场

微软AI Copilot在 Runtime项目中尝试修Bug引发围观,表现不佳

近日,微软著名的开源项目 Runtime的GitHub评论区成为了全球程序员的吃瓜现场。 原因竟是微软新推出的Copilot代码智能体在尝试自动修复Bug时,表现不尽如人意,甚至引发了众多程序员的嘲笑和质疑。

一、Copilot修Bug越帮越乱

事情起因于一个正则表达式的小问题,被分配给微软员工斯蒂芬(Stephen)和Copilot合作解决。 Copilot在方案描述中虽然头头是道,但提交的代码直接检查不通过,报错信息一长串。 最终,Copilot唯一的“贡献”竟是改了Pull Request(PR)的标题,这一行为被网友戏称为“学会摸鱼的精髓”。

斯蒂芬老哥在请Copilot修复样式问题并把测试挪到之前的文件中后,Copilot的回复却让人大跌眼镜。 它不仅没有成功修复问题,反而导致许多正则表达式测试失败。 这一PR迅速引起了程序员们的注意,几百人点了“好笑”。

二、AI闯祸还得AI自己收拾

面对自己闯下的祸,Copilot尝试修复错误,并总结到“最初的修复方案过于激进”。 然而,这位先进的AI智能体却被更原始的程序Bot打脸,提示“此操作被取消,后续步骤可能不包含预期的日志”。

围观的网友对此纷纷发表评论,有人认为“与其让真人花时间编写无法运行的代码,不如让计算机自己去编写无法运行的代码,至少提高了写无效代码的效率”。 最终,这条PR被斯蒂芬手动关闭,他认为是由于配置问题,智能体无法访问所需的依赖项。

三、AI修Bug,没修好还狡辩

在另一个有关正则表达式的PR中,bug是由于堆栈回溯时数组越界出现异常。 Copilot给出的方案是添加一个边界检查,当超出数组长度时返回“不匹配”,避免抛出异常。 然而,这一方案被斯蒂芬评价为“治标不治本”,没有解决根本问题。

当斯蒂芬指出新的问题时,Copilot不仅没有给出新的解决方案,反而说了一大套理由论证自己的方案已经有效解决了问题,还是“优雅地”。 这一行为让斯蒂芬也无法说服AI,只能继续指出新的问题。

四、微软员工回应:不是强制性要求

面对Copilot的糟糕表现,围观的程序员开始思考这对于整个行业来说意味着什么。 有人结合微软刚刚大裁员3%,并披露公司20%-30%的代码由AI生成的消息,怀疑Copilot就是用来替代被裁掉的6000人的。

然而,斯蒂芬回应称,使用Copilot不是公司强制性的要求,团队一直在实验AI工具以了解在当前和未来的局限性。 他认为,任何不考虑如何利用这些AI工具的人,将来都会被淘汰。

五、Copilot目前仅能辅助代码审核

在整个运行时代码库中,Copilot自动修Bug成功合并代码的案例寥寥无几,且都是合作的人类程序员反复提示修改后才成功。 不过,Copilot在辅助代码审核方面表现较为顺利,基本都成功了。

这一结果表明,目前Copilot智能体主要还是能胜任自动补全、总结代码内容等辅助性工作。 而真正修Bug的任务,还得靠人类程序员来完成。

综上所述,微软AI Copilot在尝试自动修复 Runtime项目中的Bug时,表现并不理想。 虽然AI技术在不断发展,但在某些领域和场景下,人类的专业知识和经验仍然是不可或缺的。 因此,在利用AI技术的同时,我们也需要保持理性和审慎的态度。

全球AI算力对比,美国占69%,中国仅15%,差距巨大, 形势严峻?

全球AI算力对比中,美国占69%(68.9%),中国仅15%(14.5%),但算力差距不直接等同于AI实力差距,中国AI发展形势并非完全严峻,仍有破局路径。

算力占比的差距是事实,但远非终局。 历史上日本半导体、欧洲3G技术都曾领先,但最终因架构创新、标准更新等原因被超越。 AI竞赛的本质是有效智能的可持续生产,而非算力军备竞赛。 当中国团队用算法补偿硬件时,硅谷的算力霸权正出现裂缝,中国“低算力高智能”模式或将成为全球AI效率的新范式。

小特产撑起大产业赓续长征精神红色热土育红
« 上一篇
几十年经典Windows鼠标箭头要换了微软官方
下一篇 »

热门文章