【暂停】英伟达暂停开发双机架72路NVL36×2AI 服务器;

来源:爱集微 #IC#
1.2w

1.英伟达暂停开发双机架72路NVL36×2AI 服务器;

2.OpenAI发布Realtime API,可帮助第三方应用集成其语音合成技术;

3.甲骨文拟投资65亿美元,在马来西亚建公共云;

4.OpenAI:AI代理明年将成为主流,三级代理标志AI自主性和决策能力重大飞跃;


1.英伟达暂停开发双机架72路NVL36×2AI 服务器;

知名分析师郭明錤在10 月 1 日发布的市场投资简报中称,在没有客户定制要求的情况下,英伟达将不再提供双机架版72路NVL36×2AI 服务器,仅提供单机架版本的 GB200 NVL72和NVL36。英伟达此举的原因据称是由于资源有限以及客户的偏好。

最初,英伟达计划开发三款基于Blackwell GPUGB200的AI 服务器机柜,用于AI和高性能计算(HPC)工作负载,分别为NVL36、NVL72和NVL36×2。然而,管理所有三个项目变得具有挑战性,尤其是在同时开发两个不同的72 GPU版本(NVL72和NVL36×2)的情况下。因此,英伟达现在只专注于NVL72和NVL36。

英伟达的GB200 NVL72机架包含18个计算托盘和9个NVSwitch托盘(18个NVSwitch ASIC),每个托盘有两块Bianca板,每块板上有一个Grace CPU和两个Blackwell GPU。这是英伟达最强大的产品,但也是功耗最高的解决方案,耗电约120kW。

此前,摩根士丹利分析师指出,英伟达更愿意出售搭载 Blackwell GPU 的AI 服务器机柜。NVL36 配备 36 个 B200 GPU,预计售价为 180 万至 200 万美元,而NVL72 配备 72 个 B200 GPU,预计起价为 300 万美元。与 GPU、GPU 模块甚至 DGX 和 HGX 服务器相比,销售机柜的利润要高得多。在这种情况下,英伟达不需要提供 45 万个 GPU 即可赚取 100 亿美元的收入。



2.OpenAI发布Realtime API,可帮助第三方应用集成其语音合成技术;

OpenAI在旧金山开发者大会上,发布Realtime API,可以让开发者调用该API在第三方应用中集成语音合成技术。OpenAI表示开发者通过调用新的Realtime API,可以在其应用中添加6种AI语音。OpenAI还展示了其它应用场景,表示可用于客户支持、语言学习、教育软件等,开发者可以利用语音交互增强用户体验。

同时OpenAI还公布了3家语音API合作者LiveKit、Agora、Twilio。其中Agora的兄弟公司是声网,两家公司在2023年5月拆分,是业内最早和最彻底进行拆分的公司之一。声网聚焦在中国市场,总部位于中国上海。Agora聚焦在美国和国际市场,总部位于美国加州圣克拉拉。



3.甲骨文拟投资65亿美元,在马来西亚建公共云;

美国科技巨头甲骨文日前表示,计划投资超过65亿美元,在马来西亚建设其公共云。自去年以来,包括微软、英伟达和谷歌在内的科技巨头已宣布在马来西亚进行多项投资,主要是在云服务和数据中心领域。这是受到人工智能需求不断增长的影响,推动了基础设施热潮。

甲骨文的这个项目将成为迄今为止马来西亚最大的单一技术投资之一,超过了此前亚马逊云计算部门AWS宣布的62亿美元投资计划。

甲骨文在一份声明中表示,计划中的公共云区域将帮助马来西亚的组织实现其应用程序的现代化,将其工作负载迁移到云端,并通过数据、分析和人工智能进行创新。

甲骨文日本和亚太地区执行副总裁Garret Ilg表示,这也将允许该公司的马来西亚客户,包括政府机构、金融机构、航空公司和酒店公司使用基于该国的云服务,而不是基于外部的云服务。


4.OpenAI:AI代理明年将成为主流,三级代理标志AI自主性和决策能力重大飞跃;

OpenAI近日预测,AI代理将在明年“成为主流”。据报道,OpenAI首席产品官Kevin Weil表示,AI代理系统将在2025年成为可能。而AI代理的实现将标志着AI在自主性和决策能力方面的重大飞跃。

据悉,AI代理是一种高效的智能工具,能够自动处理各种任务,如电子邮件管理、旅行日程安排,甚至辅助编程。这使得人们能够更集中精力处理工作中的其他重要事务。

9月19日,OpenAI CEO Sam Altman在“2024 年 T-Mobile 资本市场日”活动上表示,当前的AI系统已经发展到第二级,能够进行更复杂的分析和解决问题,而三级的AI代理将标志着AI在自主性和决策能力方面的重大飞跃。

他指出,“二级最令人兴奋的事情之一是,它可以相对较快地实三级”,并且这一进展可能会加速。未来,AI可能会像人类组织一样复杂,从而带来深远的行业和社会影响。

10月2日,在旧金山举行的开发者日DevDay上,OpenAI推出一系列新工具,主要包括提示词缓存(Prompt Caching)、视觉微调(Vision Fine-Tuning)、实时API(Realtime API)、模型蒸馏(Model Distillation),新工具能降低模型成本、提高模型视觉理解水平、提升语音AI功能和小模型性能。

Weil指出,OpenAI最新模型的思考和推理能力的提升将体现在其产品中,包括ChatGPT,以及使用其API构建产品的初创公司和开发者。但该公司不愿透露是否计划立即构建自己的AI代理。


责编: 爱集微
来源:爱集微 #IC#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...