與傳統(tǒng)的超大規(guī)模基礎(chǔ)架構(gòu)相比,新服務(wù)能夠幫助企業(yè)實(shí)現(xiàn)吞吐量提升 3 倍、延遲降低 60%,并且成本降低 86% 負(fù)責(zé)支持和保護(hù)網(wǎng)絡(luò)生活的云服務(wù)提供商阿卡邁技術(shù)公司(Akamai Technologies, Inc.,以下簡(jiǎn)稱:Akamai)今日發(fā)布 Akamai Cloud Inference。這款解決方案旨在幫助希望落地實(shí)施預(yù)測(cè)和大型語(yǔ)言模... (來(lái)源:新聞?lì)l道)
Akamai Akamai Cloud Inference 2025-4-16 09:30
Canonical、Nutanix 和 Red Hat 等廠商的開(kāi)源 Kubernetes 平臺(tái)集成了 NVIDIA NIM,將允許用戶通過(guò) API 調(diào)用來(lái)大規(guī)模地部署大語(yǔ)言模型。在企業(yè)中部署生成式 AI 將變得空前簡(jiǎn)單。 NVIDIA NIM 是一套生成式 AI 推理微服務(wù),將支持 KServe 開(kāi)源軟件,可以自動(dòng)將 AI 模型以云計(jì)算應(yīng)... (來(lái)源:新聞?lì)l道)
KServe NVIDIA 2024-6-6 08:50
• 來(lái)自 AI 生態(tài)系統(tǒng)各個(gè)領(lǐng)域的 150 余家合作伙伴嵌入了 NIM 推理微服務(wù),將企業(yè)級(jí) AI 應(yīng)用的部署時(shí)間從數(shù)周縮短至幾分鐘• NVIDIA 開(kāi)發(fā)者計(jì)劃會(huì)員可免費(fèi)使用 NIM 來(lái)進(jìn)行研究、開(kāi)發(fā)和測(cè)試 NVIDIA 于今日宣布,全球 2,8... (來(lái)源:新聞?lì)l道)
NVIDIA 生成式 AI 2024-6-3 10:47
隨著數(shù)字經(jīng)濟(jì)時(shí)代到來(lái),數(shù)據(jù)洪流洶涌而來(lái),數(shù)據(jù)中心作為各種云服務(wù)業(yè)務(wù)的技術(shù)支撐,其背后自然是浩如煙海的服務(wù)器。面對(duì)應(yīng)用場(chǎng)景的多樣化,高性能、高可靠性、高安全性成為服務(wù)器本身的重要指標(biāo)。 近日,聯(lián)想ThinkServer TS80X和ThinkServer SR588兩款服務(wù)器分別通過(guò)了中國(guó)電子計(jì)算機(jī)質(zhì)量監(jiān)督檢驗(yàn)中心... (來(lái)源:新聞?lì)l道)
聯(lián)想服務(wù)器 2020-12-14 10:07
日前上海兆芯集團(tuán)發(fā)布了國(guó)產(chǎn)X86處理器KX-6000及KH-30000,這是國(guó)內(nèi)首個(gè)16nm工藝、8核3.0GHz的高性能處理器,整體性能已經(jīng)超過(guò)了Intel酷睿i5-7400處理器,滿足日常的辦公、娛樂(lè)應(yīng)用沒(méi)有壓力。兆芯此次正式發(fā)布的開(kāi)先KX-6000/開(kāi)勝KH-30000系列處理器基于16nm工藝,是國(guó)內(nèi)首款主頻達(dá)到3.0GHz的國(guó)產(chǎn)通用處理... (來(lái)源:新聞?lì)l道)
國(guó)產(chǎn)X86處理器KX-6000及KH-30000HDMI 2019-6-25 09:31