AMD X3D搞AI居然比打游戏还猛!8核暴打16核 领先达88%
据GiggleHD实际测试,比打AMD X3D处理器在RAG(检索增强生成)AI基准测试中展现出远超预期的游戏性能表现,最高领先非X3D芯片达88%。还猛核暴
RAG AI通过外部向量数据库检索信息来增强大模型的打核达回答质量,与纯LLM推理不同,领先向量搜索的比打大量计算负载落在CPU而非GPU上。
随着Agentic AI工作负载的游戏推进,搜索驱动的还猛核暴任务流越来越多,CPU的打核达延迟瓶颈问题日益突出。
HNSW(分层可导航小世界)搜索算法就是领先典型例子,在GPU执行LLM推理的比打同时,CPU负责图检索,游戏更大的还猛核暴缓存意味着更短的检索时间。
GiggleHD使用开源的打核达X3D RAG基准测试,针对个人PC和小团队单节点场景(约100K-200K向量),领先对AMD锐龙9000X3D系列及多款非X3D芯片进行了实测。


结果显示,在100K向量批量搜索中,X3D CPU最高比非X3D芯片快88%;在200K向量测试中,同为8核的锐龙7 9850X3D比锐龙7 9700X快50%以上,且8核X3D芯片的速度超过了16核的锐龙9 9950X。


索引构建方面,100K向量测试时间缩短50%,200K向量缩短39%,并发RAG吞吐量同样由X3D芯片领跑。


差距较小的项目是TTFT(首Token时间)吞吐量,因为该任务主要依赖GPU而非CPU。

(责任编辑:百科)
推荐文章
-
发布者:小川 浏览量:15618发布时间:2018/6/21 16:08:54 经济形势下行都说生意难做,其实是因为没有选对产品。饮料市场群雄逐鹿,面对铺天盖地的广告宣传,竞
...[详细]
-
近年来,汉阴县人社局充分发挥职业技能培训对促进就业和推动经济发展的重要作用,从破解“有活没人干”入手,解决“有人没活干”的问题,不断强化技能培训,提升职业素养,增强就业质效。高效推进培训任务,高质量完
...[详细]
-
导读: 百万医疗险保哪些疾病?百万医疗保险保什么疾病,百万医疗险因为它价格比较低,所以很多人都愿意购买。但是很多朋友并不了解百万医疗险保障
...[详细]
-
玻璃现货市场继续维持弱势整理的局面,生产企业以增加出库和回笼资金为主,部分地区市场报价也有一定幅度的松动,总体看生产企业和贸易商以及加工企业信心稍显不足。前期价格调整幅度比非常大的生产企业产销率较好,
...[详细]
-
封阳台用什么类型的窗户好一点 高层封阳台用无框玻璃好不好,行业资讯
在生活中我们经常会用到各类玻璃制品,例如玻璃窗、玻璃杯、玻璃移门等。玻璃制品兼顾美观与实用,既能够凭借晶莹剔透的外表惹人喜爱,又能够充分利用坚硬耐用的物理性能。本篇文章中我们将介绍封阳台用什么玻璃好。
...[详细]
-
1月13日,汉阴县实验小学召开期末总结大会。会议围绕党风廉政建设、学期工作回顾、寒假规划、安全部署、教师评优等方面展开,为过去一学期的工作画上圆满句号,也为新学期的发展筑牢根基。会上,开展师德师风警示
...[详细]
-
在連續14年拿下全球第一大手機製造商的頭銜之後,諾基亞終於把這寶座拱手讓給韓國三星。根據iSuppli最新公布的數據顯示,今年第一季諾基亞手機出貨量為8,300萬支,少於三星的9,200萬支。
...[详细]
-
1月15日,国网汉阴县供电公司全面启动春节保供重点客户隐患排查治理工作,全面打响春节保电“攻坚战”。在此次排查工作中,该公司严格遵循“全面覆盖、突出重点”的原则,组织各供电所针对高压客户供电所人员运用
...[详细]
-
导读: 华夏人寿是国内知名度较高的保险公司,以年金险、医疗险、重疾险而出名。今天小编要介绍的是华夏重疾险,看看华夏重疾险有哪些,华夏重疾险
...[详细]
-
北京时间2018年12月17日,常规赛迎来东西两个分区榜首之间的大战,掘金坐镇主场迎来猛龙的挑战。凭借伦纳德第二节和第三节的发挥,猛龙一直压住掘金势头。但掘金末节连续飚进三分反超比分,掌握主动权。猛龙
...[详细]
热点阅读

少儿重疾险有没有必要买,少儿重疾险有必要买吗?
汉阴县初级中学:回望耕耘追光路 凝心聚力向未来
邢翼腾:充换电服务业、人工智能产业用电量增长强劲
MOVA割草机器人出货量破50万!增速登顶全球割草赛道