本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票

news/2024/7/21 6:57:53 标签: 人工智能, 电脑

来源 | 算力豹

200亿个大模型参数无压力,新一代酷睿Ultra凭什么?

12月14日报道,在大模型军备竞赛如火如荼的今天,真正让AI铺开惠民,那么移动端、PC将成为首选,AI PC或成标配。英特尔今日奉上AI硬件大招,正式推出AI PC处理器代号Meteor Lake的酷睿Ultra处理器。

01

本地部署生成式AI,

买显卡还是买笔记本电脑

最近AI PC的概念炒得很火,PC产业能否乘着生成式AI的技术浪潮而迎来新一轮的发展呢?

这在很大程度上取决于人们在本地电脑上运行生成式AI模型的需求

在本地电脑上运行生成式AI应用,在隐私安全管理、自定义程度、网络状况依赖和成本可控方面都有优势。

英特尔酷睿Ultra处理器改变了个人电脑仅依靠CPU就运行大语言模型的现状,是产业技术生态的一次大的变化。

在发布会上,英特尔发言人宣称英特尔酷睿Ultra处理器甚至可以运行200亿参数的大语言模型,而在此前,这种规模参数的模型都需要大容量显存的独立显卡才能完成。

考虑到实际体验,需要模型能快速完成推理。

从介绍中了解到,英特尔酷睿Ultra处理器可以在1秒内生成512x512分辨率的图片,在6秒内生成1024x1024分辨率的图片,速度甚至超过依靠中端GPU来运行Stable Diffusion模型的性能表现。

对于用户来说,此前不得不购买一块中高端,有大容量的独立显卡才能在本地运行相关模型,而现在,这些用户可以在台式机上购置中高端显卡,与买一台带有英特尔酷睿Ultra处理器的笔记本电脑之间做出选择。

02

核显性能翻倍 智能分配工作负载

全力支持智能混合算力

给人们的工作、学习和生活带来全新的价值体验的个人大模型,应该是可以用自然语言交互、具备智能混合算力、开放生态的私人个性化模型,这种大模型无疑需要质量极优的智能混合算力

为满足AI PC市场对算力的要求,据英特尔描述,首批酷睿Ultra系列处理器包括U和H两个系列,基础功耗分别为15W和28W,其中:

  • U系列为2+8+2核心规格,最高4Xe核显
  • H系列最高6+8+2核心规格,最高8Xe核显

明年第一季度,英特尔还将发布基础功耗45W的Ultra9旗舰型号,6+8+2核心规格,8Xe核显。

此次发布会上,英特尔相关人员补充描述到:“酷睿Ultra是英特尔处理器家族中目前能效比最好的产品,这得益于我们对混合架构的全新设计。”

据英特尔中国区技术部总经理高宇描述,英特尔为酷睿Ultra创新设计了P核(Performance-core,性能核)与E核(Efficient-core,能效核),还在SoC模块中集成了两个超低功耗E核

因此,酷睿Ultra整个系统有三种不同的核心。为此,英特尔重新设计了线程调度器,这意味着硬件线程调度器会优先考虑和管理工作负载分配,将任务发送到内核。英特尔相关人员描述其设计目标是“让正确的任务在正确的时间,运行在正确的核心上”。

03

Intel 4制程工艺打造最强能效比
内置NPU实现AI加速与本地推理

早在今年9月,英特尔CEO基辛格(Pat Gelsinger)便表示,酷睿Ultra是首款基于Intel 4制程工艺打造的处理器,代表英特尔40年来最重大的架构变革,并将成为英特尔最具能效比的客户端处理器。

英特尔中国区技术部总经理高宇谈道,Intel 4是英特尔计划实现“四年内5次半导体技术迭代”计划中的重要一环,这是该公司的首个EUV(极紫外光刻机)支持的工艺,有望显著简化工艺。

可实现AI加速与本地推理的内置NPU是酷睿Ultra处理器除了核显之外的另一秘密武器。据英特尔描述,酷睿Ultra处理器采用了英特尔首个用于客户端的片上AI加速器NPU(神经网络处理单元),将高能效AI加速提升到了新的高度,带来2.5倍于上一代产品的能效表现。据介绍,全新英特尔酷睿Ultra胜任多达200亿参数大语言模型。

让我们来看看,在产品形态上英特尔酷睿Ultra表现如何?

据英特尔数据,与AMD锐龙7 7840U等竞品相比,酷睿Ultra系列处理器中率先上市的旗舰型号Ultra 7 165H单线程性能超竞品12%多线程性能超竞品11%。核显方面,酷睿Ultra7 165H所搭载的8Xe核显性能是上代的两倍,在超薄本的相同28W功耗范围内,Ultra 7 165H功耗比AMD锐龙7 7840U降低了79%

结语

拥抱人人AI的终端新格局

AI PC需要软硬件基石

明年,据英特尔描述,酷睿Ultra处理器将在为全球笔记本电脑和联想、华硕等PC制造商的230多款机型带来AI特性。在软件方面,英特尔提到他们正与100多家软件厂商紧密合作,为市场带来数百款AI增强型应用。

更广泛的AI增强型应用将能够在英特尔酷睿Ultra平台上流畅运行,对于消费者和商用客户来说,尤其针对一些剪视频和编程场景能够提升生产创作效率。此次发布会上,“影视飓风”等内容创作者便分享了使用英特尔的AI增强型应用的感受,这些具有创造力、生产力和趣味性的AI应用大幅提升了PC创作的体验。


http://www.niftyadmin.cn/n/5291655.html

相关文章

48道Linux面试题

本博客将汇总 Linux 面试中常见的题目,并提供详细的解答。 文章目录 1、绝对路径用什么[符号表](https://so.csdn.net/so/search?q符号表&spm1001.2101.3001.7020)示?当前目录、上层目录用什么表示?主目录用什么表示? 切换目录用什么命…

Android崩溃定位:使用addr2line和IDA Pro解析SO文件错误位置

文章目录 一、 介绍二、崩溃日志分析2.1 使用 addr2line 进行符号解析2.2 使用IDA Pro进行深入分析 三、 结论参考资料 一、 介绍 在Android应用开发中,崩溃问题是常见的挑战之一。在Android应用崩溃时,利用backtrace的地址信息找到so出错的行数通常需要…

软件科技巅峰:颠覆性技术的崛起与深远影响

当我们深入探讨软件技术中一些引人瞩目的方面时,我们不仅能够欣赏到其精妙之处,同时也能够窥见其在不同领域的实际应用。 1. 人工智能和机器学习: 在人工智能领域,深度学习技术的崛起为机器学习注入了强大的活力。深度神经网络的…

知识笔记(五十九)———css 美化滚动条样式

ChatgGPT4.0国内站点: 海鲸AI-支持GPT(3.5/4.0),文件分析,AI绘图 在CSS中,你可以使用伪元素::-webkit-scrollbar以及相关的伪元素来为Webkit浏览器(如Chrome和Safari)自定义滚动条的样式。以下是一些基本的CSS规则&am…

错误代码-9907磁盘空间不足怎么办?几个步骤轻松搞定~

错误代码-9907表示磁盘空间不足。这意味着您的设备上的磁盘空间不足以完成当前的下载或存储任务。我们可以用这些方法解决这个问题。 一、对大文件进行压缩 可以使用压缩软件将一些文件进行压缩,以减少它们占用的磁盘空间。下面以嗨格式压缩大师作为操作示例。 1、…

记一次修复外网无法访问vmware里面的虚拟机的网络端口的问题

发现一个奇怪的网络问题,vmware里一个程序的端口通过vmnat穿透出来,然后这个端口就能够通过局域网被其他机器访问,但是另一个网段就没法访问这个端口。使用主机上的其他程序使用开启同样的端口,另一个网段的机器却可以访问。我想不…

AcWing 1128. 信使(单源最短路)

题目链接 活动 - AcWing 本课程系统讲解常用算法与数据结构的应用方式与技巧。https://www.acwing.com/problem/content/1130/ 题解 本质上是一个广播模型。对于每个点来说,它接收到信的时间,等于它到指挥部的最短距离。所有这些点的最短距离取一个最大…

抖店怎么做?具体框架如何搭建?一步步教会你!

我是电商珠珠 23年马上就过去了,如果你想在24年做抖店,那么我接下来分享的最新抖店做店全流程,你一定要看完。 一、货源代发 目前做的好的抖店店铺,都是有自己稳定的货源供应链的。 不是抖音电子面单发货的一律被判定为无货源…