英特尔高宇:联想小新Pro超轻薄笔记本可离线流畅运行AI本地大模型

科技IT
2023 12-10 00:26:13
分享

12月7日,在首届AI PC产业创新论坛上,英特尔中国区技术总经理高宇在主题分享中表示,AI PC需要CPU、GPU和NPU提供的混合算力来支持。目前,经过英特尔与联想的共同优化,CPU的通用算力已经可以流畅地运行本地大模型。

高宇在现场演示了在联想小新Pro超轻薄笔记本上离线运行7B(70亿参数)AI本地大模型的效果。这台笔记本配备了英特尔13代酷睿13900H CPU。在只使用CPU通用算力的情况下,这台联想小新Pro笔记本半秒钟左右就可以获得首个token输出,流畅的速度完全满足人眼阅读需求。

《英特尔高宇:联想小新Pro超轻薄笔记本可离线流畅运行AI本地大模型》
英特尔7B AI本地模型可在联想小新Pro超轻薄笔记本上流畅运行

据高宇介绍,将于12月15日发布的14代酷睿Ultra新平台上,这个7B参数的AI本地大模型将运行在iGPU上,性能和使用体验会更上一个台阶。

高宇表示,联想作为行业领导企业,也是英特尔多年最核心的战略合作伙伴,在很多战略决策上双方都坚定地走到了一起。在即将到来的AI PC时代,英特尔也将与联想共同携手,推动AI PC的普及和发展。

  • About
  • Latest Posts
英特尔高宇:联想小新Pro超轻薄笔记本可离线流畅运行AI本地大模型插图1Latest posts by 明志 (see all)
  • 亚信安慧AntDB:国产数据库创新演讲与实践 – 2023年12月8日
  • AI PC产业创新论坛成功举办 联想集团携手众厂商共创AI新生态 – 2023年12月8日
  • 英特尔高宇:联想小新Pro超轻薄笔记本可离线流畅运行AI本地大模型 – 2023年12月8日

The End
免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。