酷睿輕薄本輕松玩大語言模型和AI繪畫?實測之后驚到了!
AIGC應用的蓬勃發展,為職場人提高工作效率打下了不錯的基礎。比如,職場用戶可以通過ChatGPT、文心一言、Stable Diffusion等工具,幫忙來生成內容文案、腳本、代碼、圖片等,從而提升工作的效率。
AIGC應用可以大致分為:云端和本地兩類。云端類型如文心一言、midjourney等,由于算力在云端,因此其對PC本身的硬件壓力并不高,但受限與網絡、信息安全等多方面因素,很多企業也并不建議員工使用外部的在線AIGC工具;本地化的 AI 應用在便利性、安全性、隱私性以及應用范圍方面有著無可替代的優勢,但是對PC的性能有一定需求。也正是因此,很多人往往聊起本地的AIGC應用,往往會單純認為GPU廠商在其中發揮了巨大作用,促進了行業的巨大飛躍等等。
實際真正如此嗎?作為PC行業的領導者,英特爾正與PC產業眾多合作伙伴通力合作,致力于讓廣大用戶在日常生活和工作中,通過AI的輔助來提高效率,進而帶來革新性的PC體驗。我們借助搭載第13代英特爾酷睿處理器i7-13700H的Thinkbook 16+這款產品,通過實際體驗,來檢測搭載英特爾處理器的PC產品能否在AIGC時代幫助職場人迎接挑戰。
首先,來看一下這款產品的配置情況:
處理器:第13代英特爾酷睿處理器i7-13700H,14核心20線程,最大睿頻5.0GHz,英特爾Evo平臺認證
顯卡:英特爾銳炬Xe 顯卡,96EU
內存:LPDDR5 32GB 5200MHz
硬盤:1TB SSD
屏幕:16英寸 2.5K 100%sRGB
電池:71Wh
i7-13700H處理器怎么樣?很強!
日常的職場辦公,更強的處理器性能能夠帶來更加流暢、高效的辦公體驗,對于本地的AI應用來說,強大的計算性能也是其流暢運行的基礎。Thinkbook 16+這款產品搭載了第13代英特爾酷睿處理器i7-13700H。作為第13代酷睿Raptor Lake-H家族的產品,i7-13700H延續了混合架構設計,包含6顆性能核與8顆能效核,共計20線程,還搭配24MB三級緩存。不過得益于進一步優化的Intel 7工藝,i7-13700H相比上一代i7-12700H頻率有所提高,性能核最高睿頻可達5.0GHz。
通過R23測試來看,多核心得分17098pts,單核心得分1835pts,這意味著無論是單核還是多核性能都表現非常出色,能夠應對日常工作。
CrossMark來自老牌測試軟件廠商BAPCo,是一款針對處理器的“整合了各種日常應用的綜合測試項目”,它的測試項目分為生產率、創造性和反應能力三大塊,但與此同時,又有一套獨特的對硬件的評分系統,處理器核心數量、內存容量及單雙通道、顯示屏分辨率等都會影響到評分。通過綜合性能測試軟件CrossMark來看,總體得分1624,生產率1512,創造性1912,反應能力1231,從中可以看出這款產品在反應速度、程序啟動、加載等方面都更加高效流暢。
職場工作中,尤其是內容工作者,PS處理圖片可以說是必備技能之一。PugetBench for PhotoShop就是通過對圖形的處理進行衡量的,通過測試來看,這款產品得分為PugetBench for PhotoShop上的得分為1167,按照PugetBench for PhotoShop的測試標準,這個成績已經達到了上一代桌面級CPU的性能,所以,用于內容創作也是相當合適的。
Adobe Premiere Pro可以稱得上家喻戶曉的視頻編輯軟件了,也是很多內容從業者經常會接觸的軟件之一。Pugetbench for Premiere Pro能模擬用戶使用Premiere Pro的真實場景進行操作,對于視頻進行了回放、調色后回放、視頻到處、加特效后回放、加特效后導出等復雜測試,最終得出了一個基準分數。在默認狀態下,運行這項測試花費的時間較長,總體得分為694。如果將預覽畫面調整成“1/4”,則可以跑到1048分。
可以看出,無論是PS還是PR,在13代酷睿處理器的加持之下,即便沒有獨立顯卡,也能帶來較為出色的使用體驗。那么在保障職場人日常工作的同時,這款產品在運行本地的AIGC應用方面又有怎么樣的表現?
集顯也能輕松“拿捏”大模型?是的!
作為 PC 行業的領導者,英特爾其實很早就已經關注到了AI對于PC的意義。早在 2018 年,英特爾就提出了要在 PC 中引入 AI 技術,英特爾CEO帕特·格爾辛格此前也表示,“我們認為AI PC是未來幾年PC市場的一個關鍵轉折點,我們將把AI融入到我們制造的每一個產品中。”
隨著今年ChatGPT的爆火,內容創作領域正迎來AIGC帶來的大變革。根據Tractica的預測數據顯示,全球AI軟件市場規模將在2025年達到1260億美元,2021年到2025年年復合增長率為41.02%。一級市場的火熱也反映了AIGC發展的確定性趨勢。在大模型的快速迭代推動下,搜索引擎、辦公軟件、汽車、媒體、AI繪畫設計、AI廣告營銷、智能工作助理等應用率先落地的行業將具備較強商業化機會。
對于職場人來說,緊跟時代風口,掌握相關技能才能不會被時代所“拋棄”。因此,筆記本產品能夠在本地“跑”這些大模型應用成了用戶迫切的需求。搭載第13代英特爾酷睿處理器i7-13700H的Thinkbook 16+筆記本在沒有獨立顯卡的加持下,能否輕松應對本地AIGC應用?
我們首先使用英特爾的 AI 應用 Demo “英特爾大語言模型”應用進行多組對話,讓它幫助我們處理一些工作以及生活中的任務。
比如我們要出一篇“服貿會”采訪英特爾展臺負責人有關“PC中引入AI”的方向提綱,向“英特爾大語言模型”提問。它很快速地給出了答案方向,如讓相關負責人介紹公司情況、探討當前AI技術在PC中應用的場景、優勢,未來的發展趨勢等。這份提綱確實可以幫忙打開思路,幫助我們更好完成工作。同時,我們在測試中也發現,生成的這回答所需要的時間非常快速,并且完全不需要聯網,完全是調用本地算力。
通過AIDA64的檢測來看,在生成回答的過程中,筆記本的頻率瞬時能夠飆升到4.7GHz,功耗可以飆升到85W,處理器占用率100%。可見,在使用本地大語言模型的時候,強大的處理器性能非常重要。
從測試速度來看,ChatGLM-6b 可以做到首個 token 生成 first latency 157.17ms,后續 token 平均生成率為 74.75ms/token。在自然語言處理領域,「token」是指文本中的一個基本單元,可以是一個單詞、一個字、一個子詞(subword)、一個標點符號,或者其他可以進行語義處理的最小單元。可以看到,這個處理器速度相當不錯。
我們將同樣的問題提問給文心一言等依靠云端算力的產品,給出答案所消耗的時間基本一致,可見在英特爾處理器的加持下,本地大語言模型的反應能力非常出色。
為什么本地也很高效地能“跑”大模型?這是因為英特爾構建了BigDL-LLM庫,通過 BigDL-LLM庫可以對各種各樣的大語言模型進行優化和支持,能夠在一臺搭載 16GB 內存的英特爾輕薄本上運行參數量高達 160 億的大語言模型,支持的模型包括LLaMA/LLaMA2、ChatGLM/ChatGLM2等等,這極大地降低了 AIGC 的使用門檻。
對于本地AI繪畫軟件來說,對PC性能的要求更高,沒有獨立的顯卡的加持,筆記本還能夠流暢“煉丹”嗎?可以的!作為目前最高規格的核顯之一,Intel Iris Xe Graphics (96EU) 相較于此前的Iris Plus 核顯最高 64EU,基本規格提升明顯,FP16、FP32 浮點性能提升幅度高達 84%,還引入了 INT8 整數計算能力 ,這些都加強了它的 AI 圖形計算能力,讓英特爾輕薄本支持 Stable Diffusion成了可能。
此外,英特爾基于 OpenVINO PyTorch (英特爾推出的一個開放源碼工具包,旨在優化深度學習模型的推理性能,并將其部署到不同的硬件平臺上)后端的方案,通過 Pytorch API 讓社區開源模型能夠很好地運行在英特爾的客戶端處理器、集成顯卡、獨立顯卡和專用 AI 引擎上。
通過實際測試來看,在常規測試的情況下,生成一張美食圖片大概需要1分鐘57秒,效果還算不錯。
當我們開啟"Accelerate with OpenVINO"腳本進行加速的時候,同樣的“prompt”和參數設置情況下,僅需19.5秒就可以生成這張圖片。所用時間大大縮短。
在相對復雜的“prompt”情況下,效率會有怎樣的變化?我們通過一長串“prompt”生成一所在河邊的別墅,在未開啟加速情況下,耗時1分57秒,在開啟加速之后,僅需44秒,效率仍然有大幅提升。
這是生成的樣圖,畫面的質量并沒有什么差別,借助英特爾的相關解決方案,可以讓本地AI繪畫效率在保證質量的同時,效率得到提升。
通過兩款AIGC軟件的實測體驗來看,其中的大語言模型能夠快速生成如小紅書種草文案、視頻腳本等,極大提升職場用戶(如記者編輯、碼農)的工作效率。英特爾對對Stable Diffusion做的相關優化,可以高效快速為用戶提供優質圖片素材,幫助用戶更好應對工作,讓筆記本上跑 Stable Diffusion 快速出圖已經不是高性能獨顯游戲本的專屬。
總的來說,在后疫情時代,企業和個人更加追求效率的提升。英特爾通過強大的 CPU 算力以及針對 AI 的軟件優化兩個層面,大幅降低了 AI 應用對 PC 硬件的要求,讓更多的普通消費者,通過搭載了英特爾處理器的筆記本體驗到最前沿的 AIGC技術,可以幫助職場人更好利用這些工具完成自己的工作任務。從實際測試體驗來看,當前很長一段時間,搭載第13代英特爾酷睿的產品仍然是職場人面對AIGC浪潮最合適的選擇。
本文所有測試軟件均為實際使用、真實測試,不代表任何品牌方立場。
- 佳源燃氣灶維修(如何自行解決常見故障)10-10
-
艾柯空調廠家服務電話(如何獲取艾柯空調廠家服務電話以解決空調問題?)
2024-08-26
-
DB空調拆機電話(如何獲取DB空調拆機服務的聯系電話?)
2024-08-26
-
SUODI空調售后維修中心(如何聯系SUODI空調售后維修中心以解決我的空調問題?這
2024-08-25