人工智能、無所不在的計算、無處不在的連接、從云到邊緣的基礎(chǔ)設(shè)施是驅(qū)動創(chuàng)新與變革的四大超級力量。OpenVINO? 的最新長期支持(LTS)版本了嗎?無論你身處 AI 編程之旅的何處,如果你想快速輕松地開發(fā)或?qū)W習(xí)如何開發(fā)世界級的 AI 應(yīng)用程序,并將深度學(xué)習(xí)推理工作負(fù)載從邊緣部署到云端,你都會想了解這個 AI 推理工具套件的最新更新!
LTS 版本和其它版本的區(qū)別是什么?
在軟件行業(yè)中,LTS 版本的重點是擴展或整合同一產(chǎn)品的先前版本中已經(jīng)引入的功能,并保證對這些功能的長期支持。從正式發(fā)布之日起,它為 AI 開發(fā)者提供了一年的 Bug 修復(fù)和兩年的安全補丁。
盡管為這種穩(wěn)定性和壽命付出的代價是,此類版本在其整個生命周期內(nèi)沒有額外的功能,但好消息是,OpenVINO? 今年引入的所有新功能都將包含在 2022.3 LTS 版本中。這些功能包括動態(tài)輸入、自動批處理、性能優(yōu)先、AUTO 插件以及對英特爾新的獨立顯卡(英特爾® 銳炫? 和 Flex 系列)以及第6代至第13代英特爾® 酷睿? 處理器的支持。
LTS 版本還包括新的 API 2.0,它于今年早些時候在 OpenVINO 2022.1 中引入,旨在使 AI 開發(fā)者更容易采用和維護代碼。
OpenVINO? 2022.3 LTS 中有哪些新特性?
除了集成、穩(wěn)定且經(jīng)過良好測試的 2022 工具套件更新版本外,OpenVINO 2022.3 LTS 還支持更多的深度學(xué)習(xí)模型和設(shè)備。
AI 開發(fā)者將發(fā)現(xiàn)更廣泛的對于基于 transformer 的自然語言處理(NLP)模型的支持,如 GPT 和 OpenAI Whisper,以及其它模型的支持,如 Stable diffusion(圖1);改進了可移植性和性能提升;與 Hugging Face Optimum 集成;加入了新 Jupyter notebook 示例教程,如 YOLOv7、樣式轉(zhuǎn)換(圖2)和 3D 點云分割(圖3)的;以及更多。
圖1. Stable diffusion 基于文本提示生成復(fù)雜的藝術(shù)圖像。
例如,蝴蝶部分在雪山上。
圖2. 給定圖片運行樣式轉(zhuǎn)換
圖3. 使用 OpenVINO? 以消耗點云數(shù)據(jù)
并執(zhí)行推理 3D 分割可視化
這個版本提供哪些硬件支持?
在硬件方面,簡而言之,OpenVINO 2022.3 LTS 在更多 GPU 上運行得更快、更智能。這里面完整的故事是關(guān)于所有受支持的 CPU 和 GPU 的性能提升,與自動設(shè)備發(fā)現(xiàn)和負(fù)載平衡、動態(tài)推理并行性以及添加到 AUTO 功能中的計算模式選擇攜手并進,使多個加速器(例如,多個英特爾® Data Center GPU Flex 系列)能夠同時使用,以最大化推理性能。
最重要的是,很高興與大家分享 OpenVINO 2022.3 LTS 正式完全支持英特爾® 獨立顯卡!
為什么支持英特爾® 獨立顯卡是大新聞?
這是 OpenVINO? 首次為在英特爾獨立顯卡上運行推理工作負(fù)載提供黃金級支持。憑借五年多在英特爾® 圖形處理器(或“ iGPU ”)上優(yōu)化、測試和部署推理的經(jīng)驗,這只是漫長旅程中的最后一步,它成功地將 OpenVINO? 帶到了可廣泛適用于臺式機、筆記本電腦和服務(wù)器的許多價格合理的 GPU 上去運行 AI 推理。
OpenVINO? 2022.3 LTS 會破壞你現(xiàn)有的 AI 代碼嗎?
如果該代碼已編寫或已移植到新的 API 2.0,則不會。
如果您計劃在 2023年升級到 OpenVINO? 的未來版本以利用新功能,請記住,這些功能和優(yōu)化不會被移植到2022.3 LTS版本。對于生產(chǎn)部署,建議保持最新的OpenVINO 2022.3 LTS 版本,直到2023年的新功能在明年的LTS中穩(wěn)定下來。
什么時候升級以及最佳的升級方式是什么?
建議希望快速開發(fā)和部署高性能 AI 應(yīng)用程序的每個人都使用 OpenVINO 2022.3 LTS。但是,無論出于何種原因,如果這是不可能的,并且您不想或不需要利用全年發(fā)布的所有優(yōu)秀的功能,則上一個 LTS 版本 OpenVINO 2021.4 LTS 將在 2024 年之前獲得安全補丁的支持。
在決定時,非常重要的一點是要記住,LTS 版本是在很長一段時間內(nèi)通過 dot 版本提供官方錯誤修復(fù)和安全補丁的唯一版本。