在本系列博文的第一部分，我探討了恩智浦i.MX 95系列如何將新功能安全技術應用于工業(yè)環(huán)境、汽車領域及其他邊緣應用。在接下來的文章中，我將進一步闡述i.MX 95系列如何賦能邊緣計算，實現(xiàn)先進的AI功能。

近年來，AI創(chuàng)新呈指數(shù)級增長。其中，大量關注點集中在基于云的生成式AI應用(如ChatGPT)。然而，這些應用的運行成本高，并伴隨高能耗問題。相比之下，邊緣處理通過本地化存儲數(shù)據(jù)和隱私信息，提供了一種快速、高效且安全的信息管理解決方案。恩智浦在邊緣處理領域擁有深厚的積累，而全新i.MX 95系列更是將這一能力提升到了新的高度。 

我們的i.MX 95應用處理器為邊緣處理提供卓越性能、信息安全及更多關鍵特性。了解i.MX 95系列如何成為您下一個AI設計的理想選擇。 

i.MX 95系列具備強大的處理能力，適用于邊緣處理的傳統(tǒng)機器學習和生成式AI應用。該系列集成了恩智浦eIQ® Neutron NPU以加速機器學習，同時結合Arm® Mali GPU與恩智浦自主研發(fā)的圖像信號處理器，驅動沉浸式3D圖形。這一強大且可擴展的配置適用于從視頻會議系統(tǒng)到工廠大型設備，為各類應用場景提供卓越的處理能力。

i.MX 95系列的結構框圖包括SoC的功能及頂層規(guī)格 

i.MX在AI應用中的優(yōu)勢

以下是適合使用i.MX 95 MPU的AI/ML應用：

-視覺檢查和異常檢測：AI賦能的工廠設備可比人工更快、更準確地檢查物品。

-語音命令：智能設備能夠識別大量詞匯，解析多個揚聲器同時播放的音頻，并準確處理各種口音的語音。

-人臉與發(fā)言者追蹤：企業(yè)視頻會議應用可追蹤發(fā)言者，確保其始終處于畫面焦點內，以提升參與體驗。

-背景噪聲消除：智能設備可去除背景噪聲并執(zhí)行回聲消除，以提升語音命令解析和用戶體驗。

-人員監(jiān)測：智能家居與智能辦公安全系統(tǒng)可追蹤人員、物品及寵物。車載人員監(jiān)測功能還能審核駕駛員行為，識別注意力分散等風險。

-患者監(jiān)測：醫(yī)療設備可監(jiān)測患者生命體征，并在必要時提醒醫(yī)護人員。

-家居與樓宇自動化：借助邊緣AI，實現(xiàn)空調、家電、安防等設備的無縫互聯(lián)與智能控制。

i.MX 95系列不僅具備卓越的處理性能，而且具有高能效，在同類產(chǎn)品中脫穎而出。eIQ® Neutron NPU是一款強大且高效的AI推理引擎，在邊緣處理場景中提供具有競爭力的TOPS/W性能。此外，我們的Energy Flex多域架構提供獨立的處理域，適用于功能安全、低功耗和實時應用。這能夠實現(xiàn)精細化動態(tài)功率控制和低功耗運行模式。即使SoC的大部分模塊處于斷電狀態(tài)，處理器仍能保持穩(wěn)定運行。

i.MX 95系列支持多種邊緣AI應用，包括視覺檢查和異常檢測

邊緣AI賦能機器視覺

i.MX 95 SOC集成神經(jīng)處理單元(NPU)、圖像信號處理器(ISP)和視頻處理單元(VPU)，這些組件協(xié)同工作，提供卓越的邊緣機器視覺能力。無論是家庭控制面板、入口視頻監(jiān)控，還是工廠自動化，恩智浦eIQ Neutron NPU均支持先進的視頻處理技術。用戶可在NPU上運行高級AI模型，實現(xiàn)場景分割、實時視頻增強和去噪，確保高質量的視頻畫面。

i.MX 95系列還支持并行處理多路視頻流，無需向云端發(fā)送信息。其內置ISP通過兩個MIPI-CSI 4通道接口和MIPI虛擬通道，可支持多達8個原始攝像頭傳感器。此外，ISP還支持可同時捕獲可見光和紅外光的RGB-IR攝像頭，從而在低光條件下提升圖像質量，并優(yōu)化人臉識別能力。

簡化開發(fā)流程

為了幫助客戶簡化開發(fā)流程，我們的eIQ® AI軟件開發(fā)環(huán)境支持多個主流平臺，包括：

-TensorFlow和LiteRT(fka TensorFlow Lite)

-Pytorch/Executorch

-ONNX和ONNX RT

該平臺還支持多種神經(jīng)網(wǎng)絡結構，包括CNN、MLP、RNN、LSTM、TCN和LLM/SLM。

為了進一步簡化神經(jīng)網(wǎng)絡部署，我們的eIQ AI/ML開發(fā)軟件集成了NVIDIA TAO Toolkit API，讓開發(fā)人員能夠輕松訪問豐富的預訓練和微調的AI模型，并將其部署在i.MX 95處理器上。

我們的eIQ AI軟件環(huán)境為開發(fā)人員提供所需工具，以推動邊緣AI創(chuàng)新

此外，恩智浦還幫助開發(fā)人員輕松定制生成性AI模型，并針對邊緣應用對其進行優(yōu)化。我們將在eIQ開發(fā)軟件中引入GenAI Flow，幫助客戶安全地基于域特定知識和私有數(shù)據(jù)訓練AI模型。例如，用戶可以使用用戶手冊訓練LLM，讓聊天機器人能夠回答用戶關于特定產(chǎn)品的問題。 

從i.MX 95處理器豐富的AI功能，到恩智浦全面的開發(fā)工具套件，i.MX 95系列為智能家居、智能辦公室、汽車、工業(yè)環(huán)境及醫(yī)院等領域提供卓越的邊緣機器視覺功能。 

如果您希望在下一個項目中使用i.MX 95系列，并深入了解更多信息，請訪問i.MX 95產(chǎn)品頁面。

此外，敬請關注本系列博文的第三部分，我將重點介紹i.MX 95系列如何提供先進的連接與信息安全功能。

作者：

Davis Sawyer

恩智浦半導體安全連接邊緣資深產(chǎn)品市場經(jīng)理

Toby Foster目前擔任恩智浦安全連接邊緣業(yè)務部資深產(chǎn)品市場經(jīng)理，專注于網(wǎng)絡應用和Layerscape系列處理器的管理。他還擔任網(wǎng)絡處理器系統(tǒng)架構師和應用工程經(jīng)理。Foster先生擁有美國哈維穆德學院電氣工程學學士和碩士學位。