エッジAIシステムには、複雑なAIワークロードを低遅延かつ効率的な電力消費でローカルに処理することがますます求められています。産業オートメーション、スマートリテール、ロボット工学、インテリジェント監視などのアプリケーションでは、クラウドインフラストラクチャに完全に依存することなく、リアルタイムの推論が求められています。
ARA-2（Ara240）ディスクリートニューラルプロセッシングユニット（DNPU）は、組み込みおよびエッジコンピューティングプラットフォーム向けに高性能なAIアクセラレーションを提供することで、これらの要件に対応します。iWave i.MX95 SMARCシステムオンモジュールと統合することで、このプラットフォームは次世代インテリジェントシステム向けのスケーラブルなエッジAI展開を可能にします。
エッジAIにARA-2を採用する理由とは？
ARA-2は、低消費電力と効率的なシステム性能を維持しながら、最新のニューラルネットワーク推論ワークロードを高速化するように設計されています。
主なハイライト
- 最大40 eTOPSのAI演算性能
- PCIe Gen4 x4 ホストインターフェース
- TensorFlow、PyTorch、およびONNXのサポート
- 組み込みシステムへの統合に適したコンパクトなM.2フォームファクタ
- 消費電力は約6.5W
- 同時複数モデル実行のサポート
このアーキテクチャは、専用のAI演算エンジン、高速接続、およびセキュアな実行機能を組み合わせることで、要求の厳しいエッジAIアプリケーションをサポートします。
AIワークロードをローカルで処理することで、このプラットフォームはレイテンシの削減、応答性の向上、および継続的なクラウド接続への依存度の最小化に貢献します。
i.MX95 SMARCプラットフォームにおけるエッジAIの高速化
ARA-2（Ara240）DNPUは、高性能組み込みプロセッサプラットフォームと統合することで、拡張性の高いエッジAIシステムを実現できます。そのようなプラットフォームの一つがi.MX95 SMARCシステムオンモジュールであり、AI対応組み込みアプリケーション向けに強力なコンピューティング環境を提供します。
このモジュールは、複数のArm Cortex-A55コアと専用のリアルタイム処理コアを統合したi.MX95プロセッサをベースとしています。このアーキテクチャにより、オペレーティングシステムのタスク、マルチメディア処理、周辺機器制御を効率的に管理できるだけでなく、ARA-2 DNPUを使用してAI推論ワークロードを高速化できます。
高速インターフェース、高度な接続性、産業グレードの設計をサポートし、
iG-G61M® SMARCモジュール 産業オートメーション、スマートリテール、インテリジェント組み込みシステムにおけるエッジAIソリューションの展開のための、信頼性の高いハードウェアプラットフォームを提供します。
i.MX95プロセッサは以下の機能を提供します。
- 最大2.0GHzで動作する6つのArm Cortex-A55コア
- 専用のCortex-M33およびCortex-M7リアルタイムコア
- 最大16GBのLPDDR5メモリをサポート
- AIアクセラレータ統合のためのPCIe接続
- Wi-Fi 6とBluetooth 5.3接続
- 産業グレードのSMARCフォームファクター
この組み合わせにより、組み込みプロセッサはオペレーティングシステムのタスク、接続性、周辺機器の制御を管理し、ARA-2アクセラレータはAI推論ワークロードを効率的に処理できます。モジュール式のSMARCアーキテクチャは、産業用および組み込みエッジシステムへの統合も簡素化します。
組み込みプラットフォームにおけるエッジLLM推論
ARA-2（Ara240）は、i.MX95 SMARCシステムオンモジュールと統合することで、大規模言語モデル（LLM）を組み込みエッジデバイス上で直接実行することを可能にします。これにより、クラウドインフラストラクチャに依存することなく、リアルタイムのAI処理を実現できます。
このユースケースでは、LLMベースのアプリケーションが組み込みプラットフォーム上でローカルに実行され、端末またはアプリケーションインターフェースを介してユーザー入力を処理します。ARA-2 DNPUは推論を高速化し、低消費電力を維持しながら効率的な応答生成を可能にします。
このアプローチは、低遅延、ローカルデータ処理、および継続的なクラウド接続が利用できない環境における信頼性の高い動作を必要とするインテリジェントエッジシステムをサポートします。
インターフェース出力例：
用途
産業自動化
インテリジェントロボット、画像検査システム、予知保全、自動生産監視をサポートします。
スマートリテール
AIを活用した在庫追跡、顧客行動分析、スマートチェックアウトシステム、インタラクティブキオスクなどを実現します。
ホーム＆エンターテイメント
スマートホーム機器、メディア処理システム、およびAI対応エンターテイメントプラットフォームの機能を強化します。
エッジAIシステム
高性能な推論アクセラレーションを必要とするAIゲートウェイ、組み込みコンピューティングデバイス、エッジサーバーに適しています。
結論
ARA-2（Ara240）DNPUは、組み込みプラットフォーム上でエッジAIアクセラレーションを実現するための、効率的で拡張性の高いソリューションを提供します。i.MX95 SMARCシステムオンモジュールと統合することで、低消費電力とコンパクトなシステム統合を維持しながら、最新のAI推論に必要な演算性能を実現します。
エッジAI処理、マルチモデル推論、組み込みLLM展開をサポートするこのプラットフォームは、産業、小売、組み込みコンピューティングアプリケーションにおける次世代インテリジェントシステムに最適です。
iWaveのエッジAIプラットフォームおよび組み込みソリューションに関する詳細については、mktg@iwave-global.comまでお問い合わせください。
