ハイブリッド AI – エッジ装置を活用したデータセンター高速化

今回の Exec Talk の記事では、MediaTek がハイブリッド AI（エッジとクラウド）業界における最高のパートナーであること、および、このアプローチを取り入れたスマートホーム、企業、モバイル、自動車により日常生活がどのように変わるのか、メディアテック副社長の Kevin Jou が解説します。

「大規模な機械学習の時代」が到来して数年が経ち、その能力は約 10 カ月ごとに倍増しています。MediaTek は、家庭の中、スマートフォン、自動車の中にあるエッジデバイスへ、AI の早期導入を進めています。つまり、身の回りの製品をスマート化し、みなさんのニーズや環境を把握し対応できるようにしています。

機械学習、およびこれに使用される AI プロセッサは、目覚ましい成長を遂げています。MediaTek は、約7年間にわたり AI プロセッサ（APU）の独自開発に取り組んでおり、SoC の CPU や GPU と同様、無くてはならない重要なものとして位置づけています。今年発売する第7世代 AI アーキテクチャは、次期主力製品になります。

MediaTek はパートナー企業が製品開発を効率的に進められるよう、あらゆる世代の APU を完全にサポートする NeuroPilot® SDK を提供しています。NeuroPilot® SDK により、製品開発にあたりデバイスの可能性を十分に引き出すことができます。一方、MediaTek の研究チームは、次世代の AI が生み出すイノベーションに積極的に挑戦し、多数の科学論文の発表、専門誌への寄稿、さらにホワイトペーパーを公開しています。

毎年 20 億台以上のコネクテッドデバイスに搭載されるほど、MediaTek は成長しました。また、そのほとんどが MediaTek の APU を内蔵しており、世界最先端の AI サプライヤーとしての地位を確立しています。さらに、カスタマイズされた超高性能データセンター AI ソリューションの構築を検討している企業に対して、専用の「エンタープライズ ASIC」サービスも提供しています。MediaTek は、幅広く応用できるディープラーニングアクセラレータ（DLA）アーキテクチャとネットワーキング用の最先端 SerDes テクノロジーのプロフェッショナルであり、単一のコンパクトなプラットフォームによりあらゆるサービスを提供できる唯一のサプライヤーです。

エッジ AI アプリケーションの進化

2014 年以降、MediaTek は音声アシスタントとスマートスピーカーを使ったエッジ AI アプリケーションの最上位に位置しています。このアプリケーションは画像をコンピュータで解析・処理するものであり、ビデオ撮影、メディア再生、ゲーム、VR、AR、さらにはいまや生成 AI に進化しました。

従来の AI（すでに存在しているコンテンツ向け AI）は、数 10 兆 OPS（一秒あたりの演算回数）程度の演算性能を備えたデバイスで実行することができます。こうしたデバイスでは、性能を左右するのは AI プロセッサの機能です。一方、生成 AI は従来の 10 倍から 100 倍の性能が必要であり、現段階ではその性能はメモリの容量と性能によってさらに制約されています。

とは言うものの、クラウドを利用した生成 AI サービス、一般的に多額のコストがかかるとともに、アプリケーションの適用範囲が制限されます。個人や企業が新しいテクノロジーを手にすることができれば、社会と世界経済に大きな利益が生まれます。世界中で、専門的な仕事や日常的に使われる機器用の大規模言語モデル（LLM）を最適化するために多大なる努力が続いています。

技術進歩が近い将来に実を結ぶ

エッジの高性能化

エッジ AI がユーザーに寄与する理由：

1. エッジ AI 専用に設計したデバイスは、不要な情報を早い段階で取り除くことができるため、消費電力が削減し、データを効率的に伝送できます。またこれらのデバイスは、ネットワーク使用量またはエネルギーが低い場合には、前処理したデータを中央制御ハブに伝送せず、必要に応じて一時的に保存することができます。
2. ヒューマンマシンインターフェース（HMI）デバイスについては、低遅延による優れたユーザーエクスペリエンスを提供することができます。これは、動作がクラウドサービスで処理される際に、クラウドとデバイスの間でのネットワーク遅延が生じないためです。
3. エッジデバイスは、データをデバイス上に保存するため、より安全であり、データのプライバシー要件を容易に満たすことができます。
4. インテリジェントデバイスは、利用されている環境をリアルタイムで把握できるため、ローカルでのパーソナライゼーション機能を改善します。

データセンター AI は進化を続ける

クラウドサービスを提供するデータセンターの AI が、生成 AI などの最先端アプリケーションの性能を最大限に引き上げることは明らかです。クラウドとエッジデバイスのバランスを取り、それぞれの強みを生かすことで、最高のユーザーエクスペリエンスを実現します。

究極の AI とネットワーキング性能を備えた ASIC によるデータセンターの生成 AI の強化

MediaTek は、生成 AI の時代を見据え、データセンターでの利用に耐えうる十分な性能の AI モジュールも開発しています。「エンタープライズ ASIC」サービスを利用していただければ、MediaTek が保有する高度な IP（Intellectual Property/知的財産）をご利用いただけます。業界をリードするディープラーニングアクセラレータ（DLA）プロセッサと SerDes テクノロジー、最先端プロセステクノロジーに基づく世界トップクラスの IC 設計能力、チップツーチップ 2.5D/3D 先端パッケージング、大規模な事業運営、確実なサプライチェーン、グローバルな事業展開といった利点をご活用いただけます。これらすべての利点を、「サービスとしての次世代 AI」を検討している非常に大規模な AI プロバイダーや、トップクラスの OEM ベンダーは役立てることができるのです。

MediaTek はハイブリッド AI（エッジとクラウド）をサポートするベストパートナー

MediaTek は、クラウドでも、エッジデバイスでも、さらにはクラウドとエッジを併用するハイブリッドで実現するシナジーの形でも、AI アプリケーションとテクノロジーの導入を推進し、これをサポートできる唯一のサプライヤーです。