MediaTek Dimensity チップセットが Microsoft Phi-3.5 向けに最適化されました

MediaTek は、Microsoft Phi-3.5 の最近のリリースに伴い、Dimensity 9400、9300、8300、および将来の生成 AI 対応チップセットを含む生成 AI 対応 NPU 向けに新しい Small Language Model (SLM) を最適化したことを発表しました。

リースの一環として、Microsoft は Phi-3.5-mini (強化された多言語サポートを特徴とする) と Phi-3.5-vision (改善されたマルチフレーム画像の理解と推論を特徴とする) も発表しました。これらの最新の追加機能は、言語、推論、コーディング、数学などのさまざまなベンチマークで大型モデルを上回り、パフォーマンス、電力効率、レイテンシ、安全性において優れた、非常に高性能でコスト効率の高い設計となっています。

これは、デバイス上のタスク向けに最適化された Microsoft SLM に対する MediaTek の継続的なサポートに続くものであり、Dimensity プラットフォームでのエッジ AI の進歩に対する MediaTek の献身をさらに実証しています。最近、MediaTek の AI IoT BU (アメリカおよびヨーロッパ) の AVP 兼 GM である Sameer Sharma が、Microsoft Ignite で Phi と SLM のパフォーマンスを最適化する方法についてのセッションを行いました。プレゼンテーションとスライドはダウンロードできます。

開発者は、Azure AI Model Catalogや MediaTek の NeuroPilot SDK を通じて Microsoft Phi-3.5 を活用できます。NeuroPilot SDK は、MediaTek の幅広い製品範囲、特に NPU が組み込まれたモバイル プラットフォームでオンデバイス Gen-AI 推論を有効にして最適化するツールキットです。

Microsoft Phi-3.5 の違いと機能の詳細については、こちらをご覧ください。