エッジAIとは
Edge AI
クラウドではなく、スマートフォン・IoTデバイス・製造ライン等のエッジ(末端)デバイスでAI処理を実行する技術・アーキテクチャ。
クラウドへのデータ送信なしにリアルタイム処理できるため、低遅延・プライバシー保護・通信コスト削減のメリットがあります。スマートフォンでの顔認識・工場設備の異常検知・自動運転車のリアルタイム判断などで活用。Qualcomm・Apple・NVIDIAなどがエッジAI向けチップを開発しており、LLMの小型化(SLM)技術と組み合わせることでデバイス上でのLLM実行も現実化しています。