膨大な処理能力や電力が必要なAIワークロード、その要求に対応可能なCPUとは?
AIワークロードの実行には膨大な処理能力や電力が必要になるが、AI推論というアプローチならAIトレーニングほどのリソースを消費せず、時間やコストも抑えられる。そこでCPUが果たす役割とは、どのようなものだろうか。
2025/03/11
- カテゴリ:
- エンタープライズAI
- AI/機械学習/ディープラーニング
AIワークロードの実行には膨大な処理能力や電力が必要になるが、AI推論というアプローチならAIトレーニングほどのリソースを消費せず、時間やコストも抑えられる。そこでCPUが果たす役割とは、どのようなものだろうか。
2025/03/11
IoT開発が活発なのがイメージングの分野である。特に人工知能(AI)や機械学習(ML)を利用した人物検出などは、この代表格といえる。一方、こうしたニューラルネットワークを組み込みデバイスで処理するのは容易なことではない。
2025/03/11
大規模言語モデル(LLM)は、クラウドからエッジに至るあらゆる環境でAIの可能性を引き出す上で欠かせないものだが、一方で膨大な演算リソースとエネルギーも必要になる。この問題を解決し、AIの快適な利用を可能にする手段があるという。
2025/03/11
生成AIアプリに対するニーズがかつてないほど高まっているものの、開発の現場では新技術がリリースされるたびに、その対応に忙殺されているのが現状だ。こうした状況を打開すべく、AI/ML開発の主要フレームワークの統合が実現した。
2025/03/11
生成AIへの投資が拡大し、技術革新が進む中、開発者には考慮すべき幾つかの課題が押し寄せている。本資料では、「生成AIワークロードの効率的な実行と規模の拡大」をはじめとする4つの課題を解説した上で、その解決策を紹介する。
2025/03/11
スマートデバイス向けのゲームアプリにも高品質なグラフィックが求められるようになったが、それにより消費電力の増加が問題になっている。こうした中で、パフォーマンスと消費電力のバランスを取るには、どうすればよいのか。
2024/11/28
GoogleのMediaPipeとXNNPACKのチームは、開発者向けのオープンな大規模言語モデルGemmaのパフォーマンスを25%も向上させたという。これに貢献したのが、Arm CPU上でAIのパフォーマンスを高める革新的なソフトウェアライブラリだ。
2024/11/28
アプリケーション性能を最大化するには、ハードウェアに合わせた調整が欠かせない。そこで使われるのがパフォーマンス解析ツールだが、できれば無償で、設定も最小限で済み、効率的にデータを取得できるものが良い。そのツールを紹介する。
2024/10/28
PC市場の新たな主流として、期待が寄せられるWindows on Arm。Armベースの半導体チップの効率性を容易に活用できるため、AIアプリケーションの効率的な動作が期待できるメリットは大きい。今後はどのような展開が待っているのか。
2024/10/28
ゲームの評価を左右する要素として無視できないのが、グラフィックスのクオリティーだ。精緻かつリアルなグラフィックスは、プレイヤーのゲーム体験の質を高める効果がある一方で、デバイスのGPU負荷や消費電力の増大が避けられない。
2024/10/28