深層学習や大規模言語モデルといった先進的なテクノロジーの登場により、AIは劇的な進化を遂げ、現在ではさまざまな業界のゲームチェンジを加速することになった。特に生成AIの飛躍的な精度の向上は、2023年の第4次AIブームのけん引役となり、各社がAIへの投資を加速させる要因ともなった。
国内においても、各社が市場を獲得すべく、AIサービスの開発や提供を加速させているが、一方で、AI開発環境に関する課題も顕在化している。AIの原資となるデータの爆発的な増大に、インフラが十分にキャッチアップできておらず、十分な計算リソースが確保できなくなっているのだ。さらに、迅速な開発を目的とした運用管理のコスト増大も問題になっている。
本資料では、高精度なAIを活用するためには、膨大なデータ量や計算量に対応できるハイパフォーマンスとともに、運用管理のコスト最適化も実現する必要があると解説している。さらに、これらの相反する取り組みを両立するための方法についても明らかにしているので、参考にしてほしい。