研究の概要

AIサービスを支えるデータセンターのGPUサーバーは膨大な電力を消費し、GX推進の文脈でも無視できない排出源になっている。本研究は液冷型GPUクラスタにおいて、温度変化を考慮したLLM推論スケジューリング手法「HeatCache」を提案し、消費電力削減とサーマルスロットリング（熱による性能低下）抑制を同時に実現した。

主な発見・成果

  • 計算エネルギー18.0%削減：従来の温度考慮なしスケジューリングと比較して最大18%の電力削減
  • サーマルスロットリング81.7%削減：熱による処理速度低下を大幅に抑制し、実効スループットを向上
  • 持続可能な周囲温度での運用：より高い外気温でも安定稼働することで、空調冷却コストを削減
  • 液冷システムとの最適化統合：液冷の熱特性モデルをスケジューラーに統合

実務への応用

AIシステムの導入・運用コストとGHG排出量の両方を削減したい企業に直接適用可能：

  • データセンター電力契約の見直し：推論ワークロードの熱管理最適化で実効電力需要を削減し、電力契約容量を抑制
  • Scope 2排出量の削減：GPU電力消費の18%削減は、そのままデータセンター借用企業のScope 2削減に反映
  • AI活用とカーボンニュートラルの両立：AI活用拡大に伴うエネルギー増加を技術的に相殺する取り組みの根拠として活用