JANOG54 2日目「LINEヤフー米国データセンタ技術の最前線:LLM(大規模言語モデル)と水冷技術への挑戦」

 せっかく奈良まで来たので、本題は終わりましたが、気になるセッション、拝聴して来ました。
参加したセッションは、「LINEヤフー米国データセンタ技術の最前線:LLM(大規模言語モデル)と水冷技術への挑戦」です。
生成AIのために、GPU、グラフィックボードを満載したサーバーラック向けに、水冷技術が必要との事です。
1ラックで120kw(家庭用エアコンが1kwくらいなので、エアコン120台分)と言う非常に大きな消費電力を使うそうです。
発熱も、かなりやばそうですね。
仕事には直結しない分野ですが、非常に参考になりました。
株などの投資案件には、こう言った情報は活かされるのかと思います。

奈良県コンベンションセンター

奈良県コンベンションセンター

セミナー会場開始前

セミナー会場開始前

セミナー講師の松谷憲文さん

セミナー講師の松谷憲文さん

サーバーの水冷技術と空調機の風量不足

サーバーの水冷技術と空調機の風量不足

サーバー、GPUの水冷技術

サーバー、GPUの水冷技術

AI向けの1ラックで120kwも電力を消費する

AI向けの1ラックで120kwも電力を消費する

セミナー終了直後の会場、ほぼ満席だった

セミナー終了直後の会場、ほぼ満席だった