このツールは、チャットボットのメッセージが消費する電力を推定します。

AIモデルに指示を出したり、感謝の言葉を送ったりするときに、どれくらいの電力を使っているのか疑問に思ったことはありませんか？Hugging Faceのエンジニア、Julien Delavande氏はその疑問に答えを見つけるためのツールを開発しました。

AIモデルは実行されるたびに電力を消費します。GPUや専用チップ上で実行されるため、関連する計算ワークロードを大規模に実行するには膨大な電力が必要です。モデルの消費電力を正確に特定することは容易ではありませんが、AI技術の利用拡大により、今後数年間で電力需要がかつてないほど高まると広く予想されています。

AIの動力源としてより多くの電力を必要とすることから、一部の企業は環境に優しくない戦略を追求しています。Delavandeのようなツールは、この問題に注目を集め、AIユーザーに少し考え直すきっかけを与えることを目指しています。

「たとえ小さなエネルギー節約であっても、何百万ものクエリに拡大する可能性があります。モデルの選択や出力の長さは、環境に大きな影響を与える可能性があります」とデラバンデ氏とツールの他の開発者は声明で述べています。

⚡️ ChatGPT にメッセージを送信するたびにどれだけのエネルギーが使用されるのか疑問に思ったことはありませんか?

メッセージの消費エネルギーをリアルタイムで表示するチャットUIのバージョンを作成しました。すべてのチャットボットにこれを表示すべきでしょうか？

詳細は以下👇👇 pic.twitter.com/tBL0Pw51PW

— デラヴァンデ・ジュリアン (@juliendelavande) 2025 年 4 月 22

Delavandeのツールは、MetaのLlama 3.3 70BやGoogleのGemma 3などのモデル向けのオープンソースフロントエンドであるChat UIと連携するように設計されています。このツールは、モデルとの間で送受信されるメッセージのエネルギー消費量をリアルタイムで推定し、ワット時またはジュール単位で消費量を報告します。また、モデルのエネルギー消費量を電子レンジやLEDなどの一般的な家電製品のエネルギー消費量と比較することもできます。

このツールによれば、Llama 3.3 70B に典型的な電子メールの作成を依頼すると、約 0.1841 ワット時が消費されます。これは、電子レンジを 0.12 秒間作動させるか、トースターを 0.02 秒間使用するのと同等です。