전력이 제한된 AI시설은 GPU를 더 주문하는 것만으로 늘어나지 않는다. 모델·작업량·가속기 대기·전기 사용시간을 소프트웨어가 정한다. 연구진은 이 선택을 바꾸면 칩 교체나 새 전력 연결보다 빨리 설치 장비의 능력을 풀 수 있다고 본다.
하드웨어·냉각·전력망 투자가 불필요해지는 것은 아니다. 홍보된 와트당 성능에서 실제 한도 안의 유용한 완료 작업과 절감을 감축에 쓸지 증산에 쓸지로 질문이 바뀐다.
PUE는 건물 경계이지 계산 가치가 아니다
PUE는 시설 전체 에너지를 IT에 전달한 에너지로 나눈다. 1.0 근처는 냉각·조명·변환 부하가 작다는 뜻이지 모든 계산이 필요하다는 뜻은 아니다. 좋은 PUE에도 과대 모델·과다 토큰·부분 유휴 서버가 있을 수 있다.
Uptime Institute의 2025 조사 가중 평균은 1.54이며 6년째 큰 개선이 없었다. 옛 시설과 지역 냉각 제약이 일부 이유다. IEA는 현대 센터 전력 중 서버 약 60%, 저장·네트워크는 작고 냉각은 효율적 대형센터 약 7%에서 비효율 기업시설 30% 넘게 본다.
분모·환경이 달라 하나의 보편적 비율로 합하면 안 된다. 시설 개선만으로 앱 낭비를 못 푸는 이유다. 모델·정밀도·배치·출력 길이·설정·일정이 랙 전력의 생산성을 정한다.
Michigan대 ML.Energy 관련 Jae-Won Chung은 하드웨어·시스템·알고리즘·앱을 연결된 층으로 본다. 코드는 제작·구매·설치·시험보다 빨리 바뀐다. 한도가 고정돼도 더 많은 요청과 적은 대기로 피크를 늘리지 않고 능력을 더할 수 있다.
세계 전망은 지역 전력망 병목과 만난다
IEA는 2024년 415TWh, 세계의 약 1.5%, 이전 5년 연평균 12% 성장으로 추산했다. 기본 시나리오는 2030년 945TWh, 3% 약간 아래로 현재 일본보다 조금 많다.
미국·중국은 2024년 대비 240·175TWh 늘 전망이다. 가속 서버 전력은 연30% 증가해 순증 거의 절반, 일반 서버와 냉각 포함 기반은 각 약 5분의1이다.
2030년 실측이 아니라 시나리오다. 세계 비율은 지역 집중을 숨긴다. 센터는 2~3년에 열려도 발전·송전·변전소는 더 오래 걸린다. 고효율 시나리오는 소프트웨어·장비·시설을 함께 개선해 2035년 같은 서비스를 15% 넘게 적은 전기로 제공한다.
Amazon·Google·Meta·Microsoft·AI기업은 장기 계약·재생·원자력·현장발전·밀집 랙·자체 칩을 추진하지만 시간·돈이 든다. 라우팅·일정은 다른 지렛대다. 구매자는 건별 전기요금 없이도 쿼터·지연·모델 접근에서 전력 제한을 겪는다. 전력회사가 발전과 송전을 확장하는 속도보다 프로세서 주문이 빠를 수 있다. GPU가 남아 있어도 동시에 모두 켤 전기가 없다면 문제는 장비 수량이 아니라 주어진 전력 안에서 처리하는 유용한 작업량이다. 따라서 소프트웨어 절감은 배포 속도와 판매 가능한 서비스에도 직접 연결된다.
절감 숫자에는 서로 다른 조건이 있다
Blackwell 프로필은 계산·메모리 주파수·전력 한도·캐시·NVLink를 바꾼다. Nvidia는 최소97% 성능을 유지하며 최대15% 에너지 절감, 전력 제한 시설에서 최대13% 처리량 증가를 주장한다. 작업 의존적이며 모든 설치의 보장이 아니다.
최대 클록은 작은 성능 이득에 과도한 전력을 쓸 수 있다. 선택 감속은 출력을 대부분 보존하면서 다른 GPU에 전기를 돌려 랙 처리량을 높인다. 절감과 증산은 다른 제약 비교다.
ML.Energy는 Qwen3-235B-A22B-Thinking을 FP8과 bfloat16으로 비교해 시험한 문제 해결 추론에서 약 3분의1 적은 에너지를 얻었다. 정밀도 감소는 정확도를 바꾸며 모델·장비·구현에 달린다. 모든 양자화의 무손실 동일 절감 증거가 아니다.
학습에는 동기화 여유가 있다. 빨리 끝난 부분이 느린 부분을 기다린다. Perseus는 작업이 적은 구성요소만 늦춰 병목과 함께 끝나게 하며 전체를 늦추지 않는다. 연구 구성에서는 처리량 감소 없이 최대30% 절감했다.
상위 층은 캐시·작은 모델 라우팅·프롬프트 압축·출력 제한·배치를 쓴다. 컴파일러는 연산 융합과 데이터 이동 감소로 계산 외 에너지도 줄인다. 알맞은 인스턴스와 옛 랙 퇴역은 기본 유휴전력을 줄인다. SHI Chetan Visrolia는 이를 실용 대상으로 꼽는다.
하나의 제품이나 더할 수 있는 퍼센트가 아니다. 결과를 개선하지 않는 서로 다른 일을 없애며 필요한 품질·서비스를 유지해야 한다.
시간과 장소는 총소비 감소 없이도 중요하다
대화형 앱은 빨라야 하지만 평가·데이터 처리·일부 학습은 미룰 수 있다. 시간 이동은 피크를, 지역 이동은 여유 센터를 찾는다. ETH Zurich Sophie Hall은 Google 데이터센터군에서 전날 계획·실시간 일정·성능 보장을 결합한다.
재생 과잉과 저녁 병목의 1MWh는 영향이 다르다. 2026 National Grid·Nvidia·Emerald AI·EPRI 시험은 한 운영자가 1분 미만에 수요를 약66%로 줄이고 별도 시험은 10%능력으로 10시간 운영했다고 보고했다.
별도 시연이지 모든 상업 작업의 허용 범위가 아니다. 일시 중단 가능한 접속은 임시 계산 제한과 교환해 빨리 전기를 받을 가능성이 있지만 전력회사·규제자·운영자 합의가 필요하다. 운영자는 스트레스 시간에 계산 능력을 양보하고 전력회사는 시설의 이론적 최대 부하를 항상 공급하지 않아도 되는 조절 가능한 수요를 얻는다. 연구에서 빠르게 줄였다는 사실과 실제 고객 계약의 지연 조건을 만족한다는 것은 별도 검증이다.
Nature Reviews Clean Technology는 재생 많은 전력망에 맞춰 운영하면 생애 배출을 약10% 줄일 수 있다고 추정한다. 물을 덜 써도 일부 조건에서 배출이 늘어 에너지·탄소·물 목표는 충돌할 수 있다. 전력량·시점·탄소 강도·물 스트레스·지연·데이터 위치는 별도 변수다.
큰 데이터센터군은 선택지가 많지만 작은 곳도 배치를 미루고 유휴를 줄이고 모델을 고를 수 있다. 개발자는 진짜 요구를 표시해야 한다. 기다릴 작업을 긴급으로 부르면 즉시 능력을 불필요 예약한다. 한정 흐름·재사용 맥락은 스케줄러 이전에 중복을 줄인다.
품질·프라이버시·반등이 결론을 제한한다
토큰당 에너지만 보면 무용 토큰 증가를 놓친다. 허용 품질의 완료 작업당 에너지가 모델 차이·재시도를 더 잘 반영한다. 이용률 증가는 저가치 요청일 수 있고 나쁜 정밀도·라우팅은 오류·재요청·큰 모델 전환을 부른다.
캐시는 기밀·최신성, 지역 이동은 데이터 주권을 지켜야 한다. 대형 전송은 시간·망·전기를 소비하고 위험도 만든다. 대화형은 청정 전기를 몇 시간 기다릴 수 없고 학습 중단은 체크포인트·복구가 필요하다.
Jevons반등은 절대 절감을 흡수한다. 추론당15%를 아껴 추가 요청에 쓰면 시설은 여전히 전체 전력 한도를 쓴다. 유용한 증산이어도 전력·배출 감소는 아닐 수 있다. 효율 기준만으로 지역망 부담을 줄이지 못할 수 있다.
낭비 제거·줄당 토큰 증가는 모든 작업의 가치를 증명하지 않는다. 발전·송전·냉각을 대체하지 못하고 IEA도 전반 개선을 가정한다. 품질을 반영한 와트당 유용한 작업과 절대 시설 소비를 함께 봐야 한다. 첫 지표는 공학적 개선을 보여주고 두 번째는 그 개선이 실제 전력망 부담을 낮췄는지 드러낸다. 더 싼 계산이 더 많은 사용을 부르는 경우도 있어 두 수치를 같은 결과로 설명해서는 안 된다.
비교 데이터는 드물다. 선택 평균과 유리한 내부 작업은 구성 변화를 숨긴다. 같은 과제의 독립 시험은 품질·지연·이용률·에너지를 함께 보고해야 한다. 정확도를 빼면 저품질을, 지연을 빼면 실용 불가 설정을 보상한다.
증거는 실제 운영 행동이다
세 신호가 소프트웨어 경로를 뒷받침한다. 모델·정밀도·전력별 재현 가능한 과제 보고, 시연을 넘는 상업 유연 접속, 풀린 능력을 어떻게 쓰는지의 공개다.
건설을 미루고 피크를 줄이면 전력망을 돕는다. 절감 전부를 생성 확대에 쓰면 계산 부족을 주로 푼다. 둘 다 성공일 수 있으나 질문이 달라 무조건 친환경 주장을 공유할 수 없다.
소프트웨어는 변전소보다 빨리 여러 층을 개선한다. 시험은 실험실 퍼센트가 아니라 와트당 더 많은 적정 완료 작업, 전력 때문에 막힌 배포 감소, 유용한 유연성과 투명한 절대 수요다.
출처와 관련 자료
Uptime Institute 조사 · IEA 에너지 전망 · Perseus 연구 · AI 지속가능성 검토 · 관련: AI 업무 흐름 · 소프트웨어 효율 보도