KI-Modelle benötigen für Training und Betrieb Rechenleistung, und die braucht Strom. Für einzelne Anfragen ist der Bedarf gering, in der Summe wächst er mit Nutzung und Modellgröße. Für Unternehmen wird Strom damit zu einer Größe, die in Kosten, Standortwahl und Berichtspflichten hineinwirkt.
Was Sie beeinflussen können:
- Modellgröße: Nutzen Sie das kleinste Modell, das die Aufgabe zuverlässig erfüllt.
- Menge: Vermeiden Sie unnötige Aufrufe, etwa durch Zwischenspeicher und gezielte Auslösung.
- Zeitpunkt: Nicht eilige Aufgaben lassen sich bündeln und zu günstigen Zeiten rechnen.
- Standort: Bei Cloud-Diensten lohnt die Frage nach Region, Energiemix und Effizienz des Rechenzentrums.
- Eigener Betrieb: Eigene Hardware hat Anschaffungs-, Strom- und Kühlungskosten, die Sie vollständig ansetzen sollten.
Fragen Sie Anbieter nach Angaben zu Energieverbrauch und Nachhaltigkeitsberichten, und halten Sie Ihre eigenen Annahmen schriftlich fest. Wo Berichtspflichten zur Nachhaltigkeit bestehen, stimmen Sie die Erfassung früh mit Controlling und Nachhaltigkeitsverantwortlichen ab. Verlässliche Zahlen entstehen erst durch eigene Messung im Betrieb.
