Sechs Ansätze für eine nachhaltige GenAI-Entwicklung

Generative KI verbraucht Strom, sogar sehr viel Strom. Vor allem das Training der großen Sprachmodelle erfordert aufgrund der benötigten Rechenleistung eine enorme Menge an Energie. Dell Technologies nennt wichtige Maßnahmen, um den Verbrauch und die Umweltauswirkungen zu reduzieren. [...]

Stattliche 1.287 Megawattstunden soll 2020 das Training des Sprachmodells GPT-3 laut Forschern von Google und der Universität Berkeley verschlungen haben. Das entspricht dem jährlichen Stromverbrauch von 380 Haushalten. Allein diese Zahl verdeutlicht, welcher enorme Energiebedarf hinter generativer KI steckt. (c) stock.adobe.com/Zamans

Stattliche 1.287 Megawattstunden soll 2020 das Training des Sprachmodells GPT-3 laut Forschern von Google und der Universität Berkeley verschlungen haben. Das entspricht dem jährlichen Stromverbrauch von 380 Haushalten. Allein diese Zahl verdeutlicht, welcher enorme Energiebedarf hinter generativer KI steckt. Zwar stoßen die Modelle der meisten Unternehmen nicht in diese Dimensionen vor, doch die hohen Energiekosten und den ökologischen Fußabdruck von generativer KI können auch sie nicht ignorieren. Glücklicherweise gibt es Möglichkeiten, den Stromverbrauch zu reduzieren und die GenAI-Entwicklung nachhaltiger zu gestalten.

Right-Sizing der KI-Modelle

Auch wenn der Einsatz sehr großer Modelle, die sich für ein breites Spektrum an Anwendungsfällen eignen, spannend sein mag, genügen für die meisten Unternehmen branchen- oder firmenspezifische Implementierungen, deren Energiebedarf deutlich geringer ist. Zudem ist es sinnvoll, diese Modelle nicht von Grund auf selbst zu entwickeln und zu trainieren, sondern vortrainierte Modelle zu nutzen und anzupassen. Dies verringert den Trainingsaufwand – und damit den Stromverbrauch – erheblich.

Energieeffiziente Systeme

Moderne Server sind leistungsstärker und energieeffizienter als frühere Generationen. Dadurch werden nicht nur weniger Systeme für das Training der Modelle benötigt, sondern diese verbrauchen in Relation zu ihrer Leistung auch weniger Strom. Zudem lassen sie sich mit spezialisierten Komponenten ausstatten, die die aufwendigen KI-Berechnungen schneller und energieeffizienter durchführen als Standard-CPUs und -GPUs.

Optimale Auslastung

Server, die schlecht ausgelastet sind, zählen zu den größten Energieverschwendern im Rechenzentrum. Umweltfreundlicher, als leistungsstarke Systeme zu betreiben, die nur für ein gelegentliches KI-Training gebraucht werden, ist es daher, solche Höchstlasten in der Cloud oder mit As-a-Service-Lösungen zu verarbeiten. Auf diese Weise können Unternehmen ihre eigene Infrastruktur optimal auslasten und flexibel skalieren, wenn sie zusätzliche Ressourcen benötigen.

Intelligentes Datenmanagement

Weil das Training von KI-Modellen viel Rechenleistung erfordert, liegt der Fokus von Optimierungen meist auf der GenAI-Entwicklung. Allerdings hat auch die Speicherung und Bereitstellung der Trainingsdaten einen nicht unerheblichen Anteil am Energieverbrauch, da die Datenmengen üblicherweise sehr umfangreich sind. Moderne Storage-Systeme nutzen deshalb leistungsstarke Kompressions- und Deduplizierungsalgorithmen, um die Datenmengen zu reduzieren. Darüber hinaus verlagern sie die Trainingsdaten bei Bedarf automatisch auf schnelle Flash-Medien, die mehr IOPS pro Watt als Festplatten liefern, sodass sie die Daten schneller und energieeffizienter bereitstellen können.

Energieeffizienz durch Software

Moderne Server bieten intelligente Stromsparmodi, die verhindern, dass die Systeme mehr Energie verbrauchen als notwendig. Unternehmen sollten diese tatsächlich nutzen und nicht aus Sorge um Leistungseinbußen abschalten. Die Energiesparmodi sorgen lediglich dafür, dass Komponenten bei geringer Systemlast ihre Leistung absenken oder in einen Ruhemodus wechseln können – sobald für das GenAI-Training die maximale Performance benötigt wird, erwachen sie in Sekundenbruchteilen. Weiteres Optimierungspotenzial steckt in intelligenten Lösungen für das Energiemanagement, die Leistung, Stromverbrauch und Kühleffizienz der Systeme detailliert erfassen und das Energie- und Wärmemanagement automatisieren.

Strom aus erneuerbaren Energiequellen

Trotz aller Nachhaltigkeitsbemühungen bleiben GenAI und Rechenzentren große Stromfresser. Eine weitere wirkungsvolle Maßnahme, ihren ökologischen Fußabdruck zu reduzieren, ist daher der Umstieg auf Strom aus erneuerbaren Energiequellen. Die meisten Stromanbieter bieten entsprechende Verträge an. Abgesehen davon kann natürlich auch das Dach des Rechenzentrums mit Photovoltaik bestückt werden – schließlich handelt es sich meist um große Hallen mit Flachdach, die sich optimal dafür eignen. Auf diese Weise kann ein Teil des Strombedarfs selbst erzeugt werden, und das nachhaltig direkt vor Ort.

„Generative KI kann Unternehmen helfen, ihre betriebliche Effizienz zu verbessern und nachhaltiger zu werden. Zugleich erhöhen GenAI-Anwendungen aber auch den Energieverbrauch im Rechenzentrum“, erläutert Christian Winterfeldt, Senior Director Data Center Sales bei Dell Technologies. „Allerdings stehen Unternehmen dem nicht machtlos gegenüber und können die Entwicklung und den Einsatz von generativer KI durchaus umweltschonend gestalten.“


Mehr Artikel

News

Public Key Infrastructure: Best Practices für einen erfolgreichen Zertifikats-Widerruf

Um die Sicherheit ihrer Public Key Infrastructure (PKI) aufrecht zu erhalten, müssen PKI-Teams, sobald bei einer Zertifizierungsstelle eine Sicherheitslücke entdeckt worden ist, sämtliche betroffenen Zertifikate widerrufen. Ein wichtiger Vorgang, der zwar nicht regelmäßig, aber doch so häufig auftritt, dass es sich lohnt, PKI-Teams einige Best Practices für einen effektiven und effizienten Zertifikatswiderruf an die Hand zu geben. […]

News

UBIT Security-Talk: Cyberkriminalität wächst unaufhaltsam

Jedes Unternehmen, das IT-Systeme nutzt, ist potenziell gefährdet Opfer von Cyberkriminalität zu werden, denn die Bedrohung und die Anzahl der Hackerangriffe in Österreich nimmt stetig zu. Die Experts Group IT-Security der Wirtschaftskammer Salzburg lädt am 11. November 2024 zum „UBIT Security-Talk Cyber Defense“ ein, um Unternehmen in Salzburg zu unterstützen, sich besser gegen diese Bedrohungen zu wappnen. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*