Entwicklung einer europäischen Large-Language-Model-Technologie

Forschung braucht Know-how und Geld. Europa hat beides. Jetzt haben KI-Pionier Sepp Hochreiter, Company Builder Netural X sowie PIERER Digital Holding das Unternehmen NXAI GmbH gegründet, um europäische KI-Spitzenforschung umfangreich zu fördern und innovative KI-Lösungen für den internationalen Markt zu entwickeln. [...]

NXAI-Grüner: Felix Neusser, Univ.-Prof. dr. Sepp Hochreiter und Albert Ortig. (C) NXAI GmbH
NXAI-Grüner: Felix Neusser, Univ.-Prof. dr. Sepp Hochreiter und Albert Ortig. (C) NXAI GmbH

Es ist eine großartige Ansammlung an Knowhow, das hier in Oberösterreich zusammengefunden hat. Der anerkannte KI-Forscher LSTM-Erfinder Sepp Hochreiter und der Company Builder Netural X GmbH haben in enger Kooperation mit der Johannes Kepler Universität (JKU) in Linz und dessen renommierten Forschungszentrum LIT AI Lab am Linz Institute of Technology, die Gründung der im Dezember 2023 ins Leben gerufene NXAI GmbH bekannt gegeben. Diese soll ein neues Zentrum für KI-Forschung und -Produktentwicklung im Herzen Europas werden, mit dem Ziel europäische KI-Anwendungen auf wettbewerbsfähigem, globalen Niveau zu entwickeln und ein eigenes Large Language Model zu bauen.  

Hier wird in einem ersten Schritt die technologische Spitzenforschung um Large Language Models (LLM) und insbesondere den von Hochreiter entwickelten xLSTM-Algorithmus forciert. Erste Ergebnisse zeigen, dass xLSTM effizienter (mit weniger Rechenkapazität), schneller und vor allem besser (höhere Genauigkeit) arbeitet als alle bisherigen LLMs. Insbesondere versteht xLSTM die Semantik von Texten besser als die bisherigen LLMs und kann dadurch komplizierte Texte verstehen und generieren. Darüber hinaus wird NXAI zukünftig weltweit führende algorithmische Methoden im Bereich Deep Learning erforschen, z.B. zur Beschleunigung von Simulationen komplexer dynamischer Systeme.

Das europäische Large Language Model xLSTM: Der Unterschied liegt im Algorithmus

KI-Vordenker Sepp Hochreiter legte den Grundstein bereits 1991 und erfand die LSTM (Long Short Term Memory)-Technologie. Damit ebnete er den Weg zur heutigen Form der Künstlichen Intelligenz. Die Technologie war bis 2017 die führende Methode in der Sprachverarbeitung und der Textanalyse und wurde bis heute milliardenfach in Smartphones eingesetzt. 2023 gelang dem KI-Experten mit xLSTM ein weiterer Durchbruch. 

Aktuelle Large-Language-Modelle basieren auf den sogenannten Transformermodellen. Diese benötigen im laufenden Betrieb sehr hohe Rechenleistungen, wenn der Text lang ist. Die Transformer-Berechnungen steigen somit quadratisch mit der Textlänge. Im Gegensatz dazu steigen die xLSTM-Berechnungen nur linear mit der Textlänge und brauchen im laufenden Betrieb weniger Rechenleistung. Das ist ein großer Vorteil, da komplexe Aufgaben viel mehr Text sowohl zur Aufgabenbeschreibung als auch zur Lösung brauchen. Erfreulicherweise werden so z.B. mit xLSTM industrielle Anwendungen möglich, für die Transformermodelle zu langsam sind. xLSTM besitzt, wie auch Transformermodelle, einen phonetischen Speicher. Allerdings ist der Algorithmus mit einer weiteren Komponente ausgestattet, die zu einer größeren Ähnlichkeit mit dem menschlichen verbalen Arbeitsgedächtnis führt. Dadurch ist der xLSTM-Algorithmus um ein vielfaches leistungsstärker.   

Hochreiter isr sich sicher, dass mit ihrer gesteigerten Effizienz und Leistung in der Verarbeitung von Texten die xLSTM-Technologie einen neuen Standard in der KI-Sprachverarbeitung setzen wird. 

NXAI als Wachstumstreiber der LLM-Revolution

Zwischen der JKU und NXAI wurde eine Forschungskooperation vereinbart, um bisherigen Erkenntnissen rund um xLSTM zur Marktreife zu verhelfen. Das Ziel von NXAI ist die engere Verzahnung von Wissenschaft und Wirtschaft, um einen erfolgreichen Technologietransfer von KI-Lösungen sicherzustellen. Daher werden neben den Forschungsaktivitäten künftig im Rahmen der NXAI Spitzenforscher:innen, Entrepreneur:innen und Industrieexpert:innen zusammenkommen. Obwohl die Forschung unabhängig und selbstbestimmt ist, werden ausgewählte Industriepartner eng mit NXAI und Forscher:innen arbeiten, um das Potential zukünftiger KI-Entwicklung effizient in die Praxis zu überführen. Im ersten Schritt wird die Finanzierung durch PIERER Digital Holding als Mitgesellschafter von NXAI sichergestellt.


Mehr Artikel

Rüdiger Linhart, Vorsitzender der Berufsgruppe IT der Fachgruppe UBIT Wien. (c) WeinwurmFotografie
Interview

IT-Berufe im Fokus: Innovative Lösungen gegen den Fachkräftemangel

Angesichts des anhaltenden IT-Fachkräftemangels ist schnelles Handeln gefordert. Die Fachgruppe IT der UBIT Wien setzt in einer Kampagne genau hier an: Mit einem breiten Ansatz soll das vielfältige Berufsbild attraktiver gemacht und innovative Ausbildungswege aufgezeigt werden. IT WELT.at hat dazu mit Rüdiger Linhart, Vorsitzender der Berufsgruppe IT der Fachgruppe UBIT Wien, ein Interview geführt. […]

News

ISO/IEC 27001 erhöht Informationssicherheit bei 81 Prozent der zertifizierten Unternehmen

Eine Umfrage unter 200 Personen verschiedener Branchen und Unternehmensgrößen in Österreich hat erstmals abgefragt, inwiefern der internationale Standard für Informationssicherheits-Managementsysteme (ISO/IEC 27001) bei der Bewältigung von Security-Problemen in der Praxis unterstützt. Ergebnis: Rund 81 Prozent der zertifizierten Unternehmen gaben an, dass sich durch die ISO/IEC 27001 die Informationssicherheit in ihrem Unternehmen erhöht hat. […]

News

Public Key Infrastructure: Best Practices für einen erfolgreichen Zertifikats-Widerruf

Um die Sicherheit ihrer Public Key Infrastructure (PKI) aufrecht zu erhalten, müssen PKI-Teams, sobald bei einer Zertifizierungsstelle eine Sicherheitslücke entdeckt worden ist, sämtliche betroffenen Zertifikate widerrufen. Ein wichtiger Vorgang, der zwar nicht regelmäßig, aber doch so häufig auftritt, dass es sich lohnt, PKI-Teams einige Best Practices für einen effektiven und effizienten Zertifikatswiderruf an die Hand zu geben. […]

News

UBIT Security-Talk: Cyberkriminalität wächst unaufhaltsam

Jedes Unternehmen, das IT-Systeme nutzt, ist potenziell gefährdet Opfer von Cyberkriminalität zu werden, denn die Bedrohung und die Anzahl der Hackerangriffe in Österreich nimmt stetig zu. Die Experts Group IT-Security der Wirtschaftskammer Salzburg lädt am 11. November 2024 zum „UBIT Security-Talk Cyber Defense“ ein, um Unternehmen in Salzburg zu unterstützen, sich besser gegen diese Bedrohungen zu wappnen. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*