Ziel des zweijährigen, von der FH Salburg geleiteten Forschungsprojektes TGuard ist die Entwicklung von innovativen Methoden zur Erkennung von Desinformation und Strategien zur Verhinderung von KI-generierten Falschmeldungen in sozialen Medien. [...]
Von KI erzeugte Falschmeldungen – seien es Texte, Fotos oder gar Videos – entwickeln sich zu einer ernsthaften Bedrohung der Gesellschaft, die bis hin zu ausgewachsenen politischen Krisen reichen kann. Dieser Entwicklung sagt nun ein wissenschaftliches Konsortium unter der Leitung der Fachhochschule Salzburg mit Partnern aus Forschung, Verteidigung und Kommunikation den Kampf an.
TGuard verfolgt einen ganzheitlichen Ansatz, der sowohl die Erstellung als auch die Erkennung von Fake News untersucht. Man erprobe neue Methoden, um Fake News und Social Bots auf Plattformen wie TikTok oder YouTube offen zu legen, erklärt Clemens Havas, Leiter des Forschungsprojekts am Department Creative Technologies der FH Salzburg. „Darüber hinaus arbeiten wir an einer sicheren Testumgebung, in der KI-gestützte Erkennungssoftware gezielt trainiert werden kann, und schaffen eine interaktive Demonstrator-App, die Schulungen zur Funktionsweise und den Risiken von Social Bots ermöglicht.“ Das langfristige Ziel sei es, KI-Modelle so zu regulieren, dass sie erst gar keine Falschmeldungen erzeugen können, so Havas.
„Wir schaffen eine interaktive Demonstrator-App, die Schulungen zur Funktionsweise und den Risiken von Social Bots ermöglicht.“
Clemens Havas
Bundesheer: Desinformation ist eine der größten Gefahren
„Die Debatte um ›hybride Bedrohungen‹ ist derzeit allgegenwärtig und Ausdruck eines Diskurses über die unscharfe Grenze zwischen Krieg und Frieden“, betont Michael Suker, Leiter des Cyber Dokumentations- & Forschungszentrums an der Landesverteidigungsakademie. Auch das Bundesministerium für Landesverteidigung sieht in seiner Publikation „Risikobild 2025“ hybride Bedrohungen als eine der größten Gefahren für die Gesellschaft. „Hybride Bedrohungen kombinieren militärische und nichtmilitärische, verdeckte und offene Maßnahmen wie Desinformation, Cyberangriffe, wirtschaftlichen Druck und den Einsatz irregulärer sowie regulärer Streitkräfte, um Krieg und Frieden zu verwischen, Zweifel zu säen und Staaten zu destabilisiere“«, beschreibt Suker dieses Bedrohungsszenario. Er hebt hervor, dass Desinformation kurz- und mittelfristig zu den größten Gefahren zählt. Desinformation hat nicht nur politische, sondern auch erhebliche wirtschaftliche Folgen. Dies umfasst unter anderem die Verunsicherung von Märkten und die Beeinträchtigung von Geschäftsentscheidungen durch falsche Informationen. So können etwa falsche Gerüchte über finanzielle Schwierigkeiten eines Unternehmens gezielt gestreut werden, um den Aktienkurs zu beeinflussen und Börsenspekulationen zu begünstigen. Ebenso können gefälschte Rezensionen das Kaufverhalten und den Ruf von Unternehmen erheblich beeinflussen. Neben rechtlichen, ethischen und technischen Herausforderungen ist es entscheidend, die Gesellschaft für die Gefahren von hybriden Bedrohungen, insbesondere von Desinformation, zu sensibilisieren und ihre Widerstandsfähigkeit zu stärken. Dies erfordert ein gemeinsames Engagement von Staat und Gesellschaft. Die Meinungsfreiheit ist dabei ein zentrales Grundrecht. Wesentlich ist der Schutz einer pluralistischen Medienlandschaft unter Einhaltung rechtlicher Grenzen, die Vielfalt der Medienlandschaft in Österreich zu fördern und so eine kritische Auseinandersetzung mit vielfältigen Perspektiven zu ermöglichen.
Statt genereller Verbote sei es wirkungsvoller, Bürger darin zu stärken, Informationen kritisch zu prüfen, um Transparenz und Verantwortlichkeit im Internet zu fördern und gleichzeitig die Gesellschaft wirksam vor Desinformation zu schützen.»Das Projekt TGuard mit seinem breiten Konsortium wird dabei eine wichtige Rolle spielen“, ist Michael Suker überzeugt.
Be the first to comment