Generative Ki und Demokratie: Parlament beauftragt Studie

Generative KI und Deep Fakes haben Auswirkungen auf die Gesellschaft und letztlich auch auf die Demokratie. Doch wie sollen Politiker damit umgehen? Wo lauern Gefahren, wo Chancen? Eine vom Parlament in Auftrag gegebene Studie soll Klarheit darüber bringen. [...]

Nationalratssaal mit Glaskuppel (c) Parlamentsdirektion / Johannes Zinner
Nationalratssaal mit Glaskuppel (c) Parlamentsdirektion / Johannes Zinner

Die Welt wandelt sich, Technik wandelt sich. Damit auch unsere Politiker und Politikerinnen auf dem letzten Stand der Technik bleiben, holt der Beirat für Foresight und Technikfolgenabschätzung des österreichischen Parlaments regelmäßig Expertisen zu neuen technologischen Entwicklungen und ihren möglichen Folgen ein. Gegenwärtig stehen die Entwicklungen im Bereich der generativen KI im Fokus des Beirats, deswegen wurde beim Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften (ÖAW) eine Kurzstudie zur Frage der möglichen Auswirkungen von neuen Anwendungsformen von künstlicher Intelligenz (KI) auf Gesellschaft, Politik und Demokratie in Auftrag gegeben.

Damit soll klarer werden, wie die Abgeordneten und die demokratischen Institutionen mit den neuartigen Möglichkeiten umgehen sollen, die sich aus den Anwendungen der generativen KI ergeben, etwa gänzlich neue Text-, Bild- oder Audio-Inhalte in hoher Qualität zu erstellen. Damit eröffnen sich völlig neue Möglichkeiten für die Manipulation von Informationen und die Beeinflussung der öffentlichen Meinung. Chatbots „halluzinieren“, also geben die Unwahrheit wieder und Deep Fakeszeichnen eine alternative „Wirklichkeit“. Die Studie soll in einem ersten Schritt klären, wie solche Manipulationen überhaupt erkannt werden können. Spoiler: Schon jetzt können Experten ein Deep-Fake-Foto nicht mehr von einem echten unterscheiden. Doch soll die Studie auch andere wichtige Themen behandeln, wie digitale Souveränität, hybride Bedrohungen, KI-Cyberkriminalität in Zeiten der KI und wie man damit umgehen kann.

Es ist dabei der ausdrückliche Wunsch der Abgeordneten insbesondere die problematischen Aspekte von Deep Fakes für Einzelpersonen anzusprechen, darunter auch die Frage einer mögliche Diskreditierung oder sogar Erpressung von politischen Amtsträgern und Amtsträgerinnenn.

Doch nicht um die Risiken für die politische Meinungsbildung und den öffentlichen Diskurs soll es in der Studie gehen, sondern auch mögliche Chancen und positive Ausblicke für die Demokratie sollen erörtert werden.

Natürlich: eine genaue Studie benötigt Zeit und so ist die Laufzeit der Studie von März bis Oktober 2024 angesetzt, wobei ein Zwischenbericht mit vorläufigen Ergebnissen im Juni 2024 vorliegen soll. Das Problem dabei: Gegenwärtig passiert im Bereich der KI so viel, dass vermutlich die Erkenntnisse vom März im Oktober wieder überholt sein werden. Das gilt aber vor allem für die Technologie. Grundsätzlich ist eine Beschäftigung der Abgeordneten mit dem Thema und die daraus folgende Entwicklung allgemeiner Richtlinien sehr begrüßenswert.

Wer sich für die Ergebnisse der Studie interessiert, diese werden auf der Website des Parlaments veröffentlicht.


Mehr Artikel

News

Datenschutzverstöße in Österreich nehmen zu

2024 kam es in Europa zu 130.000 Datenschutzverstößen – davon rund 1.300 in Österreich. Für Österreich bedeutet das einen Anstieg der Datenschutzverstöß von 21 Prozent im Vergleich mit dem Jahr 2023. Nur 4 Länder verzeichneten Rückgänge bei den Verstößen. Seit dem DSGVO-Start wurden in der EU 5,9 Milliarden Euro Bußgelder verhängt. […]

News

Best Practices zum Umgang mit Lookalike-Domains

Bei Cyberangriffen, die Lookalike-Domains nutzen, registrieren Angreifer für sich Domains, die legitimen Domains echter Unternehmen sehr ähnlich sehen. Nachdem sie sich die entsprechende Domain gesichert haben, beginnen sie dann, die dazugehörigen E-Mail-Server für eine E-Mail-Angriffskampagne herzurichten. […]

Raiffeisen Bank International etabliert internationales FinTech-Scout-Netzwerk. (c) Unsplash
News

RBI setzt auf globale FinTech-Scouts

Die Raiffeisen Bank International (RBI) verstärkt ihre Bemühungen im Bereich Finanzinnovationen durch die Etablierung eines global verteilten Teams von FinTech-Scouts. Diese Experten sollen Marktentwicklungen und neue Geschäftsmodelle aufzeigen sowie direkten Zugang zu relevanten Technologieanbietern weltweit ermöglichen. […]

News

Hightech-Crime-Report: Advanced Persistent Threats setzen Europa unter Druck

Mit einem Anstieg von 22 Prozent gegenüber dem Vorjahr nahmen betrügerische Machenschaften 2024 weltweit zu. Europäische Finanzdienstleister waren mit 34 Prozent aller Betrugsfälle am stärksten betroffen, gefolgt von der Transportbranche und dem Regierungs- und Militärsektor. Auch bei Phishing-Angriffen setzte sich der Aufwärtstrend fort: Mehr als 80.000 Phishing-Websites wurden 2024 enttarnt – ein Anstieg um 22 Prozent gegenüber dem Vorjahr. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*