Generative KI – die Büchse der Pandora?

6 wichtige Faktoren für Richtlinien zum Einsatz von künstlicher Intelligenz. [...]

Foto: GerdAltmann/Pixabay

Ob wir es wollen oder nicht – generative Künstliche Intelligenz (KI) findet ihren Weg in immer mehr Unternehmen und gehört bereits fast zum Mainstream. Dabei gehen Unternehmen sehr unterschiedlich mit den Tools um und verfolgen individuelle Ansätze bei der Einführung.

Alexis Hernandez, Anwalt und Compliance- sowie Datenschutz-Experte bei Skillsoft erklärt, warum es dringend notwendig ist, eine verbindliche KI -Richtlinie zu entwickeln und welche Aspekte dabei beachtet werden sollten. (Foto: © SKILLSOFT)

Bei der aktuellen Diskussion um generative KI-Tools gehen die Ansichten weit auseinander. Die einen sehen es als Technologie mit enormem Potenzial, die anderen sehen vor allem die aktuellen Risiken beim Einsatz. Entsprechend unterschiedlich ist der Umgang mit der Technologie.

Samsung beispielsweise verbot die Verwendung von ChatGPT, nachdem Mitarbeiter versehentlich vertrauliche Informationen mit dem Tool geteilt hatten. Apple, Amazon, JPMorgan Chase & Co. und andere Organisationen haben ähnliche Einschränkungen.

Microsoft hingegen hat sich die ChatGPT-Technologie zu eigen gemacht, ebenso wie andere Unternehmen. Expedia, Coca Cola und Slack, um nur einige zu nennen, integrieren die generativen KI-Tools in ihre Projekte und fördern den Einsatz dieser Technologie, um die Arbeitsprozesse ihrer Mitarbeiter zu unterstützen.

Unabhängig davon, wo ein Unternehmen in Bezug auf generative KI steht, ist es unerlässlich, klare, umsetzbare Richtlinien und Vorgaben zu erstellen, zu kommunizieren und durchzusetzen.
 

Wichtige Aspekte für Richtlinien zum Umgang mit KI

Verbindliche Vorgaben oder „Policies“ zum Einsatz von generativer KI helfen Unternehmen bei der Bewältigung der ethischen, rechtlichen, rufschädigenden und gesellschaftlichen Herausforderungen, die mit dem Einsatz von KI-Systemen zur Generierung von Inhalten verbunden sind.

So können Organisationen einen verantwortungsvollen Einsatz der KI-Technologie sicherstellen und gleichzeitig die Interessen von Nutzern und Kunden schützen. Bei der Ausarbeitung der KI-Policy, sollten folgende grundlegende Faktoren berücksichtigen werden:

Compliance – Einhaltung geltender Gesetze:

Der Einsatz von generativen KI-Technologien kann rechtliche Auswirkungen haben. Beispielsweise kann die Erstellung von Inhalten das Urheberrecht, die Privatsphäre oder andere Rechte an geistigem Eigentum verletzen. Das kann rechtliche Konsequenzen nach sich ziehen.

Eine Strategie mit klarem Regelwerk in Bezug auf generative KI-Tools hilft Unternehmen, relevante Gesetze und Vorschriften zu verstehen und einzuhalten. Damit wird das Risiko von Rechtsstreitigkeiten und Haftungsrisiken verringert.

Datenschutz und Sicherheit:

Generative KI-Modelle erfordern oft große Datenmengen, um effektiv trainieren zu können. Die KI-Policy einer Organisation sollte Datenschutz- und Sicherheitsbedenken berücksichtigen und sicherstellen, dass Benutzerdaten und andere sensible Informationen verantwortungsbewusst und sicher gehandhabt werden. Dazu gehört die Festlegung von Verfahren zur Datenanonymisierung, Einwilligung, Zugriffskontrollen und Einhaltung geltender Datenschutzbestimmungen.

Ethische Aspekte:

Generative KI-Technologien, wie Sprachmodelle, können äußerst realistische und überzeugende Inhalte erstellen – einschließlich Text, Bilder und Videos. Ohne klare Richtlinien können Organisationen versehentlich irreführende oder inkorrekte Informationen erstellen oder verbreiten. Eine KI Policy trägt dazu bei, dass Nutzer eine Reihe ethischer Vorgaben berücksichtigen und so den Missbrauch von KI-Technologie verhindern.

Reputation und Vertrauen:

Organisationen, die KI-Systeme zur Generierung von Inhalten nutzen, bleiben für die Qualität und Richtigkeit dieser Inhalte verantwortlich. Klare Regeln helfen dabei, Standards und Richtlinien zur Wahrung des Rufs der Organisation zu wahren und damit auch das Vertrauen der Kunden, Nutzer und Stakeholder. Durch die Sicherstellung, dass generierte Inhalte korrekt und transparent sind, können Unternehmen Vertrauen bei ihren Zielgruppen aufbauen.

Bias und Fairness:

KI-Systeme können unbeabsichtigt Bias in den für das Training verwendeten Daten etablieren oder verstärken. Eine KI-Richtlinie sollte Maßnahmen zur Identifizierung und Abschwächung von Vorurteilen und zur Förderung von Fairness und Inklusion umfassen.

Dazu sollten Aspekte wie Diversität in die Schulung einbezogen werden. Auch eine regelmäßige Überprüfung der Modelle und die Implementierung von Mechanismen zur Korrektur sollten bedacht werden.

Soziale Auswirkungen:

Generative KI kann erhebliche Auswirkungen auf die Gesellschaft haben, indem sie die öffentliche Meinung beeinflusst, Narrative prägt und Entscheidungsprozesse beeinflusst. Mit einer verbindlichen Richtlinie können Organisationen die umfassenderen gesellschaftlichen Auswirkungen ihrer KI-Systeme besser steuern.

Dazu gehört es auch, sich am öffentlichen Diskurs zu beteiligen, mit externen Stakeholdern zusammenzuarbeiten und Verantwortung für die gesellschaftlichen Folgen der KI-generierten Inhalte zu übernehmen.

Weitere Information rund um Trainingsmöglichkeiten, die einen verantwortungsvollen und effizienten Einsatz von KI-Tools unterstützen, gibt es auch hier Führung im KI-Zeitalter – Skillsoft.


Mehr Artikel

Gregor Schmid, Projektcenterleiter bei Kumavision, über die Digitalisierung im Mittelstand und die Chancen durch Künstliche Intelligenz. (c) timeline/Rudi Handl
Interview

„Die Zukunft ist modular, flexibel und KI-gestützt“

Im Gespräch mit der ITWELT.at verdeutlicht Gregor Schmid, Projektcenterleiter bei Kumavision, wie sehr sich die Anforderungen an ERP-Systeme und die digitale Transformation in den letzten Jahren verändert haben und verweist dabei auf den Trend zu modularen Lösungen, die Bedeutung der Cloud und die Rolle von Künstlicher Intelligenz (KI) in der Unternehmenspraxis. […]

News

Richtlinien für sichere KI-Entwicklung

Die „Guidelines for Secure Development and Deployment of AI Systems“ von Kaspersky behandeln zentrale Aspekte der Entwicklung, Bereitstellung und des Betriebs von KI-Systemen, einschließlich Design, bewährter Sicherheitspraktiken und Integration, ohne sich auf die Entwicklung grundlegender Modelle zu fokussieren. […]

News

Datensilos blockieren Abwehrkräfte von generativer KI

Damit KI eine Rolle in der Cyberabwehr spielen kann, ist sie auf leicht zugängliche Echtzeitdaten angewiesen. Das heißt, die zunehmende Leistungsfähigkeit von GenAI kann nur dann wirksam werden, wenn die KI Zugriff auf einwandfreie, validierte, standardisierte und vor allem hochverfügbare Daten in allen Anwendungen und Systemen sowie für alle Nutzer hat. Dies setzt allerdings voraus, dass Unternehmen in der Lage sind, ihre Datensilos aufzulösen. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*