Smarte Software fürs Business

Der Einsatz von künstlicher Intelligenz in Geschäfts­anwendungen und Business-Prozessen nimmt weiter zu. [...]

Künstliche Intelligenz und Ethik

Aktuelle KI-Systeme werden immer leistungsfähiger – und damit steigt aber auch der Bedarf an Regeln für einen verantwortungsvollen Umgang damit, Stichwort KI-Ethik. Mit dem Aufkommen von Technologien wie Big Data gehen immer mehr Unternehmen dazu über, ihre Organisation durch Automatisierung und datengesteuerte Entscheidungsfindung voranzubringen.

Die Absicht dahinter ist natürlich das Verbessern der Geschäftsergebnisse. Doch nicht immer ist so ganz klar, wie eine KI agiert und wie sie zu ihren Entscheidungen kommt. Das Ziel daher: Eine ethische und sozial verträgliche KI in Unternehmen, also quasi eine künstliche Intelligenz, die sich am Menschen und an seinen Bedürfnissen orientiert.

Unternehmen müssen ethische Aspekte in die Entwicklung von KI-Systemen einfließen lassen, um unbeabsichtigte Auswir­kungen zu erkennen, bevor sie in der realen Welt auftreten.

Frank Engelhardt – Chief Transformation Strategist Central Europe bei Salesforce

Laut den Expertinnen und Experten von Personio sollten sich Unternehmen und Organisationen, die in ihrer Business-Software auf KI setzen wollen, folgender drei Punkte bewusst sein:

• Bereits der grundsätzliche Umgang mit KI ist risikobehaftet: Für dieses KI-Risikobewusstsein muss das, was die KI macht, auch erklärt und interpretiert werden können. Dafür bedarf es im Unternehmen eines tiefergehenden Spezialwissens zu zentralen Punkten wie Modelle, Algorithmen und Clusterbildung.
• Gefahr im Umgang mit vertraulichen Daten: Ein Hauptrisiko bei KI-basierten Technologien wie ChatGPT ist der Umgang mit vertraulichen Daten. Viele Firmenbereiche wie HR arbeiten täglich mit vertraulichen, personenbezogenen Daten. Doch korrekte Daten sind entscheidend für eine effektive KI-Implementierung. Ebenso muss sichergestellt werden, dass der menschliche Kontakt zu den Mitarbeitenden behalten wird.
• Ziele einer KI: Bevor KI-Technologien eingesetzt werden, sollten die eigenen Ziele und Maßstäbe dafür nicht nur definiert, sondern auch messbar gemacht werden. Hierfür bieten sich unternehmensübergreifende ESM-Plattformen (Enterprise Service Management) an. Bei Einführung und Betrieb von KI-Technologien kann darüber die gesamte aufgebaute KI-Wertschöpfungskette technologisch überwacht und beobachtet werden.

„Die Priorisierung von ethischer und verantwortungsvoller KI ist eine unternehmensweite Aufgabe“, betont Frank Engelhardt, Chief Transformation Strategist Central Europe bei Salesforce.

Unternehmen müssten ethische Aspekte in die Entwicklung von KI-Systemen einfließen lassen, „um unbeabsichtigte Auswirkungen zu erkennen, bevor sie in der realen Welt auftreten“. Dafür richtete zum Beispiel Salesforce bereits 2018 das Office of Ethical and Humane Use ein, um Fragen und Bedenken im Zusammenhang mit der Nutzung von Technologie zu klären.

Frank Engelhardt zufolge sei es wichtig, bewusst ethische Leitplanken und Produktvorgaben in die Technologie zu integrieren. Damit helfe man Kunden und deren Endnutzern dabei, Inklusion, Datenethik und Datenschutz standardmäßig zu priorisieren.

„Sie werden dabei unterstützt, die Technologie auf ethische und verantwortungsvolle Weise anzupassen – und die Auswirkungen der von ihnen getroffenen Entscheidungen zu verstehen.

“Generative KI habe das Potenzial, die Art und Weise, wie wir ­leben und arbeiten, grundlegend zu verändern, und werde selbst die innovativsten Unternehmen in den kommenden Jahren vor neue Herausforderungen stellen. Es reiche deshalb nicht aus, generative KI bereitzustellen, „Nutzer müssen auch unterstützt werden, diese transformative Technologie verantwortungsvoll zu nutzen“.