Fairness von Algorithmen angezweifelt

Intelligente Algorithmen werden von vielen Menschen zunehmend kritischer gesehen, wie Experten des US-Forschungsinstituts Pew Research Center erhoben haben. [...]

Das Misstrauen wächst: Befragte zeigen sich in neuer Pew-Erhebung besorgt, dass Ergebnisse nur Vorurteile spiegeln.
Das Misstrauen wächst: Befragte zeigen sich in neuer Pew-Erhebung besorgt, dass Ergebnisse nur Vorurteile spiegeln. (c) Fotolia

Mit künstlicher Intelligenz ausgestattete Computerprogramme durchziehen immer mehr Lebensbereiche, darunter den Finanz-, Medien– und Rechtssektor. 58 Prozent der Teilnehmer der vom Pew Research Center durchgeführten Umfrage gehen davon aus, dass Algorithmen in gewisser Weise immer die Vorurteile von Menschen widerspiegeln.

Kontext bestimmt Misstrauen

Trotz der Skepsis sind 40 Prozent der Amerikaner grundsätzlich davon überzeugt, dass sich derartige Programme so designen lassen, dass es zu keiner Voreingenommenheit kommt. Auch was Privatsphäre und komplexe Situationen anbelangt, zeigen sich die Befragten skeptisch. Ob Technologien als Unterstützung oder Bedrohung angesehen werden, kommt laut der Studie oftmals auf den Bereich an, in dem diese eingesetzt werden.

Bei der Studie haben sich die Experten auf vier unterschiedliche Szenarien fokussiert: die Risikobewertung Krimineller, wieder straffällig zu werden; das automatisierte Screening von Lebensläufen; die Videoanalyse von Bewerbern sowie die Einschätzung der persönlichen Finanzen. 68 Prozent empfinden eine Einstufung der eigenen Bonität als inakzeptabel. 67 Prozent betrachten die computergestützte Analyse von Bewerbungen als inadäquat.

Nuancen bleiben unbeachtet

Die Risikoeinschätzung Krimineller wird von 57 Prozent abgelehnt und 56 Prozent sprechen sich gegen eine computerbasierte Analyse von Lebensläufen aus. Insbesondere bei der Kontrolle des Lebenslaufes erachten 36 Prozent die Entfernung eines menschlichen Elements als problematisch. Insgesamt zeigt die Erhebung, dass Menschen als komplexe Wesen gesehen werden. Für eine Filterung der verschiedenen Nuancen räumen die Befragten den Algorithmen zu wenig Potenzial ein.


Mehr Artikel

Gregor Schmid, Projektcenterleiter bei Kumavision, über die Digitalisierung im Mittelstand und die Chancen durch Künstliche Intelligenz. (c) timeline/Rudi Handl
Interview

„Die Zukunft ist modular, flexibel und KI-gestützt“

Im Gespräch mit der ITWELT.at verdeutlicht Gregor Schmid, Projektcenterleiter bei Kumavision, wie sehr sich die Anforderungen an ERP-Systeme und die digitale Transformation in den letzten Jahren verändert haben und verweist dabei auf den Trend zu modularen Lösungen, die Bedeutung der Cloud und die Rolle von Künstlicher Intelligenz (KI) in der Unternehmenspraxis. […]

News

Richtlinien für sichere KI-Entwicklung

Die „Guidelines for Secure Development and Deployment of AI Systems“ von Kaspersky behandeln zentrale Aspekte der Entwicklung, Bereitstellung und des Betriebs von KI-Systemen, einschließlich Design, bewährter Sicherheitspraktiken und Integration, ohne sich auf die Entwicklung grundlegender Modelle zu fokussieren. […]

News

Datensilos blockieren Abwehrkräfte von generativer KI

Damit KI eine Rolle in der Cyberabwehr spielen kann, ist sie auf leicht zugängliche Echtzeitdaten angewiesen. Das heißt, die zunehmende Leistungsfähigkeit von GenAI kann nur dann wirksam werden, wenn die KI Zugriff auf einwandfreie, validierte, standardisierte und vor allem hochverfügbare Daten in allen Anwendungen und Systemen sowie für alle Nutzer hat. Dies setzt allerdings voraus, dass Unternehmen in der Lage sind, ihre Datensilos aufzulösen. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*