Verbraucher haben Vertrauen in künstliche Intelligenz (KI) als Werkzeug zur Verbesserung ihrer Customer Experience gefasst, sind jedoch zunehmend besorgt über die stärkere Nutzung in anderen Bereichen, wo nach wie vor stärker auf die menschliche Expertise vertraut wird. Das geht aus einer Studie von Pegasystems hervor. [...]
Laut der Studie wird KI in Bereichen, die die Customer Experience betreffen, weitgehend akzeptiert. Zwei Drittel der Befragten stimmen zu, dass KI das Potenzial hat, den Kundenservice von Unternehmen, mit denen sie interagieren, zu verbesseren. Mehr als die Hälfte (54 Prozent) teilt die Einschätzung, dass Unternehmen, die KI einsetzen, Kunden wahrscheinlich besser bedienen als Unternehmen, die auf den KI-Einsatz verzichten. Inzwischen fühlt sich fast die Hälfte der Befragten wohl damit, gut getestete KI-Services von Unternehmen zu nutzen, und zwei Drittel (64 Prozent) erwarten, dass die wichtigsten Abteilungen von Unternehmen innerhalb der nächsten zehn Jahre KI und Automatisierung einsetzen werden.
Dennoch belegt die Studie auch einen großen Mangel an Vertrauen in KI. Das zeigt sich in verschiedenen Bereichen. Denn obwohl sie KI beim Customer Engagement aufgeschlossen gegenüberstehen, bevorzugen 71 Prozent der Befragten die Interaktion mit Menschen. Die Mehrheit (68 Prozent) vertraut eher einem Bankangestellten als einer KI-Lösung, wenn es darum geht, eine objektive und unbefangene Entscheidung über die Gewährung eines Kredits zu fällen. Und noch mehr Befragte (74 Prozent) geben zu, sie würden der medizinischen Diagnose eines Menschen eher vertrauen als der einer KI, die häufiger richtig liegt, aber ihre Entscheidungen nicht erklären kann.
Die große Mehrheit der Befragten (86 Prozent) hat das Gefühl, KI sei in der Lage, unmoralisches Verhalten zu entwickeln, und mehr als ein Viertel (27 Prozent) glaubt, dass das sogar schon passiert ist. Fast die Hälfte (48 Prozent) hält es für wahrscheinlich, dass generative KI irgendwann empfindungsfähig wird oder ein eigenes Bewusstsein entwickelt. Knapp ein Drittel (30 Prozent) sorgt sich, KI könnte die Menschheit versklaven – ein leichter Anstieg gegenüber den 27 Prozent aus einer ähnlichen Studie im Jahr 2019. Lediglich 16 Prozent haben keinerlei Bedenken bezüglich KI.
Echt vs. Fake
Die Studie zeigt zudem ein steigendes Bewusstsein für KI als alltägliches Tool. Mehr als die Hälfte der Befragten glaubt inzwischen, die Technologie sei verantwortlich für die Produktion von mehr als der Hälfte der Fotos und Videos, die sie konsumieren. Damit wachsen die Bedenken, dass es schwierig wird, »echt« von »fake« zu unterscheiden – die Mehrheit gibt an, dass es ihr bereits mehr oder weniger schwer fällt zu erkennen, ob Inhalte von Menschen oder einer KI generiert wurden. Fast zwei Drittel erklären, sie könnten nicht sagen, ob ein langer Artikel von einem Menschen oder einer KI stamme. Ein ähnlich großer Anteil hat dieses Problem bei Fotos (59 Prozent) und Videos (58 Prozent). Mehr als die Hälfte (56 Prozent) findet es schwierig festzustellen, ob Fernsehberichte von KI generiert wurden.
»Anwendungen wie Midjourney und ChatGPT machen KI für die breite Masse zugänglich. Daher ist es nicht überraschend, dass wir gewisse Konflikte erleben. Man darf nicht vergessen, dass viele Menschen die Vorteile der Technologie bereits schätzen – immerhin sind Alexa oder Siri für die meisten Verbraucher nichts Neues. Es ist aber auch unvermeidlich, dass mit der wachsenden Aufmerksamkeit für KI die Angst und Unsicherheit bezüglich einiger von Science-Fiction beeinflusster Weltuntergangsszenarien zunimmt«, sagt Rob Walker, General Manager, 1:1 Customer Engagement bei Pegasystems. »In dem Maße, wie diese Bedenken wachsen, müssen Unternehmen transparenter machen, wie ihre KI-Systeme arbeiten. Zudem müssen sie sogenannte Ethical Bias Checks durchführen, um zu überprüfen, wie sich ihre KI verhält.«
KI als Ergänzung
Walker ergänzt: »Wir stellen fest, dass die Menschen sich mit der KI-Nutzung wohler denn je fühlen, die Technologie bei großen, wichtigen Entscheidungen aber lieber auf Abstand halten. Die Verbraucher haben nach wie vor den starken Wunsch nach menschlichen Interaktionen, wenn sie mit Unternehmen in Kontakt treten. Das zeigt, dass Menschen wichtig sind und immer beteiligt bleiben müssen. Der beste Weg, KI einzusetzen, besteht deshalb darin, sie zur Ergänzung und Erweiterung menschlicher Fähigkeiten zu nutzen.«
Be the first to comment