Fast die Hälfte fühlt sich von KI-Programmen wie ChatGPT bedroht

Die Ergebnisse einer Umfrage von KnowBe4 zeigen, dass die Mehrheit die KI trotz ihrer Bedenken als qualitativ gut bewertet und mindestens zum persönlichen Gebrauch nutzen will. [...]

Dr. Martin J. Krämer, Security Awareness Advocate bei KnowBe4 (c) KnowBe4
Dr. Martin J. Krämer, Security Awareness Advocate bei KnowBe4 (c) KnowBe4

Aktuell lässt sich die rasante Entwicklung bei KI mit eigenen Augen beobachten. So wurde erst im März 2023 die neue Version GPT-4 von OpenAI veröffentlicht, deren Chancen und vor allem Risiken in der breiten Öffentlichkeit sehr lebhaft diskutiert werden. In einer von KnowBe4 im März 2023 durchgeführten Umfrage wurden 270 Personen zu ihren Erfahrungen und Einschätzungen zu ChatGPT befragt. Eine sehr interessante Beobachtung hierbei ist, dass trotz des medialen Trubels „nur“ 37 Prozent der Teilnehmer von ChatGPT in den Nachrichten gehört oder gelesen und lediglich 18 Prozent die KI bereits selbst benutzt haben.

Wie wird die Bedrohungslage durch ChatGPT eingeschätzt?

Rund 46 Prozent schätzen die Technologie als eine sehr große oder gewisse Bedrohung ein. Besonders in der Arbeit im Unternehmen (23 Prozent) sowie im Bereich Politik und Recht (ein Fünftel) vermuten die Befragten eine Gefahr durch ChatGPT. Die größten Bedenken beim Einsatz dieser Technologie lassen sich in der potenziellen Zunahme der Qualität und Quantität von Cyber-Bedrohungen und -Angriffen (31 Prozent) sowie der Angst vor einem Jobwegfall (29 Prozent) finden. Diese Skepsis spiegelt sich allerdings mehrheitlich nicht in der Bewertung der Qualität der Antworten des Chatbots wider: Mehr als Dreiviertel der Teilnehmer (77 Prozent) empfinden diese als sehr gut bis mittelmäßig. Tatsächlich korrelieren beide Variablen (Einschätzung der Bedrohung; Bewertung der Qualität) miteinander, eine Erklärung für diesen mittleren Zusammenhang könnte die Folgende sein: Empfindet man die Leistung von ChatGPT als (eher) gut, so befürchtet man auch eher, dass dies von Hackern ausgenutzt werden kann oder die Technologie einem den Job kosten könne. Im Gegensatz dazu würde eine schlechte Bewertung der Qualität bedeuten, dass die KI weniger als Bedrohung gesehen wird.

Diese Sorge um eine Zunahme von Cyberangriffen ist nicht unberechtigt: Die Sicherheitsexperten von Check Point konnten mithilfe von ChatGPT zur Demonstration des Bedrohungspotenzials hochwertige Phishing-Mails und Schadcode für Angriffe erstellen. Die nun ständig gegebene Verfügbarkeit von AI-Tools führt dazu, dass jeder unabhängig von seinen Kenntnissen problemlos auf funktionierende Angriffstechniken zugreifen kann und somit die Bedrohungslandschaft für die Cyberwelt sich enorm vergrößert und immer unvorhersehbarer wird.

Insgesamt möchten nur knapp 40 Prozent der Befragten das Programm für den persönlichen Gebrauch nutzen. Auch wenn weniger als acht Prozent das persönliche und familiäre Umfeld als bedrohten Bereich einschätzen, scheinen viele Menschen nicht völlig überzeugt vom tatsächlichen Nutzen zu sein.

Fazit

Aktuell werden mögliche Verstöße von ChatGPT gegen die DSGVO von den Datenschutzbehörden überprüft. Bisher liegen keine formellen Beschwerden vor – anders als in Italien, wo ChatGPT bereits gesperrt wurde. Für eine Regulierung ist nicht nur die Datenschutzaufsicht gefragt, sondern auch die Politik. Die Mehrheit der Teilnehmer (42 Prozent) stimmt in der Umfrage für die Entwickler der KI, 32 Prozent sehen die Politik und den Gesetzgeber als verantwortliche Instanz.

„Die Förderung von Fähigkeiten und Verhaltensweisen zur Absicherung von Unternehmen gegen Bedrohungen aus dem digitalen Raum ist auch Bestandteil von Security Awareness Trainings“, sagt Dr. Martin J. Krämer, Security Awareness Advocate bei KnowBe4. „Da Technologien wie ChatGPT immer einflussreicher werden, muss derartiges Training Einzelpersonen nun auch auf den Umgang mit und die Gefahren von generativer KI vorbereiten.“


Mehr Artikel

Gregor Schmid, Projektcenterleiter bei Kumavision, über die Digitalisierung im Mittelstand und die Chancen durch Künstliche Intelligenz. (c) timeline/Rudi Handl
Interview

„Die Zukunft ist modular, flexibel und KI-gestützt“

Im Gespräch mit der ITWELT.at verdeutlicht Gregor Schmid, Projektcenterleiter bei Kumavision, wie sehr sich die Anforderungen an ERP-Systeme und die digitale Transformation in den letzten Jahren verändert haben und verweist dabei auf den Trend zu modularen Lösungen, die Bedeutung der Cloud und die Rolle von Künstlicher Intelligenz (KI) in der Unternehmenspraxis. […]

News

Richtlinien für sichere KI-Entwicklung

Die „Guidelines for Secure Development and Deployment of AI Systems“ von Kaspersky behandeln zentrale Aspekte der Entwicklung, Bereitstellung und des Betriebs von KI-Systemen, einschließlich Design, bewährter Sicherheitspraktiken und Integration, ohne sich auf die Entwicklung grundlegender Modelle zu fokussieren. […]

News

Datensilos blockieren Abwehrkräfte von generativer KI

Damit KI eine Rolle in der Cyberabwehr spielen kann, ist sie auf leicht zugängliche Echtzeitdaten angewiesen. Das heißt, die zunehmende Leistungsfähigkeit von GenAI kann nur dann wirksam werden, wenn die KI Zugriff auf einwandfreie, validierte, standardisierte und vor allem hochverfügbare Daten in allen Anwendungen und Systemen sowie für alle Nutzer hat. Dies setzt allerdings voraus, dass Unternehmen in der Lage sind, ihre Datensilos aufzulösen. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*