Vertrauen ist gut – Kontrolle fällt weg? Eine große Mehrheit vertraut Ergebnissen von KI-Chatbots blind. Experten warnen vor den Gefahren.
Stuttgart - Nur gut ein Viertel der Nutzer in Deutschland überprüft einer Umfrage zufolge die Ergebnisse, die KI-Chatbots wie ChatGPT, Google Gemini und Microsoft Copilot erstellen. Konkret gaben 27 Prozent der Befragten hierzulande an, KI-generierte Texte, Bilder oder Übersetzungen gegenzuprüfen. Das zeigt die internationale Analyse der Prüfungs- und Beratungsgesellschaft EY zum Thema Künstliche Intelligenz (KI). Der Durchschnitt lag bei 31 Prozent.
Nach der Werbung weiterlesen
Am höchsten war die Kontrollbereitschaft demnach in Südkorea (42 Prozent) sowie in China und Indien (je 40 Prozent). Noch seltener als in Deutschland prüften nur Nutzerinnen und Nutzer aus Frankreich und Schweden ihre KI-Ergebnisse - dort lag der Anteil bei je 23 Prozent. Für die repräsentative Umfrage wurden zwischen Dezember 2024 und Februar 2025 gut 15.000 Menschen in 15 Ländern befragt - mehr als 1.000 davon in Deutschland.
Ein ähnliches Bild zeigt sich bei der Überarbeitung von KI-Inhalten: Lediglich 15 Prozent der deutschen Befragten gaben an, KI-generierte Ergebnisse wie Texte oder Fotos nachzubearbeiten. Im internationalen Vergleich sind es 19 Prozent. In China und Indien liegt dieser Anteil mit jeweils 32 Prozent deutlich höher. In Frankreich (12 Prozent), Großbritannien und Japan (je 13 Prozent) sind noch weniger Menschen bereit, selbst Hand an KI-Ergebnisse zu legen.
EY-Experte David Alich warnte daher vor blindem Vertrauen in die Technologie. Der Anteil der KI-Nutzer sei zuletzt rasant gestiegen, vor allem im Bereich der Text- und Bild-Erstellung. Immer mehr Menschen erlebten KI sowohl beruflich als auch privat als nützliches Werkzeug.
Ihr Einsatz müsse allerdings trainiert werden, andernfalls berge die Technologie auch Risiken. Denn KI-Ergebnisse seien zwar oft gut, aber beileibe nicht perfekt. Es sei meistens eine menschliche Kontrollinstanz nötig.
"Dass nur jede und jeder Vierte die KI-Ergebnisse überprüft, sollte ein Weckruf sein und spricht für einen zu sorglosen Umgang mit der Technologie", so Alich. Dieser könne insbesondere im beruflichen Umfeld schwerwiegende Folgen haben - für die Anwender selbst, aber auch für ihre Arbeitgeber.
