Chatbots als Ratgeber: Wofür KI-Assistenten im Alltag taugen und bei welchen Fragen Sie besser einen Menschen fragen
KI-Assistenten erklären geduldig, ordnen Gedanken und formulieren Briefe in Sekunden. Bei Diagnosen, Rechtsfragen, Geldentscheidungen und seelischen Krisen klingen sie jedoch oft sicherer, als sie sind. Eine Orientierung, wo die Grenze verläuft.
Das Wichtigste in Kürze
- KI-Assistenten sind stark beim Erklären, Strukturieren und Formulieren, also überall dort, wo Sie das Ergebnis selbst beurteilen können.
- In einer Studie der Universität Oxford trafen Menschen mit Chatbot-Hilfe bei medizinischen Fallbeispielen keine besseren Entscheidungen als ohne.
- Diagnosen, Medikamente, Fristen, Verträge, Geldanlagen und seelische Krisen gehören in die Hände von Fachleuten; die KI kann das Gespräch vorbereiten.
- Krankheiten, Schulden, Einkommen, Passwörter sowie Namen und Adressen sollten Sie nach Rat der Verbraucherzentralen nicht in einen Chatbot eingeben.
- Prüfen Sie jede Zahl, Frist und Quelle an offizieller Stelle und stellen Sie wichtige Fragen probehalber ein zweites Mal anders formuliert.
Inhalt dieses Artikels 9 Abschnitte
- Wofür KI-Assistenten wirklich gut sind
- Warum überzeugende Antworten trotzdem falsch sein können
- Gesundheit, Recht, Geld, Krise: Wo Vorsicht geboten ist
- Was nicht in den Chat gehört
- So stellen Sie gute Fragen und prüfen die Antworten
- Gut geeignet, mit Vorsicht, besser ein Mensch: die Übersicht
- Einordnung: Ein guter Vorbereiter, kein Entscheider
- Häufige Fragen
- Quellen
KI-Assistenten wie ChatGPT, Gemini oder Copilot sind gute Helfer, wenn es ums Erklären, Ordnen und Formulieren geht, also überall dort, wo Sie das Ergebnis selbst beurteilen können. Riskant werden sie bei Fragen zu Ihrer Gesundheit, zu Rechtsansprüchen, zu Geldentscheidungen und in seelischen Krisen: Dort klingen die Antworten oft überzeugender, als sie sind. Eine brauchbare Faustregel lautet deshalb: Nutzen Sie die KI, um sich auf das Gespräch mit einem Menschen vorzubereiten, nicht als Ersatz dafür.
Die Frage ist längst keine theoretische mehr. Laut einer repräsentativen Bitkom-Umfrage vom Frühjahr 2026 nutzen 58 Prozent der Menschen ab 16 Jahren in Deutschland KI, gut ein Drittel mindestens einmal pro Woche. Unter den Nutzenden stellen 44 Prozent der KI persönliche Fragen, 34 Prozent fragen zu Gesundheitsthemen, 21 Prozent zu Finanzen.
Bei Jugendlichen ist die Entwicklung ähnlich. Nach der JIM-Studie 2026 sehen 46 Prozent der KI-Nutzenden zwischen 12 und 19 Jahren in Chatbots auch eine Art Ratgeber, ein Viertel stellt ihnen Gesundheitsfragen.
Wofür KI-Assistenten wirklich gut sind
Die Stärke dieser Programme ist Sprache. Sie können einen Sachverhalt auf verschiedenen Niveaus erklären, ihn umformulieren, gliedern und zusammenfassen, und das ohne Ungeduld, auch beim dritten Nachfragen. Besonders nützlich sind sie in diesen Situationen:
- Erklären: Was bedeutet ein Fachbegriff im Arztbrief, wie funktioniert eine Wärmepumpe, was ist ein Effektivzins? Auf Wunsch auch in einfacher Sprache.
- Strukturieren: Aus einem Wust von Gedanken wird eine Liste, etwa für den Umzug, die Reiseplanung oder das Abwägen einer Entscheidung.
- Formulieren: Eine höfliche Absage, eine sachliche Mängelanzeige an den Vermieter, ein überarbeitetes Anschreiben, jeweils als Entwurf, den Sie selbst prüfen.
- Gespräche vorbereiten: Vor dem Arzttermin Beschwerden geordnet aufschreiben und Fragen sammeln; vor dem Behördentermin eine Liste möglicher Unterlagen erstellen, die Sie anschließend mit der Website der Behörde abgleichen.
- Übersetzen: Ein Schreiben in eine andere Sprache übertragen oder einen schwierigen Text sinngemäß zusammenfassen.
Für solche Aufgaben genügt nach Einschätzung der Verbraucherzentralen meist schon die kostenlose Version eines Chatbots.
Ein Beispiel: Angenommen, Ihr Knie schmerzt seit Monaten, und in zwei Wochen haben Sie einen Termin in der orthopädischen Praxis. Statt den Chatbot nach einer Diagnose zu fragen, bitten Sie ihn, Ihnen beim Aufschreiben der Beschwerden zu helfen und Fragen für das Gespräch vorzuschlagen. Das Ergebnis ist ein Zettel, mit dem der Termin ergiebiger wird. Die Einschätzung bleibt bei der Ärztin.
Warum überzeugende Antworten trotzdem falsch sein können
Sprachmodelle berechnen, welche Formulierung wahrscheinlich passt. Sie prüfen nicht, ob etwas stimmt. Deshalb erfinden sie mitunter Details, Quellen oder Paragrafen, die plausibel klingen, aber nicht existieren. In der Fachsprache spricht man von „Halluzinationen“. Die Verbraucherzentralen weisen darauf hin, dass Antworten von Chatbots ungenau, unvollständig oder unangemessen sein können und keine professionelle Beratung ersetzen.
Wie häufig das passiert, zeigen zwei große Untersuchungen. In einer im Oktober 2025 veröffentlichten Studie von 22 öffentlich-rechtlichen Medienhäusern aus 18 Ländern, koordiniert von der Europäischen Rundfunkunion und der BBC, hatten 45 Prozent der KI-Antworten auf Nachrichtenfragen mindestens ein erhebliches Problem. 31 Prozent wiesen schwere Mängel bei den Quellenangaben auf, 20 Prozent enthielten gravierende inhaltliche Fehler, darunter erfundene Details und veraltete Informationen.
Noch aufschlussreicher ist eine im Februar 2026 in „Nature Medicine“ veröffentlichte Studie der Universität Oxford. Allein getestet, erkannten die Sprachmodelle in zehn medizinischen Fallbeispielen die zugrunde liegende Erkrankung in 94,9 Prozent der Fälle. Als aber 1.298 Laien die Modelle selbst befragten, identifizierten sie die relevanten Erkrankungen in weniger als 34,5 Prozent der Fälle und wählten in weniger als 44,2 Prozent das richtige weitere Vorgehen. Damit schnitten sie nicht besser ab als eine Vergleichsgruppe mit Suchmaschine oder eigenem Wissen. Die Forschenden fanden drei Gründe: Die Nutzer wussten oft nicht, welche Angaben wichtig sind; kleine Änderungen in der Frage führten zu sehr unterschiedlichen Antworten; und gute wie schlechte Empfehlungen standen nebeneinander, ohne dass sich das Richtige erkennen ließ.
Hinzu kommen zwei Punkte, die man leicht übersieht. Erstens kann Wissen veraltet sein, weil Modelle mit Daten bis zu einem Stichtag trainiert werden. Bei Gesetzen, Fristen, Preisen und Förderprogrammen ist das ein echtes Risiko. Zweitens gibt es Werbung: Seit dem 24. August 2026 zeigt OpenAI in den Tarifen Free und Go von ChatGPT Anzeigen, unter anderem in Deutschland. Der Inhalt des Gesprächs kann dabei beeinflussen, welche Anzeige erscheint (Stand: November 2026).
Gesundheit, Recht, Geld, Krise: Wo Vorsicht geboten ist
Dieser Beitrag ersetzt keine ärztliche, rechtliche oder finanzielle Beratung, er soll helfen, KI-Antworten einzuordnen. In vier Bereichen ist die Grenze besonders deutlich.
Gesundheit. Ein Chatbot kann Sie nicht untersuchen, kennt Ihre Vorgeschichte nicht und stellt nicht zuverlässig die richtigen Rückfragen. Nutzen Sie ihn zum Verstehen, nicht zum Entscheiden, und ändern Sie nie eine Medikation auf Grundlage einer KI-Antwort.
Recht und Behörden. Zuständigkeiten unterscheiden sich oft je nach Bundesland oder Kommune, und Gesetze werden laufend geändert. Ein falsch berechnetes Fristende kann einen Widerspruch zunichtemachen. Für Bescheide, Kündigungen und Streitfälle sind Verbraucherzentralen, Sozialverbände, Beratungsstellen oder eine Anwaltskanzlei die richtige Adresse.
Geld. Altersvorsorge, Kredite und Geldanlagen hängen von Ihrer persönlichen Lage ab, die ein Chatbot nur aus Ihren Angaben kennt. Produktempfehlungen können veraltet oder von Werbung umgeben sein; die Verbraucherzentralen raten, Produkte und Preise mit unabhängigen Quellen zu vergleichen.
Psychische Krisen. Laut einer Befragung der Stiftung Deutsche Depressionshilfe unter 2.500 Menschen zwischen 16 und 39 Jahren haben 65 Prozent schon einmal mit einem KI-Chatbot über eigene psychische Probleme gesprochen. Unter den jungen Menschen mit Depression sprechen 35 Prozent mit KI über ihre Erkrankung, und 62 Prozent der befragten Betroffenen meinten, die KI habe den Gang zum Arzt oder zur Psychotherapie überflüssig gemacht. Dem widerspricht die Stiftung deutlich: KI ersetze weder eine professionelle Diagnostik noch eine leitliniengerechte Behandlung, ihre Wirksamkeit sei kaum erforscht. Wer merkt, dass aus dem November-Tief mehr wird, findet im Beitrag Winterblues oder Winterdepression? Orientierung.
Wichtig: In einer seelischen Krise ist ein Mensch die bessere Anlaufstelle. Die Telefonseelsorge ist kostenfrei, anonym und Tag und Nacht unter 0800 111 0 111, 0800 111 0 222 und 116 123 erreichbar. Bei akuter Gefahr wählen Sie die 112. Bei Beschwerden, die nicht lebensbedrohlich sind, aber nicht bis zur nächsten Sprechstunde warten können, hilft der ärztliche Bereitschaftsdienst unter 116 117.
Was nicht in den Chat gehört
Viele Anbieter nutzen Eingaben, um ihre Dienste zu verbessern und Modelle zu trainieren. Die Verbraucherzentralen raten deshalb grundsätzlich, keine persönlichen und sensiblen Daten einzugeben: konkret keine Angaben zu Krankheiten, Diagnosen oder Medikamenten, zu Schulden, Kontoständen und Einkommen, zu laufenden Rechtsstreitigkeiten, keine Passwörter oder PINs und keine Namen, Adressen oder Fotos, die Sie oder andere erkennbar machen.
Das Schwärzen von Namen hilft nur begrenzt, weil sich Personen oft schon aus dem Zusammenhang erschließen lassen. Besser ist es, abstrakt zu fragen: nicht den Arztbrief hochladen, sondern wissen wollen, was ein bestimmter Begriff bedeutet. Wo möglich, sollten Sie der Nutzung Ihrer Eingaben zu Trainingszwecken in den Einstellungen widersprechen. Nach der Datenschutz-Grundverordnung haben Sie zudem ein Recht auf Auskunft, Berichtigung und Löschung, auch gegenüber Anbietern mit Sitz in den USA.
So stellen Sie gute Fragen und prüfen die Antworten
Viele Probleme aus der Oxford-Studie lassen sich durch bessere Fragen zumindest abmildern. Hilfreich sind diese Gewohnheiten:
- Kontext geben, ohne Daten preiszugeben: „Eine Person Anfang 70 möchte …“ statt Name und Geburtsdatum.
- Ziel und Form nennen: „Erkläre mir das so, dass ich es meiner Mutter weitererzählen kann, in fünf Punkten.“
- Rückfragen erlauben: „Stell mir zuerst Fragen, falls dir Informationen fehlen.“
- Unsicherheit einfordern: „Sag mir, wo du dir nicht sicher bist und was eine Fachperson klären sollte.“
- Gegenseite hören: „Was spricht gegen diese Lösung?“
Beim Prüfen hilft eine kurze Routine. Klicken Sie angegebene Quellen an und schauen Sie, ob dort wirklich steht, was behauptet wird. Schlagen Sie Zahlen, Fristen und Paragrafen bei Behörden, Krankenkassen oder auf gesetze-im-internet.de nach. Stellen Sie wichtige Fragen ein zweites Mal, anders formuliert oder in einem neuen Chat. Widersprechen sich die Antworten, ist Vorsicht geboten. Und achten Sie auf den Stand: Eine Auskunft über Fördergelder aus dem vergangenen Jahr kann heute falsch sein.
Ein Sonderfall sind die KI-Zusammenfassungen, die Suchmaschinen inzwischen über die Trefferliste setzen. Sie wirken wie eine geprüfte Auskunft, sind aber ebenfalls maschinell erzeugt. Laut JIM-Studie 2026 liest ein Viertel der Jugendlichen bei Suchanfragen ausschließlich diese KI-Antwort und ignoriert die übrigen Treffer. Wer lieber direkt zu den Quellen will, kann die Zusammenfassung bei Google nach einem Hinweis der Verbraucherzentralen umgehen, indem er „-ai“ an die Suchanfrage anhängt (Stand: November 2026).
Praxistipp: Lassen Sie sich eine Antwort zum Schluss als Liste offener Fragen ausgeben, die Sie mit einer Fachperson klären wollen. So wird die KI zum Vorbereiter des Gesprächs und nicht zu dessen Ersatz.
Gut geeignet, mit Vorsicht, besser ein Mensch: die Übersicht
| Bereich | Gut geeignet | Mit Vorsicht | Besser ein Mensch |
|---|---|---|---|
| Gesundheit | Fachbegriffe erklären, Fragen für den Arzttermin sammeln | Beschwerden allgemein einordnen, Wechselwirkungen | Akute Beschwerden, Diagnose, Medikamente ändern |
| Recht und Behörden | Ein Schreiben in einfachen Worten erklären, Unterlagen-Checkliste entwerfen | Fristen berechnen, Paragrafen nennen | Widerspruch, Kündigung, Streit mit Vermieter oder Arbeitgeber |
| Geld | Begriffe wie ETF oder Effektivzins erklären, Haushaltsplan strukturieren | Produktvergleiche, Steuerfragen | Altersvorsorge, Kredit, Schulden, konkrete Anlageentscheidung |
| Seele | Gedanken sortieren, Entspannungsübungen erklären | Längere Gespräche bei Kummer | Suizidgedanken, anhaltende Niedergeschlagenheit, akute Krise |
| Alltag | Texte formulieren, Rezepte anpassen, Reisen planen | Kaufempfehlungen (Werbung möglich) | entfällt |
Einordnung: Ein guter Vorbereiter, kein Entscheider
Es wäre zu einfach, KI-Assistenten als Fehlerquelle abzutun. Sie senken Hemmschwellen, geben Menschen Worte für ein Anliegen, das sie bisher nicht formulieren konnten, und sie sind da, wenn keine Praxis und kein Amt geöffnet hat. Wer gut vorbereitet in ein Arztgespräch geht, stellt bessere Fragen. Davon profitieren beide Seiten.
Der Unterschied liegt in der Verantwortung. Ärztinnen, Anwälte und Beratungsstellen tragen Verantwortung für ihre Auskunft, kennen den Einzelfall und können nachfragen. Ein Chatbot kann nichts davon, wirkt aber oft genauso sicher. Das eigentliche Risiko ist deshalb nicht der einzelne Fehler, sondern eine Gewissheit, die nicht gedeckt ist. Die Skepsis ist in der Bevölkerung vorhanden: In der Bitkom-Umfrage fürchten 41 Prozent der Befragten falsche Ergebnisse und 50 Prozent Falschinformationen.
Wer die KI als Vorbereiter nutzt und wichtige Entscheidungen bei Menschen lässt, holt das Beste aus beiden Welten. Warum es sich lohnt, dabei auch das eigene Denken nicht ganz abzugeben, beschreibt der Beitrag Macht KI uns denkfaul?, und wie Jugendliche mit Chatbots lernen, steht in ChatGPT bei den Hausaufgaben.
Häufige Fragen
Darf ich einen Chatbot nach meinen Symptomen fragen?
Sie können es nutzen, um Begriffe zu verstehen oder Fragen für den Arzttermin zu sammeln. Für die Einschätzung, wie ernst Beschwerden sind, ist ein Chatbot ungeeignet: In einer Oxford-Studie entschieden Menschen mit KI-Hilfe nicht besser als ohne. Bei akuten Beschwerden wählen Sie die 112, sonst erreichen Sie den ärztlichen Bereitschaftsdienst unter 116 117.
Welche Daten sollte ich nie in einen Chatbot eingeben?
Die Verbraucherzentralen raten von Angaben zu Krankheiten, Diagnosen und Medikamenten ab, ebenso von Informationen zu Schulden, Kontoständen, Einkommen und laufenden Rechtsstreitigkeiten. Auch Passwörter, PINs sowie Namen, Adressen und Fotos anderer Menschen gehören nicht in den Chat.
Woran erkenne ich, dass eine KI-Antwort falsch ist?
Am Tonfall meist gar nicht, denn auch falsche Antworten klingen flüssig und sicher. Prüfen Sie angegebene Quellen, schlagen Sie Zahlen, Fristen und Paragrafen an offizieller Stelle nach und stellen Sie die Frage ein zweites Mal anders formuliert. Widersprechen sich die Antworten, ist das ein deutliches Warnsignal.
Kann ein Chatbot bei Kummer oder Krisen helfen?
Beim Sortieren von Gedanken empfinden viele Menschen Chatbots als hilfreich, eine Diagnose oder Behandlung ersetzen sie aber nicht. In einer seelischen Krise ist ein Mensch die bessere Anlaufstelle: Die Telefonseelsorge ist unter 0800 111 0 111, 0800 111 0 222 und 116 123 kostenfrei und rund um die Uhr erreichbar, bei akuter Gefahr gilt die 112.
Quellen
- University of Oxford Research Archive Reliability of LLMs as medical assistants for the general public: a randomized preregistered study (Nature Medicine, 2026) ora.ox.ac.uk
- European Broadcasting Union (EBU) Largest study of its kind shows AI assistants misrepresent news content 45% of the time ebu.ch
- Verbraucherzentrale Bundesverband KI-Chatbots im Überblick: Was Sie über ChatGPT, Gemini & Copilot wissen sollten verbraucherzentrale.de
- Verbraucherzentrale Bundesverband Werbung in ChatGPT: Worauf Sie jetzt achten sollten verbraucherzentrale.de
- Bitkom Ein Drittel nutzt KI mindestens einmal pro Woche bitkom.org
- Stiftung Deutsche Depressionshilfe und Suizidprävention via idw Studie zu KI-Chatbots und Depression (Pressemitteilung) idw-online.de
- Medienpädagogischer Forschungsverbund Südwest (mpfs) JIM-Studie 2026 veröffentlicht: Social Media zunehmend passiv genutzt, KI wird zum persönlichen Ratgeber mpfs.de
- TelefonSeelsorge TelefonSeelsorge Deutschland telefonseelsorge.de
