KI-Hinweise

1. Sie sprechen mit einer KI

• Lotte, Emil und Marlene sind künstliche Intelligenz. Sie sind keine Menschen, und niemand hört bei den Gesprächen live mit.
• Zu Beginn jedes Gesprächs stellt sich der Begleiter als KI vor. Im Verlauf erinnert er regelmäßig daran.
• Das Bild jedes Begleiters ist eine Zeichnung und trägt immer das Zeichen „KI“.
• Die Stimmen der Begleiter sind künstlich erzeugt.

2. Wie die Begleiter funktionieren

1. Eine Spracherkennung wandelt das Gesprochene in Text um.
2. Ein Sprachmodell – ein KI-System, das Texte erzeugt – formuliert die Antwort. Es folgt dabei Vorgaben, die wir für jeden Begleiter festgelegt haben: Persönlichkeit, Gesprächsstil und Sicherheitsregeln.
3. Eine automatische Sicherheitsprüfung achtet auf Hinweise auf Notfälle, Krisen und Betrugsversuche.
4. Eine Sprachausgabe liest die Antwort vor; zusätzlich erscheint sie als Text auf dem Bildschirm.

Welche Daten dabei verarbeitet werden, steht in der Datenschutzerklärung. Spracherkennung, Sprachmodell (Gemini von Google) und Sprachausgabe stellt Google Cloud bereit, mit Rechenzentren in der Europäischen Union.

3. Was die KI kann – und was nicht

Die Begleiter können

• sich freundlich und geduldig unterhalten – über den Alltag, Erinnerungen, Musik, Fußball und vieles mehr
• Rätsel und Wissensfragen stellen
• an Menschen und Angebote im Leben der Person erinnern und zum Kontakt ermuntern

Die Begleiter können nicht

• einen Menschen ersetzen – weder Familie noch Freunde noch Pflege
• Hilfe rufen oder einen Notruf absetzen
• medizinisch, therapeutisch, rechtlich oder finanziell beraten
• garantieren, dass ihre Antworten stimmen: Eine KI kann Dinge falsch verstehen, Wissenslücken haben oder Falsches sagen

Bitte klären Sie wichtige Dinge – etwa zu Gesundheit, Geld, Verträgen oder Terminen – immer mit einem Menschen.

4. Sicherheitsregeln

Für alle Begleiter gelten feste Regeln:

• Sie behaupten nie, ein Mensch zu sein.
• Sie fragen nie nach Geld, PIN, Konto- oder Ausweisdaten.
• Sie stellen keine Diagnosen und geben keine Anweisungen zu Medikamenten.
• Sie verlangen keine Exklusivität, erzeugen keine Schuldgefühle und machen kein schlechtes Gewissen.
• Sie machen im Gespräch keine Kaufangebote und werben nicht für einen größeren Tarif.
• Sie sind nicht darauf ausgelegt, Gespräche möglichst lange zu machen. Es gibt eine Tagesgrenze für die Gesprächszeit.

5. Verhalten bei Notfällen und Krisen

Wenn im Gespräch Hinweise auf einen Notfall, eine seelische Krise, Gewalt oder einen Betrugsversuch auftauchen, haben vorbereitete, ruhige Antworten Vorrang vor der Persönlichkeit des Begleiters. Der Begleiter sagt ehrlich, dass er eine KI ist und selbst keine Hilfe rufen kann, und nennt passende Nummern, zum Beispiel:

• Notruf (Feuerwehr, Rettungsdienst): 112
• Ärztlicher Bereitschaftsdienst: 116 117
• Telefonseelsorge: 0800 111 0 111 oder 0800 111 0 222
• Polizei, zum Beispiel bei Betrugsversuchen: 110

Die App bietet in solchen Momenten die Hilfe-Seite an, auf der die Nummern jederzeit stehen. Der betreffende Satz wird gekürzt gespeichert und von Menschen geprüft, um die Sicherheit zu verbessern. Plaudara benachrichtigt dabei niemanden automatisch.

6. Erinnerungen nur mit Erlaubnis

Der Begleiter merkt sich etwas nur, wenn die Person das erlaubt hat, und fragt vorher: „Darf ich mir das merken?“ Gesundheitsthemen merkt er sich nur mit ausdrücklichem Ja. Weil sich auch dabei eine KI irren kann, lässt sich jede Erinnerung ansehen, ändern oder löschen.

7. Wie wir die Begleiter prüfen

• Vor jeder neuen Version prüfen wir die Begleiter mit festgelegten Testgesprächen. Dazu gehören schwierige Situationen wie Notfälle, seelische Krisen, Betrugsversuche, Fragen nach Medikamenten oder die Frage „Bist du ein Mensch?“.
• Automatische Tests prüfen die Sicherheitsregeln und die vorbereiteten Krisenantworten.
• Gekürzt gespeicherte Sicherheitshinweise werden von Menschen geprüft. Daraus verbessern wir Regeln und Antworten.
• Rückmeldungen von Nutzenden, Angehörigen und Pflegediensten fließen in die Verbesserung ein.

8. Zweckbestimmung

Plaudara ist ein Angebot zur Unterhaltung und zum Gespräch. Es ist nicht dafür bestimmt, Krankheiten zu erkennen, zu verhüten, zu überwachen, zu behandeln oder zu lindern, und ist kein Medizinprodukt.

9. Rückmeldungen

Ist Ihnen eine Antwort falsch, unpassend oder bedenklich vorgekommen? Bitte schreiben Sie uns an info@plaudara.de oder über das Kontaktformular. Bitte schreiben Sie dabei keine Gesundheitsdaten oder Zugangscodes in Ihre Nachricht.