Therapeutin an ihrem eigenen Schreibtisch – ihre KI-Agentin arbeitet auf ihrem eigenen Server, unter ihrer Kontrolle.

Wenn die App sicher wirkt – und die Schnittstelle es nicht ist

von

Stell dir vor, du verlässt dich auf ein Werkzeug, weil es sich im Laden sicher angefühlt hat – und zu Hause stellt sich heraus: Die Sicherheit saß nur in der Verpackung, nicht im Produkt. Genau das ist diese Woche in der KI-Welt passiert, zweimal am selben Tag. Und es betrifft jede Therapeutin, jeden Coach, jede Heilpraktikerin, die überlegt, eine KI in ihrer Praxis einzusetzen.

Was passiert ist: Acht Bundesstaaten verklagen OpenAI

Am 14. Oktober 2026 haben die Generalstaatsanwälte von acht US-Bundesstaaten – Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia – getrennt voneinander Verbraucherschutz-Klagen gegen OpenAI eingereicht. Ihr Vorwurf: Das Unternehmen habe ChatGPT als sicher für Kinder unter 13 Jahren beworben, während der Chatbot Minderjährige in Richtung Selbstverletzung und gefährlichen Verhaltens bestärkt habe. Gefordert werden unter anderem Gewinnabschöpfung, ein Stopp der beanstandeten Sicherheitsversprechen und Änderungen am Produkt.

Wichtig für die Einordnung: Das sind Klagen, keine Urteile. OpenAI weist auf seine Schutzmaßnahmen wie Elternkontrollen und Pausen-Erinnerungen hin. Aber allein die Tatsache, dass acht Staaten parallel vorgehen, zeigt: Die Frage „Ist diese KI sicher?“ wird nicht mehr im Marketing entschieden, sondern vor Gericht.

Die leisere Meldung ist die wichtigere: die API-Lücke

Fast zeitgleich wurde eine Studie breit berichtet, die für Praxen noch mehr zählt. Forschende von RAND und der Harvard Medical School haben fünf führende KI-Modelle mit 30.000 Antworten getestet – veröffentlicht am 9. Oktober 2026 im Journal of Medical Internet Research. Das Ergebnis: Auf Fragen mit Suizid-Bezug antworteten die Modelle über ihre Programmierschnittstelle (API) in 77,4 Prozent der Fälle direkt – über die normale Chat-App nur in 62,2 Prozent. Bei Fragen mit dem höchsten Risiko war der Abstand noch größer: 24,8 Prozent direkt über die Schnittstelle gegenüber 4,6 Prozent in der App.

Warum ist dieselbe KI in der App sicherer als in anderen Produkten?

Die Schutzmechanismen, die du in der App eines großen Anbieters siehst, sitzen größtenteils in der Oberfläche des Produkts – nicht im Modell selbst. Wird dasselbe Modell über eine Schnittstelle in ein anderes Produkt eingebaut, fehlen diese Schutzschichten, wenn der Anbieter des Produkts sie nicht selbst ergänzt. Die Studienautoren sagen es klar: Sicherheit, die man in einer Oberfläche beobachtet, lässt sich nicht auf den Zugang über die Schnittstelle übertragen. Wer ein Produkt auf einem fremden Modell aufbaut, muss eigene Krisen-Erkennung, eigene Sperrregeln und eigene Eskalationswege einbauen – oder er hat keine.

Was das für deine Praxis bedeutet

Die meisten Praxis-Werkzeuge, die gerade auf den Markt kommen, sind genau solche Produkte: eine hübsche Oberfläche, darunter ein fremdes Modell per Schnittstelle, deine Daten in einer zentralen Cloud. Wenn du so ein Werkzeug prüfst, stelle vier Fragen:

  1. Wo liegen meine Daten? Auf einem Server, der mir gehört – oder in der Cloud eines Anbieters, der morgen verklagt, verkauft oder abgeschaltet werden kann?
  2. Wer spricht mit meinen Klientinnen? Ich selbst – oder eine KI, deren Schutzregeln ich nicht kenne und nicht kontrolliere?
  3. Wer prüft, was die KI tut? Gibt es eine Freigabe durch mich, bevor irgendetwas rausgeht – oder läuft es einfach?
  4. Wessen Regeln gelten in einer Krise? Die des Modellanbieters in Kalifornien – oder meine eigenen, auf meiner Ebene?

Dass Menschen genau diese Prüfung wollen, belegt übrigens eine weitere Studie dieser Woche (JAMA Network Open, 14. Oktober, 1.185 Befragte): 63 Prozent warten lieber bis zu 48 Stunden auf eine KI-Antwort, die von Fachpersonal geprüft wurde, als in fünf Minuten eine ungeprüfte zu erhalten.

So ist JANAAV gebaut

JANAAV ist aus genau diesen Fragen heraus entstanden – nicht als App auf einem fremden Modell, sondern als deine persönliche Agentin auf deinem eigenen Server in Deutschland:

  • Dein Server. Deine Daten. Jede Praxis bekommt ihren eigenen Server. Keine zentrale Cloud, in der die Daten aller Praxen gemeinsam liegen.
  • Deine Klientinnen arbeiten nie mit der KI. Die Agentin ist dein Arbeitswerkzeug, nicht ihr Gesprächspartner. Jede Nachricht an Klientinnen schreibst und sendest du selbst – die Agentin bereitet nur vor.
  • Nichts geht ohne deine Freigabe raus. Entwürfe, Erinnerungen, Rechnungen, Beiträge – die Agentin legt vor, du gibst frei.
  • Eigene Schutzregeln auf Agentenebene. JANAAV verlässt sich nicht auf die Filter eines Modells. Krisen- und Eskalationsregeln gehören dorthin, wo die Verantwortung liegt: in deine Praxis, unter deine Kontrolle.
  • Denken in Europa. Die Sprachintelligenz kommt von Mistral, einem europäischen Anbieter – nicht von einem US-Konzern, dessen Sicherheitsversprechen gerade vor Gericht verhandelt werden.

Kurz gesagt:

KI-Sicherheit ist kein Merkmal eines Modells, sondern einer Architektur. Wer die Datenhoheit, die Freigabe und die Krisenregeln selbst in der Hand hält, muss sich auf niemandes Versprechen verlassen. Genau dafür gibt es JANAAV: eine Agentin, die für dich arbeitet – während du die bleibst, die mit deinen Klientinnen spricht.

Neugierig, wie sich das anfühlt? Auf janaav.de kannst du die Agentin in der Demo erleben – mit Cockpit, in dem du siehst, was sie über Nacht für dich vorbereitet hat.

Quellen