Zum Inhalt springen

Mit KI gebaute App: Warnsignale vor dem ersten echten Kunden

Deine App läuft, die ersten Testpersonen sind begeistert, und bald melden sich echte Kunden an, mit Adresse, Bestellungen und vielleicht einer Kreditkarte. Gebaut ist sie in ein paar Wochen mit Lovable, Bolt, v0, Replit oder Cursor, von dir, von jemandem im Team oder von einem Freelancer. Ob ein Kunde die Daten eines anderen lesen kann, hat niemand geprüft, und die KI hat auf Nachfrage versichert, alles sei sicher. Hier steht, wo solche Apps typischerweise offen sind und was du selbst nachschauen kannst, bevor es ernst wird.

Von Dimitri König7 Min. Lesezeit

Du hast in kurzer Zeit etwas gebaut, das funktioniert und Leute begeistert. Das ist eine Leistung, und für einen Prototyp ist das Tempo genau richtig. Mit dem ersten echten Kunden ändert sich aber die Frage: Nicht mehr «läuft es?», sondern «wer kann was sehen, und was passiert, wenn etwas schiefgeht?». In der Datenbank liegen dann Namen, Adressen und Bestellungen von Menschen, die dir vertrauen, und für ihren Schutz bist du verantwortlich, nicht das Werkzeug.

Was Studien zu KI-gebauten Apps zeigen

  • Lücken im Code: Veracode liess über 100 Sprachmodelle 80 Programmieraufgaben lösen (Medienmitteilung vom 30. Juli 2025). In 45 Prozent der Fälle enthielt der Code eine Lücke aus den OWASP Top 10, gegen Cross-Site-Scripting war er in 86 Prozent der Fälle nicht geschützt. Veracode verkauft selbst Prüfwerkzeuge, und gemessen wurde an vorgegebenen Aufgaben, nicht an fertigen Apps.
  • Lücken in fertigen Apps: Escape untersuchte über 5’600 öffentlich erreichbare Apps, rund 4’000 davon mit Lovable gebaut (29. Oktober 2025). Gefunden wurden über 2’000 Lücken, über 400 offen liegende geheime Schlüssel und 175 Fälle mit Personendaten, darunter medizinische Daten und IBANs. Weil nur passiv gescannt wurde, sind das Untergrenzen.
  • Immer dieselben Fehler: Wiz beschreibt vier typische Muster (18. September 2025): Das Login prüft nur der Browser, geheime Schlüssel stehen im ausgelieferten JavaScript, Row Level Security ist ausgeschaltet oder zu offen, und interne Werkzeuge mit echten Daten sind ohne Login öffentlich erreichbar.
  • Erfundene Pakete: In einer Studie an der USENIX Security 2025 schlugen kommerzielle Modelle in mindestens 5,2 Prozent der Fälle Pakete vor, die es gar nicht gibt, Open-Source-Modelle in 21,7 Prozent. Wer einen solchen Namen registriert, kann Schadcode in jede App bringen, die den Vorschlag ungeprüft übernimmt.
  • Fast richtig: In der Umfrage von Stack Overflow 2025 nennen 66 Prozent der Entwicklerinnen und Entwickler KI-Lösungen, die «fast richtig, aber nicht ganz» sind, als Ärgernis, häufiger als jedes andere. Genau diese Fehler fallen in der Demo nicht auf.

Vier Vorfälle und was sie zeigen

Vorfall Was passiert ist Was er zeigt
Lovable, CVE-2025-48757 (Mai 2025) Zu schwache Zugriffsregeln in mit Lovable erzeugten Apps erlaubten ohne Login das Lesen und Schreiben beliebiger Tabellen. Einstufung 9,3 von 10. Lovable bestreitet den Eintrag: Jeder Kunde sei für den Schutz seiner Daten selbst verantwortlich. Die Zugriffsregeln deiner App sind deine Sache, nicht die der Plattform.
Base44 (Juli 2025) Login und Single Sign-On privater Apps liessen sich mit der öffentlich sichtbaren App-ID umgehen. Base44 behob die Lücke in unter 24 Stunden, Hinweise auf Missbrauch fand der Betreiber keine. Auch die Plattform selbst kann Lücken haben. Du hängst davon ab, wie schnell sie reagiert.
Replit und SaaStr (Juli 2025) Der KI-Agent löschte während eines ausdrücklichen Änderungsstopps die Produktionsdatenbank, mit Daten von über 1’200 Führungskräften und über 1’190 Firmen. Die Daten liessen sich von Hand wiederherstellen. Replit hat seither eine automatische Trennung von Entwicklungs- und Produktionsdatenbank eingeführt. Ein KI-Agent gehört nicht mit vollen Rechten auf die Live-Datenbank.
Moltbook (Februar 2026) Der Supabase-Schlüssel stand im JavaScript der Website, Row Level Security fehlte. Jeder konnte ohne Login lesen und schreiben: 1,5 Millionen API-Tokens und 35’000 E-Mail-Adressen lagen offen. Der Gründer hatte nach eigener Aussage keine Zeile selbst geschrieben. Der öffentliche Schlüssel ist nur so sicher wie die Regeln dahinter.

Kein Grund zur Panik, aber ein Muster: Die Lücken liegen selten im ausgefallenen Code, sondern in Einstellungen, die niemand angeschaut hat.

Selbsttest: zehn Fragen ohne Programmierkenntnisse

Du brauchst dafür keinen Code zu lesen, nur Zugang zu deinen Konten und ein zweites Browserfenster. Teste in deiner eigenen App und, wenn es eine gibt, auf der Testumgebung.

  1. Läuft jedes Konto auf deine Firma? Workspace der KI-Plattform, GitHub, Supabase oder Firebase, Domain, Hosting wie Vercel oder Netlify, Stripe. Schau in jedem Konto unter Einstellungen oder Abrechnung nach, wer Eigentümer ist und mit wessen Kreditkarte bezahlt wird.
  2. Liegt der Code in einem Repository, auf das du Zugriff hast? Lovable zum Beispiel synchronisiert den Code in ein GitHub-Konto oder eine Organisation deiner Wahl. Liegt er nur im Konto eines Freelancers, hast du keinen Zugriff, wenn er geht.
  3. Zeigt deine Datenbank Warnungen? Supabase markiert im Table Editor Tabellen ohne Row Level Security und verschickt Hinweise per Mail. Bei Firebase steht in den Security Rules im schlimmsten Fall eine Regel, die allen alles erlaubt, laut Firebase-Dokumentation nie für den Betrieb gedacht.
  4. Sieht ein zweites Konto fremde Daten? Leg zwei Testkonten an, erfasse mit dem ersten eine Bestellung oder ein Profil und melde dich mit dem zweiten an. Siehst du die Daten? Ändere in der Adresszeile eine Nummer oder ID: Erscheint ein fremder Datensatz?
  5. Was sieht jemand ohne Login? Öffne die App in einem privaten Browserfenster und ruf direkt Seiten auf, die nur für Angemeldete gedacht sind, etwa Admin oder Dashboard. Bei Lovable umgehen aktive Vorschau-Links die Freigabe der veröffentlichten App, solange sie nicht geschützt sind.
  6. Hast du je einen geheimen Schlüssel in den Chat kopiert? OpenAI-, Stripe- oder Datenbank-Schlüssel gehören auf den Server, nicht in den Chat der KI, nicht in den Code und nicht in ein öffentlich sichtbares Projekt. War einer dort, tausch ihn aus.
  7. Arbeitet die KI direkt auf der Live-Datenbank? Gibt es eine Testumgebung mit eigener Datenbank, oder landet jede Änderung sofort bei deinen Kunden?
  8. Gibt es ein Backup, und hast du es je zurückgespielt? Supabase sichert erst ab dem Pro-Plan täglich, sieben Tage lang, im Free-Plan exportierst du selbst. Hochgeladene Dateien wie Bilder oder PDFs sind in den Datenbank-Backups nicht enthalten.
  9. Weisst du, wo deine Daten liegen? Region der Datenbank und des Hostings: Schweiz, EU oder USA? Für Personendaten von Schweizer Kunden ist das keine Nebensache, mehr dazu im Artikel Wem gehören deine App und deine Daten?
  10. Merkst du einen Ausfall vor deinen Kunden? Bekommst du eine Meldung, wenn die App nicht erreichbar ist oder Fehler wirft, oder erfährst du es per Kundenmail?

So wertest du aus: Jedes «Nein» und jedes «Weiss ich nicht» ist eine Aufgabe, kein Drama. Die Fragen 3 bis 6 betreffen die Daten deiner Kunden und gehören vor den ersten echten Kunden geklärt. Die Fragen 1 und 2 entscheiden, ob du handeln kannst, wenn jemand geht. Der Rest gehört in die nächsten Wochen.

Was ein Prüfer zusätzlich macht

Der Selbsttest zeigt, was von aussen sichtbar ist. Eine Prüfung im Rahmen des Übernahme-Assessments geht in den Code und in die Konfiguration:

  • Regeln gegen Code: Die Live-Zugriffsregeln jeder Tabelle und jedes Datei-Speichers werden lesend abgefragt und mit dem verglichen, was der Code erwartet. Bei Supabase gehören dazu auch die Freigaben (GRANTs): Seit dem 30. Oktober 2026 sind neue Tabellen erst nach einer ausdrücklichen Freigabe über die Schnittstelle erreichbar, die Zugriffsregeln musst du weiterhin selbst einrichten.
  • Login und Rechte auf dem Server: Prüft jede Aktion serverseitig, wer sie ausführen darf, oder nur die Oberfläche? Lässt sich über eine geänderte ID ein fremder Datensatz öffnen?
  • Schlüssel überall suchen: im ausgelieferten JavaScript, in der ganzen Git-Historie und in den Umgebungsvariablen. Der geheime Supabase-Schlüssel umgeht laut Supabase jede Zugriffsregel. Was gefunden wird, wird ausgetauscht.
  • Ränder der App: Begrenzung von Anfragen, Schutz vor untergeschobenen Formularen und Server-Anfragen (CSRF, SSRF), Sicherheits-Header, CORS und die Prüfung jeder Eingabe.
  • Pakete: Gibt es jedes Paket wirklich, wird es gepflegt, und hat es bekannte Lücken? Bei Apps mit Next.js oder React gehören die Sicherheitsmeldungen der letzten Monate dazu, siehe Next.js und React: Sicherheitslücken 2025/2026.
  • Betrieb: getrennte Test- und Produktivumgebung, Rechte des KI-Agents, Backups mit getesteter Wiederherstellung, Überwachung, Datenregion, Tests und laufende Kosten.
  • Unabhängigkeit: Lässt sich die App ausserhalb der KI-Plattform bauen und betreiben, und laufen alle Konten auf deine Firma?

Ein Penetrationstest ist das nicht: kein Angriff auf das ganze System, keine Scanner-Last, kein Ausnutzen von Lücken. Ein Zugriffstest mit zwei Testkonten folgt nur mit deiner schriftlichen Erlaubnis, nur lesend und wenn möglich auf einer Testumgebung. Am Ende steht ein Report mit Prioritäten. Wie es danach weitergeht, mit Absichern, Konten auf deine Firma und Betreuung, beschreibt die Seite KI-gebaute App übernehmen.

Wenn schon etwas passiert ist

Hast du Hinweise, dass jemand Daten gelesen oder verändert hat, gilt eine andere Reihenfolge: Zugang schliessen, Schlüssel austauschen, Spuren sichern und erst danach aufräumen. Die ersten Schritte stehen im Artikel Website oder Anwendung gehackt, Hilfe bekommst du über den Notfall-Eingriff.

Quellen

  1. [1]AI-Generated Code Poses Major Security Risks in Nearly Half of All Development Tasks · Veracode, Medienmitteilung, 30. Juli 2025
  2. [2]Methodology: How we discovered vulnerabilities in apps built with vibe coding · Escape, 29. Oktober 2025
  3. [3]Common Security Risks in Vibe-Coded Apps · Wiz, 18. September 2025
  4. [4]CVE-2025-48757 · Tenable, 30. Mai 2025
  5. [5]Critical Vulnerability in Base44 · Wiz, 29. Juli 2025
  6. [6]AI-powered coding tool wiped out a software company's database · Fortune, 23. Juli 2025
  7. [7]Exposed Moltbook Database Reveals Millions of API Keys · Wiz, 2. Februar 2026
  8. [8]We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs · Spracklen et al., USENIX Security Symposium 2025
  9. [9]2025 Developer Survey, AI · Stack Overflow
  10. [10]Understanding API keys · Supabase
  11. [11]Breaking change: tables not exposed to Data and GraphQL API automatically · Supabase, 28. April 2026
  12. [12]Supabase Security 2025 Retro · Supabase, 7. Januar 2026
  13. [13]Database Backups · Supabase
  14. [14]Get started with Cloud Firestore Security Rules · Firebase
  15. [15]Privacy and security settings · Lovable

Häufige Fragen.

Ist eine App aus Lovable, Bolt oder v0 automatisch unsicher?

Nein. Die Werkzeuge erzeugen in kurzer Zeit Code, der funktioniert. Sie prüfen aber nicht von sich aus, wer welche Daten lesen darf, wo Schlüssel landen und ob es Backups gibt. Lovable hat einen eigenen Sicherheits-Scanner und schreibt selbst dazu, dass ein bestandener Scan nicht heisst, die App sei sicher.

Reicht es, die KI zu bitten, die App sicher zu machen?

Als erster Schritt hilft das, als Prüfung nicht. Die KI sieht den Code, den sie gerade bearbeitet, aber nicht unbedingt die Live-Regeln deiner Datenbank, die Einstellungen in den Plattform-Konten oder Schlüssel, die in der Git-Historie liegen. Ein «alles sicher» im Chat ersetzt keinen Blick von jemandem, der für das Ergebnis geradesteht.

Darf der Supabase-Schlüssel im Browser stehen?

Der öffentliche Schlüssel (anon oder publishable) ja, aber nur, weil Row Level Security festlegt, was er erreicht. Ohne Regeln liest damit jeder alles. Der geheime Schlüssel (service_role oder secret) umgeht alle Regeln und gehört nie in den Browser, ins Repository oder in einen Chat.

Ich habe einen geheimen Schlüssel im Code gefunden. Was jetzt?

Tausch ihn beim Anbieter sofort aus, erst dann entfernst du ihn aus dem Code. Löschen allein reicht nicht, denn der alte Schlüssel bleibt in der Git-Historie und in bereits ausgelieferten Versionen lesbar. Prüf danach in den Nutzungs- und Abrechnungsdaten des Anbieters, ob ihn jemand verwendet hat.

Macht eine Prüfung einen Penetrationstest?

Nein. Das Assessment liest den Code, fragt die Live-Zugriffsregeln jeder Tabelle und jedes Datei-Speichers lesend ab und vergleicht beides. Ein Zugriffstest mit zwei Testkonten folgt nur mit deiner schriftlichen Erlaubnis, nur lesend und wenn möglich auf einer Testumgebung. Angriffe auf das ganze System, Scanner-Last oder das Ausnutzen von Lücken gehören nicht dazu.

KI-gebaute App übernehmen

Muss ich die App neu bauen lassen, wenn der Selbsttest schlecht ausfällt?

In aller Regel nicht. Fehlende Zugriffsregeln, offene Schlüssel und ein Login, das nur der Browser prüft, lassen sich in der bestehenden App beheben. Ein Neubau lohnt sich erst, wenn Datenmodell oder Aufbau deine Abläufe nicht tragen.

Modernisieren oder neu bauen?