Du hast in kurzer Zeit etwas gebaut, das funktioniert und Leute begeistert. Das ist eine Leistung, und für einen Prototyp ist das Tempo genau richtig. Mit dem ersten echten Kunden ändert sich aber die Frage: Nicht mehr «läuft es?», sondern «wer kann was sehen, und was passiert, wenn etwas schiefgeht?». In der Datenbank liegen dann Namen, Adressen und Bestellungen von Menschen, die dir vertrauen, und für ihren Schutz bist du verantwortlich, nicht das Werkzeug.
Was Studien zu KI-gebauten Apps zeigen
- Lücken im Code: Veracode liess über 100 Sprachmodelle 80 Programmieraufgaben lösen (Medienmitteilung vom 30. Juli 2025). In 45 Prozent der Fälle enthielt der Code eine Lücke aus den OWASP Top 10, gegen Cross-Site-Scripting war er in 86 Prozent der Fälle nicht geschützt. Veracode verkauft selbst Prüfwerkzeuge, und gemessen wurde an vorgegebenen Aufgaben, nicht an fertigen Apps.
- Lücken in fertigen Apps: Escape untersuchte über 5’600 öffentlich erreichbare Apps, rund 4’000 davon mit Lovable gebaut (29. Oktober 2025). Gefunden wurden über 2’000 Lücken, über 400 offen liegende geheime Schlüssel und 175 Fälle mit Personendaten, darunter medizinische Daten und IBANs. Weil nur passiv gescannt wurde, sind das Untergrenzen.
- Immer dieselben Fehler: Wiz beschreibt vier typische Muster (18. September 2025): Das Login prüft nur der Browser, geheime Schlüssel stehen im ausgelieferten JavaScript, Row Level Security ist ausgeschaltet oder zu offen, und interne Werkzeuge mit echten Daten sind ohne Login öffentlich erreichbar.
- Erfundene Pakete: In einer Studie an der USENIX Security 2025 schlugen kommerzielle Modelle in mindestens 5,2 Prozent der Fälle Pakete vor, die es gar nicht gibt, Open-Source-Modelle in 21,7 Prozent. Wer einen solchen Namen registriert, kann Schadcode in jede App bringen, die den Vorschlag ungeprüft übernimmt.
- Fast richtig: In der Umfrage von Stack Overflow 2025 nennen 66 Prozent der Entwicklerinnen und Entwickler KI-Lösungen, die «fast richtig, aber nicht ganz» sind, als Ärgernis, häufiger als jedes andere. Genau diese Fehler fallen in der Demo nicht auf.
Vier Vorfälle und was sie zeigen
| Vorfall | Was passiert ist | Was er zeigt |
|---|---|---|
| Lovable, CVE-2025-48757 (Mai 2025) | Zu schwache Zugriffsregeln in mit Lovable erzeugten Apps erlaubten ohne Login das Lesen und Schreiben beliebiger Tabellen. Einstufung 9,3 von 10. Lovable bestreitet den Eintrag: Jeder Kunde sei für den Schutz seiner Daten selbst verantwortlich. | Die Zugriffsregeln deiner App sind deine Sache, nicht die der Plattform. |
| Base44 (Juli 2025) | Login und Single Sign-On privater Apps liessen sich mit der öffentlich sichtbaren App-ID umgehen. Base44 behob die Lücke in unter 24 Stunden, Hinweise auf Missbrauch fand der Betreiber keine. | Auch die Plattform selbst kann Lücken haben. Du hängst davon ab, wie schnell sie reagiert. |
| Replit und SaaStr (Juli 2025) | Der KI-Agent löschte während eines ausdrücklichen Änderungsstopps die Produktionsdatenbank, mit Daten von über 1’200 Führungskräften und über 1’190 Firmen. Die Daten liessen sich von Hand wiederherstellen. Replit hat seither eine automatische Trennung von Entwicklungs- und Produktionsdatenbank eingeführt. | Ein KI-Agent gehört nicht mit vollen Rechten auf die Live-Datenbank. |
| Moltbook (Februar 2026) | Der Supabase-Schlüssel stand im JavaScript der Website, Row Level Security fehlte. Jeder konnte ohne Login lesen und schreiben: 1,5 Millionen API-Tokens und 35’000 E-Mail-Adressen lagen offen. Der Gründer hatte nach eigener Aussage keine Zeile selbst geschrieben. | Der öffentliche Schlüssel ist nur so sicher wie die Regeln dahinter. |
Kein Grund zur Panik, aber ein Muster: Die Lücken liegen selten im ausgefallenen Code, sondern in Einstellungen, die niemand angeschaut hat.
Selbsttest: zehn Fragen ohne Programmierkenntnisse
Du brauchst dafür keinen Code zu lesen, nur Zugang zu deinen Konten und ein zweites Browserfenster. Teste in deiner eigenen App und, wenn es eine gibt, auf der Testumgebung.
- Läuft jedes Konto auf deine Firma? Workspace der KI-Plattform, GitHub, Supabase oder Firebase, Domain, Hosting wie Vercel oder Netlify, Stripe. Schau in jedem Konto unter Einstellungen oder Abrechnung nach, wer Eigentümer ist und mit wessen Kreditkarte bezahlt wird.
- Liegt der Code in einem Repository, auf das du Zugriff hast? Lovable zum Beispiel synchronisiert den Code in ein GitHub-Konto oder eine Organisation deiner Wahl. Liegt er nur im Konto eines Freelancers, hast du keinen Zugriff, wenn er geht.
- Zeigt deine Datenbank Warnungen? Supabase markiert im Table Editor Tabellen ohne Row Level Security und verschickt Hinweise per Mail. Bei Firebase steht in den Security Rules im schlimmsten Fall eine Regel, die allen alles erlaubt, laut Firebase-Dokumentation nie für den Betrieb gedacht.
- Sieht ein zweites Konto fremde Daten? Leg zwei Testkonten an, erfasse mit dem ersten eine Bestellung oder ein Profil und melde dich mit dem zweiten an. Siehst du die Daten? Ändere in der Adresszeile eine Nummer oder ID: Erscheint ein fremder Datensatz?
- Was sieht jemand ohne Login? Öffne die App in einem privaten Browserfenster und ruf direkt Seiten auf, die nur für Angemeldete gedacht sind, etwa Admin oder Dashboard. Bei Lovable umgehen aktive Vorschau-Links die Freigabe der veröffentlichten App, solange sie nicht geschützt sind.
- Hast du je einen geheimen Schlüssel in den Chat kopiert? OpenAI-, Stripe- oder Datenbank-Schlüssel gehören auf den Server, nicht in den Chat der KI, nicht in den Code und nicht in ein öffentlich sichtbares Projekt. War einer dort, tausch ihn aus.
- Arbeitet die KI direkt auf der Live-Datenbank? Gibt es eine Testumgebung mit eigener Datenbank, oder landet jede Änderung sofort bei deinen Kunden?
- Gibt es ein Backup, und hast du es je zurückgespielt? Supabase sichert erst ab dem Pro-Plan täglich, sieben Tage lang, im Free-Plan exportierst du selbst. Hochgeladene Dateien wie Bilder oder PDFs sind in den Datenbank-Backups nicht enthalten.
- Weisst du, wo deine Daten liegen? Region der Datenbank und des Hostings: Schweiz, EU oder USA? Für Personendaten von Schweizer Kunden ist das keine Nebensache, mehr dazu im Artikel Wem gehören deine App und deine Daten?
- Merkst du einen Ausfall vor deinen Kunden? Bekommst du eine Meldung, wenn die App nicht erreichbar ist oder Fehler wirft, oder erfährst du es per Kundenmail?
So wertest du aus: Jedes «Nein» und jedes «Weiss ich nicht» ist eine Aufgabe, kein Drama. Die Fragen 3 bis 6 betreffen die Daten deiner Kunden und gehören vor den ersten echten Kunden geklärt. Die Fragen 1 und 2 entscheiden, ob du handeln kannst, wenn jemand geht. Der Rest gehört in die nächsten Wochen.
Was ein Prüfer zusätzlich macht
Der Selbsttest zeigt, was von aussen sichtbar ist. Eine Prüfung im Rahmen des Übernahme-Assessments geht in den Code und in die Konfiguration:
- Regeln gegen Code: Die Live-Zugriffsregeln jeder Tabelle und jedes Datei-Speichers werden lesend abgefragt und mit dem verglichen, was der Code erwartet. Bei Supabase gehören dazu auch die Freigaben (GRANTs): Seit dem 30. Oktober 2026 sind neue Tabellen erst nach einer ausdrücklichen Freigabe über die Schnittstelle erreichbar, die Zugriffsregeln musst du weiterhin selbst einrichten.
- Login und Rechte auf dem Server: Prüft jede Aktion serverseitig, wer sie ausführen darf, oder nur die Oberfläche? Lässt sich über eine geänderte ID ein fremder Datensatz öffnen?
- Schlüssel überall suchen: im ausgelieferten JavaScript, in der ganzen Git-Historie und in den Umgebungsvariablen. Der geheime Supabase-Schlüssel umgeht laut Supabase jede Zugriffsregel. Was gefunden wird, wird ausgetauscht.
- Ränder der App: Begrenzung von Anfragen, Schutz vor untergeschobenen Formularen und Server-Anfragen (CSRF, SSRF), Sicherheits-Header, CORS und die Prüfung jeder Eingabe.
- Pakete: Gibt es jedes Paket wirklich, wird es gepflegt, und hat es bekannte Lücken? Bei Apps mit Next.js oder React gehören die Sicherheitsmeldungen der letzten Monate dazu, siehe Next.js und React: Sicherheitslücken 2025/2026.
- Betrieb: getrennte Test- und Produktivumgebung, Rechte des KI-Agents, Backups mit getesteter Wiederherstellung, Überwachung, Datenregion, Tests und laufende Kosten.
- Unabhängigkeit: Lässt sich die App ausserhalb der KI-Plattform bauen und betreiben, und laufen alle Konten auf deine Firma?
Ein Penetrationstest ist das nicht: kein Angriff auf das ganze System, keine Scanner-Last, kein Ausnutzen von Lücken. Ein Zugriffstest mit zwei Testkonten folgt nur mit deiner schriftlichen Erlaubnis, nur lesend und wenn möglich auf einer Testumgebung. Am Ende steht ein Report mit Prioritäten. Wie es danach weitergeht, mit Absichern, Konten auf deine Firma und Betreuung, beschreibt die Seite KI-gebaute App übernehmen.
Wenn schon etwas passiert ist
Hast du Hinweise, dass jemand Daten gelesen oder verändert hat, gilt eine andere Reihenfolge: Zugang schliessen, Schlüssel austauschen, Spuren sichern und erst danach aufräumen. Die ersten Schritte stehen im Artikel Website oder Anwendung gehackt, Hilfe bekommst du über den Notfall-Eingriff.
Quellen
- [1]AI-Generated Code Poses Major Security Risks in Nearly Half of All Development Tasks · Veracode, Medienmitteilung, 30. Juli 2025
- [2]Methodology: How we discovered vulnerabilities in apps built with vibe coding · Escape, 29. Oktober 2025
- [3]Common Security Risks in Vibe-Coded Apps · Wiz, 18. September 2025
- [4]CVE-2025-48757 · Tenable, 30. Mai 2025
- [5]Critical Vulnerability in Base44 · Wiz, 29. Juli 2025
- [6]AI-powered coding tool wiped out a software company's database · Fortune, 23. Juli 2025
- [7]Exposed Moltbook Database Reveals Millions of API Keys · Wiz, 2. Februar 2026
- [8]We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs · Spracklen et al., USENIX Security Symposium 2025
- [9]2025 Developer Survey, AI · Stack Overflow
- [10]Understanding API keys · Supabase
- [11]Breaking change: tables not exposed to Data and GraphQL API automatically · Supabase, 28. April 2026
- [12]Supabase Security 2025 Retro · Supabase, 7. Januar 2026
- [13]Database Backups · Supabase
- [14]Get started with Cloud Firestore Security Rules · Firebase
- [15]Privacy and security settings · Lovable