Sechsundvierzig Ordner, elf im Netz

Auf meinem Rechner liegen sechsundvierzig Projektordner. Laut meinen Projektunterlagen laufen elf davon im Netz, etwa dreißig liegen nur bei mir: als Prototyp, als Konzept oder als Ablage. Gebaut habe ich alles mit KI-Agenten, ich sage, was entstehen soll, sie schreiben den Programmcode. Programmieren kann ich nicht, ich bin Haustechniker.

Viel gebaut ist noch keine Leistung. Wichtiger finde ich die Frage, was ich an dem Gebauten beurteilen kann und was nicht.

Fünf Beispiele

Ein Rechner für Haustechnik und Elektro. Das TGA-Tool hat fünfundzwanzig Rechenmodule: sechzehn für Heizung, Klima, Lüftung und Sanitär, fünf für Elektro, vier für die Planung. Es ist für Vorbemessungen, Plausibilitätsprüfungen und erste Abschätzungen gedacht, nicht für Normnachweise, und das steht als Haftungsausschluss auf der Seite. Die Rechner sind nur mit Anmeldung nutzbar, den Zugang vergebe ich persönlich.

Eine Vereinssoftware für Tennisclubs. Platzbuchung, Mitgliederverwaltung und Rangliste in einem System. Gebaut in fünf Wochen reiner Arbeit, der Code hat rund 59.000 Zeilen.

Eine Wissensdatenbank zum Chatten. Man lädt Dokumente hoch und stellt Fragen in normaler Sprache. Jede Antwort nennt Dokument und Seite, ein Klick öffnet das PDF an der Stelle. Die Suche läuft auf meinem Server, nur die Frage und die gefundenen Textstellen gehen an ein Sprachmodell. Diese Fassung ist eine Vorführung hinter einer Anmeldemaske.

Ein Werkzeugkasten für Kurzlinks, Link-Seiten und QR-Codes. Nur für Personen, die ich freischalte, jeder mit eigenem Konto.

Eine Anzeigenseite für eine Firma mit Nutzfahrzeugen. Sie ist noch in Arbeit und wird mit dem Kunden abgestimmt.

Dazu kommen die visuellen Effekte, die Haustechnik anschaulich machen sollen. Bei denen sind die Berechnungen noch nicht überprüft, es geht dort vorerst nur um das Verstehen.

Was ich beurteilen kann

Den Inhalt. Ob ein Heizlastergebnis in der richtigen Größenordnung liegt, ob ein Kabelquerschnitt zu klein ist, ob eine Darstellung die Anlage richtig erklärt, sehe ich als Haustechniker. Dafür brauche ich keinen Programmcode.

Was ich nicht beurteilen kann

Den Code selbst und alles, was von ihm abhängt: ob Anmeldung und Passwörter sauber gelöst sind, ob ein Konto Daten eines anderen sehen kann, ob die Rechner bei ungewöhnlichen Eingaben noch stimmen. Ich lese den Code nicht und könnte ihn nicht bewerten.

Dass das kein Randproblem ist, zeigt eine Studie von Perry, Srivastava, Kumar und Boneh. Teilnehmer mit KI-Assistent schrieben deutlich weniger sicheren Code als die ohne, und sie hielten ihren Code eher für sicher (arXiv 2211.03622¹). Die Teilnehmer konnten programmieren, ich kann es nicht. Meiner Einschätzung nach habe ich die schlechteren Voraussetzungen, so etwas selbst zu bemerken.

Hinzu kommt etwas, das ich bei der Durchsicht meiner Ordner gesehen habe: Bei mehreren Projekten stammen die Tests und Prüfberichte aus der Startvorlage, die ich für neue Projekte kopiere, nicht aus der Arbeit am einzelnen Projekt. „Test vorhanden“ heißt deshalb noch nicht, dass gerade dieses Projekt geprüft wurde.

Darauf achte ich

• Ein Rechner trägt seinen Haftungsausschluss gut sichtbar auf der Seite, und was nicht geprüft ist, nenne ich ungeprüft.
• Zugänge vergebe ich persönlich, statt eine Selbstanmeldung für alle offen zu lassen.
• Ein Prüfbericht ist für mich erst dann ein Beleg, wenn ich weiß, was genau geprüft wurde und von wem.
• Gesichert wird täglich, bevor ich etwas anderes ausprobiere.
• Was nicht läuft oder nicht fertig ist, zähle ich nicht als Ergebnis.

Elf von sechsundvierzig im Netz sind für mich keine Erfolgsmeldung. Sie sind eine Bestandsaufnahme, mit der ich weiterarbeiten kann.