Unsere eigene, sparsame KI: die Technik hinter dem EEG-Assistenten

Im Mitgliederportal beantwortet der EEG-Assistent Fragen zu Ihren eigenen Energiedaten in ganzen Sätzen. Was er alles kann und wie Sie ihn nutzen, zeigen wir im Beitrag Der EEG-Assistent im Mitgliederportal. Hier geht es um die Technik dahinter: wo die KI läuft, warum wir sie selbst betreiben und was das für Ihre Daten bedeutet.

Unsere eigene, sparsame KI — mitten in Bad Vöslau

Die meisten KI-Chats laufen in riesigen Rechenzentren großer Konzerne, auf Tausenden Grafikkarten mit entsprechendem Strom- und Kühlbedarf. Wir gehen einen anderen Weg.

Der EEG-Assistent läuft auf einem einzigen Rechner in unserem Technikschrank in Bad Vöslau: einem älteren Apple-Notebook mit M1-Chip (im Bild auf dem mittleren Boden), das damit ein zweites Leben bekommt. Darauf arbeitet ein frei verfügbares Sprachmodell — vollständig auf diesem Gerät, ohne Umweg über einen Cloud-Dienst.

• Sparsam: Der M1-Chip ist auf geringen Stromverbrauch ausgelegt. Im Leerlauf braucht der Rechner nur wenige Watt, und auch beim Antworten liegt er weit unter einem Rechenzentrums-Server mit Grafikkarten, der mehrere Hundert Watt zieht.
• Mit Strom aus der Gemeinschaft: Der Schrank bezieht seinen Strom über die EEG Grünes Licht Bad Vöslau/Sooß — wenn die Sonne scheint, also direkt von den Dächern unserer Mitglieder.
• Regional: Die Rechenarbeit für Ihre Fragen passiert hier in der Region, nicht auf einem anderen Kontinent.

Der Preis dafür: Ein kleiner Rechner ist langsamer als ein Rechenzentrum. Einfache Fragen beantwortet der Assistent in einigen Sekunden, aufwendige können auch eine Minute oder länger dauern. Das Portal zeigt währenddessen an, wie lange er schon „denkt“, und unter jeder Antwort die Antwortzeit.

Ihre Daten bleiben bei uns

• Kein großer KI-Anbieter: Ihre Fragen und Ihre Energiedaten gehen an keinen KI-Dienst eines Konzerns. Betrieben wird der Assistent von unserem Verein selbst.
• Nur Ihre eigenen Daten: Für jede Frage stellt das Portal einen Zugangsschlüssel aus, der nur wenige Minuten gilt und nur zu Ihrem Konto passt. Die Daten anderer Mitglieder kann der Assistent nicht abrufen.
• Nur lesen bei Messdaten und Abrechnung: An Ihren Messdaten, Stammdaten und Abrechnungen kann der Assistent nichts ändern. Speichern kann er nur, was Sie ihm ausdrücklich über Ihren Haushalt erzählen — unter Profil › Meine Angaben können Sie das jederzeit einsehen und löschen.
• Gespräche werden nicht gespeichert — weder im Portal noch beim Assistenten, außer Sie hängen beim Feedback ausdrücklich den Verlauf an.

Die Antworten erzeugt eine KI — sie können Fehler enthalten. Maßgeblich sind immer Ihre Abrechnungen und die Werte im Portal. Wenn Ihnen eine Antwort seltsam vorkommt, prüfen Sie sie dort nach.

Rückmeldungen helfen uns, den Assistenten besser zu machen. Neben dem Eingabefeld gibt es dafür die Schaltfläche „Feedback“ (Stern): Sie vergeben ein bis fünf Sterne, können eine Nachricht schreiben und auf Wunsch den Verlauf der Unterhaltung mitschicken — wenn Sie möchten, auch anonym.

Haben Sie Fragen oder Ideen, was der Assistent noch können sollte? Schreiben Sie uns — wir freuen uns darauf.