KI & Automatisierung

Hermes Agent aufsetzen: Desktop statt Server

Ein eigener KI-Agent ohne Server: Installation auf Mac und Windows, Modell per API, Telegram als Kanal und die Grenzen, die du setzen musst.

Illustration: Ein Mann im grauen Hoodie sitzt am Schreibtisch vor einem Laptop mit einer Chat-Oberfläche, daneben ein zweiter Bildschirm und ein goldenes Papierflieger-Symbol.

Mit KI generiert.

Was du brauchst, und was du nicht brauchst

Die kurze Antwort: einen Rechner, einen Schlüssel für ein Sprachmodell und eine halbe Stunde.

Keinen Server. Das ist der Unterschied zu der Variante, die ich im Homelab laufen lasse. Dort steht ein Container auf Proxmox, der Tag und Nacht läuft. Hier läuft der Agent auf dem Rechner, auf dem du arbeitest, und ist nur da, wenn der Rechner da ist.

Einen Rechner mit Platz. Bei mir ist es ein MacBook mit Apple Silicon. Wichtig, weil die offizielle Mac-Fassung nur auf Apple Silicon läuft; Rechner mit Intel-Prozessor werden nicht unterstützt. Auf Windows geht es mit dem signierten Paket.

Ein Modell. Entweder über einen Anbieter mit Schlüssel oder lokal auf eigener Hardware. Für den Anfang ist ein Cloud-Modell der einfachere Weg, weil nichts installiert und nichts geladen werden muss.

Eine Entscheidung vorher. Willst du den Agenten nur am Rechner, oder soll er dir auch unterwegs schreiben können? Das entscheidet, ob du gleich einen Messenger anbindest.

Installation: zwei Wege, ein Ziel

Es gibt ein fertiges Paket und eine Installation über die Kommandozeile. Das Paket ist für die meisten der schnellere Weg.

Das Paket. Auf der Hermes-Seite die Fassung für dein System laden.

  • macOS: DMG öffnen, Hermes.app in den Programme-Ordner ziehen, starten. Das Paket ist signiert, der Updater arbeitet damit.
  • Windows: die .appinstaller-Datei öffnen. Windows installiert das signierte MSIX-Paket und merkt sich, woher es kommt.
  • Was drin ist: der Agent, Python, die Abhängigkeiten und die Oberflächen. Beim ersten Start wird nichts nachgebaut.

Die Kommandozeile. Wer lieber im Terminal arbeitet oder Linux nutzt, installiert so:

# Linux, macOS, WSL2
curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash

# Windows, in PowerShell
iex (irm https://hermes-agent.nousresearch.com/install.ps1)

Der Installer holt den Quelltext, richtet die Laufzeitumgebung ein und installiert, was der Agent braucht. Wenn ein Download scheitert, läuft die Installation trotzdem durch und zeigt den Befehl zum Nachholen.

Danach steht hermes im Terminal. Mit hermes setup läuft ein geführtes Gespräch durch die Grundeinstellungen.

Geklappt, wenn: hermes --version eine Versionsnummer ausgibt und hermes ohne Fehlermeldung startet.

Modelle verbinden

Ein Agent ohne Modell ist ein Gerüst. Die Verbindung läuft über eine Programmierschnittstelle: Anbieter, Schlüssel, Modellname. Danach schickt der Agent jede Anfrage dorthin.

Für den Desktop-Weg ist das der einzige Teil, der wirklich Konfiguration ist. Alles andere ist Klicken.

Ein Schlüssel, viele Modelle. Bei mir läuft der meiste Verkehr über OpenRouter. Ein Schlüssel, eine Abrechnung, dahinter Dutzende Modelle verschiedener Anbieter. Der Vorteil ist nicht der Preis, sondern die Beweglichkeit: Fällt ein Modell aus oder wird zu teuer, wechselst du den Namen, nicht die Anbindung.

Daneben steht DeepSeek direkt, ohne Vermittler. Kürzerer Weg, direkte Abrechnung, für viele Aufgaben die günstigere Verbindung.

# geführte Einrichtung: fragt Anbieter und Schlüssel ab
hermes setup

# Hauptmodell wählen
hermes model

# Ausweichmodell anhängen
hermes fallback add

# Kette ansehen
hermes fallback list

Der Schlüssel gehört in eine eigene Datei mit engen Rechten, nicht in ein Skript, das man später kopiert. Ein Schlüssel ist Geld.

Nicht das größte Modell ist das richtige. Ein Agent macht viele Aufrufe pro Aufgabe: Er überlegt, liest, prüft, antwortet. Bei einem Cloud-Modell summiert sich das, und zwar unsichtbar. Drei Regeln, die mir geholfen haben:

  • Für Zusammenfassen, Umformulieren und Sortieren reicht ein kleines Modell.
  • Das große nimmst du, wenn wirklich gedacht werden muss.
  • Ein Ausweichmodell in der Kette fängt Ausfälle und Rate-Limits ab.

Auf dem Desktop ist der lokale Weg übrigens leichter als im Serverbetrieb: Ein Modell über Ollama läuft auf demselben Rechner, du brauchst keinen Tunnel. Eine Hürde bleibt: Hermes nimmt kein Modell unter 64.000 Token Kontextfenster an. Ein kleines Modell mit 40.960 Token wird abgewiesen.

Geklappt, wenn: eine einfache Frage eine Antwort ergibt und ein zweites Modell auf Zuruf ebenfalls antwortet.

Wer den Weg über einen eigenen Server gehen will, findet die Container-Variante im Artikel Hermes Agent auf Proxmox aufsetzen. Die Abschnitte zu Modellen und Rechten gelten für beide Wege gleich.

Messenger anbinden

Ein Agent im Terminal ist ein Werkzeug für zu Hause. Mit einem Messenger wird er ein Assistent, den du unterwegs erreichst.

Bot anlegen. In Telegram den Kontakt @BotFather öffnen, /newbot senden, Namen und Benutzernamen wählen, der auf bot endet. BotFather antwortet mit einem Token. Das ist der Schlüssel zum Bot.

Token setzen. In die Konfiguration oder die .env-Datei:

TELEGRAM_BOT_TOKEN=<token>

Danach den Dienst neu starten. Geklappt, wenn: das Protokoll keine Zeile über einen ungültigen Token enthält.

Chat-Kennung. Schreib dem Bot eine Nachricht. Beim ersten Kontakt erkennt der Dienst, wer da schreibt, und merkt sich die Kennung. Ohne sie landet eine automatische Meldung im Nirgendwo.

Geklappt, wenn: deine Nachricht eine Antwort auslöst und ein Zeitplan seine Meldung in genau diesem Chat abliefert.

Was der Agent darf, und wo die Grenze verläuft

Auf dem Desktop ist die Versuchung größer, alles zu erlauben. Der Agent läuft ja auf deinem eigenen Rechner, mit deinen Dateien, in deinem Benutzerkonto. Genau das ist das Problem.

Das ist die eigentliche Gefahr: kein Agent, der Böses will, sondern einer, der fleißig ist. Er tut, was man ihm erlaubt, auch wenn die Lage anders ist als gedacht.

Der gefährlichste Posten ist der Terminal-Zugriff. Wer ihn gibt, gibt Kontrolle über den Rechner und über alles, was darauf liegt: Zugangsschlüssel, Dokumente, Konten. Auf einem Server ist das schlimm; auf dem Rechner, auf dem deine Steuerunterlagen liegen, ist es schlimmer.

Vier Regeln, die ich mir gesetzt habe:

  • Rechte je Kanal. Telegram bekommt weniger als die Konsole. Der Kanal unterwegs wird am Handy benutzt, ein Tippfehler fällt dort seltener auf.
  • Rechte je Aufgabe. Eine Aufgabe, die schreiben soll, bekommt Schreibrechte. Nicht der ganze Satz, nur der Teil, der gebraucht wird.
  • Rückwege vor Änderungen. Eine Kopie, ein Commit, ein Backup. Bevor der Agent etwas überschreibt.
  • Freigabe bleibt beim Menschen. Veröffentlichen, senden, löschen, Geld ausgeben sind Schritte, die eine Bestätigung brauchen.

Und ein Punkt, der auf dem Desktop besonders gilt: Was in den Kontext kommt, geht an das Modell. Ein Dokument, das du zusammenfassen lässt, hat den Rechner verlassen. Rechnungen, Versicherungsunterlagen und Zugangsdaten gehören nicht durch ein fremdes Modell.

Grenzen

Ein Agent weiß nicht, ob seine Antwort stimmt. Er erkennt Muster, er prüft nicht.

Die Kosten sind tückisch, weil sie unsichtbar sind. Ein Cloud-Modell kostet je Aufruf, und ein Agent macht viele Aufrufe pro Aufgabe. Das ist sein Vorteil und seine Rechnung.

Und der Desktop hat eine Grenze, die ein Server nicht hat: Er ist nur da, wenn du da bist. Schließt du den Rechner, läuft kein Zeitplan. Für morgendliche Berichte brauchst du einen Rechner, der durchläuft, oder du akzeptierst, dass die Meldung kommt, wenn du den Deckel öffnest.

Meine Erkenntnisse

Der Desktop-Weg ist der ehrlichere Einstieg. Man sieht sofort, was der Agent tut, weil er auf demselben Bildschirm arbeitet. Man merkt auch sofort, wenn er etwas Falsches anfasst.

Was ich gelernt habe: Der Agent ist so gut wie seine Grenzen. Nicht der Werkzeugsatz, der alles darf, sondern der durchdachte Satz, der zu einer Aufgabe passt.

Und ein letzter Punkt, der mir wichtiger ist als alles andere: Was Handlung braucht, muss beim Menschen ankommen. Ein Agent, der eine Entscheidung trifft und sie niemandem mitteilt, ist keine Automatisierung, sondern ein offenes Fenster.

Quellen

Zahlen und Aussagen, die ich nicht selbst erhoben habe, lassen sich hier nachlesen.

  1. DeepSeek — API-Dokumentation api-docs.deepseek.comBelegstelle für die Aussagen in „Quellen“ und im Fließtext
  2. Hermes Agent — Dokumentation hermes-agent.nousresearch.comBelegstelle für die Aussagen in „Quellen“ und im Fließtext
  3. Hermes Agent — Installation hermes-agent.nousresearch.comBelegstelle für die Aussagen in „Quellen“ und im Fließtext
  4. OpenRouter — Dokumentation openrouter.aiBelegstelle für die Aussagen in „Quellen“ und im Fließtext
  5. Telegram — Bots über BotFather core.telegram.orgBelegstelle für die Aussagen in „Quellen“ und im Fließtext

FAQ

Glossar

LLM
Large Language Model – großes Sprachmodell wie GPT-4, Claude oder Gemini.
Token
Kleinste Texteinheit, die von der KI verarbeitet wird (ca. 0,75 Wörter).

Über den Autor

Raul Gaber

Fachdozent für Online-Marketing

Ich zeige dir, wie du Online-Marketing strukturiert, messbar und effizient umsetzt – ohne unnötige Komplexität.

  • Schwerpunkte SEO, Generative Engine Optimization (GEO), Webanalyse, Google Analytics
  • ErfahrungenFachdozent für Online-Marketing (GFN GmbH), Praxisprojekte in SEO & Performance Marketing, Beratung im B2B-Marketingumfeld
  • Bewertungen 5,0 • 18 Bewertungen auf Google
Raul Gaber

Passt dazu

Einsteigerfreundlicher Leitfaden zum Prompting im Marketing: fünf Bausteine, Prompt-Vorlagen mit Ergebnis, Fehler und ein Praxisbeispiel.