diff --git a/Kapitel 13/Tutorial.md b/Kapitel 13/Tutorial.md index 0ce5a50..ea3abd3 100644 --- a/Kapitel 13/Tutorial.md +++ b/Kapitel 13/Tutorial.md @@ -220,9 +220,9 @@ Mit dieser Einrichtung sind **SSH‑Schlüssel**, **Berechtigungen** und **Pfade ## Abschnitt 3 – n8n ↔ Twitch: VOD & Clips importieren, in Nextcloud ablegen, Clipper starten -In diesem Abschnitt verbinden wir n8n mit Twitch, Nextcloud und dem Clipper. Das Ziel: n8n erkennt automatisch neue VODs auf Twitch, lädt sie zusammen mit Clips herunter, legt sie in Nextcloud ab und startet dann die Analyse auf dem Clipper. Wir gehen Schritt für Schritt vor – immer mit klaren Hinweisen, ob wir uns gerade in der **n8n‑Weboberfläche**, im **Terminal** oder in **Nextcloud** befinden. +In diesem Abschnitt verbinden wir n8n mit Twitch, Nextcloud und dem Clipper. Das Ziel: n8n erkennt automatisch neue VODs auf Twitch, lädt sie zusammen mit Clips herunter, legt sie in Nextcloud ab und startet dann die Analyse auf dem Clipper. Wir gehen Schritt für Schritt vor – immer mit klaren Hinweisen, ob wir uns gerade in der **n8n-Weboberfläche**, im **Terminal** oder in **Nextcloud** befinden. -> **Entscheidung & Begründung – Rollenverteilung** +> **Entscheidung & Begründung – Rollenverteilung** > **n8n** steuert (APIs, Logik, Benachrichtigungen). **Clipper** arbeitet (Download, Analyse, Schnitt). **Nextcloud** speichert (Archiv & Übergabe). So bleibt n8n schlank und ausfallsicher, während Clipper CPU/IO für Medienjobs bekommt. --- @@ -245,312 +245,160 @@ Das bedeutet, dass sich der **Server-Hostkey** geändert hat. SSH blockiert dann #### Lösung Schritt für Schritt (im n8n-LXC als root) 1. **Fingerprint auf dem Clipper prüfen** + ```bash ssh-keygen -lf /etc/ssh/ssh_host_ed25519_key.pub ``` + (SHA256-Wert merken und vergleichen) 2. **Alten Eintrag löschen** + ```bash ssh-keygen -R "" ``` -> **Entscheidung & Begründung – Sicherheitsprinzip** +> **Entscheidung & Begründung – Sicherheitsprinzip** > SSH schützt vor Man-in-the-Middle-Angriffen, indem es Hostkeys prüft. Wenn ein Container neu erstellt wird, ist ein neuer Hostkey normal. Wir löschen den alten Eintrag bewusst, prüfen den neuen Fingerprint und akzeptieren ihn erst danach. So bleibt die Verbindung sicher **und** stabil. +**SSH-Schlüssel für Clipper erzeugen:** -Melde dich zuerst im **Terminal deines n8n‑LXC** an. Wir richten hier die Verbindung zum Clipper und zu Nextcloud ein. - -**SSH‑Schlüssel für Clipper erzeugen:** ```bash -ssh-keygen -t ed25519 -f ~/.ssh/id_ed25519 -N "" -ssh-copy-id clipper@ -ssh clipper@ "echo OK" +ssh-keygen -t rsa -b 4096 -m PEM -f ~/.ssh/id_n8n_clipper -N "" +ssh-copy-id -i ~/.ssh/id_n8n_clipper.pub clipper@ +ssh -i ~/.ssh/id_n8n_clipper clipper@ "echo OK" ``` -Ersetze `` durch die IP/den Hostnamen deines Clipper‑LXC (z. B. `10.0.0.42`). Wenn **OK** erscheint, kann n8n ohne Passwort auf den Clipper zugreifen. -### Zugangsdaten für Nextcloud‑WebDAV erstellen (Weboberfläche) +Ersetze `` durch die IP/den Hostnamen deines Clipper-LXC (z. B. `10.0.0.42`). Wenn **OK** erscheint, kann n8n ohne Passwort auf den Clipper zugreifen. -> **Ort in Nextcloud**: Avatar (oben rechts) → **Persönliche Einstellungen** → **Sicherheit** → **ganz nach unten** zum Bereich **App‑Passwörter**. +> **Entscheidung & Begründung – RSA (PEM) statt ed25519** +> n8n akzeptiert nur PEM-Schlüssel zuverlässig. Ed25519 erzeugt oft OpenSSH-Keys, die von n8n nicht geparst werden können. Mit `-m PEM` stellen wir sicher, dass das Format passt. + +--- + +### Zugangsdaten für Nextcloud-WebDAV erstellen (Weboberfläche) + +> **Ort in Nextcloud**: Avatar (oben rechts) → **Persönliche Einstellungen** → **Sicherheit** → **ganz nach unten** zum Bereich **App-Passwörter**. **Anleitung:** -1. Melde dich in der **Nextcloud‑Weboberfläche** an. -2. Gehe zu **Persönliche Einstellungen** → **Sicherheit**. -3. **Ganz nach unten scrollen** bis zum Abschnitt **App‑Passwörter** (unscheinbar platziert). -4. Trage bei **App‑Name** z. B. `n8n Clipper` ein und klicke auf **Neues App‑Passwort erstellen**. -5. Kopiere das **einmalig angezeigte App‑Passwort** sofort und notiere zusätzlich deinen **Benutzernamen**. (Das Passwort wird später **nicht** erneut angezeigt.) -**WebDAV‑URL für n8n/Uploads:** +1. Melde dich in der **Nextcloud-Weboberfläche** an. +2. Gehe zu **Persönliche Einstellungen** → **Sicherheit**. +3. **Ganz nach unten scrollen** bis zum Abschnitt **App-Passwörter**. +4. Trage bei **App-Name** z. B. `n8n Clipper` ein und klicke auf **Neues App-Passwort erstellen**. +5. Kopiere das **einmalig angezeigte App-Passwort** sofort und notiere zusätzlich deinen **Benutzernamen**. + +**WebDAV-URL für n8n/Uploads:** + ``` https:///remote.php/dav/files// ``` -*(Alternativ, je nach Setup: `https:///remote.php/webdav/`)* -
-Schnelltest (optional, auf deinem n8n‑LXC) - -```bash -curl -u ":" \ - -X PROPFIND -H "Depth: 0" \ - -s -o /dev/null -w "%{http_code}\n" \ - "https:///remote.php/dav/files//" -# Erwartet: 207 -``` - -Optional kannst du die ersten Zeilen der Antwort prüfen: - -```bash -curl -u ":" \ - -X PROPFIND -H "Depth: 0" -s \ - "https:///remote.php/dav/files//" \ - | head -n 5 -# Erwartet: XML mit -``` - -**Fehler & Lösung (kurz):** -- **401/403** → Benutzername oder App‑Passwort falsch. -- **404** → Pfad prüfen (richtiger Benutzerordner?). -- **App‑Passwörter fehlen?** Admin muss sie in den Nextcloud‑Einstellungen aktivieren. -
- - -**Twitch‑API Zugang:** - -
-Twitch Developer Console – App anlegen +--- +### Twitch-API Zugang (Developer Console) 1. Gehe auf [Twitch Developer Console](https://dev.twitch.tv/console/apps) → **Applications** → **Register Your Application**. 2. Felder ausfüllen: -- **Name:** frei wählbar (muss einzigartig sein). -- **OAuth Redirect URL:** z. B. `https://localhost/` (Platzhalter; für Client-Credentials Flow nicht genutzt). -- **Category:** passend wählen (z. B. Chatbot/Website Integration). + + * **Name:** frei wählbar + * **OAuth Redirect URL:** z. B. `https://localhost/` + * **Category:** passend wählen 3. App speichern → **Manage** öffnen. 4. **Client ID** notieren, **New Secret** klicken und **Client Secret** sichern. - -
- ### Twitch OAuth2 Credential in n8n (Client Credentials Flow) -Beim Anlegen in n8n → **Credentials → + Add → OAuth2 API**: - -- **Name:** Twitch API -- **Grant Type:** `Client Credentials` -- **Authorization URL:** `https://id.twitch.tv/oauth2/authorize` *(Pflichtfeld, wird in diesem Flow nicht genutzt)* -- **Access Token URL:** `https://id.twitch.tv/oauth2/token` -- **Client ID:** *(aus Twitch Developer Console)* -- **Client Secret:** *(aus Twitch Developer Console)* -- **Scope:** *(leer lassen)* -- **Authentication:** `Body` ← **wichtig, sonst Fehler** -- **OAuth Redirect URL:** `https://automation.bratonien.de/rest/oauth2-credential/callback` *(muss in Twitch-App eingetragen sein, auch wenn bei Client Credentials nicht genutzt)* - -Speichern. - -**Prüfen (kein „Test“-Button bei Client Credentials):** -1. Lege einen **HTTP Request**-Node an. -2. **Authentication:** Predefined Credential Type → wähle dein `Twitch API` Credential. -3. **Headers:** `Client-Id: ` -4. **URL:** `https://api.twitch.tv/helix/users?login=bratonien_tv` -5. **Execute Node** → kommt JSON mit `data[0].id`, ist OAuth korrekt. +* **Name:** Twitch API +* **Grant Type:** `Client Credentials` +* **Authorization URL:** `https://id.twitch.tv/oauth2/authorize` +* **Access Token URL:** `https://id.twitch.tv/oauth2/token` +* **Client ID / Secret:** aus Twitch Developer Console +* **Scope:** leer lassen +* **Authentication:** `Body` --- -### Nutzung in HTTP Request Nodes -- **Authentication:** Predefined Credential Type → wähle dein `Twitch API` Credential -- **Headers:** - - `Client-Id: ` +### Schritt 2: Twitch-User-ID herausfinden (n8n-Weboberfläche) -n8n setzt automatisch `Authorization: Bearer `. - ---- - -### Schnelltest in n8n HTTP Request Node: -- Method: `GET` -- URL: `https://api.twitch.tv/helix/users?login=bratonien_tv` -- Header: `Client-Id: ` -**Ergebnis:** JSON mit `data[0].id`, `login`, usw. – dann funktioniert OAuth2 korrekt. +* Methode: GET +* URL: + + ``` + https://api.twitch.tv/helix/users?login= + ``` +* Auth: OAuth2 Credential +* Header: `Client-Id: ` + +Im Ergebnis findest du im Feld `data[0].id` deine **User-ID** (z. B. `123456789`). --- -### Schritt 2: Twitch‑User‑ID herausfinden (n8n‑Weboberfläche) +### Schritt 3: Workflow bauen (n8n-Weboberfläche) -Die Twitch‑API benötigt deine **numerische User‑ID**, nicht den Login‑Namen. Wir holen diese ID einmalig in n8n. +1. **Cron-Trigger:** alle 10 Minuten +2. **HTTP Request (Get Videos):** -1. Gehe in der n8n‑Weboberfläche auf **Workflows** → **+ New Workflow**. -2. Ziehe einen **HTTP Request Node** auf die Arbeitsfläche. -3. Konfiguriere ihn so: - - Methode: GET - - URL: `https://api.twitch.tv/helix/users?login=` - - Authentifizierung: OAuth2 Credential (aus Schritt 1) - - Header: `Client-Id: ` -4. Klicke auf **Execute Node**. -5. Im Ergebnis findest du im Feld `data[0].id` deine **User‑ID** (z. B. `123456789`). Diese Zahl ist entscheidend und ersetzt ab jetzt `` in allen weiteren Schritten. + ``` + https://api.twitch.tv/helix/videos?user_id=&type=archive&first=1 + ``` +3. **IF „Neu?“ Node:** -Referenz: [Get Users](https://dev.twitch.tv/docs/api/reference#get-users) + ```js + {{ !$workflow.staticData.global.last_vod_id || $json.data[0].id !== $workflow.staticData.global.last_vod_id }} + ``` -> **Entscheidung & Begründung – Login vs. User‑ID** -> Der „Login“ ist nur ein Anzeigename. Die API filtert zuverlässig über die **numerische ID** – deshalb holen wir sie einmalig und verwenden sie konsequent. - ---- - -### Schritt 3: Workflow bauen (n8n‑Weboberfläche) - -Jetzt bauen wir den eigentlichen Workflow, der regelmäßig neue VODs prüft, herunterlädt und ablegt. - -1. **Cron-Trigger anlegen:** - - * Ziehe einen **Cron Node** auf die Arbeitsfläche. - * Stelle ihn auf „Every 10 minutes“. - Damit prüft n8n alle 10 Minuten auf neue VODs. - -2. **VOD-Daten abrufen:** - - * Ziehe einen weiteren **HTTP Request Node** an den Cron-Node. - * URL: - - ``` - https://api.twitch.tv/helix/videos?user_id=&type=archive&first=1 - ``` - * Auth: OAuth2 Credential - * Header: `Client-Id: ` - * Ergebnis: In `data[0]` stehen `id`, `title`, `url`, `created_at`, `published_at`. - - Referenz: [Get Videos](https://dev.twitch.tv/docs/api/reference#get-videos) - -3. **IF „Neu?“ Node hinzufügen:** - - * Bedingung (Expression): - - ``` - {{$json.data[0].id !== $workflow.staticData.global.last_vod_id}} - ``` - - * true → weiter; false → Ende - - > **Entscheidung & Begründung – State merken** - > Nur wenn die ID sich ändert, ist ein neues VOD da. So entstehen keine leeren Ordner und keine unnötigen API- oder SSH-Aufrufe. - -4. **VOD herunterladen (SSH Execute Command im Clipper-LXC):** - - * Node: **SSH Execute Command** (Credential: *Clipper*) - - * Command: - - ```bash - JOBID="{{ $json.data[0].id }}" - URL="{{ $json.data[0].url }}" - DIR="/srv/clipper/inbox/$JOBID" - - mkdir -p "$DIR" - - yt-dlp \ - --download-archive "/srv/clipper/logs/yt-dlp.archive" \ - --no-part --restrict-filenames \ - --abort-on-unavailable-fragment \ - --retries 10 --fragment-retries 10 --retry-sleep 5 \ - -o "$DIR/%(title)s-%(id)s.%(ext)s" \ - "$URL" - ``` - - > **Entscheidung & Begründung – yt-dlp Archive** - > `--download-archive` verhindert doppelte Downloads. Retries sichern HLS-Streams ab. Alles passiert auf Clipper, aber **gesteuert durch n8n**. - -5. **Clips abrufen (optional):** - - * Node: **HTTP Request** - * URL: - - ``` - https://api.twitch.tv/helix/clips?broadcaster_id=&started_at={{$json.data[0].created_at}}&ended_at={{$json.data[0].published_at}} - ``` - * Danach: **Split in Batches** → je Clip-URL an **SSH Execute Command** - - Command (SSH): + → true: weiter, false: Ende +4. **SSH (Download VOD auf Clipper):** ```bash - CID="{{ $json.id }}" - CURL="{{ $json.url }}" - DIR="/srv/clipper/inbox/$CID" + JOBID="{{ $json.data[0].id }}" + URL="{{ $json.data[0].url }}" + DIR="/srv/clipper/inbox/$JOBID" mkdir -p "$DIR" yt-dlp \ --download-archive "/srv/clipper/logs/yt-dlp.archive" \ --no-part --restrict-filenames \ + --abort-on-unavailable-fragment \ --retries 10 --fragment-retries 10 --retry-sleep 5 \ -o "$DIR/%(title)s-%(id)s.%(ext)s" \ - "$CURL" + "$URL" ``` +5. **Nextcloud Upload (HTTP PUT, Basic Auth):** -6. **Upload nach Nextcloud (n8n‑Weboberfläche):** + ``` + https:///remote.php/dav/files//Clips/{{ $json.data[0].id }}/ + ``` +6. **Analyse starten (SSH):** - * Node: **HTTP Request** + ```bash + VIDDIR="/srv/clipper/inbox/{{ $json.data[0].id }}" + MAINFILE="$(find "$VIDDIR" -maxdepth 1 -type f -name '*.mp4' -o -name '*.mkv' | head -n1)" + /srv/clipper/bin/clipper-analyze "$MAINFILE" "vod-{{ $json.data[0].id }}" + ``` +7. **State aktualisieren:** - * Methode: **PUT** - - * Auth: **Basic Auth** (Nextcloud App-Passwort) - - * URL: - - ``` - https:///remote.php/dav/files//Clips/{{ $json.data[0].id }}/ - ``` - - * Ergebnis: In Nextcloud liegt danach ein Ordner `Clips//…`. - - > **Entscheidung & Begründung – Warum Nextcloud?** - > Zentrales, versionierbares Speicherziel mit Freigaben/Quotas/Backups. Clipper und andere Systeme können darauf zugreifen, ohne erneut von Twitch laden zu müssen. - -7. **Analyse starten (SSH Execute Command):** - - * Command: - - ```bash - VIDDIR="/srv/clipper/inbox/{{ $json.data[0].id }}" - MAINFILE="$(find "$VIDDIR" -maxdepth 1 -type f -name '*.mp4' -o -name '*.mkv' | head -n1)" - /srv/clipper/bin/clipper-analyze "$MAINFILE" "vod-{{ $json.data[0].id }}" - ``` - - > **Entscheidung & Begründung – Arbeitsteilung** - > n8n stößt nur an, Clipper rechnet. So bleibt n8n leicht und ausfallsicher. - -8. **State aktualisieren (n8n‑Weboberfläche):** - - * Node: **Function** oder **Set** - - ```js - $workflow.staticData.global.last_vod_id = $json.data[0].id; - return items; - ``` - - Damit merkt sich der Workflow, welches VOD zuletzt verarbeitet wurde. - - -### Alternative: Twitch‑Community‑Node (n8n‑Weboberfläche) - -Wenn du statt HTTP Requests lieber einen fertigen Twitch‑Node nutzen willst, kannst du in self‑hosted n8n einen **Community‑Node** installieren. Die Anleitung: [n8n Community Nodes](https://docs.n8n.io/integrations/community-nodes/). Beachte: Community‑Nodes sind Drittanbieter‑Code und können bei Updates Probleme machen. Für einen stabilen Dauerbetrieb empfehlen wir den API‑Weg mit HTTP Request. + ```js + $workflow.staticData.global.last_vod_id = $json.data[0].id; + return items; + ``` --- ### Kontrolle -Nach einem erfolgreichen Durchlauf prüfst du im **Terminal des Clipper‑LXC**: +Im Clipper-LXC: + ```bash su - clipper ls -lh /srv/clipper/inbox/ - tail -n 50 /srv/clipper/logs/clipper.log ``` -Und in der **Nextcloud‑Weboberfläche** solltest du den Ordner `Clips/` sehen. Damit ist die Pipeline geschlossen: Twitch liefert VODs, n8n steuert den Ablauf, Clipper verarbeitet, Nextcloud speichert. In Abschnitt 4 gehen wir in die Analyse‑Logik und die KI‑Auswertung. -Powered by Gitea -Version: -1.24.5 -Seite: -107ms -Template: -24ms + +In Nextcloud: Ordner `Clips/` sollte erscheinen.