Reverse-Proxy und Lastverteilung
wowa-edge leitet Anfragen an Backends weiter, verteilt sie auf mehrere Knoten und spricht die gängigen Anwendungsschnittstellen direkt. Weitergeleitet wird über HTTP, HTTPS, AJP13 und WebSocket.
Reverse-Proxy
<VirtualHost *:443>
ServerName app.example.org
ACMEAutoCert on
ProxyPreserveHost on
ProxyPass /status !
ProxyPass /api http://127.0.0.1:8080/
ProxyPassReverse /api http://127.0.0.1:8080/
ProxyPass /app ajp://127.0.0.1:8009/
ProxyPassReverse /app ajp://127.0.0.1:8009/
ProxyPass /ws ws://127.0.0.1:7000/
</VirtualHost>
ProxyPassundProxyPassMatchstehen in einer Liste und werden in der Reihenfolge der Konfiguration geprüft; der erste Treffer gewinnt.ProxyPass /pfad !nimmt einen Pfad aus.- Anfrage und Antwort gehen mit Methode, Rumpf und Kopfzeilen durch. Mehrere
Set-Cookiebleiben getrennt,LocationschreibtProxyPassReverseum, Cookie-Pfade und -DomainsProxyPassReverseCookiePathundProxyPassReverseCookieDomain. X-Forwarded-For,-Protound-Hostwerden gesetzt.RequestHeader unset X-Forwarded-Forverwirft eine mitgebrachte Kette.- Alle HTTP-Methoden gehen durch, auch WebDAV und eigene Verben. Über AJP13 werden Methoden ausserhalb der festen Tabelle als Attribut übertragen; ein Tomcat-Secret setzt
secret=. ProxyErrorOverrideersetzt Fehlerseiten des Backends durch die eigenen, der Status bleibt.- Ein WebSocket-Tunnel läuft ereignisgesteuert, ohne Thread je Verbindung. Lehnt das Backend den Upgrade ab, geht seine Antwort unverändert an den Client.
TLS zum Backend
Für https:// und wss:// prüft SSLProxyVerify require die Kette, SSLProxyCheckPeerName on den Namen. Verlangt das Backend ein Client-Zertifikat, weist sich wowa-edge mit SSLProxyMachineCertificateFile aus. Alle SSLProxy*-Direktiven gelten server-global und je VirtualHost; Verbindungen mit verschiedener Politik landen nie im selben Pool.
SSLProxyVerify require
SSLProxyCheckPeerName on
SSLProxyCACertificateFile /etc/ssl/certs/ca-certificates.crt
Pool, Fristen und Streaming
- Verbindungspool: HTTP(S)- und AJP13-Verbindungen gehen nach einer sauberen Antwort in einen Pool (Vorgabe 64 Verbindungen, 30 s Leerlauf). Ist eine gepoolte Verbindung inzwischen zu, gibt es einen Neuversuch, solange noch keine Antwortdaten da sind.
- Fristen:
ProxyTimeout(30 s) begrenzt die einzelne Wartezeit,ProxyConnectTimeout(10 s) den Verbindungsaufbau,ProxyMaxDuration(7200 s) die ganze Anfrage über alle Versuche hinweg. - Streaming: Antworten über
ProxyStreamThreshold(1 MiB) werden durchgereicht statt gepuffert, auch chunked und ohne Längenangabe. DieContent-Lengthdes Backends bleibt erhalten, ausser wowa-edge komprimiert selbst. Unter HTTP/2 und HTTP/3 werden andere Ströme derselben Verbindung während eines grossen Downloads weiter bedient. Gepuffert wird bei aktivemSubstituteund beiProxyErrorOverride.
Lastverteilung
<Proxy balancer://cluster>
BalancerMember ajp://192.0.2.11:8009/ route=node1 loadfactor=3
BalancerMember ajp://192.0.2.12:8009/ route=node2 loadfactor=1
ProxySet stickysession=JSESSIONID retry=10
ProxySet hcmethod=GET hcuri=/health hcinterval=10 hcfails=3 hcpasses=2
</Proxy>
<VirtualHost *:443>
ServerName app.example.org
ProxyPass / balancer://cluster
ProxyPassReverse / balancer://cluster
</VirtualHost>
- Verteilung: gewichtetes Round-Robin über
loadfactor, Worker-Sets, Hot Standby und Hot Spare. Mitglieder können HTTP(S), AJP13,ws://undwss://sein. - Sticky Sessions: über einen Sitzungs-Cookie mit Routen-Suffix (
JSESSIONID=….node1), auch mehrere Cookie-Namen. - Gesundheitsprüfung aktiv:
hcmethod=TCP|GET|HEADmit Pfad, Intervall, Frist und Schwellen für Ausfall und Rückkehr. Von Hand abgeschaltete Mitglieder werden nicht geprüft. - Gesundheitsprüfung passiv: scheitert der Verbindungsaufbau, geht die Anfrage an ein gesundes Mitglied, und das ausgefallene ruht für
retry=Sekunden. - Status mit Beleg:
oksteht nur nach einer gelaufenen Prüfung oder einer durchgekommenen Anfrage, sonstunbekannt.
Draining ohne neue Sitzungen
Ein drainendes Mitglied bedient bestehende Sitzungen und nimmt keine neuen an. Bringt ein Client eine abgelaufene Sitzung mit, würde das Mitglied ihm eine frische ausstellen. wowa-edge erkennt das an der Antwort: liefert das drainende Mitglied einen anderen Sitzungswert als angefragt, wird die Antwort verworfen und die Anfrage an ein anderes Mitglied gestellt.
BalancerDrainMethodslegt fest, bei welchen Methoden verworfen wird (VorgabeGET HEAD). Bei anderen Methoden wird die Abweichung nur protokolliert.BalancerDrainExcludenimmt Pfade aus, auf denen der Sitzungswechsel gewollt ist, etwa An- und Abmeldung.BalancerDrainMoveNext onlässt die nächste Anfrage mit der eben ausgestellten Sitzung das drainende Mitglied einmal übergehen.BalancerDrainLogschreibt jede Umleitung in eine Datei.
Balancer-Manager
BalancerManager /balancer-manager blendet eine Status- und Steuerseite ein, die ohne JavaScript auskommt. Oben steht eine Übersicht je Route: ein Knopf schaltet alle Einträge einer Route über alle Balancer des VirtualHosts. Darunter stehen je Mitglied Zustand, Gesundheit, Zähler und das Formular für Lastfaktor, Worker-Set, Route und die Betriebszustände. Solange ein Mitglied drainend ist, zeigt die Seite die umgeleiteten Sitzungen. Die Seite muss mit <Location> geschützt werden.
Eingriffe gelten sofort und überstehen ein Neuladen. Mit BalancerStateFile überstehen sie auch einen Neustart; gespeichert wird nur, was der Betreiber angeordnet hat, nicht die gemessene Gesundheit.
Balancer über die EdgeAPI steuern
Werkzeuge, die einen Knoten vor einer Auslieferung leerlaufen lassen, steuern die Balancer über die EdgeAPI. Es ist derselbe Zustand, den der Balancer-Manager zeigt.
GET <präfix>/balancers[?vhost=<name>]ab Stufestatus: alle Balancer mit ihren Mitgliedern als JSON.PUT <präfix>/balancers/<name>/members/<route>[?vhost=<name>]ab Stufecontrol: Zustand eines Mitglieds setzen.POSTist gleichwertig.
Je Mitglied liefert das Lesen URL, wirksame Route, Lastfaktor, Worker-Set, die Betriebszustände draining, disabled, stopped, hot_standby und hot_spare als 0 oder 1, dazu health (ok, down, unbekannt), busy, sitzungen, elected und die Bytes in beide Richtungen.
curl -s -X PUT -H 'X-EdgeAPI: 1' -H 'Content-Type: application/json' \
--data '{"draining":1}' \
"https://api.example.org/api/balancers/cluster/members/node1?vhost=app.example.org"
- Der Rumpf ist ein JSON-Objekt mit
draining,disabled(je0oder1) undlf(1 bis 100). Nur was im Rumpf steht, wird geändert, und jeder Wert ist absolut. Ein wiederholter Aufruf ändert nichts mehr. - Der Kopf
X-EdgeAPI: 1ist Pflicht. Unbekannte Felder werden mit 400 abgewiesen, damit ein Tippfehler keinen Erfolg meldet. Unbekannter Balancer, Route oder VirtualHost ergibt 404, Fehler kommen als{"error":"…"}. - Die Änderung wirkt sofort, steht im Fehlerprotokoll und wird im
BalancerStateFilegesichert, wenn eines gesetzt ist.
Wann ist ein Mitglied leer? Wenn busy und sitzungen auf 0 stehen. sitzungen zählt die verschiedenen Sticky-Sitzungen, die innerhalb von BalancerSessionWindow (Vorgabe 600 s) an das Mitglied gingen. Ein drainendes Mitglied zählt so auf 0 herunter, sobald seine Benutzer weg sind. BalancerSessionMax (Vorgabe 50 000) deckelt die Zählung; ist der Deckel erreicht, steht eine Warnung im Protokoll. Beide Direktiven sind server-global.
Die Liste ist schon ab Stufe status lesbar und nennt die Adressen der Backends. Wer status ungeschützt betreibt, veröffentlicht sie.
Echte Client-IP
Hinter einem TCP-Lastverteiler liefert das PROXY-Protokoll (v1 und v2) die Adresse des Clients; angenommen wird es nur von eingetragenen Proxys. Hinter einem HTTP-Proxy wertet RemoteIPHeader die X-Forwarded-For-Kette aus, wenn der direkte Partner vertrauenswürdig ist. Die ermittelte Adresse gilt für Require ip, Ratenbegrenzung, RewriteCond, das Protokoll und die Weitergabe ans Backend.
RemoteIPProxyProtocol On
RemoteIPTrustedProxy 192.0.2.1
RemoteIPHeader X-Forwarded-For
Anwendungs-Backends
FastCGI, SCGI, uwsgi und klassisches CGI spricht wowa-edge selbst, jeweils mit einer CGI/1.1-Umgebung.
- FastCGI, PHP-FPM:
ProxyPassMatch <regex> fcgi://host:port[/skriptwurzel] - SCGI:
ProxyPassMatch <regex> scgi://host:port - uwsgi:
ProxyPassMatch <regex> uwsgi://host:port - CGI:
ScriptAlias /cgi-bin/ <verzeichnis>
<VirtualHost *:443>
ServerName php.example.org
DocumentRoot /srv/www/php.example.org
DirectoryIndex index.php
ProxyPassMatch "\.php(/|$)" "fcgi://127.0.0.1:9000"
</VirtualHost>
SCRIPT_FILENAMEentsteht aus DocumentRoot und Pfad,PATH_INFOwird am Skript-Ende abgetrennt,REDIRECT_STATUSist gesetzt, wie PHP-FPM es verlangt.- Interne Umschreibungen aus einer
.htaccessauf/index.phpwerden ausgeführt;REQUEST_URIbleibt die ursprüngliche Anfrage. UseCanonicalName Off(Vorgabe) nimmtSERVER_NAMEundSERVER_PORTaus demHost-Kopf.- Mit mTLS stehen
SSL_CLIENT_VERIFY,SSL_CLIENT_S_DN,SSL_CLIENT_I_DNundSSL_CLIENT_FINGERPRINTin der Umgebung. - CGI-Prozesse starten je Anfrage parallel und erben keine Deskriptoren des Servers. Für hohe Last ist FastCGI die bessere Wahl.
Zurück zur Übersicht wowa-edge. Davor: Protokolle und Zertifikate, danach: Inhalte ausliefern und bearbeiten.
Fragen zu Reverse-Proxy und Lastverteilung?
Wir zeigen es Ihnen gern oder beraten Sie zu Lizenz, Hosting und Betrieb.