Wie setzen Sie eine headless service für eine StatefulSet extern in Kubernetes

Wir haben das Problem gelöst in 1.7 durch ändern der headless-service Type=NodePort und Einstellung der externalTrafficPolicy=Local. Dies umgeht die interne Lastenausgleich von Service-und Verkehr bestimmt sind, zu einem bestimmten Knoten auf Knoten port funktioniert nur, wenn ein Kafka-pod ist auf diesem Knoten.

apiVersion: v1
kind: Service
metadata:
  name: broker
spec:
  externalTrafficPolicy: Local
  ports:
  - nodePort: 30000
    port: 30000
    protocol: TCP
    targetPort: 9092
  selector:
    app: broker
  type: NodePort

Wir haben zum Beispiel zwei Knoten nodeA und nodeB nodeB mit einer kafka-pod. nodeA:30000 wird nicht verbinden sondern nodeB:30000 wird eine Verbindung zu den kafka-pod läuft auf nodeB.

https://kubernetes.io/docs/tutorials/services/source-ip/#source-ip-for-services-with-typenodeport

Hinweis: dies war auch in 1.5 und 1.6 als beta-annotation, mehr kann hier gefunden werden on-Funktion Verfügbarkeit: https://kubernetes.io/docs/tasks/access-application-cluster/create-external-load-balancer/#preserving-the-client-source-ip

Beachten Sie, dass diese Bindungen eine kafka-pod zu einem bestimmten externen Netzwerk Identität, es gibt keine Garantie, dass Ihr Speicher-Volumen wird gebunden werden, die Netzwerk-Identität. Wenn Sie die VolumeClaimTemplates in einem StatefulSet dann Ihre Bände sind gebunden an die pod während der kafka erwartet, dass die Volumen gebunden werden, um die Netzwerk-Identität.

Wenn zum Beispiel die kafka-0-pod neu gestartet und kafka-0 kommt auf nodeC statt nodeA, kafka-0 pvc (bei Einsatz von VolumeClaimTemplates) hat Daten, dass es für nodeA und der broker läuft auf kafka-0 startet Anforderungen abgelehnt zu denken, dass es nodeA nicht nodeC.

Um dies zu beheben, wir freuen uns auf Lokale Persistente Mengen, aber jetzt haben wir eine einzelne PVC für unsere kafka StatefulSet und die Daten werden gespeichert unter $NODENAME auf, dass PVC Band-volume-Daten zu einem bestimmten Knoten.

https://github.com/kubernetes/features/issues/121
https://kubernetes.io/docs/concepts/storage/volumes/#local

Möchte ich sagen, dass ich gelesen hatte, das Frage-und Antwort-3 mal, bevor Sie versuchen, wickeln Sie meinen Kopf herum, was Kopflosen Dienstleistungen/waren, was der Punkt von Ihnen war. (und ich nie ganz verstanden Headless Dienstleistungen, oder was dieser Q&A war.)
Und auf dem 4. Lesen (Wiederaufgreifen es nach einer weiteren Ausbildung ich) es endlich geklickt/habe ich endlich verstanden.

So dass der Zweck dieser Antwort ist zu formulieren Nadir ' s Frage/problem/und beantworten, als wenn es erklärend, eine Klasse-schooler. So, dass andere, die stolpern, diese erhalten die Bedeutung von Nadir ist genial-Lösung auf der ersten Lesen.

Nützliche Vorkenntnisse:

• Gibt es einen Service-Typ: ExternalName.
  ExternalName
  Service einfach Punkte, die eine DNS-Adresse.
  Es gibt 2 Geschmacksrichtungen
  ExternalName Service:

  1. Ohne eine Cluster-IP:
     Ein guter Anwendungsfall wäre, so dass ein Test-cluster und produktionscluster zu teilen, so viel code wie
     möglich. (und für einfache conviencence in einigen Fällen) Hülsen in beide
     das testen und die Produktion würde auf das gleiche service Innere Cluster-DNS-Adresse
     Namen, das wäre das vorhersehbar reuseable code. Der Unterschied
     wäre, dass der Test Umwelt haben würde, ein Dienst, der
     Punkte, um eine SQL-Dienst, der sich innerhalb der cluster. Die
     Produktions-cluster verwenden würde eine ExternalName Service, die würde
     redirect/zeigen Sie auf die DNS-Adresse von einem Cloud-Anbieter Verwalteten SQL
     Lösung.
  2. Mit einer Cluster-IP:
     Dies ist die version eines ExternalName Service, ist der Schlüssel zur Lösung.

• Einer Stateful-Set hat 3 Teile, um seine Identität:

  1. Eine Ordnungszahl (Anzahl)
  2. Persistenten Speicher
  3. Eine Beständige und vorhersagbare Innere Cluster-DNS-Name (es wird dies von der Anforderung, dass es verschickt werden muss mit einem Headless-service)

• Gibt es 3 wichtige Dinge zu erinnern, über Kube-Proxy:

  1. Es stellt sicher, dass alles hat eine eindeutige IP.
  2. Es ist verantwortlich für die Umsetzung der Virtuellen Statischen Cluster-IP-Adresse (der Virtuellen Statischen Cluster-IP ' s werden als virtuelle, denn Sie existieren nur in jedem Knoten iptables die iptables-Implementierung von Kube-Proxy, oder ein Kernel-Hash-Tabelle in der ip-vs next-gen-version von Kube-Proxy) und es ist auch verantwortlich für die Logische Load-Balancing-Effekt, der Auftritt, mit der Normalen Kubernetes-Dienste, die eine Cluster-IP.
  3. KubeProxy ist verantwortlich für die Zuordnung von Datenverkehr, kommt auf NodePorts zu einer entsprechenden Kubernetes-Service mit einer statischen Cluster-IP. <-- Das ist sehr
     wichtig ist die Auflage, dass die Statusbehaftete Dienste sein sollte
     extern ausgesetzt, NodePorts sind eigentlich immer beteiligt werden, wenn
     es kommt zu extern bereitstellen von Diensten.

• Gibt es 4 wichtige Dinge zu erinnern, über einen Headless-Service:

  1. Es erzeugt einen vorhersagbaren DNS-Adresse.
  2. Es nicht als eine interne cluster Load Balancer. Sie sprechen direkt mit pod gekennzeichnet durch die vorhersehbare DNS-Adresse. (die
     ist sehr wünschenswert für stateful workloads)
  3. Es nicht mit einem Statischen Cluster-IP.
  4. Als ein Nebeneffekt der Qualitäten 2 und 3, es ist außerhalb des Bereichs von Kube-Proxy (das ist verantwortlich für die Umleitung von Verkehr auf
     Node-Ports zu Diensten.) Ich werde paraphrasieren, dies ein paar mal, so dass die
     problem versinkt in: NodePorts können in der Regel nicht Verkehr weiter zu Kopflos
     Services. Externen Datenverkehr Eingabe der cluster kann in der Regel nicht sein
     weitergeleitet Headless Dienstleistungen. Es ist nicht intuitiv, wie extern
     setzen Sie eine Headless Service.

Jetzt, dass wir das problem verstehen besser, lets go zurück zu der Frage: Wie kann ein Headless Service (Punkte, die zu einem einzelnen Mitglied einer stateful-set) extern ausgesetzt?

Lösung Teil 1:
Alle pod im cluster sprechen können, um die Mitglieder der statefulset.

Weil die stateful erzeugen eine kopflose service, mit einem vorhersehbaren innere cluster-DNS-Adresse in der form:

statefulsetname-#.associatedheadlessservice.namespace.svc.cluster.Ort:port

kafka-0.der broker.kafka.svc.cluster.Ort:9092

kafka-1.der broker.kafka.svc.cluster.Ort:9092

kafka-2.der broker.kafka.svc.cluster.Ort:9092

broker.kafka.svc.cluster.Ort:9092, kann auch verwendet werden, zu finden, um die immer einer verfügbar ist.

Lösung Teil 2:
Sie ermöglichen den externen Datenverkehr zu sprechen, um die Mitglieder der stateful gesetzt, durch die Einführung einer 2. service akzeptieren kann, der externe Verkehr, und dann umleiten von traffic von diesem service zu den Kopflosen service, kann nur akzeptieren, internet-Verkehr.

Für jeden pod in die Stateful-ein Service des Typ ExternalName mit einem Virtuellen Statischen ClusterIP-Adresse verwaltet von Kube-Proxy erstellt wird. Jeder dieser ExternalName Leistungen Punkte/leitet Datenverkehr auf eine vorhersehbare statische innere cluster DNS-Adresse identifiziert, die in Lösung 1, und weil diese ExternalName service hat eine Virtuelle Statische ClusterIP verwaltet über Kube-Proxy, es kann eine Zuordnung von NodePorts zu.

Aus der kubernetes kafka-Dokumentation:

Zugriff von außen mit hostport

Eine alternative ist die Nutzung der hostport für den Zugriff von außen. Wenn
mit diesem nur ein kafka-broker kann auf jedem host laufen, der ein gutes
Idee sowieso.

Um zu wechseln hostport die kafka-werben-Adresse sein muss
der Wechsel in die ExternalIP oder ExternalDNS name des Knotens ausführen
der broker. in kafka/10broker-config.yml-Schalter

OUTSIDE_HOST=$(kubectl get node "$NODE_NAME" -o jsonpath='{.status.addresses[?(@.type=="ExternalIP")].address}')
OUTSIDE_PORT=${OutsidePort}

und in kafka/50kafka.yml fügen Sie den hostport:

    - name: outside
      containerPort: 9094
      hostPort: 9094