Tag: apache-kafka

Apache Kafka ist eine verteilte streaming-Plattform zum speichern und verarbeiten von high-throughput Daten-streams.

Wie kann ich die Größe der Nachrichten in Kafka?

Anzahl der Antworten 2 Antworten
Ich bin derzeit mit Kafka 0.9.0.1. Nach einigen Quellen, die ich gefunden habe, ist der Weg, um die Größe von Nachrichten ist, ändern Sie die folgenden Schlüssel-Werte in server.properties. Nachricht.max.bytes Replik.Holen.max.bytes Holen.Nachricht.max.bytes Meine server.properties Datei hat eigentlich

Was ist der Unterschied zwischen kafka frühesten und den spätesten offset-Werte

Anzahl der Antworten 1 Antworten
producer sendet die Nachrichten 1, 2, 3, 4 consumer empfängt die Nachrichten 1, 2, 3, 4 consumer crashes/disconnects producer sendet Nachrichten 5, 6, 7 consumer zurück kommt und den Empfang von Nachrichten ab 5 statt 7 Für

Wie zu installieren Kafka auf Windows?

Anzahl der Antworten 11 Antworten
Ich versuche zu installieren Kafka message-queue unter Windows für die Prüfung Zwecke (nicht für die Produktion). Fand ich diesen Artikel auf, wie zu installieren, Apache Kafka 0,8 auf Windows: http://janschulte.wordpress.com/2013/10/13/apache-kafka-0-8-on-windows/ Es ist ein guter Artikel, aber es

Warum kann ich nicht erhöhen-Sitzung.timeout.ms?

Anzahl der Antworten 3 Antworten
Möchte ich erhöhen session.timeout.ms zu ermöglichen, mehr Zeit für die Verarbeitung der empfangenen Nachrichten zwischen poll() Anrufe. Aber wenn ich session.timeout.ms auf einen höheren Wert als 30000, es nicht zu schaffen, Verbraucher-Objekt und wirft folgende Fehlermeldung. Könnte

Produzieren und konsumieren von JSON in KAFKA

Anzahl der Antworten 1 Antworten
Werden wir bereitstellen von Apache Kafka 2.10 auf unser Projekt und die Kommunikation über JSON-Objekte, die sich zwischen Erzeuger und Verbraucher. So weit ich wohl müssen: Implementieren Sie eine benutzerdefinierte serializer zum konvertieren von JSON in eine

Kafka Datentypen der Nachrichten

Anzahl der Antworten 2 Antworten
Wunderte ich mich über das, was Arten von Daten, die wir haben könnten, in Kafka-Themen. Wie ich weiß, im application-level-dies ist ein Schlüssel-Wert-Paaren, und dies könnte die Daten geben, die unterstützt wird durch die Sprache. Zum Beispiel

Apache Kafka LEADER_NOT_AVAILABLE

Anzahl der Antworten 1 Antworten
Ich in ein Problem mit apache Kafka, dass ich nicht verstehe . Ich abonniere ein Thema in meiner Makler-genannt "Thema-" empfangen . Dies ist der code : protected String readResponse(final String idMessage) { if (props != null)

Kafka Verdichtung zum Thema

Anzahl der Antworten 1 Antworten
Habe ich verwendet kafka-topics.bat --zookeeper localhost:2181 --alter --topic test --config cleanup.policy=compact delete config min.cleanable.dirty.ratio=0.01 --config segment.ms=100 --config delete.retention.ms=100 zu compact mein Thema. Ich habe 2000 Nachrichten mit demselben Schlüssel.Wenn ich konsumieren diese Nachrichten bekomme ich jede Nachricht

Classpath ist noch leer. Bitte erstellen Sie das Projekt zunächst z.B. durch ausführen von './gradlew jar -PscalaVersion=2.11.12'

Anzahl der Antworten 5 Antworten
Ich bin nicht in der Lage zu laufen ein Apache Kafka service aufgrund eines Fehlers beim starten eine Zookeeper-Instanz. Ich habe heruntergeladen und versucht, es mit allen 3 verfügbaren downloads auf der offiziellen Seite. (binarys und Quelle),

Wie, um das setup kafka und Tierpfleger auf Ihrem lokalen Rechner?

Anzahl der Antworten 1 Antworten
Habe ich installiert kafka und Tierpfleger auf meinem lokalen Laufwerk C:\ Ordner jetzt versuche ich zu laufen die Tierpfleger und kafka server, so kann ich Themen erstellen, aber seine werfen folgende Fehlermeldung, keine Ahnung, was läuft hier

so senden Sie ein JSON-Objekt zu kafka Sturm von python-client

Anzahl der Antworten 2 Antworten
Ich habe ein einfaches JSON-Objekt wie im folgenden d = { 'tag ': 'blah', 'name' : 'sam', 'score': {'row1': 100, 'row2': 200 } } Folgende ist mein python-code, der das senden von Nachrichten an Kafka from kafka

Wie parse Json formatiert Kafka Nachricht in spark streaming

Anzahl der Antworten 3 Antworten
Habe ich JSON-Nachrichten auf Kafka wie diese: {"id_post":"p1", "message":"blablabla"} und ich will Parsen der Nachricht und drucken (oder verwenden Sie für die weitere Berechnung) die message element. Mit folgendem code Drucke ich die json - val kafkaStream

Wie zu Lesen ist-Daten mit Schlüssel im Kafka-Verbraucher-API?

Anzahl der Antworten 1 Antworten
Ich Baue Nachrichten mit folgenden code... Producer<String, String> producer = new kafka.javaapi.producer.Producer<String, String>(producerConfig); KeyedMessage<String, String> keyedMsg = new KeyedMessage<String, String>(topic, "device-420", "{message:'hello world'}"); producer.send(keyedMsg); Und Konsum mit dem folgenden code-block... //Key = topic name, Value = No.

Gewusst wie: überwachen von Kafka broker mit jmxtrans?

Anzahl der Antworten 2 Antworten
Kafka 0.8.1.1 (kafka_2.8.0-0.8.1.1.tgz) Ich bin mit jmxtrans zu tun JMX-überwachung der Kafka-Instanz (Andockfenster). Leider kafka Metriken werden nicht zurückgegeben. Ich habe versucht ein paar Dinge zu Debuggen und zu wissen, dass kafka richtig läuft (kann ich produzieren/konsumieren

NoBrokersAvailable: NoBrokersAvailable-Kafka-Fehler

Anzahl der Antworten 3 Antworten
habe ich bereits angefangen zu lernen, Kafka. Versuchen grundlegende Operationen auf. Ich habe hier auf einem Punkt, über den 'Vermittler'. Mein kafka läuft, aber wenn ich möchte, um eine partition zu erstellen. from kafka import TopicPartition (ERROR

Nicht klar über die Bedeutung von "auto".offset.reset und enable.auto.Begehen Kafka

Anzahl der Antworten 2 Antworten
Ich bin neu auf Kafka,und ich weiß nicht wirklich verstehen, die Bedeutung der Kafka-Konfiguration, kann mir jemand erklären, besser verständlich für mich ! Hier ist mein code: val kafkaParams = Map[String, Object]( "bootstrap.servers" -> "master:9092,slave1:9092", "key.deserializer" ->

Kafka Java-Hersteller mit kerberos

Anzahl der Antworten 2 Antworten
Immer Fehler beim senden der Nachricht an kafka Thema in kerberosed Umwelt. Wir haben cluster auf hdp 2.3 Ich folgte diesem http://henning.kropponline.de/2016/02/21/secure-kafka-java-producer-with-kerberos/ Aber für das senden von Nachrichten, ich habe zu tun kinit explizit zuerst, dann erst

Wie bekomme ich alle in der Gruppe Liste mit kafka0.10.x

Anzahl der Antworten 1 Antworten
wenn ich kafka0.8.x,ich kann alle Gruppen-Prozess mit dem Tierpfleger durch den Pfad /consumers/group_id, da die offsets zu Begehen, zu Tierpflegerin in 0.8.x. Aber in der version 0.10.x-offsets verpflichtet kafka broker wie ein Pfad /brokers/topics/__consumer_offsets und Weg /consumers

Kafka - Dieser server ist nicht der Führer für das Thema-partition

Anzahl der Antworten 2 Antworten
Habe ich zwei broker kafka 0.10.2.0 cluster.Replikations-Faktor ist 2. Ich bin mit 1.0.0 kafka-stream-Anwendung gegen diese Kafka. In meinem kafka-stream-Anwendung, Produzent config hat retries = 10 and retry.backoff.ms = 100 Läuft nach paar Minuten, die ich beobachtet

wie bekommt man die alle Nachrichten in einem Thema von kafka server

Anzahl der Antworten 4 Antworten
Ich würde gerne alle Nachrichten, die Sie von Anfang in ein Thema aus dem server. Ex: bin/kafka-console-consumer.sh --Tierpfleger localhost:2181 --Thema testTopic-von-Anfang Bei der Verwendung der oben genannten Konsole mit dem Befehl, ich möchte in der Lage, alle

org.apache.kafka.common.KafkaException: Fehler beim konstruieren kafka Verbraucher

Anzahl der Antworten 2 Antworten
Ich bin manuell starten, Tierpfleger, dann Kafka-server und schließlich die Kafka-Rest-server mit Ihren jeweiligen Eigenschaften-Datei. Weiter bin ich der Nutzung meiner Spring-Boot-Anwendung, die auf tomcat In das Tomcat-log trace, erhalte ich den Fehler org.springframework.context.ApplicationContextException: Failed to start

Wie kann ich löschen/reinigen Kafka Nachrichten in der Warteschlange löschen, ohne Thema

Anzahl der Antworten 2 Antworten
Gibt es eine Möglichkeit, zu einer queue löschen-Nachrichten löschen, ohne Kafka-Themen? Ich möchte queue löschen Sie Nachrichten, wenn die Aktivierung der Verbraucher. Ich weiß, es gibt mehrere Möglichkeiten, wie: Zurücksetzen Retentionszeit $ ./bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic

Einsatz in der Praxis Fälle, in denen der Apache Kafka verwendet wird

Anzahl der Antworten 2 Antworten
Wollte ich verstehen, dass einige der realen Fälle, in denen mithilfe von Apache Kafka als message-broker am besten geeignet ist. Angesichts Kafka-Themen kann nicht halten Sie die Nachrichten auf unbestimmte Zeit. Bitte klären Sie die Bedürfnisse in

Monitoring UI für Apache kafka - kafka-manager vs kafka-monitor

Anzahl der Antworten 3 Antworten
Ich bin neu auf kafka. Wir überwachen und verwalten möchten kafka-Themen. Wir haben versucht, verschiedene open-source-monitoring-tools wie kafka-monitor kafka-manager Beide tools gut sind. Aber wir sind nicht in der Lage, eine Entscheidung zu treffen, die aufgenommen werden

kafka broker nicht verfügbar im Start

Anzahl der Antworten 5 Antworten
Habe ich auf einem ubuntu-Knoten von einem cluster ein kafka 0.11.0.0 Instanz. Bis vor einigen Wochen funktionierte alles gut, heute bin ich versucht zu starten und bekomme diese Fehlermeldung nach dem Booten: [2017-09-11 16:21:13,894] INFO [Kafka Server

Kafka 1.0 Haltestellen mit FATALEN HERUNTERFAHREN-Fehler. Logs fehlgeschlagen

Anzahl der Antworten 6 Antworten
Ich habe nur ein Upgrade auf Kafka 1.0 und Tierpfleger 3.4.10.Auf den ersten, es begann alles in Ordnung. Stand - alone-Erzeuger-und Verbraucherpreise wie erwartet funktionierte. Nachdem ich habe mein code für etwa 10 Minuten, Kafka schlägt fehl

Habe die user-level KeeperException bei der Verarbeitung

Anzahl der Antworten 1 Antworten
Ich weiß, das wurde vor der Frage, so bitte vergib mir für das Fragen wieder, aber keine der Lösungen gezeigt, durch diesen thread für mich gearbeitet. Ich versuche, setup-Kafka 0.10.20 folgenden die docs. Wenn ich beginne, Tierpfleger,

Kafka Producer - org.apache.kafka.common.Serialisierung.StringSerializer konnte nicht gefunden werden

Anzahl der Antworten 5 Antworten
Habe ich die Schaffung einer einfachen, Kafka Producer & Consumer.Ich bin mit kafka_2.11-0.9.0.0. Hier ist mein Erzeuger-code, public class KafkaProducerTest { public static String topicName = "test-topic-2"; public static void main(String args) { //TODO Auto-generated method stub

Kafka Verbinden running out of heap space

Anzahl der Antworten 2 Antworten
Nach dem Start Kafka Verbinden (connect-standalone), meine Aufgabe nicht sofort nach dem Start mit: java.lang.OutOfMemoryError: Java heap space at java.nio.HeapByteBuffer.<init>(HeapByteBuffer.java:57) at java.nio.ByteBuffer.allocate(ByteBuffer.java:335) at org.apache.kafka.common.network.NetworkReceive.readFromReadableChannel(NetworkReceive.java:93) at org.apache.kafka.common.network.NetworkReceive.readFrom(NetworkReceive.java:71) at org.apache.kafka.common.network.KafkaChannel.receive(KafkaChannel.java:154) at org.apache.kafka.common.network.KafkaChannel.read(KafkaChannel.java:135) at org.apache.kafka.common.network.Selector.pollSelectionKeys(Selector.java:343) at org.apache.kafka.common.network.Selector.poll(Selector.java:291) at org.apache.kafka.clients.NetworkClient.poll(NetworkClient.java:260) at

Wie kann ich die Gruppe.id eines Themas in der Befehlszeile in Kafka?

Anzahl der Antworten 2 Antworten
Ich installiert kafka auf meinem server und will lernen, es zu benutzen, Ich fand einen Beispielcode geschrieben von scala, unten ist ein Teil davon, def createConsumerConfig(zookeeper: String, groupId: String): ConsumerConfig = { val props = new Properties()

Kafka Unrecognized VM option 'PrintGCDateStamps'

Anzahl der Antworten 6 Antworten
Ich installiert Kafka auf einem remote-server, und wenn ich versuchte zu laufen ~/kafka/bin/zookeeper-server-start.sh ~/kafka/config/zookeeper.properties Und ich erhielt eine Fehlermeldung, die Unrecognized VM option 'PrintGCDateStamps' Und die kafka-server konnte nicht gestartet werden. Dies war nicht in einer vm

Kafka + AWS lambda

Anzahl der Antworten 4 Antworten
Ist es möglich, zu integrieren AWS Lambda mit Apache Kafka ? Ich möchte ein Verbraucher in eine lambda-Funktion. Wenn ein konsument eine Nachricht erhalten, die lambda-Funktion ausführen. Sie sollten wirklich AWS Kinesis, die Kafka gleichwertig und integriert

IBM MQ versus Apache Kafka

Anzahl der Antworten 4 Antworten
Ich bin der Gestaltung einer neuen Architektur, big data, wo mein client hat als IBM MQ broker , ich weiß, dass wir für die Arbeit mit Kafka in big-data-Architekturen , Weil ich nehme an das ist schneller

Tierpfleger Problem in der Einstellung kafka

Anzahl der Antworten 6 Antworten
Installieren kafka , die ich heruntergeladen habe die kafka-tar-Ordner. Um den server zu starten ich habe versucht diesen Befehl : bin/zookeeper-server-start.sh config/zookeeper.properties Folgende Fehler ist aufgetreten bei der Eingabe der oben genannten Befehl: INFO Reading configuration from:

Die Kennzeichnung der Koordinator der tot-Gruppe(Kafka)

Anzahl der Antworten 1 Antworten
Einer meiner Dienste aufgehört zu arbeiten ein paar Stunden. Ich habe neu gestartet, der server aber dieses Verbraucher-Prozess ist nicht nur die Registrierung bei Kafka. Dies ist, was zeigt sich, wenn der Verbraucher gestartet : 2017-04-21 10:22:54.887

Lesen Sie kafka Nachricht ab einem bestimmten offset mit high-level-API

Anzahl der Antworten 2 Antworten
Ich hoffe, ich bin nicht, Fehler zu machen, aber ich erinnere mich, dass in der Kafka-Dokumentation erwähnt, dass die Verwendung von high-level-APIs Sie können nicht starten Sie das Lesen von Nachrichten aus einem bestimmten offset, aber es

Kafka Verbraucher-Abonnement vs. zugewiesene partition

Anzahl der Antworten 2 Antworten
Kafka ist verwirrend mich. Bei mir läuft es lokal mit standard-Werten. nur auto-Thema erstellen aktiviert. 1 partition, 1 Knoten, alles lokal und einfach. Wenn Sie schreiben consumer.subscribe("test_topic"); consumer.poll(10); Es funktioniert einfach nicht und nie findet keine Daten.

Einfache embedded-Kafka-test Beispiel mit spring boot

Anzahl der Antworten 2 Antworten
Bearbeiten FYI: arbeiten gitHub-Beispiel War ich im internet zu suchen und nichts finden konnte, arbeiten und einfaches Beispiel für ein embedded-Kafka-test. Mein setup ist: Spring boot Mehrere @KafkaListener mit verschiedenen Themen in einer Klasse Embedded Kafka für

Kafka-Authentifizierung Produzent Nicht in der Lage zu Verbinden, Produzent

Anzahl der Antworten 1 Antworten
Ich bin versuchen zu replizieren, die SASL_PLAIN oder SASL_SSL-Authentifizierung beschrieben: http://docs.confluent.io/3.0.0/kafka/sasl.html#sasl-configuration-for-kafka-brokers In der config/server.Eigenschaften, habe ich noch folgende 4 Zeilen: listeners=SASL_SSL://localhost:9092 security.inter.broker.protocol=SASL_SSL sasl.mechanism.inter.broker.protocol=PLAIN sasl.enabled.mechanisms=PLAIN In config/Produzent.Eigenschaften, habe ich noch die folgenden zwei Zeilen: security.protocol=SASL_SSL sasl.mechanism=PLAIN Dann habe

Kafka "Login-Modul nicht in der JAAS-Konfiguration"

Anzahl der Antworten 1 Antworten
Ich habe ein problem bei der Kommunikation mit Kafka sicherte sich mit sasl mit Konsolen Skripts. Kafka ist gesichert mit sasl, listener SASL_PLAINTEXT und Mechanismus ist PLAIN. Was ich gemacht habe: Ich habe versucht die Auflistung bestimmter

Kafka startup scheitert mit Tierpfleger timeout (remote server), dennoch kann die Maschine eine Verbindung zum zookeeper direkt

Anzahl der Antworten 2 Antworten
Wenn ich starten kafka, es schlägt schnell fehl, während beschwert, dass es keine Verbindung zum Tierpfleger. Ich bin mit Tierpfleger als ein eigenständiges cluster/ensemble. Ich bin verwirrt, weil es keine Firewall zwischen den Servern (wie bewiesen durch

Wie Kafka broadcast an viele Verbraucher Gruppen

Anzahl der Antworten 4 Antworten
Ich bin neu auf Kafka und ich schätzen sehr viel Klärung auf den nächsten Fall. Kafka-Dokumentation sagt im Absatz "Verbraucher " Position": "Unser Thema ist unterteilt in einen Satz von Total geordneten Partitionen, von denen jede von

Nachrichten Lesen offset in Apache Kafka

Anzahl der Antworten 1 Antworten
Bin ich sehr viel neues Kafka und wir sind mit Kafka 0.8.1. Was ich tun müssen, ist zu konsumieren, eine Nachricht von Thema. Für, die, ich Schreibe ein Verbraucher in Java, die verbrauchen eine Meldung von Thema

Fehler während der Ausführung von Kafka auf Windows

Anzahl der Antworten 8 Antworten
Ich versuche zu laufen, Kafka auf Windows-Rechner und wenn ich versuche zu starten die Tierpfleger bin ich vor dieser seltsame Fehler . classpath leer ist. bitte erstellen Sie das Projekt zunächst z.B. durch laufen "gradlew jarall' Jede

Gewusst wie: anzeigen von kafka Nachricht

Anzahl der Antworten 2 Antworten
gibt es eine Möglichkeit, ich kann anzeigen den Inhalt der Nachricht gesendet zu kafka für ein bestimmtes Thema? Sagen, eine Sache wie zeigen Sie die letzten 5 Nachrichten für dieses Thema, wenn es möglich ist. Dank, Sandeep

java-client Beispiel für Kafka Producer, send-Methode nicht akzeptieren KeyedMessage

Anzahl der Antworten 2 Antworten
Ich bin mit kafka 2.9.1-0.8.2.1. Ich habe Gläser in libs/- Verzeichnis im main-kafka-Verzeichnis. Jetzt versuche ich zu laufen, eine java-producer-Beispiel als pro was ist denn hier https://cwiki.apache.org/confluence/display/KAFKA/0.8.0+Hersteller+Beispiel. Jetzt producer.send Methode zu sein scheint, die Annahme dieser Art

Wie Lastenausgleich für die Kafka-Führung?

Anzahl der Antworten 4 Antworten
Mein kafka version ist kafka_2.9.2-0.8.1.1. Ich habe zwei Broker im cluster 4 Themen und jedes Thema hat 4 Partitionen. Wenn ich sh kafka-topics.sh --describe --zookeeper rhost:2181 für alle Themen/Partitionen, ich sehe broker 1 als Leader. Wie kann

Kafka-Utils falschen classpath: org.apache.kafka.common.utils.Utils

Anzahl der Antworten 1 Antworten
Versuche ich zu machen, eine sehr einfache, Kafka Producer, und bin zurzeit nach der Hersteller Beispiel, außer meinem Erzeuger keinen Partitionierer Klasse. Nach dem Export benötigten Dateien in einem jar übertrage ich Sie auf meinem Linux-image und

Kafka Verbraucher in Spark Streaming

Anzahl der Antworten 5 Antworten
Beim schreiben einer Spark-Streaming-job, der verbraucht Nachrichten von Kafka. Hier ist, was ich habe, so weit: 1) Gestartet Tierpfleger. 2) Begann Kafka-Server. 3) Schickte ein paar Nachrichten an den server. Ich kann Sie sehen, wenn ich führen

kann keine Verbindung zum server kafka

Anzahl der Antworten 2 Antworten
Ich versuche, Kafka mit version 0.9.0 mit port 9092. Wenn ich mit telnet, habe ich erfolgreich eine Verbindung zu dieser Adresse aber ich keine Verbindung zur Kafka-Servers mit Java-API Hier ist mein Java-Beispiel genau das offizielle mitgelieferte