Tag: apache-storm

Storm ist ein verteiltes Echtzeit-Berechnungs-system. Ähnlich wie Hadoop bietet eine Reihe von Allgemeinen primitiven, die das tun, batch-Verarbeitung, Sturm bietet eine Reihe von Allgemeinen primitiven zum Echtzeit-Berechnung. Storm ist einfach, kann verwendet werden, mit jeder Programmiersprache

Storm Spout FEHLER backtype.Sturm.util - Async-Schleife gestorben

Anzahl der Antworten 1 Antworten
Meine Daten stammen aus einem sensor, der angeschlossen ist an meine Sturm-cluster durch eine websocket, so dass, wenn ein Datenpunkt kommt auf meine websocket-server ich hinzufügen, dass es zu einer ConcurrentLinkedQueue. Ich habe keine a priori information

KafkaSpout nicht empfangen etwas von Kafka

Anzahl der Antworten 4 Antworten
Ich versuche, mich zu manipulieren, bis ein ein Kafka-Sturm "Hello World" system. Ich habe Kafka installiert ist und läuft, wenn ich Daten senden, mit der Kafka-producer Lesen kann ich es mit der Kafka-Konsole Verbraucher. Nahm ich die

Nicht in der Lage zu laufen Sturm-starter-Topologie aus der Sturm-tutorial

Anzahl der Antworten 4 Antworten
Wenn im Anschluss an die Führung im storm-starter repo, ich bin nicht in der Lage zu laufen eigentlich alle Topologie - wie die ExclamationTopology. mvn clean install -DskipTests=true lief erfolgreich, durchgeführt von der top-level-Storm-repo, da habe mvn

Storm-Topologie Ausfall während der Ausführung in der Produktion

Anzahl der Antworten 4 Antworten
Hallo, ich habe ein Problem mit dem storm-cluster. Es ist ähnlich wie Meine Topologie ist definiert als : package com.abc.newsclassification; import StormBase.KnowledgeGraph.ClassifierBolt; import StormBase.KnowledgeGraph.ClientSpecificTwitterSpout; import StormBase.KnowledgeGraph.LiveTwitterSpout; import StormBase.KnowledgeGraph.NewsTwitterSpout; import StormBase.KnowledgeGraph.TwitterTrainingBolt; import StormBase.KnowledgeGraph.UrlExtractorBolt; import backtype.storm.Config; import backtype.storm.LocalCluster; import

Sturm Vorgesetzten und Arbeiter, die sich nicht starten

Anzahl der Antworten 2 Antworten
Ich habe die Suche in diesem forum und viele andere über google aber nicht finden, die Lösung meines Problems. bitte helfen Sie. Problem ist: Ich bin mit apache storm 0.9.3, Tierpfleger-3.4.6 und kafka_2.8.0-0.8.1.1 Ich bin Einstellung alles

Sturm logviewer Seite nicht gefunden

Anzahl der Antworten 2 Antworten
Ich bin in der Lage, senden Sie eine Topologie job in der multi-tenant-cluster. Der job ausgeführt wird. Jedoch, die logviewer-Seite nicht verfügbar. Gibt es eine Möglichkeit, dieses Problem zu lösen? willst du damit sagen, Sie sind nicht

Mit Sturm in Cloudera

Anzahl der Antworten 5 Antworten
Bin ich auf der Suche zu verwenden, Sturm ist mit Hortonworks 2.1 installation aber, um zu vermeiden, installieren Hortonworks zusätzlich zu einem Cloudera-installation (hat Funken), ich versuchte, einen Weg finden, um Sturm in Cloudera. Wenn man kann

Gefunden mehrere Standardwerte.yaml Ressourcen

Anzahl der Antworten 1 Antworten
als ich versuchte, zu senden die Topologie, die ich fand diese Exception in thread "main" java.lang.RuntimeException: Found multiple defaults.yaml resources. You're probably bundling the Storm jars with your topology jar. at backtype.storm.utils.Utils.findAndReadConfigFile(Utils.java:115) at backtype.storm.utils.Utils.readDefaultConfig(Utils.java:135) at backtype.storm.utils.Utils.readStormConfig(Utils.java:155) at

Wesentlichen tags für die Erstellung der java-Projekt mit maven in pom.xml

Anzahl der Antworten 3 Antworten
Baue ich mein java-Projekt mit maven, konnte aber nicht erfolgreich. Also, kann jemand bitte sagen Sie mir, die wesentlichen tags und deren Werte erforderlich pom.xml um ein Projekt erstellen? Außerdem, wie füge ich den Sturm Abhängigkeiten manuell

Wie schreiben Sie-Protokolle in eine Datei mit Log4j und Sturm-Framework?

Anzahl der Antworten 2 Antworten
Ich habe ein bisschen ein Problem in logging in eine Datei mit log4j im Sturm . Vor Abgabe meiner Topologie , ich.e in meiner main-Methode schrieb ich einige log-Anweisungen und konfiguriert den logger mit : PropertyConfigurator.configure(myLog4jProperties) Wenn

Wo muss Apache Samza und Apache Storm unterscheiden sich in Ihrer Verwendung Fällen?

Anzahl der Antworten 3 Antworten
Ich stolperte dieser Artikel, die vorgibt tun, Kontrast Samza mit Sturm, aber es scheint nur um die Adresse, details zur Implementierung. Wo diese zwei verteilten Berechnung-Motoren unterscheiden sich in Ihrer Verwendung Fällen? Welche Art von Arbeit ist

ava.lang.NoClassDefFoundError: could not initialize class org.apache.log4j.Log4jLoggerFactory was ist der Grund für diesen Fehler

Anzahl der Antworten 1 Antworten
java.lang.NoClassDefFoundError: could not initialize class org.apache.log4j.Log4jLoggerFactory bei org.apache.log4j.Logger.getLogger(Logger.java:39) at kafka.utils.Protokollierung$Klasse.logger(Protokollierung.scala:24) bei kafka.Verbraucher.SimpleConsumer.logger$lzycompute(SimpleConsumer.scala:35) bei kafka.Verbraucher.SimpleConsumer.logger(SimpleConsumer.scala:35) bei kafka.utils.Protokollierung$class.info(Protokollierung.scala:77) an kafka.consumer.SimpleConsumer.info(SimpleConsumer.scala:35) bei kafka.Verbraucher.SimpleConsumer.liftedTree1$1(SimpleConsumer.scala:94) bei kafka.Verbraucher.SimpleConsumer.kafka$Verbraucher$SimpleConsumer$$sendRequest(SimpleConsumer.scala:83) bei kafka.Verbraucher.SimpleConsumer.getOffsetsBefore(SimpleConsumer.scala:149) bei kafka.javaapi.Verbraucher.SimpleConsumer.getOffsetsBefore(SimpleConsumer.scala:79) auf org.apache.Sturm.kafka.KafkaUtils.getOffset(KafkaUtils.java:75) at org.apache.Sturm.kafka.KafkaUtils.getOffset(KafkaUtils.java:65) at org.apache.Sturm.kafka.PartitionManager.(PartitionManager.java:103) at org.apache.Sturm.kafka.ZkCoordinator.refresh(ZkCoordinator.java:98) at org.apache.Sturm.kafka.ZkCoordinator.getMyManagedPartitions(ZkCoordinator.java:69) at

Class-path enthält mehrere SLF4J-Bindungen, melden Sie sich wieder-klassische und log4j

Anzahl der Antworten 1 Antworten
immer folgende Fehlermeldung, wenn ich versuche, um unit-test in meinem java-Projekt: SLF4J: Class path contains multiple SLF4J bindings. SLF4J: Found binding in [jar:file:/Users/me/.m2/repository/org/slf4j/slf4j-log4j12/1.5.8/slf4j-log4j12-1.5.8.jar!/org/slf4j/impl/StaticLoggerBinder.class] SLF4J: Found binding in [jar:file:/Users/me/.m2/repository/ch/qos/logback/logback-classic/1.0.6/logback-classic-1.0.6.jar!/org/slf4j/impl/StaticLoggerBinder.class] SLF4J: See slf4j.org/… for an explanation. Meine pom.xml hat

so senden Sie ein JSON-Objekt zu kafka Sturm von python-client

Anzahl der Antworten 2 Antworten
Ich habe ein einfaches JSON-Objekt wie im folgenden d = { 'tag ': 'blah', 'name' : 'sam', 'score': {'row1': 100, 'row2': 200 } } Folgende ist mein python-code, der das senden von Nachrichten an Kafka from kafka

IBM MQ versus Apache Kafka

Anzahl der Antworten 4 Antworten
Ich bin der Gestaltung einer neuen Architektur, big data, wo mein client hat als IBM MQ broker , ich weiß, dass wir für die Arbeit mit Kafka in big-data-Architekturen , Weil ich nehme an das ist schneller

Class-path enthält mehrere SLF4J-Bindungen

Anzahl der Antworten 1 Antworten
Habe ich versucht zu Debuggen mein Projekt, aber habe diese SLF4J: Class path contains multiple SLF4J bindings. SLF4J: Found binding in [jar:file:/usr/local/storm/lib/logback-classic-1.0.13.jar!/org/slf4j/impl/StaticLoggerBinder.class] SLF4J: Found binding in [jar:file:/home/user/.m2/repository/ch/qos/logback/logback-classic/1.0.13/logback-classic-1.0.13.jar!/org/slf4j/impl/StaticLoggerBinder.class] was soll ich tun ? habe ich noch keine Abhängigkeit

Failed to execute goal org.codehaus.mojo:exec-maven-plugin:1.2.1 - kafka-storm-integration

Anzahl der Antworten 2 Antworten
Arbeite ich an kafka strom-integration. Im stecken mit einem Fehler. Der Build schlägt Fehl, wenn ich versuche, Führen Sie es mithilfe mvn -e -f m2-pom.xml compile exec:java -Dexec.classpathScope=compile -Dexec.mainClass=storm.starter.MainTopology [ERROR] Failed to execute goal org.codehaus.mojo:exec-maven-plugin:1.2.1:java (default-cli) on

Streamparse wordcount-Beispiel

Anzahl der Antworten 2 Antworten
Ich habe gefehlt, um den Apache Storm streamen von Kafka. Ich bin noch komfortabler mit Python, so dass ich mich entschieden habe, streamparse (https://github.com/Parsely/streamparse). Die word count Beispiel ist der einleitende Beispiel. Ich habe versucht, es zu

Die Einreichung einer Topologie zu Sturm

Anzahl der Antworten 2 Antworten
Habe ich konfiguriert Sturm auf meinem Rechner. Tierpfleger, Nimbus und Betreuer sind ordnungsgemäß ausgeführt. Jetzt möchte ich, Einreichen einer Topologie auf diesen Sturm. Ich bin versucht, Sturm-Glas. aber ich bin nicht in der Lage zu unterbreiten. Kann

Verschieben von Daten von oracle nach HDFS, zu verarbeiten und zu bewegen, um Teradata von HDFS

Anzahl der Antworten 2 Antworten
Meine Anforderung ist Verschieben von Daten von einer Oracle-HDFS Die Daten auf HDFS Bewegen verarbeiteten Daten auf Teradata. Es ist auch erforderlich, um zu tun, diese gesamte Verarbeitung alle 15 Minuten. Die Lautstärke des source-Daten kann in

Kafka Sturm Integration mit Kafka Auslauf

Anzahl der Antworten 2 Antworten
Ich bin mit KafkaSpout. Sie finden das test-Programm unter. Ich bin mit Sturm 0.8.1. Multischeme Klasse gibt es im Sturm 0.8.2. Ich verwenden werde. Ich möchte nur wissen, wie waren die früheren Versionen arbeiten nur durch instanziieren

Sturm-Kafka mehrere Ausläufe, wie teilen sich die Last?

Anzahl der Antworten 1 Antworten
Ich versuche teilen sich die Aufgabe, unter den zahlreichen Ausläufe. Ich habe eine situation, wo ich bin immer einen Tupel/Nachricht aus externer Quelle, und ich möchte, um mehrere Instanzen eines Auslauf -, Haupt Absicht dahinter ist, zu

Die Einrichtung eines Andockfenster / Abb Sofort Umgebung

Anzahl der Antworten 1 Antworten
Ich versuche zum einrichten einer Andockfenster /Abb Sofort cluster. Ich bin neu bei Abb und Docker. Docker hat viel Dokumentation, aber ich finde mich kämpfen, um zu verstehen, wie Sie arbeiten, mit Abb. Hier ist meine Abb.yaml

Storm-Topologie-Konfiguration

Anzahl der Antworten 7 Antworten
Wie stellen Sie eine benutzerdefinierte Konfiguration für eine storm Topologie? Zum Beispiel, wenn ich eine Topologie, die ich gebaut, die eine Verbindung zu einem MySQL-cluster und ich möchte in der Lage sein zu ändern die Server, die

Stoppen Sturm: der richtige Weg

Anzahl der Antworten 3 Antworten
Ist es eine saubere Art und Weise zu stoppen, Sturm, ohne zu töten es mit "kill XXX", wobei XXX die PID? Ich laufen "Sturm töten Topologie-Namen" zu töten, der Topologie, aber danach ist es eine saubere Möglichkeit

Wie Sie eine Topologie im Sturm Produktions-cluster mit IDE

Anzahl der Antworten 4 Antworten
Stehe ich vor einem Problem Must submit topologies using the 'storm' client script so that StormSubmitter knows which jar to upload bei der übermittlung einer Topologie auf einen Produktions-cluster mit IDE, während die gleiche Sache, wenn ich

Wie zu deaktivieren/ausschalten der logging-Funktion von Sturm

Anzahl der Antworten 6 Antworten
Will ich schalten Sie die logging-Funktion angeboten standardmäßig, wenn wir von lokalen cluster. Derzeit sind seine Anmeldung so viele Informationen auf der Konsole aus. Unten ist das Beispiel der log: 261 [main] INFO backtype.storm.daemon.task - Shut down

wie Stimmen Sie die Parallelität Hinweis im Sturm

Anzahl der Antworten 3 Antworten
"Parallelität Hinweis" wird verwendet, im Sturm zu parallelise eine laufende storm-Topologie. Ich weiß, es gibt Begriffe wie Arbeitsprozess, Testamentsvollstrecker und Aufgaben. Würde es Sinn machen die Parallelität Tipp so groß wie möglich, so dass Ihre Topologien sind

Sturm max Auslauf anhängig

Anzahl der Antworten 3 Antworten
Dies ist eine Frage, wie storm max Auslauf anstehenden arbeiten. Ich derzeit haben eine Tülle, die liest eine Datei und gibt ein Tupel für jede Zeile in der Datei (ich weiß, Sturm ist nicht die beste Lösung

Storm Bolts und Tüllen testen

Anzahl der Antworten 4 Antworten
Dies ist eine Allgemeine Frage in Bezug auf Unit-Testing, Schrauben und Tüllen in eine Storm Topologie in Java geschrieben. Was ist die empfohlene Praxis und Leitfaden für unit-Tests (JUnit?) Schrauben und Tüllen? Ich kann zum Beispiel schreiben

Wie würde ich einen Stream in Apache Storm teilen?

Anzahl der Antworten 2 Antworten
Ich bin nicht verstehen, wie ich den geteilten stream in Apache Storm. Ich habe zum Beispiel Eine Schraube, die nach einigen Berechnungen hat somevalue1, somevalue2, und somevalue3. Sie senden will somevalue1 Bolzen B, somevalue2 Bolzen C, und

Was ist die "Aufgabe" in der Sturmparallelität?

Anzahl der Antworten 1 Antworten
Ich versuche zu lernen twitter-Sturm, indem Sie nach dem großen Artikel "Das Verständnis der Parallelität der eine Storm Topologie" Aber ich bin ein bisschen verwirrt durch das Konzept der "Aufgabe". Ist eine Aufgabe, die eine ausgeführte Instanz

Wie kann ich ein numpliges Array serialisieren, während die Matrixdimensionen erhalten bleiben?

Anzahl der Antworten 7 Antworten
numpy.array.tostring scheint nicht zu erhalten Informationen über die matrix-Dimensionen (siehe diese Frage), dass der Benutzer die Ausgabe einen Aufruf numpy.array.reshape. Gibt es eine Möglichkeit zum serialisieren ein numpy-array zu JSON-format, während die Erhaltung dieser Informationen? Hinweis: Die

Was verursacht diese ParseError-Ausnahmen beim Lesen einer AWS SQS-Warteschlange in meinem Storm-Cluster?

Anzahl der Antworten 1 Antworten
Ich bin mit Sturm 0.8.1 zu Lesen eingehende Nachrichten aus einer Amazon SQS-Warteschlange und bin immer im Einklang Ausnahmen dabei: 2013-12-02 02:21:38 executor [ERROR] java.lang.RuntimeException: com.amazonaws.AmazonClientException: Unable to unmarshall response (ParseError at [row,col]:[1,1] Message: JAXP00010001: The parser

Apache Kafka vs Apache Sturm

Anzahl der Antworten 6 Antworten
Apache Kafka: Verteilte messaging-system Apache Storm: Echtzeit-Message-Verarbeitung Wie wir Sie nutzen können beide Technologien in einem real-time-Daten-pipeline für die Verarbeitung von event-Daten? In Bezug auf die Echtzeit-Daten-pipeline beiden scheint mir die Arbeit machen, die identisch sind. Wie

Sturm gegen Trident: Wann nicht Trident zu verwenden?

Anzahl der Antworten 5 Antworten
Arbeite ich mit Sturm und es ist in Ordnung für eine Menge von Anwendungsfällen. Vor kurzem hatte ich einen Blick auf Dreizackdie eine high-level-Abstraktion von Sturm. Es unterstützt die exactly-once - Verarbeitung und macht stateful Bearbeitung einfacher.

Was ist / sind die Hauptunterschiede zwischen Flink und Storm?

Anzahl der Antworten 2 Antworten
Flink wurde im Vergleich zu Sparkdie, so wie ich es sehe, ist der falsche Vergleich, da er vergleicht einen Fenster-event-processing-system gegen Mikro-Dosierung; Ähnlich, es macht nicht viel Sinn für mich zu vergleichen Flink zu Samza. In beiden

java.lang.NoSuchFieldError: INSTANZ

Anzahl der Antworten 4 Antworten
Wenn Sie versuchen, um meine Topologie durch StormSubmitter, ich bin immer - Caused by: java.lang.NoSuchFieldError: INSTANCE at org.apache.http.impl.io.DefaultHttpRequestWriterFactory.<init>(DefaultHttpRequestWriterFactory.java:52) Bin ich mit Frühling. Ich bin nicht initialisieren HttpClient im Auslauf/Bolt-Konstruktor. Statt dessen Initialisierung im Konstruktor einer Klasse, die

Apache Spark gegen Apache Storm

Anzahl der Antworten 1 Antworten
Was sind die Unterschiede zwischen Apache Spark und Apache Storm? Was sind geeignete Anwendungsfälle für jeden? InformationsquelleAutor der Frage anhldbk | 2014-06-09

Apache Storm im Vergleich zu Hadoop

Anzahl der Antworten 6 Antworten
Wie funktioniert Sturm zu vergleichen, um Hadoop? Hadoop scheint die de-facto-standard für open-source-large scale batch-Verarbeitung, hat Sturm hat irgendwelche Vorteile gegenüber hadoop? oder Sind Sie völlig anders? Kommentar zu dem Problem Ich denke, die Frage ist absolut