Tag: apache-storm
Storm ist ein verteiltes Echtzeit-Berechnungs-system. Ähnlich wie Hadoop bietet eine Reihe von Allgemeinen primitiven, die das tun, batch-Verarbeitung, Sturm bietet eine Reihe von Allgemeinen primitiven zum Echtzeit-Berechnung. Storm ist einfach, kann verwendet werden, mit jeder Programmiersprache
1
Antworten
Meine Daten stammen aus einem sensor, der angeschlossen ist an meine Sturm-cluster durch eine websocket, so dass, wenn ein Datenpunkt kommt auf meine websocket-server ich hinzufügen, dass es zu einer ConcurrentLinkedQueue. Ich habe keine a priori information
4
Antworten
Ich versuche, mich zu manipulieren, bis ein ein Kafka-Sturm "Hello World" system. Ich habe Kafka installiert ist und läuft, wenn ich Daten senden, mit der Kafka-producer Lesen kann ich es mit der Kafka-Konsole Verbraucher. Nahm ich die
4
Antworten
Wenn im Anschluss an die Führung im storm-starter repo, ich bin nicht in der Lage zu laufen eigentlich alle Topologie - wie die ExclamationTopology. mvn clean install -DskipTests=true lief erfolgreich, durchgeführt von der top-level-Storm-repo, da habe mvn
4
Antworten
Hallo, ich habe ein Problem mit dem storm-cluster. Es ist ähnlich wie Meine Topologie ist definiert als : package com.abc.newsclassification; import StormBase.KnowledgeGraph.ClassifierBolt; import StormBase.KnowledgeGraph.ClientSpecificTwitterSpout; import StormBase.KnowledgeGraph.LiveTwitterSpout; import StormBase.KnowledgeGraph.NewsTwitterSpout; import StormBase.KnowledgeGraph.TwitterTrainingBolt; import StormBase.KnowledgeGraph.UrlExtractorBolt; import backtype.storm.Config; import backtype.storm.LocalCluster; import
2
Antworten
Ich habe die Suche in diesem forum und viele andere über google aber nicht finden, die Lösung meines Problems. bitte helfen Sie. Problem ist: Ich bin mit apache storm 0.9.3, Tierpfleger-3.4.6 und kafka_2.8.0-0.8.1.1 Ich bin Einstellung alles
2
Antworten
Ich bin in der Lage, senden Sie eine Topologie job in der multi-tenant-cluster. Der job ausgeführt wird. Jedoch, die logviewer-Seite nicht verfügbar. Gibt es eine Möglichkeit, dieses Problem zu lösen? willst du damit sagen, Sie sind nicht
5
Antworten
Bin ich auf der Suche zu verwenden, Sturm ist mit Hortonworks 2.1 installation aber, um zu vermeiden, installieren Hortonworks zusätzlich zu einem Cloudera-installation (hat Funken), ich versuchte, einen Weg finden, um Sturm in Cloudera. Wenn man kann
1
Antworten
als ich versuchte, zu senden die Topologie, die ich fand diese Exception in thread "main" java.lang.RuntimeException: Found multiple defaults.yaml resources. You're probably bundling the Storm jars with your topology jar. at backtype.storm.utils.Utils.findAndReadConfigFile(Utils.java:115) at backtype.storm.utils.Utils.readDefaultConfig(Utils.java:135) at backtype.storm.utils.Utils.readStormConfig(Utils.java:155) at
3
Antworten
Baue ich mein java-Projekt mit maven, konnte aber nicht erfolgreich. Also, kann jemand bitte sagen Sie mir, die wesentlichen tags und deren Werte erforderlich pom.xml um ein Projekt erstellen? Außerdem, wie füge ich den Sturm Abhängigkeiten manuell
2
Antworten
Ich habe ein bisschen ein Problem in logging in eine Datei mit log4j im Sturm . Vor Abgabe meiner Topologie , ich.e in meiner main-Methode schrieb ich einige log-Anweisungen und konfiguriert den logger mit : PropertyConfigurator.configure(myLog4jProperties) Wenn
3
Antworten
Ich stolperte dieser Artikel, die vorgibt tun, Kontrast Samza mit Sturm, aber es scheint nur um die Adresse, details zur Implementierung. Wo diese zwei verteilten Berechnung-Motoren unterscheiden sich in Ihrer Verwendung Fällen? Welche Art von Arbeit ist
1
Antworten
java.lang.NoClassDefFoundError: could not initialize class org.apache.log4j.Log4jLoggerFactory bei org.apache.log4j.Logger.getLogger(Logger.java:39) at kafka.utils.Protokollierung$Klasse.logger(Protokollierung.scala:24) bei kafka.Verbraucher.SimpleConsumer.logger$lzycompute(SimpleConsumer.scala:35) bei kafka.Verbraucher.SimpleConsumer.logger(SimpleConsumer.scala:35) bei kafka.utils.Protokollierung$class.info(Protokollierung.scala:77) an kafka.consumer.SimpleConsumer.info(SimpleConsumer.scala:35) bei kafka.Verbraucher.SimpleConsumer.liftedTree1$1(SimpleConsumer.scala:94) bei kafka.Verbraucher.SimpleConsumer.kafka$Verbraucher$SimpleConsumer$$sendRequest(SimpleConsumer.scala:83) bei kafka.Verbraucher.SimpleConsumer.getOffsetsBefore(SimpleConsumer.scala:149) bei kafka.javaapi.Verbraucher.SimpleConsumer.getOffsetsBefore(SimpleConsumer.scala:79) auf org.apache.Sturm.kafka.KafkaUtils.getOffset(KafkaUtils.java:75) at org.apache.Sturm.kafka.KafkaUtils.getOffset(KafkaUtils.java:65) at org.apache.Sturm.kafka.PartitionManager.(PartitionManager.java:103) at org.apache.Sturm.kafka.ZkCoordinator.refresh(ZkCoordinator.java:98) at org.apache.Sturm.kafka.ZkCoordinator.getMyManagedPartitions(ZkCoordinator.java:69) at
1
Antworten
immer folgende Fehlermeldung, wenn ich versuche, um unit-test in meinem java-Projekt: SLF4J: Class path contains multiple SLF4J bindings. SLF4J: Found binding in [jar:file:/Users/me/.m2/repository/org/slf4j/slf4j-log4j12/1.5.8/slf4j-log4j12-1.5.8.jar!/org/slf4j/impl/StaticLoggerBinder.class] SLF4J: Found binding in [jar:file:/Users/me/.m2/repository/ch/qos/logback/logback-classic/1.0.6/logback-classic-1.0.6.jar!/org/slf4j/impl/StaticLoggerBinder.class] SLF4J: See slf4j.org/… for an explanation. Meine pom.xml hat
2
Antworten
Ich habe ein einfaches JSON-Objekt wie im folgenden d = { 'tag ': 'blah', 'name' : 'sam', 'score': {'row1': 100, 'row2': 200 } } Folgende ist mein python-code, der das senden von Nachrichten an Kafka from kafka
4
Antworten
Ich bin der Gestaltung einer neuen Architektur, big data, wo mein client hat als IBM MQ broker , ich weiß, dass wir für die Arbeit mit Kafka in big-data-Architekturen , Weil ich nehme an das ist schneller
1
Antworten
Habe ich versucht zu Debuggen mein Projekt, aber habe diese SLF4J: Class path contains multiple SLF4J bindings. SLF4J: Found binding in [jar:file:/usr/local/storm/lib/logback-classic-1.0.13.jar!/org/slf4j/impl/StaticLoggerBinder.class] SLF4J: Found binding in [jar:file:/home/user/.m2/repository/ch/qos/logback/logback-classic/1.0.13/logback-classic-1.0.13.jar!/org/slf4j/impl/StaticLoggerBinder.class] was soll ich tun ? habe ich noch keine Abhängigkeit
2
Antworten
Arbeite ich an kafka strom-integration. Im stecken mit einem Fehler. Der Build schlägt Fehl, wenn ich versuche, Führen Sie es mithilfe mvn -e -f m2-pom.xml compile exec:java -Dexec.classpathScope=compile -Dexec.mainClass=storm.starter.MainTopology [ERROR] Failed to execute goal org.codehaus.mojo:exec-maven-plugin:1.2.1:java (default-cli) on
2
Antworten
Ich habe gefehlt, um den Apache Storm streamen von Kafka. Ich bin noch komfortabler mit Python, so dass ich mich entschieden habe, streamparse (https://github.com/Parsely/streamparse). Die word count Beispiel ist der einleitende Beispiel. Ich habe versucht, es zu
2
Antworten
Habe ich konfiguriert Sturm auf meinem Rechner. Tierpfleger, Nimbus und Betreuer sind ordnungsgemäß ausgeführt. Jetzt möchte ich, Einreichen einer Topologie auf diesen Sturm. Ich bin versucht, Sturm-Glas. aber ich bin nicht in der Lage zu unterbreiten. Kann
2
Antworten
Meine Anforderung ist Verschieben von Daten von einer Oracle-HDFS Die Daten auf HDFS Bewegen verarbeiteten Daten auf Teradata. Es ist auch erforderlich, um zu tun, diese gesamte Verarbeitung alle 15 Minuten. Die Lautstärke des source-Daten kann in
2
Antworten
Ich bin mit KafkaSpout. Sie finden das test-Programm unter. Ich bin mit Sturm 0.8.1. Multischeme Klasse gibt es im Sturm 0.8.2. Ich verwenden werde. Ich möchte nur wissen, wie waren die früheren Versionen arbeiten nur durch instanziieren
1
Antworten
Ich versuche teilen sich die Aufgabe, unter den zahlreichen Ausläufe. Ich habe eine situation, wo ich bin immer einen Tupel/Nachricht aus externer Quelle, und ich möchte, um mehrere Instanzen eines Auslauf -, Haupt Absicht dahinter ist, zu
1
Antworten
Ich versuche zum einrichten einer Andockfenster /Abb Sofort cluster. Ich bin neu bei Abb und Docker. Docker hat viel Dokumentation, aber ich finde mich kämpfen, um zu verstehen, wie Sie arbeiten, mit Abb. Hier ist meine Abb.yaml
7
Antworten
Wie stellen Sie eine benutzerdefinierte Konfiguration für eine storm Topologie? Zum Beispiel, wenn ich eine Topologie, die ich gebaut, die eine Verbindung zu einem MySQL-cluster und ich möchte in der Lage sein zu ändern die Server, die
3
Antworten
Ist es eine saubere Art und Weise zu stoppen, Sturm, ohne zu töten es mit "kill XXX", wobei XXX die PID? Ich laufen "Sturm töten Topologie-Namen" zu töten, der Topologie, aber danach ist es eine saubere Möglichkeit
4
Antworten
Stehe ich vor einem Problem Must submit topologies using the 'storm' client script so that StormSubmitter knows which jar to upload bei der übermittlung einer Topologie auf einen Produktions-cluster mit IDE, während die gleiche Sache, wenn ich
6
Antworten
Will ich schalten Sie die logging-Funktion angeboten standardmäßig, wenn wir von lokalen cluster. Derzeit sind seine Anmeldung so viele Informationen auf der Konsole aus. Unten ist das Beispiel der log: 261 [main] INFO backtype.storm.daemon.task - Shut down
3
Antworten
"Parallelität Hinweis" wird verwendet, im Sturm zu parallelise eine laufende storm-Topologie. Ich weiß, es gibt Begriffe wie Arbeitsprozess, Testamentsvollstrecker und Aufgaben. Würde es Sinn machen die Parallelität Tipp so groß wie möglich, so dass Ihre Topologien sind
3
Antworten
Dies ist eine Frage, wie storm max Auslauf anstehenden arbeiten. Ich derzeit haben eine Tülle, die liest eine Datei und gibt ein Tupel für jede Zeile in der Datei (ich weiß, Sturm ist nicht die beste Lösung
4
Antworten
Dies ist eine Allgemeine Frage in Bezug auf Unit-Testing, Schrauben und Tüllen in eine Storm Topologie in Java geschrieben. Was ist die empfohlene Praxis und Leitfaden für unit-Tests (JUnit?) Schrauben und Tüllen? Ich kann zum Beispiel schreiben
2
Antworten
Ich bin nicht verstehen, wie ich den geteilten stream in Apache Storm. Ich habe zum Beispiel Eine Schraube, die nach einigen Berechnungen hat somevalue1, somevalue2, und somevalue3. Sie senden will somevalue1 Bolzen B, somevalue2 Bolzen C, und
1
Antworten
Ich versuche zu lernen twitter-Sturm, indem Sie nach dem großen Artikel "Das Verständnis der Parallelität der eine Storm Topologie" Aber ich bin ein bisschen verwirrt durch das Konzept der "Aufgabe". Ist eine Aufgabe, die eine ausgeführte Instanz
7
Antworten
numpy.array.tostring scheint nicht zu erhalten Informationen über die matrix-Dimensionen (siehe diese Frage), dass der Benutzer die Ausgabe einen Aufruf numpy.array.reshape. Gibt es eine Möglichkeit zum serialisieren ein numpy-array zu JSON-format, während die Erhaltung dieser Informationen? Hinweis: Die
1
Antworten
Ich bin mit Sturm 0.8.1 zu Lesen eingehende Nachrichten aus einer Amazon SQS-Warteschlange und bin immer im Einklang Ausnahmen dabei: 2013-12-02 02:21:38 executor [ERROR] java.lang.RuntimeException: com.amazonaws.AmazonClientException: Unable to unmarshall response (ParseError at [row,col]:[1,1] Message: JAXP00010001: The parser
6
Antworten
Apache Kafka: Verteilte messaging-system Apache Storm: Echtzeit-Message-Verarbeitung Wie wir Sie nutzen können beide Technologien in einem real-time-Daten-pipeline für die Verarbeitung von event-Daten? In Bezug auf die Echtzeit-Daten-pipeline beiden scheint mir die Arbeit machen, die identisch sind. Wie
5
Antworten
Arbeite ich mit Sturm und es ist in Ordnung für eine Menge von Anwendungsfällen. Vor kurzem hatte ich einen Blick auf Dreizackdie eine high-level-Abstraktion von Sturm. Es unterstützt die exactly-once - Verarbeitung und macht stateful Bearbeitung einfacher.
2
Antworten
Flink wurde im Vergleich zu Sparkdie, so wie ich es sehe, ist der falsche Vergleich, da er vergleicht einen Fenster-event-processing-system gegen Mikro-Dosierung; Ähnlich, es macht nicht viel Sinn für mich zu vergleichen Flink zu Samza. In beiden
4
Antworten
Wenn Sie versuchen, um meine Topologie durch StormSubmitter, ich bin immer - Caused by: java.lang.NoSuchFieldError: INSTANCE at org.apache.http.impl.io.DefaultHttpRequestWriterFactory.<init>(DefaultHttpRequestWriterFactory.java:52) Bin ich mit Frühling. Ich bin nicht initialisieren HttpClient im Auslauf/Bolt-Konstruktor. Statt dessen Initialisierung im Konstruktor einer Klasse, die
1
Antworten
Was sind die Unterschiede zwischen Apache Spark und Apache Storm? Was sind geeignete Anwendungsfälle für jeden? InformationsquelleAutor der Frage anhldbk | 2014-06-09
6
Antworten
Wie funktioniert Sturm zu vergleichen, um Hadoop? Hadoop scheint die de-facto-standard für open-source-large scale batch-Verarbeitung, hat Sturm hat irgendwelche Vorteile gegenüber hadoop? oder Sind Sie völlig anders? Kommentar zu dem Problem Ich denke, die Frage ist absolut