Zeromq 要求/代表及;用于双向异步工作进程处理的经销商/路由器
我正在学习ZeroMQ,刚刚完成了教程和一些示例。我使用Node.js作为我的主环境(最终使用Python替换我的工作人员) 试图找出如何创建一个完全异步的消息传递系统,该系统允许我的API将任务(通过Zeromq 要求/代表及;用于双向异步工作进程处理的经销商/路由器,zeromq,Zeromq,我正在学习ZeroMQ,刚刚完成了教程和一些示例。我使用Node.js作为我的主环境(最终使用Python替换我的工作人员) 试图找出如何创建一个完全异步的消息传递系统,该系统允许我的API将任务(通过REQ套接字)推送到路由器,让经销商将消息传递给工作人员,处理消息并将其结果发送回我的客户端(这是一个快速路由) 我相信这种模式会像这样工作(尚未测试或正确实现代码,因此请将其作为概念大纲): 路由器.js const zmq = require('zmq');; const frontend
REQ
套接字)推送到路由器,让经销商将消息传递给工作人员,处理消息并将其结果发送回我的客户端(这是一个快速路由)
我相信这种模式会像这样工作(尚未测试或正确实现代码,因此请将其作为概念大纲):
路由器.js
const zmq = require('zmq');;
const frontend = zmq.socket('router');
const backend = zmq.socket('dealer');
frontend.on('message', function() {
var args = Array.apply(null, arguments);
backend.send(args);
});
backend.on('message', function() {
var args = Array.apply(null, arguments);
frontend.send(args);
});
frontend.bindSync('tcp://*:5559');
backend.bindSync('tcp://*:5560');
client.js
var zmq = require('zmq'),
var express = require('express');
var app = express();
app.post('send', function(req, res) {
var client = zmq.socket('req');
// listen for responses from the server
client.on('message', function(data) {
console.log(data);
client.close();
});
// connect to the server port
client.connect('tcp://0.0.0.0:5454');
client.send('Request from ' + process.id);
});
app.listen('80');
var zmq = require('zmq');
var socket = zmq.socket('req');
socket.identity = 'client_' + process.pid;
socket.on('message', function(data) {
console.log(socket.identity + ': answer data ' + data);
});
socket.connect('tcp://127.0.0.1:5559');
setInterval(function() {
var value = Math.floor(Math.random()*100);
console.log(socket.identity + ': asking ' + value);
socket.send(value);
}, 100);
console.log('Client started...');
worker.js
var zmq = require('zmq');
var server = zmq.socket('rep');
server.on('message', function(d){
server.send('Response from ' + process.id);
});
// bind to port 5454
server.bind('tcp://0.0.0.0:5454', function(err){
if (err){
console.error("something bad happened");
console.error( err.msg );
console.error( err.stack );
process.exit(0);
}
});
var zmq = require('zmq');
var socket = zmq.socket('rep');
socket.identity = 'worker_' + process.pid;
socket.on('message', function(data) {
console.log(socket.identity + ': received ' + data.toString());
socket.send(data * 2);
});
socket.connect('tcp://127.0.0.1:5560', function(err) {
if (err) throw err;
console.log('server connected!');
});
console.log('Worker started...');
我不完全理解的是,
路由器/经销商
是否会将响应工作程序发送到正确的客户端。同样,在这种情况下,经销商处理公平排队,因为我希望我的工作均匀地分配给工人
我的客户机可以分布在许多不同的盒子中(负载平衡器API服务器),我的路由器将在自己的服务器上,工作人员也将分布在多个盒子中。似乎我在使用
经销商/路由器
,而我本应该使用XREQ
和XREP
broker.js
var zmq = require('zmq');
var frontPort = 'tcp://127.0.0.1:5559';
var backPort = 'tcp://127.0.0.1:5560';
var frontSocket = zmq.socket('xrep');
var backSocket = zmq.socket('xreq');
frontSocket.identity = 'xrep_' + process.pid;
backSocket.identity = 'xreq_' + process.pid;
frontSocket.bind(frontPort, function (err) {
console.log('bound', frontPort);
});
frontSocket.on('message', function() {
//pass to back
console.log('router: sending to server', arguments[0].toString(), arguments[2].toString());
backSocket.send(Array.prototype.slice.call(arguments));
});
backSocket.bind(backPort, function (err) {
console.log('bound', backPort);
});
backSocket.on('message', function() {
//pass to front
console.log('dealer: sending to client', arguments[0].toString(), arguments[2].toString());
frontSocket.send(Array.prototype.slice.call(arguments));
});
console.log('Broker started...');
worker.js
var zmq = require('zmq');
var server = zmq.socket('rep');
server.on('message', function(d){
server.send('Response from ' + process.id);
});
// bind to port 5454
server.bind('tcp://0.0.0.0:5454', function(err){
if (err){
console.error("something bad happened");
console.error( err.msg );
console.error( err.stack );
process.exit(0);
}
});
var zmq = require('zmq');
var socket = zmq.socket('rep');
socket.identity = 'worker_' + process.pid;
socket.on('message', function(data) {
console.log(socket.identity + ': received ' + data.toString());
socket.send(data * 2);
});
socket.connect('tcp://127.0.0.1:5560', function(err) {
if (err) throw err;
console.log('server connected!');
});
console.log('Worker started...');
client.js
var zmq = require('zmq'),
var express = require('express');
var app = express();
app.post('send', function(req, res) {
var client = zmq.socket('req');
// listen for responses from the server
client.on('message', function(data) {
console.log(data);
client.close();
});
// connect to the server port
client.connect('tcp://0.0.0.0:5454');
client.send('Request from ' + process.id);
});
app.listen('80');
var zmq = require('zmq');
var socket = zmq.socket('req');
socket.identity = 'client_' + process.pid;
socket.on('message', function(data) {
console.log(socket.identity + ': answer data ' + data);
});
socket.connect('tcp://127.0.0.1:5559');
setInterval(function() {
var value = Math.floor(Math.random()*100);
console.log(socket.identity + ': asking ' + value);
socket.send(value);
}, 100);
console.log('Client started...');
我仍然不确定在每个API入站请求上打开连接是否安全。忘记REQ/REP
在任何生产级应用程序中,都可能陷入相互死锁
您可能会在REQ/REP
正式可伸缩通信模式中的高风险相互FSM-FSM死锁的许多其他帖子中找到这个主题
请确保,
XREQ/XREP==经销商/路由器
(自2011年起)
源代码删除了所有隐藏的魔法,XREQ==经销商
和XREP==路由器
+++b/include/zmq.h
...
-#define ZMQ_XREQ 5
-#define ZMQ_XREP 6
+#define ZMQ_DEALER 5
+#define ZMQ_ROUTER 6
...
+#define ZMQ_XREQ ZMQ_DEALER /* Old alias, remove in 3.x */
+#define ZMQ_XREP ZMQ_ROUTER /* Old alias, remove in 3.x */
对于将来阅读本文的人来说,在我进一步的研究中,我偶然发现了Majordomo协议/模式。这正是我想要实现的。有关实施、优点和缺点的文档可在此处阅读:。以下是代理实现:每次调用时设置并拆除ZeroMQ消息传递/信令基础结构总是一个坏主意。ZeroMQ到目前为止还不是可消费/一次性的,在所有基础结构组件达到端到端的RTO状态之前,每次调用都会造成大量系统开销,并在等待额外延迟时付出大量代价。即使是课本上的例子也是个坏主意。永远不要提倡这种缺乏动机的编程风格。这是我的想法和关注点。接下来的问题是,如何映射套接字请求,以便正确的路由接收响应消息?如何避免相互死锁?你能推荐一种替代我所介绍的模式的方法吗?死锁是不可避免的+无法解决的。只是永远不要使用
REQ/REP
。好的,这就是问题所在。对客户端使用REP-PUB,对worker使用REQ-SUB如何?经纪人将使用经销商和路由器。这有可能解决问题吗?如果不是,什么模式在这里最有意义?