星级评价:
日期:10-26
立即下载
PiFlow是一款非常强大的大数据流水线系统,混合型科学大数据流水线系统,这款系统将数据采集、储存的等环节封装成组件,软件简单使用容易,提供100+的数据处理组件,如果有需要朋友的可以来本站下载试试。
软件特色
简单易用。
可视化配置流水线。
监控流水线。
查看流水线日志。
检查点功能。
扩展性强:
支持自定义开发数据处理组件。
性能优越:
基于分布式计算引擎Spark开发。
功能强大:
提供100+的数据处理组件。
包括Hadoop 、Spark、MLlib、Hive、Solr、Redis、MemCache、ElasticSearch、JDBC、MongoDB、HTTP、FTP、XML、CSV、JSON等。
集成了微生物领域的相关算法。
使用方法
解压piflow-server-v0.9.tar.gz。
tar -zxvf piflow-server-v0.9.tar.gz。
编辑配置文件config.properties。
运行、停止、重启PiFlow Server。
start.sh、stop.sh、 restart.sh、 status.sh。
测试 PiFlow Server。
设置环境变量 PIFLOW_HOME。
vim /etc/profile。
export PIFLOW_HOME=/yourPiflowPath/bin。
export PATH=PATH:PIFLOW_HOME/bin。
运行如下命令。
piflow flow start example/mockDataFlow.json。
piflow flow stop appID。
piflow flow info appID。
piflow flow log appID。
piflow flowGroup start example/mockDataGroup.json。
piflow flowGroup stop groupId。
piflow flowGroup info groupId。
如何配置config.properties。
#spark and yarn config。
spark.master=yarn。
spark.deploy.mode=cluster。
#hdfs default file system。
fs.defaultFS=hdfs://10.0.86.191:9000。
#yarn resourcemanager.hostname。
yarn.resourcemanager.hostname=10.0.86.191。
#if you want to use hive, set hive metastore uris。
#hive.metastore.uris=thrift://10.0.88.71:9083。
#show data in log, set 0 if you do not want to show data in logs。
data.show=10。
#server port
server.port=8002
#h2db port
h2.port=50002
其他版本
本类下载排名 总 月
会议桌(团队协作工具) V2.1.7 官方安装版
173次软件大小:76.87 MB
更新日期:2023-06-09
创维优课 V2.1.7 官方安装版
144次软件大小:261.46 MB
更新日期:2023-06-09
燕秀工具箱 V2.87 官方版
136次软件大小:38.96 MB
更新日期:2023-06-09
三叶草学考模拟系统 V2019.12 官方安装版
136次软件大小:202.56 MB
更新日期:2023-06-09
心柠健康助手 V2.0.6.66 官方安装版
127次软件大小:7.59 MB
更新日期:2023-06-09
Phpstudy(PHP运行环境包) V8.1.0.5 官方正式版
122次软件大小:77.71 MB
更新日期:2023-06-08
微风上货助手 V1.6.6.1 官方版
118次软件大小:79.46 MB
更新日期:2023-06-09
河北省自然人税收管理系统 V3.1.096 官方安装版
115次软件大小:94.91 MB
更新日期:2023-05-26
拼多多商家版 V2.6.5.27 最新免费版
113次软件大小:113.13 MB
更新日期:2023-06-11
鸿蒙OS系统模拟器PC版 V2.1.0 官方版
113次软件大小:890.80 MB
更新日期:2023-06-09
AICoin V1.7.1 官方版
45次软件大小:58.51 MB
更新日期:2023-06-12
通达信股票助手 V6.11 绿色版
37次软件大小:14.34 MB
更新日期:2023-06-12
飞书 V3.38.1 最新官方版
23次软件大小:288.05 MB
更新日期:2023-06-12
斯沃数控仿真软件(swcncv) V7.2.5.2 中文免费版
11次软件大小:414.54 MB
更新日期:2023-06-10
MCChinese(我的世界编程一小时) V1.0 中文安装版
10次软件大小:95.44 MB
更新日期:2023-06-12
小米妙享 V2.0.0.621 官方版
10次软件大小:112 MB
更新日期:2023-06-09
燕秀工具箱 V2.87 官方版
6次软件大小:38.96 MB
更新日期:2023-05-27
秀米编辑器电脑版 V2.0 官方版
6次软件大小:31.13 MB
更新日期:2023-05-27
文华财经赢顺 V6.8.222 官方版
6次软件大小:83.47 MB
更新日期:2023-06-12
Location(虚拟定位) V1.0 正式版
6次软件大小:16.04 MB
更新日期:2023-06-10
最新软件
热门软件推荐