博客
关于我
大数据之Flume:Flume监控端口数据官方案例
阅读量:330 次
发布时间:2019-03-04

本文共 1066 字,大约阅读时间需要 3 分钟。

监控端口数据方案实例

案例需求

我们需要使用Flume监听一个指定端口,收集该端口的数据,并将其打印到控制台。

需求分析

为了实现上述需求,我们需要以下几个关键组件:

实现步骤

1. 使用的组件

(1)netcat source

作用:监听特定TCP端口收到的数据,将每行数据封装成一个事件。

(2)Logger sink

作用:使用日志输出器将事件输出到控制台或文件。

(3)Memory Channel

作用:用于缓冲事件数据,确保数据处理的高效性。

2. 安装必要工具

[sudo yum install -y nc]  # 安装netcat工具

3. 创建Flume Agent配置文件

mkdir -p flume/job  # 创建工作目录cd flume/job  # 进入工作目录vim flume-netcat-logger.conf  # 打开配置文件

4. 启动Flume Agent

bin/flume-ng agent -c conf/ -n a1 -f job/flume-netcat-logger.conf -Dflume.root.logger=INFO,console

5. 发送数据测试

nc localhost 44444 < "hello bigdata"

6. 监控数据接收情况

配置文件详解

# 配置文件内容a1.sources = r1a1.sinks = k1a1.channels = c1a1.sources.r1.type = netcata1.sources.r1.bind = localhosta1.sources.r1.port = 44444a1.sinks.k1.type = loggera1.channels.c1.type = memorya1.channels.c1.capacity = 1000a1.channels.c1.transactionCapacity = 100a1.sources.r1.channels = c1a1.sinks.k1.channel = c1

启动命令说明

  • -c:指定配置文件存储路径
  • -n:指定Flume Agent的名称
  • -f:指定要加载的配置文件路径
  • -Dflume.root.logger=INFO,console:设置日志打印级别为INFO,输出到控制台

测试发送数据

nc localhost 44444 < "hello bigdata"

监控数据接收

通过Flume的监控界面可以实时观察数据接收情况。

转载地址:http://xmoh.baihongyu.com/

你可能感兴趣的文章
OpenCV与AI深度学习 | YOLOv11来了:将重新定义AI的可能性
查看>>
OpenCV与AI深度学习 | YOLOv8自定义数据集训练实现火焰和烟雾检测(代码+数据集!)
查看>>
OpenCV与AI深度学习 | YOLOv8重磅升级,新增旋转目标检测,又该学习了!
查看>>
OpenCV与AI深度学习 | 一文带你读懂YOLOv1~YOLOv11(建议收藏!)
查看>>
OpenCV与AI深度学习 | 五分钟快速搭建一个实时人脸口罩检测系统(OpenCV+PaddleHub 含源码)
查看>>
OpenCV与AI深度学习 | 什么是 COCO 数据集?
查看>>
OpenCV与AI深度学习 | 低对比度缺陷检测应用实例--LCD屏幕脏污检测
查看>>
OpenCV与AI深度学习 | 使用 MoveNet Lightning 和 OpenCV 实现实时姿势检测
查看>>
OpenCV与AI深度学习 | 使用 OpenCV 创建自定义图像滤镜
查看>>
OpenCV与AI深度学习 | 使用 SAM 和 Grounding DINO 分割卫星图像
查看>>
OpenCV与AI深度学习 | 使用OpenCV图像修复技术去除眩光
查看>>
OpenCV与AI深度学习 | 使用OpenCV检测并计算直线角度
查看>>
OpenCV与AI深度学习 | 使用OpenCV轮廓检测提取图像前景
查看>>
OpenCV与AI深度学习 | 使用Python和OpenCV实现火焰检测(附源码)
查看>>
OpenCV与AI深度学习 | 使用PyTorch进行小样本学习的图像分类
查看>>
OpenCV与AI深度学习 | 使用YOLO11实现区域内目标跟踪
查看>>
OpenCV与AI深度学习 | 使用YOLOv8做目标检测、实例分割和图像分类(包含实例操作代码)
查看>>
OpenCV与AI深度学习 | 使用单相机对已知物体进行3D位置估计
查看>>
OpenCV与AI深度学习 | 初学者指南 -- 什么是迁移学习?
查看>>
OpenCV与AI深度学习 | 十分钟掌握Pytorch搭建神经网络的流程
查看>>