今天阳光很暖
Redis 系列 2. 数据类型与常用命令 Redis 系列 2. 数据类型与常用命令
1. 先看 Redis 数据类型Redis 常见的一个误解是:它不是只能存字符串的 key-value 服务。Redis 的核心价值在于数据结构丰富,应用可以用很少的代码完成计数、排行、集合运算、状态统计、地理位置计算和简单消息流。 常见类
2024-09-20
Redis 系列 1. 入门、安装与基础配置 Redis 系列 1. 入门、安装与基础配置
1. Redis 是什么Redis 全称是 Remote Dictionary Server,可以理解为一个远程字典服务。 从工程使用角度看,Redis 是一个高性能的内存型 key-value 数据库。更准确地说,它是多数据结构内存存储系
2024-09-12
Flink 系列 18. Flink Table API 编程入门 Flink 系列 18. Flink Table API 编程入门
1. Table API 是什么Flink 中常见的编程方式主要有三类: 编程方式 特点 适合场景 DataStream API 最底层、最灵活,可以直接控制状态、时间、窗口、算子 复杂流处理、强定制逻辑 Table API
2024-09-05
ClickHouse 分布式表创建失败:Distributed table looks at itself ClickHouse 分布式表创建失败:Distributed table looks at itself
1. 问题现象在 ClickHouse 中创建本地表和分布式表时,本地表创建成功,分布式表创建失败。 建表语句如下: CREATE TABLE t_distributed_query_local ON CLUSTER two_shard (
2024-09-01
Spark 消费 Kafka 单节点耗时异常排查 Spark 消费 Kafka 单节点耗时异常排查
1. 问题现象Spark 消费 Kafka 时,大部分节点处理耗时都在 6 秒以内,但是有一个节点每次都要 22 秒左右,日志中没有明显异常。 草稿中记录的现象如下: 这种问题比较麻烦,因为日志没有报错,任务也不是失败,只是某一个节点持续
2024-08-21
Spark 写 MySQL 遇到 Emoji 字符异常分析 Spark 写 MySQL 遇到 Emoji 字符异常分析
1. 问题现象Spark 任务写数据到 MySQL 时,如果字段中包含 emoji 字符,insert 会失败。 草稿中的描述是: spark 写数据到 mysql 包含 emoji 字符导致 insert 失败, 已经将 mysql 的
2024-08-10
HDFS 写文件关闭时副本数不足异常分析 HDFS 写文件关闭时副本数不足异常分析
1. 问题现象Spark 跑批任务偶尔失败,异常信息如下: Exception in thread "main" java.io.IOException: Unable to close file because the last bloc
2024-07-12
Scala Maven Plugin 编译找不到 javac 异常分析 Scala Maven Plugin 编译找不到 javac 异常分析
1. 问题现象在 IDEA 中执行 Maven compile 时,项目编译失败。项目是一个 Maven + Scala + Java 混合项目,使用的是 scala-maven-plugin 编译 Scala 代码。 执行命令中可以看到当
2024-06-07
Spark SQL 读取 Parquet 字段类型不一致异常分析 Spark SQL 读取 Parquet 字段类型不一致异常分析
1. 问题现象在 Spark SQL 中查询一张 Hive Parquet 表时,任务执行失败,核心异常如下: org.apache.spark.SparkException: Job aborted due to stage failur
2024-05-22
Spark 读取 Hive insert-only 事务表异常分析 Spark 读取 Hive insert-only 事务表异常分析
1. 问题现象在 Spark 程序中执行 Hive 表查询时,程序在 SQL 解析阶段直接失败,异常信息如下: Exception in thread "main" org.apache.spark.sql.AnalysisExceptio
2024-05-06
Python爬虫 7.Scrapy多页抓取与数据保存实战 Python爬虫 7.Scrapy多页抓取与数据保存实战
一、实战目标说明前面的文章中,我们已经学习了: 如何使用 requests 和 urllib 发送请求 如何使用 XPath、BeautifulSoup 提取数据 如何使用 Scrapy 创建项目、编写 Spider、运行爬虫 但是这些
2024-04-12
Python爬虫 6.Scrapy 框架基础 Python爬虫 6.Scrapy 框架基础
一、为什么要学习 Scrapy在前面的章节中,我们已经学习了如何使用 urllib、requests 发送请求,也学习了如何通过 XPath、BeautifulSoup 解析网页内容,还了解了 Selenium 在动态页面中的使用方式。 这
2024-03-29
8 / 35