如何解决使用pyspark从redis读取特定键
我正在尝试使用 pyspark 从 Redis 读取特定密钥。 根据文档,我还没有找到任何特定的命令来读取特定的密钥。使用以下代码,我可以从 Redis 读取所有数据:
testid = spark.read.format("org.apache.spark.sql.redis")\
.option("table",'testing123')\
.option("key.column","id")\
.load()
请推荐
解决方法
你可以试试keys.pattern
。来自docs:
要读取 Redis 哈希,您必须提供一个键模式
.option("keys.pattern",keysPattern)
选项。数据框架构
应明确指定或可以从随机行推断。
[...] Spark-Redis 尝试根据密钥模式提取密钥:
- 如果模式以
*
结尾并且它是唯一的通配符,则将提取尾随子字符串 - 否则不会提取 - 密钥保持原样。
testid = spark.read.format("org.apache.spark.sql.redis") \
.option("keys.pattern","keyPattern:*") \
.option("key.column","id") \
.option("infer.schema","true") \
.load()
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。