spark-optimization · AI Skill 用途与安装 · iSkills.cc
帮你优化 Spark 作业性能,处理分区、缓存和内存调优。
分类:数据分析
来源仓库:wshobson/agents
适合用来做什么
- 如何优化Apache Spark作业中的分区以提高性能?
- 请提供Spark作业缓存策略的最佳实践。
不适合的情况
- Don't use UDFs unnecessarily** - Use built-in functions - **Don't over-cache** - Memory is limited - **Don't ignore data skew** - It dominates job time - **Don't use `.
安装 spark-optimization
npx skills add https://www.iskills.cc/skills/wshobson/agents/spark-optimization/SKILL.md
在本机终端执行安装命令。安装前请阅读原始说明,确认所需工具、账号和权限。