如何修改spark资源上传目录?

yarn.Client: Uploading resource file:/tmp/spark-6947d690-9749-43bd-8d9a-e14e8ccc1138/__spark_libs__3170539481839891703.zip -> hdfs://node4:9000/user/root/.sparkStaging/application_1623053077163_0001/__spark_libs__3170539481839891703.zip

如上一段SPARK日志输出,请问如何修改上传的目录,也就是 将​​hdfs://node4:9000/user/root/...​​目录修改为其他目录

spark
2023-08-29 14:14:40
浏览
收藏 0
回答 1
待解决
回答 1
按赞同
/
按时间
尾尾小鱼

在 ​spark-defaults.conf​ 里设置属性 ​spark.yarn.stagingDir​

分享
微博
QQ
微信
回复
2023-08-29 16:15:10
相关问题
如何动态访问media目录下的资源
891浏览 • 1回复 待解决
在OceanBase中,如何修改资源限制?
1920浏览 • 1回复 待解决
canvas怎么绘制资源目录下的图片
281浏览 • 1回复 待解决
spark Dataset<Row>如何按行获取数据?
1202浏览 • 1回复 待解决
资源目录下的文件到沙箱的单向流动
480浏览 • 1回复 待解决
如何动态根据资源名获取资源id
7391浏览 • 1回复 已解决
如何通过资源ID拿到对应资源
6009浏览 • 3回复 待解决
spark 没有c#的api,那c#怎么用spark呢?
1357浏览 • 0回复 待解决
NEXT网络请求如何上传大文件 ?
795浏览 • 1回复 待解决
mysql 如何批量修改
1593浏览 • 1回复 待解决
上传文件后,如何接受后端返回数据
745浏览 • 1回复 待解决
求大佬告知如何将http文件上传
544浏览 • 1回复 待解决
如何修改OceanBase 集群参数?
3082浏览 • 1回复 待解决
HarmonyOS如何获取用户相册所有目录
754浏览 • 1回复 待解决
鸿蒙如何读取resources目录下的文件
2061浏览 • 1回复 待解决
ohpm-repo上传产物如何跳过输入密码
332浏览 • 1回复 待解决
如何修改DevEco颜色主题?
8351浏览 • 3回复 已解决