向spark集群提交消费kafka应用时kafka鉴权配置问题
发表于:2024-11-24 作者:热门IT资讯网编辑
编辑最后更新 2024年11月24日,提交消费kafka应用里面包含sasl.jaas.config,通常需要配置文件。但是打成jar包后的应用,通过classload读不到jar包中配置文件。需要初始化kafka时增加propertie
提交消费kafka应用里面包含sasl.jaas.config,通常需要配置文件。但是打成jar包后的应用,通过classload读不到jar包中配置文件。
需要初始化kafka时增加properties属性。
kafkaParams.put("sasl.jaas.config", "xxxx required\n"+ " accessKey=\"xxxx\"\n"+ " securityKey=\"xxxxx\";");
换行,冒号,引号都不能少
注意kafka的依赖为:
同时要去掉spark-streaming-kafka中的kafka依赖