org.apache.spark.SparkException: An application name must be set in your configuration

2015-07-10 09:09:04   作者:MangoCool   来源:MangoCool

在win7环境下,本机运行本简单Spark应用示例,出现异常:

Exception in thread "main" org.apache.spark.SparkException: An application name must be set in your configuration
	at org.apache.spark.SparkContext.<init>(SparkContext.scala:209)
	at SparkSql$.main(SparkSql.scala:12)
	at SparkSql.main(SparkSql.scala)
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
	at java.lang.reflect.Method.invoke(Method.java:606)
	at com.intellij.rt.execution.application.AppMain.main(AppMain.java:134)
从提示信息理解:你的应用配置必须要设置名称。

于是首先想到查看一下源码,这是就豁然开朗了:

if (!_conf.contains("spark.master")) {
   throw new SparkException("A master URL must be set in your configuration")
}
if (!_conf.contains("spark.app.name")) {
   throw new SparkException("An application name must be set in your configuration")
}
从源码so easy的看出来,在你的Spark应用配置里面,必须要设置master和app name!

至此问题解决!


标签: SBT Scala exception SparkSql

分享:

上一篇java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/HBaseConfiguration

下一篇IO error while decoding D:\WorkSpace\sbtTest\src\main\scala\sbtTest.scala with UTF-8

关于我

一个喜欢唱歌,热衷旅行,爱好电子产品的码农。没事,跟三五好友吼上几嗓子,约上几个背着行囊去露营或者宅在家里抱着孩子敲代码。

座右铭:当你的才华还撑不起你的野心的时候,你就应该静下心来学习,永不止步!

            人生之旅历途甚长,所争决不在一年半月,万不可因此着急失望,招精神之萎葸。


Copyright 芒果酷(mangocool.com) All rights reserved. 湘ICP备14019394号

免责声明:本网站部分文章转载其他媒体,意在为公众提供免费服务。如有信息侵犯了您的权益,可与本网站联系,本网站将尽快予以撤除。