Spark数据库的写入与读取

Spark 对于数据库的读取与写

使用 MySQL数据库的写法;

def getDataFrame(tableName: String): DataFrame = {
	var _spark: SparkSession = _
	val spark= _spark
        var df=spark.read
                .format("jdbc")
                .option("driver", "com.mysql.cj.jdbc.Driver")
                .option("url", host)
                .option("dbtable", tableName)
                .option("user", user)
                .option("password", pwd)
                .load()
}

//写入
def output(df: DataFrame, tableName: String, mode: SaveMode): Unit = {
        df.write
                .format("jdbc")
                .option("driver", "com.mysql.cj.jdbc.Driver")
                .option("url", SparkConfig.host)
                .option("dbtable", tableName)
                .option("user", SparkConfig.user)
                .option("password", SparkConfig.pwd)
                .option("batchsize",50000)
                .mode(mode)
                .save()

}
全部评论

相关推荐

qq乃乃好喝到咩噗茶:院校后面加上211标签,放大加粗,招呼语也写上211
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客企业服务