zhangbo 1 년 전
부모
커밋
e1fb16afc2
1개의 변경된 파일1개의 추가작업 그리고 1개의 파일을 삭제
  1. 1 1
      src/main/scala/com/aliyun/odps/spark/examples/makedata/makedata_02_writeredis.scala

+ 1 - 1
src/main/scala/com/aliyun/odps/spark/examples/makedata/makedata_02_writeredis.scala

@@ -89,7 +89,7 @@ object makedata_02_writeredis {
       if (userSampleIDs.nonEmpty) {
         savePathPart = savePathPart + "_" + userSampleIDs
       }
-      val userDataRead = sc.textFile(savePathPart).map(r => {
+      val userDataRead = sc.textFile(savePathPart).filter(_.split("\t").length >= 2).map(r => {
         val rList = r.split("\t")
         (rList(0), rList(1))
       })