소스 검색

account association improve

luojunhui 9 달 전
부모
커밋
43ec8d93c4
1개의 변경된 파일1개의 추가작업 그리고 1개의 파일을 삭제
  1. 1 1
      coldStartTasks/crawler/toutiao_recommend_crawler.py

+ 1 - 1
coldStartTasks/crawler/toutiao_recommend_crawler.py

@@ -91,7 +91,7 @@ class ToutiaoRecommendCrawler(object):
         abstract = item['Abstract']
         publish_time = item['publish_time']
         insert_sql = f"""
-            INSERT INTO crawler_meta_article
+            INSERT IGNORE INTO crawler_meta_article
             (platform, mode, category, out_account_id, title, link, read_cnt, like_cnt, status, description, publish_time, crawler_time, unique_index)
             VALUES
             (%s, %s, %s, %s, %s, %s, %s, %s, %s, %s, %s, %s, %s);