Skip to content

GitLab

  • Projects
  • Groups
  • Snippets
  • Help
    • Loading...
  • Help
    • Help
    • Support
    • Community forum
    • Submit feedback
    • Contribute to GitLab
  • Sign in / Register
K
kb
  • Project overview
    • Project overview
    • Details
    • Activity
    • Releases
  • Repository
    • Repository
    • Files
    • Commits
    • Branches
    • Tags
    • Contributors
    • Graph
    • Compare
  • Issues 2
    • Issues 2
    • List
    • Boards
    • Labels
    • Service Desk
    • Milestones
  • Merge requests 0
    • Merge requests 0
  • Operations
    • Operations
    • Incidents
  • Analytics
    • Analytics
    • Repository
    • Value Stream
  • Wiki
    • Wiki
  • Members
    • Members
  • Activity
  • Graph
  • Create a new issue
  • Commits
  • Issue Boards
Collapse sidebar
  • granite
  • kb
  • Wiki
    • Data_stream
    • Ic
  • ic_spider_df

ic_spider_df · Changes

Page history
update: 工商上线流程处理 authored Apr 24, 2022 by 宋志鹏's avatar 宋志鹏
Hide whitespace changes
Inline Side-by-side
Showing with 6 additions and 0 deletions
+6 -0
  • data_stream/ic/ic_spider_df.md data_stream/ic/ic_spider_df.md +6 -0
  • No files found.
data_stream/ic/ic_spider_df.md
View page @ 616d8c4a
...@@ -126,11 +126,17 @@ queue "topic: ic_ods_binlog" ...@@ -126,11 +126,17 @@ queue "topic: ic_ods_binlog"
# 目前工商上线流程的问题 # 目前工商上线流程的问题
> mongo的ic表、股东、主要人员表等没有唯一约束,导致有数据重复 > mongo的ic表、股东、主要人员表等没有唯一约束,导致有数据重复
>
> 多进程上线,新收录主体注册digest时冲突,导致主体重复 > 多进程上线,新收录主体注册digest时冲突,导致主体重复
>
> 每天采集的大部分数据是没有变化的,但都会更新mongo,且不知道哪些字段有变化 > 每天采集的大部分数据是没有变化的,但都会更新mongo,且不知道哪些字段有变化
>
> 由于mongo对同一个字段的类型没有统一约束,导致同一个字段有不同的数据类型 > 由于mongo对同一个字段的类型没有统一约束,导致同一个字段有不同的数据类型
>
> 有些再加工字段,由于不能监控实际有变化的记录,而都放在上线程序中处理,导致上线程序做了太多事情 > 有些再加工字段,由于不能监控实际有变化的记录,而都放在上线程序中处理,导致上线程序做了太多事情
>
> 由于不知道实际有变化的数据信息,在更新对外输出表、联系方式表等时需要对采集的全部数据做处理,严重浪费资源 > 由于不知道实际有变化的数据信息,在更新对外输出表、联系方式表等时需要对采集的全部数据做处理,严重浪费资源
>
> 更新mongo时处理逻辑复杂,上线代码维护难度大 > 更新mongo时处理逻辑复杂,上线代码维护难度大
......
Clone repository
  • README
  • basic_guidelines
  • basic_guidelines
    • basic_guidelines
    • dev_guide
    • project_build
    • 开发流程
  • best_practice
  • best_practice
    • AlterTable
    • RDS
    • azkaban
    • create_table
    • design
    • elasticsearch
    • elasticsearch
      • ES运维
    • logstash
View All Pages