带你去看民生银行大数据体系架构设计( 五 )


在数据开放平台中,API 是数据基础 。在各类数据规范的指引下,对数据进行分门别类,维度切分后,以在线 API 的方式提供包括数据接入、数据供给等各类服务,供各应用场景实时、组合式调用 。通过统一的开放网关实现服务接入、发布、鉴权、访问、统计和监控,实现数据安全与管控 。
功能架构数据开放平台整体上包含管理网站和网关系统两部分 。管理网站负责 API 的接入、发布、维护、监控,访问统计数据的展示和 API 的访问申请审批 。网关系统是访问 API 请求的统一出入口,负责请求的鉴权、访问控制、流量控制、统计监控等功能 。

带你去看民生银行大数据体系架构设计

文章插图
 
图 11、功能架构图
技术架构管理网站将 API 数据、鉴权数据和访问控制配置信息等持久化到 MySQL 数据库,同时将这些数据和配置信息通过 Zookeeper 服务同步到网关系统 。为了实现对请求的灵活管控,网关系统针对黑名单、身份验证、权限校验、流量控制等功能采用插件化开发,且每个插件均能动态开关 。每个请求的处理日志信息通过异步方式发送到事件队列,并由单独的日志收集进程进行收集,大数据实时计算平台对收集的日志进行分析处理将访问统计数据存储到数据库供用户查看 。
带你去看民生银行大数据体系架构设计

文章插图
 
图 12、技术架构图
建设现状数据开放平台上的 API 服务分为客户行为类、客户资产类、行外数据类、基础服务类等,其中基础服务类中已经接入了实时数据接收 API,该 API 用于接收各个系统实时数据供后续实时计算任务消费 。已经开发完成客户行为类 API 共 16 个、客户资产类 API 共 6 个、行外数据类 API 共 13 个,OpenAPI 平台属于初步完成建设,后续会有更丰富的数据服务 API 通过数据开放平台对外服务 。
总结民生银行大数据建设之路是一个配合业务场景需求反复迭代前进的一个线路,发展到今天,从多个不同的平台、模块逐步的形成了几大体系:数据采集体系、数据服务体系、批量数据分析体系、实时数据分析体系以及智能数据分析体系 。对于数据服务体系,主体是整体规划中提到的数据中台演化而来,是数据业务化输出的重要承载体 。数据服务体系形成统一的数据服务目录,由开放平台层面的网关统一进行把控,通过场景化数据服务中台对数据和模型应用进行服务化,为对数字化、场景化的业务转型提供了坚实的底层支撑能力 。

【带你去看民生银行大数据体系架构设计】


推荐阅读