26
以互联网数据为关键资产的数字化转型 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved. 王仕,AWS 金融行业解决方案架构师

以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

  • Upload
    others

  • View
    21

  • Download
    0

Embed Size (px)

Citation preview

Page 1: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

以互联网数据为关键资产的数字化转型

2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

王仕,AWS 金融行业解决方案架构师

Page 2: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

数字化转型在金融科技层面,究竟会发生什么样的变化,这是金融科技部门开展数字化转型的第零步。

信息化转型专线支持的网点、ATM、POS机等客户场景

项目经理思维,架构师思维

以金融机构为视角的专业化产品

基于完整需求进行瀑布式开发

业务部门定义产品,科技部门实现产品

由项目经理、架构师、领域开发人员组成的开发中心、测试中心和数据中心

自建,私有云

大数据

MVC/三层

开发工具、运维工具

实现“人管机器”的技术自动化

数字化转型互联网生态及自有 App 的用户场景

产品思维、数据思维

以客户体验为核心的生态化产品

基于体验点进行敏捷开发

业务部门和科技部门共同定义产品

包含项目经理、产品经理、全栈开发组成的两个比萨团队

自建+租用,私有云+公有云

数据湖

现代化应用

DevOps、AIOps

业务自动化

产品形态

开发模式合作模式

团队组织

人员思维

技术平台

使用模式

数据架构

应用架构

开发运维管理工具

自动化程度

Page 3: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

这些变化会带来什么价值?高效、连接和创新是数字化转型被普遍认可的价值。 FINRA 金融监管局基于AWS 数据湖、AI 等多种架构和技术,实现对每天750亿笔交易的动态实时监管。这有力证明了三大价值。

Data Engineering Model Selection

ML FrameworkData Framework

Trained

ModelScoring

Algorithms

EGRPython, R,

Scala, SQL

Scala

Python

Scala, Python, R

TestChosen

Model

DataObservation-1

Observation-2

Observation-n

Notebook

Promotion

数据湖

Amazon

EC2

Amazon

EC2

Amazon

S3

监管模型开发 生产环境

FINRA

herd

Python, R,

Scala

Data Framework

Scala

Python

Iterative

Page 4: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

结合更多的案例,我们不难看出,数字化转型的关键资产是数据。那么,如何利用好数据资产?关键是要实现三个闭环。首先是业务上的闭环。亚马逊自身正是基于 Andes Data Marketplace 实现业务闭环,有利支撑亚马逊公司“地球上最以客户为中心”战略目标的达成。

Page 5: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

结合更多的案例,我们不难看出,数字化转型的关键资产是数据。那么,如何利用好数据资产?关键是要实现三个闭环。首先是业务上的闭环。亚马逊自身正是基于 Andes Data Marketplace 实现业务闭环,有利支撑亚马逊公司“地球上最以客户为中心”战略目标的达成。

Page 6: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

第二个闭环是数据的闭环。互联网数据和自有数据的融合和迭代是关键点。国内某商业银行正基于数据闭环的思想,以“金融知识搜索引擎”为验证点,跟 AWS 展开积极的合作探索,以在节约成本的同时,提高自研敏捷能力。

更佳体验

更多需求

Page 7: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

目录和搜索

Amazon

DynamoDB

Amazon Elasticsearch

Service

AWS

AppSync

Amazon

API Gateway

Amazon

Cognito

AWS

KMS

AWS

CloudTrail

AWS

IAM

Amazon

CloudWatch

AWS Snowball

AWS Storage Gateway

Amazon Kinesis Data

Firehose

AWS Direct Connect

AWS Database Migration

Service

AmazonAthena

Amazon EMR

AWS Glue

Amazon Redshift

Amazon DynamoDB

AmazonQuickSight

AmazonKinesis

Amazon Elasticsearch

Service

Amazon Neptune

AmazonRDS

AWS Glue

相比国外同业,通常国内金融机构拥有更多的数据。数据湖是“存储和计算分离”的架构风格,以更强的数据管理能力和更灵活的计算框架等特点,正快速成为下一代的数据管理架构。

访问和用户接口

数据摄取

管理和安全

分析和服务

集中存储

Page 8: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

AWS 基于大量用户实践,提炼数据湖参考架构以帮助金融机构解决包括“主机环境和开放环境的数据闭环”等问题。

RegionOn-premise

Mainframe

Processedlayer

Consumption layer

Glue ETL job

Glue Crawler Glue Crawler

Analyze/VisualizeIngest

Kinesis Firehose

Kinesis

Streams

Kinesis

Data Analytics

Kinesis

Streams

DynamoDB App

Real time analytics

2 3

5

Transform

Amazon Athena

Amazon QuickSight

Glue

Catalog

Kafka

1

4

Glue ETL job

Raw layer

Glue Crawler

Page 9: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

第三个闭环是技术的闭环。Vanguard 基金正基于“云数据架构”模式,实现“云上和云下”的技术闭环,完成敏态 IT 和稳态 IT 的有机整合。

μservice

CDC

CDC

μserviceReplicator

Dispatcher

DB Writers

Event Writers

Big Data

Exte

nded

Hub

Page 10: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

实现这三个闭环后,如何进一步激活数据资产?是专注提升数据量的大小,还是加大数据集的丰富度?关键还是在于提升数据资产的活力,也就是提升“热度”。提升“热度”,首先是开放。BBVA 银行以“API Market”开放数据,为客户提供包括 PayStats、SEL 在内的16类 API 服务,提升数据热度,加大金融生态收益。

tARMADILLO

RDS

Datos PayStats

BUSINESS INTELLIGENCE

ETL RabbitMQAmazon S3

MONITORING

CloudWatchPrometheus ElasticSearch

MICROSERVICES → APIs

(Retail, Business, Notifications, etc.)

Datos Sel

BBVA's online banking

Page 11: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

提升“热度”第二个关键点在于金融机构的成员都能够参与进来。Vanguard 基金基于 CTO office、LOB

IT 和 BU Stuff 的三级模式,力争实现“人人都是数据科学家”,加快整体创新的力度。

On-premise AWS Cloud

Region

Control-M

Bitbucket CFT, JSON,

Ansible,

YAML

Bamboo

Ephemeral

Amazon EMR

Cluster

Data

Amazon EC2

Job Node –

Bamboo

Plugin

Hive/Hue

Metastore

Amazon EC2

Tableau

Server

Data

Engineer and

Data

Scientists

Browser

Amazon EC2

Anaconda

Repo

Page 12: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

提升“热度”第三个关键点还在于有更多的应用场景。仅在数据驱动的人工智能领域,AWS 已总结48个本地化场景,为中国金融机构提供必要的参考建议。

智能风控 产品营销 智能支付客户服务 智能投顾及投研

Page 13: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

AWS 还总结包括营业网点智能监控、开发测试、保险互联网核心、双录在内的十大场景,进一步提升数据“热度”。从营业网点智能监控场景可以看出,视频数据对客服、营销等业务部门在遗失物品主动找回、客流分析等关键环节有直接的帮助。

营业网点

市级安全指挥中心 AWS Cloud

DynamoDB

Lambda

Lambda

2.结构化处理

Cognito

6. 身份认证

Elasticsearch

EC2

1.视频通过SDK上传到AWS

移动端

管理控制流

API Gateway

S3-视频流移动客户管理端

电视墙

7.视频回放等使用

4.结构化

信息存储

3.结构化信息查询

5.控制信息

5. 控制信息

Page 14: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

应用场景需要以云原生、敏捷和自动化为特征的现代化应用架构去具体落地。Liberty Mutual保险在“智慧员工助手”应用上,基于现代化应用架构实现了大幅提升员工满意度。

Page 15: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

Scotiabank 银行利用自动化的资源调度能力打造风控系统的现代化应用架构,实现信用卡拖欠甄别上提升20%的良好效果。

Amazon

S3

VPC subnet

instances instances

model.code

model.input.data

model.output.results

Amazon ECR

DeepLearni.ng

DSMI

Percentage of charge-offs captured in bottom 10%

Out-of-

time

dataset

DeepLearni.ng

model

Incumbent (in-house) model

Lift

Nov-14 54.5% 45.3% 20.3%

Jan-15 55.0% 46.2% 19.1%

May-15 55.4% 46.8% 18.2%

Aug-15 50.1% 42.1% 19.0%

• 使用TensorFlow,用Python编写• 需要约300个来自信用机构和内部变量

作为输入• 通过网格搜索选择超参数(学习率,批

量大小,#layers,#npl,#epochs,激活函数......)

• 通过分层进行10倍交叉验证

Page 16: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

Ally Banking 银行基于云原生技术快速实现数字化渠道的现代化应用架构,有效提升用户体验。

Amazon Alexa

Amazon Developer Portal

Voice Interaction Model

Ally Interactive API

(AWS Lambda)

Transactions

Accounts

Welcome

Transfers

Rates

CurrenSee

Amazon

CloudWatch

AWS X-Ray

AWS IAM

AWS KMS

Shared

Services

AuthN Token Secure

Gateway

Ally

Microservices

Enrollment APIs

Step Up Auth

AuthN APIs

Banking APIs

Notify Services

Page 17: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

同样的,CapitalOne 银行借助 AWS 云原生技术栈,在 AI 赋能的数字化渠道、数字化风控体系等场景下,实现快速投产。

Capita One AI应用快速投产面临的主要问题 Capita One “Build on AWS”的解决思路

Remember the infrastructure Built on AWS ML takes time, and technical debt

Democratize AI, responsibly

Maximize scarce experts’ productivity

There is a lot more than the ML model

负责任地民主化人工智能 最大化稀缺专家的生产力 只有ML模型远远不够

记得基础设施的重要性 ML 需要时间和解决技术债务

Model selection and Hyper-parameter Tuning模型选择和超参调优

GPU OptimizationGPU优化

Self-service自服务

Production is a hard place投产是难点

Continuous Monitoring持续监控

Rapid ML model refit/deployRapid ML模型改装/部署

Page 18: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

加快“热度”提升效率关键在敏捷。Liberty Mutual 保险的 Cloud Delivery Pipeline DevOps 的敏捷模式,有利支撑“实时财务结算”的数字化转型。

Release AutomationWork

Intake

Build

Automation

Deployment & Monitoring AutomationEnable Test

Automation

Integrated and continuous delivery and deployment

Build Artefact Repository

Provision App or Platform

Environments

Infrastructure- as- code

AWSCloudFormation

ActivitiWorkflow Process

Data Store

Project,Task, Story,Defect, Backlog

Continuous integration of Source Code

(Git SCM)

SecretsMgmtAutomation

Page 19: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

最后,也是最关键的是需要有清晰的路线图。NAB 银行在 AWS 的帮助下,制定爬、走、跑的三步路线图,有序提升新品推向市场速度,提升开发人员效率,并提升资金使用效率。

2012 20182013 2014 2015 2016 2017

AMP v1

• Establish Hosted Infrastructure Platform Team

• Perimeter controls

• Demarcation between application and infrastructure

• AWS formed community of practice

• DC consolidation drives some material workloads to cloud

• Formal engagement with security and risk

teams on cloud (CSAM foundation created)

• Standardized Landing Zone Patterns• Direct Connect

• Continuous Compliance• Standards based framework for regulator

engagement

• AWS Managed Services embedded for scale migration of COTS

• Developer Launch Pad for developer productivity

• NAB Cloud Guild

Crawl Walk Run

爬 走 跑

• 建立托管基础架构平台团队- 边界控制- 应用程序和基础架构之间的划分

• AWS组建实践社区

• 数据中心整合驱使部分负载推向云端• 正式参与云的安全和风险团队(创建

CSAM Foundation)• 标准化着陆区模式• Direct Connect专线

• 持续合规• 基于标准的监管机构参与框架• 嵌入的AWS托管服务用于COTS的规模迁移• 为开发人员提供开发者发布Pad

• NAB云公会

NAB AWS/Public Cloud Usage Over Time

Page 20: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

清晰的路线图,需要专业顾问的专业服务,以减少试错成本,提高迭代效率。AWS ProServe 专业服务团队整合全球资源,在国内外多个项目上已成功支持金融机构的数字化转型。

顾问咨询

• 输出亚马逊创新机制、制定企业上云策略和实施路线图

大规模迁移

• 评估、 设计、 实施企业存量应用系统向AWS的平稳迁移

安全与合规

• 评估、 设计云端的安全与合规性运维规范和自动化

运营整合

• 设计混合环境下的运营规范和自动化

关键负载上云

• 部署或迁移SAP, Oracle, Microsoft的关键系统上AWS

DevOps

• 评估和指导企业向研发运维一体化转型, 包括机构、 流程和工具

应用优化

•协助和指导企业构建微服务、 无服务器等云原

生应用。

业务连续

• 采用AWS构建容灾环境和双活架构

大数据分析

•协助企业选择应用场景、 设计模型和算法

•在AWS上部署和优化大数据分析/商务智能的计算和存储平台

物联网

•协助企业设计创新的物联网应用场景、 在AWS上部署物联网平台并与分析、 机器学习等高级服务集成

人工智能/机器学习

•协助企业运用机器学习/⼈⼯智能技术与服

务设计和实施创新的业务应用

Page 21: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

清晰的路线图还需要金融机构员工融会贯通各阶段所必要的新技术知识。AWS 培训部门提供业界最经实践验证的完整培训路径,成为国内金融机构寻找培训服务的首选。

基础课程

高级课程

专项课程

AWS Technical Essentials 讲师指导课程 | 1 天

Architecting on AWS讲师指导课程 | 3 天

Developing on AWS讲师指导课程 | 3 天

Systems Operations on AWS讲师指导课程 | 3 天

Advanced Architecting on AWS讲师指导课程 | 3 天

DevOps Engineering on AWS讲师指导课程 | 3 天

Big Data Technology Fundamentals

免费在线培训 | 3 小时

Data Warehousing on AWS讲师指导课程 | 3 天

架构师 开发人员 运营管理

Big Data on AWS讲师指导课程 | 3 天

AWS Security Fundamentals免费在线培训 | 3 小时

Security Engineering on AWS讲师指导课程 | 3 天

入门课程

决策者

Job Roles in the Cloud免费在线培训 | 3 小时

Secrets to Successful Cloud Transformations

讲师指导课程 | 1天

Migrating to AWS讲师指导课程 | 2 天

Introduction to Machine Learning

免费在线培训 | 40分钟Building a Serverless Data

Lake讲师指导课程 | 1 天

Deep Learning on AWS讲师指导课程 | 1 天

Running Container-Enabled Microservices on AWS 讲师指导课程 | 1 天

AWS Business Essentials 讲师指导课程 | 1 天

中级课程

AWS Cloud Practitioner Essentials免费在线培训 | 7小时

Page 22: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

本着“Go Build”的核心理念,为进一步支持金融机构数字化转型,AWS 在中国成立客户联合创新实验

室,提供技术资源和专家资源,在一周时间内,快速交付具备 Aha Moment 体验点特征的 MVP。

QualificationAW S协助企业评估数字化产品

研发的切入点

AW S CESL双方( 包括三方) 在AW S实验室内针对用例进行自动化测试实现最小原型, 并评估可实

施效果

Pre-Lab企业准备相应的人员、 数据以及用例,AW S协助企业定义一个实验原型目标

Im p lem entationAW S协助企业将最小原型部署到相应的产品系统

中, 并发掘迭代和进一步研发的机会

Page 23: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

除了以上 AWS 支持金融机构数字化转型的实际例子之外,还有更多的金融机构选择 AWS

作为数字化转型的好帮手。

Page 24: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

® 2019 Amazon Web Services Inc. or its Affiliates. All rights reserved.

这一切,离不开包括合作伙伴的鼎力支持和帮助。

Page 26: 以联网数据关键资产的数字化转型Webinar+… · Scotiabank 银行利用自动化的资源调度能力打造风系统的现代化应用架构,实现信用卡拖欠甄别上提升

AWS中国(宁夏)区域由西云数据运营AWS中国(北京)区域由光环新网运营

我们希望您喜欢今天的内容!也请帮助我们完成反馈问卷。

欲获取关于 AWS 的更多信息和技术内容,可以通过以下方式找到我们:

微信公众号:AWSChina

新浪微博:https://www.weibo.com/amazonaws/

领英:https://www.linkedin.com/company/aws-china/

知乎:https://www.zhihu.com/org/aws-54/activities/

视频中心:http://aws.amazon.bokecc.com/

更多线上技术活动:https://aws.amazon.com/cn/about-aws/events/webinar/

感谢参加 AWS 在线研讨会