Oracle 工程化云平台及Database 12c新技术 —内存计算与数据 …...Copyright © 2014, Oracle and/or its affiliates. All rights reserved. | 一、硬件架构设计的对比

Copyright © 2014, Oracle and/or its affiliates. All rights reserved. |

Oracle 工程化云平台及Database 12c新技术—内存计算与数据库云整合


议题

•有关云计算技术的思考

• Oracle Exadata数据库云平台--落地的数据库云平台

• Oracle ZDLRA零数据丢失备份云平台

• Oracle Database 12c多租户技术—软件层的数据库云

• Oracle Database 12c内存计算—数据库云的加速器

Copyright © 2014, Oracle and/or its affiliates. All rights reserved. | 3

同时保护客户已有的技术投资

Oracle领导数据库技术创新

Release 1985 – 1997: 6, 7 and 8 1998 – 2012: 8i, 9i, 10g, 11g 2013-2014: 12c

Developer

Engine

OLTP throughput

Parallel Query, Partitioning

Big Data & CloudInternetClient-Server


数据平台未来发展方向

Engineered System

Cloud In-memory Big Data


提到云计算，往往习惯性考虑服务器虚拟化服务器虚拟化面临的挑战

物理服务器物理服务器

共享存储

HypervisorHypervisor

GuestVM

OS

DB

GuestVM

OS

Web

GuestVM

OS

DB

APP

Gu

est VM

Gu

est VM

虚拟机模板安装有OS，DB，中间件，APP等

基础架构云支撑层

存储管理工具

服务器管理工具

服务器虚拟化管理工具

数据库管理工具

中间件管理工具

云管理工具

为了提高性能，虚拟机往往外

接存储

存储的配置，冗余策略，不同存

储工具不同

多种工具才能实现完整的云管理

只能支持以大化小，由于性能损耗大，往往在开发测试中使用，关键性应用很少


模块化应用

数据库、中间件平台

定制化应用定制化应用定制化应用

消费者

消费者

服务提供者

服务提供者

用户必须在不同的云计算实现方式之间做出选择IaaS, PaaS, SaaS

IaaS Cloud

SaaS Cloud

PaaS Cloud

用户

模块化应用


IaaS云与PaaS云，哪个能给用户带来最大价值？设计视角决定了云的效果

• 以数据库部署及运维为例

RAS高可靠

Total cost of ownership

低成本

Flex高弹性

High Capacity高容量

High performance

高性能

特性

用户的数据库需求：IaaS云的特性：

• 从硬件及操作系统的视角进行云化设计

• 以虚拟化技术应用为主，如：主机、存储、网络的虚拟化

• 简化硬件及操作系统的管理

• 提供操作系统层的高可用保护和隔离

• 降低物理硬件的部署数量，而非总成本

但是，IaaS上运行的数据库存在明显问题：

• 性能下降明显，特别是存储访问性能

• 面对各类单点故障，仍无法避免宕机影响

• 扩展性差

• 投资回报率低

PaaS云的特性：

• 从平台软件的视角进行云化设计

• 追求平台软件及其相关组件的高可用、高性能、高可扩展能力和易管理性

• 简化平台软件、操作系统、硬件的管理

• 提供平台软件层的高可用保护和隔离

• 降低硬件和软件的总成本

PaaS上运行的数据库的优势：

• 性能大幅度提升

• 各类单点故障都不会导致数据库宕机

• 扩展性最好

• 投资回报率高


IaaS云与PaaS云，哪个能给用户带来最大价值？设计视角决定了云的效果

• “云”的建设类似于“房子”的建设

云房子对应关系

建设目的承载各种IT系统承载居住者

关键组件

•硬件、操作系统 •房间 IaaS

•数据库、中间件、集成软件、管理软件 •家电、家具、厨具等 PaaS

•应用软件 •居住者（人） SaaS


议题


• Oracle Exadata数据库云平台--落地的数据库云平台• Exadata的设计灵感来自于对传统架构数据库系统先天不足的剖析

• Exadata解决I/O性能瓶颈的创新设计

• Exadata的线性扩展、高可用、云化管理





Top 5 Timed Event

客户Oracle数据库的性能现状- 来自客户生产环境的数据


Exadata里程碑: 上万台的部署X5是第六代云平台

• Petabyte 数据仓库

• 商业应用– Oracle, SAP, …

• 在线金融交易

• 电子商务站点

• 大量数据库整合

• 领导SaaS提供者– Oracle Fusion, NetSuite,

– Salesforce.com …

11


数据库平台对比：传统架构 vs Exadata架构

客户端

传统架构

数据库服务器双机热备或集群

应用服务器（多机集群）ETL/BI服务

SAN存储交换机

存储阵列

数据库平台

客户端

数据库平台以Oracle Exadata为例，包含：1. 数据库服务器2. 交换机3. 智能存储服务器，部署：

- CPU、Memory- Disk- Flash Cache- Storage Server Software

云平台架构

应用服务器（多机集群）ETL/BI服务

应用平台


议题









一、硬件架构设计的对比按传统架构设计的数据库平台

存储层：•高端存储阵列可以容纳大于1000硬盘，存储控制器配置只有8至16核CPU•每块硬盘的吞吐量可以达到150MB/s或100-300次IOPS

主机层：•每核CPU处理能力约为400-800MB/s•每核CPU处理能力至少100,000次逻辑读（按98%命中率计算，相当于2,000次IOPS）•按照TPCC公开的测试报告计算，每核CPU应对应10000 IOPS

网络层：•高端光存储交换机（SAN）带宽为4-8Gb/s•通常每台服务器配置多根SAN交换机网线

60TB5GB/s10,000次IOPS

25GB/s 或64,000 – 320,000次IOPS

2GB/s平均响应时间：5ms

数据库主机32核CPU

SAN交换机2根8Gb/s

存储100块硬盘

硬盘数不足

存储控制器不足

交换机带宽不足

HBA卡不足

造成性能瓶颈的典型原因

注：IOPS指Oracle数据库层能够获得的值，每次IO至少8KB上述所有数据均来自于客户实际生产/测试环境及TPCC测试结果

数据获取路径时间倍数

L1 cache reference 0.5 ns

Main memory reference 100 ns

Native Flash Memory Access 25 µs 1

SSD random read 150 µs 6

SPC：SSD存储阵列的一次IO 520 µs 21

SPC：Disk存储阵列的一次IO 2310 µs 92

Disk seek 10 ms 400过去

现在

未来


SELECT cust_last_name, channel_id, SUM(amount_sold)

FROM sales s, customers c

WHERE s.cust_id = c.cust_id

AND c.location in (‘CA’,‘NY’)

AND s.gender = ‘M’

GROUP BY c.cust_last_name, s.channel_id

ORDER BY SUM(amount_sold);

大量数据被传送到主机端，其中只有0.1%是用户需要的大量的带宽被用于毫无意义的数据传输，消耗大量的用户时间

2GB/s平均响应时间：5ms

25GB/s 或320,000次IOPS

60TB5GB/s 或10,000次IOPS

二、存储层的软件设计导致了根本性的差异按传统架构设计的数据库平台


OS/Cluster

安装调试OS/Cluster

安装调试

集成

/ 测试

性能

调优

•服务器选型•Sizing

•存储系统选型•Sizing

•兼容性•Layout /RAID 实现

•SAN 设计•SAN兼容性•布线、安装

•高可用设计•集群实现

Patch

Patch

PatchPatch

•Volume Mgr

•File System

•Volume Mgr

•File System

Patch

存储软件存储软件

至少几个月

DB & HA/RAC

安装

部署数据中心多套业务系统1.系统兼容性需要长期磨合；2.问题定位诊断周期长；3.软硬件设备型号多，维护效率低；4.部署过程遗留较多隐患

16

三、多厂商vs单一供应商 =风险差异 ≠开放vs封闭按传统架构设计的数据库平台

http://image.baidu.com/i?ct=503316480&z=0&tn=baiduimagedetail&word=%D7%A5%BF%F1%B1%ED%C7%E9%CD%BC%C6%AC&in=26181&cl=2&cm=1&sc=0&lm=-1&pn=113&rn=1&di=15246942195&ln=2000&fr=ala0&ic=0&s=0&se=1&sme=0






http://image.baidu.com/i?ct=503316480&z=0&tn=baiduimagedetail&word=%CD%B4%BF%E0%B1%ED%C7%E9%CD%BC%C6%AC&in=14835&cl=2&cm=1&sc=0&lm=-1&pn=98&rn=1&di=12469474860&ln=2000&fr=ala0&ic=0&s=0&se=1&sme=0



议题









一、硬件架构设计的对比Exadata数据库云平台（以X4-2 1/8配为例）

存储层：•每块FlashCache（800GB）可以实现1800MB/s或47,000次IOPS，相当于150块硬盘的性能

主机层：•每核CPU处理能力约为400-800MB/s•按照TPCC公开的测试报告计算，每核CPU应对应10000 IOPS

网络层：•单通道速率为40Gb/s•每台存储服务器和数据库服务器配置2根Infiniband网线（冗余）

21TB（4.8TB）10.7 GB/s 285,000次IOPS

15 GB/s 或240,000次IOPS

20GB/s平均响应时间：0.1ms

数据库主机： 2台，24核CPU

Infiniband交换机：2台40Gb/s，

存储：3台18块硬盘

6块FlashCache卡18核CPU


二、存储层的软件设计导致了根本性的差异Exadata数据库云平台

Exadata数据库服务器

问题：昨天的销售业绩如何？

Exadata 智能存储层

Smart Scan

在TB 级数据中扫描匹配请求的数据

构建并发Smart Scan请求

仅仅返回满足条件的数据

- Row filtering based on “where”predicate

- Column filtering

- Join filtering

- Incremental backup filtering

- Storage Indexing

- Scans on encrypted data

- Data Mining model scoring

SUM

Select sum(sales) whereDate=’24-Sept’ …

Exadata智能存储软件的效果

MB51（物料凭证清单）报表执行情况：• 在客户现有ERP系统上执行：2266秒，超过 230,000次IO• 在Exadata上执行：3.5秒

数据获取路径时间倍数

L1 cache reference 0.5 ns

Main memory reference 100 ns

Native Flash Memory Access 25 µs 1

SSD random read 150 µs 6

SPC：SSD存储阵列的一次IO 520 µs 21

SPC：Disk存储阵列的一次IO 2310 µs 92

Disk seek 10 ms 400

未来


20

三、多厂商vs单一供应商 ≠ 开放vs封闭Exadata数据库云平台

• Exadata是Oracle在数据库领域的30年技术积累和专家优化经验统一融合的结晶

• 迄今为止最平衡设计和最佳性能的数据库平台

• 所有硬件和软件都来自于Oracle，全球统一的规格与版本，实现最高效的服务

• 数据库服务器与智能存储服务器都是X86服务器，运行环境为Linux或Solaris

• 数据库服务器上运行的是标准的Oracle 11g数据库软件，利用传统的工具可以实现与传统平台的数据库之间的平滑迁移

• 从用户使用角度看，“开放与封闭”的考虑：

“Exadata与传统平台数据库”类似于汽车中的“宝马”与 “夏利”，驾驶方式相同

“传统的大型机与开放平台的数据库”则类似于“坦克”与“汽车”，驾驶方式存在着巨大差异










议题









Oracle数据库云服务器-Exadata• 最佳的数据仓库服务器

– 性能提高10-100倍

– 高达10倍的数据压缩

– 数据智能扫描能力

– 内存数据的并行查询

• 最佳的OLTP系统服务器– 性能平均提高5-20倍

– 业界唯一的在真实用户环境中运行的网格数据库

– 智能闪存缓存提供20倍的磁盘IOPS能力

– 归档数据可达50倍的压缩能力

– 安全、容错的架构

• 最佳的整合服务器，支持云计算能力– 业界唯一能运行所有工作负载的数据库机

– 在多数据库、多应用、多用户环境下提供可预测的响应时间

Exadata保留并集成了Oracle30多年来积累的数据库技术发展的重要成果和优化经验


Exadata X5-2硬件概述完整 | 优化 | 完全冗余 |水平扩展

水平扩展的 2-Socket 数据库服务器– 当前最快的 Intel Xeon芯片, 18-core, 256 GB —768 GB内存

标准超高速InfiniBand网络– 40 Gb InfiniBand内部互联– 10 Gb or 1 Gb 以太网数据中心互联

水平扩展 2-Socket存储服务器– 每个服务器16 Intel Xeon内核，能够分流DB负载到存储服务器

– 极速Flash (EF) 存储 12.8 TB超高速PCI Flash磁盘或者

– 高容量(HC) 存储 6.4 TB超高速PCI Flash卡+ 96 TB SAS磁盘

23


弹性水平扩展从1/8机架到多机架

二分之一单机架

多机架

八分之一四分之一

• 初始配置2台数据库服务器和3台存储服务器- 按需在线增加数据库服务器或者存储服务器

• 能在老型号上扩展新一代服务器

24

每个机架最多容纳22台服务器或者38U高度


两台数据库服务器

3台存储服务器

两台Infiniband交换机

两个PDU

Real Application Clusters

ASM

Fast Recovery Area

Active Data GuardGoldenGate

Oracle Secure Backup

全冗余的硬件配置

Oracle MAA软件体系架构

2、可用性（单点故障不会影响业务运行）

Exadata 高可用性（单点故障不会影响业务运行）


Exadata上实现的资源云化管理 - 弹性资源分配技术

• 资源可弹性分配的能力决定了资源云化的实际效果

• 只对部分资源做云化管理，效果可能并不理想。例如，数据库关注的资源中，IO和CPU中如果只有部分实现弹性分配，数据库云的实际使用效果将大打折扣。

• Exadata中可以弹性分配的资源：

– Server

– CPU

– IO带宽

– 容量

– 网络资源

– 内存

– 防范资源过度使用

• 不同于其他虚拟化技术，Exadata的云化特性的使用不会降低性能


Oracle Exadata 数据库云平台优势总结

Copyright © 2011 Oracle Corporation and/or its affiliates – 27 –

• 性能优势，独一无二

− 解决困扰用户多年的数据库系统性能难题

− 将管理、决策从昨天变为当时

• 原厂集成，稳定性、可靠性、服务上拥有先天的优势

• 责任清晰，数据库以下仅需一家解决

• 故障容易诊断，解决问题高效

• 混合列压缩技术，解决查询分析系统数据膨胀问题

• 业内性价比最高的数据库平台

− 相同的CPU达到5-100倍于传统架构的性能

− 相同的磁盘存储5-40倍于传统架构的数据

− 协调成本和管理成本最低

• 实施周期短，开箱即用


议题







零数据丢失备份云平台ZDLRA


数据库保护相关的关键目标

• 业务部门目标–任何情况下都不会丢失关键业务数据

–数据保护不会影响业务处理

• I.T. 部门目标–确保数据库级别的可恢复性

–以集中式的服务方式来保护全部数据库

30

目前已有的备份解决方案无法实现这些目标


已有的备份云平台没有为数据库做任何针对性优化数据库的数据被作为需要周期性拷贝的普通文件数据对待

31

每天都需要备份窗口

备份对生产系统的性能有巨大影响，备份窗口内系统不能全负荷工作

数据被暴露在丢失的风险之下

可能会丢失最后一次备份之后的所有数据变化

许多彼此独立的系统需要管理

只能通过添加独立的备份云平台数量的方式扩展

数据库可恢复性不佳

虽然保存了大量文件的拷贝，但是数据库的保护状态是未知的


零数据丢失备份云平台

32

需要为关键业务系统数据库的数据提供一种基于完全不同技术基础的保护系统


恢复云平台为业务和IT提供独有的优点：

最小化备份对业务的影响

生产系统只需要送出变化数据. 所有备份和磁带相关的处理都可以有效减负

消除数据丢失风险

实时重做日志传送为时刻进行的交易提供即时的保护

云规模保护能力

用支持海量扩展的备份服务为全数据中心的大量数据库非常方便地提供保护

确保数据库的可恢复性

为数据库提供端到端的可靠性，可见性与全面控制 – 而不只是管理大量离散文件


零丢失数据恢复云平台概述

34

增量推送

•被保护数据库只需要访问和送出变化的数据• 最小化对生产系统的影响

•实时重做日志传输为进行中的交易提供即时保护

被保护的多个数据库

为数据中心的所有数据库提供保护

•PB 级数据管理能力•支持全部平台的10.2 到12c

Oracle 数据库•不需要昂贵的备份代理客户端

增量存储

•只在磁盘上存储验证和压缩过的数据库变化数据•自动组合增量数据提供任意时间点的快速回复•构建于Exadata架构的扩展性和可靠性•基于企业管理器提供端到端的管理和控制

恢复云平台

复制数据到远端的

恢复云平台

磁带备份卸载

Oracle ZDLRA备份云平台










































内蒙古人社厅采用ZDLRA备份云平台方案的收益

• 实时的零丢失数据库备份

• 备份数据的持续有效性保证

• 执行备份过程中对生产系统性能的最低干扰

• 更快的数据库恢复速度、更短的恢复时间

• 最高的备份空间使用效率

• 与其他系统集成的统一运维管理

39


议题







新的多租户架构（Multitenant）只有多租户容器需要内存和进程

系统资源

Copyright © 2014, Oracle and/or its affiliates. All rights reserved. | Public

多租户技术改变传统数据库整合方式

数据库服务专有的“虚拟机”

Hypervisor

CRMDW ERP

OS OS

Hypervisor

虚拟化

OS

BI

OS

Oracle Database Cloud

操作系统级服务器级共享

数据库级数据库Schema共享

OS OS OS OS

Sch

em

a

Sch

em

a

Sch

em

a

Sch

em

a

Sch

em

a

CRMDW ERPBI CRMDW ERPBI

数据库级多租户Pluggable Database


快速创建

多租户架构技术特点

SQL> SET TIMING ON

SQL> create pluggable database c01p01p

2 admin user app_Admin identified by pwd

3 file_name_convert = ('/pdbseed/', '/c01p01p/')

4 /

Pluggable database created.

Elapsed: 00:00:57.11

SQL> alter pluggable database c01p01p open;

Pluggable database altered.

SQL> alter pluggable database all open;


Public 4343

PDBSeed

EmptyPDB

CDB

EmptyPDB


快速克隆和快照

多租户架构技术特点

GL OE AP

GL-2GL-1 AP-1 AP-2 PO-1

PO

• 从远程容器克隆

• 从本地容器克隆

• 秒级轻量快照克隆

• 从非容器环境克隆

SQL> alter pluggable database C01P01P close ;


SQL> alter pluggable database C01P01P open read only ;


SQL> SET TIMING ONSQL> create pluggable database C01P02P2 from C01P01P3 file_name_convert = ('/c01p01p', '/c01p02p')4 /

Pluggable database created.

Elapsed: 00:00:31.90


多租户架构技术特点快速升级或打补丁12.1数据库

45

Original Container Database 12.1

GL OE AP GL OE

Upgraded Container Database 12.x

• 准备需要升级的数据库• unPlug - Plug

Copyright © 2014, Oracle and/or its affiliates. All rights reserved. | Public 46

统一备份、PDB级别恢复

多租户架构统一管理降低操作成本

GL OE AP

PDB级别基于时间点恢复

一次备份


多租户架构节省6x 硬件资源, 提升5x可扩展性

Public 47

OLTP测试•在同一台服务器上，运行相同的OLTP应用，对比运行N个数据库实例与运行N个Pluggable数据库

测试结果•Pluggable数据库可以持续运行到250库，而单实例库最多只能运行到50个实例• Pluggable数据库节省6倍资源• 3GB vs 20GB 内存, 整合50个数据库• 27% vs 36% CPU，整合50个数据库


多租户应用场景-开发测试灵活、及时地为可插拨数据库建立副本及快照

开发容器主生产容器

GL OE APGL

MasterGL

(Dev2)GL

(Dev1)


简单,标准化,降低风险,降低成本

整合独立的应用系统

Scalability and High Availability Limited

Available Capacity

SILV

ER

Oracle Database 12c – Multitenant Container Database – Silver SLA

11g

9i

11g

10g

11g

10g

MySQL SQL Server

Oracle转换组件

12c

12c

12c

12c12c

12c

资源消耗


✔ SILVER

BRONZE

GOLD

✔

✔

50

采用不同服务级别满足不同业务需求

数据库即服务

RAC, Data Guard

RAC

Backups测试开发

生产业务

关键业务


议题







客户必须权衡利弊，选择其中一种存储格式

52

行格式数据库 vs. 列格式数据库

Row

在行格式下事务处理运行快

– 例如: 插入或查询一个销售订单– 快速处理少量行，多个列

Column

在列格式下分析的更快

– 例如: 基于区域的销售汇总– 快速处理少量列，大量行

SALES

SALES


突破: 行列双格式内存数据库

同一张表在内存中同时支持行和列两种格式

同时激活并且保持事务一致性

分析和报表使用新的列格式

OLTP使用行格式

内存内存

SALES SALES

行格式列格式


Oracle In-Memory列存储技术

• 纯内存列格式

• 非持久化，不写日志

• 保证快速修改数据

• 2x 到 20x压缩

• 在表或分区级别激活

• 在所有硬件平台可用

• 可以将90%的内存用于列格式存储；将很少的内存用于行格式存储

SALES

Pure In-Memory Columnar


数量级更快的数据扫描

• 每个CPU内核扫描本地内存列

• 扫描使用超快的SIMD向量指令

• 以前该技术用于图形和科学计算

• 每颗CPU内核可以支持每秒10亿行/秒的扫描速度

• 行格式百万行/秒

Vec

tor

Reg

iste

r

加载多个州的值

在一个时钟周期内比较所有列值

CPU

Memory

REG

ION

CA

CACA

CA

例如:查找所有加州地区的销售

> 100x性能提升


数据Join也得到了极大的加快

• 将多表Join转化为快速的列扫描

• 多表 Join10x 加速

举例: 查询所有直销门店的销售

SalesStores

Sto

re ID

Am

ou

nt

类型=直销

StoreID =15, 38, 64

Sto

re ID

Typ

e

汇总


实时生成报告

• 首先动态生成In-Memory报告提纲

• 然后在报告提纲内通过快速扫描填充数据

• 不需要预定义cube即可加速报表

举例: 报告所有直营店的鞋类销售趋势

Sales

Stores

Products

In-Memory Report Outline

Footwear

Ou

tlet

s $$$

$$$$

Footwear

SalesOutlets


00.5

11.5

22.5

33.5

44.5

1 2 3 4

图表标题

Public 58

In-Memory Scan Performance Example

• 场景 – 扫描一亿行的大表中的一行数据(不使用索引)

25M Rows/sec

1 Billion Rows/sec


索引过多导致业务交易性能的下降

Insert rate decreases as number of indexes

increases

# of Fully Cached Indexes (Disk Indexes are much slower)

59

Ro

ws

Inse

rted

pe

r se

con

d

59


分析型索引会降低OLTP的性能

表 1到3个OLTP型索引

5到15个分析型索引大多数混合使用OLTP数据库（如

ERP）的索引仅仅用于分析

无论是在内存还是磁盘，索引在已知的访问模式下工作良好

但是，维护分析型索引将放缓所有的数据变化


分析和极限性能的OLTP

内存列存储可以替代分析型索引、并消除了表所需要的内存开销

无论是预定义的，还是即席分析查询都运行更快

OLTP联机事务处理和批处理的运行速度最高可提升300%

内存列存储

更少的维护和管理

表 1到3个OLTP型索引


Oracle In-Memory内存选件对应用透明

唯一能够实现所有In-Memory内存的好处、而无需改变应用

全部功能没有SQL限制

容易实施无需迁移数据或改变产品

完全兼容所有现有的应用程序运行不变

DB数据库服务就绪 Oracle In-Memory内存多租户


议题






Public 64

Documents

Oracle 工程化云平台 及Database 12c新技术 —内存计算与数据 …...Copyright © 2014, Oracle and/or its affiliates. All rights reserved. | 一、硬件架构设计的对比

Oracle 工程化云平台及Database 12c新技术 —内存计算与数据 …...Copyright © 2014, Oracle and/or its affiliates. All rights reserved. | 一、硬件架构设计的对比