Oracle智能聊天机器人及AI技术展望...Oracle AI的技术堆栈提供人工智能支持的关键要素针对机器学习进行优化的高性能计算和存储基础架构

Oracle智能聊天机器人及AI技术展望

黄冠辉 RayesHuang高级资深架构师

Copyright © 2017, Oracle and/or its affiliates. All rights reserved.

我们身边的人工智能及机器学习

Confidential – Oracle

Internal

2

Internet Services Medicine

• 癌细胞的检测

• 糖尿病分级

• 药物发现

• 行人检测

• 车道跟踪

• 识别交通标志

• 人脸识别

• 视频监控

• 网络安全

• 视频字幕

• 内容检索

• 实时翻译

• 图像/视频分类

• 语音识别

• 自然语言处理

互联网服务医疗媒体娱乐安全无人驾驶


企业关注的领域

Oracle Confidential –

Internal/Restricted/Highly

3

Source: Deloitte State of Cognitive Survey, August 2017

对重复的，基于规则的功能性任务实现自动化

提高分析模型的速度、规模和粒度

90年代商业人工智能的最后浪潮

经常用于图像和语音识别

将计算机视觉等人工智能集成到机器人中

企业正在研究或投资应用AI / ML的领域

理解和模拟人类对话，提供更好的人机交互


Oracle AI战略

模型学习数据AI 赋能的

应用

自适应人工智能应用CX ERP SCM HCM

SaaS

PaaSIaaS

聊天机器人

数据管理

物联网

人工智能平台

GPU

高级分析应用开发

管理云


Oracle AI的技术堆栈提供人工智能支持的关键要素

针对机器学习进行优化的高性能计算和存储基础架构

数据管理基础设施需要大量数据、数据清理和规范化以及数据丰富化

Oracle将AI和ML功能嵌入到自己的业务和IT服务中，使用相同和优化的AI技术堆栈

先进机器学习模型、快速发展的综合环境

AlgorithmCatalog

Collaboration

Cognitive Services API

Machine Learning Frameworks

Auto ModelSelection

Model Dev Tools

Data Analysis

Machine Learning

Development

Environment

Enterprise Data Lake

2nd PartyData

3rd PartyData

Security

Data Integration

Data Enrichment

Data Preparation

Data API

Data Managemen

tfor AI

GPUs

High Performance Network

High PerformanceObject Store

Low Cost Archive Storage

Infrastructure for AI

Recommendations, Insights, and Actionable Events

EmbeddedAI

Business Apps -ERP, SCM, CX,

HRM

IT Operations –DB, Security and

Management

Others –Mobile with

conversational AI

Oracle Cloud Infrastructure • X7 Compute – HPC Ready Latest Skylake processors NVMe SSDs 50Gbe network

GPUCloud

Big Data Cloud

DB Cloud

Oracle Analytics Cloud

AI Platform Cloud *Advanced AnalyticsORAAH

Oracle Data Management Solutions

CX, ERP, SCM, HCM CloudAdaptive Intelligent Apps

IoTApps Cloud

Mobile Cloud

AI Chatbot

Management & Security

Cloud

AutonomousDWH Cloud *

DaaSSolutions(3rd Party

Data)

* Coming Soon

Copyright © 2017, Oracle and/or its affiliates. All rights reserved. |

甲骨文 AI 平台云服务

• 完整的AI开发平台• 快速建立AI开发系统的自动缩放特性

• 预置AI库、工具、例子、深度学习框架

• NVIDIA CUDA 和cuDNN 驱动

• 集成Oracle对象云，轻松连接到现有Hadoop集群

• 通过Oracle PaaS，无缝的建立AI驱动的应用

• 最佳人工智能计算基础设施• 提供GPU 裸金属服务: 2x NVIDIA Tesla P100 GPUs

- 基于NVIDIA’s Pascal架构

• 预披露 NVIDIA Volta GPUs with up to 8 V100 GPUs

• NVMe 高速闪存存储

• 25 Gig 以太网络加速任何机器学习框架

Copyright © 2017, Oracle and/or its affiliates. All rights reserved. |

Oracle AI平台云服务简化架构、工具链和模型部署

Oracle PaaS

Language

Image

Video

HREmotion

易于开发

3发布

规范化获取数据训练测试预流程定义2开发

• Frameworks• AI libraries• Samples• GPU clusters• Connect to data• Auto scale, updates• HS network, storage

• Object Stores

• Big Data CS

• Database CS

• Spark-Hadoop

易于数据访问

+1建立构建&管理

发布API输出模型 APIs


我们正处于一个新的世界，会话方式将取代计算机和连接设备上最常见的交互

8

“会话AI优先” 将取代

“云优先、移动优先”

是作为未来10年

最重要、最高层的当务之急

• Source: Gartner 2018

人工智能市场

Copyright © 2017, Oracle and/or its affiliates. All rights reserved. 9

平均使用25个App

使用最多的3个App占有80%时间

30天后，仅3%App未被删除

“There’s an App for That”

^fatigue

Oracle Mobile

Your savings account

Balance is $7,423.11

Your checking account

Balance is $1498.16

Done. Your checking

balance is $2498.16. Your

Savings balance is $6,423.11

Checking balance

Savings balance

Transfer $1000 from

Saving to checking

消息通讯是最常用，且最熟悉的环境

Copyright © 2017, Oracle and/or its affiliates. All rights reserved.Copyright © 2017, Oracle and/or its affiliates. All rights reserved.

– 基于人工智能

下一个杀手级App将是机器人

10

机器人将开始取代移动应用程序。用户将不再寻找应用程序、下载应用程序、更新应用程序或管理应用程序

Source: Gartner 2017

Copyright © 2017, Oracle and/or its affiliates. All rights reserved. 11Copyright © 2017, Oracle and/or its affiliates. All rights reserved.

差旅智能助手 —— 基于甲骨文聊天机器人服务

出差申请

报销费用

预订机票

预订酒店


基于自然语言的智能对话

出差申请预订机票预订酒店报销费用


智能聊天机器人服务：主要组件

渠道配置对话流程

执行

流程中自定义组件

集成

AI 引擎

• 在人与机器人之间提供统一的、跨平台渠道交互

• 针对谈话流程，提供声明式流程构建器

• 所定义的变量内定义流程处理机制

• 激活机器学习算法，用以识别关系和提取非结构化数据的见解

• 通过机器人服务，可与第三方的后台进行交互

Custom

13


“我要订从北京的机票"

训练话语 (Utterance) / 机器学习

• 买去北京的机票

• 明天去北京的机票有哪些

• 查一下今天去孟买的机票

• 我要预订下周二去旧金山的机票

意图 (Intent)预订机票 • 用户想要什么？

• 这可以如何分类为一个动作？

意图系统

意图模型 (Model)

从训练语言创建的模型，在运行时引用来检测用户意图


实体 (Entity)转帐

起飞日期起飞地点目的地

实体 Entity日期、目的地

意图预订机票

• 取出相关信息

实体系统

• 解析句子

基于话语训练数据，实体系统分析并提取一个句子中的重要信息

实体模型

"查一下今天去孟买的机票"

16

对話流程

管理对话流程

存储会话状态和数据上下文 (State & Context)

调用自定义业务逻辑


对话AI引擎

基于YAML 会话流程

会话状态

预置组件

自定认组件

会话执行

灵活客户端

Webhook 通信协议

Security安全

消息处理

意图模型

机器学习

语言建模

自然语言处理NLP

实体解析

实体分解

实体类型

实体值

渠道集成语义识别实体提取

NLP自然语言理解

语义识别:

预订机票

意图排名信心98%

需要的实体（参数）:

出发地点

实体的值

周五

用户：我要买周五去孟买的机票

外部数据

集成组件

智能客服：您要从哪里出发？

用户：香港

以下是为您推荐的周五从香港到孟买的机票


对话与表单结合，更好的用户体验

出差申请对话出差申请表单

点击链接，弹出表单

提交申请，返回对话

上下文的双向传递


方案架构

FacebookMessenger

微信

网页对话框

预置Facebook

接口

预置WebSocket

接口

Bot Engine

语义识别引擎

对话流程引擎

多语言支持框架

对外扩展接口

API目录

Facebook

Server

WeChat

Server

分析

REST

SOAP

预置微信接口

连接

器

外部系统外部服务

知识库

业务系统

其他服务

Oracle Mobile Cloud Enterprise


配置式的意图模型建模

意图列表训练话语关联实体


在线测试

对话测试意图测试


渠道集成配置

基于配置的集成

• 微信

• Facebook Messenger

• Webhook

• WebSocket


表单配置工具


客户使用场景企业对消费者 (B2C)

金融交易&客户服务

保险客户服务(理赔处理)

零售客户服务(返还&FAQs)

公用事业客户关怀&账单 (停机、变更地址、使用情况)

交通 (航空)客户服务 (座位分配、航班更新)

企业对员工 (B2E)

• 机器人可处理员工自助服务、报销、时间管理、销售客户关系管理、商业分析和其他员工生产效率应用

• Oracle团队开始启动嵌入式机器人用以增加会话体验


智能聊天机器人客户案例

25

消费者类型机器人•账户管理•中断•结算及付款•促销

会员零售机器人•账户管理•行程安排•接种疫苗•存储信息

飞机维修机器人•状态•报告•资源•部分

旅游出行机器人•查找和预定包裹•售票•常见问题•解答提醒

•银行交易•客户服务（FAQ）•国外旅行（ATM）•信用卡申请

消费者银行机器人

保险机器人•账户管理•报价•理赔•支付

零售银行机器人•银行交易•客户服务(FAQ)

消费者安全机器人•事件管理•现状•通知

消费零售机器人•反馈和查询•安装要求•产品维修•帐户管理

员工人力资源机器人•时间卡•PTO

学生银行机器人•银行交易•客户服务(FAQ)

Documents

Oracle智能聊天机器人 及AI技术展望...Oracle AI的技术堆栈 提供人工智能支持的关键要素 针对机器学习进行优化的高性 能计算和存储基础架构

Oracle智能聊天机器人及AI技术展望...Oracle AI的技术堆栈提供人工智能支持的关键要素针对机器学习进行优化的高性能计算和存储基础架构