Embed Size (px)
Citation preview
AWS Summit Tokyo2019
ビジネスセッション
2
アジェンダ
1
チャット・メッセージングを支える技術
2アマゾン ウェブ サービス (AWS)正式採用への道のり
3 cloudpack with KDDIのご紹介
・業務サポートツールをサーバレスで作りきる・サーバーレスで短納期で業務改善！・ALB + AWS Lambda で大量イベントを捌く
3
KDDI株式会社 プラットフォーム開発本部
サービスアプリケーション開発部
永井 浩太（Kota Nagai ）
SIer、精密機器メーカーを経て
2017年KDDIに入社。
趣味は自転車、投資、娘と遊ぶこと。
自己紹介
4
アジャイル開発の
取り組み
通信とライフデザインの融合
5
6
タッチポイントの移り変わり
より対話に近く、シームレスな接点へ
Web アプリ メッセージング
7
メッセージングのサービス展開
カスタマーサポート
ショッピング
エネルギー
金融
8
チャットボット
9
日本企業で初の事例！
Business Chat
まったく新しい方法で
企業と会話ができます。
企業に問い合わせをしたり、予約を取っ
たり、支払いを済ませることがiPhoneと
iPad上のメッセージアプリケーションで
直接できるようになりました。
10
電話番号を利用したメッセージサービスなので、本人認証が必要なサービスを簡単・便利に利用できる
11
カスタマー
サポートの事例
12
カスタマーサポートセンターの様子
13
カスタマーサポートの概要
改善のサイクルをすばやく回すのが重要
自動化・効率化
応対の高度化
分析（定性・定量）
お客様
ボット
アドバイザー
14
サーバーレスで改善サイクルを加速！
３つの課題をクリア
短納期開発
大量アクセス
セキュリティ
AWS Lambda
業務サポートツールを
サーバレスで作りきる
業務ツールの要件
16
蓄積したデータに対して、セキュアにUIを提供する
会話データ、アンケートなど
WEB UI
ボットシナリオライター
KPI報告者
管理者
サーバーレスでセキュアに実現
17
Amazon CloudFront Amazon API Gateway
AWS WAF
AWS Cloud
dataUsersAWS Step Functions
HTMLでUI提供
ビジネスロジックを制御
AWS Lambda(Authorizer)Amazon Cognito
サーバーレスでセキュアに実現
18
Amazon CloudFront Amazon API Gateway
AWS Lambda(Authorizer)
AWS WAF
Amazon Cognito
AWS Cloud
dataUsersAWS Step Functions
HTMLでUI提供
ビジネスロジックを制御
認証 認可
サーバーレスでセキュアに実現
19
Amazon CloudFront Amazon API Gateway
AWS Lambda(Authorizer)
AWS WAF
Amazon Cognito
AWS Cloud
dataUsersAWS Step Functions
HTMLでUI提供
ビジネスロジックを制御
認証 認可
IPアクセス制限を実現
サーバーレスで
短納期で業務改善
21
ｃ
チャットボット
22
チャットボット
スマホ・携帯
Apple Business Chatの事例
23
メッセージアプリ
au
au ログイン
au
auにログインしました。
auにログインしました。
ログイン用リンク送信
1 手入力ログイン（メッセージアプリ内）
2 ユーザ特定したサポート
3
認証ボット
24
アドバイザーお客さま●●●●●●●●
●●●●●●●●
ボット
ID
Pass
iOS ver?
認証ボット
25
オペレーターお客さま
質 問
アドバイザー
回答ボット
認証ボット
26
ボット
ログイン画面で滞留するユーザーが発生
ID
Pass
お客さま
ID？Pass?
予期せぬ出来事
27
想定をはるかに超える滞留
リソースへの悪影響が発生
28
滞留に伴い、一部のリソース消費が増え続ける
20k
15k
10k
5k
0k18:00 00:00 06:00 12:00 00:00 06:00 12:0018:00
アドバイザーが手入力でフォロー
29
なにか、お困りでしょうか？
Messages User
Messages User
Messages User
Messages User
Abcdefghijklmn0123abcdefghijklmn0123abcdefghijklmn0123
アドバイザー応対一覧
30
お客さま名 オペレーター名 応答時間
AAAAA 10分
BBBBB 12分
CCCCC 9分
DDDDD 15分
EEEEEE 10分
FFFFFF 11分
GGGGG 10分
HHHHH 9分
IIIIII 8分
JJJJJJ 5分
KKKKKK
LLLLLL
MMMMMM
NNNNNN
OOOOO
PPPPPPP
QQQQQQ
RRRRRR
SSSSSS
TTTTTT
アドバイザーの手間
31
応対をする
本質的でない業務に時間を取られる
割り込んでフォローをする
ログイン画面で滞留している会話を探す
5分
新しいボットを開発！
32
滞留する会話を発見して、アドバイザーへフォローをお願いする
新しいボット
ｃ
サーバーレスで２週間で開発！
33
AWS Step Functions
AWS Cloud
Amazon CloudWatch
30分毎に実行
外部SaaSAWS Lambda
VPC
NAT Gateway
VPC
サーバーレスで２週間で開発！
34
AWS Step Functions
AWS Cloud
Amazon CloudWatch
30分毎に実行
外部SaaSAWS Lambda
VPC
NAT Gateway
VPC
滞留している会話を転送指示
サーバーレスで２週間で開発！
35
AWS Step Functions
AWS Cloud
Amazon CloudWatch
30分毎に実行
外部SaaSAWS Lambda
VPC
NAT Gateway
VPC
滞留している会話を転送指示
IPアクセス制限を実現
サーバーレスで２週間で開発！
36
AWS Step Functions
AWS Cloud
Amazon CloudWatch
30分毎に実行
外部SaaSAWS Lambda
VPC
NAT Gateway
VPC
滞留している会話を転送指示
IPアクセス制限を実現
エンタープライズでのサーバーレス普及の課題= VPC Lambdaの高速化
リソース面の効果
37
リソースも適宜、開放され安定へ
Mar 232019
8k
6k
4k
2k
0k
10k
12k
-2k
Mar 24 Mar 25 Mar 26 Mar 27 Mar 28
業務への効果
38
応対をする
本来の応対業務へ集中できる！
割り込んでフォローをする
ログイン画面で滞留している会話を探す
5分
ALB Support for Lambdaを
使って大量トラフィックを捌く
40
KDDI株式会社 プラットフォーム開発本部
サービスアプリケーション開発部
大坪 悠 （Yu Otsubo）
auサポート（チャット・メッセージ）開発チーム
2016年～KDDI入社・サーバ運用業務を担当2017年～auサポート開発（ボット・分析）業務を担当
好きなAWSサービス：AWS Glue
自己紹介
41
ボットのアーキテクチャ
分析ログ
AI
ボット
ｃ
質問
質問
質問
質問
42
ボットのアーキテクチャ
分析ログ
AI
ボット
ｃ
質問
質問
質問
質問
43
ボットのアーキテクチャ
質問
質問
質問
分析ログ
AI
ボット
ｃ
質問
44
ボットのアーキテクチャ
質問
質問
質問
分析ログ
AI
ボット
ｃ
質問
45
ボットのアーキテクチャ
AI
質問
ボット
密結合
外部SaaS
外部SaaSと密結合でサーバレス化困難
コネクションキープ、ポーリング etc…
46
ボットのアーキテクチャ
AI
質問
ボット外部SaaS
AI部分は外部SaaSと疎結合なのでサーバレス化しやすい
質問ごとにプログラムが起動
疎結合
47
諦めず、サーバレス化
できるところを見つける
48
やりたいこと
ユーザの質問を捌くシステムを
「手間なく」「短納期」で
構築したい！
49
さっそくサーバーレスで作ってみた
Version 1
Version1
AIボット外部SaaS
DynamoDBとLambdaの組み合わせ
お客さま
サーバレス
AWS Lambda
Amazon DynamoDB
51
Version1
ボット外部SaaS
分析ログ保存はDynamoDB
お客さまAI
サーバレス
AWS Lambda
Amazon DynamoDB
52
Version1
ボット外部SaaS
AI部分はLambda
お客さまAI
サーバレス
AWS Lambda
Amazon DynamoDB
53
Version1
外部SaaS
DynamoDB Streamsでログ保存とLambdaキックを同時に実施
お客さま
ボット AI
サーバレス
AWS Lambda
Amazon DynamoDB
54
Version1
ボット外部SaaS
質問
お客さまが質問をする
お客さまAI
サーバレス
AWS Lambda
Amazon DynamoDB
55
Version1
外部SaaS
お客様の質問をDynamoDBにインサートする
お客さま
ボット
質問
AI
サーバレス
AWS Lambda
Amazon DynamoDB
56
Version1
ボット外部SaaS
質問はログとしてDynamoDBに一次保存する
お客さまAI
サーバレス
AWS Lambda
Amazon DynamoDB
質問
57
Version1
ボット外部SaaS
DynamoDB StreamでLambdaをキックする
お客さまAI
サーバレス
AWS Lambda
Amazon DynamoDB
質問
58
Version1
ボット外部SaaS
Lambdaでお客様の質問から返答を考える
お客さまAI
サーバレス
AWS Lambda
Amazon DynamoDB
返答
59
Version1
ボット外部SaaS
返答をDynamoDBに格納する
お客さま
返答
AI
サーバレス
AWS Lambda
Amazon DynamoDB
外部SaaS
Version1
ボット
60
格納された返答を取得しお客様に返却
お客さま
返答
AI
サーバレス
AWS Lambda
Amazon DynamoDB
61
問題発生しかし…
イベント開催
62
< > ＋
63
三太郎の日のトラフィック
イベント時はボット流入数がスパイク
64
想定以上に大量のメッセージが流入
65
問題発生
ボット
大量のお客様の質問がDynamoDBにインサート
質問
質問
質問
質問
質問
質問AI
サーバレス
AWS Lambda
Amazon DynamoDB
66
問題発生
ボット
DynamoDB Streamへ大量の質問が流入
AI
サーバレス
AWS Lambda
Amazon DynamoDB
質問
質問質問
67
問題発生
ボット
大量の質問がくるとボットのレスポンスが悪くなる
返事が遅い！
…
AI
サーバレス
AWS Lambda
Amazon DynamoDB
質問
質問質問
質問…
68
どうして遅くなったのか
原因はシャード数
69
原因はシャード数
70
Lambdaの同時キック数はシャード（パーティション）に依存
DynamoDB Streams
partition 1
partition 2
partition 3
DynamoDBTable
AWS Lambda
AWS Lambda
AWS Lambda
DynamoDBのキャパシティ
71
シャード数をユーザでコントロールできない
DynamoDB Streams
partition 1
partition 2
partition 3
DynamoDBTable
AWS Lambda
AWS Lambda
AWS Lambda
キャパシティユニットによって自動で割当
72
解決したいこと
大量のアクセスを
サーバレスで捌きたい！
73
そこで僕はオリーブオイル
そこで僕はオリーブオイル
74
75
re:Inventで発表された新機能を使ってみる
AWS Lambda
現地で聞いてきた新機能を早速導入
Application Load Balancer
AWS Fargate Amazon EC2
76
さっそく使ってみた
Version 2
77
Version2
ボット
Application Load BalancerをLambdaに紐づけ
お客さま
サーバレス
AI
Amazon DynamoDB
AWS Lambda
Application Load Balancer
78
Version2
ボット
お客さまが質問をする
お客さま
質問サーバレス
AI
Amazon DynamoDB
AWS Lambda
Application Load Balancer
79
Version2
お客様の質問をDynamoDBにインサートしつつ
お客さま ボット
質問 サーバレス
AI
Amazon DynamoDB
AWS Lambda
Application Load Balancer
Version2
80
ボット
Application Load BalancerにHTTPリクエストを送る
お客さま
サーバレス
AI
Amazon DynamoDB
AWS Lambda
Application Load Balancer
質問
81
Version2
Application Load BalancerからLambdaがキック
お客さま ボット
サーバレス
AI
Amazon DynamoDB
AWS Lambda
Application Load Balancer
82
Version2
ボット
Lambdaからの返答はHTTPレスポンスで返却
お客さま
返答 サーバレス
AI
Amazon DynamoDB
AWS Lambda
Application Load Balancer
83
大量の質問にも対応
84
大量の質問にも対応
ボット
お客様の質問が増えてもLambdaがスケーリング
質問
質問
質問
質問
質問
質問
Amazon DynamoDB
Application Load Balancer
AWS Lambda
AWS Lambda
AWS Lambda
85
大量の質問にも対応
ボット
滞留なく返答することが可能になった
返答
Amazon DynamoDB
Application Load Balancer
AWS Lambda
AWS Lambda
AWS Lambda
86
応答速度の改善結果
レスポンスが
早くなった
6
1
ちかく
平均レスポンス時間6
5
4
3
2
1
Version1 Version2
0
まとめ
88
エンタープライズで求められる要件にも…
短納期での開発
セキュリティの担保
大量トラフィックに対応
89
エンタープライズで求められる要件にも…
サーバレスでスピード開発
暗号化・IP制限・ユーザ認証も
サーバレスで解決
新機能で
大量トラフィックにも対応
短納期での開発
セキュリティの担保
大量トラフィックに対応
90
サーバレスで解決できた！
短納期での開発
セキュリティの担保
大量トラフィックに対応
サーバレスでスピード開発
暗号化・IP制限・ユーザ認証も
サーバレスで解決
新機能で
大量トラフィックにも対応
サーバレスで
すべて解決！
91
Let’s Enjoy ServerLess!
AWS正式採用への道のり
93
KDDI株式会社/プラットフォーム開発本部AWSアカウント管理統制＆アーキテクチャコンサルチーム（CCoE）
松本 健太郎（Kentaro Matsumoto ）
2010年～
KDDI内製クラウド（VDC/KCPS）構築/増設/運用
2015年～
OpenStack 社内導入推進
2017年～ 現在
KDDI 社内AWS アカウント/セキュリティ管理統制
自己紹介
94
AWSによる
”シャドーIT”が社内に広がり始めた…
2014年 某日
95
社内のシャドーITを抑止し
AWSを安全に利用させるには
どうすればいいか？
96
AWSを社内で
正式に利用可能に
すればいい
97
大企業のクラウド適応 秘伝のレシピ
基準改定
規定新設
統制機能
社内正式採用
AWS
98
社内セキュリティ基準への適合
KDDIシステム開発セキュリティ基準（仮）
200項目超に及ぶチェックリスト
長年の電気通信設備開発で鍛え上げられた
開発・運用の厳格なセキュリティ要件
社内システムはこの基準を全てクリアすることが必須
要素分解と要件の統廃合
新基準でも現行基準のすべての要件を満たすことが可能に
要件1
要件2
要件3
要件4
要件5
実装1
実装2
実装3
実装4
実装5
要件1
要件2
要件3
新基準現行基準
オンプレベース
分解 対応 統廃合 結合
99
100
大企業のクラウド適応 秘伝のレシピ
基準改定
規定新設
統制機能
社内正式採用
AWS
パブリッククラウド利用規定の新設
パブリッククラウド利用規定
システム開発セキュリティ基準（AWS版）
その他規定
●「パブリッククラウド利用規定（仮）」の策定
●上記利用規定の運用メンバーとして参画
101
AWSセキュリティ統制 運用体制（概略）
AWSはKDDIで公的に使えるパブリッククラウドとして認定＝「認定AWS」
利用部門
セキュリティ管理部門（CCoE）
セキュリティ監査部門（SOC）
内部統制部門
連携 連携
連携
セキュリティ監査セキュリティ管理統制設計コンサル クラウド利用可否判定
102
103
大企業のクラウド適応 秘伝のレシピ
規定新設
統制機能
社内正式採用
AWS
基準改定
統制機能：監査証跡ログの保全
全ての証跡ログを集約保管
AWS社内アカウント
A案件
B案件
AWS CloudTrail
C案件
社内AWS管理システム
Amazon CloudWatch AWS Lambda
証跡ログ保管領域
Amazon S3
設定は外せない
誰もアクセスできない
104
AWS CloudTrail
AWS CloudTrail
統制機能：ガバナンス違反の検知/通知
マネージメントコンソールへのログイン失敗を検知/通知
AWS社内アカウント
A案件
B案件
C案件
社内AWS管理システム
証跡ログ保管領域不正アクセス
利用部門管理者
通知
メール通知
105
AWS CloudTrail
AWS CloudTrail
AWS CloudTrail
Amazon CloudWatch AWS Lambda
Amazon S3
106
大企業のクラウド適応 秘伝のレシピ
規定新設
統制機能
社内正式採用
AWS
基準改定
AWS利用状況推移
AWSアカウント数
2016/04 2016/10 2017/04 2017/10 2018/04 2018/10 2019/04
107
AWSアカウント数
約10倍
代表的なAWS採用サービス
上記含む60以上のサービスにてAWSを採用済み
108
109
cloudpack with KDDIのご紹介
110
KDDIグループが万全の体制でお客様のAWS導入をサポート
●商用サービスでのAWS大規模導入運用実績
●事業用クラウドとしてのAWS正式採用実績
●回線からクラウドまでワンストップ提供
●7年連続APNプレミアコンサルティングパートナー
●4年連続APN Partner of the Year受賞
●1,200社超のAWS導入実績 ※2018年8月実績
運営会社：
111
AWSに関するソリューションをワンストップで提供
AWSダイレクト接続
KDDI WVS2（イントラネット網）
Amazon Direct Connect
AWS導入支援
要件定義/設計・構築/移行支援/ガイドライン策定…etc
AWS監視運用保守
24時間365日の有人監視
運用・保守
Cloudpack with KDDI
AWS請求代行
AWS利用料
3%OFFサポート
無料
日本円＆請求書払い
＄
Cloudpack with KDDI
112
AWSに関するソリューションをワンストップで提供
AWSダイレクト接続
KDDI WVS2（イントラネット網）
Amazon Direct Connect
AWS導入支援
要件定義/設計・構築/移行支援/ガイドライン策定…etc
AWS監視運用保守
24時間365日の有人監視
運用・保守
Cloudpack with KDDI
AWS請求代行
AWS利用料
3%OFFサポート
無料
日本円＆請求書払い
＄
Cloudpack with KDDI
KDDI、アイレット、Rackspace で戦略的提携について基本合意を発表高品質のクラウドサービスの提供を目指します。
113
