高くて遅いディープラーニング環境 企業が打ち出した答えは

└■　焦点
━━━━━━━━━━━━━━━━━━━━

――――――――――――――――――――

　製造や流通、医療など、様々な分野で「ディープラーニング（深層学習）」の活用
が広がっている。多くの場合、現場に設置したカメラで撮影し、映像をサーバーに取
り込みAIを使って解析するスタイルだ。解析結果をもとに、問題点の早期発見や作業
の効率化につなげる狙いがある。

　ところが映像を解析するプラットフォームに頭を悩ませる現場は少なくない。とい
うのもカメラの設置場所近くに解析用のサーバーを個別に置くケースが多く、

◆現場ごとに専用の環境を構築・運用するので作業・コストの負担が大きい
◆一つの映像に対して一つのAIモデルしか適用できず精度・性能に限界がある

といった問題が出やすいのだ。結果、ディープラーニング環境が「高い」「遅い」と
いう状況に陥る。映像解析サービスを展開するNTT東日本も同様の問題に直面。そこ
で打ち出したのが「マルチカメラ・マルチAI」という答えだ。以下の記事ではそんな
同社が取り入れた新たなプラットフォームについて詳しく探っていこう。

●「もっと早くもっと安く」、映像AI解析サービス刷新にみるNTT東日本の選択

https://nkbp.jp/3kMb4lB 

資料の紹介

　防犯カメラの映像を、顧客サービスの向上や店舗運営の効率化に役立てるなど、映像データ活用のニーズが様々な分野で急速に立ち上がりつつある。NTT東日本も、以前から提供してきたAI（人工知能）による映像解析サービスを、より短期間・低コストで開発・提供できるよう、新たに「映像AI解析プラットフォーム」の構築に着手した。

　同社の映像解析サービスではそれまで、IPカメラが設置されている現場の近くに分析用のサーバーを設置していた。しかし、案件ごとに専用の環境を構築すると高価になってしまううえ、一つの映像に対して一つのAIしか適用できない。そこで、複数の顧客のカメラ映像をNTT東日本の局舎に集約し、サーバーをシェアする「マルチカメラ・マルチAI」構成をとることにした。

　本資料では、NTT東日本が「映像AI解析プラットフォーム」の刷新にあたり定めたシステム要件と、同社がベンダー各社の提案から最適なソリューションを選定するまでの経緯、導入効果を紹介する。サーバーについては、できるだけ多くのCPU、メモリー、GPUをバランスよく収容でき、性能効率に優れていることを重視したという。

            コンテナ集約基盤で AIによる映像解析を活用したアプリを

低コストでスピーディにデリバリー

NTT東日本が HPE ProLiant DL380 Gen10サーバーと

HPE 3PAR StoreServストレージを採用し

Red Hat® OpenShift®で「映像AI解析プラットフォーム」を新たに構築

            東日本電信電話株式会社 業種:Web サービス 地域:日本

ビジョン

映像解析に対する多様なニーズに応 えられるサービスの具現化をスピー ディーに行える環境の構築

戦略

• 基本機能を集約した映像AI解析プ ラットフォームを構築、個別要件はそ の上にアドオンして開発

• コンテナ技術を利用しアプリ開発の 効率化を図る

成果

商用化に向けた様々な検証を本番環 境を想定し迅速に行うことができた

東日本電信電話株式会社(NTT東日本)ではAIによる映像解析サービスの 提 供 を 通 じ て 市 場 に 多 様 な ニ ー ズ が あ る こ と を 把 握 し 、そ の ビ ジ ネ ス の 可 能性を確信してサービスプラットフォームとなる「映像AI解析プラットフォー ム」の構築および商用化を進めている。2022年には国内に500万台以上 のIPカメラが稼働すると見られている成長市場に向けて、高い性能を効率 よく実現するHPEの「HPE ProLiant DL380 Gen10サーバー」と「HPE 3PAR StoreServストレージ」、そしてレッドハットの「Red Hat OpenShift」 が映像AI解析プラットフォームに採用された。

映像解析の多様なニーズにビジネスの可能性を見出した

防犯カメラの映像を顧客サービスの向上や店舗運営の効率化に役立てたいなど、映像

活用へのニーズが多様化している。こうしたニーズに対して東日本電信電話株式会社 (NTT東日本)では店舗や施設で録画された映像をA(I 人工知能)で解析して業務の改 善やリスク対策に活かすサービス「AIガードマン」や「ギガらくカメラ」などを以前より提

供してきた。

同社はこれらのサービスの提供を通じて映像解析に対してさまざまなニーズが あるこ とを把握し、ビジネスの可能性を確信したという。NTT東日本で映像解析サービスの販 売を担当するほか、AIやIoTを活用した新規サービスの開発にも携わるビジネス開発本 部 第二部門 市場開拓担当 担当課長 佐藤優氏は次のように説明する。

「店舗や街頭、工場やオフィスなどあらゆる場所にIPカメラが設置されており、国内のIP カメラの稼働台数は2022年には510万台に増加すると言われています。しかし録画し た 映 像 は 撮 り 溜 め て い る だ け で 活 用 さ れ て い な い ケ ー ス が 多 い の が 実 情 で す 。映 像 解 析のさまざまなニーズに応えることで、国内の映像解析市場規模は2022年に2018年 の28倍となる1,500億円に拡大できると期待しています」

  

 集約した環境をシェアして 利用すればコストを抑えられ、 映像解析への需要促進にも つながります

― 東日本電信電話株式会社 ネットワーク事業推進本部 高度化推進部 クラウドサーバ技術部門 サーバ基盤技術担当 担当課長 多田 将太 氏

 HPE DIGITAL GAME CHANGERS

そこで佐藤氏は映像解析に対する多様な ニーズに応えられるサービスの具現化に 向けて構想を立て始めた。2019年春、佐 藤氏のもとに集まったのはこれまで社内 のさまざまなPoC(概念実証)を商用化し てきた仲間たちだ。佐藤氏のアイデアはこ うだ。

「お客様からご相談いただいた要望は多 岐にわたり、それぞれに個別に応えてい くと時間とコストの負担が大きくなりま す。ベースとなる機能を開発してプラット フォームを構築し、その上にお客様の要望 に応じた機能を乗せることで幅広いニー ズに低コストでサービス提供できると考え ました」

構想の具現化を技術面で支援するととも に、商用化に向けたビジネス企画も支援 するデジタル革新本部 デジタルデザイン 部 プラットフォーム開発部門 アーキテク チャ担当 担当課長 鴨田純一氏は次のよ うに当時を振り返る。

「社内ではAI系のPoCを数多く実施してき ましたが、その際に苦労するのが専用基 盤の開発・構築です。これまで幾度もサー

バーの調達からネットワークの構築、設備 の設置場所の確保といった苦労を実際に 体 験 し て き ま し た 。基 本 的 な 機 能 が あ ら か じめ用意されている映像AI解析プラット フォームをシェアして利用すれば、映像解 析を活用したアイデアをスピーディかつ低 コストで検証できます」

プロジェクトで商用環境の構築に携わる ネットワーク事業推進本部 高度化推進部 クラウドサーバ技術部門 サーバ基盤技術 担当 担当課長 多田将太氏は映像AI解析 プラットフォームのメリットについて次のよ うに話を続ける。

「PoCごとに専用環境を構築するととて も高価になってしまいます。集約した環境 をシェアして利用すればコストを抑えら れ、映像解析への需要促進にもつながり ます」

サーバーを局舎に集約して マルチカメラ・マルチAIを 実現

システムの具体的な要件を議論し、主に次

のように定義した。通常はIPカメラが設置 されているエッジに設置するサーバーを NTT東日本の局舎に設置することで、複 数の顧客の複数のカメラの映像を局舎の サーバーに集約してシェアする。

また局舎に設置したサーバーをシェアす ることで、一つの映像に対して複数のAI を適用できるようになる。従来のエッジの サーバーでは一つの映像に対して一つの AIしか適用できないが、映像AI解析プラッ トフォームではAI機能を局舎に集約して MEC(Multi-access Edge Computing) を構築することでマルチカメラ・マルチAI を実現する。

さらに、商用化にあたっての課題のひとつ であった、GPUを低コストに利用可能とす るため、NTTソフトウェアイノベーションセ ンタが開発したリアルタイム映像解析技術

「Deepack®」を用いた、GPU高収容化技 術を確立。これにより、1つのGPUサーバ でより多くのカメラの映像解析を実現可 能になった。

こうしたシステム要件をもとに映像AI解 析プラットフォームの中枢を担うサーバー

 

HPE DIGITAL GAME CHANGERS

GPU高収容化

   前処理

(デコード処理等) AI推論 後処理(送信処理等)

    GPUメモリ

                    汎用カメラ

汎用カメラ

AI推論モデルごとに GPUメモリを使用

解析結果通知

GPUメモリ使用の 削減

解析結果通知

※Deepack®:NTTソフトウェアイノベーションセンタが開発した、リアルタイム映像解析技術

      前処理 (デコード処理等)

※

映像マージ

AI推論

後処理(送信処理等)

     GPUメモリ

                の調達に関して提案を募集し、製品紹介、 されたと多田氏は話を続ける。 環境で構築したアプリケーションを本番環

技術討論を経て複数のベンダーの中から 日 本 ヒ ュ ー レ ッ ト ・ パ ッ カ ー ド( H P E )が 提 案した「HPE ProLiant DL380 Gen10 サーバー」と「HPE 3PAR StoreServスト レージ」を選定した。

NVIDIA T4を搭載 汎用のx86サーバーで 高性能を実現

HPE ProLiant DL380 Gen10サーバー を選定した理由を多田氏は次のように説 明する。

「システムの性能効率を引き上げるには1 台のサーバーにCPU、メモリー、GPUをバ ランスよく、できるだけ多く収容できること が求められます。HPE ProLiant DL380 Gen10サーバーは1台に4枚のNVIDIA T4 GPUを搭載できるなど、性能効率に優 れていました。また高い性能が求められる 用途では高価なHPCも選択肢となります が、汎用サーバーで高い性能を発揮でき ることも評価しました」

NTT東日本におけるHPEの実績も評価

「パートナー企業や大学などとAIやIoT、 境に持ち運ぶことができ、テストから提供

エッジコンピューティング等の技術を活 用した実証実験を行っているスマートイノ ベーションラボにもHPEのGPUサーバー が導入されており、AIの学習環境が稼働し て実際に活用されています。社内の多くの 案 件 で H P E 製 品 の 利 用 実 績 が あ り 、性 能 と信頼性に満足しています」

Kubernetesで アプリ開発を効率化 レッドハットの OpenShiftを採用

映 像 A I 解 析 プ ラ ット フ ォ ー ム で は コ ン テ ナ技術が採用されている点も大きな特長 で あ り メ リ ッ ト と な っ て い る 。映 像 A I 解 析 プラットフォーム上ではさまざまなアプリ ケーションが開発されてサービス提供さ れ る こ と に な る が 、ア プ リ ケ ー シ ョ ン の 開 発には通常、テスト環境と本番環境がそれ ぞれ必要で、双方でアプリケーションを構 築しなければならず手間とリスクが伴う。

そこでコンテナ技術を利用すればテスト

までを効率化、迅速化できる。このコンテ ナ技術を便利に使えるツールとして注目 されているのが「Kubernetes」だ。ただし 課題もあると多田氏は指摘する。

「本番環境を想定するとKubernetesに足 りない周辺機能があり、それを補うには必 要な機能が揃っておりテクニカルサポート も受けられるレッドハットのOpenShiftを 利用することが最適解でした」

2020年5月、HPE ProLiant DL380 Gen10サーバーとHPE 3PAR StoreServ ストレージ、レッドハットのOpenShiftで開 発・構築した検証環境が無事完成し、商用 化に向けたさまざまな検証が実施され、 期待通りの成果を得ることができた。そし て現在、2021年夏の商用化に向けて本番 環境の開発・構築が佳境を迎えている。商 用化に向けて佐藤氏は次のように意気込 みを語っている。

「映像AI解析プラットフォームには既設の IPカメラをつなげることができるため、活用 方法はアイデア次第といったところでしょう か。映像AI解析プラットフォームによって実

HPE DIGITAL GAME CHANGERS

  HPE ProLiant DL380 Gen10 サーバーは1台に4枚の

NVIDIA T4 GPUを搭載できるなど、 性能効率に優れていました

― 東日本電信電話株式会社 ネットワーク事業推進本部 高度化推進部 クラウドサーバ技術部門 サーバ基盤技術担当 担当課長 多田 将太 氏

 ― 東日本電信電話株式会社

(左より)ネットワーク事業推進本部 高度化推進部 クラウドサーバ技術部門 サーバ基盤技術担当 担当課長 多田 将太 氏

ビジネス開発本部 第二部門 市場開拓担当 担当課長 佐藤 優 氏

デジタル革新本部 デジタルデザイン部 プラットフォーム開発部門 アーキテクチャ担当 担当課長 鴨田 純一 氏

 証から商用化までをシームレスに、スピーディに進められます。今後はニューノーマル時代 ならではの非接触、無人化、過密対策などをテーマにユースケースを増やしていきたいと 考えています。防犯やマーケティングにも新しいサービスを提供できると期待しています」

HPEではNTT東日本の映像AI解析プラットフォームに採用されたHPE ProLiant DL380 Gen10サーバーやNVIDIAのT4 GPUやNVIDIA NGC、そしてレッドハットの OpenShiftなどを「Microbus」という名称でパッケージング化して提供している。今後の 展望について多田氏は次のように締めくくった。

「現在は1,000台のIPカメラを接続することを想定してサイジングしましたが、お客様の 反応を見ると数万台、数十万台のIPカメラが接続されることを想定してサーバーを増強 す る 必 要 が あ る と 考 え て い ま す 。ま た G P U ア ク セ ラ レ ー タ ー を 搭 載 し た サ ー バ ー の ラ イ フサイクルは汎用サーバーよりも短く、新しいテクノロジー、特に最新のGPUを搭載した サーバーへのニーズは常にあります。サーバーのリプレースに伴う投資の効率化におい て「HPE GreenLake」によるコンサンプションモデルでの利用に期待しています」