Split Computingの実機を用いた実験評価

• Item type: SIG Technical Reports(1)
• 公開日: 2023-05-11
• タイトル: Split Computingの実機を用いた実験評価
• タイトル / 言語: en
• タイトル: Experimental evaluation of Split computing using actual device
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 通信システム
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 東京工業大学工学院情報通信系
• 著者所属: 東京工業大学工学院情報通信系
• 著者所属: 東京工業大学工学院情報通信系
• 著者所属: 東京工業大学工学院情報通信系
• 著者所属: 東京工業大学工学院情報通信系
• 著者所属: 東京工業大学工学院情報通信系
• 著者所属: エースコード
• 著者所属(英): en
• 著者所属(英): School of Engineering, Tokyo Institute of Technology
• 著者所属(英): en
• 著者所属(英): School of Engineering, Tokyo Institute of Technology
• 著者所属(英): en
• 著者所属(英): School of Engineering, Tokyo Institute of Technology
• 著者所属(英): en
• 著者所属(英): School of Engineering, Tokyo Institute of Technology
• 著者所属(英): en
• 著者所属(英): School of Engineering, Tokyo Institute of Technology
• 著者所属(英): en
• 著者所属(英): School of Engineering, Tokyo Institute of Technology
• 著者所属(英): en
• 著者所属(英): AceCode
• 著者名: 依田, 光仁; 太田, 翔己; 前島, 航太; 小寺, 奏怜; 堀川, 裕太郎; 西尾, 理志; 福井, 公三
• 著者名(英): Kojin, Yorita; Shoki, Ohta; Kota, Maejima; Kanare, Kodera; Yutaro, Horikawa; Takayuki, Nishio; Kozo, Fukui
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: SC (Split computing) と呼ばれる DNN（Deep Neural Network）を用いた推論が注目を集めている．SCは，IoT 機器などのリソースに制約のあるデバイスとサーバを連携して実現するための技術である．従来の機械学習アプリケーションでは，データを取得したデバイスで推論処理を実行するオンデバイス型や，デバイスからクラウド/エッジサーバにデータを送信し処理するクラウド/エッジ型が用いられてきた．しかし，オンデバイス型では，デバイスの計算能力が低い場合に大きな処理遅延が発生し，クラウド/エッジ型では生の観測データを送信するため個人情報流出のリスクがある．SC ではデバイスとエッジサーバが協調して DNN を用いた推論処理を行うことで処理遅延や個人情報流出のリスクを低減する．我々は SC を Docker コンテナを用いた仮想端末上に実装し TC コマンドによるネットワークエミュレーションを用いた実験評価を行った．具体的には，学習モデルの管理と推論指示を行うクラウドサーバと，分散推論処理を実行するエッジサーバおよび IoT デバイスの 3 種類のノードを定義し，任意の分割点による SC や送信データを圧縮する機能を実装した．実験によりパケット損失率が大きいとき分割点を変えることで遅延や精度が変化することを示した．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Machine learning (ML) inference using Deep Neural Network (DNN) with a technique called Split Computing (SC) has attracted attention. SC is a technology for realizing ML applications by coordinating devices with resource-constrained IoT devices and servers. Conventional ML applications have used on-device types, in which inference processing is performed on the device where data is acquired, and cloud/edge types, in which data is sent from the device to the cloud/edge server for processing. However, in on-device types, significant processing delays occur when the device’s computing power is low, and in cloud/edge types, there is a risk of personal information leakage because raw observation data is sent. With SC, processing delays and risks of personal information leakage can be reduced by collaboratively performing inference processing using DNN between devices and edge servers. We implemented SC on a virtual terminal using Docker containers and conducted experimental evaluations using network emulation with the TC command. Specifically, we defined three types of nodes: a cloud server that manages learning models and inference instructions, an edge server that executes distributed inference processing, and IoT devices. We also implemented a function to compress SC and transmitted data at any split point. The experiments demonstrated that changing the split point when the packet loss rate is high can affect the latency and accuracy.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA11515904
• 書誌情報: 研究報告高度交通システムとスマートコミュニティ（ITS）; 巻 2023-ITS-93, 号 32, p. 1-3, 発行日 2023-05-11
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8965
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会