@article{oai:ipsj.ixsq.nii.ac.jp:00213901, author = {秋信, 有花 and 小原, 百々雅 and 縫嶋, 慧深 and 倉光, 君郎 and Yuka, Akinobu and Momoka, Obara and Emi, Nuijima and Kimio, Kuramitsu}, issue = {5}, journal = {情報処理学会論文誌プログラミング(PRO)}, month = {Nov}, note = {Transformerは,自然言語処理向けの深層学習モデルである.自然言語処理の機械学習タスク全般において,従来モデルのRNNやLTSMに比べ明らかな好成績を示すのが特徴である.我々は,自然言語を用いたプログラミング支援の実現を目指し,Transformerを用いて日本語とPythonコード間のニューラル機械翻訳モデルを構築した.特徴は,SentencePieceによる日本語のトークン化と特殊トークンを用いたコードのベクトル化である.これらの工夫により,代表的な機械翻訳の評価尺度であるBLEUは,先行研究と比較して高いスコアが得られた.本発表では,我々が構築をした日本語とPythonコード間の翻訳モデルと翻訳精度について報告する.実験では,教師データとなる前処理の有無や対訳コーパスの量を変化させ,さまざまなバリエーションのモデルを構築し,評価を行った.これらの知見に基づいて,ソースコードの深層学習技術の適用への展望をまとめる., Transformer is a deep learning model for natural language processing. It is characterized by clearly better performance than conventional models such as RNN and LTSM in all machine learning tasks of natural language processing. We built a neural machine translation model between Japanese and Python code using Transformer, aiming to realize programming support using natural language. The features are the tokenization of Japanese by SentencePiece and the vectorization of the code using special tokens. With these innovations, BLEU, a typical evaluation measure for machine translation, performed better than the previous work. In this presentation, we report on our machine translation model and its accuracy. In the experiments, we built and evaluated various variations of the model. Based on these findings, we summarize the prospects for the applying deep learning techniques in source code.}, pages = {50--50}, title = {Transformerによる日本語とPythonコード間の機械翻訳}, volume = {14}, year = {2021} }