研究紹介

大きな括りでは「人工知能」や「知能情報処理」と呼ばれる分野の研究をしており，基礎アルゴリズムの開発とそれらの実問題への応用の両面から研究を進めています．また，学内，他大学，企業の研究者との共同研究も積極的に実施しています．

以下にこれまでの研究成果や研究テーマの例を挙げますが，これらに限らず機械学習，深層学習，進化計算，コンピュータビジョン，それらの各種応用などの人工知能に関するテーマに取り組むことが可能です．

深層ニューラルネットワークの構造探索（Neural Architecture Search; NAS）

深層学習は画像認識や自然言語処理で高い性能を示し，様々な分野へ応用されていくことが期待されていますが，その性能を最大限に発揮するためには，データやタスクに合わせて適切なニューラルネットワークの構造を設計する必要があります．この設計作業は通常，人手によって行われますが，経験や試行錯誤が要求されるため非常にコストが高いという課題があります．この課題に対して，深層ニューラルネットワークの構造を自動的に探索する方法を開発しています．進化計算による畳み込みニューラルネットワークの構造探索を行った論文は，進化計算のトップ国際会議GECCOでBest Paper Awardを受賞しました．

M. Suganuma, S. Shirakawa, and T. Nagao: A Genetic Programming Approach to Designing Convolutional Neural Network Architectures, GECCO 2017 (Best Paper Award). [DOI] [arXiv] [研究紹介スライド]

深層ニューラルネットワークの構造探索は非常に計算コストが高いことが問題となっていましたが，構造パラメータに対する確率分布を導入することで，一回のニューラルネットワークの学習中に重みパラメータと同時に構造パラメータも勾配法に基づいて最適化する効率的な方法を開発しました [Shirakawa et al., 2018]．この方法を一般化するとともに理論的な解析に基づき大幅に効率化した研究 [Akimoto et al., 2019] では，既存の手法が数日かかって発見していたような構造を数時間で発見することができました．

S. Shirakawa, Y. Iwata, and Y. Akimoto: Dynamic Optimization of Neural Network Structures Using Probabilistic Modeling, AAAI 2018. [Link] [arXiv]
Y. Akimoto, S. Shirakawa, N. Yoshinari, K. Uchida, S. Saito, and K. Nishida: Adaptive Stochastic Natural Gradient Method for One-Shot Neural Architecture Search, ICML 2019. [Link] [arXiv] [Code]

IoTデバイスなどのエッジデバイスでディープニューラルネットワークの推論を行う場合は，メモリ使用量や演算量が少ない軽量なモデルが望まれます．そのため，高い性能を示すネットワーク構造を探索するだけでなく，性能をできるだけ維持しつつパラメータ数や推論時間が少ない構造を探索する方法も開発しています．

S. Shimizu, T. Nishio, S. Saito, Y. Hirose, C. Yen-Hsiu, and S. Shirakawa: Neural Architecture Search for Improving Latency-Accuracy Trade-off in Split Computing, 2022 IEEE Globecom Workshops. [DOI] [arXiv]
Y. Noda, S. Saito, and S. Shirakawa: Efficient Search of Multiple Neural Architectures with Different Complexities via Importance Sampling, ICANN 2022. [DOI] [arXiv]

一般に，ニューラルネットワークの構造探索（NAS）やハイパーパラメータ最適化はモデルの訓練を繰り返す必要があるため計算コストが高く，複数のアルゴリズムを評価すること自体に困難性が生じます．我々はニューラルネットワークの構造と訓練ハイパーパラメータの同時最適化問題に対して，低コストでアルゴリズム評価を実現するベンチマークデータセットを開発しました．

Y. Hirose, N. Yoshinari, and S. Shirakawa: NAS-HPO-Bench-II: A Benchmark Dataset on Joint Optimization of Convolutional Neural Network Architecture and Training Hyperparameters, ACML 2021. [arXiv] [Dataset API]

ブラックボックス最適化・進化計算アルゴリズムの研究

目的関数の微分可能性や凸性を仮定しないブラックボックス最適化法は適用範囲が広く，現実の様々な問題に応用することができます．例えば，機械学習のハイパーパラメータ最適化や解の評価に数値シミュレーションを必要とする問題に対して有望な方法です．ブラックボックス最適化の代表的な手法に進化計算やベイズ最適化がありますが，それらのアルゴリズムの効率化や理論的な解析に取り組んでいます．最近は，Information Geometric Optimization (IGO)やCovariance Matrix Adaptation Evolution Strategy (CMA-ES)といった確率モデルに基づく進化計算アルゴリズムの改良や理論解析を行っています．

R. Hamano, S. Saito, M. Nomura, K. Uchida, and S. Shirakawa: CatCMA : Stochastic Optimization for Mixed-Category Problems, GECCO 2024. [DOI] [arXiv] [Code]
Y. Yamada, K. Uchida, S. Saito, and S. Shirakawa: Surrogate-Assisted (1+1)-CMA-ES with Switching Mechanism of Utility Functions, EvoApplications 2023 (Part of EvoStar 2023). [DOI]
T. Yamaguchi, K. Uchida, and S. Shirakawa: Improvement of sep-CMA-ES for Optimization of High-Dimensional Functions with Low Effective Dimensionality, SSCI 2022. [DOI] [Code]
R. Hamano, S. Saito, M. Nomura, and S. Shirakawa: CMA-ES with Margin: Lower-Bounding Marginal Probability for Mixed-Integer Black-Box Optimization, GECCO 2022 (Best Paper Nomination). [DOI] [arXiv] [Code]

K. Uchida, S. Shirakawa, and Y. Akimoto: Finite-Sample Analysis of Information Geometric Optimization with Isotropic Gaussian Distribution on Convex Quadratic Functions, IEEE Transactions on Evolutionary Computation, 2020. [DOI]

これらのブラックボックス最適化の研究は，機械学習のハイパーパラメータ最適化やAutomated Machine Learning (AutoML) と呼ばれる機械学習の自動化技術にも応用することができます．こららの研究をベースに，ニューラルネットワークの構造探索や特徴選択のためのアルゴリズムも開発しています．

機械学習によるジェスチャの自動生成

ロボットや擬人化エージェントなどの人型インタフェースが普及していますが，これらのジェスチャ動作を人手で与えることは開発者の大きな負担になります．この研究では，機械学習や深層学習を応用することで，テキストや音声データからジェスチャの自動生成を行っています．

G. Sakata, N. Kaneko, D. Hasegawa, and S. Shirakawa: Language Agnostic Gesture Generation Model: A Case Study of Japanese Speakers’ Gesture Generation Using English Text-to-Gesture Model, HUCAPP 2023. [DOI]
E. Asakawa, N. Kaneko, D. Hasegawa, and S. Shirakawa: Evaluation of text-to-gesture generation model using convolutional neural network, Neural Networks, 2022. [DOI] [Demo Video] [Code]
金子直史，竹内健太，長谷川大，白川真一，佐久田博司，鷲見和彦：Bi-Directional LSTM Networkを用いた発話に伴うジェスチャの自動生成手法，人工知能学会論文誌, 2019. [DOI]
D. Hasegawa, N. Kaneko, S. Shirakawa, H. Sakuta, and K. Sumi: Evaluation of Speech-to-Gesture Generation Using Bi-Directional LSTM Network, IVA 2018. [DOI]

機械学習のアルゴリズム開発と応用

機械学習は，データに基づいて予測や意思決定を行うモデルを構築したり，データから有用な知識や規則を獲得する技術です．本研究室は機械学習アルゴリズムの開発や各種応用に取り組んでいます．例えば，解釈性の高い機械学習モデル，転移学習やドメイン汎化，強化学習などに関する研究に取り組んでいます．また，学内外の研究者らと連携し，船舶工学，医療・生体データ，ヘルスケア，バイオ，セキュリティ，VRなどへの機械学習や深層学習技術の応用に関する研究を行っています．

M. Noguchi and S. Shirakawa: Simple Domain Generalization Methods are Strong Baselines for Open Domain Generalization, IJCNN 2024 (Part of WCCI 2024). [DOI] [arXiv] [Code]
Y. Kishimoto, K. Yamanishi, T. Matsuda, and S. Shirakawa: Neural Additive and Basis Models with Feature Selection and Interactions, PAKDD 2024. [DOI]
T. Matsuda, K. Uchida, S. Saito, and S. Shirakawa: HACNet: End-to-end learning of interpretable table-to-image converter and convolutional neural network, Knowledge-Based Systems, 2024. [DOI] [Code]
S. Shimizu, K. Nishihara, Y. Miyauchi, K. Wakita, R. Suyama, A. Maki, and S. Shirakawa: Automatic berthing using supervised learning and reinforcement learning, Ocean Engineering, 2022. [DOI]
W. Shibayama and S. Shirakawa, Reinforcement Learning-Based Redirection Controller for Efficient Redirected Walking in Virtual Maze Environment, CGI 2020. [DOI] [PDF]
K. Uchida, S. Saito, P. D. Pamungkasari, Y. Kawai, I. F. Hanoum, F. H. Juwono, and S. Shirakawa: Joint Optimization of Convolutional Neural Network and Image Preprocessing Selection for Embryo Grade Prediction in In Vitro Fertilization, ISVC 2019. [DOI] [PDF]

産学連携研究・異分野融合研究の推進

継続的に企業との共同研究も実施しています．実際の現場で取得されるデータを機械学習や深層学習技術を使って分析したり，実問題を解決するためのアルゴリズムを開発しています．また，異分野の研究者との共同研究にも取り組んでいます．

K. Uchida, G. Sakata, T. Watari, Y. Yamakita, and S. Shirakawa: Generation of microscopic structure of solder material with desirable characteristics based on deep learning, Knowledge-Based Systems, 2022. [DOI]
M. Masumoto, I. Fukuda, S. Furihata, T. Arai, T. Kageyama, K. Ohmori, S. Shirakawa, and J. Fukuda: Deep neural network for the determination of transformed foci in Bhas 42 cell transformation assay, Scientific Reports, 2021. [DOI]
西川慎太郎，熊崎美枝子，白川真一，三角隆太，大塚輝人：CFDデータを利用した機械学習による早期異常検知手法の検討，第53回安全工学研究発表会, 2020.
R. Abe, T. Takeda, R. Shiratori, S. Shirakawa, S. Saito, and T. Baba, Optimization of an H0 photonic crystal nanocavity using machine learning, Optics Letters, 2020. [DOI]

学生募集

大学院生（博士課程前期・博士課程後期）

大学院環境情報学府の大学院博士課程後期（博士課程）および大学院博士課程前期（修士課程）の学生を受け入れています．入試の詳細は大学院のページを参照ください．大学院入試で当研究室を志望する場合は事前に教員に連絡するようにお願いします．事前に研究室見学をしてもらえると研究室の雰囲気がわかるので良いと思います．

学部生（卒業研究・課題研究・ROUTE）

横浜国立大学理工学部数物・電子情報系学科情報工学EPの4年生を卒業研究生を受け入れています．2〜3月に卒業研究配属者向けの研究室説明会が開催されますので，配属を希望する方は参加するようにしてください．また，課題研究やROUTEといったプログラムを使って3年生以下でも本研究室で研究活動をすることができます．

研究生

現在は研究生の受け入れはしていません．