本研究のポイント

・超低電力かつ高速動作が可能なReLU活性化関数を持つ超伝導ニューロン回路を作製し、40 GHz以上の速度での動作を実証
・超伝導回路の特徴とディジタル回路による処理を組み合わせ、理想的なReLU活性化関数を実現
・大規模な超伝導ニューラルネットワークへの応用に期待

研究概要

　横浜国立大学の上野佑斗博士課程前期学生、弘中祐樹IAS助教（研究当時）、吉川教授、山梨教授の研究グループは、超伝導単一磁束量子回路によるReLU活性化関数を持つニューロン回路の実証に成功しました。設計された回路は1ニューロン動作あたり1.4 fJ（1.4×10-15 J）という超低電力動作、かつ高速な処理が可能です。さらに超伝導単一磁束量子回路の特性を用いたディジタル処理を用いることで回路製造時の回路素子パラメータばらつきがあっても理想的な特性が得られるという特徴があります。回路は40 GHzを超える速度での高速動作実証に成功しました。今後は大規模な超伝導ニューラルネットワークへの応用に期待されます。
　本研究成果は、2025年9月24日に国際論文誌「Neuromorphic Computing and Engineering」に掲載されました。

社会的な背景

　近年AIの発展が目覚ましく、人工ニューラルネットワーク[用語1]の発展がその一助を担っています。しかし、従来の汎用プロセッサを用いたソフトウェアベースのAIの開発では計算時間や消費電力の増大が問題になってきています。そこで、さまざまな素子を用いて人工ニューラルネットワーク専用回路を開発することで消費電力や計算時間を削減する研究が世界中でなされています。人工ニューラルネットワークを構成する重要な要素がニューロン[用語2]回路です。これまで研究されてきたニューロン回路では、素子のアナログ特性によってニューロンの活性化関数[用語3]を表現するもので、使用素子のパラメータの変動により理想的な活性化関数が得られない、回路パラメータの変動により特性が大きく変わってしまう、という問題がありました。

研究成果

　本研究では、超伝導単一磁束量子回路（SFQ回路）[用語4]を用いたReLU[用語5]活性化関数を持つニューロン回路の作製に成功しました。提案したニューロン回路はinputとcancelの2入力がある回路で、それぞれの入力周波数fin , fcanの大小によって出力が決定されます。fin ＜ fcanであれば出力foutは0 Hz であり、fin ＞ fcanであれば出力平均周波数foutはfinとfcanの差分になります。提案回路はSFQディジタル回路によって2入力の周波数差分を計算しているため、用いられる論理回路が動作する範囲内の使用素子のパラメータ変動があっても理想的なReLU活性化関数の入出力特性が得られます。作製した回路は1ニューロン動作あたり1.4 fJ（1.4×10-15 J）という超低電力動作、かつ高速な処理が可能です。
　ニューロン回路は産業総合総合研究所の10 kA/cm2 Nb High-speed Standard Processによって作製されました。作製した回路を液体ヘリウムによって4.2 K まで冷却して超伝導状態にして測定したところ、40 GHzを超える入力周波数に対しての高速動作を確認しました。入力周波数を変化させて出力特性を測定したところ、理想的なReLU活性化関数に測定の誤差内でほぼ一致する出力が得られていることを確認しました。

今後の展開

　従来の人工ニューラルネットワーク専用回路では、個々のニューロン回路に対して調整が必要な点や、特性のばらつきによる性能の低下が問題となっていました。本研究の提案回路ではこれらの問題が起きないため、ニューラルネットの大規模化への障害を取り除くことができます。今後は低電力、高速な動作が可能な大規模な超伝導人工ニューラルネットワーク回路の開発が期待されます。

謝辞

　本研究はJSPS科研費JP24H00311とJP25K01284の助成を受けたものです。本研究で使用された回路は、国立研究開発法人産業技術総合研究所の超伝導量子回路試作施設（Qufab）において作製されました。

用語解説

[用語1]
人工ニューラルネットワーク：間の脳の神経細胞（ニューロン）の構造や働きを模倣して作られた情報処理モデルであり、人工知能（AI）の中核技術のひとつ。

[用語2]
ニューロン：人間の脳の神経細胞の働きを模倣した最小の計算単位。入力を受け取り、重みづけした後に加算し、合計値から活性化関数を通して出力を得る。

[用語3]
活性化関数：各ニューロンにおいて、重み付き入力の合計に対して非線形な変換を行う関数。これにより、ニューラルネットワークは単なる線形回帰ではなく、複雑な非線形問題を学習できるようになる。

[用語4]
超伝導単一磁束量子回路（Single Flux Quantum Circuit: SFQ回路）：超伝導素子を用いた回路の一つ。超伝導体内の磁束の最小単位である磁束量子（Φ0）の有無によってディジタル情報を表現する。

[用語5]
ReLU（Rectified Linear Unit, 正規化線形関数）：ニューラルネットワークで最も広く使われている活性化関数の1つ。

論文情報

掲載誌	Neuromorphic Computing and Engineering
タイトル	High-speed, ultra-low-power, and robust superconductive neuron with ReLU activation
著者	Yuto Ueno, Yuki. Hironaka, Nobuyuki Yoshikawa, Yuki Yamanashi
DOI	10.1088/2634-4386/ae0aee

資料

• プレスリリース

研究者プロフィール

山梨 裕希
大学院工学研究院／先端科学高等研究院／総合学術高等研究院　教授