JP7709947B2 - 無線アクセスネットワークの制御装置 - Google Patents

Description

本発明は、無線アクセスネットワークの制御装置に係り、特に、無線アクセスネットワークから収集したデータを学習して生成した学習モデルを再学習する機能を備えた無線アクセスネットワークの制御装置に関する。

無線アクセスネットワーク（RAN：Radio Access Network）において、従来は統合されていた基地局の機能を、セッション処理を行うCU（Centralized Unit）、ベースバンド処理を行う分散ユニットDU（Distributed Unit）及び無線処理を行うRU（Radio Unit）に分割し、各ユニット間のインタフェース仕様をオープン化するための仕様検討がO-RAN Allianceで進められている。

Beyond 5Gシステムでは、スループット、通信遅延、接続数等の性能をより拡大し、多種多様なサービス（例えばロボット制御、コネクティッドカー、AR/VR等）を提供することが期待されており、これらを実現するためのキーテクノロジーとしてAI（人工知能）/ML(機械学習）が注目されている。

非特許文献1，2では、RANにおいて限られたネットワークリソースの中でネットワーク性能を最大化するために、ビームフォーミング制御、無線リソース割当、トラヒック予測、基地局機能配置など、様々な用途にAI/MLを適用することが検討されている。

非特許文献3には、RANから収集したデータに基づき学習を行って学習モデルを生成し、RANから収集したデータ及び当該学習モデルを使用して推論を行い、推論結果に従ってRANを制御する技術が開示されている。

しかしながら、時間経過や環境変化よって、推論で使われているデータの特性が、学習時のデータから変化すること（コンセプトドリフト）でモデルの推論性能が低下することがある。

このような技術課題に対して、本発明の発明者等は、O-RANの基地局装置からAI/MLの学習・推論に関するデータを蓄積・監視し、コンセプトドリフトを検知して再学習を実行するAIシステムを提案し、特許出願した（特許文献１）。

図5は、コンセプトドリフトを検知して再学習を実行するAIシステムの従来構成を示した機能ブロック図である。

データ収集部11はO-RAN基地局装置10から最新データを繰り返し収集し、収集した最新データ（収集データ）をAI/ML学習部12及びAI/ML推論部13へ提供すると共にデータ蓄積部14に蓄積する。データ蓄積部14に蓄積された収集データはAI/MLデータベース15で管理される。AI/ML学習部12は、収集データを学習してO-RAN基地局装置10を制御するための学習モデルを生成する。

AI/MLモデル管理部16は、AI/ML学習部12が過去に生成した学習モデルを管理する。AI/ML推論部13は、データ収集部11が新たに収集した収集データ及び学習モデルに基づく推論を行い、推論結果を制御部17及び推論性能測定部18へ出力する。制御部17は、推論結果に基づいてO-RAN基地局装置10を制御する。

推論性能測定部18は、制御部17が推論結果に基づいてO-RAN基地局装置10を制御した後に収集された最新データと当該推論結果とに基づいて推論性能を判定し、判定した推論性能を示す推論性能データをAI/MLデータベース15に格納する。

コンセプトドリフト検知部19は、周期的にAI/MLデータベース15から収集データ及び推論性能データの少なくとも一方を取得し、コンセプトドリフトが生じているか否か判定する。コンセプトドリフトの発生を検知すると、コンセプトドリフト検知部19は、新たな学習モデルの生成（再学習）を再学習制御部20へ指示する。再学習制御部20は、AI/ML学習部12へ再学習用のデータを提供して再学習を指示する。

AI/ML学習部12は、再学習が指示されるとデータ収集部11が新たに収集した収集データに基づき新たな学習モデルを生成し、AI/MLモデル管理部16に出力する。AI/MLモデル管理部16は、AI/ML推論部13が使用している現在の学習モデルと新たな学習モデルとを比較し、新たな学習モデルによる推論性能が現在の学習モデルによる推論性能よりも高ければ、新たな学習モデルをAI/ML推論部13に出力する。

AI/ML推論部13は、以後、新たな学習モデルを使用して推論を行う。なお、新たな学習モデルによる推論性能が現在の学習モデルによる推論性能より低い場合、AI/MLモデル管理部16はAI/ML学習部12に再学習を指示することができる。

特願2022-046347号

M. E. Morocho-Cayamcela, H. Lee and W. Lim, "Machine Learning for 5G/B5G Mobile and Wireless Communications: Potential, Limitations, and Future Directions," in IEEE Access, vol. 7, pp. 137184-137206, 2019. J. Kaur, M. A. Khan, M. Iftikhar, M. Imran and Q. Emad Ul Haq, "Machine Learning Techniques for 5G and Beyond," in IEEE Access, vol. 9, pp. 23472-23488, 2021. O-RAN Alliance, "AI/ML workflow description and requirements," O-RAN.WG2.AIML-v01.03, Jul. 2021. Hendrycks, D. and Gimpel, K. 2017. A BASELINE FOR DETECTING MISCLASSIFIED AND OUT-OF-DISTRIBUTION EXAMPLES IN NEURAL NETWORKS. ICLR. (2017). Hendrycks, D. and Dietterich, T. 2019. DEEP ANOMALY DETECTION WITH OUTLIER EXPOSURE. ICLR. (2019). Liang, S., Li, Y. and Srikant, R. 2018. ENHANCING THE RELIABILITY OF OUT-OF-DISTRIBUTION IMAGE DETECTION IN NEURAL NETWORKS. ICLR. (2018). Lee, K., Lee, K., Lee, H. and Shin, J. 2018. A simple unified framework for detecting out-of-distribution samples and adversarial attacks. NeurIPS. (2018). Liu, W., Wang, X., Owens, J.D. and Li, Y. 2020. Energy-based Out-of-distribution Detection. NeurIPS. (2020). Huang, R., Geng, A. and Li, Y. 2021. On the Importance of Gradients for Detecting Distributional Shifts in the Wild. NeurIPS (2021).

RAN機能の制御及び最適化を担うRANインテリジェント・コントローラー（RIC）は、図6に示すように、制御周期が異なる非リアルタイム系のコンポーネント「Non-RT（Real Time）RIC」及び準リアルタイム系のコンポーネント「Near-RT RIC」の階層構造となっている。

ここで、Non-RT RICは制御周期が1sec以上で制御対象が広いのに対して、Near-RT RICは制御周期が10msec～1secで制御対象が狭いという異なった特徴を有することから、AI/MLに関する各機能ブロックのNear-RT RIC及びNon-RT RICへの最適配置が従来から検討されている。

Non-RT RICは局舎（データセンタ）に設けられ、Near-RT RICはエッジサイト（ビルの屋上やアパートの借室）に配置されることが多い。したがって、AI/ML学習に係る機能をNon-RT RICに配置し、AI/ML推論に係る機能をNear-RT RICへ配置すれば、局舎の収容範囲である広範囲のデータを用いた学習により汎化性の高い学習モデルを作ることができるほか、推論をエッジサイト毎に行うことができるのでエッジサイトの処理負荷を削減することができるようになる。

しかしながら、リアルタイム性を優先して、AI/ML学習に係る機能のみならず学習モデルの再学習に係る機能もNear-RT RICに配置すると以下の技術課題が生じ得る。

第1に、Near-RT RICの処理負荷が増大する。すなわち、エッジサイトは電力やスペースの制約があるため、潤沢な計算機を配置することができない。

第2に、Near-RT RIC配下の情報しかコンセプトドリフト検知に用いることができない。すなわち、隣接エリアの情報を用いることができないのでコンセプトドリフトの検知が遅れる。

これに対して、再学習に係る全ての機能をNon-RT RICに配置すれば、以下のような効果が期待できる。

第1に、Near-RT RICの処理負荷を低減し、エッジサイトの計算機リソースが限られていても再学習を実施することができる。

第2に、Non-RT RIC配下の情報をコンセプトドリフト検知に用いることができるので、環境変化に対する追従性を高めることができる。

一方、再学習に係る全ての機能をNon-RT RICに配置してコンセプトドリフト検知に基づく再学習を実現するためには、Near-RT RICからNon-RT RICへ学習モデルの推論性能のデータを送信する必要があり、A1/O1インタフェースを用いることが考えられる。

しかしながら、O1インタフェースには学習モデルの性能指標のインタフェース仕様が規定されていない。3GPP（登録商標）の仕様に基づく基地局向けの性能指標のインタフェースの規定はあるが、これをそのまま学習モデルの推論性能データに使用することはできない。また、A1インタフェースにも学習モデルの性能指標のインタフェース仕様は規定されていない。

本発明の目的は、上記の技術課題を解決し、学習モデルの再学習に係る全ての機能をNon-RT RICに配置し、コンセプトドリフト検知に基づく再学習を実現できる無線アクセスネットワークの制御装置を提供することにある。

上記の目的を達成するために、本発明は、非リアルタイム系の制御部及び準リアルタイム系の制御部が階層化された無線アクセスネットワークの制御装置において、無線アクセスネットワークから収集したデータに基づいて学習モデルを生成する学習部と、学習モデルに前記収集したデータを適用して推論した結果に基づいて無線アクセスネットワークを制御する推論部と、前記収集したデータに基づいてコンセプトドリフトが発生しているか否かを検知し、コンセプトドリフトの発生を検知すると学習部に学習モデルを再学習させる再学習部とを具備し、推論部を準リアルタイム系の制御部に配置し、学習部及び再学習部を非リアルタイム系の制御部に配置した。

本発明によれば、AI/ML推論に係る機能のみが準リアルタイム系の制御部へ配置され、AI/ML学習に係る機能及び再学習に係る機能は非リアルタイム系の制御部に配置されるので、以下のような効果が達成される。

(1) AI/ML学習に係る機能は、局舎の収容範囲内の広範囲のデータ用いて学習することができるので、汎化性の高い学習モデルを作ることができる。

(2)AI/ML推論をエッジサイト毎に行うことができるので、エッジサイトの処理負荷を削減することができる。

(3) 再学習に係る機能を全て非リアルタイム系の制御部に配置したので、準リアルタイム系の制御部の処理負荷を低減し、エッジサイトの計算機リソースが限られていても再学習を実施することができる。

(4) 非リアルタイム系の制御部の配下の情報をコンセプトドリフト検知に用いることができるので、環境変化に対する追従性を高めることができる

本発明の一実施形態に係るO-RAN制御装置の主要部の構成を示した機能ブロック図である。 推論性能データをリクエストする際に指標を指定する方法を示した図である。 推論性能データをテーブル形式で送信する例を示した図である。 本発明の動作を示したシーケンスフローである。 コンセプトドリフトを検知して再学習を実行するAIシステムの従来構成を示した機能ブロック図である。 RANインテリジェント・コントローラー（RIC）の機能ブロック図である。

以下、図面を参照して本発明の実施の形態について詳細に説明する。図1は、本発明の一実施形態に係るO-RAN制御装置の主要部の構成を示した機能ブロック図であり、ここでは本発明の説明に不要な構成の図示を省略している。また、前記と同一の符号は同一又は同等部分を表している。本実施形態は、AI/ML推論に係る機能をNear-RT RICに配置し、AI/ML学習及び学習モデルの再学習に係る機能をNon-RT RICに配置した点に特徴がある。

O-RAN制御装置は、O-CU/O-DU、Near-RT RIC及びNon-RT RICから構成され、各機能は、O-RAN Allianceが規定するO1インタフェース,A1インタフェース及びE2インタフェースを含む各種のインタフェースを介して相互に通信できる。O-CU/O-DUには前記O-RAN基地局装置10が配置される。

Near-RT RICには、AI/ML推論に係る主な機能として、AI/ML推論部13，制御部17及び推論性能測定部18が配置されている。Non-RT RICには、AI/ML学習に係る主な機能として、データ収集部11，AI/ML学習部12及びAI/MLモデル管理部16が配置され、更に再学習に係る主な機能として、データ蓄積部14，AI/MLデータベース15，コンセプトドリフト検知部19及び再学習制御部20が配置されている。

Non-RT RICにおいて、データ収取部11はO-CU/O-DUのO-RAN基地局装置10から最新データをO1インタフェースを介して収集し、データ蓄積部14及びAI/ML学習部12へ提供する。前記最新データはAI/MLデータベース15で管理される。AI/ML学習部12が前記収集したデータに基づいて作成した学習モデルはAI/ML管理部16に登録され、A1インタフェースを介してNear-RT RICのAI/ML推論部13へ提供される。

Near-RT RICにおいて、AI/ML推論部13は前記A1インタフェースを介して取得した学習モデルに最新データを適用して得られる推論結果を制御部17及び推論性能測定部18へ提供する。推論性能測定部18は、推論性能データをNon-RT RICのAI/MLデータベース15及びAI/ML管理部16へA1/O1インタフェースを介して送信する。

Non-RT RICにおいて、コンセプトドリフト検知部19がコンセプトドリフトを検知すると、再学習制御部20はAI/ML学習部12に対して学習モデルの再学習を指示する。再学習された学習モデルはAI/ML管理部16に更新登録され、A1インタフェースを介してNear-RT RICのAI/ML推論部13へ提供される。

このように、本実施形態ではAI/ML学習、AI/ML推論及び学習モデルの再学習に係る各機能をNear-RT RIC及びNon-RT RICに分散配置したことから、Near-RT RICとNon-RT RICとの間で再学習に係る情報を送受するために、以下の2つのメッセージ(a)，(b)が追加される。

(a) 推論性能データのリクエスト
(b) リクエストされた推論性能データの送信

ここで、前記(a)推論性能データのリクエストでは、以下の3つの情報(1)-(3)が指定される。
(1)推論性能データ
O-RAN WG2では、図2に例示した指標がAI/MLの推論性能に関する指標として挙げられており、少なくとも一つの指標が指定される。この指標では、二値分類問題（Binary classification problems）向けの指標、多クラス分類問題（Multiclass classification problems）向けの指標及び回帰問題（Regression classification problems）向けの指標が、それぞれ規定されている。本実施形態では、指定した期間の平均値や中央値が取得可能である。

(2)対象物
推論性能データを取得する対象の学習モデルが指定される。

(3)データ取得の間隔
推論性能データの取得間隔が指定される。

ところで、前記図2に例示した指標はいずれも、正解データ(真値)を用いる指標であるが、正解データがシステムから得られない場合もある。そこで、本実施形態では以下に詳述するように、正解データが得られない場合の推論性能指標も含めて選択可能としている。

一般に、分布外(OOD：out-of-distribution)データに対してモデルの性能は低下する。したがって、学習済みモデルを前提としたOODスコアが、正解データを得られない場合の推論性能指標として追加される。

多クラス分類問題向けであれば、学習済みモデルの出力をクラス方向にSoftmaxで正規化したときの最大値として、非特許文献4が開示するMaximum over softmax probabilities (MSP)、非特許文献5が開示するOutlier Exposure又は非特許文献6が開示するODINを指定できる。

また、非特許文献7が開示するMahalanobisのように、学習済みモデルの最後から二番目の特徴量とラベルを用いてクラス毎に特徴量のガウス分布を計算し、マハラノビス距離が最小となるクラスのマハラノビス距離に負号をつけたものも指定できる。

さらに、非特許文献8が開示するEnergyのように、エネルギー関数を学習済みモデルの出力に負号をつけたものとしたときの、自由エネルギーに負号をつけたものも指定できる。

さらに、非特許文献9が開示するGradNormのように、学習済みモデルのSoftmax出力と一様分布のKLDをbackpropした際の勾配のノルムも指定できる。

一方、二値分類問題向けであれば、多クラス分類問題向けの指標を指定できる。

前記(b)推論性能データの送信に関して、本実施形態では図3に一例を示すように、前記(1)AI/MLデータベースに対する情報のリクエストで指定されたm個の指標に関する推論性能データ（p1～pm）が学習モデル（No.）ごとに、テーブル形式で、かつ指定された時間間隔で送信される。

図4は、本実施形態の動作を示したシーケンスフローであり、ここではO-CU/O-DU、Near-RT RIC及びNon-RT RIC間の通信に注目して説明する。本実施形態では、O-CU/O-DU及びNear-RT RIC間の通信はE2インタフェースを介して行われ、Near-RT RIC及びNon-RT RIC間の通信はO1インタフェース又はA1インタフェースを介して行われる。

O-CU/O-DUは、O-RAN基地局装置10の最新データを所定の周期でNear-RT RIC及びNon-RT RICへ繰り返し送信する。本実施形態では、時刻t1においてO-CU/O-DUが最新データを、Near-RT RICへはE2インタフェースを介して、Non-RT RICへはO1インタフェースを介して、それぞれ送信する。Non-RT RICでは、前記最新データがデータ収集部11により取得される。

Near-RT RICでは、AI/ML推論部13が現在の学習モデルに前記最新データを適用して推論を実行し、推論結果を制御部17及び推論性能測定部18へ通知する。制御部17は、時刻t2においてO-CU/O-DUのO-RAN基地局装置10へ、前記推論結果に基づく制御をE2インタフェースを介して指示する。

Non-RT RICは、所定の周期でNear-RT RICへ推論性能データをリクエストする。本実施形態では、時刻t3において、Non-RT RICのAI/MLモデル管理部16が推論性能データをNear-RT RICへO1インタフェースを介してリクエストすると、Near-RT RICでは、時刻t4において推論性能測定部18が前記リクエストに応答して、推論性能データの測定結果をNon-RT RICへO1インタフェースを介して前記テーブル形式で送信する。

Non-RT RICでは、コンセプトドリフト検知部19が前記推論性能データ及びAI/MLデータベース15に蓄積されているデータに基づいてコンセプトドリフトを測定する。時刻t5においてコンセプトドリフトが検知されると、時刻t6において、再学習制御部20がAI/ML学習部12に対して再学習を指示する。AI/ML学習部12は、再学習を実施して学習モデルを生成し、これをAI/MLモデル管理部16に更新登録する。

時刻t7では、Non-RT RICのAI/MLモデル管理部16からNear-RT RICのAI/ML推論部13へ前記再学習された学習モデルがA1インタフェースを介して送信される。したがって、これ以降は最新のデータが収集されるごとに、当該再学習した学習モデルに基づく制御が行われる。

本実施形態によれば、AI/ML推論に係る機能はNear-RT RICに配置される一方、AI/ML学習及び再学習に係る機能はNon-RT RICへ配置されるので、Near-RT RICの処理負荷を低減することができる。
したがって、エッジサイトの計算機リソースに制約があって、コンセプトドリフトが頻繁には発生しない環境下であればコンセプトドリフトの即応的な検知が可能となり、環境変化に対する追従性を高めることができる。

その結果、実施形態によれば、国連が主導する持続可能な開発目標（SDGs）の目標9「レジリエントなインフラを整備し、包括的で持続可能な産業化を推進する」や目標11「都市を包摂的、安全、レジリエントかつ持続可能にする」に貢献することが可能となる。

10…O-RAN基地局装置，11…データ収集部，12…AI/ML学習部，13…AI/ML推論部，14…データ蓄積部，15…AI/MLデータベース，16…AI/MLモデル管理部，17…制御部，18…推論性能測定部，19…コンセプトドリフト検知部，20…再学習制御部

Claims (5)

1. 非リアルタイム系の制御部及び準リアルタイム系の制御部が階層化された無線アクセスネットワークの制御装置において、
   無線アクセスネットワークから収集したデータに基づいて学習モデルを生成する学習部と、
   前記学習モデルに前記収集したデータを適用して推論した結果に基づいて無線アクセスネットワークを制御する推論部と、
   前記収集したデータに基づいてコンセプトドリフトが発生しているか否かを検知し、コンセプトドリフトの発生を検知すると前記学習部に学習モデルを再学習させる再学習部とを具備し、
   前記推論部が前記準リアルタイム系の制御部に配置され、前記学習部及び再学習部が前記非リアルタイム系の制御部に配置されたことを特徴とする無線アクセスネットワークの制御装置。
2. 前記推論部が、前記収集したデータ及び推論の結果に基づいて推論性能を測定する推論性能測定手段とを含み、
   前記再学習部が、前記推論性能に基づいてコンセプトドリフトの発生を検知するコンセプトドリフト検知手段及び前記コンセプトドリフトの発生が検知されると前記学習部に学習モデルを再学習させる再学習制御手段とを含み、
   前記非リアルタイム系の制御部は、推論性能データを準リアルタイム系の制御部へO1インタフェースを介してリクエストし、
   前記準リアルタイム系の制御部は前記リクエストに応答して、推論性能データを前記非リアルタイム系の制御部へO1インタフェースを介して送信し、
   前記非リアルタイム系の制御部は、再学習した学習モデルを前記準リアルタイム系の制御部へ、O1インタフェース及びA1インタフェースの一方を介して送信することを特徴とする請求項１に記載の無線アクセスネットワークの制御装置。
3. 前記推論性能データのリクエストが、推論性能の指標、対象の学習モデル及びデータの取得間隔の各指定を含むことを特徴とする請求項２に記載の無線アクセスネットワークの制御装置。
4. 前記準リアルタイム系の制御部は、前記リクエストされた推論性能データを、前記指定された学習モデル毎に前記指定された各指標のデータを記述したテーブル形式で送信することを特徴とする請求項３に記載の無線アクセスネットワークの制御装置。
5. 前記推論性能の指標が、学習済みモデルを前提とした分布外スコアを含むことを特徴とする請求項３または４に記載の無線アクセスネットワークの制御装置。