JPH0638200B2 - ダイナミックなニューラルネットワーク - Google Patents
ダイナミックなニューラルネットワークInfo
- Publication number
- JPH0638200B2 JPH0638200B2 JP62273830A JP27383087A JPH0638200B2 JP H0638200 B2 JPH0638200 B2 JP H0638200B2 JP 62273830 A JP62273830 A JP 62273830A JP 27383087 A JP27383087 A JP 27383087A JP H0638200 B2 JPH0638200 B2 JP H0638200B2
- Authority
- JP
- Japan
- Prior art keywords
- layer
- output
- unit
- input
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Landscapes
- Image Analysis (AREA)
Description
【発明の詳細な説明】 (産業上の利用分野) 本発明は音声等のパターン認識システムに利用されるニ
ューラルネットワークの改良に関する。
ューラルネットワークの改良に関する。
(従来の技術) 生物の神経回路を模擬した情報処理機構であるニューラ
ルネットワークは、パターン認識等の諸問題の解決に有
望と考えられ、近年世界中で研究開発が盛んに行なわれ
ている。
ルネットワークは、パターン認識等の諸問題の解決に有
望と考えられ、近年世界中で研究開発が盛んに行なわれ
ている。
ニューラルネットワークに関しては「日経エレクトロニ
クス」誌、第427号(昭和62年8月10日発行)のpp.115-12
4に「ニューラルネットワークをパターン認識、知識処
理に使う」と題して発表された解説」(以下「文献
(1)」)に分り易く説明されている。それによると、ニュ
ーラルネットワークの基本構成要素はニューロンユニッ
トと呼ばれる素子で、複数の入力の荷重和を計算しそれ
に応じた出力を発生する。ニューラルネットワークは多
層構造をとり、典型的には入力層、中間層、出力層の3
階層構成となる。入力層の各ニューラルユニットの出力
は中間層の各ニューラルユニットに伝達され、それらへ
の入力となる。中間層の各ニューラルユニットの出力は
出力層の各ニューラルユニットに伝達され、それらへの
入力となる。
クス」誌、第427号(昭和62年8月10日発行)のpp.115-12
4に「ニューラルネットワークをパターン認識、知識処
理に使う」と題して発表された解説」(以下「文献
(1)」)に分り易く説明されている。それによると、ニュ
ーラルネットワークの基本構成要素はニューロンユニッ
トと呼ばれる素子で、複数の入力の荷重和を計算しそれ
に応じた出力を発生する。ニューラルネットワークは多
層構造をとり、典型的には入力層、中間層、出力層の3
階層構成となる。入力層の各ニューラルユニットの出力
は中間層の各ニューラルユニットに伝達され、それらへ
の入力となる。中間層の各ニューラルユニットの出力は
出力層の各ニューラルユニットに伝達され、それらへの
入力となる。
音声認識に例を取ると、入力層では「計測と制御」誌、
第22巻、第1号(昭和58年1月発行)のpp.99-pp.105に
「音声認識におけるパターンマッチング手法」と題して
発表された論文(以下「文献(2)」)の図2に示される如
き音声パターンを入力信号として受ける。ここに図2の
行列の各元を入力層の各ニューラルユニットに対応させ
るものとする。出力層の各ニューラルユニットは、認識
対象語彙の各単語が対応する、最大の出力が得られるニ
ューラルユニットに対応する単語が認識結果となる。
第22巻、第1号(昭和58年1月発行)のpp.99-pp.105に
「音声認識におけるパターンマッチング手法」と題して
発表された論文(以下「文献(2)」)の図2に示される如
き音声パターンを入力信号として受ける。ここに図2の
行列の各元を入力層の各ニューラルユニットに対応させ
るものとする。出力層の各ニューラルユニットは、認識
対象語彙の各単語が対応する、最大の出力が得られるニ
ューラルユニットに対応する単語が認識結果となる。
このように認識動作を有効に機能さすためには、あらか
じめニューラルユニットの入力に付せられる荷重の係数
を学習する必要がある。これには前記文献(1)の第118頁
に詳述されるバックプロパゲーション法を用いることが
できる。
じめニューラルユニットの入力に付せられる荷重の係数
を学習する必要がある。これには前記文献(1)の第118頁
に詳述されるバックプロパゲーション法を用いることが
できる。
(発明が解決しようとする問題点) 以上の如き構成と機能を有するニューラルネットワーク
は、理論的に定式化が不可能なパターン認識問題に対し
て、学習という高度な機能を発揮して、対処可能な解法
を与えるものと期待されている。しかし、文献(1)の図
2に示されるように、現在までに提案されているニュー
ラルネットワークは、層間のニューラルユニット間では
まったく自由な結合が行なわれている点で、極めて一般
的な形態のものである。それゆえ万能ではあるかも知れ
ないが特殊な問題を扱かう場合には能率が悪い。例えば
比較的簡単な認識対象である活字文字でも印字の条件に
よっては位置が変動する。あらゆる位置変動を想定して
学習パターンを与えて荷重係数を学習させるのは、極め
て大変なことである。同様のことは文字の拡大・縮小の
変動についても言える。
は、理論的に定式化が不可能なパターン認識問題に対し
て、学習という高度な機能を発揮して、対処可能な解法
を与えるものと期待されている。しかし、文献(1)の図
2に示されるように、現在までに提案されているニュー
ラルネットワークは、層間のニューラルユニット間では
まったく自由な結合が行なわれている点で、極めて一般
的な形態のものである。それゆえ万能ではあるかも知れ
ないが特殊な問題を扱かう場合には能率が悪い。例えば
比較的簡単な認識対象である活字文字でも印字の条件に
よっては位置が変動する。あらゆる位置変動を想定して
学習パターンを与えて荷重係数を学習させるのは、極め
て大変なことである。同様のことは文字の拡大・縮小の
変動についても言える。
別の例として音声認識の例を考える。文献(2)の第3.1節
に記される如く音声パターンには時間軸の伸縮が存在す
る。この伸縮は複雑な非線形性を有し、極めて大量の歪
みパターンを生ずる。これら総てを対象として学習を行
なうのは計算時間的に言って不可能である。
に記される如く音声パターンには時間軸の伸縮が存在す
る。この伸縮は複雑な非線形性を有し、極めて大量の歪
みパターンを生ずる。これら総てを対象として学習を行
なうのは計算時間的に言って不可能である。
以上の2例からパターンの学習には多量の学習パターン
が必要なことが分る。しかし、学習パターンを少なくす
ると認識率が低下することが明白である。
が必要なことが分る。しかし、学習パターンを少なくす
ると認識率が低下することが明白である。
すなわち、従来提案されているニューラルネットワーク
は、一般的ではあるが、伸縮や位置の変動を処理するに
は適していないという欠点があった。本発明はこれを改
善するためダイナミックなニューラルネットワークの構
成を実現せんとするものである。
は、一般的ではあるが、伸縮や位置の変動を処理するに
は適していないという欠点があった。本発明はこれを改
善するためダイナミックなニューラルネットワークの構
成を実現せんとするものである。
(問題点を解決するための手段) 本発明によるダイナミックなニューラルネットワーク
は、いずれかの層への入力の接続関係を最適に切り換え
るスイッチング層を有することを特徴とする。
は、いずれかの層への入力の接続関係を最適に切り換え
るスイッチング層を有することを特徴とする。
(作用) 上記の入力の接続関係を切り換える部位では、あらかじ
めあらゆる接続関係を与えておくことはしない。かつ切
り換え部の両端の各接続線は、入力パターンの位置と何
らかの対応を有しているものとする。かくして入力パタ
ーンが与えられた時、出力層の個々のニューラルユニッ
トの出力が最大になるように上記の接続を切りかえるこ
とにより、下位層での入力パターンの位置、形状(大
小、歪み)等の変動を正規化して上位層に伝達すること
ができ、安定な認識動作が達成される。
めあらゆる接続関係を与えておくことはしない。かつ切
り換え部の両端の各接続線は、入力パターンの位置と何
らかの対応を有しているものとする。かくして入力パタ
ーンが与えられた時、出力層の個々のニューラルユニッ
トの出力が最大になるように上記の接続を切りかえるこ
とにより、下位層での入力パターンの位置、形状(大
小、歪み)等の変動を正規化して上位層に伝達すること
ができ、安定な認識動作が達成される。
(実施例) 第1図は本発明の原理に基づく音声認識システムの構成
を示す図である。参照数字11〜14は入力層で、各16個の
ユニット(図では一部を省略)よりなり、前記文献(2)の
図2の如き16次元のスペクトラムベクトルの時系列
{xim}(時刻方向がi、周波数方向がm)を入力され、そ
れを中間層(参照数字21〜24)に送る。入力層と中間層の
結合は図に示す如く、中間層の第i列のユニットには入
力層の第i-1、第i、第i+1の3者のユニットが結合され
る。中間層のi列内の各ユニットはk=1,2,3の行番号
で指定される。これら2層間ではmとkに関してはあら
ゆる結合が許される。
を示す図である。参照数字11〜14は入力層で、各16個の
ユニット(図では一部を省略)よりなり、前記文献(2)の
図2の如き16次元のスペクトラムベクトルの時系列
{xim}(時刻方向がi、周波数方向がm)を入力され、そ
れを中間層(参照数字21〜24)に送る。入力層と中間層の
結合は図に示す如く、中間層の第i列のユニットには入
力層の第i-1、第i、第i+1の3者のユニットが結合され
る。中間層のi列内の各ユニットはk=1,2,3の行番号
で指定される。これら2層間ではmとkに関してはあら
ゆる結合が許される。
入力層の(i,m)ユニットから中間層の(i,k)ユニットへの
結合にはβi,i,m,kなる係数が荷重され、入力層の(i-1,
m)ユニットから中間層の(i,k)ユニットへの結合にはβ
i-1,i,m,kなる係数で荷重される。同様に入力層の(i+1,
m)ユニットから中間層の(i,k)ユニットにはβi+1,i,m,k
なる係数が荷重される。よって中間層の(i,k)ユニット
への入力信号和は (θはユニットの内部で発生されるバイアスファクタ) となる。これを受けて中間層の(i,k)ユニットは なる出力を発生する。(1)式の信号は時刻iの近傍の入
力xi,kに対してβi-1,i,m,k、βi,i,m,k、βi+1,i,m,k
なる係数群を荷重するというフイルタリング処理を施し
たものであり、係数群の学習を適当に行なっておくこと
によりスペクトラム形状と変化傾向に対応した音声的特
徴を表現する量となる。(2)式はそれをsigmoid関数で変
換して(0,1)なる値域に正規化したものである。結果と
して中間層の時刻iにおけるユニット(i,1)〜(i,3)の出
力y1=(yi1,yi2,yi3)は、この時刻iの近傍における入
力の音声的特徴の検出結果となる。
結合にはβi,i,m,kなる係数が荷重され、入力層の(i-1,
m)ユニットから中間層の(i,k)ユニットへの結合にはβ
i-1,i,m,kなる係数で荷重される。同様に入力層の(i+1,
m)ユニットから中間層の(i,k)ユニットにはβi+1,i,m,k
なる係数が荷重される。よって中間層の(i,k)ユニット
への入力信号和は (θはユニットの内部で発生されるバイアスファクタ) となる。これを受けて中間層の(i,k)ユニットは なる出力を発生する。(1)式の信号は時刻iの近傍の入
力xi,kに対してβi-1,i,m,k、βi,i,m,k、βi+1,i,m,k
なる係数群を荷重するというフイルタリング処理を施し
たものであり、係数群の学習を適当に行なっておくこと
によりスペクトラム形状と変化傾向に対応した音声的特
徴を表現する量となる。(2)式はそれをsigmoid関数で変
換して(0,1)なる値域に正規化したものである。結果と
して中間層の時刻iにおけるユニット(i,1)〜(i,3)の出
力y1=(yi1,yi2,yi3)は、この時刻iの近傍における入
力の音声的特徴の検出結果となる。
参照数字51〜54は出力層である。認識対象語彙の単語1,
2,…n…Nのそれぞれに対応してユニットが設けられて
いる。(特殊な場合として出力層のユニットは1個でも
よい。その場合にはニューラルネットワーク全体は特定
語の検出器としてのみ機能する。)従来技術による構成
では、各ユニットnは中間層の各ユニット(i,k)に接続
され、▲αn i,k▼なる係数で荷重された入力和 を受け、これに応じて出力 なる出力を発生する。0(n)が最大となるユニットnが であるとき が認識結果となる。
2,…n…Nのそれぞれに対応してユニットが設けられて
いる。(特殊な場合として出力層のユニットは1個でも
よい。その場合にはニューラルネットワーク全体は特定
語の検出器としてのみ機能する。)従来技術による構成
では、各ユニットnは中間層の各ユニット(i,k)に接続
され、▲αn i,k▼なる係数で荷重された入力和 を受け、これに応じて出力 なる出力を発生する。0(n)が最大となるユニットnが であるとき が認識結果となる。
本発明の特徴として中間層と出力層の間にスイッチング
層30,40がある。このスイッチング層は中間層の時刻i
と出力層の時刻jとの間の最適な結合を行なう機能を有
する。
層30,40がある。このスイッチング層は中間層の時刻i
と出力層の時刻jとの間の最適な結合を行なう機能を有
する。
文献(2)の3.1節に関連して前述した如く、音声パターン
は時間方向に非線形に伸数する。このために入力パター
ンの時刻iすなわち中間層の時刻iとの間の非線形な関
数j=j(i)による写像を時間軸iと時間軸jとの間に設
ける。これを最適化するには(4)式の出力が最大となる
写像を定めればよいが(4)式のsigmoid関数が増加関数で
あること、及び(3)式の右辺のθがj(i)に無関係である
ことから なる一次結合の最大化問題を計算すればよいことにな
る。
は時間方向に非線形に伸数する。このために入力パター
ンの時刻iすなわち中間層の時刻iとの間の非線形な関
数j=j(i)による写像を時間軸iと時間軸jとの間に設
ける。これを最適化するには(4)式の出力が最大となる
写像を定めればよいが(4)式のsigmoid関数が増加関数で
あること、及び(3)式の右辺のθがj(i)に無関係である
ことから なる一次結合の最大化問題を計算すればよいことにな
る。
このような問題は文献(2)でも行なわれているが如く、
動的計画法によって計算することができる。すなわち、 g(1,1)=r(1,1) (6) なる初期条件のもとに なる漸化式を各(i,j)格子点正順に計算することにより f(n)=g(I,J) (8) と最大化が達成される。ここに、(5),(6)式において である。
動的計画法によって計算することができる。すなわち、 g(1,1)=r(1,1) (6) なる初期条件のもとに なる漸化式を各(i,j)格子点正順に計算することにより f(n)=g(I,J) (8) と最大化が達成される。ここに、(5),(6)式において である。
以上の(5)〜(9)式の処理は第2図の如き(i,j)平面で明
解に説明される。模軸(i)には中間層よりの出力yikが並
んでいる。縦軸(j)には荷重係数▲αn jk▼が並んでい
る。各(i,j)格子点では(9)式のr(i,j)が算出される。こ
れをもとにして、まず(6)式の初期条件設定が(1,1)点に
なされる。以後(i,j)が増加する方向に(i,j)を変化させ
ながら(7)式の漸化式を計算し格子点にg(i,j)の値を詰
めて行く。最後にg(i,j)が得られた時点で処理が終了す
る。
解に説明される。模軸(i)には中間層よりの出力yikが並
んでいる。縦軸(j)には荷重係数▲αn jk▼が並んでい
る。各(i,j)格子点では(9)式のr(i,j)が算出される。こ
れをもとにして、まず(6)式の初期条件設定が(1,1)点に
なされる。以後(i,j)が増加する方向に(i,j)を変化させ
ながら(7)式の漸化式を計算し格子点にg(i,j)の値を詰
めて行く。最後にg(i,j)が得られた時点で処理が終了す
る。
かくの如く動作するスイッチング層と出力層の構成は第
3図に示す如きマイクロコンピュータにより構成され
る。図においてバッファ35には中間層よりの出力群
{yik}が保持される。荷重記憶部45には前記の係数群{▲
αn jk}が記憶される。マイクロプロセッサ部50は、ワー
クメモリ55上のテーブルg(i,j)を利用して、各出力ユニ
ットnに対して(6)から(9)式の計算を行なって、それぞ
れの出力0(n)を計算する。そのためマイクロプロセッサ
部で実行される処理プログラムは第4図に示す如くであ
る。この処理中(7)式の計算において右辺のgの座標と
して負あるいは0が生じたときはg=−∞と見なすもの
とする。
3図に示す如きマイクロコンピュータにより構成され
る。図においてバッファ35には中間層よりの出力群
{yik}が保持される。荷重記憶部45には前記の係数群{▲
αn jk}が記憶される。マイクロプロセッサ部50は、ワー
クメモリ55上のテーブルg(i,j)を利用して、各出力ユニ
ットnに対して(6)から(9)式の計算を行なって、それぞ
れの出力0(n)を計算する。そのためマイクロプロセッサ
部で実行される処理プログラムは第4図に示す如くであ
る。この処理中(7)式の計算において右辺のgの座標と
して負あるいは0が生じたときはg=−∞と見なすもの
とする。
なお、認識システムとしては、第4図の処理によって順
次算出される0(n)が最大となる を決定して認識結果とするという処理も、このマイクロ
プロセッサ部50で実行される。
次算出される0(n)が最大となる を決定して認識結果とするという処理も、このマイクロ
プロセッサ部50で実行される。
第3図、第4図の処理機能と同等なことは、例えばプロ
シーディングス オブジアイ・イー・イー・イーインタ
ーナショナルコンファレンスオンアコースティクススピ
ーチアンドシグナルプロセッシング(Proceedings of IE
EE International Conference on Acoustics,Speech an
d Signal Processing)1981年3月発行のpp.471-474に
「アハイスピードアレイコンピュータフォーダイナミッ
クタイムワーピング(A High Speed Ar
rey Computer for Dynamic
Time Warping)」と題して発表された論文
に示される如き、並列型の回路を用いて行なうことがで
きる。
シーディングス オブジアイ・イー・イー・イーインタ
ーナショナルコンファレンスオンアコースティクススピ
ーチアンドシグナルプロセッシング(Proceedings of IE
EE International Conference on Acoustics,Speech an
d Signal Processing)1981年3月発行のpp.471-474に
「アハイスピードアレイコンピュータフォーダイナミッ
クタイムワーピング(A High Speed Ar
rey Computer for Dynamic
Time Warping)」と題して発表された論文
に示される如き、並列型の回路を用いて行なうことがで
きる。
以上本発明の原理作用を実施例に基づいて説明したが、
これらの記載は本発明の範囲を限定するものではない。
特に本実施例は音声パターンの時間歪の例を扱うものと
したが、位置、大きさ等のパターン変動をも扱うことが
できるのは明白である。例えば位置変動を扱かう場合に
は、第1図のスイッチング層の結合をiとj間を単純に
シフトして(5)式の最大化を行なえばよい。中間層出力3
0と出力層入力40を2次元的に構成して拡大・縮小及び
平行移動等を行なうことにすると文字等の図形認識に有
効である。上記実施例ではスイッチング層を中間層と出
力層の間に設けたが、中間層と入力層の間、または入力
層の前等に設けることも可能である。さらに、本実施例
では中間層を1層としたが、必要に応じて2層、3層と
複数層設定することも可能である。逆に中間層を設けな
いで、入力層と出力層よりなるニューラルネットワーク
にも本発明の原理は適用されるものである。
これらの記載は本発明の範囲を限定するものではない。
特に本実施例は音声パターンの時間歪の例を扱うものと
したが、位置、大きさ等のパターン変動をも扱うことが
できるのは明白である。例えば位置変動を扱かう場合に
は、第1図のスイッチング層の結合をiとj間を単純に
シフトして(5)式の最大化を行なえばよい。中間層出力3
0と出力層入力40を2次元的に構成して拡大・縮小及び
平行移動等を行なうことにすると文字等の図形認識に有
効である。上記実施例ではスイッチング層を中間層と出
力層の間に設けたが、中間層と入力層の間、または入力
層の前等に設けることも可能である。さらに、本実施例
では中間層を1層としたが、必要に応じて2層、3層と
複数層設定することも可能である。逆に中間層を設けな
いで、入力層と出力層よりなるニューラルネットワーク
にも本発明の原理は適用されるものである。
また、出力層のニューロンユニットの個数は一般的にN
個としたがN=1であってもよい。この場合は認識機能
としてではなく、アクセプタとして動作する。
個としたがN=1であってもよい。この場合は認識機能
としてではなく、アクセプタとして動作する。
(効果) いずれかの層への入力を最適に切換える機能を有する本
発明のダイナミックなニューロンネットワークによる
と、位置や伸縮等のパターン変動に対して安定な出力を
出すことができるので、少量の学習データで、高制度な
認識動作を実現することができる。
発明のダイナミックなニューロンネットワークによる
と、位置や伸縮等のパターン変動に対して安定な出力を
出すことができるので、少量の学習データで、高制度な
認識動作を実現することができる。
第1図は本発明の一実施例を示す図である。第2図はそ
の動作説明図である。第3図は第1図実施例の要部の構
成例であり、第4図はその動作説明図である。図におい
て、11,12,13,14……入力層ニューラルユニット、21,2
2,23,24……中間層ニューラルユニット、30……中間層
出力、40……出力層入力、51,52,53,54……出力層ニュ
ーラルユニット、31……バッファ、45……荷重記憶部、
50……マイクロプロセッサ、55……ワークメモリ。
の動作説明図である。第3図は第1図実施例の要部の構
成例であり、第4図はその動作説明図である。図におい
て、11,12,13,14……入力層ニューラルユニット、21,2
2,23,24……中間層ニューラルユニット、30……中間層
出力、40……出力層入力、51,52,53,54……出力層ニュ
ーラルユニット、31……バッファ、45……荷重記憶部、
50……マイクロプロセッサ、55……ワークメモリ。
Claims (1)
- 【請求項1】入力の荷重和に応じて出力を発生するニュ
ーラルユニットの群により層を構成し、隣接する層のニ
ューラルユニット間で該出力を伝搬するニューラルネッ
トワークにおいて、いずれかの層への入力の接続関係を
最適に切り換えるスイッチング層を有することを特徴と
するダイナミックなニューラルネットワーク。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP62273830A JPH0638200B2 (ja) | 1987-10-28 | 1987-10-28 | ダイナミックなニューラルネットワーク |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP62273830A JPH0638200B2 (ja) | 1987-10-28 | 1987-10-28 | ダイナミックなニューラルネットワーク |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH01114899A JPH01114899A (ja) | 1989-05-08 |
| JPH0638200B2 true JPH0638200B2 (ja) | 1994-05-18 |
Family
ID=17533141
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP62273830A Expired - Lifetime JPH0638200B2 (ja) | 1987-10-28 | 1987-10-28 | ダイナミックなニューラルネットワーク |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH0638200B2 (ja) |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0823762B2 (ja) * | 1989-06-06 | 1996-03-06 | 日産自動車株式会社 | 自動車用空調装置 |
| JP2987633B2 (ja) * | 1989-06-26 | 1999-12-06 | 富士写真フイルム株式会社 | 異常陰影検出装置 |
| JP2987634B2 (ja) * | 1989-06-26 | 1999-12-06 | 富士写真フイルム株式会社 | 異常陰影判定装置 |
| JPH0366357A (ja) * | 1989-08-02 | 1991-03-22 | Matsushita Electric Ind Co Ltd | 生体信号処理装置 |
| JPH03150949A (ja) * | 1989-11-07 | 1991-06-27 | Sekisui Chem Co Ltd | 留守番電話装置 |
| JPH03150950A (ja) * | 1989-11-07 | 1991-06-27 | Sekisui Chem Co Ltd | 留守番電話装置 |
| JP2896799B2 (ja) * | 1990-04-18 | 1999-05-31 | 富士写真フイルム株式会社 | 放射線画像読取条件及び/又は画像処理条件決定装置 |
-
1987
- 1987-10-28 JP JP62273830A patent/JPH0638200B2/ja not_active Expired - Lifetime
Also Published As
| Publication number | Publication date |
|---|---|
| JPH01114899A (ja) | 1989-05-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US5245696A (en) | Evolution and learning in neural networks: the number and distribution of learning trials affect the rate of evolution | |
| CN112365885B (zh) | 唤醒模型的训练方法、装置和计算机设备 | |
| EP0342630A2 (en) | Speech recognition with speaker adaptation by learning | |
| CN113361685B (zh) | 一种基于学习者知识状态演化表示的知识追踪方法及系统 | |
| Kepner et al. | Sparse deep neural network exact solutions | |
| Bauer et al. | Exodus: Stable and efficient training of spiking neural networks | |
| JPH0638200B2 (ja) | ダイナミックなニューラルネットワーク | |
| CN116778300B (zh) | 一种基于知识蒸馏的小目标检测方法、系统和存储介质 | |
| CN117836777A (zh) | 用于知识蒸馏的方法和装置 | |
| CN113851149A (zh) | 一种基于对抗迁移和Frobenius范数的跨库语音情感识别方法 | |
| CN110738363B (zh) | 一种光伏发电功率预测方法 | |
| US20250005913A1 (en) | Image processing apparatus, image processing method, and program | |
| JP2907486B2 (ja) | ニューラルネットワーク装置 | |
| JPH0638196B2 (ja) | 時系列パターン用ダイナミック・ニューラルネットワーク | |
| JP2736361B2 (ja) | ニューラルネット構成方法 | |
| JP3303253B2 (ja) | パターンマッチング方法および装置 | |
| Yadav et al. | Augmenting differentiable neural computer with read network and key-value memory | |
| JPH0583919B2 (ja) | ||
| Boyko et al. | Neural Networks: Training with Backpropagation and the Gradient Algorithm | |
| Rath et al. | Development and performance assessment of bio-inspired based ANN model for handwritten English numeral recognition | |
| JP2654686B2 (ja) | ニューラルネットワーク | |
| JPH01116869A (ja) | ダイナミックプログラミング機能を有するニューラルネットワーク | |
| JP3393511B2 (ja) | 文字認識装置及び方法 | |
| JPH05181828A (ja) | 知識情報処理装置 | |
| JPH09138786A (ja) | ニューラルネットワークの学習装置 |