JP2862337B2 - ニューラルネットワークの構築方法 - Google Patents
ニューラルネットワークの構築方法Info
- Publication number
- JP2862337B2 JP2862337B2 JP2161904A JP16190490A JP2862337B2 JP 2862337 B2 JP2862337 B2 JP 2862337B2 JP 2161904 A JP2161904 A JP 2161904A JP 16190490 A JP16190490 A JP 16190490A JP 2862337 B2 JP2862337 B2 JP 2862337B2
- Authority
- JP
- Japan
- Prior art keywords
- layer
- neural network
- weight coefficient
- learning
- predetermined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Image Analysis (AREA)
- Facsimile Image Signal Circuits (AREA)
Description
【発明の詳細な説明】 ［産業上の利用分野］ 本発明は、各種処理に好適なニューラルネットワーク
及びその構築方法に関するものである。
及びその構築方法に関するものである。
［従来の技術］ 近年、ニューラルネットワークによって各種処理を行
なうことが研究されている。
なうことが研究されている。
ニューラルネットワークを用いる処理では、処理精度
を向上させるために、各素子（ニューロン）は多数の入
力に対して演算処理を施して出力を行なう。
を向上させるために、各素子（ニューロン）は多数の入
力に対して演算処理を施して出力を行なう。
［発明が解決しようとする課題］ しかしながら、ニューラルネットワークを単純にハー
ド化すると、その回路規模は非常に大きいものとなって
しまうという問題があった。
ド化すると、その回路規模は非常に大きいものとなって
しまうという問題があった。
［課題を解決するための手段］ 上記課題を解決するために、本発明のニューラルネッ
トワークの構築方法は、入力層と、１つ以上の中間層
と、出力層とを有する第１のニューラルネットワークに
おいて、各層の重み係数を学習により決定し、所定の層
における当該決定された重み係数について２のべき乗ま
たは２のべき乗和による近似値を求め、前記所定の層に
おける重み係数を求められた前記近似値に変更して固定
し、当該所定の層以外の層における重み係数を再学習に
より決定し、前記所定の層における重み係数を前記近似
値として、当該重み係数の乗算をシフト演算またはシフ
ト演算と加算とにより実行するようにし、前記所定の層
以外の層における重み係数を前記再学習により決定され
た値とした第２のニューラルネットワークを構築するこ
とを特徴とする。
トワークの構築方法は、入力層と、１つ以上の中間層
と、出力層とを有する第１のニューラルネットワークに
おいて、各層の重み係数を学習により決定し、所定の層
における当該決定された重み係数について２のべき乗ま
たは２のべき乗和による近似値を求め、前記所定の層に
おける重み係数を求められた前記近似値に変更して固定
し、当該所定の層以外の層における重み係数を再学習に
より決定し、前記所定の層における重み係数を前記近似
値として、当該重み係数の乗算をシフト演算またはシフ
ト演算と加算とにより実行するようにし、前記所定の層
以外の層における重み係数を前記再学習により決定され
た値とした第２のニューラルネットワークを構築するこ
とを特徴とする。
［実施例］ 先ず、バックプロパゲーション型ニューラルネットワ
ークにおける学習の手順を第３図を例として説明する。
ークにおける学習の手順を第３図を例として説明する。
第３図に示されたニューラルネットワークは、入力層
ｉ、１層よりなる中間層ｊ、出力層ｋによって構成され
ている。
ｉ、１層よりなる中間層ｊ、出力層ｋによって構成され
ている。
学習のためには、入力データと、それに対する理想出
力とを用意し、中間層における結合強度Wji、出力層に
おける結合強度Wkjの初期値を適当に決定し、この初期
値に基づいて結合されたネットワークに、用意した入力
データを与え、中間層、出力層の順で処理されて出力デ
ータを得る。ここまでが、第３図におけるおよびの
流れである。次に、得られた出力層よりの出力と、用意
した理想出力とを比較し、この比較により教師信号を生
成し、この教師信号によって、出力層における結合強度
Wkjを補正し、更に中間層における結合強度Wjiを補正す
る。これがおよびの流れである。
力とを用意し、中間層における結合強度Wji、出力層に
おける結合強度Wkjの初期値を適当に決定し、この初期
値に基づいて結合されたネットワークに、用意した入力
データを与え、中間層、出力層の順で処理されて出力デ
ータを得る。ここまでが、第３図におけるおよびの
流れである。次に、得られた出力層よりの出力と、用意
した理想出力とを比較し、この比較により教師信号を生
成し、この教師信号によって、出力層における結合強度
Wkjを補正し、更に中間層における結合強度Wjiを補正す
る。これがおよびの流れである。
以上が学習の１工程であり、この学習を繰り返すこと
により、結合強度Wji、Wkjが適切な値へと修正されてい
く。学習の結果、更新された結合強度がネットワーク内
に保持される。
により、結合強度Wji、Wkjが適切な値へと修正されてい
く。学習の結果、更新された結合強度がネットワーク内
に保持される。
上述の学習手順を、第４図のフローチャートを用いて
更に詳細に説明する。
更に詳細に説明する。
先ず、ステップS401で、重み係数（結合強度）Wji、W
kjの初期値を与える。ここでは、学習過程での収束を考
慮して、−0.5〜＋0.5の範囲の値を選択する。
kjの初期値を与える。ここでは、学習過程での収束を考
慮して、−0.5〜＋0.5の範囲の値を選択する。
次に、ステップS402で学習用の入力データiout（ｉ）
を選択し、ステップS403でこのデータiout（ｉ）を入力
層にセットする。また、ステップS404で、入力データio
ut（ｉ）に対する理想出力（ideal out）を用意する。
を選択し、ステップS403でこのデータiout（ｉ）を入力
層にセットする。また、ステップS404で、入力データio
ut（ｉ）に対する理想出力（ideal out）を用意する。
そこで、ステップS405で、中間層の出力jout（ｊ）を
求める。
求める。
先ず、入力層よりのデータiout（ｉ）に中間層の重み
係数Wjiを掛け、その総和SumFjを、 により計算し、次に、このSumFjにsigmoid関数を作用さ
せて、ｊ番目の中間層の出力jout（ｊ）を、 によって計算する。
係数Wjiを掛け、その総和SumFjを、 により計算し、次に、このSumFjにsigmoid関数を作用さ
せて、ｊ番目の中間層の出力jout（ｊ）を、 によって計算する。
次に、ステップS406で、出力層の出力kout（ｋ）を求
める。この手順はステップS406と同様である。
める。この手順はステップS406と同様である。
すなわち、中間層からの出力jout（ｊ）に出力層の重
み係数Wkjを掛け、その総和SumFkを、 により計算し、次に、このSumFkにsigmoid関数を作用さ
せて、ｋ番目の中間層の出力kout（ｋ）を、 によって計算する。なお、この出力値は正規化されてい
る。また、一般には、出力層の素子数は複数であるが、
第３図の例では、１個だけとしている。
み係数Wkjを掛け、その総和SumFkを、 により計算し、次に、このSumFkにsigmoid関数を作用さ
せて、ｋ番目の中間層の出力kout（ｋ）を、 によって計算する。なお、この出力値は正規化されてい
る。また、一般には、出力層の素子数は複数であるが、
第３図の例では、１個だけとしている。
次に、ステップS407では、以上により得られた出力ko
ut（ｋ）と、ステップS404で用意した理想出力ideal ou
t（ｋ）とを比較し、出力層の教師信号teach k（ｋ）と
して、 teach k（ｋ）＝｛ideal out（ｋ）−kout（ｋ）｝ ＊kout（ｋ）＊｛１−kout（ｋ）｝ を求める。ここで、kout（ｋ）＊｛１−kout（ｋ）｝
は、sigmoid関数kout（ｋ）の微分の意義を有する。
ut（ｋ）と、ステップS404で用意した理想出力ideal ou
t（ｋ）とを比較し、出力層の教師信号teach k（ｋ）と
して、 teach k（ｋ）＝｛ideal out（ｋ）−kout（ｋ）｝ ＊kout（ｋ）＊｛１−kout（ｋ）｝ を求める。ここで、kout（ｋ）＊｛１−kout（ｋ）｝
は、sigmoid関数kout（ｋ）の微分の意義を有する。
次に、ステップS408で、出力層の重み係数の変化幅Δ
Wkj（k,j）を、 ΔWkj（k,j）＝β＊jout（ｊ）＊teach k（ｋ） ＋α＊ΔWkj（k,j） により計算する。ここで、αは安定化定数、βは学習定
数と呼ばれる定数であり、急激な変化を押える役割を果
たしている。
Wkj（k,j）を、 ΔWkj（k,j）＝β＊jout（ｊ）＊teach k（ｋ） ＋α＊ΔWkj（k,j） により計算する。ここで、αは安定化定数、βは学習定
数と呼ばれる定数であり、急激な変化を押える役割を果
たしている。
ステップS409では、この変化幅に基づいて、重み係数
Wkj（k,j）を、 Wkj（k,j）＝Wkj（k,j）＋ΔWkj（k,j） と、更新する。すなわち学習を行なう。
Wkj（k,j）を、 Wkj（k,j）＝Wkj（k,j）＋ΔWkj（k,j） と、更新する。すなわち学習を行なう。
次に、ステップS410で、中間層の教師信号teach j
（ｊ）を計算する。そのために、先ず、 に基づいて、出力層から、中間層の各素子への逆方向の
寄与を計算する。次にこのSumBjから、中間層の教師信
号teach j（ｊ）を以下の式により演算する。
（ｊ）を計算する。そのために、先ず、 に基づいて、出力層から、中間層の各素子への逆方向の
寄与を計算する。次にこのSumBjから、中間層の教師信
号teach j（ｊ）を以下の式により演算する。
teach j（ｊ）＝jout（ｊ）＊｛１−jout（ｊ）｝＊SumBj 次に、ステップS411で、中間層の重み係数の変化幅Δ
Wji（j,i）を、 ΔWji（j,i）＝β＊iout（ｉ）＊teach j（ｊ） ＋α＊ΔWji（j,i） により計算する。
Wji（j,i）を、 ΔWji（j,i）＝β＊iout（ｉ）＊teach j（ｊ） ＋α＊ΔWji（j,i） により計算する。
ステップS412では、この変化幅に基づいて、重み係数
Wji（j,i）を、 Wji（j,i）＝Wji（j,i）＋ΔWji（j,i） と、更新する。すなわち学習を行なう。
Wji（j,i）を、 Wji（j,i）＝Wji（j,i）＋ΔWji（j,i） と、更新する。すなわち学習を行なう。
こうして、ステップS401〜412により、１組の入力デ
ータとこれに対する理想出力とから、重み係数WjiとWkj
とが１回学習された。
ータとこれに対する理想出力とから、重み係数WjiとWkj
とが１回学習された。
ステップS413では、以上のような学習を全入力データ
につき行なったかを調べ、未だの場合は、ステップS401
〜412を繰り返す。
につき行なったかを調べ、未だの場合は、ステップS401
〜412を繰り返す。
ステップS414では、所定の学習回数に達したかを調
べ、不足の場合は、ステップS401〜413を繰り返す。
べ、不足の場合は、ステップS401〜413を繰り返す。
以上がバックプロパゲーション法に基づいたニューラ
ルネットワークの学習手順の説明である。
ルネットワークの学習手順の説明である。
本発明では、以上のようにして確立されたニューラル
ネットワークの中間層において、重み係数を乗じる部分
を、次のように変形する。
ネットワークの中間層において、重み係数を乗じる部分
を、次のように変形する。
＜方法１＞ 各Wjiについて、２のべき乗（2n）の中で最も値が近
いものを新しくWjiとする。
いものを新しくWjiとする。
＜方法２＞ 各Wjiについて、所定個以下の２のべき乗の和の全て
の組み合わせ（１個を含む）の中で最も値が近いものを
新しくWjiとする。
の組み合わせ（１個を含む）の中で最も値が近いものを
新しくWjiとする。
＜方法３＞ 許容される最大誤差ΔＥを先ず設定する。
各Wjiについて、２のべき乗のうちで、Wjiと最も値が
近いものとの差がΔＥ以下であれば、それを新しくWji
とする。
近いものとの差がΔＥ以下であれば、それを新しくWji
とする。
ΔＥ以下でない場合は、２のべき乗２個の和の中でW
jiと最も値が近いものとの差がΔＥ以下であれば、それ
を新しくWjiとする。
jiと最も値が近いものとの差がΔＥ以下であれば、それ
を新しくWjiとする。
これもΔＥ以下でない場合は、更に、３個の和、４個
の和、…と順に増やしていき、ΔＥ以下となるものが得
られるまで続ける。
の和、…と順に増やしていき、ΔＥ以下となるものが得
られるまで続ける。
以上の方法１〜３において、Wjiが２のべき乗2nとな
る場合は、入力にWjiを乗じる演算は、入力をｎだけシ
フトすることにより実現される。
る場合は、入力にWjiを乗じる演算は、入力をｎだけシ
フトすることにより実現される。
また、方法２または３において、Wjiが２のべき乗の
和、例えば2n＋2m＋21となる場合は、入力にWjiを乗じ
る演算は、入力をそれぞれｎ、ｍ、１だけシフトしたも
のの和をとることにより実現される。
和、例えば2n＋2m＋21となる場合は、入力にWjiを乗じ
る演算は、入力をそれぞれｎ、ｍ、１だけシフトしたも
のの和をとることにより実現される。
従って、重み係数の乗算部分は、シフト演算、または
シフト演算と加算とにより達成される。
シフト演算と加算とにより達成される。
しかしながら、上述の方法によれば、Wjiを、学習で
得られた値に近いながらも、それとは異なる値とするた
めに、出力層で得られる値にも、若干の誤差が生じる。
その誤差が、ニューラルネットワークとしての許容範囲
外であれば、新しい重み係数Wjiを固定して再学習を行
なってもよい。
得られた値に近いながらも、それとは異なる値とするた
めに、出力層で得られる値にも、若干の誤差が生じる。
その誤差が、ニューラルネットワークとしての許容範囲
外であれば、新しい重み係数Wjiを固定して再学習を行
なってもよい。
再学習のフローチャートを第５図に示す。
第５図は、第４図における中間層の重み係数の更新に
必要なステップS410〜S412が省略されている点で第４図
と異なり、他は同じように学習を行なう。従って、固定
された重み係数Wjiに基づく中間層よりの出力に対し
て、出力層の重み係数Wkjだけが再学習され、出力層よ
りの出力の誤差が低減される。
必要なステップS410〜S412が省略されている点で第４図
と異なり、他は同じように学習を行なう。従って、固定
された重み係数Wjiに基づく中間層よりの出力に対し
て、出力層の重み係数Wkjだけが再学習され、出力層よ
りの出力の誤差が低減される。
本発明に係るニューラルネットワークの回路構成につ
いて、更に詳細に説明する。
いて、更に詳細に説明する。
第１図は、中間層における１個のニューロンによる処
理を実現する中間部である。
理を実現する中間部である。
BFはビットシフト部であり、入力信号を配線上シフト
して加算器ADに入力させるものであり、実際の回路があ
るわけではない。また、ADではシフトされた入力を加算
し、sigmoid関数テーブルFTでは、ADによる加算結果に
対してsigmoid関数を作用させた結果が得られる。
して加算器ADに入力させるものであり、実際の回路があ
るわけではない。また、ADではシフトされた入力を加算
し、sigmoid関数テーブルFTでは、ADによる加算結果に
対してsigmoid関数を作用させた結果が得られる。
第２図は、ニューラルネットワークの全体構成例であ
る。
る。
第２図（ａ）は、３×３領域の２値画像をニューラル
ネットワークの入力とする場合の入力部の例である。
ネットワークの入力とする場合の入力部の例である。
先ず、入力された２値データは、ラインバッファLB1
で１ライン分の遅延が行なわれ、次にラインバッファLB
2において、もう１ライン分の遅延が行なわれ、合計２
ライン分の遅延が行なわれる。遅延されていないデー
タ、１ライン分及び２ライン分遅延されたデータは、そ
れぞれ、ラッチLT3〜５にラッチされて１画素分遅延さ
れ、その出力はラッチLT6〜８により、更に１画素分の
遅延を受ける。これによる出力は、水平ライン方向、お
よび垂直画素方向に連続する３×３の領域の２値データ
として、２値PTデータとなる。
で１ライン分の遅延が行なわれ、次にラインバッファLB
2において、もう１ライン分の遅延が行なわれ、合計２
ライン分の遅延が行なわれる。遅延されていないデー
タ、１ライン分及び２ライン分遅延されたデータは、そ
れぞれ、ラッチLT3〜５にラッチされて１画素分遅延さ
れ、その出力はラッチLT6〜８により、更に１画素分の
遅延を受ける。これによる出力は、水平ライン方向、お
よび垂直画素方向に連続する３×３の領域の２値データ
として、２値PTデータとなる。
２値PTデータは、中間部に入力される。中間部では、
第１図につき説明したように、ビットシフトと加算とに
より、中間層における演算を行なう。中間部の出力は、
乗算器に入力され、出力層の重み係数Wkjが乗じられ、
各乗算器の出力は、加算器により全て加算される。加算
器による加算結果は、関数演算部FTによるテーブル変換
により、対応するsigmoid関数値を最終結果として得
る。
第１図につき説明したように、ビットシフトと加算とに
より、中間層における演算を行なう。中間部の出力は、
乗算器に入力され、出力層の重み係数Wkjが乗じられ、
各乗算器の出力は、加算器により全て加算される。加算
器による加算結果は、関数演算部FTによるテーブル変換
により、対応するsigmoid関数値を最終結果として得
る。
以上のように、本発明によれば、ニューロンにおける
乗算を、ビットシフトまたは、ビットシフトされたもの
同士の和に置き換えることが可能となる。
乗算を、ビットシフトまたは、ビットシフトされたもの
同士の和に置き換えることが可能となる。
特に、本発明を２値化された画像から、多値画像への
復元のためのニューラルネットワークにおける中間層に
適用すれば、入力は０または１に限られ、これに対する
ビットシフトの結果の加算のためには、高々数ビット程
度の加算器で十分に演算が可能となる。従って、ニュー
ラルネットワークのハードウェアをLSIやゲートアレイ
で組むことが可能となる。
復元のためのニューラルネットワークにおける中間層に
適用すれば、入力は０または１に限られ、これに対する
ビットシフトの結果の加算のためには、高々数ビット程
度の加算器で十分に演算が可能となる。従って、ニュー
ラルネットワークのハードウェアをLSIやゲートアレイ
で組むことが可能となる。
以上は、２値画像データの入力につき説明したが、他
の形式の入力データについても適用可能であることはい
うまでもない。
の形式の入力データについても適用可能であることはい
うまでもない。
［発明の効果］ 以上説明したように、本発明によれば、所定の層にお
ける重み係数を学習により決定された値の２のべき乗ま
たは２のべき乗和による近似値として、当該重み係数の
乗算をシフト演算またはシフト演算と加算とにより実行
するようにしたので、ニューラルネットワークの回路規
模を小さくすることができる。また、その所定の層にお
ける重み係数を前記近似値に変更して固定して、当該所
定の層以外の層における重み係数を再学習により決定す
るようにしたので、所定の層における重み係数を学習に
より決定された値の近似値としながら、処理精度の高い
ニューラルネットワークを構築することができるという
効果が得られる。
ける重み係数を学習により決定された値の２のべき乗ま
たは２のべき乗和による近似値として、当該重み係数の
乗算をシフト演算またはシフト演算と加算とにより実行
するようにしたので、ニューラルネットワークの回路規
模を小さくすることができる。また、その所定の層にお
ける重み係数を前記近似値に変更して固定して、当該所
定の層以外の層における重み係数を再学習により決定す
るようにしたので、所定の層における重み係数を学習に
より決定された値の近似値としながら、処理精度の高い
ニューラルネットワークを構築することができるという
効果が得られる。
第１図は、実施例のニューロンの構成図、 第２図は、実施例のニューラルネットワークの全体構成
図、 第３図は、ニューラルネットワークの概念図、 第４図は、ニューラルネットワークの学習手順のフロー
チャート、 第５図は、再学習手順のフローチャートである。 １、２……ラインバッファ ３〜８……ラッチ BF……ビットシフト部 AD……加算器 FT……関数演算部
図、 第３図は、ニューラルネットワークの概念図、 第４図は、ニューラルネットワークの学習手順のフロー
チャート、 第５図は、再学習手順のフローチャートである。 １、２……ラインバッファ ３〜８……ラッチ BF……ビットシフト部 AD……加算器 FT……関数演算部
フロントページの続き (58)調査した分野(Int.Cl.6，ＤＢ名) G06F 15/18 ＪＩＣＳＴファイル（ＪＯＩＳ)
Claims (4)
- 【請求項１】入力層と、１つ以上の中間層と、出力層と
を有する第１のニューラルネットワークにおいて、各層
の重み係数を学習により決定し、 所定の層における当該決定された重み係数について２の
べき乗または２のべき乗和による近似値を求め、 前記所定の層における重み係数を求められた前記近似値
に変更して固定し、当該所定の層以外の層における重み
係数を再学習により決定し、 前記所定の層における重み係数を前記近似値として、当
該重み係数の乗算をシフト演算またはシフト演算と加算
とにより実行するようにし、前記所定の層以外の層にお
ける重み係数を前記再学習により決定された値とした第
２のニューラルネットワークを構築することを特徴とす
るニューラルネットワークの構築方法。 - 【請求項２】前記所定の層における重み係数についての
近似値として、当該重み係数に最も近い２のべき乗を求
めることを特徴とする請求項１に記載のニューラルネッ
トワークの構築方法。 - 【請求項３】前記所定の層における重み係数についての
近似値として、所定個数以下の２のべき乗和で当該重み
係数に最も近い値を求めることを特徴とする請求項１に
記載のニューラルネットワークの構築方法。 - 【請求項４】前記所定の層における重み係数についての
近似値として、当該重み係数との差が所定値以下となる
２のべき乗和を求めることを特徴とする請求項１に記載
のニューラルネットワークの構築方法。
Priority Applications (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2161904A JP2862337B2 (ja) | 1990-06-19 | 1990-06-19 | ニューラルネットワークの構築方法 |
| DE69130656T DE69130656T2 (de) | 1990-06-14 | 1991-06-13 | Neuronale Netzwerke |
| EP91305363A EP0461902B1 (en) | 1990-06-14 | 1991-06-13 | Neural network |
| US08/026,093 US5719955A (en) | 1990-06-14 | 1993-03-04 | Data processing using neural networks having conversion tables in an intermediate layer |
| US08/969,832 US6243490B1 (en) | 1990-06-14 | 1997-11-13 | Data processing using neural networks having conversion tables in an intermediate layer |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2161904A JP2862337B2 (ja) | 1990-06-19 | 1990-06-19 | ニューラルネットワークの構築方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH0451384A JPH0451384A (ja) | 1992-02-19 |
| JP2862337B2 true JP2862337B2 (ja) | 1999-03-03 |
Family
ID=15744231
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2161904A Expired - Fee Related JP2862337B2 (ja) | 1990-06-14 | 1990-06-19 | ニューラルネットワークの構築方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2862337B2 (ja) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108205700A (zh) * | 2016-12-20 | 2018-06-26 | 上海寒武纪信息科技有限公司 | 神经网络运算装置和方法 |
| JP2022515343A (ja) * | 2018-12-29 | 2022-02-18 | ベイジン センスタイム テクノロジー デベロップメント シーオー．，エルティーディー | 画像処理方法、装置、インテリジェント運転システム及び車載演算プラットフォーム |
| US11436442B2 (en) | 2019-11-21 | 2022-09-06 | Samsung Electronics Co., Ltd. | Electronic apparatus and control method thereof |
Families Citing this family (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5034041B2 (ja) * | 2006-07-20 | 2012-09-26 | 国立大学法人九州工業大学 | データ生成回路及びデータ生成方法 |
| JP5130516B2 (ja) * | 2006-09-05 | 2013-01-30 | 国立大学法人九州工業大学 | データ処理装置及び方法 |
| JP6734938B2 (ja) * | 2017-01-10 | 2020-08-05 | 株式会社日立製作所 | ニューラルネットワーク回路 |
| CN110036384B (zh) | 2017-09-29 | 2021-01-05 | 索尼公司 | 信息处理设备和信息处理方法 |
| WO2019168088A1 (ja) | 2018-03-02 | 2019-09-06 | 日本電気株式会社 | 推論装置、畳み込み演算実行方法及びプログラム |
| EP3770775A4 (en) * | 2018-03-23 | 2021-06-02 | Sony Corporation | INFORMATION PROCESSING DEVICE AND INFORMATION PROCESSING METHOD |
| WO2021039164A1 (ja) * | 2019-08-26 | 2021-03-04 | ソニー株式会社 | 情報処理装置、情報処理システム及び情報処理方法 |
| EP4288911A1 (en) * | 2021-09-10 | 2023-12-13 | Mitsubishi Electric Corporation | Multiplier-less sparse deep neural network |
-
1990
- 1990-06-19 JP JP2161904A patent/JP2862337B2/ja not_active Expired - Fee Related
Non-Patent Citations (1)
| Title |
|---|
| 山田，柳生，益田，正木，平井，「大規模ニューラルネットワーク向けハードウェア方式」情報処理学会第３８回（平成元年度前期）全国大会講演論文集（▲ＩＩＩ▼）ｐ．１５２６−ｐ．１５２７（１９８９） |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108205700A (zh) * | 2016-12-20 | 2018-06-26 | 上海寒武纪信息科技有限公司 | 神经网络运算装置和方法 |
| JP2022515343A (ja) * | 2018-12-29 | 2022-02-18 | ベイジン センスタイム テクノロジー デベロップメント シーオー．，エルティーディー | 画像処理方法、装置、インテリジェント運転システム及び車載演算プラットフォーム |
| US11436442B2 (en) | 2019-11-21 | 2022-09-06 | Samsung Electronics Co., Ltd. | Electronic apparatus and control method thereof |
Also Published As
| Publication number | Publication date |
|---|---|
| JPH0451384A (ja) | 1992-02-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2862337B2 (ja) | ニューラルネットワークの構築方法 | |
| CN111243045A (zh) | 一种基于高斯混合模型先验变分自编码器的图像生成方法 | |
| US5129038A (en) | Neural network with selective error reduction to increase learning speed | |
| US6643832B1 (en) | Virtual tree-based netlist model and method of delay estimation for an integrated circuit design | |
| JP3374476B2 (ja) | ニューラルネットワーク構築方法 | |
| US6922712B2 (en) | Apparatus, methods, and computer program products for accurately determining the coefficients of a function | |
| US5384896A (en) | Learning machine | |
| JPH0981723A (ja) | 画像処理装置 | |
| JPH076146A (ja) | 並列データ処理システム | |
| JP2897220B2 (ja) | 信号処理装置 | |
| JPH0451386A (ja) | ニューラルネットワーク及びその構築方法 | |
| JPH05128285A (ja) | ニユーロプロセツサ | |
| JP3412700B2 (ja) | 神経回路網型パターン学習方法およびパターン処理装置 | |
| JPH01282672A (ja) | ニューラルネットワーク装置 | |
| JPH0554014A (ja) | ニユーラルネツトワークの学習装置 | |
| JP3328953B2 (ja) | 非線形シナプスニューロン、そのデバイス及びそれを用いた予測方法 | |
| JP2654686B2 (ja) | ニューラルネットワーク | |
| JP2766858B2 (ja) | ニューラルネットワーク並列シミュレーション方法及びそれに用いる装置 | |
| Yang et al. | Implementing back-propagation-through-time learning algorithm using cellular neural networks | |
| JPH0981535A (ja) | ニューラルネットワークの学習方法 | |
| JP2798793B2 (ja) | 神経回路網装置 | |
| JP3236635B2 (ja) | ニューラルネットワークの学習方法 | |
| JP3137996B2 (ja) | メンバシップ関数を用いたニューラルネットワーク及びその学習方式 | |
| Hassibi et al. | LMS and backpropagation are minimax filters | |
| JPH1091604A (ja) | 関数学習装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| LAPS | Cancellation because of no payment of annual fees |