Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6124615B2 - MEMORY CONTROL DEVICE, MEMORY CONTROL METHOD, AND IMAGING DEVICE HAVING MEMORY CONTROL DEVICE - Google Patents
[go: Go Back, main page]

JP6124615B2 - MEMORY CONTROL DEVICE, MEMORY CONTROL METHOD, AND IMAGING DEVICE HAVING MEMORY CONTROL DEVICE - Google Patents

MEMORY CONTROL DEVICE, MEMORY CONTROL METHOD, AND IMAGING DEVICE HAVING MEMORY CONTROL DEVICE Download PDF

Info

Publication number
JP6124615B2
JP6124615B2 JP2013026810A JP2013026810A JP6124615B2 JP 6124615 B2 JP6124615 B2 JP 6124615B2 JP 2013026810 A JP2013026810 A JP 2013026810A JP 2013026810 A JP2013026810 A JP 2013026810A JP 6124615 B2 JP6124615 B2 JP 6124615B2
Authority
JP
Japan
Prior art keywords
data transfer
transfer request
queue
memory
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013026810A
Other languages
Japanese (ja)
Other versions
JP2014157410A5 (en
JP2014157410A (en
Inventor
敬明 横井
敬明 横井
公男 塩澤
公男 塩澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013026810A priority Critical patent/JP6124615B2/en
Publication of JP2014157410A publication Critical patent/JP2014157410A/en
Publication of JP2014157410A5 publication Critical patent/JP2014157410A5/ja
Application granted granted Critical
Publication of JP6124615B2 publication Critical patent/JP6124615B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Memory System (AREA)

Description

本発明は、メモリ制御装置に関し、特に共通メモリへの複数のマスタによるアクセスを制御するメモリ制御装置に関する。   The present invention relates to a memory control device, and more particularly to a memory control device that controls access by a plurality of masters to a common memory.

近年、デジタルスチルカメラやビデオカメラなどの撮像装置において、高解像度化が進んでいる。そのため、画像処理の中間画像等を記憶するための大規模記憶部としてSDRAM(Synchronous Dynamic Access Memory)等の揮発性メモリが用いられることが多くなっている。また、顔検出や手ブレ補正といった撮影アシスト機能の多様化によりSDRAMにアクセスする機能が増えており、メモリバスのアクセス効率を高めることが求められている。   In recent years, higher resolution has been advanced in imaging apparatuses such as digital still cameras and video cameras. For this reason, a volatile memory such as SDRAM (Synchronous Dynamic Access Memory) is often used as a large-scale storage unit for storing intermediate images for image processing. In addition, with the diversification of photographing assist functions such as face detection and camera shake correction, functions for accessing the SDRAM are increasing, and it is required to increase the access efficiency of the memory bus.

また、SDRAMではリードアクセスとライトアクセスの切り替え時はデータの衝突を避けるため一定期間を開ける必要があるためアクセス効率が低下する。そこで、アクセスの効率化のための技術が提案されている。例えば、特許文献1では複数のバスマスタからの転送要求の内容と、現在のSDRAMへのアクセス状態を考慮し、アクセス効率が良くなるように転送要求を調停する方法が開示されている。   Also, in SDRAM, when switching between read access and write access, it is necessary to open a certain period in order to avoid data collision, resulting in a decrease in access efficiency. Therefore, techniques for improving access efficiency have been proposed. For example, Patent Document 1 discloses a method for arbitrating transfer requests so as to improve access efficiency in consideration of the contents of transfer requests from a plurality of bus masters and the current access state to the SDRAM.

特開2001−356961号公報JP 2001-356916 A

しかし、この方法の場合は、マスタ間の優先度設定とアクセス効率のどちらを優先するかを選択する必要がある。例えば、撮像装置では、撮像センサからのデータ入力や液晶パネルへの表示出力といったリアルタイム処理が必要な機能があり、アクセス効率を優先するとリアルタイム性が保証できないという問題がある。   However, in this method, it is necessary to select which of the priority setting between the masters and the access efficiency is to be prioritized. For example, an imaging apparatus has a function that requires real-time processing such as data input from an imaging sensor and display output to a liquid crystal panel, and there is a problem that real-time performance cannot be guaranteed if priority is given to access efficiency.

そこで、本発明は、リアルタイム性を保証しながらメモリのアクセス効率を高めるメモリ制御装置の提供を目的とする。   SUMMARY OF THE INVENTION An object of the present invention is to provide a memory control device that enhances memory access efficiency while guaranteeing real-time performance.

実施形態の一観点によれば、複数のバスマスタとメモリとの間のデータ転送を制御するメモリ制御装置であって、所定の期間ごとに繰り返しデータ転送要求を発行する所定のバスマスタを含む前記複数のバスマスタからのデータ転送要求を格納するキュー手段と、前記キュー手段に格納されたデータ転送要求に対応したコマンドを前記メモリに出力する手段と、前記所定のバスマスタからのデータ転送要求によるデータ転送に要する時間を前記所定の期間から引いた時間を閾値に設定し、新たに前記データ転送要求が出力された場合に、前記キュー手段に格納されているデータ転送要求によるデータ転送に要する時間と前記閾値とに基づいて、前記新たに出力されたデータ転送要求を前記キュー手段に格納するか否かを制御する制御手段とを備えるメモリ制御装置が提供される。
According to one aspect of the embodiment, the memory control device controls data transfer between a plurality of bus masters and a memory, and includes the plurality of bus masters including a predetermined bus master that repeatedly issues a data transfer request every predetermined period. Queue means for storing a data transfer request from the bus master, means for outputting a command corresponding to the data transfer request stored in the queue means to the memory, and data transfer according to the data transfer request from the predetermined bus master When a time obtained by subtracting time from the predetermined period is set as a threshold , and the data transfer request is newly output, the time required for data transfer by the data transfer request stored in the queue means and the threshold Control means for controlling whether or not to store the newly output data transfer request in the queue means based on Memory controller is provided to obtain.

本発明によれば、リアルタイム処理を保証し、かつ、そのためにキュー(待ち行列)に対して新たに転送要求を格納するための条件が必要以上に厳しくなることを防止して、メモリバスのアクセス効率を向上することが可能となる。   According to the present invention, it is possible to guarantee real-time processing and to prevent a condition for newly storing a transfer request for a queue (queue) from becoming more severe than necessary. Efficiency can be improved.

本発明の第1の実施例に係るメモリ制御装置を適用した撮像装置の構成を示す図である。It is a figure which shows the structure of the imaging device to which the memory control apparatus which concerns on 1st Example of this invention is applied. 本発明の第1の実施例に係るメモリ制御装置おけるキューの制御動作を説明するための図である。It is a figure for demonstrating control operation | movement of the queue in the memory control apparatus which concerns on 1st Example of this invention. 本発明の第2の実施例に係るメモリ制御装置を適用した撮像装置の構成を示す図である。It is a figure which shows the structure of the imaging device to which the memory control apparatus which concerns on 2nd Example of this invention is applied. 本発明の第2の実施例に係るメモリ制御装置における閾値制御を説明するための図である。It is a figure for demonstrating threshold value control in the memory control apparatus which concerns on 2nd Example of this invention. 本発明の第2の実施例に係るメモリ制御装置おけるキューの制御動作を説明するための図である。It is a figure for demonstrating the control operation of the queue in the memory control apparatus which concerns on 2nd Example of this invention.

以下、本発明の好適な実施形態を図面を参照して詳細に説明する。   DESCRIPTION OF EXEMPLARY EMBODIMENTS Hereinafter, preferred embodiments of the invention will be described in detail with reference to the drawings.

図1は、本発明の第1の実施例に係るメモリ制御装置を適用した撮像装置の構成を示す図である。本撮像装置の各部は、図示しない制御部(CPU)によって制御される。以下、図1について説明する。   FIG. 1 is a diagram illustrating a configuration of an imaging apparatus to which a memory control apparatus according to a first embodiment of the present invention is applied. Each unit of the imaging apparatus is controlled by a control unit (CPU) (not shown). Hereinafter, FIG. 1 will be described.

図1において、タイミングジェネレータ101は撮影時の動作モードに合わせて、水平垂直の同期信号を生成し、センサ駆動制御部102へ出力する。センサ駆動制御部102は、同期信号に基づいて、撮像センサ103の電荷蓄積やデータ出力を制御するための制御パルスを生成し、撮像センサ103へ出力する。撮像センサ103は、制御パルスに従って駆動され、被写体像を光電変換して動画データを出力する。撮像処理部104は、撮像センサ103から出力された動画データの各フレームに対して欠陥画素補正、シェーディング補正などをリアルタイムに適正に行う画像処理部である。処理されたデータはメモリバス105、メモリコントローラ106を経由してSDRAM107に記録される。   In FIG. 1, the timing generator 101 generates horizontal and vertical synchronization signals in accordance with the operation mode at the time of shooting, and outputs them to the sensor drive control unit 102. The sensor drive control unit 102 generates a control pulse for controlling charge accumulation and data output of the image sensor 103 based on the synchronization signal, and outputs the control pulse to the image sensor 103. The imaging sensor 103 is driven according to the control pulse, photoelectrically converts the subject image, and outputs moving image data. The imaging processing unit 104 is an image processing unit that appropriately performs defective pixel correction, shading correction, and the like on each frame of the moving image data output from the imaging sensor 103 in real time. The processed data is recorded in the SDRAM 107 via the memory bus 105 and the memory controller 106.

顔検出部108は、メモリバス105、メモリコントローラ106を経由してSDRAM107に記録されている撮像処理後の画像データを読み出し、人物の顔を検出する。現像処理部109は、メモリバス105、メモリコントローラ106を経由してSDRAM107に記録されている撮像処理後の画像データを読み出し、現像処理を行う。例えば、画素補間やフィルタ処理、縮小といったリサイズ処理や色変換処理、例えば圧縮画像データに保存するのに最適なフォーマットであるY、Cb、Cr形式のフォーマットに変換する処理などを行う。そして現像処理部109は、処理後の画像をメモリバス105、メモリコントローラ106経由でSDRAM107に記録する。表示制御部110は、メモリバス105、メモリコントローラ106を経由して、現像処理後の画像データを読み出し、表示部111に出力する。符号化部112は、メモリバス105、メモリコントローラ106を経由し、SDRAM107より現像処理後の画像を読み出し、H.264等の圧縮・符号化処理を行い、記録媒体113に記録する。制御部121はCPUを有し、撮像装置の各部の動作を制御する。   The face detection unit 108 reads out image data after imaging processing recorded in the SDRAM 107 via the memory bus 105 and the memory controller 106, and detects a person's face. The development processing unit 109 reads the image data after the imaging process recorded in the SDRAM 107 via the memory bus 105 and the memory controller 106, and performs the development process. For example, resize processing such as pixel interpolation, filter processing, reduction, and color conversion processing, for example, processing for conversion to a format of Y, Cb, Cr format, which is an optimal format for saving in compressed image data, is performed. The development processing unit 109 records the processed image in the SDRAM 107 via the memory bus 105 and the memory controller 106. The display control unit 110 reads out the image data after the development processing via the memory bus 105 and the memory controller 106 and outputs the read image data to the display unit 111. The encoding unit 112 reads an image after development processing from the SDRAM 107 via the memory bus 105 and the memory controller 106, and H.264 or the like is compressed and encoded, and recorded on the recording medium 113. The control unit 121 has a CPU and controls the operation of each unit of the imaging apparatus.

次にメモリコントローラ106内部の構成について説明する。調停部114は、複数のバスマスタからのデータ転送要求に対して、予め設定される優先度に沿って一つのバスマスタを選択し、キュー115、キュー制御部116に出力する。そして、データ転送要求をキュー115に格納するとバスマスタに対して転送要求受付を通知する。   Next, the internal configuration of the memory controller 106 will be described. In response to data transfer requests from a plurality of bus masters, the arbitration unit 114 selects one bus master according to a preset priority and outputs the selected bus master to the queue 115 and the queue control unit 116. When the data transfer request is stored in the queue 115, the bus master is notified of acceptance of the transfer request.

各マスタからの転送要求は、SDRAM107におけるアクセス先のアドレス、転送を要求するデータのデータ長(データ量、以下バースト長)、及び、書き込みまたは読み出しの指示を含む。調停部114は、転送要求を受け付けない場合は要求受付の応答(アクノレッジ)をマスタに送信しない。そのため、各マスタは、自身が出力した転送要求の受付応答を調停部114より受信するまでの間、所定のタイミングで繰り返し同じ転送要求を出力し続ける(第1のバスマスタ)。   The transfer request from each master includes the address of the access destination in the SDRAM 107, the data length of the data for which transfer is requested (data amount, hereinafter referred to as burst length), and a write or read instruction. When the arbitration unit 114 does not accept the transfer request, the arbitration unit 114 does not transmit a request acceptance response (acknowledgement) to the master. Therefore, each master continues to output the same transfer request repeatedly at a predetermined timing until the transfer request acceptance response output by itself is received from the arbitration unit 114 (first bus master).

キュー115は、キュー制御部116からの指示に応じて、転送要求を格納する。キュー処理時間算出部117は、キュー115に格納されている転送要求に含まれるバースト長に基づいて、キュー115に格納されている全ての転送要求によるデータ転送を完了するために必要な時間を算出し、キュー制御部116に出力する。キュー制御部116は、キュー処理時間算出部117からの転送処理時間と、閾値設定部118からのキュー投入閾値を比較し、その結果に基づいてキュー115に対して新たに転送要求を格納するか否かを決定するように制御する。なお、本実施例では、データの転送に要する時間はバースト長に基づいて決まるものとし、各バスマスタによる転送時間の差異は無いものとする。キュー115は、調停部114から出力された転送要求(コマンド)を保持する。キュー115は、それぞれが一つの転送要求を異なる優先度で保持する複数(所定数)の保持部を含む。   The queue 115 stores a transfer request in response to an instruction from the queue control unit 116. The queue processing time calculation unit 117 calculates the time required to complete the data transfer for all transfer requests stored in the queue 115 based on the burst length included in the transfer request stored in the queue 115. To the queue control unit 116. The queue control unit 116 compares the transfer processing time from the queue processing time calculation unit 117 with the queue input threshold value from the threshold setting unit 118, and stores a transfer request in the queue 115 based on the result. Control to determine whether or not. In this embodiment, it is assumed that the time required for data transfer is determined based on the burst length, and there is no difference in transfer time between the bus masters. The queue 115 holds the transfer request (command) output from the arbitration unit 114. The queue 115 includes a plurality (a predetermined number) of holding units each holding one transfer request with different priorities.

閾値設定部118は、制御部121からの制御に応じてキュー閾値を設定し、キュー制御部116へ出力する。コマンド制御部119は、キュー115から出力された転送要求に応じて、SDRAM107へアクセスするためのアクティブコマンド等のメモリアクセスコマンドや、バンクやページ等のアドレスをSDRAM107に発行する。データ制御部120は、メモリバス105とSDRAM107とのデータ転送を制御する。   The threshold setting unit 118 sets a queue threshold according to the control from the control unit 121 and outputs the queue threshold to the queue control unit 116. In response to the transfer request output from the queue 115, the command control unit 119 issues a memory access command such as an active command for accessing the SDRAM 107 and an address such as a bank or page to the SDRAM 107. The data control unit 120 controls data transfer between the memory bus 105 and the SDRAM 107.

SDRAM107は、複数のバンクで構成されており、更に各バンクは複数のページで構成されている。SDRAM107に対するアクセスは、バンクとページを指定しアクティブコマンドを発行することでアクセスするページを活性化し、列アドレスの指定とリード・ライトといったメモリコマンドを発行することで実現される。   The SDRAM 107 is composed of a plurality of banks, and each bank is composed of a plurality of pages. Access to the SDRAM 107 is realized by activating a page to be accessed by designating a bank and page and issuing an active command, and issuing a memory command such as designating a column address and reading / writing.

SDRAM107の同一ページに対し、二つのコマンドにより連続にアクセスする場合は、これら二つのコマンドの間にアクティブコマンドを発行することなく、列アドレスとメモリアクセスコマンドを発行することができる。また、SDRAM107において、直前のコマンドによるアクセス先と同一バンクの異なるページにアクセスする場合、これまでアクセスしていたページを非活性化するためのプリチャージコマンドを発行した後に、次にアクセスしたいページにアクティブコマンドを発行する。   When the same page of the SDRAM 107 is accessed continuously by two commands, a column address and a memory access command can be issued without issuing an active command between these two commands. Also, in SDRAM 107, when accessing a different page in the same bank as the access destination by the previous command, after issuing a precharge command for deactivating the previously accessed page, the page to be accessed next is accessed. Issue an active command.

図2は、本実施例に係るメモリ制御装置のキュー115の制御動作を説明するための図である。なお、図2においては、各バスマスタからの転送要求は、データ読み出しコマンド、或いは、データ書き込みコマンドの何れのコマンドでもよいものとする。   FIG. 2 is a diagram for explaining the control operation of the queue 115 of the memory control device according to the present embodiment. In FIG. 2, the transfer request from each bus master may be either a data read command or a data write command.

同図において、(1)は処理の時間経過を説明するための時間軸である。(2)は、タイミングジェネレータが生成する水平同期信号であり、この周期で撮像センサ103から画像データが読み出される。(3)〜(7)は現像処理部104、顔検出部108、現像処理部109、表示制御部110、符号化部112からの転送要求である。(8)はキュー115の状態を示している。ここでは、キュー115は1−3で示す三つの保持部を有している。数字が低いほど優先度が高いものとする。(9)は、キュー処理時間算出部が算出したキューに格納されている全ての転送要求によるデータの転送が完了するまでの処理時間を示している。(10)は閾値設定部118に設定される閾値である。(11)はアドレスバスによりSDRAM107に対して発行されるコマンドを示している。アドレスバスにより、アクティブコマンド等のコマンドや、バンク位置等のアドレスを指定するアドレスが発行される。(12)は、データバスによりSDRAM107と各バスマスタの間で転送されるデータを示している。   In the figure, (1) is a time axis for explaining the passage of time of processing. (2) is a horizontal synchronization signal generated by the timing generator, and image data is read from the image sensor 103 at this cycle. (3) to (7) are transfer requests from the development processing unit 104, the face detection unit 108, the development processing unit 109, the display control unit 110, and the encoding unit 112. (8) shows the state of the queue 115. Here, the queue 115 has three holding units indicated by 1-3. The lower the number, the higher the priority. (9) shows the processing time until the transfer of data by all the transfer requests stored in the queue calculated by the queue processing time calculation unit is completed. (10) is a threshold set in the threshold setting unit 118. (11) indicates a command issued to the SDRAM 107 by the address bus. A command such as an active command or an address for designating an address such as a bank position is issued by the address bus. (12) indicates data transferred between the SDRAM 107 and each bus master by the data bus.

図1、図2を用いて本実施例に係るメモリ制御装置のキュー制御動作について説明する。本実施例において、撮像処理部104の転送は、水平同期信号の周期に合わせて処理することが要求されるリアルタイム処理(第1の処理)である。また、他の転送はSDRAMから画像を読み出して処理するため、非リアルタイム処理(第2の処理)として説明する。ここで、調停部114での優先度は撮像処理部>顔検出部>現像処理部>表示制御部>符号化部の順番とする。   The queue control operation of the memory control device according to this embodiment will be described with reference to FIGS. In this embodiment, the transfer of the imaging processing unit 104 is a real-time process (first process) that is required to be processed in accordance with the cycle of the horizontal synchronization signal. Further, since the other transfer is performed by reading an image from the SDRAM, it will be described as a non-real-time process (second process). Here, the priority in the arbitration unit 114 is set in the order of imaging processing unit> face detection unit> development processing unit> display control unit> encoding unit.

図2において、撮像処理部の処理周期である水平同期信号の周期は21マイクロ秒(μs)であり、撮像処理部の転送時間は6μsのため、撮像処理部104から転送要求が出力されてから15(21−6)μs以内にSDRAM107へのデータの転送を開始する必要がある。そこで、閾値設定部118は、閾値を15μsに設定する。これにより、リアルタイム処理の実行を保証する。なお、上述したように転送要求のキュー115への格納はキュー制御部116が制御する。   In FIG. 2, since the cycle of the horizontal synchronization signal, which is the processing cycle of the imaging processing unit, is 21 microseconds (μs) and the transfer time of the imaging processing unit is 6 μs, the transfer request is output from the imaging processing unit 104. It is necessary to start data transfer to the SDRAM 107 within 15 (21-6) μs. Therefore, the threshold setting unit 118 sets the threshold to 15 μs. This guarantees execution of real-time processing. As described above, the queue control unit 116 controls the storage of the transfer request in the queue 115.

キュー処理時間算出部117は、キュー115に格納されている全ての転送要求によるデータ転送に要する時間と現在SDRAM107へ転送中のデータの転送が完了するまでの処理時間の合計値を算出する。SDRAM107へのデータ転送が進むと処理時間は変化するが、説明を簡単にするため、転送要求によるデータ転送のための転送時間の最大値を使用して説明する。時刻T0では、バスマスタからの転送要求はなく、SDRAM107との転送は行われていない。時刻T1に顔検出部108からの転送要求が出た時点ではSDRAM107との転送は行われていない。そのため、転送要求はキュー115に格納されることなくコマンド制御部119に出力され、コマンド制御部119によりコマンドC2が発行される。また、顔検出部108との間のとデータD2が開始される。また、キュー処理時間算出部117は、顔検出部108からの転送要求によるデータ転送に要する処理時間である5μsをキュー処理時間とする。   The queue processing time calculation unit 117 calculates the total value of the time required for data transfer by all transfer requests stored in the queue 115 and the processing time until the transfer of data currently being transferred to the SDRAM 107 is completed. As the data transfer to the SDRAM 107 proceeds, the processing time changes. However, in order to simplify the description, the description will be made using the maximum value of the transfer time for data transfer according to the transfer request. At time T0, there is no transfer request from the bus master, and no transfer with the SDRAM 107 is performed. When a transfer request is issued from the face detection unit 108 at time T1, transfer to the SDRAM 107 is not performed. Therefore, the transfer request is output to the command control unit 119 without being stored in the queue 115, and the command C2 is issued by the command control unit 119. Also, data D2 between the face detection unit 108 and the face detection unit 108 is started. Further, the queue processing time calculation unit 117 sets 5 μs, which is the processing time required for data transfer in response to the transfer request from the face detection unit 108, as the queue processing time.

時刻T2に現像処理部109からの転送要求が発行された時点では、キュー転送処理時間は5μsであり、現像処理部109の転送処理時間5μsを加算しても閾値15μsを超えない。そのため、キュー制御部116は、現像処理部109からの転送要求をキュー115に格納する。また、キュー処理時間算出部117により、キュー処理時間は現像処理部109の転送処理時間が加算され10μsとなる。   When a transfer request from the development processing unit 109 is issued at time T2, the queue transfer processing time is 5 μs, and even if the transfer processing time of 5 μs of the development processing unit 109 is added, the threshold value of 15 μs is not exceeded. Therefore, the queue control unit 116 stores the transfer request from the development processing unit 109 in the queue 115. Further, the queue processing time calculation unit 117 adds the transfer processing time of the development processing unit 109 to 10 μs.

時刻T3に表示制御部110からの転送要求が発行された時点では、キュー処理時間は10であり、表示制御部110の転送処理時間5μsを加算しても閾値15μsを超えない。そのため、キュー制御部116は、現像処理部109からの転送要求をキュー115に格納する。   At the time when a transfer request from the display control unit 110 is issued at time T3, the queue processing time is 10, and even if the transfer processing time of 5 μs of the display control unit 110 is added, the threshold value of 15 μs is not exceeded. Therefore, the queue control unit 116 stores the transfer request from the development processing unit 109 in the queue 115.

次に、キュー処理時間算出部117により、表示制御部110の転送処理時間が加算され、キュー処理時間は15μsとなる。時刻T4に符号化部112からの転送要求が発行された時点では、キュー処理時間は15μsであり、符号化部112からの転送要求によるデータ転送に要する時間6μsを加算すると閾値15μsを超えてしまう。そのため、キュー制御部116は、キュー115に空きがあっても、新たな転送要求をキュー115に格納するのを禁止する。   Next, the transfer processing time of the display control unit 110 is added by the queue processing time calculation unit 117, and the queue processing time becomes 15 μs. When a transfer request from the encoding unit 112 is issued at time T4, the queue processing time is 15 μs, and when the time required for data transfer by the transfer request from the encoding unit 112 is added, the threshold value exceeds 15 μs. . Therefore, the queue control unit 116 prohibits a new transfer request from being stored in the queue 115 even if the queue 115 is empty.

時刻T5に顔検出部108のデータ転送が完了すると、キュー115に格納された転送要求のうち、一番優先度が高い現像処理部109からの転送要求3がコマンド制御部119に出力され、データ転送が開始される。そして、キュー処理時間算出部117により、転送完了した顔検出部108からの転送要求による処理時間を除く、キュー115に格納された転送要求によるデータ転送の時間を再計算する。ここでは10μsとなる。キュー制御部116は、再度計算されたキュー処理時間に基づいて、格納待ちになっている符号化部112からの転送要求5をキュー115に格納するか否かを決める。ここでは、キュー処理時間10μsと格納待ちになっている符号化部112からの転送要求による処理時間6μsの合計が閾値15μsを超えているので、キュー制御部116は、符号化部112からの転送要求5をキュー115に格納しない。   When the data transfer of the face detection unit 108 is completed at time T5, the transfer request 3 from the development processing unit 109 having the highest priority among the transfer requests stored in the queue 115 is output to the command control unit 119, and the data Transfer starts. Then, the queue processing time calculation unit 117 recalculates the data transfer time according to the transfer request stored in the queue 115, excluding the processing time due to the transfer request from the face detection unit 108 that has been transferred. Here, it is 10 μs. The queue control unit 116 determines whether or not to store the transfer request 5 from the encoding unit 112 waiting for storage in the queue 115 based on the queue processing time calculated again. Here, since the sum of the queue processing time of 10 μs and the processing time of 6 μs due to the transfer request from the encoding unit 112 waiting for storage exceeds the threshold of 15 μs, the queue control unit 116 transfers the data from the encoding unit 112. Request 5 is not stored in queue 115.

撮像処理部104の方が符号化部112よりも優先度が高いため、時刻T6に撮像処理部104からの転送要求1が発行された時点では、調停部114が選択する転送要求は撮像処理部104からの転送要求1となる。そして、キュー制御部116は、この転送要求1をキュー115に格納するか否かを判定する。ここでは、キュー処理時間10μsと撮像処理部104の転送処理時間6μsが閾値15μsを超えているので、キュー制御部116は、撮像処理部104からの転送要求1をキュー115に格納しない。   Since the imaging processing unit 104 has a higher priority than the encoding unit 112, when the transfer request 1 is issued from the imaging processing unit 104 at time T6, the transfer request selected by the arbitration unit 114 is the imaging processing unit. Transfer request 1 from 104. Then, the queue control unit 116 determines whether or not to store the transfer request 1 in the queue 115. Here, since the queue processing time 10 μs and the transfer processing time 6 μs of the imaging processing unit 104 exceed the threshold value 15 μs, the queue control unit 116 does not store the transfer request 1 from the imaging processing unit 104 in the queue 115.

時刻T7に現像処理部109のデータ転送が完了すると、キュー115に格納された転送要求のうち一番優先度が高い表示制御部110からの転送要求がコマンド制御部119に出力され、データ転送が開始される。そして、キュー制御部116により、キュー115への格納待ちである現像処理部104からの転送要求1をキュー115に格納するか否かを判定する。ここでは、表示制御部110からの転送要求4によるキュー処理時間5μsと撮像処理部104からの転送要求による処理時間6μsの合計が閾値15μsを超えない。そのため、キュー制御部116は、撮像処理部104からの転送要求1をキュー115に格納する。   When the data transfer of the development processing unit 109 is completed at time T7, the transfer request from the display control unit 110 having the highest priority among the transfer requests stored in the queue 115 is output to the command control unit 119, and the data transfer is performed. Be started. Then, the queue control unit 116 determines whether or not the transfer request 1 from the development processing unit 104 waiting to be stored in the queue 115 is stored in the queue 115. Here, the sum of the queue processing time 5 μs based on the transfer request 4 from the display control unit 110 and the processing time 6 μs based on the transfer request from the imaging processing unit 104 does not exceed the threshold value 15 μs. Therefore, the queue control unit 116 stores the transfer request 1 from the imaging processing unit 104 in the queue 115.

時刻T8に表示制御部110のデータ転送が完了すると、キュー制御部116は、キュー格納待ちであった符号化部112からの転送要求5をキュー115に格納する。また、キュー115に格納された転送要求のうち一番優先度が高い撮像処理部104からの転送要求がコマンド制御部119に出力され、データ転送が開始され、時刻T9に完了する。時刻T10に撮像処理部104からの2回目の転送要求が出た時点で1回目の転送が完了しているため、リアルタイム処理が保証される。   When the data transfer of the display control unit 110 is completed at time T8, the queue control unit 116 stores the transfer request 5 from the encoding unit 112 waiting for queue storage in the queue 115. In addition, a transfer request from the imaging processing unit 104 having the highest priority among the transfer requests stored in the queue 115 is output to the command control unit 119, data transfer is started, and is completed at time T9. Since the first transfer is completed when a second transfer request is issued from the imaging processing unit 104 at time T10, real-time processing is guaranteed.

なお、図2に示した動作は一つの例示に過ぎず、例えば各処理の転送要求が図とは異なる順序で与えられた場合などでも上述し本発明の技術思想に従って同様の動作が行われる。また、撮像装置以外の処理装置のメモリ制御においても、当該処理装置が行う処理に対して同様のメモリ制御構成を達成することが可能である。   Note that the operation shown in FIG. 2 is merely an example, and the same operation is performed according to the technical idea of the present invention described above even when, for example, transfer requests for each process are given in a different order from the figure. In the memory control of a processing device other than the imaging device, a similar memory control configuration can be achieved for the processing performed by the processing device.

以上説明したように、本発明の第1の実施例によれば、リアルタイム処理が破綻する限界までキューを有効活用することが可能となり、メモリアクセスの効率を高めることが可能となる。   As described above, according to the first embodiment of the present invention, the queue can be effectively used up to the limit at which the real-time processing fails, and the efficiency of memory access can be increased.

次に、本発明の第2の実施例について説明する。第1の実施例では、リアルタイム処理部が破綻しない限界値を閾値として設定することでリアルタイム処理を保証しながらアクセス効率を向上している。そのため、リアルタイム処理が要求される期間以外の期間についても、閾値によりキュー115への新たな転送要求の格納が制限されてしまうことがある。そこで、本実施例では、メモリ制御装置が適用されている装置の動作状態(モード)に応じて閾値を適応的に変えることで、キュー115に対して新たに転送要求が格納される確率を上げ、アクセス効率を高める構成にする。   Next, a second embodiment of the present invention will be described. In the first embodiment, the access efficiency is improved while guaranteeing real-time processing by setting a threshold value that does not cause the real-time processing unit to fail as a threshold value. For this reason, the storage of new transfer requests in the queue 115 may be limited by the threshold even during periods other than the period for which real-time processing is required. In this embodiment, therefore, the threshold is adaptively changed according to the operation state (mode) of the device to which the memory control device is applied, thereby increasing the probability that a transfer request is newly stored in the queue 115. , Make the configuration to improve the access efficiency.

図3は、本実施例に係わるメモリ制御装置を適用した撮像装置の構成を示す図である。図3において、前記第1の実施例と同一の構成要素には、同一の符号を付して示し、その動作については説明を省略する。   FIG. 3 is a diagram illustrating a configuration of an imaging apparatus to which the memory control apparatus according to the present embodiment is applied. In FIG. 3, the same components as those in the first embodiment are denoted by the same reference numerals, and description of the operation thereof is omitted.

タイミングジェネレータ101は撮影時の動作モードに合わせて、水平垂直の同期信号を生成し、撮像センサ制御部102へ出力する。また、撮影時の出力仕様に合わせて垂直期間のなかで有効画像が出力される期間とそれ以外の期間を区別するためのフラグを生成し、閾値設定部301へ出力する。   The timing generator 101 generates horizontal and vertical synchronization signals in accordance with the operation mode at the time of shooting, and outputs them to the image sensor control unit 102. In addition, a flag for distinguishing a period during which an effective image is output from the vertical period and a period other than the period during the vertical period is generated in accordance with the output specification at the time of shooting, and is output to the threshold setting unit 301.

閾値設定部301は、有効画像が出力される期間用の第1の閾値とそれ以外の期間用の第2の閾値を設定し、タイミングジェネレータ101からのフラグに応じてキュー制御部116へ出力する閾値を切り替える。   The threshold value setting unit 301 sets a first threshold value for a period during which an effective image is output and a second threshold value for other periods, and outputs the first threshold value to the queue control unit 116 according to the flag from the timing generator 101. Switch the threshold.

図4は、本実施例に係るメモリ制御置のキュー制御動作、特に、1枚の画像を読み出す周期における閾値制御動作を説明するための図である。   FIG. 4 is a diagram for explaining the queue control operation of the memory control device according to the present embodiment, in particular, the threshold control operation in the cycle of reading one image.

同図において、(1)は垂直同期信号であり、この周期で1フレームの動画像データが撮像処理部の動作で読み出される。(2)は、撮像センサ103から出力されるデータの内容を示している。撮像センサ103の出力は、撮像センサ103に結像された被写体像の画像データが出力される有効画像データ期間と、OB(オプティカルブラック)レベル等の基準データ出力期間に分けられる。ここで、基準データは撮像処理での補正処理に利用するデータであり、有効画像期間のデータのみSDRAMに記録される。   In the figure, (1) is a vertical synchronizing signal, and in this cycle, one frame of moving image data is read out by the operation of the imaging processing unit. (2) shows the contents of data output from the image sensor 103. The output of the image sensor 103 is divided into an effective image data period in which image data of a subject image formed on the image sensor 103 is output, and a reference data output period such as an OB (optical black) level. Here, the reference data is data used for the correction process in the imaging process, and only data in the effective image period is recorded in the SDRAM.

(3)はキュー115に対し転送要求を格納するか否かを判別するための閾値を切り替えるフラグであり、有効画像期間と基準データ期間で切り替えられる。(4)は水平同期信号であり、この周期で撮像センサ103から水平ラインの画像データが読み出される。ここで、破線401で示した有効画像期間では水平同期信号に合わせて周期的に入力画像を処理し続ける必要があり、第1の実施例で説明したリアルタイム処理が必要となる。   (3) is a flag for switching a threshold value for determining whether or not a transfer request is stored in the queue 115, and is switched between an effective image period and a reference data period. (4) is a horizontal synchronizing signal, and image data of the horizontal line is read from the image sensor 103 at this cycle. Here, in the effective image period indicated by the broken line 401, it is necessary to continue processing the input image periodically according to the horizontal synchronization signal, and the real-time processing described in the first embodiment is necessary.

しかし、破線402で示した基準データ期間では、撮像センサの出力をSDRAMに記録しないのでリアルタイム処理は不要となる。   However, since the output of the image sensor is not recorded in the SDRAM during the reference data period indicated by the broken line 402, real-time processing is not necessary.

図5は、図4で示した破線402の期間のキュー制御動作を説明するための図である。同図において、前記第1の実施例のキュー制御動作を説明するための図2と同一の構成要素には、同一の符号を付して示し、その動作については説明を省略する。   FIG. 5 is a diagram for explaining the queue control operation during the period of the broken line 402 shown in FIG. In the figure, the same components as those in FIG. 2 for explaining the queue control operation of the first embodiment are denoted by the same reference numerals, and the description of the operation is omitted.

図5において、(11)は、SDRAMに対して、アクティブコマンド等のコマンド発行と、バンク位置等のアドレスを指定するアドレスバスである。SDRAMへのコマンド発行はバンク単位で実行されており、バンク単位のコマンドを示している。本実施例では、SDRAMへの転送処理時間を各コマンド処理とデータ転送処理で示す。ここで、各種コマンド発行時間は1μs、データ転送は1バーストあたりの処理時間が1μsであるとして説明する。なお、図5では、有効画像が出力される期間(リアルタイム処理が必要な期間)のための第1の閾値は20μs、それ以外の期間(リアルタイム処理の不要期間)のための第2の閾値は50μsとしている。   In FIG. 5, reference numeral (11) denotes an address bus for issuing a command such as an active command to the SDRAM and designating an address such as a bank position. Command issuance to the SDRAM is executed in units of banks and indicates commands in units of banks. In this embodiment, the transfer processing time to the SDRAM is indicated by each command processing and data transfer processing. Here, it is assumed that various command issuance times are 1 μs, and that data transfer is 1 μs in processing time per burst. In FIG. 5, the first threshold for a period during which an effective image is output (period in which real-time processing is required) is 20 μs, and the second threshold for other periods (period in which real-time processing is not required) is 50 μs.

図5(A)は、有効画像期間に対応する第1の閾値が設定される場合のキュー制御動作を説明するための図である。同図(A)を用いて、第1の閾値の場合のキュー制御の動作について説明する。   FIG. 5A is a diagram for explaining the queue control operation when the first threshold value corresponding to the effective image period is set. The queue control operation in the case of the first threshold will be described with reference to FIG.

時刻T0では、バスマスタからの転送要求はなく、SDRAMとの転送は行われていない。時刻T1に顔検出部108からの転送要求が出た時点ではSDRAMと各バスマスタとの間のデータ転送は行われていない。このため、転送要求はキューに格納されることなく、アクセスするページを活性化するアクティブコマンド(以下、ACTと略す)がコマンド制御部119により発行される。   At time T0, there is no transfer request from the bus master, and no transfer with the SDRAM is performed. Data transfer between the SDRAM and each bus master is not performed when a transfer request is issued from the face detection unit 108 at time T1. Therefore, the transfer request is not stored in the queue, but the command control unit 119 issues an active command (hereinafter abbreviated as ACT) that activates the page to be accessed.

顔検出部108の転送要求はバンク0、ページ0に対するリードアクセスであるため、バンク0に対してACTが発行される。また、キュー処理時間算出部117は、転送内容よりコマンド発行回数とバースト幅を判定し、キュー処理時間を算出する。時刻T1では、コマンド発行回数:2回とバースト幅:3より処理時間は5μsとなる。時刻T2では、メモリアクセスコマンドであるリードコマンド(以下、RDと略す)が発行される。時刻T2に現像処理部109からの転送要求が出ると、転送内容よりコマンド発行回数とバースト幅を判定する。現像処理部109の転送要求はバンク0、ページ1に対するライトアクセスであり、同一バンクの別ページに対するアクセスとなる。このため、プリチャージコマンド(以下、PREと略す)で現在のページを非活性化し、ACTで次のページを活性化し、メモリアクセスコマンドを発行する必要がある。   Since the transfer request of the face detection unit 108 is read access to bank 0 and page 0, ACT is issued to bank 0. Further, the queue processing time calculation unit 117 determines the number of command issuances and the burst width from the transfer contents, and calculates the queue processing time. At time T1, the processing time is 5 μs from the number of command issuance times: 2 and the burst width: 3. At time T2, a read command (hereinafter abbreviated as RD) that is a memory access command is issued. When a transfer request is issued from the development processing unit 109 at time T2, the number of command issuances and the burst width are determined from the transfer contents. The transfer request of the development processing unit 109 is a write access to bank 0 and page 1 and an access to another page in the same bank. Therefore, it is necessary to deactivate the current page with a precharge command (hereinafter abbreviated as PRE), activate the next page with ACT, and issue a memory access command.

このため、コマンド発行回数:3回とバースト幅:3より処理時間は6μsとなる。この時点のキュー転送処理時間5μsであり、現像処理部109の転送処理時間5μsを加算しても第1の閾値20μsを超えないため、キュー制御部116は、現像処理部109からの転送要求をキュー115に格納する。また、キュー処理時間は現像処理部109の転送処理時間が加算され11μsとなる。時刻T3に表示制御部110からの転送要求が出ると、キュー処理時間算出部117は、この転送要求単体での最大処理時間を算出する。コマンド発行回数は同一バンク同一ページの場合に最大の3回となるため、コマンド発行回数:3回とバースト幅より6μsとなる。   Therefore, the processing time is 6 μs based on the number of command issuance times: 3 and the burst width: 3. Since the queue transfer processing time at this point is 5 μs, and the transfer processing time 5 μs of the development processing unit 109 is added, the queue control unit 116 does not exceed the first threshold 20 μs. Store in the queue 115. Further, the queue processing time is 11 μs by adding the transfer processing time of the development processing unit 109. When a transfer request is issued from the display control unit 110 at time T3, the queue processing time calculation unit 117 calculates the maximum processing time for this transfer request alone. Since the number of command issuances is the maximum of 3 for the same page in the same bank, the number of command issuances is 3 times, which is 6 μs from the burst width.

この時点のキュー転送処理時間は11μsであり、表示制御部110の転送処理時間6μsを加算しても閾値20μsを超えない。そのため、キュー制御部116は、
表示制御部110からの転送要求をキュー115に格納する。次に、キュー制御部116は、この時点でキュー115に格納されている各転送要求と、実行中の転送要求によるデータの転送状態とを比較し、キュー115に格納された転送要求の順序を売れ変えることにより、転送処理に要する時間が短くなるか否かを判別する。そして、キュー115に格納された転送要求の実行順序を入れ替えることにより処理時間が短くなると判断した場合、キュー制御部116は、キュー115に格納された転送要求の実行順序を変更するリオーダ処理を実行する。
The queue transfer processing time at this point is 11 μs, and even if the transfer processing time 6 μs of the display control unit 110 is added, the threshold value 20 μs is not exceeded. Therefore, the queue control unit 116
The transfer request from the display control unit 110 is stored in the queue 115. Next, the queue control unit 116 compares each transfer request stored in the queue 115 at this time with the data transfer state of the transfer request being executed, and determines the order of the transfer requests stored in the queue 115. It is determined whether the time required for the transfer process is shortened by changing the sales. If the queue control unit 116 determines that the processing time is shortened by changing the execution order of the transfer requests stored in the queue 115, the queue control unit 116 executes reorder processing for changing the execution order of the transfer requests stored in the queue 115. To do.

例えば、図5において、時刻T3に発行された表示制御部110からの転送要求4はバンク0、ページ2に対するリードアクセスであり、現在実行中の顔検出部108からの転送要求によるバンクと同じである。また、キュー115に格納済みの転送要求3も、バンク0へのアクセス要求である。同一バンクに対する、先に実行されるコマンドによるデータ転送が完了するまでは次のコマンドを発行することができないので、キュー115に格納された転送要求3と転送要求4の順序を入れ替えても、処理時間は変わらない。そのため、この場合は、キュー115に格納された転送要求のリオーダは行われない。また、キュー制御部116によりリオーダ処理を実行した場合、キュー制御部116は、キュー処理時間算出部117による、実際の転送処理時間の算出を実行させる。   For example, in FIG. 5, the transfer request 4 from the display control unit 110 issued at time T3 is a read access to the bank 0 and page 2, and is the same as the bank according to the transfer request from the currently executing face detection unit 108. is there. The transfer request 3 stored in the queue 115 is also an access request to the bank 0. Since the next command cannot be issued until the data transfer by the previously executed command to the same bank is completed, the processing can be performed even if the order of the transfer request 3 and the transfer request 4 stored in the queue 115 is changed. Time does not change. Therefore, in this case, the transfer request stored in the queue 115 is not reordered. When the reorder processing is executed by the queue control unit 116, the queue control unit 116 causes the queue processing time calculation unit 117 to calculate the actual transfer processing time.

表示制御部110からの転送要求4は、現像処理部109からの転送要求3と同じバンク、同じページへのアクセス要求である。そのため、処理時間は変化せず6μsとなり、時刻T3時点の転送処理時間11μsと加算され17μsとなる。時刻T4に符号化部112から転送要求5が発行されると、時刻T3と同様に、キュー処理時間算出部117により転送要求単体での最大処理時間を算出する。時刻T4に符号化部112から転送要求5が発行された時点では、キュー転送処理時間は17μsであり、符号化部112からの転送要求5による処理時間6μsを加算すると閾値20μsを超える。このため、キュー制御部116は、キューに空きがあっても符号化部112からの転送要求のキューへの格納を禁止する。   The transfer request 4 from the display control unit 110 is an access request to the same bank and the same page as the transfer request 3 from the development processing unit 109. Therefore, the processing time does not change to 6 μs, and is added to the transfer processing time 11 μs at time T3 to be 17 μs. When the transfer request 5 is issued from the encoding unit 112 at time T4, the maximum processing time for the transfer request alone is calculated by the queue processing time calculation unit 117, similarly to the time T3. When the transfer request 5 is issued from the encoding unit 112 at time T4, the queue transfer processing time is 17 μs, and when the processing time 6 μs from the transfer request 5 from the encoding unit 112 is added, the threshold exceeds 20 μs. For this reason, the queue control unit 116 prohibits the transfer request from the encoding unit 112 from being stored in the queue even if the queue is empty.

時刻T5に顔検出部108からのデータ転送が完了すると、キュー115に格納された転送要求のうち、一番優先度が高い現像処理部109からの転送要求3がコマンド制御部119に出力され、SDRAM107に対して現像処理部109からのデータ転送が開始される。そして、キュー処理時間算出部117により、転送完了した顔検出部108の転送時間を除いたキュー処理時間を再計算する。キュー制御部116は、このキュー処理時間に基づいて、キュー115への新たな転送要求を格納するか否かを判定する。ここでは、キュー処理時間11μsと符号化部112からの転送要求5による処理時間6μsが閾値20μsを超えないのでキューに格納される。ここで、T3と同様にリオーダの判定が行われる。   When the data transfer from the face detection unit 108 is completed at time T5, the transfer request 3 from the development processing unit 109 having the highest priority among the transfer requests stored in the queue 115 is output to the command control unit 119. Data transfer from the development processing unit 109 to the SDRAM 107 is started. Then, the queue processing time calculation unit 117 recalculates the queue processing time excluding the transfer time of the face detection unit 108 that has been transferred. The queue control unit 116 determines whether or not to store a new transfer request to the queue 115 based on this queue processing time. Here, since the queue processing time 11 μs and the processing time 6 μs due to the transfer request 5 from the encoding unit 112 do not exceed the threshold 20 μs, they are stored in the queue. Here, reorder determination is performed as in T3.

符号化部112からの転送要求5はバンク1、ページ0に対するアクセスであり、現像処理部109からデータ転送が行われているバンク0とは異なるバンクへのアクセスとなる。そのため、バンク0に対する現像処理部109からのデータ転送が完了する前に、符号化部112からの転送要求5によるコマンドをバンク1に発行することが可能となり、その分、処理が完了するまでに要する時間が短くなる。そこで、この場合、キュー制御部116は、キュー115に格納された転送要求4と転送要求5の順序を変更し、符号化部112からの転送要求5を、一番優先度が高い位置に格納する。また、コマンド制御部119により、現像処理部109からの転送処理のために、ページの不活性化のためのPREが発行される。時刻T6では、現像処理部109のアクセスするページを活性化するためのACTが発行される。   The transfer request 5 from the encoding unit 112 is an access to bank 1 and page 0, and is an access to a bank different from the bank 0 to which data transfer is being performed from the development processing unit 109. Therefore, before the data transfer from the development processing unit 109 to the bank 0 is completed, it is possible to issue a command according to the transfer request 5 from the encoding unit 112 to the bank 1, and accordingly, until the processing is completed. The time required is shortened. Therefore, in this case, the queue control unit 116 changes the order of the transfer request 4 and the transfer request 5 stored in the queue 115, and stores the transfer request 5 from the encoding unit 112 in a position with the highest priority. To do. The command control unit 119 issues a PRE for page inactivation for transfer processing from the development processing unit 109. At time T6, an ACT for activating a page accessed by the development processing unit 109 is issued.

時刻T7では、ライトのためのメモリアクセスコマンドであるライトコマンド(以下、WRと略す)がコマンド制御部119により発行される。時刻T8では、現像処理部109のデータ転送が開始される。次に転送処理される符号化部112からの転送要求5によるアクセス先のバンク1は、現像処理部109からの転送要求3によるアクセス先であるバンク0と異なるため、現像処理部109からSDRAM107のバンク0へのデータ転送処理中に、バンク1に対して転送要求5によるコマンドを発行することが可能である。そのためコマンド制御部119は、キュー115の一番優先度が高い位置に格納された転送要求5に基づき、バンク1に対し、時刻T9にACTコマンドを発行し、時刻T10にRDを発行する。   At time T7, the command control unit 119 issues a write command (hereinafter abbreviated as WR) which is a memory access command for writing. At time T8, data transfer of the development processing unit 109 is started. Since the bank 1 to be accessed by the transfer request 5 from the encoding unit 112 to be transferred next is different from the bank 0 to be accessed by the transfer request 3 from the development processing unit 109, the development processing unit 109 to the SDRAM 107 During a data transfer process to bank 0, a command according to transfer request 5 can be issued to bank 1. Therefore, the command control unit 119 issues an ACT command to the bank 1 at time T9 and issues an RD at time T10 to the bank 1 based on the transfer request 5 stored at the highest priority position in the queue 115.

時刻T11に現像処理部109からのデータ転送が完了すると、次のバンク0へのアクセスのため、コマンド制御部119によりPREが発行される。また、キュー115に格納された転送要求のうち、一番優先度が高い符号化部112からの転送要求5がコマンド制御部119に出力され、転送処理が開始されるが、ライトデータとリードデータの衝突を避けるため、コマンド制御部119は、時刻T12まで転送要求5によるACTコマンドの発行を停止する。   When the data transfer from the development processing unit 109 is completed at time T11, a PRE is issued by the command control unit 119 for accessing the next bank 0. Further, among the transfer requests stored in the queue 115, the transfer request 5 from the encoding unit 112 having the highest priority is output to the command control unit 119, and the transfer process is started. In order to avoid the collision, the command control unit 119 stops issuing the ACT command by the transfer request 5 until time T12.

時刻T13〜T14では、時刻T9〜T10と同様に次の転送が異なるバンクとなるため、コマンド制御部119によりACTとWRが発行される。時刻T15に符号化部112へのデータ転送が完了すると、次のバンク1へのアクセスのため、コマンド制御部119によりPREが発行される。また、SDRAM107から表示制御部110へのデータの転送が開始される。時刻T16に表示制御部110へのデータの転送が完了すると、次のバンク0へのアクセスのため、コマンド制御部119によりPREが発行される。   At times T13 to T14, the next transfer is in a different bank, similar to times T9 to T10, so that the command control unit 119 issues ACT and WR. When data transfer to the encoding unit 112 is completed at time T15, a PRE is issued by the command control unit 119 to access the next bank 1. In addition, data transfer from the SDRAM 107 to the display control unit 110 is started. When the transfer of data to the display control unit 110 is completed at time T16, a PRE is issued by the command control unit 119 to access the next bank 0.

図5(B)は、有効画像期間と基準データ期間で閾値を切り替える場合のキュー制御動作を説明するための図である。ここで、図5(A)と同じ動作については説明を省略する。   FIG. 5B is a diagram for explaining the queue control operation when the threshold value is switched between the effective image period and the reference data period. Here, the description of the same operation as that in FIG.

図5(B)では、図4において(3)で示した閾値制御フラグに応じて、キュー115に対して転送要求を格納するか否かを判別するための閾値を第1の閾値から第2の閾値に切り替えたときのキュー制御の動作を、図5(A)と同様の転送要求があった場合について示している。   In FIG. 5B, the threshold value for determining whether or not to store the transfer request in the queue 115 is changed from the first threshold value to the second threshold value in accordance with the threshold control flag indicated by (3) in FIG. The queue control operation when switching to the threshold is shown for the case where there is a transfer request similar to that in FIG.

時刻T4に符号化部112からの転送要求5が発行されると、時刻T3と同様に、キュー処理時間算出部117により、この転送要求単体での最大処理時間を算出する。時刻T4に符号化部112からの転送要求5が発行された時点では、キュー転送処理時間は17μsであり、符号化部112からの転送要求による処理時間6μsを加算しても第2の閾値50μsを超えない。そのため、キュー制御部116は、この符号化部112からの転送要求5をキュー115に格納する。ここで、時刻T3と同様に、キュー制御部116により、キュー115に格納された各転送要求のリオーダの判定が行われる。符号化部112からの転送要求5はバンク1、ページ0に対するリードアクセスであり、時刻T3時点でアクセスされているバンク0とは異なるバンクへのアクセスとなる。そのため、キュー制御部116は、新たに格納した転送要求5を、キュー115における一番優先度が高い位置に格納する。   When the transfer request 5 from the encoding unit 112 is issued at time T4, the queue processing time calculation unit 117 calculates the maximum processing time for this transfer request alone, similarly to time T3. When the transfer request 5 from the encoding unit 112 is issued at time T4, the queue transfer processing time is 17 μs, and even if the processing time 6 μs according to the transfer request from the encoding unit 112 is added, the second threshold 50 μs. Not exceed. Therefore, the queue control unit 116 stores the transfer request 5 from the encoding unit 112 in the queue 115. Here, similarly to time T3, the queue control unit 116 determines reordering of each transfer request stored in the queue 115. The transfer request 5 from the encoding unit 112 is a read access to bank 1 and page 0, and is an access to a bank different from bank 0 being accessed at time T3. Therefore, the queue control unit 116 stores the newly stored transfer request 5 at the highest priority position in the queue 115.

ここで、T4の時点でキュー115に格納されている、現像処理部109からの転送要求3と、表示制御部110からの転送要求4は何れも、符号化部112からの転送要求5のアクセス先であるバンク1とは異なるバンク0へのアクセス要求である。しかし、表示制御部110からの転送要求4と符号化部112からの転送要求5は何れも、読み出しコマンド(リードコマンド)である。一方、現像処理部109からの転送要求3は書き込みコマンド(ライトコマンド)である。リードコマンドに続けてライトコマンドを発行する場合、データバスでの衝突を防止するため、リードコマンドの完了後、一定時間空けてから次のコマンドを発行させる必要がある。一方、リードコマンドを連続して発行する場合は、先のコマンドによる処理が完了した後、一定時間を待たずに次のコマンドを発行することができるので、リードコマンドとライトコマンドを交互に発行するよりも処理時間ロスが少ない。そのため、キュー制御部116は、リードコマンドが連続するように、表示制御部110からの転送要求4を、キュー115における2番目の優先度の位置に格納する。   Here, both the transfer request 3 from the development processing unit 109 and the transfer request 4 from the display control unit 110 that are stored in the queue 115 at the time T 4 are both accessed by the transfer request 5 from the encoding unit 112. This is an access request to bank 0 different from bank 1 that is the destination. However, the transfer request 4 from the display control unit 110 and the transfer request 5 from the encoding unit 112 are both read commands (read commands). On the other hand, the transfer request 3 from the development processing unit 109 is a write command (write command). When issuing a write command following a read command, it is necessary to issue a next command after a certain time after the completion of the read command in order to prevent a collision on the data bus. On the other hand, when issuing read commands continuously, the next command can be issued without waiting for a certain time after the processing by the previous command is completed, so the read command and the write command are issued alternately. Less processing time loss. Therefore, the queue control unit 116 stores the transfer request 4 from the display control unit 110 at the second priority position in the queue 115 so that the read commands are continuous.

符号化部112からの転送要求は、時刻T4において顔検出部108へのデータ転送中のバンク0と異なるバンク1である。そのため、コマンド制御部119は、転送要求2による顔検出部108へのデータ転送が完了する前に、バンク1に対し、先行してACTとRDをと発行する。時刻T6で顔検出部108へのデータ転送が終了すると、符号化部112からの転送要求5によるデータ転送処理が開始される。また、次の表示制御部110からの転送要求4のために、コマンド制御部119により、バンク0に対し、時刻T6〜T8でPRE、ACT、RDが発行される。   The transfer request from the encoding unit 112 is bank 1 different from bank 0 during data transfer to the face detection unit 108 at time T4. Therefore, the command control unit 119 issues ACT and RD in advance to the bank 1 before the data transfer to the face detection unit 108 by the transfer request 2 is completed. When the data transfer to the face detection unit 108 is completed at time T6, the data transfer process according to the transfer request 5 from the encoding unit 112 is started. For the next transfer request 4 from the display control unit 110, the command control unit 119 issues PRE, ACT, and RD to the bank 0 at times T6 to T8.

時刻T9で符号化部112からの転送要求5によるデータ転送が終了すると、コマンド制御部119により、バンク1の次の転送のためにPREが発行される。また、表示制御部110からの転送要求4によるデータ転送処理が開始される。時刻T11で表示制御部110へのデータ転送が終了すると、コマンド制御部119により、時刻T11〜T14で次の現像処理部109からの転送要求4によるデータ転送のためにPRE、ACT、WRが発行される。時刻T16で現像処理部109からのデータ転送が終了すると、コマンド制御部119により、次のバンク0の転送のためにPREが発行される。図5(B)では、リアルタイム処理が不要な期間は、キュー115に対して新たに転送要求を格納するか否かを判別するための閾値大きくするので、各バスマスタからの転送要求がキュー115に格納される確率が上がり、アクセス効率を向上するためのリオーダ発生回数が増えている。   When the data transfer by the transfer request 5 from the encoding unit 112 is completed at time T9, the command control unit 119 issues a PRE for the next transfer of the bank 1. In addition, the data transfer process in response to the transfer request 4 from the display control unit 110 is started. When data transfer to the display control unit 110 is completed at time T11, the command control unit 119 issues PRE, ACT, and WR for data transfer according to the transfer request 4 from the next development processing unit 109 at time T11 to T14. Is done. When the data transfer from the development processing unit 109 is completed at time T16, the command control unit 119 issues a PRE for the next bank 0 transfer. In FIG. 5B, the threshold for determining whether or not to newly store a transfer request in the queue 115 is increased during a period when the real-time processing is not required, so that the transfer request from each bus master enters the queue 115. The probability of storage increases, and the number of reorder occurrences for improving access efficiency increases.

なお、図5(A)および(B)に示した動作は一つの例示に過ぎず、例えば各処理の転送要求が図とは異なる順序で与えられた場合などでも上述し本発明の技術思想に従って同様の動作を行う。また、撮像装置以外の処理装置のメモリ制御においても、当該処理装置が行う処理に対して同様のメモリ制御構成を達成することが可能である。   Note that the operations shown in FIGS. 5A and 5B are only one example. For example, even when transfer requests for each process are given in an order different from that shown in FIG. The same operation is performed. In the memory control of a processing device other than the imaging device, a similar memory control configuration can be achieved for the processing performed by the processing device.

以上説明したように、本発明の第2の実施形態によれば、リアルタイム処理が必要ない期間は、新たにキューを格納するか否かを判別するための閾値を大きくすることで、転送要求がキューに格納される確率を上げることができる。この結果、キューに格納された転送要求の順序がリオーダ処理により変更される確率が上がり、転送処理に要する時間が短くなる。
なお、第1、第2の実施形態では、キュー115に格納済みの転送要求によるデータ転送に要する時間の合計に、実行中のデータ転送が完了するまでの時間を加えた値が、閾値を超えている場合に、新たに転送要求をキュー115に格納しないようにした。
これ以外にも、例えば、キュー115に格納済みの転送要求によるデータ転送に要する時間の合計と閾値とを比較し、キュー115に格納済みの転送要求によるデータ転送に要する時間の合計が閾値を超える場合に、新たに転送要求をキュー115に格納しないようにしてもよい。
As described above, according to the second embodiment of the present invention, during a period when real-time processing is not necessary, the transfer request is increased by increasing the threshold value for determining whether or not to newly store the queue. The probability of being stored in the queue can be increased. As a result, the probability that the order of transfer requests stored in the queue is changed by the reorder process is increased, and the time required for the transfer process is shortened.
In the first and second embodiments, the value obtained by adding the time required to complete the data transfer in progress to the total time required for the data transfer by the transfer request stored in the queue 115 exceeds the threshold. In such a case, a new transfer request is not stored in the queue 115.
In addition to this, for example, the total time required for data transfer by the transfer request stored in the queue 115 is compared with the threshold, and the total time required for data transfer by the transfer request stored in the queue 115 exceeds the threshold. In this case, a new transfer request may not be stored in the queue 115.

以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施例は本発明の一実施例を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。   Although the present invention has been described in detail based on preferred embodiments thereof, the present invention is not limited to these specific embodiments, and various forms within the scope of the present invention are also included in the present invention. included. Further, each of the above-described examples is merely an example of the present invention, and the embodiments can be appropriately combined.

例えば、上述した実施形態においては、本発明をデジタルカメラなどの撮像装置に適用した場合を例にして説明したが、これはこの例に限定されない。すなわち、本発明は、メモリを用いた情報処理装置において適用可能である。例えば、画像編集装置、プリンタ装置の印刷データ処理装置、データ通信のためのデータ処理装置など、メモリを用いるデジタルデータの処理装置において適用可能である。   For example, in the above-described embodiment, the case where the present invention is applied to an imaging apparatus such as a digital camera has been described as an example. However, this is not limited to this example. That is, the present invention can be applied to an information processing apparatus using a memory. For example, the present invention can be applied to digital data processing devices using a memory, such as an image editing device, a print data processing device of a printer device, and a data processing device for data communication.

また、前述した本発明の実施形態におけるメモリ制御装置を構成する各部の機能は、当該メモリ制御装置が適用される装置の制御部が有するコンピュータのRAMやROMなどに記憶されたプログラムが動作することによっても実現できる。このプログラム及び前記プログラムを記憶したコンピュータ読み取り可能な記憶媒体は本発明に含まれる。   In addition, the function of each unit configuring the memory control device according to the above-described embodiment of the present invention is that a program stored in a RAM or ROM of a computer included in the control unit of the device to which the memory control device is applied operates. Can also be realized. This program and a computer-readable storage medium storing the program are included in the present invention.

プログラムを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどがある。さらに、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM、DVD−R)などである。   Examples of the storage medium for supplying the program include a flexible disk, a hard disk, an optical disk, and a magneto-optical disk. Furthermore, MO, CD-ROM, CD-R, CD-RW, magnetic tape, nonvolatile memory card, ROM, DVD (DVD-ROM, DVD-R), and the like.

Claims (7)

複数のバスマスタとメモリとの間のデータ転送を制御するメモリ制御装置であって、
所定の期間ごとに繰り返しデータ転送要求を発行する所定のバスマスタを含む前記複数のバスマスタからのデータ転送要求を格納するキュー手段と、
前記キュー手段に格納されたデータ転送要求に対応したコマンドを前記メモリに出力する手段と、
前記所定のバスマスタからのデータ転送要求によるデータ転送に要する時間を前記所定の期間から引いた時間を閾値に設定し、新たに前記データ転送要求が出力された場合に、前記キュー手段に格納されているデータ転送要求によるデータ転送に要する時間と前記閾値とに基づいて、前記新たに出力されたデータ転送要求を前記キュー手段に格納するか否かを制御する制御手段とを備えるメモリ制御装置。
A memory control device for controlling data transfer between a plurality of bus masters and a memory,
Queue means for storing data transfer requests from the plurality of bus masters including a predetermined bus master that repeatedly issues a data transfer request every predetermined period;
Means for outputting a command corresponding to the data transfer request stored in the queue means to the memory;
When the time required for data transfer in response to a data transfer request from the predetermined bus master is subtracted from the predetermined period as a threshold value , the data is stored in the queue means when the data transfer request is newly output. A memory control device comprising: control means for controlling whether or not to store the newly output data transfer request in the queue means based on a time required for data transfer by the data transfer request and the threshold value.
前記制御手段は、前記キュー手段に格納されているデータ転送要求によるデータ転送に要する時間、実行中のデータの転送に要する時間、及び、前記新たに出力されたデータ転送要求によるデータ転送に要する時間、の合計が前記閾値を超える場合に、前記新たに出力されたデータ転送要求を前記キュー手段に格納しないようにすることを特徴とする請求項1に記載のメモリ制御装置。   The control means includes a time required for data transfer according to a data transfer request stored in the queue means, a time required for transfer of data being executed, and a time required for data transfer according to the newly output data transfer request. 2. The memory control device according to claim 1, wherein the newly output data transfer request is not stored in the queue means when the sum of the two exceeds the threshold value. 前記キュー手段は、所定数のデータ転送要求を格納することが可能であり、
前記制御手段は、前記合計が前記閾値を超える場合、前記キュー手段に空きがある場合でも、前記新たに出力されたデータ転送要求を前記キュー手段に格納しないようにすることを特徴とする請求項2に記載のメモリ制御装置。
The queue means is capable of storing a predetermined number of data transfer requests,
2. The control unit according to claim 1, wherein when the total exceeds the threshold value, the newly output data transfer request is not stored in the queue unit even when the queue unit has an empty space. 3. The memory control device according to 2.
前記所定のバスマスタは、所定のリアルタイム処理のためのデータ転送要求を出力し、前記制御手段は、前記所定のバスマスタからのデータ転送要求によるデータ転送に要する時間を前記所定のリアルタイム処理の周期に対応した前記所定の期間から引いた時間を前記閾値に設定することを特徴とする請求項1に記載のメモリ制御装置。 It said predetermined bus master outputs a data transfer request for a given real-time processing, the control means, the time required for data transfer by the data transfer request from the previous SL predetermined bus master cycle of the predetermined real-time processing 2. The memory control device according to claim 1, wherein a time subtracted from the corresponding predetermined period is set as the threshold value. 前記制御手段は、前記キュー手段に格納されているデータ転送要求によるデータ転送に要する時間を、前記データ転送要求により要求されるデータ長に基づいて決定することを特徴とする請求項1に記載のメモリ制御装置。   The said control means determines the time required for the data transfer by the data transfer request stored in the said queue means based on the data length requested | required by the said data transfer request. Memory controller. 複数のバスマスタとメモリとの間のデータ転送を制御するメモリ制御方法であって、
所定の期間ごとに繰り返しデータ転送要求を発行する所定のバスマスタを含む前記複数のバスマスタからのデータ転送要求をキュー手段に格納するキューステップと、
前記キュー手段に格納されたデータ転送要求に対応したコマンドを前記メモリに出力するステップと、
前記所定のバスマスタからの転送要求によるデータ転送に要する時間を前記所定の期間から引いた時間を閾値に設定し、新たに前記データ転送要求が出力された場合に、前記キュー手段に格納されているデータ転送要求によるデータ転送に要する時間と前記閾値とに基づいて、前記新たに出力されたデータ転送要求を前記キュー手段に格納するか否かを制御する制御ステップとを備えるメモリ制御方法。
A memory control method for controlling data transfer between a plurality of bus masters and a memory,
A queue step of storing in the queue means data transfer requests from the plurality of bus masters including a predetermined bus master that repeatedly issues a data transfer request every predetermined period;
Outputting a command corresponding to the data transfer request stored in the queue means to the memory;
When the time required for data transfer due to a transfer request from the predetermined bus master is subtracted from the predetermined period as a threshold , the data is stored in the queue means when the data transfer request is newly output. A memory control method comprising: a control step for controlling whether or not to store the newly output data transfer request in the queue means based on a time required for data transfer by the data transfer request and the threshold value.
メモリと、
撮像手段と、
前記撮像手段からの画像データを所定の周期で処理し、前記所定の周期ごとに繰り返し前記メモリに対するデータ転送要求を出力する第1の処理手段と、
それぞれ前記メモリに記憶された画像データを用いて処理を行う複数の処理手段と、
前記第1の処理手段からのデータ転送要求と、前記複数の処理手段からの前記メモリに対するデータ転送要求とを格納するキュー手段と、
前記キュー手段に格納されたデータ転送要求に対応したコマンドを前記メモリに出力する手段と、
前記第1の処理手段からのデータ転送要求によるデータ転送に要する時間を前記所定の周期から引いた時間を閾値に設定し、新たに前記データ転送要求が出力された場合に、前記キュー手段に格納されているデータ転送要求によるデータ転送に要する時間と前記閾値とに基づいて、前記新たに出力されたデータ転送要求を前記キュー手段に格納するか否かを制御する制御手段とを備える撮像装置。
Memory,
Imaging means;
First processing means for processing the image data from the imaging means at a predetermined cycle, and repeatedly outputting a data transfer request to the memory at each predetermined cycle;
A plurality of processing means each performing processing using the image data stored in the memory;
Queue means for storing a data transfer request from the first processing means and a data transfer request to the memory from the plurality of processing means;
Means for outputting a command corresponding to the data transfer request stored in the queue means to the memory;
A time obtained by subtracting the time required for data transfer by the data transfer request from the first processing means from the predetermined period is set as a threshold value , and stored in the queue means when the data transfer request is newly output. An image pickup apparatus comprising: control means for controlling whether or not to store the newly output data transfer request in the queue means based on the time required for data transfer by the data transfer request being made and the threshold value.
JP2013026810A 2013-02-14 2013-02-14 MEMORY CONTROL DEVICE, MEMORY CONTROL METHOD, AND IMAGING DEVICE HAVING MEMORY CONTROL DEVICE Expired - Fee Related JP6124615B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013026810A JP6124615B2 (en) 2013-02-14 2013-02-14 MEMORY CONTROL DEVICE, MEMORY CONTROL METHOD, AND IMAGING DEVICE HAVING MEMORY CONTROL DEVICE

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013026810A JP6124615B2 (en) 2013-02-14 2013-02-14 MEMORY CONTROL DEVICE, MEMORY CONTROL METHOD, AND IMAGING DEVICE HAVING MEMORY CONTROL DEVICE

Publications (3)

Publication Number Publication Date
JP2014157410A JP2014157410A (en) 2014-08-28
JP2014157410A5 JP2014157410A5 (en) 2016-03-31
JP6124615B2 true JP6124615B2 (en) 2017-05-10

Family

ID=51578262

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013026810A Expired - Fee Related JP6124615B2 (en) 2013-02-14 2013-02-14 MEMORY CONTROL DEVICE, MEMORY CONTROL METHOD, AND IMAGING DEVICE HAVING MEMORY CONTROL DEVICE

Country Status (1)

Country Link
JP (1) JP6124615B2 (en)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010211902A (en) * 2009-03-12 2010-09-24 Toshiba Storage Device Corp Control method of storage device, storage device and storage device control program
JP5229922B2 (en) * 2010-11-08 2013-07-03 ルネサスエレクトロニクス株式会社 Information processing system
US8321627B1 (en) * 2011-10-06 2012-11-27 Google Inc. Memory operation command latency management

Also Published As

Publication number Publication date
JP2014157410A (en) 2014-08-28

Similar Documents

Publication Publication Date Title
JP5784299B2 (en) Data processing apparatus and image processing apparatus
US6340973B1 (en) Memory control unit and memory control method and medium containing program for realizing the same
JP2021119386A (en) Device and method for transferring data
US5519499A (en) Image processing apparatus for storing and reading out image data
US9026697B2 (en) Data processing apparatus
JP2015109037A (en) Image processing device
US9602723B2 (en) Imaging apparatus capable of controlling power consumption and access to memory and control method thereof
JP6124615B2 (en) MEMORY CONTROL DEVICE, MEMORY CONTROL METHOD, AND IMAGING DEVICE HAVING MEMORY CONTROL DEVICE
JP6274774B2 (en) Memory interface device and control method thereof
JP2019185447A (en) Memory controller, image processing device, and data transfer method
JP2000172560A (en) Memory controller
JP2021157295A (en) Memory control device
US20150066854A1 (en) Data processing apparatus and its control method and program
JP2021096739A (en) Memory controller, memory control method, and imaging apparatus
JP5233541B2 (en) Memory control circuit, electronic device control device, and multifunction device
US20220270663A1 (en) Memory control apparatus and control method therefor
JP4699858B2 (en) Memory device and memory control method
JP2000013639A (en) Image signal processing device
US8588591B2 (en) Reproducing apparatus and reproducing method
JP5623150B2 (en) Electronic device and control method thereof
JP7739088B2 (en) Electronic device and control method
JP2006099895A (en) Memory processing device
JP4640434B2 (en) Digital camera
JP4633078B2 (en) Color image processing apparatus and image memory access control method
JP6373002B2 (en) Recording apparatus and control method thereof

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160210

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170307

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170404

R151 Written notification of patent or utility model registration

Ref document number: 6124615

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees