JP6322356B2 - Vanishing point position calculation method and distance measurement method - Google Patents
Vanishing point position calculation method and distance measurement method Download PDFInfo
- Publication number
- JP6322356B2 JP6322356B2 JP2012087878A JP2012087878A JP6322356B2 JP 6322356 B2 JP6322356 B2 JP 6322356B2 JP 2012087878 A JP2012087878 A JP 2012087878A JP 2012087878 A JP2012087878 A JP 2012087878A JP 6322356 B2 JP6322356 B2 JP 6322356B2
- Authority
- JP
- Japan
- Prior art keywords
- point
- image
- value
- angle
- measurement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
Description
本発明は、消失点位置算出方法、及び測距方法に関する。 The present invention relates to a vanishing point position calculation method and a distance measurement method.
従来より、自車両の前方を撮像して得られた先行車両の画像を用いて自車両と先行車両との車間距離を測定する方法が知られている(例えば特許文献1参照。)。 2. Description of the Related Art Conventionally, a method for measuring an inter-vehicle distance between a host vehicle and a preceding vehicle using an image of a preceding vehicle obtained by imaging the front of the host vehicle is known (see, for example, Patent Document 1).
以下では、まず、本発明の発明者が認識している従来の車間距離測定方法について、図9及び図10を参照して説明する。図9は従来の車間距離測定方法を説明するための説明図であり、図10は図9における取付け点Oから撮像される画像を示す模式図である。 Hereinafter, a conventional inter-vehicle distance measuring method recognized by the inventor of the present invention will be described with reference to FIGS. 9 and 10. FIG. 9 is an explanatory diagram for explaining a conventional inter-vehicle distance measuring method, and FIG. 10 is a schematic diagram showing an image captured from the attachment point O in FIG.
以下に説明する車間距離測定方法は、自車両に取付けられたカメラ(図示せず。)の取付け点Oから先行車両の後端を通る鉛直線と地面との交点Sまでの水平方向の距離として定義される車間距離Zの値を算出することを目的としている(図9参照。)。 The inter-vehicle distance measurement method described below is as a horizontal distance from an attachment point O of a camera (not shown) attached to the host vehicle to an intersection S between a vertical line passing through the rear end of the preceding vehicle and the ground. The purpose is to calculate the value of the defined inter-vehicle distance Z (see FIG. 9).
はじめに、図9と図10との関係について説明する。図9における取付け点Oから延びる二点鎖線Cは、カメラの光軸を示している。点Pと点Rとを結ぶ円弧状の点線は、取付け点Oに固定されたカメラにより撮像可能な範囲を示している。即ち、∠PORは、カメラにより撮像される画像の画角を示している。当該画角のうちの点Pから地面上の所定の点Qまでの範囲を写した画像が、先行車両を撮像した画像として車間距離の測定に用いられる。つまり、図10に示すように、先行車両が撮像された画像では点Pが画像の上端に位置し、点Qが画像の下端に位置する。図9及び図10に示す符号Fは、消失点の位置を示している。消失点とは、被写体を無限遠点まで遠ざけた際に画像中における被写体の位置が収束していく点であり、理論的には無限遠方に存在する。車間距離Zの測定においては、カメラを搭載した自車両及び被写体である先行車両は、略水平に形成された道路上を移動する。このため、消失点は、点Oから水平方向に延ばした直線上に位置する。図9における一点鎖線Dは、点Oから水平方向に延ばした線分であり、カメラから視た消失点の存在方向を示している。図9及び図10に示すように、消失点は、画像上では点線PRと一点鎖線Dとの交点Fに位置する。以下、本明細書では、説明の簡単化のために、画像上に定められる該交点Fを消失点Fと称して説明する。画像中における消失点Fの位置、即ち消失点Fが点Pと点Qを結ぶ点線をカメラによって写した像上のいずれの点に位置するかは、カメラの光軸Cと水平面がなす角度、即ちカメラのピッチ方向の取付け角度にしたがって定められる。 First, the relationship between FIG. 9 and FIG. 10 will be described. A two-dot chain line C extending from the attachment point O in FIG. 9 indicates the optical axis of the camera. An arc-shaped dotted line connecting the point P and the point R indicates a range that can be imaged by the camera fixed to the attachment point O. That is, ∠POR represents the angle of view of the image captured by the camera. An image obtained by capturing a range from the point P to a predetermined point Q on the ground in the angle of view is used for measuring the inter-vehicle distance as an image obtained by capturing the preceding vehicle. That is, as shown in FIG. 10, in the image obtained by imaging the preceding vehicle, the point P is located at the upper end of the image, and the point Q is located at the lower end of the image. 9 and 10 indicate the position of the vanishing point. The vanishing point is a point where the position of the subject in the image converges when the subject is moved to an infinite point, and theoretically exists at an infinite distance. In the measurement of the inter-vehicle distance Z, the host vehicle on which the camera is mounted and the preceding vehicle that is the subject move on a road that is formed substantially horizontally. For this reason, the vanishing point is located on a straight line extending from the point O in the horizontal direction. A one-dot chain line D in FIG. 9 is a line segment extending from the point O in the horizontal direction, and indicates the direction in which the vanishing point is seen from the camera. As shown in FIGS. 9 and 10, the vanishing point is located at the intersection F between the dotted line PR and the alternate long and short dash line D on the image. Hereinafter, in this specification, the intersection point F defined on the image will be referred to as a vanishing point F for the sake of simplicity. The position of the vanishing point F in the image, that is, which point on the image obtained by copying the dotted line connecting the point P and the point Q by the camera, is the angle formed by the optical axis C of the camera and the horizontal plane. That is, it is determined according to the mounting angle of the camera in the pitch direction.
次に、車間距離Zを測定するための算出方法を説明する。
カメラが取付けられた地上高Hの値と、カメラの取付け点Oから画像の下端に位置する点Qまでの水平方向の距離Z0の値と、が既知であるとする。このとき、図9から分かるように、∠FOQに相当する画角bの大きさは、点Qから点Oを視た場合の仰角の大きさと等しい。したがって、画角bの値は、以下の(数1)により求められる。
(数1)
b=arctan(H/Z0)
Next, a calculation method for measuring the inter-vehicle distance Z will be described.
It is assumed that the value of the ground height H at which the camera is mounted and the value of the horizontal distance Z0 from the camera mounting point O to the point Q located at the lower end of the image are known. At this time, as can be seen from FIG. 9, the size of the angle of view b corresponding to ∠FOQ is equal to the size of the elevation angle when the point O is viewed from the point Q. Accordingly, the value of the angle of view b is obtained by the following (Equation 1).
(Equation 1)
b = arctan (H / Z0)
さらに、図10に示す先行車両を撮像した画像に基づいて、当該画像中における消失点Fから点Sまでの長さY1の値と、当該画像中における消失点Fから点Qまでの長さY2の値と、の比を求める。より具体的には、画像を構成する画素に基づいて当該比を求める。一般的な画像は、デジタル画像を構成する最小単位である画素を並べて表現されており、例えば横640個、縦480個の画素を並べて構成されている。従来の車間距離測定方法では、先行車両の画像中における消失点Fから点Sまでに存在する画素の数と、消失点Fから点Qまでに存在する画素の数と、の比を求めることにより、Y1とY2の比を求める。このように求められるY1に対するY2の比は、従来の車間距離算出方法では、∠FOSに相当する画角aに対する画角bの比と等しいと見做されている(図9参照。)。即ち、従来の車間距離測定方法では、先行車両を撮像した画像上における長さの比が、当該長さに相当する画角の比と等しいと看做している。この場合、画角aの値は、以下の(数2)により求められる。
(数2)
a=b×Y1/Y2
Further, based on the image obtained by imaging the preceding vehicle shown in FIG. 10, the value of the length Y1 from the vanishing point F to the point S in the image and the length Y2 from the vanishing point F to the point Q in the image. And the ratio of. More specifically, the ratio is obtained based on the pixels constituting the image. A general image is expressed by arranging pixels which are the minimum units constituting a digital image, and is configured by arranging, for example, 640 pixels in the horizontal direction and 480 pixels in the vertical direction. In the conventional inter-vehicle distance measurement method, the ratio of the number of pixels existing from the vanishing point F to the point S in the image of the preceding vehicle and the number of pixels existing from the vanishing point F to the point Q is obtained. The ratio of Y1 and Y2 is obtained. The ratio of Y2 to Y1 thus obtained is considered to be equal to the ratio of the angle of view b to the angle of view a corresponding to ∠FOS in the conventional inter-vehicle distance calculation method (see FIG. 9). That is, in the conventional inter-vehicle distance measurement method, it is considered that the ratio of the length on the image obtained by imaging the preceding vehicle is equal to the ratio of the angle of view corresponding to the length. In this case, the value of the angle of view a is obtained by the following (Equation 2).
(Equation 2)
a = b × Y1 / Y2
画角aは、図9から分かるように点Sから点Oを視た場合の仰角と等しい。したがって、車間距離Zの値は、以下の(数3)により求められる。
(数3)
Z=H/tan(a)
The field angle a is equal to the elevation angle when the point O is viewed from the point S as can be seen from FIG. Therefore, the value of the inter-vehicle distance Z is obtained by the following (Equation 3).
(Equation 3)
Z = H / tan (a)
以上説明したように、従来の車間距離測定方法によれば、カメラが取付けられた地上高Hの値と、カメラの取付け点Oから画像の下端に位置する点Qまでの水平方向の距離Z0の値と、が既知であれば、先行車両を撮像した画像に基づいて車間距離Zの値を算出することができる。 As described above, according to the conventional inter-vehicle distance measurement method, the value of the ground height H at which the camera is mounted and the horizontal distance Z0 from the camera mounting point O to the point Q located at the lower end of the image. If the value is known, the value of the inter-vehicle distance Z can be calculated based on an image obtained by imaging the preceding vehicle.
但し、従来の車間距離測定方法では、上述したように、カメラの取付け点Oから画像の下端に位置する点Qまでの水平方向の距離Z0の値が予め測定されて既知である必要がある。このため、作業者は、カメラの取付け時や初期設定の際等に、カメラの取付け点Oから画像の下端に位置する点Qまでの距離Z0を測定しなければならなかった。 However, in the conventional inter-vehicle distance measurement method, as described above, the value of the horizontal distance Z0 from the camera attachment point O to the point Q located at the lower end of the image needs to be measured in advance and known. Therefore, the operator has to measure the distance Z0 from the camera attachment point O to the point Q located at the lower end of the image when the camera is attached or at the time of initial setting.
しかしながら、カメラの取付け時や初期設定の際には、画像の下端に位置する点Qに障害物がある場合等のように、距離Z0を測定することが困難な場合がある。このため、従来の車間距離測定方法では、測定条件を満たす地点に車を停車して距離Z0を測定する必要があった。このことは、作業者の負担となる虞があった。 However, when the camera is mounted or initially set, it may be difficult to measure the distance Z0, such as when there is an obstacle at the point Q located at the lower end of the image. For this reason, in the conventional inter-vehicle distance measurement method, it is necessary to stop the vehicle at a point that satisfies the measurement conditions and measure the distance Z0. This may be a burden on the operator.
本発明は、上述した事情に鑑みてなされたものであり、その目的は、作業者の負担を軽減可能な消失点位置算出方法、及び測距方法を提供することにある。 The present invention has been made in view of the above-described circumstances, and an object thereof is to provide a vanishing point position calculation method and a distance measurement method that can reduce the burden on the operator.
前述した目的を達成するために、本発明に係る消失点位置算出方法は、下記(1)を特徴としている。
(1) 撮像手段により地面上の任意の1点である参照点を撮影した参照画像を取得し、前記参照画像上における前記参照点の位置がタップ操作で特定されることによって前記参照画像上における前記参照点の位置情報を取得するステップと、
前記撮像手段が取付けられた地上高の値、及び前記撮像手段が取付けられた位置から前記参照点までの水平方向の距離である参照距離の値を取得するステップと、
前記地上高の値と前記参照距離との比に基づいて、前記参照画像中に定められる消失点F1から前記参照点までの地上高方向の画角αの値を算出するステップと、
前記参照画像の上端から、前記取得された参照点の位置情報に基づいて特定される前記参照画像中の前記参照点までの間に地上高方向に存在する画素の数D1と、前記撮像手段により撮像された画像における各画素と画角との対応データと、に基づいて、前記参照画像の上端から前記参照点までの地上高方向の画角βの値を算出するステップと、
前記画角βの値から前記画角αの値を減算することにより前記参照画像の上端から前記消失点F1までの地上高方向の画角γの値を算出し、前記画角γの値と、前記対応データと、に基づいて、前記参照画像の上端から前記参照画像中の前記消失点F1までの間に地上高方向に存在する画素の数D2を算出するステップと、
を含む、前記参照画像における前記消失点F1の位置を算出する消失点位置算出ステップを備え、
前記対応データとして、前記撮像手段の光軸からの地上高方向の角度とその角度における1画素あたりの画角との予め取得された第1対応関係に基づいて得られる、前記撮像手段により撮像された画像の上下方向における各画素とその画素における1画素あたりの画角との第2対応関係、を利用すること。
In order to achieve the above-described object, the vanishing point position calculating method according to the present invention is characterized by the following (1).
(1) an imaging means by obtain a reference image obtained by photographing the reference point is any point on the ground, the reference picture on by the position of the reference point on the reference image is specified by the tap operation Obtaining position information of the reference point at
Obtaining a value of the reference distance is a horizontal distance of the imaging means ground clearance of values attached, from a position attached 及 beauty said imaging means to said reference point,
Calculating a value of the angle of view α in the ground height direction from the vanishing point F1 defined in the reference image to the reference point based on a ratio between the ground height value and the reference distance;
The number D1 of pixels existing in the ground high direction from the upper end of the reference image to the reference point in the reference image specified based on the acquired position information of the reference point, and the imaging means Calculating the value of the angle of view β in the ground high direction from the upper end of the reference image to the reference point based on correspondence data between each pixel and the angle of view in the captured image;
By subtracting the value of the angle of view α from the value of the angle of view β, the value of the angle of view γ in the ground high direction from the upper end of the reference image to the vanishing point F1 is calculated, and the value of the angle of view γ Calculating the number D2 of pixels existing in the ground high direction between the upper end of the reference image and the vanishing point F1 in the reference image based on the correspondence data;
A vanishing point position calculating step for calculating a position of the vanishing point F1 in the reference image,
The correspondence data is imaged by the imaging means obtained based on a first correspondence relationship acquired in advance between an angle in the height direction from the optical axis of the imaging means and the angle of view per pixel at that angle. The second correspondence between each pixel in the vertical direction of the image and the angle of view per pixel in that pixel.
前述した目的を達成するために、本発明に係る測距方法は、下記(2)を特徴としている。
(2) 上記(1)に記載の消失点位置算出方法に備わる前記消失点位置算出ステップと、
測定距離算出ステップと、
を備える測距方法であって、
前記測定距離算出ステップは、
前記地上高の値、及び前記撮像手段により地面上の任意の1点である測定点を撮像した測定画像を取得するステップと、
前記測定画像の上端から前記測定画像中の前記測定点までの間に地上高方向に存在する画素の数D3から、前記消失点位置算出ステップにて算出された前記参照画像の上端から前記参照画像中の前記消失点F1までの間に地上高方向に存在する画素の数D2を減算することによって得られる、前記測定画像中に定められ、前記測定画像における位置が前記参照画像における前記消失点F1の位置と同一である消失点F2から前記測定画像中の前記測定点までの間に地上高方向に存在する画素の数D4と、前記対応データとしての前記第2対応関係と、に基づいて、前記消失点F2から前記測定点までの地上高方向の画角θの値を算出し、前記画角θの値と前記地上高の値とに基づいて、前記撮像手段が取付けられた位置から前記測定点までの水平方向の距離である測定距離L2の値を算出するステップと、
を含むこと。
In order to achieve the above-described object, the distance measuring method according to the present invention is characterized by the following (2 ) .
(2) The vanishing point position calculating step provided in the vanishing point position calculating method according to (1),
A measurement distance calculation step;
A distance measuring method comprising:
The measurement distance calculating step includes:
Obtaining a measurement image obtained by imaging a value of the ground height and a measurement point which is an arbitrary point on the ground by the imaging means;
The reference image from the upper end of the reference image calculated in the vanishing point position calculation step is calculated from the number D3 of pixels existing in the height direction from the upper end of the measurement image to the measurement point in the measurement image. Is determined in the measurement image obtained by subtracting the number D2 of pixels existing in the height direction above the vanishing point F1, and the position in the measurement image is the vanishing point F1 in the reference image. On the basis of the number D4 of pixels existing in the height direction above the ground from the vanishing point F2 that is the same as the position to the measurement point in the measurement image, and the second correspondence relationship as the correspondence data, The value of the angle of view θ in the ground height direction from the vanishing point F2 to the measurement point is calculated, and based on the value of the angle of view θ and the value of the ground height, the position from which the imaging unit is attached is calculated. Water to measuring point Calculating a value of the measurement distance L2, which is a distance in the flat direction;
Including .
上記(1)の構成の消失点位置算出方法では、撮像手段が取付けられた地上高の値と、当該撮像手段により参照点を撮像した参照画像と、当該撮像手段が取付けられた位置から参照点までの水平方向の距離である参照距離の値と、当該撮像手段により撮像された画像における各画素と画角との対応データと、に基づいて、参照画像における消失点F1の位置が算出される。 In the vanishing point position calculation method having the configuration (1) above, the reference point is calculated from the value of the ground height to which the imaging unit is attached, the reference image obtained by imaging the reference point by the imaging unit, and the position at which the imaging unit is attached. The position of the vanishing point F1 in the reference image is calculated based on the value of the reference distance that is the distance in the horizontal direction up to and the correspondence data between each pixel and the angle of view in the image captured by the imaging unit. .
上記(2)の構成の測距方法では、撮像手段が取付けられた地上高の値と、当該撮像手段により参照点を撮像した参照画像と、当該撮像手段が取付けられた位置から参照点までの水平方向の距離である参照距離の値と、当該撮像手段により撮像された画像における各画素と画角との対応データと、当該撮像手段により測定点を撮像した測定画像と、に基づいて、測定距離の値が算出される。 In the distance measuring method having the above configuration (2), the value of the ground height to which the imaging means is attached, the reference image obtained by imaging the reference point by the imaging means, and the position from the position where the imaging means is attached to the reference point. Measured based on the value of the reference distance, which is the distance in the horizontal direction, the correspondence data between each pixel and the angle of view in the image captured by the imaging unit, and the measurement image obtained by imaging the measurement point by the imaging unit A distance value is calculated .
本発明の消失点位置算出方法、及び測距方法によれば、実施者の負担を軽減可能な消失点位置算出方法、及び測距方法を提供できる。 According to the vanishing point position calculating method and the distance measuring method of the present invention, it is possible to provide a vanishing point position calculating method and a distance measuring method that can reduce the burden on the practitioner.
以上、本発明について簡潔に説明した。更に、以下に説明される発明を実施するための形態(以下、「実施形態」という。)を添付の図面を参照して通読することにより、本発明の詳細は更に明確化されるであろう。 The present invention has been briefly described above. Further, the details of the present invention will be further clarified by reading through a mode for carrying out the invention described below (hereinafter referred to as “embodiment”) with reference to the accompanying drawings. .
本発明の実施形態に係る消失点位置算出方法、及び測距方法を用いた車間距離測定システム1について、各図を参照しながら以下に説明する。 A vanishing point position calculating method and a distance measuring system 1 using a distance measuring method according to an embodiment of the present invention will be described below with reference to the drawings.
まず、車間距離測定システム1の概要について説明する。
車間距離測定システム1は、自車両に取付けられたカメラ11により車両前方を撮像した画像に基づいて、カメラ11の取付け点Oから先行車両の後端を通る鉛直線と地面との交点Sまでの水平方向の距離として定義される車間距離L2の値を算出するためのシステムである(図7参照。)。
First, an outline of the inter-vehicle distance measurement system 1 will be described.
The inter-vehicle distance measurement system 1 is based on an image obtained by imaging the front of the vehicle with the camera 11 attached to the host vehicle, from the attachment point O of the camera 11 to the intersection S between the vertical line passing through the rear end of the preceding vehicle and the ground. This is a system for calculating the value of the inter-vehicle distance L2 defined as the horizontal distance (see FIG. 7).
図3、図7における取付け点Oから延びる二点鎖線Cは、カメラ11の光軸を示している。点Pと点Qとを結ぶ点線は、カメラ11により撮像可能な範囲を示している。即ち、∠POQは、カメラ11により撮像される画像の画角を示している。当該画角のうちの点Pから地面上の所定の点Qまでの範囲を写した画像が、車両前方を撮像した画像として車間距離L2の測定に用いられる。つまり、図4、図8に示すように、撮像された画像では点Pが画像の上端に位置し、点Qが画像の下端に位置する。点P及び点Qは、撮像された画像上で上下方向に並んで位置している。図4に示す符号F1及び図8に示す符号F2は、当該画像中に定められる消失点の位置を示している。車間距離L2の測定においては、カメラ11を搭載した自車両及び被写体である先行車両は略水平に形成された道路上を移動する。このため、消失点F1,F2は、点Oから水平方向に延ばした直線上に位置する。図3、図7における一点鎖線Dは、点Oから水平方向に延ばした線分であり、カメラ11から視た消失点F1,F2の方向を示している。画像中における消失点F1,F2の位置は、カメラ11の光軸Cと水平面がなす角度にしたがって定められる。 A two-dot chain line C extending from the attachment point O in FIGS. 3 and 7 indicates the optical axis of the camera 11. A dotted line connecting the point P and the point Q indicates a range that can be captured by the camera 11. That is, ∠POQ indicates the angle of view of the image captured by the camera 11. An image obtained by capturing a range from the point P to a predetermined point Q on the ground in the angle of view is used for measuring the inter-vehicle distance L2 as an image obtained by imaging the front of the vehicle. That is, as shown in FIGS. 4 and 8, in the captured image, the point P is located at the upper end of the image and the point Q is located at the lower end of the image. The points P and Q are located side by side in the vertical direction on the captured image. Reference numeral F1 shown in FIG. 4 and reference numeral F2 shown in FIG. 8 indicate the positions of vanishing points determined in the image. In the measurement of the inter-vehicle distance L2, the host vehicle on which the camera 11 is mounted and the preceding vehicle that is the subject move on a road that is formed substantially horizontally. For this reason, vanishing points F1 and F2 are located on a straight line extending from point O in the horizontal direction. 3 and 7 is a line segment extending in the horizontal direction from the point O, and indicates the directions of the vanishing points F1 and F2 viewed from the camera 11. The positions of the vanishing points F1, F2 in the image are determined according to the angle formed by the optical axis C of the camera 11 and the horizontal plane.
次に、車間距離測定システム1の各部の構成について説明する。
図1は、本実施形態に係る車間距離測定システム1のハードウェアの構成例を示す図である。図1に示すように、本実施形態に係る車間距離測定システム1は、カメラ11と、画像認識ユニット100と、ドライブレコーダ200と、端末300と、を備えている。
Next, the configuration of each part of the inter-vehicle distance measurement system 1 will be described.
FIG. 1 is a diagram illustrating a hardware configuration example of an inter-vehicle distance measurement system 1 according to the present embodiment. As shown in FIG. 1, the inter-vehicle distance measurement system 1 according to this embodiment includes a camera 11, an
カメラ11は、車両前方を撮像する撮像手段としてのカメラである。カメラ11は、光を屈曲させて集束させるレンズと該レンズにて集束された光を検出して電気信号に変換する撮像素子とを備え、被写体を撮像してNTSC(National Television System Committee)規格の映像信号を出力する。カメラ11は、例えば図3及び図7に示すように、先行車両を撮像可能な位置及び角度で車両の前部に取付けられる。本実施形態では、カメラ11により撮像される画像は横640個、縦480個の画素を並べて構成される。 The camera 11 is a camera as imaging means for imaging the front of the vehicle. The camera 11 includes a lens that bends and focuses light, and an image sensor that detects the light focused by the lens and converts the light into an electrical signal. The camera 11 captures an object and conforms to the NTSC (National Television System Committee) standard. Output video signal. For example, as shown in FIGS. 3 and 7, the camera 11 is attached to the front portion of the vehicle at a position and an angle at which a preceding vehicle can be imaged. In the present embodiment, the image captured by the camera 11 is configured by arranging 640 pixels in the horizontal direction and 480 pixels in the vertical direction.
画像認識ユニット100は、主要な構成要素としてビデオアンプ101、NTSCデコーダ102、画像処理回路103、マイクロコンピュータ104、ROM105、RAM106及び電源回路107を備えている。
The
また、ドライブレコーダ200は、主要な構成要素としてメインデコーダ201、データ処理部202、通信処理部203、ROM204、RAM205、及び車両信号インタフェース206を備えている。
The
端末300は、画像等の各種情報を表示する表示部(図示せず。)と各種操作入力を受付ける操作部(図示せず。)とを備える端末であり、後述する消失点位置算出ステップにおいて用いられる。本実施形態では、表示部と操作部とはタッチパネルとして一体的に構成されており、液晶デバイスにより構成された多数の微小表示セルをX方向及びY方向に並べて配置されたカラーの2次元表示画面により構成されている。多数の微小表示セルの表示状態をセル毎に制御することにより、2次元表示画面上に図形、文字、画像等の所望の情報をグラフィック表示することができる。端末300は、画像認識ユニット100とドライブレコーダ200とに接続されている。端末300は、画像処理回路103から出力される処理後の映像信号を受付け、2次元画面表示によって図4に示すような画像を表示する。また、端末300は、タッチパネル上の任意の1点を指定するタップ操作や、タッチパネル上に表示される文字又は記号等をタップ操作することによる文字又は記号等の入力操作を受付ける。端末300は、受付けた操作に対応する入力信号を、車両上の通信ネットワーク(CAN(Controller Area Network))を介してマイクロコンピュータ104に出力する。端末300の具体的な表示内容及び動作については後述する。
The terminal 300 is a terminal including a display unit (not shown) that displays various information such as images and an operation unit (not shown) that accepts various operation inputs, and is used in a vanishing point position calculating step described later. It is done. In the present embodiment, the display unit and the operation unit are integrally configured as a touch panel, and a color two-dimensional display screen in which a large number of micro display cells configured by a liquid crystal device are arranged in the X direction and the Y direction. It is comprised by. By controlling the display state of a large number of minute display cells for each cell, desired information such as graphics, characters, images, etc. can be displayed graphically on the two-dimensional display screen. The terminal 300 is connected to the
ビデオアンプ101は、カメラ11から出力されるNTSC規格の映像信号を受付け、必要なレベルに増幅した映像信号を出力する。ビデオアンプ101の出力は、ドライブレコーダ200の映像入力およびNTSCデコーダ102の入力と接続されている。
The
NTSCデコーダ102は、ビデオアンプ101から入力されるNTSC規格の映像信号を処理して該映像信号に含まれる複数の信号成分(Y,Cb,Cr)をそれぞれ抽出し、A/D変換を行って画像処理に利用できるデジタル画像信号を生成する。
The
画像処理回路103は、車間距離L2の算出等の画像処理を行うための機能を有する専用の大規模集積回路(LSI(Large Scale Integration))である。この画像処理回路103は、入力される画像データに基づいて、例えば図2に示す消失点位置算出ステップの処理を実行して画像における消失点F1,F2の位置を算出したり、図6に示す測定距離算出ステップの処理を実行して車間距離L2の値を算出したりするために必要な機能を備えている。
The
画像処理回路103には、読み出し専用のメモリであるROM(Read Only Memory)105と書き換え可能なメモリであるRAM(Random Access memory)106とが接続されている。ROM105は、消失点位置算出ステップ及び測定距離算出ステップで画像処理回路103が実行するプログラムや、各処理において画像処理回路103が使用する定数データを保持している。ROM105は、例えば後述する図5に示すデータテーブルを保持している。RAM106は、画像処理回路103が処理する画像データや、消失点位置算出ステップ及び測定距離算出ステップにおける処理途中の一時的なデータを保持するために利用される。
The
マイクロコンピュータ(マイコン)104は、CAN(Controller Area Network)規格の通信機能を搭載しており、ドライブレコーダ200及び端末300との間で通信を行う。マイクロコンピュータ104は、例えば端末300から出力される操作入力情報を含む信号を受付ける。
The microcomputer (microcomputer) 104 has a CAN (Controller Area Network) standard communication function, and performs communication between the
ドライブレコーダ200においては、画像認識ユニット100内のビデオアンプ101から出力されるNTSC規格の映像信号をメインデコーダ201が処理してこの映像信号に含まれる複数の信号成分(Y,Cb,Cr)をそれぞれ抽出し、A/D変換を行ってデータ処理部202の処理可能なデジタル画像信号を生成する。
In the
データ処理部202は、マイクロコンピュータで構成されており、主にメインデコーダ201から出力される画像データを順次に入力し圧縮して記録するための処理を行う。データ処理部202に接続されているROM204は、データ処理部202が実行するプログラムやデータ処理部202が使用する各種定数データ等を予め保持している。RAM205は、処理途中のデータ等の一時的なデータを保持するために利用される。ドライブレコーダ200が最終的に記録する画像及び車間距離情報を含む運行情報等のデータについては、例えば不揮発性メモリを搭載してドライブレコーダ200に着脱可能に取付けられるメモリカード(図示せず。)上に保存される。
The
通信処理部203は、CAN規格の通信機能を搭載したマイクロコンピュータで構成されており、車両上の通信ネットワーク(CAN)を経由して、これに接続された画像認識ユニット100との間で通信を行う。また、通信処理部203とデータ処理部202との間で双方向に通信を行い、必要に応じて情報の授受を実行する。
The
車両信号インタフェース206は、車両側から出力される各種信号を受付けてデータ処理部202が処理可能な信号に変換したり、データ処理部202が出力する各種信号を車両側が処理可能な信号に変換するための処理を行う。車両信号インタフェース206が運行情報として扱う信号としては、トリガ出力、イグニッション(IGN)、手動スイッチ(SW)、ブレーキ、ウインカーL側、ウインカーR側、車速パルスなどがある。
The
次に、本実施形態に係る車間距離測定システム1の具体的な動作について説明する。
本実施形態に係る車間距離測定システム1は、概略的には、消失点位置算出ステップにおける処理と、測定距離算出ステップにおける処理と、の2つの処理を実行する。消失点位置算出ステップにおける処理では画像上における消失点の位置を算出し、測定距離算出ステップにおける処理では消失点位置算出ステップにて算出した消失点の位置を参照して車間距離L2の値を算出する。以下ではまず、消失点位置算出ステップについて説明する。
Next, a specific operation of the inter-vehicle distance measurement system 1 according to this embodiment will be described.
The inter-vehicle distance measurement system 1 according to the present embodiment generally executes two processes, a process in a vanishing point position calculating step and a process in a measured distance calculating step. In the process in the vanishing point position calculating step, the position of the vanishing point on the image is calculated, and in the process in the measuring distance calculating step, the value of the inter-vehicle distance L2 is calculated with reference to the position of the vanishing point calculated in the vanishing point position calculating step. To do. In the following, first, the vanishing point position calculating step will be described.
(消失点位置算出ステップ)
図2は、消失点位置算出ステップにおける処理を示すフローチャートである。
概略的には、消失点位置算出ステップでは、カメラ11により地面上の任意の1点である参照点Tを撮像した画像である参照画像中に定められる消失点F1の位置が算出される。ここで、参照点Tは、カメラ11により撮像されて参照画像上に現れる点であればいずれの点でもよく、参照画像上における参照点Tの位置は、後述するように端末300への操作入力にしたがって定められる。また、本実施形態では、消失点位置算出ステップによる消失点F1の位置の算出は、例えばカメラ11を車両に取付けて車間距離測定システム1の運用を開始する際に実行され、後述する測定距離算出ステップにおける処理を実行する前に実行される。即ち、消失点位置算出ステップは、先行車両を撮像した測定画像に基づいて車間距離L2を算出する測定距離算出ステップの前処理として実行される。
(Disappearance point calculation step)
FIG. 2 is a flowchart showing processing in the vanishing point position calculating step.
Schematically, in the vanishing point position calculating step, the position of the vanishing point F1 determined in the reference image, which is an image obtained by imaging the reference point T that is an arbitrary point on the ground by the camera 11, is calculated. Here, the reference point T may be any point as long as it is captured by the camera 11 and appears on the reference image, and the position of the reference point T on the reference image is an operation input to the terminal 300 as described later. It is determined according to. Further, in the present embodiment, the calculation of the position of the vanishing point F1 in the vanishing point position calculating step is executed when, for example, the camera 11 is attached to the vehicle and the operation of the inter-vehicle distance measuring system 1 is started. It is executed before executing the process in the step. That is, the vanishing point position calculating step is executed as a pre-process of the measuring distance calculating step for calculating the inter-vehicle distance L2 based on the measurement image obtained by imaging the preceding vehicle.
以下では消失点位置算出ステップにおける具体的な処理を説明する。
ステップS21では、まず、画像処理回路103は、ビデオアンプ101及びNTSCデコーダ102を介してカメラ11から参照画像を受付ける。その後、画像処理回路103は、処理後の映像信号を端末300に出力する。端末300は、画像処理回路103から出力される処理後の映像信号を受付けて図4に示すような参照画像を表示する。尚、図4は、参照画像の一例を示す模式図であり、点F、点P、点Q、及び図中に示す矢印は実際には端末300上に表示されない。参照画像の表示後、作業者の端末300への操作入力により特定される参照画像上における参照点Tの位置情報を受付けると、端末300は、当該位置情報を含む信号を画像処理回路103にマイクロコンピュータ104を介して出力する。この参照点Tの位置の指定は、例えば端末300が備えるタッチパネルに表示された参照画像上の1点を作業者がタップ操作で特定することにより行われる。例えば、カメラ11により撮像される範囲内の地面上に目印となる物体を設置しておき、当該物体上の任意の1点を参照画像上で特定することにより参照点Tとすることができる。その後、画像処理回路103は、端末300が出力した当該信号を受付ける。本実施形態に係る車間距離測定システム1の処理では、参照画像における参照点Tの水平方向の位置は処理結果に影響を及ぼさない。このため、画像処理回路103は、参照点Tとして位置情報を受付けた点から水平方向に延ばした直線と線分PQとの交点を参照点Tと見做して位置情報を処理する。即ち参照点Tは必ず線分PQ上に位置する。以上の処理により、ステップS21では、画像処理回路103は、参照点Tの位置が定められた参照画像を受付ける。
Hereinafter, specific processing in the vanishing point position calculating step will be described.
In step S <b> 21, first, the
ステップS22では、画像処理回路103は、カメラ11が取付けられた地上高Hの値が入力されたか否かを判定する。地上高Hの値は、作業者により端末300に入力される。判定の結果、地上高Hの値が入力されていないと判断した場合には、再度ステップS22の処理を繰り返す。一方、判定により、地上高Hの値が入力されたと判断した場合には、受付けた地上高Hの値をRAM106に保持して、ステップS23の処理を実行する。
In step S22, the
ステップS23では、画像処理回路103は、カメラ11の取付け点Oから参照点Tまでの水平方向の距離である参照距離L1(図3参照。)の値が入力されたか否かを判定する。参照距離L1の値は、作業者により端末300に入力される。判定の結果、参照距離L1値が入力されていないと判断した場合には、再度ステップS22の処理を繰り返す。一方、判定により、参照距離L1の値が入力されたと判断した場合には、受付けた参照距離L1の値をRAM106に保持して、ステップS24の処理を実行する。
In step S23, the
ステップS24では、画像処理回路103は、ステップS22で受付けた地上高Hの値とステップS23で受付けた参照距離L1との比に基づいて、消失点F1から参照点Tまでの地上高方向の画角α(∠F1OT)の値を算出する(図3参照。)。図3から分かるように、画角αの大きさは、参照点Tから点Oを視た場合の仰角の大きさと等しい。そこで、画像処理回路103は、以下の(数4)により画角αの値を算出する。
(数4)
α=arctan(H/L1)
In step S24, the
(Equation 4)
α = arctan (H / L1)
ステップS25では、画像処理回路103は、ステップS21で受付けた参照画像に基づいて、参照画像の上端に位置する点Pから参照点Tまでの間に地上高方向に存在する画素の数D1を算出する。より具体的には、画像処理回路103は、図4中の矢印E1により示される範囲に存在する画素の数を計数することにより、画素の数D1を算出する。
In step S25, the
ステップS26では、画像処理回路103は、ROM105に保持されているデータテーブル(図5参照。)を読み込む。図5に示すデータテーブルは、カメラ11により撮像された画像における各画素と画角との対応関係を情報として含む対応データとしてのデータテーブルである。図5において、最左列は光軸からの地上高方向の角度を示しており、カメラ11の画角を5°毎に区分している。中央の列は、当該区分に含まれる画素の数を示している。最右列は、当該区分における1画素あたりの画角を示している。このデータテーブルは、カメラ11が備えるレンズの特性(例えば、歪み。)にしたがって算出され、予めROM105に保持されている。
In step S <b> 26, the
ステップS27では、画像処理回路103は、ステップS25で算出した画素の数D1とステップS26で読み込んだデータテーブルとに基づいて、参照画像の上端に位置する点Pから参照点Tまでの地上高方向の画角βの値を算出する。より具体的には、例えば、データテーブルを参照して、点Pから点Qに向けて1画素毎に当該画素の1画素あたりの角度を加算して、画素の数がD1に達した時点での積算された角度を画角βとすればよい。
尚、本実施形態では、画素の数D1と画角βとの関係を近似した以下の(数5)の関係式により画角βを算出することとする。当該関係式は、図5に示したデータテーブルにしたがって求められる。本実施形態では、当該関係式が予めROM105に保持されており、画像における各画素と画角との対応データとしてデータテーブルの代わりにステップS26で読み出される。画素の数D1と画角βとの関係を直接規定した関係式を用いることにより、データテーブルを用いる場合と比較して演算時間及び画像処理回路103への負荷が削減される。
(数5)
β=0.0000001898*D13―0.000136*D12+0.191675*D1
In step S27, the
In the present embodiment, the angle of view β is calculated by the following relational expression (Equation 5) that approximates the relationship between the number D1 of pixels and the angle of view β. The relational expression is obtained according to the data table shown in FIG. In the present embodiment, the relational expression is held in the
(Equation 5)
β = 0.0000001898 * D1 3 -0.000136 * D1 2 + 0.191675 * D1
ステップS28では、画像処理回路103は、ステップS27で算出した画角データの値からステップS24で算出した画角αの値を減算することにより、参照画像の上端に位置する点Pから消失点F1までの地上高方向の画角γを算出する。即ち、画像処理回路103は、以下の(数6)により画角γの値を算出する。
(数6)
γ=β―α
In step S28, the
(Equation 6)
γ = β-α
ステップS29では、画像処理回路103は、ステップS28で算出した画角γの値とステップS26で読み込んだデータテーブルとに基づいて、参照画像の上端に位置する点Pから消失点F1までの間に地上高方向に存在する画素の数D2を算出する。即ち、図4中に矢印E2により示される範囲に存在する画素の数D2が算出される。より具体的には、例えば、データテーブルを参照して、点Pから点Qに向けて1画素毎に当該画素の1画素あたりの角度を加算して、積算された角度の値が画角γの値に達した時点での積算された画素の数をD2とすればよい。
尚、本実施形態では、画角γと画素の数D2との関係を近似した以下の(数7)の関係式により画素の数D2を算出することとする。当該関係式は、図5に示したデータテーブルにしたがって求められる。本実施形態では、当該関係式が予めROM105に保持されており、画像における各画素と画角との対応データとしてデータテーブルの代わりにステップS26で読み出される。画角γと画素の数D2との関係を直接規定した関係式を用いることにより、データテーブルを用いる場合と比較して演算時間及び画像処理回路103への負荷が削減される。
(数7)
D2=−0.000232*γ3+0.028332*γ2+5.1225*γ
In step S29, the
In the present embodiment, the number of pixels D2 is calculated by the following relational expression (Equation 7) that approximates the relationship between the angle of view γ and the number of pixels D2. The relational expression is obtained according to the data table shown in FIG. In the present embodiment, the relational expression is held in the
(Equation 7)
D2 = −0.000232 * γ 3 + 0.028332 * γ 2 + 5.1225 * γ
以上の処理により、参照画像の上端に位置する点Pから消失点F1までの間に地上高方向に存在する画素の数D2が算出される。つまり、参照画像における消失点F1の位置が算出される。画像処理回路103は、算出した画素の数D2の値をRAM106に保持して消失点位置算出ステップを終了する。
With the above processing, the number D2 of pixels existing in the high direction above the ground between the point P positioned at the upper end of the reference image and the vanishing point F1 is calculated. That is, the position of the vanishing point F1 in the reference image is calculated. The
(測定距離算出ステップ)
図6は、測定距離算出ステップにおける処理を示すフローチャートである。
概略的には、測定距離算出ステップでは、先行車両の後端を通る鉛直線と地面との交点である測定点Sを撮像した画像である測定画像に基づいて、カメラ11の取付け点Oから測定点Sまでの水平方向の距離として定義される車間距離L2が算出される(図7参照。)。測定距離算出ステップでは当該車間距離L2が測定距離として算出される。
(Measurement distance calculation step)
FIG. 6 is a flowchart showing processing in the measurement distance calculation step.
Schematically, in the measurement distance calculation step, measurement is performed from the attachment point O of the camera 11 based on a measurement image that is an image of the measurement point S that is the intersection of the vertical line passing through the rear end of the preceding vehicle and the ground. An inter-vehicle distance L2 defined as a horizontal distance to the point S is calculated (see FIG. 7). In the measurement distance calculation step, the inter-vehicle distance L2 is calculated as the measurement distance.
測定距離算出ステップの処理は、測定距離算出ステップにおけるカメラ11のピッチ方向の取付け角度と、消失点位置算出ステップにおけるカメラ11のピッチ方向の取付け角度と、が同一である状態で実行される。例えば、前処理を実行する消失点位置算出ステップと測定距離を算出する測定距離算出ステップとの間にカメラ11の取付け角度が変更されなかった場合には、当該状態となる。このとき、測定画像における消失点F2の位置は、参照画像における消失点F1の位置と同一である。したがって、測定画像の上端に位置する点Pから消失点F2までの間に地上高方向に存在する画素の数は、上記消失点位置算出ステップで算出した画素の数D2の値と等しい。 The process of the measurement distance calculation step is executed in a state where the attachment angle in the pitch direction of the camera 11 in the measurement distance calculation step and the attachment angle in the pitch direction of the camera 11 in the vanishing point position calculation step are the same. For example, when the attachment angle of the camera 11 is not changed between the vanishing point position calculating step for executing the preprocessing and the measuring distance calculating step for calculating the measurement distance, this state is set. At this time, the position of the vanishing point F2 in the measurement image is the same as the position of the vanishing point F1 in the reference image. Therefore, the number of pixels existing in the height direction from the point P located at the upper end of the measurement image to the vanishing point F2 is equal to the value of the number of pixels D2 calculated in the vanishing point position calculating step.
以下では測定距離算出ステップにおける具体的な処理を説明する。
ステップS31では、画像処理回路103は、ビデオアンプ101及びNTSCデコーダ102を介してカメラ11から測定画像を受付ける。
Hereinafter, specific processing in the measurement distance calculation step will be described.
In step S <b> 31, the
ステップS32では、画像処理回路103は、ステップS22においてRAM106に保持した地上高Hの値を読み込む。
In step S32, the
ステップS33では、画像処理回路103は、消失点F2から測定点までの間に地上高方向に存在する画素の数D4を算出する。尚、本実施形態では、画像処理回路103は、公知の画像認識の手法により画像上における消失点F2の位置を特定する。
In step S33, the
ステップS33aでは、画像処理回路103は、測定画像に基づいて、測定画像の上端に位置する点Pから測定点Sまでの間に地上高方向に存在する画素の数D3を算出する。より具体的には、画像処理回路103は、図8中の矢印E3により示される範囲に存在する画素の数を計数することにより、画素の数D3を算出する。
In step S33a, the
ステップS33bでは、画像処理回路103は、消失点位置算出ステップにおいてRAM106に保持した画素の数D2の値を読み込む。
In step S33b, the
ステップS33cでは、ステップS33aで算出した画素の数D3の値からステップS33bで読み込んだ画素の数D2の値を減算することにより、消失点F2から測定点Sまでの間に地上高方向に存在する画素の数D4を求める。即ち、画像処理回路103は、(数8)により画素の数D4の値を算出する。
(数8)
D4=D3―D2
In step S33c, the value of the number of pixels D2 read in step S33b is subtracted from the value of the number of pixels D3 calculated in step S33a, thereby existing in the high direction from the vanishing point F2 to the measurement point S. The number D4 of pixels is obtained. That is, the
(Equation 8)
D4 = D3-D2
ステップS34では、画像処理回路103は、ROM105に保持されているデータテーブルを読み込む。
In step S <b> 34, the
ステップS35では、ステップS33cで算出した画素の数D4の値とステップS34で読み込んだデータテーブルとに基づいて、消失点F2から測定点Sまでの地上高方向の画角θの値を算出する。より具体的には、例えば、データテーブルを参照して、消失点F2から点Qに向けて1画素毎に当該画素の1画素あたりの角度を加算して、画素の数がD4に達した時点での積算された角度を画角θとすればよい。また、上記ステップS27及びステップS29と同様に、画素の数D4と画角θとの関係を近似した関係式により画角θを算出してもよい。尚、本実施形態では、ステップS27における式(5)に基づいて画素の数D3に相当する画角の値を算出し、算出した値から画素の数D2に相当する画角γの値を減算することにより、画角θを算出する。 In step S35, the value of the angle of view θ in the height direction from the vanishing point F2 to the measurement point S is calculated based on the value of the number of pixels D4 calculated in step S33c and the data table read in step S34. More specifically, for example, referring to the data table, the angle per pixel of the pixel is added for each pixel from the vanishing point F2 to the point Q, and the number of pixels reaches D4. The angle accumulated at the angle may be set as the angle of view θ. Similarly to step S27 and step S29, the angle of view θ may be calculated by a relational expression that approximates the relationship between the number of pixels D4 and the angle of view θ. In the present embodiment, the field angle value corresponding to the pixel number D3 is calculated based on the equation (5) in step S27, and the field angle γ value corresponding to the pixel number D2 is subtracted from the calculated value. As a result, the angle of view θ is calculated.
ステップS36では、画像処理回路103は、ステップS32で受付けた地上高Hの値とステップS35で算出した画角θの値とに基づいて、測定距離である車間距離L2の値を算出する。図7から分かるように、画角θの大きさは、測定点Sから点Oを視た場合の仰角の大きさと等しい。そこで、画像処理回路103は、以下の(数10)により車間距離L2の値を算出する。
(数10)
L2=H/tan(θ)
In step S36, the
(Equation 10)
L2 = H / tan (θ)
以上の処理により、車間距離L2の値が算出される。画像処理回路103は、ステップS36で算出した車間距離L2の値をマイクロコンピュータ104及び通信処理部203を介してデータ処理部202に出力して測定距離算出ステップを終了する。
With the above process, the value of the inter-vehicle distance L2 is calculated. The
ドライブレコーダ200のデータ処理部202は、受付けた車間距離L2の値を運行情報として利用し、ドライブレコーダとしての機能を実現するための処理を実行する。
The
以下では、本発明の実施形態に係る消失点位置算出方法、及び測距方法を用いた車間距離測定システム1の作用及び効果について説明する。 Below, the effect | action and effect of the vanishing point position calculation method which concerns on embodiment of this invention, and the inter-vehicle distance measurement system 1 using the ranging method are demonstrated.
本実施形態に係る車間距離測定システム1が用いる消失点位置算出方法は、カメラ11が取付けられた地上高Hの値、カメラ11により地面上の任意の1点である参照点Tを撮像した参照画像、及びカメラ11が取付けられた位置である点Oから参照点Tまでの水平方向の距離である参照距離L1の値を取得するステップS21〜ステップS23と、地上高Hの値と参照距離L1との比に基づいて、参照画像中に定められる消失点F1から参照点Tまでの地上高方向の画角αの値を算出するステップS24と、参照画像の上端に位置する点Pから参照画像中の参照点Tまでの間に地上高方向に存在する画素の数D1と、カメラ11により撮像された画像における各画素と画角との対応データであるデータテーブルと、に基づいて、参照画像の上端に位置する点Pから参照点Tまでの地上高方向の画角βの値を算出するステップS25〜ステップS27と、画角βの値から画角αの値を減算することにより参照画像の上端に位置する点Pから消失点F1までの地上高方向の画角γの値を算出し、画角γの値と、対応データと、に基づいて、参照画像の上端に位置する点Pから参照画像中の消失点F1までの間に地上高方向に存在する画素の数D2を算出するステップS28及びステップS29と、を含む、参照画像における消失点F1の位置を算出する消失点位置算出ステップを備える。
これにより、カメラ11が取付けられた地上高Hの値と、カメラ11により参照点Tを撮像した参照画像と、カメラ11が取付けられた位置である点Oから参照点Tまでの水平方向の距離である参照距離L1の値と、カメラ11により撮像された画像における各画素と画角との対応データと、に基づいて、参照画像における消失点F1の位置が算出される。
この結果、本実施形態に係る車間距離測定システム1が用いる消失点位置算出方法では、作業者は、従来の車間距離測定方法のように、カメラの取付け点から画像の下端に位置する点までの予め定められた距離を測定する必要がなく、その代わりにカメラ11により撮像されて参照画像上に現れる点の中から任意に選択可能な参照点Tまでの距離を測定しさえすればよい。このため、本実施形態に係る車間距離測定システム1が用いる消失点位置算出方法は、従来の車間距離測定方法よりも測定条件が緩やかである。したがって、本実施形態に係る車間距離測定システム1が用いる消失点位置算出方法によれば、作業者の負担を軽減可能な消失点位置算出方法を提供できる。
The vanishing point position calculation method used by the inter-vehicle distance measurement system 1 according to the present embodiment is a reference obtained by imaging the value of the ground height H to which the camera 11 is attached and the reference point T that is an arbitrary point on the ground by the camera 11. Steps S21 to S23 for obtaining the image and the value of the reference distance L1 which is the horizontal distance from the point O where the camera 11 is attached to the reference point T, and the value of the ground height H and the reference distance L1. And the step S24 for calculating the value of the angle of view α in the height direction from the vanishing point F1 to the reference point T determined in the reference image, and the reference image from the point P positioned at the upper end of the reference image. A reference image based on the number D1 of pixels existing in the height direction above the reference point T in the middle and a data table that is correspondence data between each pixel and the angle of view in the image captured by the camera 11 of Steps S25 to S27 for calculating the value of the angle of view β in the height direction from the point P positioned at the end to the reference point T, and subtracting the value of the angle of view α from the value of the angle of view β. The value of the angle of view γ in the height direction from the point P located at the upper end to the vanishing point F1 is calculated, and based on the value of the angle of view γ and the corresponding data, from the point P located at the upper end of the reference image A vanishing point position calculating step for calculating the position of the vanishing point F1 in the reference image, including steps S28 and S29 for calculating the number D2 of pixels existing in the height direction above the vanishing point F1 in the reference image. Is provided.
Accordingly, the value of the ground height H to which the camera 11 is attached, the reference image obtained by capturing the reference point T by the camera 11, and the horizontal distance from the point O where the camera 11 is attached to the reference point T. The position of the vanishing point F1 in the reference image is calculated on the basis of the value of the reference distance L1 and the correspondence data between each pixel and the angle of view in the image captured by the camera 11.
As a result, in the vanishing point position calculation method used by the inter-vehicle distance measurement system 1 according to the present embodiment, the operator can move from the camera attachment point to the point positioned at the lower end of the image as in the conventional inter-vehicle distance measurement method. There is no need to measure a predetermined distance. Instead, it is only necessary to measure a distance from a point captured by the camera 11 and appearing on the reference image to an arbitrarily selectable reference point T. For this reason, the vanishing point position calculation method used by the inter-vehicle distance measurement system 1 according to the present embodiment has milder measurement conditions than the conventional inter-vehicle distance measurement method. Therefore, according to the vanishing point position calculation method used by the inter-vehicle distance measurement system 1 according to the present embodiment, a vanishing point position calculation method that can reduce the burden on the operator can be provided.
また、本実施形態に係る車間距離測定システム1が用いる測距方法は、上記消失点位置算出方法に備わる消失点位置算出ステップと、測定距離算出ステップと、を備える測距方法であって、測定距離算出ステップは、地上高Hの値、及びカメラ11により地面上の任意の1点である測定点Sを撮像した測定画像を取得するステップS31及びステップS32と、測定画像中に定められ、測定画像における位置が参照画像における消失点F1の位置と同一である消失点F2から測定画像中の測定点Sまでの間に地上高方向に存在する画素の数D3と、対応データであるデータテーブルと、に基づいて、消失点F2から測定点Sまでの地上高方向の画角θの値を算出し、画角θの値と地上高Hの値とに基づいて、カメラ11が取付けられた位置である点Oから測定点Sまでの水平方向の距離である車間距離L2の値を測定距離の値として算出するステップS33〜S36と、を含む。
これにより、カメラ11が取付けられた地上高Hの値と、カメラ11により参照点Tを撮像した参照画像と、カメラ11が取付けられた位置である点Oから参照点Tまでの水平方向の距離である参照距離L1の値と、カメラ11により撮像された画像における各画素と画角との対応データであるデータテーブルと、カメラ11により測定点Sを撮像した測定画像と、に基づいて、測定距離である車間距離L2の値が算出される。
この結果、本実施形態に係る車間距離測定システム1が用いる測距方法では、作業者は、従来の車間距離測定方法のように、カメラの取付け点から画像の下端に位置する点までの予め定められた距離を測定する必要がなく、その代わりにカメラ11により撮像されて参照画像上に現れる点の中から任意に選択可能な参照点Tまでの距離を測定しさえすればよい。このため、本実施形態に係る車間距離測定システム1が用いる測距方法は、従来の車間距離測定方法よりも測定条件が緩やかである。したがって、本実施形態に係る車間距離測定システム1が用いる測距方法によれば、作業者の負担を軽減可能な消失点位置算出方法を提供できる。
また、本実施形態に係る車間距離測定システム1が用いる測距方法では、従来の車間距離測定方法のように、画像上における長さの比が当該長さに相当する画角の比と等しいと見做して車間距離の値を算出するのではなく、画像上における各画素と画角との関係に基づいて車間距離の値を算出する。このため、本実施形態に係る車間距離測定システム1が用いる測距方法によれば、従来の車間距離測定方法よりも精度良く車間距離の値を算出できる。
Further, the distance measuring method used by the inter-vehicle distance measuring system 1 according to the present embodiment is a distance measuring method including a vanishing point position calculating step and a measurement distance calculating step provided in the vanishing point position calculating method. The distance calculation step is defined in the measurement image, step S31 and step S32 in which the measurement image obtained by capturing the value of the ground height H and the measurement point S which is an arbitrary point on the ground by the camera 11 is determined in the measurement image. The number D3 of pixels existing in the height direction above the ground from the vanishing point F2 whose position in the image is the same as the position of the vanishing point F1 in the reference image to the measuring point S in the measurement image, and a data table as corresponding data , The value of the angle of view θ in the ground height direction from the vanishing point F2 to the measurement point S is calculated, and the position where the camera 11 is attached is calculated based on the value of the angle of view θ and the value of the ground height H. In Steps S33 to S36 for calculating the value of the inter-vehicle distance L2, which is the horizontal distance from the point O to the measurement point S, as the value of the measurement distance.
Accordingly, the value of the ground height H to which the camera 11 is attached, the reference image obtained by capturing the reference point T by the camera 11, and the horizontal distance from the point O where the camera 11 is attached to the reference point T. Based on the value of the reference distance L1, which is a data table corresponding to each pixel and the angle of view in the image captured by the camera 11, and the measurement image obtained by capturing the measurement point S by the camera 11. A value of the inter-vehicle distance L2, which is a distance, is calculated.
As a result, in the distance measuring method used by the inter-vehicle distance measuring system 1 according to the present embodiment, the operator determines in advance from the camera attachment point to a point positioned at the lower end of the image as in the conventional inter-vehicle distance measuring method. It is not necessary to measure the measured distance, but instead, it is only necessary to measure the distance from the point captured by the camera 11 and appearing on the reference image to the arbitrarily selectable reference point T. For this reason, the distance measurement method used by the inter-vehicle distance measurement system 1 according to the present embodiment has milder measurement conditions than the conventional inter-vehicle distance measurement method. Therefore, according to the distance measuring method used by the inter-vehicle distance measuring system 1 according to the present embodiment, it is possible to provide a vanishing point position calculating method that can reduce the burden on the operator.
Further, in the distance measuring method used by the inter-vehicle distance measuring system 1 according to the present embodiment, the ratio of the length on the image is equal to the ratio of the angle of view corresponding to the length as in the conventional inter-vehicle distance measuring method. Rather than calculating the value of the inter-vehicle distance, the value of the inter-vehicle distance is calculated based on the relationship between each pixel on the image and the angle of view. For this reason, according to the distance measuring method used by the inter-vehicle distance measuring system 1 according to the present embodiment, the value of the inter-vehicle distance can be calculated with higher accuracy than the conventional inter-vehicle distance measuring method.
また、本実施形態に係る車間距離測定システム1が用いる測距方法は、カメラ11が取付けられた地上高Hの値、及びカメラ11により地面上の任意の1点である測定点Sを撮像した測定画像を取得するステップS31及びステップS32と、測定画像中に定められる消失点F2から測定画像中の測定点Sまでの間に地上高方向に存在する画素の数D3と、カメラ11により撮像された画像における各画素と画角との対応データであるデータテーブルと、に基づいて、消失点F2から測定点Sまでの地上高方向の画角θの値を算出し、画角θの値と地上高Hの値とに基づいて、カメラ11が取付けられた位置である点Oから測定点Sまでの水平方向の距離である車間距離L2の値を測定距離の値として算出するステップS33〜ステップS36と、を含む。
これにより、カメラ11が取付けられた地上高の値と、カメラ11により測定点Sを撮像した測定画像と、カメラ11により撮像された画像における各画素と画角との対応データであるデータテーブルと、に基づいて、測定距離である車間距離L2の値が算出される。
この結果、本実施形態に係る車間距離測定システム1が用いる測距方法では、従来の車間距離測定方法のように、画像上における長さの比が当該長さに相当する画角の比と等しいと見做して車間距離の値を算出するのではなく、画像上における各画素と画角との関係に基づいて車間距離の値を算出する。このため、本実施形態に係る車間距離測定システム1が用いる測距方法によれば、従来の車間距離測定方法よりも精度良く車間距離の値を算出できる。
In addition, the distance measuring method used by the inter-vehicle distance measuring system 1 according to the present embodiment images the value of the ground height H to which the camera 11 is attached and the measuring point S that is an arbitrary point on the ground by the camera 11. Steps S31 and S32 for acquiring the measurement image, the number D3 of pixels existing in the height direction from the vanishing point F2 determined in the measurement image to the measurement point S in the measurement image, and the camera 11 capture the image. On the basis of the data table that is the correspondence data between each pixel and the angle of view in the obtained image, the value of the angle of view θ in the height direction from the vanishing point F2 to the measurement point S is calculated. Steps S33 to S33, in which the value of the inter-vehicle distance L2, which is the distance in the horizontal direction from the point O where the camera 11 is mounted to the measurement point S, is calculated as the value of the measurement distance based on the value of the ground height H. S36 And including.
Thereby, the value of the ground height to which the camera 11 is attached, the measurement image obtained by imaging the measurement point S by the camera 11, and the data table that is the correspondence data between each pixel and the angle of view in the image taken by the camera 11 , The value of the inter-vehicle distance L2, which is the measurement distance, is calculated.
As a result, in the distance measuring method used by the inter-vehicle distance measuring system 1 according to the present embodiment, the ratio of the length on the image is equal to the ratio of the angle of view corresponding to the length as in the conventional inter-vehicle distance measuring method. Therefore, the value of the inter-vehicle distance is calculated based on the relationship between each pixel on the image and the angle of view. For this reason, according to the distance measuring method used by the inter-vehicle distance measuring system 1 according to the present embodiment, the value of the inter-vehicle distance can be calculated with higher accuracy than the conventional inter-vehicle distance measuring method.
尚、本発明の技術的範囲は、上述した実施形態に限定されるものではない。上述した実施形態は、本発明の技術的範囲内で種々の変形や改良等を伴うことができる。 The technical scope of the present invention is not limited to the embodiment described above. The above-described embodiments can be accompanied by various modifications and improvements within the technical scope of the present invention.
例えば、本発明の実施形態に係る消失点位置算出方法、及び測距方法を用いた車間距離測定システム1は、カメラ11の取付け点Oから先行車両までの車間距離L2の値を算出するためのシステムであったが、本発明に係る消失点位置算出方法、及び測距方法は、撮像手段の取付け位置から該撮像手段により撮像される画像上に現れる任意の点までの距離を測定するために用いることができる。即ち、先行車両までの距離を測定する場合だけではなく、任意の測定対象までの距離を測定する場合に適用可能である。 For example, the vanishing point position calculating method and the inter-vehicle distance measuring system 1 using the distance measuring method according to the embodiment of the present invention calculate the value of the inter-vehicle distance L2 from the attachment point O of the camera 11 to the preceding vehicle. Although the system is a vanishing point position calculation method and distance measurement method according to the present invention, the distance from the attachment position of the imaging means to an arbitrary point appearing on the image captured by the imaging means is measured. Can be used. That is, it is applicable not only when measuring the distance to the preceding vehicle but also when measuring the distance to an arbitrary measurement target.
また、本発明の実施形態に係る消失点位置算出方法、及び測距方法を用いた車間距離測定システム1では、消失点位置算出ステップによる消失点F1の位置の算出は、カメラ11を車両に取付けて車間距離測定システム1の運用を開始する際に実行されたが、消失点位置算出ステップは、測定距離算出ステップにおける処理を実行する前に実行されさえすればよく、車間距離測定システム1の運用開始後に実行されてもよい。 In the inter-vehicle distance measuring system 1 using the vanishing point position calculating method and the distance measuring method according to the embodiment of the present invention, the calculation of the position of the vanishing point F1 in the vanishing point position calculating step is performed by attaching the camera 11 to the vehicle. The vanishing point position calculation step only needs to be executed before the processing in the measurement distance calculation step is performed, and the operation of the inter-vehicle distance measurement system 1 is performed. It may be executed after the start.
また、本発明の実施形態に係る消失点位置算出方法、及び測距方法を用いた車間距離測定システム1では、消失点位置算出ステップにより画像における消失点F1,F2の位置を算出した後で、測定距離算出ステップにより測定距離である車間距離L2を算出する構成としたが、画像における消失点の位置が予め分かっている場合には、消失点位置算出ステップの処理を省略して測定距離算出ステップのみにより測定距離を算出することができる。この場合には、ステップS33bでは、画像処理回路103は、消失点位置算出ステップにおいてRAM106に保持した画素の数D2の値を読み込む替わりに予めROM106に保持されている画素の数D2の値を読み込む構成とすればよい。消失点位置算出方法としては、種々の公知の手法を用いることができる。
Further, in the inter-vehicle distance measurement system 1 using the vanishing point position calculating method and the distance measuring method according to the embodiment of the present invention, after calculating the positions of the vanishing points F1, F2 in the image by the vanishing point position calculating step, The inter-vehicle distance L2 that is the measurement distance is calculated by the measurement distance calculation step. However, when the position of the vanishing point in the image is known in advance, the process of the vanishing point position calculation step is omitted and the measurement distance calculation step The measurement distance can be calculated only by this. In this case, in step S33b, the
また、図2に示した消失点位置算出ステップにおける処理及び図6に示した測定距離算出ステップにおける処理の順序は例示であり、処理の順序はこれに限定されないことは言うまでもない。例えば、消失点位置算出ステップにおけるステップS21〜ステップS23の順序は交換可能であり、ステップS24〜ステップS26の順序も交換可能である。また、測定距離算出ステップにおけるステップS31とステップS32の順序は交換可能であり、ステップS33aとステップS33bの順序は交換可能であり、ステップS33とステップS34の順序は交換可能である。 Further, the processing order in the vanishing point position calculation step shown in FIG. 2 and the processing order in the measurement distance calculation step shown in FIG. 6 are examples, and it goes without saying that the processing order is not limited to this. For example, the order of steps S21 to S23 in the vanishing point position calculating step can be exchanged, and the order of steps S24 to S26 can also be exchanged. In addition, the order of step S31 and step S32 in the measurement distance calculation step can be exchanged, the order of step S33a and step S33b can be exchanged, and the order of step S33 and step S34 can be exchanged.
1 車間距離測定システム
11 カメラ
100 画像認識ユニット
101 ビデオアンプ
102 NTSCデコーダ
103 画像処理回路
104 マイクロコンピュータ
105 ROM
106 RAM
107 電源回路
200 ドライブレコーダ
201 メインデコーダ
202 データ処理部
203 通信処理部
204 ROM
205 RAM
206 車両信号インタフェース
300 端末
1 Vehicle Distance Measurement
106 RAM
107
205 RAM
206
Claims (2)
前記撮像手段が取付けられた地上高の値、及び前記撮像手段が取付けられた位置から前記参照点までの水平方向の距離である参照距離の値を取得するステップと、
前記地上高の値と前記参照距離との比に基づいて、前記参照画像中に定められる消失点F1から前記参照点までの地上高方向の画角αの値を算出するステップと、
前記参照画像の上端から、前記取得された参照点の位置情報に基づいて特定される前記参照画像中の前記参照点までの間に地上高方向に存在する画素の数D1と、前記撮像手段により撮像された画像における各画素と画角との対応データと、に基づいて、前記参照画像の上端から前記参照点までの地上高方向の画角βの値を算出するステップと、
前記画角βの値から前記画角αの値を減算することにより前記参照画像の上端から前記消失点F1までの地上高方向の画角γの値を算出し、前記画角γの値と、前記対応データと、に基づいて、前記参照画像の上端から前記参照画像中の前記消失点F1までの間に地上高方向に存在する画素の数D2を算出するステップと、
を含む、前記参照画像における前記消失点F1の位置を算出する消失点位置算出ステップを備え、
前記対応データとして、前記撮像手段の光軸からの地上高方向の角度とその角度における1画素あたりの画角との予め取得された第1対応関係に基づいて得られる、前記撮像手段により撮像された画像の上下方向における各画素とその画素における1画素あたりの画角との第2対応関係、を利用することを特徴とする消失点位置算出方法。 Obtain a reference image obtained by photographing the reference point is any point on the ground by an imaging means, the reference on the reference image by the position of the reference point on the reference image is specified by the tap operation Obtaining point location information;
Obtaining a value of the reference distance is a horizontal distance of the imaging means ground clearance of values attached, from a position attached 及 beauty said imaging means to said reference point,
Calculating a value of the angle of view α in the ground height direction from the vanishing point F1 defined in the reference image to the reference point based on a ratio between the ground height value and the reference distance;
The number D1 of pixels existing in the ground high direction from the upper end of the reference image to the reference point in the reference image specified based on the acquired position information of the reference point, and the imaging means Calculating the value of the angle of view β in the ground high direction from the upper end of the reference image to the reference point based on correspondence data between each pixel and the angle of view in the captured image;
By subtracting the value of the angle of view α from the value of the angle of view β, the value of the angle of view γ in the ground high direction from the upper end of the reference image to the vanishing point F1 is calculated, and the value of the angle of view γ Calculating the number D2 of pixels existing in the ground high direction between the upper end of the reference image and the vanishing point F1 in the reference image based on the correspondence data;
A vanishing point position calculating step for calculating a position of the vanishing point F1 in the reference image,
The correspondence data is imaged by the imaging means obtained based on a first correspondence relationship acquired in advance between an angle in the height direction from the optical axis of the imaging means and the angle of view per pixel at that angle. A vanishing point position calculation method using a second correspondence relationship between each pixel in the vertical direction of an image and a field angle per pixel in the pixel.
測定距離算出ステップと、
を備える測距方法であって、
前記測定距離算出ステップは、
前記地上高の値、及び前記撮像手段により地面上の任意の1点である測定点を撮像した測定画像を取得するステップと、
前記測定画像の上端から前記測定画像中の前記測定点までの間に地上高方向に存在する画素の数D3から、前記消失点位置算出ステップにて算出された前記参照画像の上端から前記参照画像中の前記消失点F1までの間に地上高方向に存在する画素の数D2を減算することによって得られる、前記測定画像中に定められ、前記測定画像における位置が前記参照画像における前記消失点F1の位置と同一である消失点F2から前記測定画像中の前記測定点までの間に地上高方向に存在する画素の数D4と、前記対応データとしての前記第2対応関係と、に基づいて、前記消失点F2から前記測定点までの地上高方向の画角θの値を算出し、前記画角θの値と前記地上高の値とに基づいて、前記撮像手段が取付けられた位置から前記測定点までの水平方向の距離である測定距離L2の値を算出するステップと、
を含むことを特徴とする測距方法。 The vanishing point position calculating step provided in the vanishing point position calculating method according to claim 1;
A measurement distance calculation step;
A distance measuring method comprising:
The measurement distance calculating step includes:
Obtaining a measurement image obtained by imaging a value of the ground height and a measurement point which is an arbitrary point on the ground by the imaging means;
The reference image from the upper end of the reference image calculated in the vanishing point position calculation step is calculated from the number D3 of pixels existing in the height direction from the upper end of the measurement image to the measurement point in the measurement image. Is determined in the measurement image obtained by subtracting the number D2 of pixels existing in the height direction above the vanishing point F1, and the position in the measurement image is the vanishing point F1 in the reference image. On the basis of the number D4 of pixels existing in the height direction above the ground from the vanishing point F2 that is the same as the position to the measurement point in the measurement image, and the second correspondence relationship as the correspondence data, The value of the angle of view θ in the ground height direction from the vanishing point F2 to the measurement point is calculated, and based on the value of the angle of view θ and the value of the ground height, the position from which the imaging unit is attached is calculated. Water to measuring point Calculating a value of the measurement distance L2, which is a distance in the flat direction;
Ranging method characterized by including.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2012087878A JP6322356B2 (en) | 2012-04-06 | 2012-04-06 | Vanishing point position calculation method and distance measurement method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2012087878A JP6322356B2 (en) | 2012-04-06 | 2012-04-06 | Vanishing point position calculation method and distance measurement method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2013217745A JP2013217745A (en) | 2013-10-24 |
| JP6322356B2 true JP6322356B2 (en) | 2018-05-09 |
Family
ID=49590011
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2012087878A Active JP6322356B2 (en) | 2012-04-06 | 2012-04-06 | Vanishing point position calculation method and distance measurement method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6322356B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112995514B (en) * | 2021-03-03 | 2023-05-30 | 上海万物新生环保科技集团有限公司 | Method and equipment for acquiring photo object distance of industrial camera |
| JP7718667B2 (en) * | 2022-01-31 | 2025-08-05 | 本田技研工業株式会社 | Image processing device, image processing method, and program |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3201902B2 (en) * | 1994-03-11 | 2001-08-27 | 防衛庁技術研究本部長 | Target angle measuring device |
| JP4698858B2 (en) * | 2000-07-18 | 2011-06-08 | 本田技研工業株式会社 | Vehicle lane marking detector |
| JP3718747B2 (en) * | 2001-04-27 | 2005-11-24 | 日産自動車株式会社 | Vehicle travel control device |
| JP4353141B2 (en) * | 2005-05-27 | 2009-10-28 | 株式会社デンソー | Infinity point determination device |
| WO2011154987A1 (en) * | 2010-06-07 | 2011-12-15 | 三菱電機株式会社 | Camera distance measurement device |
-
2012
- 2012-04-06 JP JP2012087878A patent/JP6322356B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2013217745A (en) | 2013-10-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6025365B2 (en) | Calibration processing apparatus, camera calibration apparatus, camera system, and camera calibration method | |
| JP6101288B2 (en) | Thermal imaging apparatus and thermal image standard imaging method | |
| KR102338576B1 (en) | Electronic device which stores depth information associating with image in accordance with Property of depth information acquired using image and the controlling method thereof | |
| JP5615441B2 (en) | Image processing apparatus and image processing method | |
| JP5341789B2 (en) | Parameter acquisition apparatus, parameter acquisition system, parameter acquisition method, and program | |
| US20100103264A1 (en) | Vehicle-surroundings displaying method and system | |
| CN103063314A (en) | Thermal imaging device and thermal imaging shooting method | |
| US8558942B2 (en) | Focusing measurement device, focusing measurement method, and program | |
| CN101149260A (en) | measuring device | |
| JP6529360B2 (en) | Image processing apparatus, imaging apparatus, image processing method and program | |
| CN103090976B (en) | IR image display device, thermal image display system and IR image display method | |
| US20250330707A1 (en) | Imaging apparatus, information processing method, and program | |
| JP6322356B2 (en) | Vanishing point position calculation method and distance measurement method | |
| JP5939904B2 (en) | Tracking adjustment device, tracking adjustment method and program | |
| JP2013141120A (en) | Image display device | |
| JP5003406B2 (en) | Focus measurement device, focus measurement method and program | |
| JP2005210392A (en) | Imaging device | |
| US20060178561A1 (en) | Endoscope apparatus | |
| US20230300474A1 (en) | Image processing apparatus, image processing method, and storage medium | |
| CN118570773A (en) | Line of sight acquisition method, system, electronic device and readable storage medium | |
| JP5230558B2 (en) | Document presentation device | |
| JP5047915B2 (en) | In-vehicle image processing apparatus and image processing method thereof | |
| JP4992747B2 (en) | Parking assistance device and parking assistance method | |
| JP2008311691A (en) | Optical axis adjusting apparatus and method, and program | |
| JP2009098436A (en) | Focus measurement device, focus measurement method and program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20150123 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150320 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160229 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160301 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160411 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160823 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20161011 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20170228 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170424 |
|
| A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20170501 |
|
| A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20170623 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180409 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6322356 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |