Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7796745B2 - 作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法 - Google Patents
[go: Go Back, main page]

JP7796745B2 - 作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法 - Google Patents

作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法

Info

Publication number
JP7796745B2
JP7796745B2 JP2023531366A JP2023531366A JP7796745B2 JP 7796745 B2 JP7796745 B2 JP 7796745B2 JP 2023531366 A JP2023531366 A JP 2023531366A JP 2023531366 A JP2023531366 A JP 2023531366A JP 7796745 B2 JP7796745 B2 JP 7796745B2
Authority
JP
Japan
Prior art keywords
crop row
image
agricultural machine
crop
detection system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023531366A
Other languages
English (en)
Other versions
JPWO2023276226A1 (ja
Inventor
隼輔 宮下
透 反甫
充朗 長尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kubota Corp
Original Assignee
Kubota Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kubota Corp filed Critical Kubota Corp
Publication of JPWO2023276226A1 publication Critical patent/JPWO2023276226A1/ja
Priority to JP2025095775A priority Critical patent/JP2025131781A/ja
Application granted granted Critical
Publication of JP7796745B2 publication Critical patent/JP7796745B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01BSOIL WORKING IN AGRICULTURE OR FORESTRY; PARTS, DETAILS, OR ACCESSORIES OF AGRICULTURAL MACHINES OR IMPLEMENTS, IN GENERAL
    • A01B69/00Steering of agricultural machines or implements; Guiding agricultural machines or implements on a desired track
    • A01B69/001Steering by means of optical assistance, e.g. television cameras
    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01BSOIL WORKING IN AGRICULTURE OR FORESTRY; PARTS, DETAILS, OR ACCESSORIES OF AGRICULTURAL MACHINES OR IMPLEMENTS, IN GENERAL
    • A01B69/00Steering of agricultural machines or implements; Guiding agricultural machines or implements on a desired track
    • A01B69/007Steering or guiding of agricultural vehicles, e.g. steering of the tractor to keep the plough in the furrow
    • A01B69/008Steering or guiding of agricultural vehicles, e.g. steering of the tractor to keep the plough in the furrow automatic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/025Active steering aids, e.g. helping the driver by actively influencing the steering system after environment evaluation
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/20Control system inputs
    • G05D1/24Arrangements for determining position or orientation
    • G05D1/243Means capturing signals occurring naturally from the environment, e.g. ambient optical, acoustic, gravitational or magnetic signals
    • G05D1/2435Extracting 3D information
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/60Intended control result
    • G05D1/646Following a predefined trajectory, e.g. a line marked on the floor or a flight path
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D2101/00Details of software or hardware architectures used for the control of position
    • G05D2101/20Details of software or hardware architectures used for the control of position using external object recognition
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D2105/00Specific applications of the controlled vehicles
    • G05D2105/15Specific applications of the controlled vehicles for harvesting, sowing or mowing in agriculture or forestry
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D2107/00Specific environments of the controlled vehicles
    • G05D2107/20Land use
    • G05D2107/21Farming, e.g. fields, pastures or barns
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D2109/00Types of controlled vehicles
    • G05D2109/10Land vehicles
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D2111/00Details of signals used for control of position, course, altitude or attitude of land, water, air or space vehicles
    • G05D2111/10Optical signals
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20072Graph-based image processing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30188Vegetation; Agriculture
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Environmental Sciences (AREA)
  • Soil Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Guiding Agricultural Machines (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本開示は、作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法に関する。
圃場で使用されるトラクタなどの作業車両の自動化に向けた研究開発が進められている。例えば、精密な測位が可能なGNSS(Global Navigation Satellite System)などの測位システムを利用して自動操舵で走行する作業車両が実用化されている。自動操舵に加えて速度制御を自動で行う作業車両も実用化されている。
また、圃場における作物の列(作物列)または畝をカメラなどの撮像装置を用いて検出し、検出した作物列または畝に沿って作業車両の走行を制御するビジョン・ガイダンスシステムが開発されつつある。
特許文献1は、列状に形成された畝に作物が植えられた耕作地を畝に沿って走行する作業機を開示している。特許文献1は、車載カメラで耕作地を斜め上方から撮影して取得した原画像を二値化処理した後、平面射影変換画像を生成することを記載している。特許文献1が開示する技術では、平面射影変換画像を回転させることにより、向きが異なる多数の回転画像を生成し、畝と畝との間の作業通路を検出する。
特開2016-208871号公報
撮像装置を用いて作物列または畝を検出する技術では、日照条件などの外乱要因によって検出の精度が低下する場合がある。
本開示は、このような課題を解決することが可能な作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法を提供する。
本開示による作物列検出システムは、例示的で非限定的な実施形態において、農業機械に取り付けられ、前記農業機械が走行する地面を撮影して前記地面の少なくとも一部を含む時系列カラー画像を取得する撮像装置と、前記時系列カラー画像の画像処理を行う処理装置とを備える。前記処理装置は、前記時系列カラー画像から、検出対象である作物列の色を強調した強調画像を生成し、前記強調画像から、前記作物列の色の指標値が閾値以上の第1画素と、前記指標値が前記閾値未満の第2画素とに分類された、前記地面の上方から見た上面視画像を生成し、前記第1画素の前記指標値に基づいて、前記作物列のエッジラインの位置を決定する。
本開示による農業機械は、例示的で非限定的な実施形態において、上記の作物列検出システムを備える農業機械であって、操舵輪を含む走行装置と、前記作物列検出システムが決定した前記作物列の前記エッジラインの位置に基づいて、前記操舵輪の操舵角を制御する自動操舵装置とを備える。
本開示による作物列検出方法は、例示的で非限定的な実施形態において、コンピュータに実装される作物列検出方法であって、農業機械に取り付けられた撮像装置から、前記農業機械が走行する地面を撮影した、前記地面の少なくとも一部を含む時系列カラー画像を取得すること、前記時系列カラー画像から、検出対象である作物列の色を強調した強調画像を生成すること、前記強調画像から、前記作物列の色の指標値が閾値以上の第1画素と、前記指標値が前記閾値未満の第2画素とに分類された、前記地面の上方から見た上面視画像を生成すること、前記第1画素の前記指標値に基づいて、前記作物列のエッジラインの位置を決定することをコンピュータに実行させる。
本開示の包括的または具体的な態様は、装置、システム、方法、集積回路、コンピュータプログラム、もしくはコンピュータが読み取り可能な非一時的記憶媒体、またはこれらの任意の組み合わせによって実現され得る。コンピュータが読み取り可能な記憶媒体は、揮発性の記憶媒体を含んでいてもよいし、不揮発性の記憶媒体を含んでいてもよい。装置は、複数の装置で構成されていてもよい。装置が2つ以上の装置で構成される場合、当該2つ以上の装置は、1つの機器内に配置されてもよいし、分離した2つ以上の機器内に分かれて配置されていてもよい。
本開示の実施形態によれば、日照条件などの外乱要因による検出精度低下を抑制し、ロバスト性を高めることが可能になる。
農業機械に取り付けられた撮像装置が地面を撮影する様子を模式的に示す図である。 農業機械に対して固定されたボディ座標系Σbおよびカメラ座標系Σcと、地面に対して固定されたワールド座標系Σwとの関係を模式的に示す斜視図である。 地面に複数の作物列が設けられた圃場の一部を模式的に示す上面図である。 図3に示す農業機械の撮像装置が取得した画像の例を模式的に示す図である。 農業機械の位置および向き(ヨー方向の角度)を調整した状態を模式的に示す上面図である。 図5の状態にある農業機械の撮像装置が取得した画像の例を示す図である。 本開示の実施形態における作物列検出システムの基本的な構成例を示すブロック図である。 本開示の実施形態における処理装置の構成例を模式的に示すブロック図である。 トラクタに搭載された車載カメラが取得した時系列カラー画像における1フレームの画像に対応するモノクロ画像である。 時系列カラー画像における1フレームの画像のRGB値を緑過剰指標(ExG=2×g-r-b)に変換した強調画像を示す図である。 図10の画像における緑過剰指標(ExG)のヒストグラムである。 第1画素(例えば作物画素)と第2画素(背景画素)とに分類された上面視画像(俯瞰画像)の例を示す図である。 カメラ座標系Σc1およびカメラ座標系Σc2のそれぞれと、基準平面Reとの配置関係を模式的に示す斜視図である。 上面視画像における作物列の方向と走査ラインの方向とが平行な例を示す模式図である。 図14の上面視画像について得られた積算値ヒストグラムの例を模式的に示す図である。 上面視画像における作物列の方向と走査ラインの方向とが交差する例を示す模式図である。 図16の上面視画像について得られた積算値ヒストグラムの例を模式的に示す図である。 本開示の実施形態における処理装置が作物列のエッジラインを決定するアルゴリズムの例を示すフローチャートである。 図12の上面視画像から得られた積算値ヒストグラムを示す図である。 本開示の実施形態における処理装置が実行する処理を示すブロック図である。 上面視画像を複数のブロックに分割する形態を説明するための図である。 図21の各ブロックにおける、走査ラインの位置と指標値の積算値との関係を模式的に示す図である。 図22の各ブロックにおける作物列中心と、作物列中心に対する近似線の例を示す図である。 図23の近似線に基づいて決定した作物列のエッジラインの例を示す上面図である。 作物列が曲線上に曲がる部分を含む場合において、上面視画像の一部または全部を複数のブロックに分割して、複数のブロックのそれぞれについて、エッジラインの位置を決定する方法を説明するための図である。 図25の各ブロックにおける、走査ラインの位置と指標値の積算値(ヒストグラム)との関係を模式的に示す図である。 図26の各ブロックにおける作物列中心と、作物列中心に対する近似線の例を示す図である。 図27の近似曲線に基づいて決定した作物列のエッジラインの例を示す上面図である。 本開示の実施形態における農業機械の外観の例を示す斜視図である。 作業機が装着された状態の農業機械の例を模式的に示す側面図である。 農業機械および作業機の概略的な構成の例を示すブロック図である。
以下、本開示の実施形態を説明する。ただし、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明および実質的に同一の構成に関する重複する説明を省略する場合がある。これは、以下の説明が不必要に冗長になることを避け、当業者の理解を容易にするためである。なお、発明者は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。以下の説明において、同一または類似の機能を有する構成要素については、同じ参照符号を付している。
下記の実施形態は例示であり、本開示の技術は、以下の実施形態に限定されない。例えば、以下の実施形態について示される数値、形状、材料、ステップ、そのステップの順序、表示画面のレイアウトなどは、あくまでも一例であり、技術的に矛盾が生じない限りにおいて種々の改変が可能である。また、技術的に矛盾が生じない限りにおいて、一の態様と他の態様とを組み合わせることが可能である。
本開示における「農業機械」は、「耕す」、「植える」、「収穫する」などの農業の基本的な作業を圃場で行う機械を広く含む。農業機械は、圃場内の地面に対して、耕耘、播種、防除、施肥、作物の植え付け、または収穫などの農作業を行う機能および構造を備える機械である。これらの農作業を「対地作業」または単に「作業」と称することがある。農業機械は、それ自体が移動するための走行装置を備えている必要はなく、走行装置を備える他の車両に装着されたり、牽引されたりすることによって走行してもよい。また、トラクタのような作業車両が単独で「農業機械」として機能する場合に限られず、作業車両に装着または牽引される作業機(インプルメント)と作業車両の全体がひとつの「農業機械」として機能する場合がある。農業機械の例は、トラクタ、乗用管理機、野菜移植機、草刈機、および、圃場用移動ロボットを含む。
(実施形態1)
本開示の例示的な第1の実施形態における作物列検出システムおよび作物列検出方法を説明する。
本実施形態における作物列検出システムは、農業機械に取り付けられて使用される撮像装置を備える。撮像装置は、農業機械が走行する地面を撮影して、地面の少なくとも一部を含む時系列カラー画像を取得するように農業機械に固定されている。
図1は、例えばトラクタまたは乗用管理機などの農業機械100に取り付けられた撮像装置120が地面10を撮影する様子を模式的に示している。図1の例において、農業機械100は、走行可能な車両本体110を備え、撮像装置120は車両本体110に固定されている。参考のため、図1には、互いに直交するXb軸、Yb軸、Zb軸を有するボディ座標系Σbが示されている。ボディ座標系Σbは、農業機械100に固定された座標系であり、ボディ座標系Σbの原点は、例えば農業機械100の重心付近に設定され得る。図では、見やすさのため、ボディ座標系Σbの原点が農業機械100の外部に位置しているように記載されている。本開示におけるボディ座標系Σbでは、Xb軸は農業機械100が直進するときの走行方向(矢印Fの方向)に一致している。Yb軸は、座標原点からXb軸における正方向を見たときの真右の方向に一致し、Zb軸は鉛直下方の方向に一致する。
撮像装置120は、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを有する車載カメラである。本実施形態における撮像装置120は、例えば、3フレーム/秒(fps: frames per second)以上のフレームレートで動画を撮影することができる単眼カメラである。
図2は、上述したボディ座標系Σbと、撮像装置120のカメラ座標系Σcと、地面10に固定されたワールド座標系Σwとの関係を模式的に示す斜視図である。カメラ座標系Σcは、互いに直行するXc軸、Yc軸、Zc軸を有しており、ワールド座標系Σwは、互いに直行するXw軸、Yw軸、Zw軸を有している。図2の例において、ワールド座標系ΣwのXw軸およびYw軸は、地面10に沿って拡がる基準平面Re上にある。
撮像装置120は、農業機械100の所定位置に所定方向を向くように取り付けられる。このため、ボディ座標系Σbに対するカメラ座標系Σcの位置および向きは、既知の状態に固定される。カメラ座標系ΣcのZc軸は、カメラ光軸λ1上にある。図示される例において、カメラ光軸λ1は、農業機械100の走行方向Fから地面10に向かって傾斜しており、俯角Φは、0°よりも大きい。農業機械100の走行方向Fは、農業機械100が走行している地面10に対して概略的に平行である。俯角Φは、例えば0°以上60°以下の範囲に設定され得る。撮像装置120が取り付けられる位置が地面10に近い場合、俯角Φは負の値、言い換えると、正の仰角を有するようにカメラ光軸λ1の向きが設定されていてもよい。
農業機械100が地面10の上を走行しているとき、ボディ座標系Σbおよびカメラ座標系Σcは、ワールド座標系Σwに対して並進する。走行中、農業機械100がピッチ、ロール、ヨーの方向に回転または揺動すると、ボディ座標系Σbおよびカメラ座標系Σcは、ワールド座標系Σwに対して回転し得る。以下の説明においては、簡単のため、農業機械100は、ピッチおよびロールの方向には回転せず、地面10に対して、ほぼ平行に移動するものとする。
図3は、地面10に複数の作物列12が設けられている圃場の一部を模式的に示す上面図である。作物列12とは、圃場の地面10に作物が一方向に連続的に作付けされることによって形成された列である。言い換えれば、作物列12とは、圃場の畝に植え付けられた作物の集まりのことである。このように、個々の作物列12は、圃場に植えられた作物の集まりが形成する列であるため、作物列の形状は、厳密には、作物の形状および作物の配置に依存して複雑である。作物列12の幅は、作物の生育に応じて変化する。
隣りあう作物列12の間には、作物が植えられていない中間領域14が帯状に存在する。各中間領域14は、隣りあう2本の作物列12の間で対向する2本のエッジラインEに挟まれた領域である。なお、1つの畝に対して、畝の幅方向に複数の作物が作付けされる場合 、1つの畝上に複数の作物列12が形成されることになる。即ち、畝の条間に複数の作物列12が形成されることになる。このような場合は、畝上に形成された複数の作物列12のうち、畝の幅方向の端に位置する作物列12のエッジラインEが、中間領域14の基準となる。つまり、中間領域14は、複数の作物列12のエッジラインEのうち、畝の幅方向の端に位置する作物列12のエッジラインEの間となる。
中間領域14は、農業機械100の車輪が通過する領域(作業通路)として機能するため、「中間領域」を「作業通路」と称する場合がある。
本開示において、作物列の「エッジライン」とは、農業機械が走行するときの目標経路を規定するための基準の線分(曲線を含み得る)を意味する。このような基準の線分は、農業機械の車輪の通過が許容される帯状の領域(作業通路)の両端として定義され得る。作物列の「エッジライン」を決定する具体的な方法については、後述する。
図3には、作物列12が設けられた圃場に侵入しつつある1台の農業機械100が模式的に記載されている。この農業機械100は、左右の前輪104Fと、左右の後輪104Rとを走行装置として備えており、作業機(インプルメント)300を牽引している。前輪104Fは操舵輪である。
図3の例では、中央に位置する1本の作物列12の両側に位置する作業通路14に、それぞれ、太い破線の矢印L、Rが記載されている。農業機械100が実線の矢印Cで示される目標経路上を走行するとき、農業機械100の前輪104Fおよび後輪104Rは、作物列12を踏まないように、作業通路14の中を矢印L、Rに沿って移動することが求められる。本実施形態では、農業機械100に取り付けた撮像装置120を用いて作物列12のエッジラインEを検出できるため、前輪104Fおよび後輪104Rが作業通路14の中を矢印L、Rに沿って移動するように農業機械100の操舵・走行を制御することが可能になる。このように作物列のエッジラインEに基づいて、農業機械100の操舵・走行を制御することを「列倣い走行制御」と呼んでもよい。
図4は、図3に示す農業機械100の撮像装置120が取得した画像40の例を模式的に示す図である。地面10で平行に延びる複数の作物列12および中間領域(作業通路)14は、理論的には、地平線11上にある消失点P0で交わる。消失点P0が画像40の右側の領域に位置している理由は、図3に示されるように、農業機械100の走行方向Fが、作物列12が延びる方向(矢印Cに平行な方向)に対して傾斜しているからである。
本実施形態では、後述する方法により、日照条件や作物の生育状態が変化しても、このような画像40から作物列12を正確に検出し、作物列12のエッジラインEを決定することが可能になる。そして、エッジラインEに基づいて、農業機械100が進むべき経路(目標経路)を適切に生成することができる。その結果、自動操舵により、農業機械100の前輪104Fおよび後輪104Rが作業通路14の中を矢印L、Rに沿って移動するように農業機械100の走行を制御すること(列倣い走行制御)が可能になる。このような列倣い走行制御によれば、GNSSなどの測位システムを利用した自動操舵技術では実現困難な、作物の生育状況に応じた精密な自動操舵が可能になる。
図5は、目標経路(矢印C)に対する位置誤差を縮小するように農業機械100を操舵して農業機械100の位置および向き(ヨー方向の角度)を調整した状態を模式的に示す上面図である。図6は、そのような状態にある農業機械100の撮像装置120が取得した画像40の例を示す図である。図5の状態にある農業機械100の前輪104Fおよび後輪104Rは、それぞれ、作業通路14の中を矢印Lおよび矢印Rで示されるライン上に位置している。中央の矢印Cによって示される目標経路Cに沿って農業機械100が走行するとき、農業機械100における自動操舵装置は、前輪104Fおよび後輪104Rが、それぞれ、作業通路14から逸脱しないように操舵輪の操舵角を制御する。
以下、本開示の実施形態による作物列検出システムの構成および動作を詳細に説明する。
本実施形態による作物列検出システム1000は、図7に示すように、前述の撮像装置120と、撮像装置120から取得した時系列カラー画像の画像処理を行う処理装置122とを備える。処理装置122は、例えば、農業機械100が備える自動操舵装置124に接続され得る。自動操舵装置124は、例えば、農業機械100の走行を制御する自動運転装置に含まれる。
処理装置122は、画像認識用の電子制御ユニット(ECU)によって実現され得る。ECUは、車載用のコンピュータである。処理装置122は、撮像装置120が出力する画像データを受け取るように、例えばワイヤハーネスなどのシリアル信号線によって撮像装置120に接続される。処理装置122が実行する画像認識の処理の一部が撮像装置120の内部(カメラモジュール内)で実行されてもよい。
図8は、処理装置122のハードウェア構成例を示すブロック図である。処理装置122は、プロセッサ20、ROM(Read Only Memory)22、RAM(Random Access Memory)24、通信装置26、記憶装置28を備える。これらの構成要素は、バス30を介して相互に接続される。
プロセッサ20は、半導体集積回路であり、中央演算処理ユニット(CPU)またはマイクロプロセッサとも称される。プロセッサ20は、画像処理ユニット(GPU)を含んでいてもよい。プロセッサ20は、ROM22に格納された所定の命令群を記述したコンピュータプログラムを逐次実行し、本開示の作物列検出に必要な処理を実現する。プロセッサ20の一部または全部は、CPUを搭載したFPGA(Field Programmable Gate Array)、ASIC(Application Specific Integrated Circuit)またはASSP(Application Specific Standard Product)であってもよい。
通信装置26は、処理装置122と外部のコンピュータとの間でデータ通信を行うためのインタフェースである。通信装置26は、CAN(Controller Area Network)などによる有線通信、または、Bluetooth(登録商標)規格および/またはWi-Fi(登録商標)規格に準拠した無線通信を行うことができる。
記憶装置28は、撮像装置120から取得した画像、または、処理の途中における画像のデータを記憶することができる。記憶装置28の例は、ハードディスクドライブまたは不揮発性半導体メモリを含む。
処理装置122のハードウェア構成は、上記の例に限定されない。処理装置122の一部または全部が農業機械100に搭載されている必要はない。通信装置26を利用することにより、農業機械100の外部に位置する1または複数のコンピュータを処理装置122の一部または全部として機能させることも可能である。例えば、ネットワークに接続されたサーバコンピュータが処理装置122の一部または全部として機能し得る。一方、農業機械100が搭載するコンピュータが処理装置122に求められるすべての機能を実行してもよい。
本実施形態では、このような処理装置122が、撮像装置120から時系列カラー画像を取得し、下記の動作S1、S2、S3を実行する。
(S1)時系列カラー画像から、検出対象である作物列の色を強調した強調画像を生成する。
(S2)強調画像から、作物列の色の指標値が閾値以上の第1画素と、この指標値が閾値未満の第2画素とに分類された、地面の上方から見た上面視画像を生成する。
(S3)第1画素の前記指標値に基づいて、作物列のエッジラインの位置を決定する。
以下、動作S1、S2、S3の具体例を詳細に説明する。
時系列カラー画像は、撮像装置120が撮影によって時系列的に取得した画像の集まりである。それぞれの画像は、フレーム単位の画素群によって構成される。例えば、撮像装置120が30フレーム/秒のフレームレートで画像を出力する場合、処理装置122は、約33ミリ秒の周期で新しい画像を取得することが可能である。トラクタなどの農業機械100が圃場内を走行する速度は、公道を走行する一般の自動車の速度に比べて相対的に低く、例えば時速10キロメール程度以下であり得る。時速10キロメートルの場合、約33ミリ秒で進む距離は約6センチメートルである。このため、処理装置122は、例えば100~300ミリ秒程度の周期で画像を取得してもよく、撮像装置120が撮像するすべてのフレームの画像を処理する必要はない。処理装置122が処理の対象とする画像の取得周期は、農業機械100の走行速度に応じて、処理装置122が自動的に変更してもよい。
図9は、農業機械に搭載された撮像装置(この例では単眼カメラ)が取得した時系列カラー画像における1フレームの画像40に対応する画像である。図9の画像には、圃場の地面に列状に植えられた作物の列(作物列)が映し出されている。この例において、作物の列は、地面の上で、ほぼ平行かつ等間隔に並び、撮像装置のカメラ光軸は農業機械の進行方向を向いている。前述したように、カメラ光軸は、農業機械の進行方向に対して平行である必要はなく、農業機械の進行方向の前方で地面に入射していてもよい。撮像装置の取り付け位置は、この例に限定されない。農業機械に複数の撮像装置が取り付けられる場合、幾つかの撮像装置は、進行方向に対して反対の方向、あるいは、進行方向と交差する方向にカメラ光軸を向けていてもよい。
動作S1では、図7の処理装置122が、撮像装置120から取得した時系列カラー画像に基づいて、検出対象である作物列の色を強調した画像(強調画像)を生成する。作物は、太陽光(白色光)を受けて光合成を行うため、クロロフィル(葉緑素)を有している。クロロフィルは、赤色および青色に比べて、緑色の光吸収率が低い。このため、作物によって反射される太陽光のスペクトルは、土壌表面によって反射される太陽光のスペクトルに比べ、緑色の波長範囲で相対的に高い値を示す。その結果、作物の色は、一般に緑色の成分を多く含み、「作物列の色」は、典型例には緑色である。しかし、後述するように、「作物列の色」は、緑色に限定されない。
撮像装置120におけるイメージセンサは、行および列状に配列された多数の光検出セルを有している。個々の光検出セルは、画像を構成する画素(ピクセル)に対応し、赤色の光の強度を検出するRサブ画素、緑色の光の強度を検出するGサブ画素、および、青色の光の強度を検出するBサブ画素を含む。各光検出セルにおけるRサブ画素、Gサブ画素、およびBサブ画素で検出される光の出力を、それぞれ、R値、G値、およびB値と呼ぶことにする。以下、R値、G値、およびB値を総称して「画素値」または「RGB値」と呼ぶ場合がある。R値、G値、およびB値を用いる場合、RGB色空間内の座標値によって色を規定することができる。
検出対象である作物列の色が緑色である場合、作物列の色を強調した強調画像とは、撮像装置が取得したカラー画像における各画素のRGB値を、G値のウェイトが相対的に大きな画素値に変換した画像である。強調画像を生成するための、このような画素値の変換は、例えば、「(2×G値-R値-B値)/(R値+G値+B値)」で定義される。ここで、分母の(R値+G値+B値)は規格化のための因子である。以下、規格化されたRGB値をrgb値と称し、r=R値/(R値+G値+B値)、g=G値/(R値+G値+B値)、b=B値/(R値+G値+B値)で定義する。「2×g-r-b」は、緑過剰指標(ExG:Excess Green Index)と呼ばれる。
図10は、図9の画像におけるRGB値を、「2×g-r-b」に変換した強調画像42を示す図である。この変換により、図10の画像42において、「r+b」がgに比べて相対的に小さな画素は明るく表示され、「r+b」がgに比べて相対的に大きな画素は暗く表示される。この変換により、検出対象である作物列の色(この例では「緑色」)を強調した画像(強調画像)42が得られる。図10の画像において相対的に明るい画素は、緑色の成分が相対的に大きな画素であり、作物の領域に属している。
作物の色を強調する「色の指標値」として、緑過剰指標(ExG)以外に、例えば、緑赤植生指標(G値-R値)/(G値+R値)などの他の指標を用いてもよい。また、撮像装置が赤外カメラとしても機能し得る場合は、「作物列の色の指標値」として、NDVI(Normalized Difference Vegetation Index)を用いてもよい。
なお、作物列のそれぞれの列が「マルチ」と呼ばれるシート(mulching sheet)によって覆われていることがある。このような場合、「作物列の色」は、「作物を覆って列状に配置される物体の色」である。具体的には、シートの色が無彩色である黒の場合、「作物列の色」は「黒」を意味する。また、シートの色が赤色の場合、「作物列の色」は「赤色」を意味する。このように「作物列の色」は、作物そのものの色だけではなく、作物列を規定する領域の色(土壌表面の色から識別可能な色)を意味する。
「作物列の色」を強調した強調画像の生成には、RGB色空間からHSV色空間への変換を利用してもよい。HSV色空間は、色相(Hue)、彩度(Saturation)、明度(Value)の三つの成分によって構成される色空間である。RGB色空間からHSV色空間に変換した色情報を用いることにより、黒または白のような彩度の低い「色」を検出することができる。OpenCVのライブラリを利用して「黒」を検出する場合、色相を最大範囲(0~179)、彩度を最大範囲(0~255)に設定し、明度の範囲を0~30に設定すればよい。また、「白」を検出する場合は、色相を最大範囲(0~179)、彩度を最大範囲(0~255)に設定し、明度の範囲を200~255に設定すればよい。このような設定範囲に含まれる色相、彩度、明度を有する画素が、検出するべき色を持つ画素である。なお、例えば緑色の画素を検出する場合、色相の範囲を例えば30~90の範囲に設定すればよい。
検出対象である作物列の色を強調した画像(強調画像)を生成することにより、作物列の領域を、それ以外の背景領域から区分(抽出)すること(セグメンテーション)が容易になる。
次に、動作S2を説明する。
動作S2では、処理装置122が、強調画像42から、作物列の色の指標値が閾値以上の第1画素と、この指標値が閾値未満の第2画素とに分類された上面視画像を生成する。上面視画像は、地面の上方から見た画像である。
本実施形態では、作物列の色の指標値として、前述した緑過剰指標(ExG)を採用し、判別分析法(大津の二値化)によって判別の閾値を決定する。図11は、図10の強調画像42における緑過剰指標(ExG)のヒストグラムである。ヒストグラムの横軸が緑過剰指標(ExG)であり、縦軸が画像内における画素数(生起頻度に対応)である。図11には、判別分析法のアルゴリズムによって算出された閾値Thを示す破線が示されている。強調画像42の画素は、この閾値Thによって2つのクラスに分類される。閾値Thを示す破線の右側には、緑過剰指標(ExG)が閾値以上の画素の生起頻度が示されており、これらの画素は作物のクラスに属していると推定される。これに対し、閾値Thを示す破線の左側には、緑過剰指標(ExG)が閾値未満の画素の生起頻度が示されており、これらの画素は土壌などの被作物のクラスに属していると推定される。この例において、指標値が閾値以上の画素である第1画素は、「作物画素」に相当する。一方、この指標値が閾値未満の第2画素は「背景画素」に相当する。背景画素は、土壌の表面など、検出対象以外の物体に対応し、前述した中間領域(作業通路)14は、背景画素によって構成され得る。なお、閾値の決定方法は、上記の例に限定されず、例えば機械学習を利用した他の方法を用いて閾値を決定してもよい。
強調画像42を構成する各画素を「第1画素」および「第2画素」の一方に割り当てることにより、強調画像42から検出対象の領域を抽出することができる。また、「第2画素」の画素値に「ゼロ」を与えたり、画像データから第2画素のデータを取り除いたりすることにより、検出対象以外の領域をマスクすることができる。マスクするべき領域を確定するとき、緑過剰指標(ExG)が局所的に高い値を示す画素をノイズとしてマスク領域に含める処理を行ってもよい。
図12は、第1画素と第2画素とに分類された、地面の上方からみた上面視画像44の例を示す図である。図12の上面視画像44は、後述する画像変換の技術により、図10の強調画像42から作成した画像である。この上面視画像44において、作物列の色の指標値(この例では緑過剰指標)が閾値Th未満の第2画素は、黒い画素(明度がゼロに設定された画素)である。第2画素によって構成される領域は、主として地面における土壌の表面が見える領域である。図12の上面視画像44には、下辺に接する左右の角部に黒い三角形の領域が存在する。この三角形の領域は、図10の強調画像42には映っていなかった領域に相当する。なお、図9の画像40および図10の強調画像42には、本来は直線であるはずの線が画像の周辺部で歪む現象が観察される。このような画像の歪みは、カメラのレンズの性能に起因して生じており、カメラの内部パラメータを用いて補正され得る。作物領域の強調、マスク、歪みの補正などの処理は、前処理と呼ぶことができる。前処理は、このような処理以外の処理を含んでいてもよい。
図12の上面視画像44は、地面に平行な基準平面Reを、基準平面Reの法線方向における真上から見た俯瞰画像である。この俯瞰画像は、図10の強調画像42からホモグラフィ変換(平面射影変換)によって生成することができる。ホモグラフィ変換は、幾何学的変換の一種であり、3次元空間内の、ある平面上にある点を、他の任意の平面上にある点に変換することができる。
図13は、第1の姿勢(位置および向き:ポーズ)にある撮像装置のカメラ座標系Σc1、および第2の姿勢にある撮像装置のカメラ座標系Σc2のそれぞれと、基準平面Reとの配置関係を模式的に示す斜視図である。図示される例において、カメラ座標系Σc1は、そのZc軸が基準平面Reに斜めに交わるように傾斜している。第1の姿勢にある撮像装置は、農業機械に取り付けられた撮像装置に相当する。これに対して、カメラ座標系Σc2は、そのZc軸が基準平面Reに直交している。言い換えると、カメラ座標系Σc2は、基準平面Reを、基準平面Reの法線方向における真上から見た俯瞰画像を取得できるように配置された状態にある。
カメラ座標系Σc1の原点O1からZc軸でカメラの焦点距離だけ離れた位置に仮想的な画像平面Im1が存在する。画像平面Im1は、Zc軸およびカメラ光軸λ1に直交する。画像平面Im1上の画素位置は、互いに直交するu軸およびv軸を有する画像座標系によって定義される。例えば、基準平面Re上に位置する点P1および点P2の座標が、それぞれ、ワールド座標系Σwにおいて、(X1,Y1,Z1)および(X2,Y2,Z2)であるとする。図13の例では、ワールド座標系ΣwのXw軸およびYw軸が基準平面Re上にある。このため、Z1=Z2=0である。基準平面Reは、地面に沿って拡がるように設定される。
基準平面Re上の点P1および点P2は、それぞれ、ピンホールカメラモデルの透視投影により、第1の姿勢にある撮像装置の画像平面Im1上の点p1および点p2に変換される。画像平面Im1において、点p1および点p2は、それぞれ、(u1,v1)および(u2,v2)の座標で示される画素位置にある。
撮像装置が第2の姿勢にある場合、カメラ座標系Σc2の原点O2からZc軸でカメラの焦点距離だけ離れた位置に仮想的な画像平面Im2が存在する。この例において、画像平面Im2は、基準平面Reに平行である。画像平面Im2上の画素位置は、互いに直交するu軸およびv軸を有する画像座標系によって定義される。基準平面Re上の点P1および点P2は、それぞれ、透視投影により、画像平面Im2上の点p1および点p2に変換される。画像平面Im2において、点p1および点p2は、それぞれ、(u1,v1)および(u2,v2)の座標で示される画素位置にある。
基準平面Re(ワールド座標系Σw)に対するカメラ座標系Σc1、Σc2の配置関係が与えられると、ホモグラフィ変換により、画像平面Im1上の任意の点(u,v)から、画像平面Im2上で対応する点(u,v)を求めることができる。このようなホモグラフィ変換は、点の座標を同次座標系で表現すると、3行×3列の変換行列Hによって規定される。
変換行列Hの中身は、以下に示すように、h11、h12、・・・、h32の数値によって規定される。
8個の数値(h11、h12、・・・、h32)は、農業機械100に取り付けられる撮像装置120によって、基準平面Re上に置いた校正用ボードを撮影すれば、公知のアルゴリズムを用いて算出することができる。
基準平面Re上の点の座標が(X,Y,0)の場合、それぞれのカメラの画像平面Im1、Im2における対応点の座標は、下記の数3および数4の式に示されるように、個々のホモグラフィ変換行列H1、H2によって点(X,Y,0)と対応づけられる。
上記の2式から以下の式が導かれる。この式から明らかなように、変換行列Hは、H2H1-1に等しい。H1-1は、H1の逆行列である。
変換行列H1、H2の中身は、基準平面Reに依存するため、基準平面Reの位置が変わると、変換行列Hの中身も変化する。
このようなホモグラフィ変換を利用することにより、第1の姿勢にある撮像装置(農業機械に取り付けられた撮像装置)で取得した地面の画像から、地面の上面視画像を生成することができる。言い換えると、ホモグラフィ変換によれば、撮像装置120の画像平面Im1上にある任意の点の座標を、基準平面Reに対して所定の姿勢にある仮想的な撮像装置の画像平面Im2上にある点の座標に変換することができる。
処理装置122は、変換行列Hの中身を算出した後、上記のアルゴリズムに基づくソフトウェアプログラムを実行することにより、時系列カラー画像、または時系列カラー画像の前処理画像から、地面10を上方から見た俯瞰画像を生成する。
なお、前述の説明では、3次元空間内の点(例えば、P1、P2)が、いずれも、基準平面Re上に位置していると仮定していた(例えば、Z1=Z2=0)。作物の基準平面Reに対する高さが0ではない場合、ホモグラフィ変換後の上面視画像において、対応点の位置は正しい位置からシフトする。シフト量の増加を抑制するためには、基準平面Reの高さが検出対象である作物の高さに近いことが望ましい。地面10には、畝、畦、溝などの凹凸が存在している場合がある。そのような場合、基準平面Reを、このような凹凸の底部から上方に変位させてもよい。変位の距離は、作物が作付けされる地面10の凹凸に応じて適切に設定され得る。
また、農業機械100が地面10を走行しているとき、車両本体110(図1参照)のロールまたはピッチの運動が生じると、撮像装置120の姿勢が変化するため、変換行列H1の中身が変化し得る。このような場合、IMUによって車両本体110のロールおよびピッチの回転角度を計測すれば、撮像装置の姿勢変化に応じて変換行列H1および変換行列Hを補正することができる。
本実施形態における処理装置122は、上述の方法により、作物列の色の指標値が閾値以上の第1画素と、この指標値が閾値未満の第2画素とに分類された、地面の上方から見た上面視画像を生成した後、動作S3を実行する。
次に、動作S3を説明する。
動作S3では、処理装置122が、第1画素の指標値に基づいて、作物列のエッジラインの位置を決定する。具体的には、上面視画像における複数の走査ラインに沿って第1画素(色の指標値が閾値以上の画素)の指標値を積算する。
図14は、3本の作物列12が映る上面視画像44の例である。この例において、作物列12の方向が画像垂直方向(v軸方向)に平行である。図14は、画像垂直方向(v軸方向)に平行な多数の走査ライン(破線)Sが示されている。処理装置122は、複数の走査ラインS上に位置する画素の指標値を、走査ラインSごとに積算して積算値を得る。
図15は、図14の上面視画像について得られた、走査ラインSの位置と指標値の積算値との関係(積算値のヒストグラム)を模式的に示す図である。図15の横軸は、走査ラインSの、画像水平方向(u軸方向)における位置を示している。上面視画像44において、走査ラインSが横切る画素の多くが作物列12に属する第1画素である場合、その走査ラインSの積算値は大きくなる。一方、走査ラインSが横切る画素の多くが作物列12の間にある中間領域(作業通路)14に属する第2画素(背景画素)である場合、その走査ラインSの積算値は小さくなる。なお、本実施形態において、中間領域(作業通路)14はマスクされており、第2画素の指標値はゼロである。
図15のヒストグラムでは、積算値がゼロまたはゼロに近い凹部領域と、これらの凹部領域によって区分される凸部領域が存在する。凹部領域は、中間領域(作業通路)14に相当し、凸部領域が作物列12に相当する。本実施形態では、凸部領域における積算値のピークの両側の所定位置、具体的には、積算値のピークに対して所定の割合(例えば60%以上90%以下の範囲から選択された値)にある積算値を有する走査ラインSの位置を作物列12のエッジラインの位置として決定する。図15における矢印Wの両端は、各作物列12のエッジラインの位置を示している。なお、図15の例において、各作物列12のエッジラインの位置は、各作物列12の積算値のピークに対して80%の値を持つ走査ラインSの位置である。
本実施形態では、第2画素をマスクしたうえで、各走査ラインS上における作物列の色の指標値を積算している。すなわち、第1画素と第2画素の分類に基づいて2値化された上面視画像について、第1画素の個数(画素数)をカウントしているのではない。第1画素の個数をカウントする場合、例えば、落ち葉や雑草などに起因して閾値Thをわずかに超えるような画素(第1画素に分類される)が多数存在する場合、第1画素のカウント値は増加してしまう。これに対して、本開示の実施形態のように、第1画素の個数ではなく、第1画素の作物列の色の指標値を積算することは、落ち葉や雑草に起因する誤判定を抑制し、作物列検出のロバスト性を向上させる。
図16は、作物列12が斜めに延びている上面視画像44の例である。図3および図4を参照して説明したように、農業機械100の向きによっては、撮像装置120が取得する画像40において作物列12が延びる方向が画像内で右または左に傾斜し得る。そのような画像からホモグラフィ変換によって上面視画像44を生成すると、図16の例にように、作物列12の方向が、画像垂直方向(v軸方向)から傾斜する。
図16にも、画像垂直方向(v軸方向)に平行な多数の走査ライン(破線)Sが示されている。処理装置122が、このような複数の走査ラインS上に位置する画素の指標値を、走査ラインSごとに積算して積算値を得ると、図17に示すような積算値のヒストグラムが得られる。図17は、図16の上面視画像について得られた、走査ラインSの位置と指標値の積算値との関係を模式的に示す図である。このヒストグラムからは、作物列12のエッジラインを決定することができない。
図18は、走査ラインSの方向(角度)を変化させることにより、作物列12の方向に平行な走査ラインSの方向(角度)を探索する手順の例を示すフローチャートである。
ステップS10において、走査ラインSの方向(角度)を設定する。ここでは、画像座標系におけるu軸を基準として時計回りの角度をθとする(図14、図16参照)。角度θの探索は、範囲を例えば60~120度に設定し、角度刻みを例えば1度に設定することができる。この場合、ステップS1では、走査ラインSの角度θとして、60、61、62、・・・、119、120度を与える。
ステップS12では、それぞれの角度θの方向に延びる走査ラインS上の画素について指標値を積算し、積算値のヒストグラムを作成する。ヒストグラムは、角度θに応じて、異なる分布を示すことになる。
ステップS14では、こうして得た複数のヒストグラムから、図15に示されるような凹凸の境界が急峻であって、作物列12が中間領域14から明確に区分されるようなヒストグラムを選択し、そのヒストグラムを生成する走査ラインSの角度θを求める。
ステップS16では、ステップS14で求めた角度θに対応するヒストグラムのピーク値から各作物列12のエッジラインを決定する。前述したように、ピークの例えば0.8倍の積算値を持つ走査ラインSの位置をエッジラインとして採用し得る。
なお、走査ラインSの方向(角度)を探索するとき、探索範囲内で角度θを1度ずつ変化させるごとに、その角度θの走査ラインS上における積算値のヒストグラムを作成してもよい。ヒストグラムの波形から特徴量(例えば、凹部の深さ/凸部の高さ、包絡線の微分値など)を算出し、その特徴量に基づいて、作物列12の方向と走査ラインSの方向とが平行か否かを判定してもよい。
なお、角度θを求める方法は、上記の例に限定されない。作物列の延びる方向が測定によって既知である場合、農業機械100に搭載した慣性計測装置(IMU)によって農業機械の方向を測定し、作物列の延びる方向に対する角度θを求めてもよい。
図19は、図12の上面視画像から作成した、積算値ヒストグラムの例を示す図である。中央に位置するヒストグラムの凸部について、そのピーク値の0.8倍の走査ライン位置をエッジラインEの位置としている。このヒストグラムでは、走査ライン位置が中央から左右に離れるにしたがって、凸部のピークが低くなり、かつ、凸部のピークが拡がっている。これは、図12の画像から明らかなように、上面視画像の中央では、画像の歪みが少ないのに対して、中央から左右に離れるしたがって、画像の歪みが大きくなっていることや、下辺の両側に位置する黒い三角形領域が積算値を低下させることに起因している。
作物列の検出を農業機械の走行に利用する場合、正確に検出するべき作物列は、画像の中央、または、その周辺である。そのため、上面視画像における左右両端に近い領域における歪みは無視することができる。
図20は、本実施形態における処理装置122が実行する一連の処理を示すブロック図である。図20に示されるように、処理装置122は、画像取得32、強調画像生成33、作物列抽出34、およびホモグラフィ変換35を実行することにより、例えば図16に示すような上面視画像44を得ることができる。処理装置122は、更に、走査ライン方向決定36、エッジライン位置決定37を実行することにより、作物列のエッジラインの位置を得ることができる。この後、処理装置122、または、処理装置122からエッジラインの位置を示す情報を得た経路生成装置は、エッジラインに基づいて、農業機械の目標経路生成38を実行することができる。目標経路は、農業機械が備える車輪が、エッジラインEに挟まれる中間領域(作業通路)14の中に維持されるように生成され得る。例えば、タイヤの幅方向における中央部が、中間領域(作業通路)14の両端に位置する2本のエッジラインの中央を通るように目標経路が生成され得る。このような目標経路によれば、農業機械が走行中に目標経路から数センチメール程度外れても、タイヤが作物列に侵入する可能性を低下させることが可能になる。
本開示の実施形態によれば、順光、逆光、晴天、曇天、霧などの気象条件や作業時間帯によって変化する日照条件の影響を抑制し、高い精度での作物列の検出が可能になることを確認した。また、作物の種類(キャベツ、ブロッコリ、大根、人参、レタス、白菜などの種別)、生育状態(苗から成長した状態まで)、病害有無、落ち葉・雑草の有無、土壌色が変化してもロバスト性の高い作物列の検出が可能になることを確認した。
なお、上記の実施形態では、二値化の閾値を求め、閾値以上の画素によって作物領域を抽出するステップを行った後、ホモグラフィ変換を実行している。しかし、作物領域を抽出するステップは、ホモグラフィ変換の後に実行してもよい。具体的には、図20に示される1連の処理において、ホモグラフィ変換35は、強調画像生成33と作物列抽出34との間に実行されてもよいし、画像取得32と強調画像生成33との間に実行されてもよい。
以下、本開示による作物検出システムが実行する他の作物列検出方法の実施形態を説明する。
図21は、上面視画像の一部または全部を複数のブロックに分割し、複数のブロックのそれぞれについて、エッジラインの位置を決定する方法を説明するための図である。
本実施形態において、処理装置122は、上面視画像44の一部または全部を複数のブロックに分割する。そして、複数のブロックのそれぞれについて、作物列12のエッジラインEの位置を決定する。図示される例において、3つのブロックB1、B2、B3が、上面視画像内において、画像水平方向に連続する帯形状を有している。処理装置122は、農業機械100の進行方向とは異なる方向の帯形状に基づいて、作物列のエッジラインを決定することができる。
図22は、図21の上面視画像のブロックB1、B2、B3のそれぞれにおける、走査ラインSの位置と指標値の積算値との関係(積算値ヒストグラム)を模式的に示す図である。積算を行うときの走査ラインSは、常に画像垂直方向に平行である。指標値の積算は、ブロック単位で行われ、走査ラインSの方向(角度)を変える必要はない。走査ラインSの長さを短縮することにより、作物列12が斜めに延びていても、中間領域(作業通路)14に起因する第2画素(背景画素)の領域を適切に検出することが可能になる。このため、走査ラインSの角度を変化させる必要がなくなる。
図22における矢印Wの両端は、ブロックB1、B2、B3のそれぞれで決定された、作物列のエッジラインの位置を示している。図21に示される例において、作物列12の方向は、走査ラインSの方向に対して傾斜している。このため、前述したように、積算値ヒストグラムのピーク値を基準に0.8倍の値を示す走査ライン位置を、作物列12のエッジラインEの位置として採用する場合、そのようなエッジラインEの位置とは、ブロックB1、B2、B3のそれぞれにおける作物列12の中央付近を通る「幅」の両端に相当する。
図23は、図22のブロックB1、B2、B3のそれぞれにおける作物列中心Wcを示している。作物列中心Wcは、図22の積算値ヒストグラムから求めた作物列のエッジラインを規定する矢印Wの中心から求められ、各ブロックの画像垂直方向における中央に位置している。図23には、同一の作物列12に属する作物列中心Wcに対する近似線12Cの例が示される。近似線12Cは、例えば、各作物列12の複数の作物列中心Wcから距離(誤差)の二乗平均が最小になるように求められた直線である。このような近似線12Cは、作物列12の中央を通るラインに相当する。
図24は、図23の近似線12Cから決定した作物列12のエッジラインEの例を示す上面図である。この例において、各作物列12に対応付けられる2本のエッジラインEは、その間隔が矢印Wの長さに等しく、近似線12Cから等距離の位置にある。
本実施形態によれば、走査ラインの方向(角度)を変化させる必要がなく、より少ない演算量で作物列12のエッジラインEを求めることができる。なお、各ブロックの画像垂直方向における長さは、例えば、地面における1~2メートルの距離に相当するように設定され得る。本実施形態では、1つの画像を3つのブロックに分割して積算値ヒストグラムを求めたが、ブロックの個数は4個以上であってもよい。また、ブロックの形状も上記の例に限定されない。ブロックは、上面視画像内において、画像水平方向又は画像垂直方向のいずれかの方向に連続する帯形状を有し得る。処理装置122は、農業機械100の進行方向とは異なる方向に延びる帯形状のブロックに分割すること、作物列のエッジラインを決定することができる。
図25は、上面視画像44の作物列12が曲線上に曲がる部分を含む様子を模式的に示している。図26は、図25の上面視画像44のブロックB1、B2、B3のそれぞれにおける積算値ヒストグラムを模式的に示している。
図27は、図26のブロックB1、B2、B3のそれぞれにおける作物列中心Wcと、各作物列中心Xcに対する近似線12Cの例を示す図である。この例における近似線12Cは、例えば、各作物列12の作物列中心Wcからの距離(誤差)の二乗平均が最小になるように求められた曲線(例えば3次曲線などの高次の曲線)である。このような近似線12Cは、曲線部分を有する作物列12の中央を通る湾曲したラインに相当する。
図28は、図27の近似線から決定した作物列12のエッジラインEの例を示す上面図である。エッジラインEは、図24を参照して説明した方法と同様の方法で生成される。すなわち、各作物列12に対応付けられる2本のエッジラインEは、その間隔が矢印Wの長さに等しく、近似線12Cから等距離の位置にある。
以上、説明してきたように、上面視画像を複数のブロックに分割して、それぞれのブロックで積算値のヒストグラムを生成すれば、作物列の方向を求めることが容易になり、また、作物列の方向が途中で変化していても、その変化した方向を知ることが可能になる。
上記の作物列検出方法は、いずれも、コンピュータに実装され、コンピュータに所望の動作を実行させることによって実施され得る。
(実施形態2)
次に、本開示の作物列検出システムを備える農業機械の実施形態を説明する。
本実施形態における農業機械は、前述した作物列検出システムを備える。また、この農業機械は、自動操舵運転を実現するための制御を行う制御システムを備える。制御システムは、記憶装置と、制御装置とを備えるコンピュータシステムであり、農業機械の操舵、走行、その他の動作を制御するように構成されている。
制御装置は、通常の自動操舵動作モードにおいて、測位装置によって農業機械の位置を特定し、前もって生成された目標経路に基づいて、農業機械が目標経路に沿って走行するように農業機械の操舵を制御する。具体的には、作業車両が圃場内を目標経路に沿って走行するように農業機械の操舵輪(例えば前輪)の操舵角を制御する。本実施形態における農業機械は、このような通常の自動操舵モードだけではなく、作物列が設けられた圃場内で「列倣い走行制御」による自動走行を行うように構成された自動操舵装置を備える。
測位装置は、例えばGNSS受信機を有する。このような測位装置は、GNSS衛星からの信号に基づき、作業車両の位置を特定することができる。しかし、作物列が圃場にある場合、仮に測位装置が農業機械の位置を高精度に測定できたとしても、作物列の間は狭く、作物の植えられ方や生育状況によっては、農業機械の車輪などの走行装置が作物列にはみ出す可能性も高くなる。しかし、本実施形態では、前述した作物列検出システムを用いることにより、現実に存在する作物列を検出して、適切な自動操舵を実行することができる。すなわち、本開示の実施形態における農業機械が備える自動操舵装置は、作物列検出システムが決定した作物列のエッジラインの位置に基づいて、操舵輪の操舵角を制御するように構成される。
また、本実施形態における農業機械では、作物列検出システムの処理装置が、時系列カラー画像に基づいて、作物列のエッジラインと操舵輪との位置関係をモニタすることが可能である。この位置関係から位置誤差信号を生成すれば、農業機械の自動操舵装置が位置誤差信号を小さくするように操舵角を適切に調整することが可能になる。
図29は、本実施形態における農業機械100の外観の例を示す斜視図である。図30は、作業機300が装着された状態の農業機械100の例を模式的に示す側面図である。本実施形態における農業機械100は、作業機300が装着された状態の農業用トラクタ(作業車両)である。農業機械100は、トラクタに限定されず、また作業機300が装着されている必要もない。本開示における作物列検出の技術は、例えば、畝立、中耕、土寄、除草、追肥、防除などの畝間作業に使用され得る小型管理機、および野菜移植機に用いて優れた効果を発揮することができる。
本実施形態における農業機械100は、撮像装置120と、測位装置130と、障害物センサ136とを備える。図29には1つの障害物センサ136が例示されているが、障害物センサ136は農業機械100の複数の箇所に設けられていてもよい。
図30に示すように、農業機械100は、車両本体110と、原動機(エンジン)102と、変速装置(トランスミッション)103とを備える。車両本体110には、タイヤ104(車輪)と、キャビン105とが設けられている。タイヤ104は、一対の前輪104Fと一対の後輪104Rとを含む。キャビン105の内部に運転席107、操舵装置106、操作端末200、および操作のためのスイッチ群が設けられている。前輪104Fおよび後輪104Rの一方は、タイヤではなくクローラであってもよい。農業機械100は、4つのタイヤ104を駆動輪として備える四輪駆動車であってもよいし、一対の前輪104Fまたは一対の後輪104Rを駆動輪として備える二輪駆動車であってもよい。
本実施形態における測位装置130は、GNSS受信機を備える。GNSS受信機は、GNSS衛星からの信号を受信するアンテナと、アンテナが受信した信号に基づいて農業機械100の位置を決定する処理回路とを備える。測位装置130は、GNSS衛星から送信されるGNSS信号を受信し、GNSS信号に基づいて測位を行う。GNSSは、GPS(Global Positioning System)、QZSS(Quasi-Zenith Satellite System、例えばみちびき)、GLONASS、Galileo、およびBeiDouなどの衛星測位システムの総称である。本実施形態における測位装置130は、キャビン105の上部に設けられているが、他の位置に設けられていてもよい。
測位装置130は、さらに、慣性計測装置(IMU)からの信号を利用して位置データを補完することができる。IMUは、農業機械100の傾きおよび微小な動きを計測することができる。IMUによって取得されたデータを用いて、GNSS信号に基づく位置データを補完することにより、測位の性能を向上させることができる。
図29および図30に示す例では、車両本体110の後部に障害物センサ136が設けられている。障害物センサ136は、車両本体110の後部以外の部位にも配置され得る。例えば、車両本体110の側部、前部、およびキャビン105のいずれかの箇所に、1つまたは複数の障害物センサ136が設けられ得る。障害物センサ136は、農業機械100の周囲に存在する物体を検出する。障害物センサ136は、例えばレーザスキャナまたは超音波ソナーを備え得る。障害物センサ136は、障害物センサ136から所定の距離よりも近くに物体が存在する場合に、障害物が存在することを示す信号を出力する。複数の障害物センサ136が農業機械100の車体の異なる位置に設けられていてもよい。例えば、複数のレーザスキャナと、複数の超音波ソナーとが、車体の異なる位置に配置されていてもよい。そのような多くの障害物センサ136を備えることにより、農業機械100の周囲の障害物の監視における死角を減らすことができる。
原動機102は、例えばディーゼルエンジンである。ディーゼルエンジンに代えて電動モータが使用されてもよい。変速装置103は、変速によって農業機械100の推進力および移動速度を変化させることができる。変速装置103は、農業機械100の前進と後進とを切り換えることもできる。
操舵装置106は、ステアリングホイールと、ステアリングホイールに接続されたステアリングシャフトと、ステアリングホイールによる操舵を補助するパワーステアリング装置とを含む。前輪104Fは操舵輪であり、その切れ角(「操舵角」とも称する。)を変化させることにより、農業機械100の走行方向を変化させることができる。前輪104Fの操舵角は、ステアリングホイールを操作することによって変化させることができる。パワーステアリング装置は、前輪104Fの操舵角を変化させるための補助力を供給する油圧装置または電動モータを含む。自動操舵が行われるときには、農業機械100内に配置された制御装置からの制御により、油圧装置または電動モータの力によって操舵角が自動で調整される。
車両本体110の後部には、連結装置108が設けられている。連結装置108は、例えば3点支持装置(「3点リンク」または「3点ヒッチ」とも称する。)、PTO(Power Take Off)軸、ユニバーサルジョイント、および通信ケーブルを含む。連結装置108によって作業機300を農業機械100に着脱することができる。連結装置108は、例えば油圧装置によって3点リンクを昇降させ、作業機300の位置または姿勢を制御することができる。また、ユニバーサルジョイントを介して農業機械100から作業機300に動力を送ることができる。農業機械100は、作業機300を引きながら、作業機300に所定の作業を実行させることができる。連結装置は、車両本体110の前方に設けられていてもよい。その場合、農業機械100の前方に作業機を接続することができる。
図30に示す作業機300は、例えば、ロータリカルチである。作物列を走行するときにトラクタなどの作業車両に牽引または装着される作業機300は、畝立、中耕、土寄、除草、追肥、防除などの畝間作業に使用され得るものであれば、任意である。
図31は、農業機械100および作業機300の概略的な構成の例を示すブロック図である。農業機械100と作業機300は、連結装置108に含まれる通信ケーブルを介して互いに通信することができる。
図31の例における農業機械100は、撮像装置120、測位装置130、障害物センサ136、操作端末200に加え、駆動装置140、ステアリングホイールセンサ150、切れ角センサ152、制御システム160、通信インタフェース(IF)190、操作スイッチ群210、およびブザー220を備える。測位装置130は、GNSS受信機131と、慣性計測装置(IMU)125とを備える。制御システム160は、記憶装置170と、制御装置180とを備える。制御装置180は、複数の電子制御ユニット(ECU)181から186を備える。作業機300は、駆動装置340と、制御装置380と、通信インタフェース(IF)390とを備える。なお、図31には、農業機械100による自動操舵または自動走行の動作との関連性が相対的に高い構成要素が示されており、それ以外の構成要素の図示は省略されている。
測位装置130は、GNSSを利用して農業機械100の測位を行う。測位装置130がRTK受信機を備える場合、複数のGNSS衛星から送信されるGNSS信号に加えて、基準局から送信される補正信号が利用される。基準局は、農業機械100が走行する圃場の周囲(例えば、農業機械100から10km以内の位置)に設置され得る。基準局は、複数のGNSS衛星から受信したGNSS信号に基づいて補正信号を生成し、測位装置130に送信する。測位装置130におけるGNSS受信機131は、複数のGNSS衛星から送信されるGNSS信号を受信する。測位装置130は、GNSS信号および補正信号に基づき、農業機械100の位置を計算することにより、測位を行う。RTK-GNSSを用いることにより、例えば誤差数cmの精度で測位を行うことが可能である。緯度、経度および高度の情報を含む位置情報が、RTK-GNSSによる高精度の測位によって取得される。なお、測位方法はRTK-GNSSに限らず、必要な精度の位置情報が得られる任意の測位方法(干渉測位法または相対測位法など)を用いることができる。例えば、VRS(Virtual Reference Station)またはDGPS(Differential Global Positioning System)を利用した測位を行ってもよい。
IMU135は、3軸加速度センサおよび3軸ジャイロスコープを備える。IMU135は、3軸地磁気センサなどの方位センサを備えていてもよい。IMU135は、モーションセンサとして機能し、農業機械100の加速度、速度、変位、および姿勢などの諸量を示す信号を出力することができる。測位装置130は、GNSS信号および補正信号に加えて、IMU135から出力された信号に基づいて、農業機械100の位置および向きをより高い精度で推定することができる。IMU135から出力された信号は、GNSS信号および補正信号に基づいて計算される位置の補正または補完に用いられ得る。IMU135は、GNSS信号よりも高い頻度で信号を出力する。その高頻度の信号を利用して、農業機械100の位置および向きをより高い頻度(例えば、10Hz以上)で計測することができる。IMU135に代えて、3軸加速度センサおよび3軸ジャイロスコープを別々に設けてもよい。IMU135は、測位装置130とは別の装置として設けられていてもよい。
測位装置130は、GNSS受信機131およびIMU135に加えて、他の種類のセンサを備えていてもよい。農業機械100が走行する環境によっては、これらのセンサからのデータに基づいて農業機械100の位置および向きを高い精度で推定することができる。
このような測位装置130を利用することにより、前述した作物列検出システム1000によって検出した作物列の地図を作製することも可能である。
駆動装置140は、例えば前述の原動機102、変速装置103、デフロック機構を含む差動装置、操舵装置106、および連結装置108などの、農業機械100の走行および作業機300の駆動に必要な各種の装置を含む。原動機102は、例えばディーゼル機関などの内燃機関を備える。駆動装置140は、内燃機関に代えて、あるいは内燃機関とともに、トラクション用の電動モータを備えていてもよい。
ステアリングホイールセンサ150は、農業機械100のステアリングホイールの回転角を計測する。切れ角センサ152は、操舵輪である前輪104Fの切れ角を計測する。ステアリングホイールセンサ150および切れ角センサ152による計測値は、制御装置180による操舵制御に利用される。
記憶装置170は、フラッシュメモリまたは磁気ディスクなどの1つ以上の記憶媒体を含む。記憶装置170は、各センサ、および制御装置180が生成する各種のデータを記憶する。記憶装置170が記憶するデータには、農業機械100が走行する環境内の地図データ、および自動操舵の目標経路のデータが含まれ得る。記憶装置170は、制御装置180における各ECUに、後述する各種の動作を実行させるコンピュータプログラムも記憶する。そのようなコンピュータプログラムは、記憶媒体(例えば半導体メモリまたは光ディスク等)または電気通信回線(例えばインターネット)を介して農業機械100に提供され得る。そのようなコンピュータプログラムが、商用ソフトウェアとして販売されてもよい。
制御装置180は、複数のECUを含む。複数のECUは、画像認識用のECU181、速度制御用のECU182、ステアリング制御用のECU183、自動操舵制御用のECU184、作業機制御用のECU185、表示制御用のECU186、およびブザー制御用のECU187を含む。画像認識用のECU181は、作物列検出システムの処理装置として機能する。ECU182は、駆動装置140に含まれる原動機102、変速装置103、およびブレーキを制御することによって農業機械100の速度を制御する。ECU183は、ステアリングホイールセンサ150の計測値に基づいて、操舵装置106に含まれる油圧装置または電動モータを制御することにより、農業機械100のステアリングを制御する。ECU184は、測位装置130、ステアリングホイールセンサ150、および切れ角センサ152から出力される信号に基づいて、自動操舵運転を実現するための演算および制御を行う。自動操舵運転中、ECU184は、ECU183に操舵角の変更の指令を送る。ECU183は、当該指令に応答して操舵装置106を制御することによって操舵角を変化させる。ECU185は、作業機300に所望の動作を実行させるために、連結装置108の動作を制御する。ECU185はまた、作業機300の動作を制御する信号を生成し、その信号を通信IF190から作業機300に送信する。ECU186は、操作端末200の表示を制御する。ECU186は、例えば、操作端末200における表示装置に、圃場のマップ、検出された作物列、マップ中の農業機械100の位置および目標経路、ポップアップ通知、設定画面などの様々な表示を実現させる。ECU187は、ブザー220による警告音の出力を制御する。
これらのECUの働きにより、制御装置180は、手動操舵または自動操舵による運転を実現する。通常の自動操舵運転時において、制御装置180は、測位装置130によって計測または推定された農業機械100の位置と、記憶装置170に記憶された目標経路とに基づいて、駆動装置140を制御する。これにより、制御装置180は、農業機械100を目標経路に沿って走行させる。一方、作物列に沿って走行する列倣い走行制御モードでは、画像認識用のECU181が、検出した作物列から作物列のエッジラインを決定し、このエッジラインに基づく目標経路を生成する。制御装置180は、この目標経路に従った動作を実行する。
制御装置180に含まれる複数のECUは、例えばCAN(Controller Area Network)などのビークルバス規格に従って、相互に通信することができる。図31において、ECU181から187のそれぞれは、個別のブロックとして示されているが、これらのそれぞれの機能が、複数のECUによって実現されていてもよい。また、ECU181から187の少なくとも一部の機能を統合した車載コンピュータが設けられていてもよい。制御装置180は、ECU181から187以外のECUを備えていてもよく、機能に応じて任意の個数のECUが設けられ得る。各ECUは、1つ以上のプロセッサを含む制御回路を備える。
通信IF190は、作業機300の通信IF390と通信を行う回路である。通信IF190は、例えばISOBUS-TIM等のISOBUS規格に準拠した信号の送受信を、作業機300の通信IF390との間で実行する。これにより、作業機300に所望の動作を実行させたり、作業機300から情報を取得したりすることができる。通信IF190は、有線または無線のネットワークを介して外部のコンピュータと通信してもよい。外部のコンピュータは、例えば、圃場に関する情報をクラウド上で一元管理し、クラウド上のデータを活用して農業を支援する営農支援システムにおけるサーバコンピュータであってもよい。
操作端末200は、農業機械100の走行および作業機300の動作に関する操作をユーザが実行するための端末であり、バーチャルターミナル(VT)とも称される。操作端末200は、タッチスクリーンなどの表示装置、および/または1つ以上のボタンを備え得る。ユーザは、操作端末200を操作することにより、例えば自動操舵モードのオン/オフの切り替え、クルーズコントロールのオン/オフの切り替え、農業機械100の初期位置の設定、目標経路の設定、地図の記録または編集、2WD/4WDの切り替え、デフロックのオン/オフの切り替え、および作業機300のオン/オフの切り替えなどの種々の操作を実行することができる。これらの操作の少なくとも一部は、操作スイッチ群210を操作することによっても実現できる。操作端末200への表示は、ECU186によって制御される。
ブザー220は、ユーザに異常を報知するための警告音を発する音声出力装置である。ブザー220は、例えば、自動操舵運転時に、農業機械100が目標経路から所定距離以上逸脱した場合に警告音を発する。ブザー220の代わりに、操作端末200のスピーカによって同様の機能が実現されてもよい。ブザー220は、ECU186によって制御される。
作業機300における駆動装置340は、作業機300が所定の作業を実行するために必要な動作を行う。駆動装置340は、例えば油圧装置、電気モータ、またはポンプなどの、作業機300の用途に応じた装置を含む。制御装置380は、駆動装置340の動作を制御する。制御装置380は、通信IF390を介して農業機械100から送信された信号に応答して、駆動装置340に各種の動作を実行させる。また、作業機300の状態に応じた信号を通信IF390から農業機械100に送信することもできる。
以上の実施形態において、農業機械100は、無人で自動運転を行う作業車両であってもよい。その場合には、キャビン、運転席、ステアリングホイール、操作端末などの、有人運転にのみ必要な構成要素は、農業機械100に設けられていなくてもよい。無人の作業車両は、自律走行、またはユーザによる遠隔操作によって、前述の各実施形態における動作と同様の動作を実行してもよい。
実施形態における各種の機能を提供するシステムを、それらの機能を有しない農業機械に後から取り付けることもできる。そのようなシステムは、農業機械とは独立して製造および販売され得る。そのようなシステムで使用されるコンピュータプログラムも、農業機械とは独立して製造および販売され得る。コンピュータプログラムは、例えばコンピュータが読み取り可能な非一時的な記憶媒体に格納されて提供され得る。コンピュータプログラムは、電気通信回線(例えばインターネット)を介したダウンロードによっても提供され得る。
本開示の技術は、例えば、乗用管理機、野菜移植機、トラクタなどの農業機械に適用することができる。
10・・・地面、12・・・作物列、14・・・中間領域(作業通路)、40・・・画像、42・・・強調画像、44・・・上面視画像、100・・・農業機械、110・・・車両本体、120・・・撮像装置、122・・・処理装置、124・・・自動操舵装置

Claims (10)

  1. 農業機械に取り付けられ、前記農業機械が走行する地面を撮影して前記地面の少なくとも一部を含む時系列カラー画像を取得する撮像装置と、
    前記時系列カラー画像の画像処理を行う処理装置と、
    を備え、
    前記処理装置は、
    前記時系列カラー画像から、検出対象である作物列の色を強調した強調画像を生成し、
    前記強調画像から、前記作物列の色の指標値が閾値以上の第1画素と、前記指標値が前記閾値未満の第2画素とに分類された、前記地面の上方から見た上面視画像を生成し、
    前記上面視画像において複数の角度のそれぞれの方向に延びる複数の走査ラインに沿って前記第1画素の前記指標値を積算して積算値を求め、前記複数の角度のそれぞれの方向について前記走査ラインの位置と前記積算値とを関連付けたヒストグラムを作成し、
    記複数の角度のそれぞれの方向についての前記ヒストグラムを参照し、前記作物列の方向に延びる走査線の角度を前記複数の角度から選択し、決定した角度に関連付けた前記ヒストグラムにおける前記積算値のピークの両側の所定位置から、前記作物列のエッジラインの位置を決定する、作物列検出システム。
  2. 前記処理装置は、
    前記上面視画像の一部または全部を複数のブロックに分割して、前記複数のブロックのそれぞれについて、前記エッジラインの位置を決定する、請求項1に記載の作物列検出システム。
  3. 前記複数のブロックは、前記上面視画像内において、画像水平方向又は画像垂直方向のいずれかの方向に連続する帯形状を有し、
    前記処理装置は、前記農業機械の進行方向とは異なる方向の帯形状に基づいて、前記作物列のエッジラインを決定する請求項2に記載の作物列検出システム。
  4. 前記処理装置は、前記複数のブロックのそれぞれにおける前記エッジラインの位置に基づいて、前記作物列が延びる方向を決定する、請求項2または3に記載の作物列検出シス
    テム。
  5. 前記上面視画像は、前記地面に沿った基準平面を、前記基準平面の法線方向における真上から見た俯瞰画像であり、
    前記処理装置は、前記時系列カラー画像、または前記時系列カラー画像の前処理画像から、ホモグラフィ変換によって前記俯瞰画像を生成する、請求項1から4のいずれか1項に記載の作物列検出システム。
  6. 前記基準平面は、作物が作付けされる地面の凹凸に応じて設定された所定の距離だけ、前記地面における前記凹凸の底部から上方に変位している、請求項5に記載の作物列検出システム。
  7. 前記処理装置は、前記作物列の前記エッジラインの位置に基づいて、目標経路を生成して出力する、請求項1から6のいずれか1項に記載の作物列検出システム。
  8. 請求項1から7のいずれか1項に記載される作物列検出システムを備える農業機械であって、
    操舵輪を含む走行装置と、
    前記作物列検出システムが決定した前記作物列の前記エッジラインの位置に基づいて、前記操舵輪の操舵角を制御する自動操舵装置と、
    を備える、農業機械。
  9. 前記作物列検出システムの前記処理装置は、前記時系列カラー画像に基づいて、前記作物列の前記エッジラインと前記操舵輪との位置関係をモニタし、位置誤差信号を前記自動操舵装置に与える、請求項8に記載の農業機械。
  10. コンピュータに実装される作物列検出方法であって、
    農業機械に取り付けられた撮像装置から、前記農業機械が走行する地面を撮影した、前記地面の少なくとも一部を含む時系列カラー画像を取得すること、
    前記時系列カラー画像から、検出対象である作物列の色を強調した強調画像を生成すること、
    前記強調画像から、前記作物列の色の指標値が閾値以上の第1画素と、前記指標値が前記閾値未満の第2画素とに分類された、前記地面の上方から見た上面視画像を生成すること、
    前記上面視画像において複数の角度のそれぞれの方向に延びる複数の走査ラインに沿って前記第1画素の前記指標値を積算して積算値を求め、前記複数の角度のそれぞれの方向について前記走査ラインの位置と前記積算値とを関連付けたヒストグラムを作成することと、
    前記複数の角度のそれぞれの方向についての前記ヒストグラムを参照し、前記作物列の方向に延びる走査線の角度を前記複数の角度から選択し、決定した角度に関連付けた前記ヒストグラムにおける前記積算値のピークの両側の所定位置から、前記作物列のエッジラインの位置を決定することと、
    をコンピュータに実行させる、作物列検出方法。
JP2023531366A 2021-06-29 2022-02-04 作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法 Active JP7796745B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2025095775A JP2025131781A (ja) 2021-06-29 2025-06-09 作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2021107919 2021-06-29
JP2021107919 2021-06-29
PCT/JP2022/004547 WO2023276226A1 (ja) 2021-06-29 2022-02-04 作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2025095775A Division JP2025131781A (ja) 2021-06-29 2025-06-09 作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法

Publications (2)

Publication Number Publication Date
JPWO2023276226A1 JPWO2023276226A1 (ja) 2023-01-05
JP7796745B2 true JP7796745B2 (ja) 2026-01-09

Family

ID=84692236

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2023531366A Active JP7796745B2 (ja) 2021-06-29 2022-02-04 作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法
JP2025095775A Withdrawn JP2025131781A (ja) 2021-06-29 2025-06-09 作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2025095775A Withdrawn JP2025131781A (ja) 2021-06-29 2025-06-09 作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法

Country Status (5)

Country Link
US (1) US12469169B2 (ja)
EP (1) EP4335265A4 (ja)
JP (2) JP7796745B2 (ja)
KR (1) KR20240007667A (ja)
WO (1) WO2023276226A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023127437A1 (ja) * 2021-12-27 2023-07-06 株式会社クボタ 農業機械
WO2023230292A1 (en) * 2022-05-26 2023-11-30 farm-ng Inc. Image segmentation for row following and associated training system
JP2025055365A (ja) * 2023-09-27 2025-04-08 株式会社クボタ 農業支援システムおよび作物列の検出方法
EP4613085A1 (en) * 2024-03-08 2025-09-10 CNH Industrial France S.A.S. Mapping crops
CN119779726B (zh) * 2025-03-07 2025-05-16 湖南农业大学 油菜钵苗移栽机的移栽性能测试方法和系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006101816A (ja) 2004-10-08 2006-04-20 Univ Of Tokyo 操向制御方法及び装置
US20070001096A1 (en) 2005-07-01 2007-01-04 Jiantao Wei Method and system for vehicular guidance using a crop image
JP2016208871A (ja) 2015-04-30 2016-12-15 国立大学法人 鹿児島大学 作業機及びその制御方法

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2907641B2 (ja) * 1992-06-30 1999-06-21 株式会社クボタ 作業領域検出装置
JPH09201110A (ja) * 1996-01-26 1997-08-05 Kubota Corp 作業車の方向検出装置、走行状態表示装置、及び走行制御装置
JPH09224417A (ja) * 1996-02-27 1997-09-02 Kubota Corp 作業車の補助装置
US6490539B1 (en) * 2000-02-28 2002-12-03 Case Corporation Region of interest selection for varying distances between crop rows for a vision guidance system
US6285930B1 (en) * 2000-02-28 2001-09-04 Case Corporation Tracking improvement for a vision guidance system
US6686951B1 (en) * 2000-02-28 2004-02-03 Case, Llc Crop row segmentation by K-means clustering for a vision guidance system
US6278918B1 (en) * 2000-02-28 2001-08-21 Case Corporation Region of interest selection for a vision guidance system
US6385515B1 (en) * 2000-06-15 2002-05-07 Case Corporation Trajectory path planner for a vision guidance system
US6721453B1 (en) * 2000-07-10 2004-04-13 The Board Of Trustees Of The University Of Illinois Method and apparatus for processing an image of an agricultural field
US7916898B2 (en) * 2003-09-15 2011-03-29 Deere & Company Method and system for identifying an edge of a crop
US7570783B2 (en) * 2005-07-01 2009-08-04 Deere & Company Method and system for vehicular guidance using a crop image
US7580549B2 (en) * 2005-07-01 2009-08-25 Deere & Company Method and system for vehicular guidance using a crop image
US7792622B2 (en) * 2005-07-01 2010-09-07 Deere & Company Method and system for vehicular guidance using a crop image
US8185275B2 (en) * 2005-07-01 2012-05-22 Deere & Company System for vehicular guidance with respect to harvested crop
US7904218B2 (en) * 2006-05-18 2011-03-08 Applied Perception, Inc. Vision guidance system and method for identifying the position of crop rows in a field
US8019513B2 (en) * 2006-05-18 2011-09-13 Applied Perception Inc. Vision guidance system and method for identifying the position of crop rows in a field
US8010261B2 (en) * 2007-05-23 2011-08-30 Cnh America Llc Automatic steering correction of an agricultural harvester using integration of harvester header row sensors and harvester auto guidance system
WO2015171946A1 (en) * 2014-05-09 2015-11-12 Raven Industries, Inc. Image filter based on row identification
US9446791B2 (en) * 2014-05-09 2016-09-20 Raven Industries, Inc. Refined row guidance parameterization with Hough transform
WO2017068699A1 (ja) * 2015-10-22 2017-04-27 日産自動車株式会社 駐車スペースの枠線の検出方法および装置
US10531603B2 (en) * 2017-05-09 2020-01-14 Cnh Industrial America Llc Agricultural system
DE102017113726A1 (de) * 2017-06-21 2018-12-27 Claas E-Systems Kgaa Mbh & Co Kg Landwirtschaftliche Arbeitsmaschine
WO2020014527A1 (en) * 2018-07-11 2020-01-16 Raven Industries, Inc. Calibrating a crop row computer vision system
US11184507B2 (en) * 2018-07-11 2021-11-23 Raven Industries, Inc. Adaptive color transformation to aid computer vision
EP3820268B1 (en) * 2018-07-11 2025-03-05 Raven Industries, INC. Detecting crop related row from image
CN109631903A (zh) * 2019-01-04 2019-04-16 丰疆智慧农业股份有限公司 谷物处理自动驾驶系统及其自动驾驶方法和路径规划方法
KR20220025701A (ko) * 2019-06-28 2022-03-03 가부시끼 가이샤 구보다 농작업기, 자동 주행 시스템, 프로그램, 프로그램을 기록한 기록 매체, 및 방법
US11778934B2 (en) * 2019-07-02 2023-10-10 Bear Flag Robotics, Inc. Agricultural lane following
US11615543B2 (en) * 2019-07-11 2023-03-28 Raven Industries, Inc. Determining image feature height disparity
US11832609B2 (en) * 2020-12-21 2023-12-05 Deere & Company Agricultural sprayer with real-time, on-machine target sensor
EP4095643A1 (en) * 2021-05-28 2022-11-30 Agco Corporation Crop row guidance systems
EP4335267A4 (en) * 2021-06-29 2025-04-30 Kubota Corporation ROW DETECTION SYSTEM, AGRICULTURAL MACHINE WITH THE ROW DETECTION SYSTEM AND ROW DETECTION METHOD
JP7767423B2 (ja) * 2021-06-29 2025-11-11 株式会社クボタ 列検出システム、列検出システムを備える農業機械、および、列検出方法
WO2023120182A1 (ja) * 2021-12-24 2023-06-29 株式会社クボタ 農業機械
WO2023127437A1 (ja) * 2021-12-27 2023-07-06 株式会社クボタ 農業機械
JP2025002839A (ja) * 2023-06-23 2025-01-09 株式会社クボタ 列検出システムおよび農業機械

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006101816A (ja) 2004-10-08 2006-04-20 Univ Of Tokyo 操向制御方法及び装置
US20070001096A1 (en) 2005-07-01 2007-01-04 Jiantao Wei Method and system for vehicular guidance using a crop image
JP2016208871A (ja) 2015-04-30 2016-12-15 国立大学法人 鹿児島大学 作業機及びその制御方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
PONNAMBALAM, Vignesh Raja et al.,Autonomous Crop Row Guidance Using Adaptive Multi-ROI in Strawberry Fields,Sensors,スイス,MDPI[オンライン],2020年09月14日,第20巻,第5249号,p.1-17,[検索日 2022.03.30],インターネット<URL : https://www.mdpi.com/1424-8220/20/18/5249/htm><DOI : 10.3390/s20185249>
岡本博史、端俊一、高井宗宏,畑作管理ロボットのための作物列センサ,農業機械学会第58回大会講演要旨,日本,農業食料工学会[オンライン],1999年04月01日,p.231-232,[検索日 2022.03.30],インターネット:<URL : https://www.jstage.jst.go.jp/article/jsam1937/61/Supplement/61_Supplement_231/
岡本博史、端俊一、高井宗宏,自動うね合わせのための作物列センサ(第1報)-処理システムの比較と性能評価-,農業機械学会誌,日本,農業食料工学会[オンライン],1999年11月01日,第61巻,第6号,p.159-167,[検索日 2022.03.30],インターネット:<URL : https://www.jstage.jst.go.jp/article/jsam1937/61/6/61_6_159/_article/-char/ja

Also Published As

Publication number Publication date
JPWO2023276226A1 (ja) 2023-01-05
EP4335265A4 (en) 2025-06-11
US20240202966A1 (en) 2024-06-20
EP4335265A1 (en) 2024-03-13
KR20240007667A (ko) 2024-01-16
JP2025131781A (ja) 2025-09-09
US12469169B2 (en) 2025-11-11
WO2023276226A1 (ja) 2023-01-05

Similar Documents

Publication Publication Date Title
JP7767423B2 (ja) 列検出システム、列検出システムを備える農業機械、および、列検出方法
JP7572555B2 (ja) 列検出システム、列検出システムを備える農業機械、および、列検出方法
JP7796745B2 (ja) 作物列検出システム、作物列検出システムを備える農業機械、および、作物列検出方法
US12488586B2 (en) Row detection system and agricultural machine
EP4437821A1 (en) Agricultural machine
US20240315159A1 (en) Agricultural machine
US20250143197A1 (en) Work vehicle, control method and computer program
JP2006101816A (ja) 操向制御方法及び装置
JP7821820B2 (ja) 農業機械
US20250268118A1 (en) Row detection system, agricultural machine provided with row detection system, and row detection method
US12620237B2 (en) Agricultural machine
US20250255205A1 (en) Driving control system, work vehicle, and driving control method
US20250098563A1 (en) Work vehicle and method for controlling work vehicle
US20250083521A1 (en) Display system and work vehicle
WO2024142660A1 (ja) 領域認識システム及び作業車両

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241105

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20250311

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250930

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20251022

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20251202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20251223

R150 Certificate of patent or registration of utility model

Ref document number: 7796745

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150