Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7484802B2 - 情報処理装置、プログラム及び情報処理方法 - Google Patents
[go: Go Back, main page]

JP7484802B2 - 情報処理装置、プログラム及び情報処理方法 - Google Patents

情報処理装置、プログラム及び情報処理方法 Download PDF

Info

Publication number
JP7484802B2
JP7484802B2 JP2021068548A JP2021068548A JP7484802B2 JP 7484802 B2 JP7484802 B2 JP 7484802B2 JP 2021068548 A JP2021068548 A JP 2021068548A JP 2021068548 A JP2021068548 A JP 2021068548A JP 7484802 B2 JP7484802 B2 JP 7484802B2
Authority
JP
Japan
Prior art keywords
information
vehicle
information processing
time
processing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021068548A
Other languages
English (en)
Other versions
JP2022163545A (ja
Inventor
豊和 中嶋
隆市 釜賀
光博 三浦
康寛 馬場
朋和 眞屋
亮介 小林
玄史 久野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2021068548A priority Critical patent/JP7484802B2/ja
Priority to US17/658,452 priority patent/US11993271B2/en
Priority to KR1020220044390A priority patent/KR102833062B1/ko
Priority to CA3155713A priority patent/CA3155713A1/en
Priority to CN202210381327.2A priority patent/CN115209046B/zh
Publication of JP2022163545A publication Critical patent/JP2022163545A/ja
Application granted granted Critical
Publication of JP7484802B2 publication Critical patent/JP7484802B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09Driving style or behaviour
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125Traffic data processing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • G06V40/176Dynamic expression
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0108Measuring and analyzing of parameters relative to traffic conditions based on the source of data
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/02Feature extraction for speech recognition; Selection of recognition unit
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/21Voice
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/22Psychological state; Stress level or workload
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Computational Linguistics (AREA)
  • Automation & Control Theory (AREA)
  • Mechanical Engineering (AREA)
  • Mathematical Physics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Acoustics & Sound (AREA)
  • Transportation (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Traffic Control Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Navigation (AREA)

Description

本開示は、情報処理装置、プログラム及び情報処理方法に関する。
従来、ユーザに指定された位置を車両が通過する際、車載カメラにより画像を撮像し、撮像画像を思い出として記憶する技術が知られている(例えば特許文献1)。
特開2019-086372号公報
上記技術では、ユーザが位置を指定することが必要である。撮像画像が膨大である場合、位置が指定されていなければ、特定の思い出に関連する画像を抽出することは難しい。
かかる事情に鑑みてなされた本開示の目的は、画像を自動的に保存することが可能である情報処理装置、プログラム及び情報処理方法を提供することにある。
本開示の一実施形態に係る情報処理装置は、
車両と通信可能な情報処理装置であって、制御部を含み、前記制御部は、
前記車両内のユーザの行動情報を、日時と関連付けて記憶し、
特定の時期での行動情報と、前記特定の時期より後の時期での行動情報との相異を検出すると、前記車両の撮像部を介して画像を取得し、
前記日時及び前記行動情報と関連付けて、前記画像を記憶する。
本開示の一実施形態に係るプログラムは、
車両と通信可能な情報処理装置としてのコンピュータに、
前記車両内のユーザの行動情報を、日時と関連付けて記憶することと、
特定の時期での行動情報と、前記特定の時期より後の時期での行動情報との相異を検出すると、前記車両の撮像部を介して画像を取得することと、
前記日時及び前記行動情報と関連付けて、前記画像を記憶することと、
を含む動作を実行させる。
本開示の一実施形態に係る情報処理方法は、
車両と通信可能な情報処理装置による情報処理方法であって、
前記車両内のユーザの行動情報を、日時と関連付けて記憶することと、
特定の時期での行動情報と、前記特定の時期より後の時期での行動情報との相異を検出すると、前記車両の撮像部を介して画像を取得することと、
前記日時及び前記行動情報と関連付けて、前記画像を記憶することと、
を含む。
本開示の一実施形態による情報処理装置、プログラム及び情報処理方法によれば、画像を自動的に保存することが可能である。
情報処理システムの概略図である。 情報処理装置の構成を示すブロック図である。 車両の構成を示すブロック図である。 訪問地DB(database)のデータ構造を示す図である。 動作DBのデータ構造を示す図である。 動画の一例を示す図である。 動画の他の一例を示す図である。 情報処理装置の動作を示すフローチャートである。
図1は、本実施形態の情報処理システムSの概略図である。情報処理システムSは、ネットワークNWを介して互いに通信可能な情報処理装置1と車両2とを含む。ネットワークNWは、例えば移動体通信網とインターネットとを含む。
図1では説明の簡便のため、情報処理装置1と車両2とは1つずつ図示される。しかし、情報処理装置1と車両2とのそれぞれの数はこれに限られない。例えば、本実施形態の情報処理装置1が実行する処理は、分散配置された複数の情報処理装置1によって実行されてよい。複数の車両2がユーザU01によって操作されてよい。
本実施形態の情報処理装置1が実行する処理の概要が説明される。情報処理装置1の制御部11は、車両2内のユーザU01の行動情報を、日時と関連付けて記憶し、特定の時期での行動情報と、特定の時期より後の時期での行動情報との相異を検出すると、車両2の撮像部を介して画像を取得する。制御部11は、日時及び行動情報と関連付けて、画像を記憶する。この構成により情報処理装置1は、ユーザの行動変化があるときの画像を自動的に保存することができる。もって情報処理装置1は、特定の思い出に関連する画像をユーザU01が後に抽出することを可能にする。
情報処理装置1は、データセンタなどの施設に設置される。情報処理装置1は、クラウドコンピューティングシステム又はその他のコンピューティングシステムに属するサーバなどのコンピュータである。代替例として、情報処理装置1は車両2に搭載されてよい。
図2を参照して情報処理装置1の内部構成が詳細に説明される。
情報処理装置1は、制御部11と通信部12と記憶部13とを含む。情報処理装置1の各構成要素は、例えば専用線を介して互いに通信可能に接続される。
制御部11は例えば、CPU(Central Processing Unit)又はMPU(Micro Processing Unit)を含む1つ以上の汎用プロセッサを含む。制御部11は、特定の処理に特化した1つ以上の専用プロセッサを含んでよい。制御部11は、プロセッサを含む代わりに、1つ以上の専用回路を含んでもよい。専用回路は例えば、FPGA(Field-Programmable Gate Array)、又はASIC(Application Specific Integrated Circuit)であってよい。制御部11は、ECU(Electronic Control Unit)を含んでもよい。制御部11は通信部12を介して、任意の情報を送信及び受信する。
通信部12は、ネットワークNWに接続するための、1つ以上の有線又は無線LAN(Local Area Network)規格に対応する通信モジュールを含む。通信部12は、LTE(Long Term Evolution)、4G(4th Generation)、又は5G(5th Generation)を含む1つ以上の移動体通信規格に対応するモジュールを含んでよい。通信部12は、Bluetooth(登録商標)、AirDrop(登録商標)、IrDA、ZigBee(登録商標)、Felica(登録商標)、又はRFIDを含む1つ以上の近距離通信の規格又は仕様に対応する通信モジュール等を含んでよい。通信部12は、ネットワークNWを介して任意の情報を送信及び受信する。
記憶部13は、例えば半導体メモリ、磁気メモリ、光メモリ、又はこれらのうち少なくとも2種類の組み合わせが含まれるが、これらに限られない。半導体メモリは、例えば、RAM又はROMである。RAMは、例えば、SRAM又はDRAMである。ROMは、例えば、EEPROMである。記憶部13は、例えば主記憶装置、補助記憶装置、又はキャッシュメモリとして機能してもよい。記憶部13は、制御部11によって分析又は処理された結果の情報を記憶してよい。記憶部13は、情報処理装置1の動作又は制御に関する各種情報等を記憶してよい。記憶部13は、システムプログラム、アプリケーションプログラム、及び組み込みソフトウェア等を記憶してよい。記憶部13は後述される訪問地DB及び動作DBを含む。
車両2は、例えば、マイクロモビリティ、ガソリン車、ディーゼル車、HV、PHV、EV、又はFCVなどの任意の種類の自動車を含む。車両2の各構成要素は、例えばCAN(Controller Area Network)等の車載ネットワーク又は専用線を介して、互いに通信可能に接続される。「HV」は、Hybrid Vehicleの略語である。「PHV」は、Plug-in Hybrid Vehicleの略語である。「EV」は、Electric Vehicleの略語である。「FCV」は、Fuel Cell Vehicleの略語である。本実施形態の車両2は、運転者によって運転される。代替例として車両2は、任意のレベルでその運転が自動化されてよい。自動化のレベルは、例えば、SAEのレベル分けにおけるレベル1からレベル5のいずれかである。「SAE」は、Society of Automotive Engineersの略語である。車両2は、MaaS専用車両でもよい。「MaaS」は、Mobility as a Serviceの略語である。車両2は例えば、自転車、原動機付自転車、又は自動二輪車(オートバイ)であってもよい。
図3を参照して車両2の内部構成が詳細に説明される。
車両2は、制御部21と通信部22と記憶部23と撮像部24と音声入力部25と出力部26と測位部27とを含む。車両2の各構成要素は、例えば専用線を介して互いに通信可能に接続される。
車両2の制御部21と通信部22と記憶部23とのハードウェア構成は、情報処理装置1の制御部11と通信部12と記憶部13とのハードウェア構成と同一であってよい。ここでの説明は省略される。
撮像部24はカメラを含む。撮像部24は周囲を撮像することができる。撮像部24は画像解析のために、撮像した画像を記憶部23に記録し又は制御部21に送信してよい。画像は静止画又は動画を含む。
音声入力部25は、音声入力を受け付けるマイクロフォンを含む。音声入力部25は、車両2の内部又は外部の音を集音する。車両2の運転者が使用するスマートフォン等のマイク機能を有する電子機器が、音声入力部25として機能してもよい。音声入力部25は、車両2に備えられる代わりに、外部の出力機器として車両2に接続されてもよい。接続方式としては、例えば、USB、HDMI(登録商標)、又はBluetooth(登録商標)等の任意の方式を用いることができる。「USB」は、Universal Serial Busの略語である。「HDMI(登録商標)」は、High-Definition Multimedia Interfaceの略語である。
出力部26は、少なくとも1つの出力用インタフェースを含む。出力用インタフェースは、例えば、ディスプレイ又はスピーカである。ディスプレイは、例えば、LCD又は有機ELディスプレイである。「LCD」は、liquid crystal displayの略語である。「EL」は、electro luminescenceの略語である。出力部26は、車両2の動作によって得られる画像又は音声を出力する。画像又は音声は、所定の期間にわたるものであってよい。出力部26は、車両2に備えられる代わりに、外部の出力機器として車両2に接続されてもよい。接続方式としては、例えば、USB、HDMI(登録商標)、又はBluetooth(登録商標)等の任意の方式を用いることができる。
測位部27は、少なくとも1つのGNSS受信機を含む。「GNSS」は、Global Navigation Satellite Systemの略語である。GNSSには、例えば、GPS、QZSS、BeiDou、GLONASS、及びGalileoの少なくともいずれかが含まれる。「GPS」は、Global Positioning Systemの略語である。「QZSS」は、Quasi-Zenith Satellite Systemの略語である。QZSSの衛星は、準天頂衛星と呼ばれる。「GLONASS」は、Global Navigation Satellite Systemの略語である。測位部27は車両2の位置を測定する。測定の結果は、制御部21によって車両2の位置情報として取得される。「位置情報」とは、車両2の位置を特定可能な情報である。位置情報は例えば、住所、緯度、経度、又は高度を含む。
以下、本実施形態の情報処理システムSで実行される処理が詳細に説明される。
[訪問地に関する記憶処理]
車両2はユーザU01によって運転され、1以上の訪問地を訪問する。車両2は、測位部27による測位の結果を用いて、訪問地を判定する。図4に示されるように情報処理装置1は、訪問地を訪問したときの日時の情報に関連付けて、訪問地の情報を記憶部13の訪問地DBに記憶する。訪問地の情報は、ユーザU01の行動情報に含まれる運転情報の一例である。図4に示されるように、2020年3月1日のユーザU01による訪問内容は次のとおりである。
9:00 自宅から移動ルートB01にて職場Bを訪問
17:00 職場Bから移動ルートA01にて学校Aを訪問
ここでの学校Aを訪問する理由は、学校から自宅に帰る子どもを迎えるためである。
ここでは、ユーザU01が、2020年3月1日の上記訪問内容と同一内容の訪問を、翌日の3月2日から3月31日まで繰り返す場合が説明される。
車両2の制御部21は、測位の結果を用いて、各訪問地への移動ルートを判定する。制御部21は、移動ルートの情報を情報処理装置1に送信する。移動ルートの情報は、行動情報に含まれる運転情報の一例である。図4に示されるように、情報処理装置1は、移動ルートの情報を日時に関連付けて訪問地DBに記憶する。
制御部21は、各訪問地への移動中に、撮像部24を用いて車両2の周囲又はユーザU01を撮像することができる。
撮像は、各訪問地への移動中に毎回実行されてもよい。図4に示される画像D01乃至D04は、各訪問地への毎回の移動中に撮像及び記憶されたものである。しかし各訪問地への毎回の移動中に撮像が実行される必要は必ずしもない。すなわち画像D01乃至D04は必ずしも撮像されなくてよい。画像D01乃至D04が撮像される場合、画像D01乃至D04は後述の相異が検出される前の画像として利用可能である。
画像が静止画である場合、画像は移動中に少なくとも1回撮像される。画像が動画である場合、画像は移動中に常に撮像されてよいし、移動中の少なくとも一部の期間にわたって撮像されてよい。車両2の周囲は例えば車両2の前方を含むが、車両2の側方又は後方を含んでよい。制御部21は撮像された画像を情報処理装置1に送信する。図4に示されるように、情報処理装置1は、日時に関連付けて、画像を記憶部13の訪問地DBに記憶する。
制御部21は、各訪問地への移動中に、音声入力部25を用いて、車両2の内部又は外部の音声を取得することができる。音声の取得は、画像の撮像と同様に、各訪問地への移動中に毎回実行されてもよい。図4に示される音声D01乃至D04は、各訪問地への毎回の移動中に取得されたものである。音声D01乃至D04の取得は任意である。制御部21は、取得された音声のデータを情報処理装置1に送信する。図4に示されるように、情報処理装置1は音声を記憶部13に記憶する。
[訪問地に関する検出処理]
図4に示されるように、2020年4月1日以降、ユーザU01は学校Aを訪問しない。すなわち、特定の時期(ここでは2020年3月)での訪問地と、その後の時期(ここでは2020年4月)での訪問地とが異なる。この場合、制御部11は、行動情報の相異を検出する。相異が検出されるタイミングは例えば次の通りである。
・ユーザU01が上記その後の時期で新たに訪問するようになった訪問地を訪問するために、訪問地をカーナビ等の行き先として設定したとき(例:ユーザU01が2020年4月1日に職場BからスーパーマーケットCに移動するために、スーパーマーケットCをカーナビの行き先として設定したとき)
・ユーザU01が上記その後の時期で新たに訪問するようになった訪問地を訪問する途中、訪問地の滞在中、又は訪問地から帰る途中の車両2の位置情報から、新たな移動ルートが上記特定の時期での移動ルートと異なっていると判定されたとき(例:ユーザU01が2020年4月1日に職場BからスーパーマーケットCへ移動する途中に車両2が停止等したときの位置情報から、現在の移動ルートが2020年3月中の移動ルートと異なると判定されたとき)
特定の時期は、特定の時刻であってよいし、特定の期間であってもよい。
制御部11は、相異を検出すると、撮像部24を介して画像を取得する。具体的には制御部11は、例えば上記のタイミングで行動情報の相異を検出すると、車両2の撮像部24に画像を撮像するよう要求する。制御部11は、車両2の撮像部24を介して、例えばスーパーマーケットCへの移動中に画像又は音声D06を取得する。制御部11は画像又は音声D06を訪問地DBに記憶する。同様に制御部11は、2020年4月2日にも相異を検出すると、画像又は音声D08を取得する。
ここでの制御部11は、各訪問地への毎回の移動中に画像又は音声を取得する。具体的には制御部11は、画像又は音声D05及びD07を取得する。画像又は音声D05及びD07の取得は任意である。
上記の例では、画像又は音声は、特定の時期より後の時期で新たに訪問するようになった訪問地(ここではスーパーマーケットC)への移動中に取得される。代替例として、取得される画像又は音声は、上記後の時期での行動情報に関する画像又は音声であってよいし、上記後の時期で新たに訪問するようになった訪問地に関する画像又は音声であってよい。例えば画像又は音声は、新たに訪問するようになった訪問地での滞在中に取得されてよいし、訪問地からの帰りの途中に取得されてよい。
車両2の制御部21は、ユーザU01から出力要求を受け付けると、ユーザU01に要求された画像又は音声を訪問地DBから取得して、出力部26に出力する。ここでは、ユーザU01が学校Aを訪問していたときの画像又は音声D02が要求される場合が説明される。図6に示されるように、制御部21は、画像又は音声D02を出力部26に出力する。
代替例として、特定の時期での特定の訪問地への訪問頻度が、その後の時期で増加又は減少したとき、制御部11は、行動情報の相異を検出してよい。訪問頻度は、運転情報の一例である。例えば制御部11は、特定の訪問地への訪問頻度が1日1回から1週間に1回に減少したとき、行動情報の相異を検出する。制御部11は、行動情報の相異を検出すると、車両2の撮像部24を介して画像を取得する。制御部11は更に、車両2の音声入力部25を介してユーザU01の音声を取得してよい。制御部11は、頻度が増加又は減少する前の画像又は音声と、頻度が増加又は減少した後の画像又は音声との少なくとも一方を訪問地DBから取得して、出力部26に出力してよい。頻度が増加又は減少する前の画像又は音声と、頻度が増加又は減少した後の画像又は音声とは、出力部26において同一画面に出力されてよい。
図4に示されるように、2020年4月1日以降、職場Bへの移動ルートは移動ルートB01から移動ルートB02に変更された。すなわち特定の時期(ここでは2020年3月)での移動ルートと、その後の時期(ここでは2020年4月)での移動ルートとが異なる。この場合、制御部11は、行動情報の相異を検出する。制御部11は、行動情報の相異を検出すると、車両2の撮像部24に画像を撮像するよう要求する。制御部11は、車両2の撮像部24を介して、画像D05を取得する。制御部11は画像D05を訪問地DBに記憶する。制御部11は更に、車両2の音声入力部25を介してユーザU01の音声D05を取得してよい。制御部11は音声D05を訪問地DBに記憶する。
車両2の制御部21は、ユーザU01から出力要求を受け付けると、ユーザU01に要求された画像又は音声を訪問地DBから取得して、出力部26に出力する。例えば制御部21は、図7に示されるように、移動ルートが変更される前の画像又は音声D01(画面71に対応)と、移動ルートが変更された後の画像又は音声D05(画面72に対応)とを同一画面に出力することができる。
[動作に関する記憶処理]
制御部21は、撮像部24を用いて、定期的に又は不定期的にユーザU01を撮像する。制御部21は、撮像画像を情報処理装置1に送信する。制御部21は、音声入力部25を用いて、定期的に又は不定期的に車両2の内部のユーザU01の音声を取得する。制御部21は、取得された音声のデータを情報処理装置1に送信する。
情報処理装置1の制御部11は、ユーザU01の画像と音声とを記憶部13に記憶する。制御部11は、ユーザU01の画像と音声とを分析して、ユーザU01の感情を示す動作を検出する。感情を示す動作の情報は、行動情報に含まれる、ユーザU01の動作情報の一例である。動作は例えば、舌打ち、しかめっつら、あくび、笑い、ため息、目の見開きである。ここでの舌打ち及びしかめっつらは、不快又は不満を示す。あくびは眠気を示す。笑いは喜びを示す。ため息は不安又は不満を示す。目の見開きは驚き又は好奇心を示す。
制御部21は、撮像部24を用いて車両2の周囲又はユーザU01を撮像することができる。撮像は後述の相異検出が行われるときに限って実行されてよいし、定期的に実行されてもよい。制御部21は撮像された画像を情報処理装置1に送信する。図5に示されるように、情報処理装置1は、画像を記憶部13に記憶する。
制御部21は、音声入力部25を用いて、車両2の内部又は外部の音声を取得することができる。音声の取得は、後述の相異検出が行われるときに限って実行されてよいし、定期的に実行されてもよい。制御部21は、取得された音声のデータを情報処理装置1に送信する。図5に示されるように、情報処理装置1は音声を記憶部13に記憶する。
[動作に関する検出処理]
図5に示されるように、2020年3月2日9:00に、不快を示す舌打ちが検出される。同日の18:00に、眠気を示すあくびが検出される。すなわち特定の時期(ここでは2020年3月2日9:00)での感情と、その後の時期(ここでは3月2日18:00)での感情とが異なる。この場合、制御部11は、行動情報の相異を検出する。
制御部11は、行動情報の相異を検出すると、車両2の撮像部24に、車両2の周囲又はユーザU01の画像を撮像するよう要求する。制御部11は、車両2の撮像部24を介して、画像を取得する。ここでは、あくびが検出されたときの画像D10が取得される。制御部11は画像を動作DBに記憶する。制御部11は更に、車両2の音声入力部25を介してユーザU01の音声D10を取得してよい。制御部11は音声を動作DBに記憶する。
車両2の制御部21は、ユーザU01から出力要求を受け付けると、ユーザU01に要求された画像又は音声を動作DBから取得して、出力部26に出力する。ここでは、ユーザU01があくびをしたときの画像又は音声D10が要求及び出力される。
[フローチャート]
図8を参照して、本実施形態の情報処理装置1による情報処理方法が説明される。情報処理方法は定期的に実行されてよい。
ステップS1にて情報処理装置1の制御部11は、通信部12を介して車両2から行動情報を取得して、行動情報を記憶部13に記憶する。
ステップS2にて制御部11は、特定の時期での行動情報と、その後の時期での行動情報との相異が検出されたか否かを判定する。
ステップS2にてYesのとき制御部11は、ステップS3にて、車両2の撮像部24に、車両2の周囲の画像又はユーザU01の画像を撮像させる。制御部11はステップS4にて、車両2から取得した撮像画像を記憶部13に記憶する。
ステップS2にてNoのとき制御部11は、ステップS3及びステップS4を実行せずにフローを終了する。
以上述べたように本実施形態によれば、情報処理装置1の制御部11は、車両2内のユーザU01の行動情報を、日時と関連付けて記憶し、特定の時期での行動情報と、特定の時期より後の時期での行動情報との相異を検出すると、車両2の撮像部を介して画像を取得する。制御部11は、日時及び行動情報と関連付けて、画像を記憶する。この構成により情報処理装置1は、ユーザの行動変化があるときの画像を自動的に保存することができる。もって情報処理装置1は、特定の思い出に関連する画像をユーザU01が後に抽出することを可能にする。
また本実施形態によれば、行動情報は、車両2の運転情報を含む。運転情報は、訪問地と、特定の訪問地への訪問頻度と、特定の訪問地への移動ルートとの少なくとも1つを含む。この構成により情報処理装置1は、運転中の思い出に関連する画像をユーザU01が後に抽出することを可能にする。
また本実施形態によれば、行動情報は、ユーザU01の動作情報を含む。動作情報は、ユーザU01の感情を示す動作の情報を含む。この構成により情報処理装置1は、ユーザU01の感情が現れたときの思い出に関連する画像をユーザU01が後に抽出することを可能にする。
また本実施形態によれば、制御部11は更に、相異を検出すると、車両2の音声入力部25を介してユーザU01の音声を取得する。この構成により情報処理装置1は、特定の思い出に関連する音声をユーザU01が後に抽出することを可能にする。
また本実施形態によれば、制御部11は、相異を検出すると、相異の前後の画像を車両2の出力部26に出力する。この構成により情報処理装置1は、相異の前後の画像をユーザU01が比較することを可能にする。
本開示が諸図面及び実施例に基づき説明されるが、当業者であれば本開示に基づき種々の変形及び改変を行ってもよいことに注意されたい。その他、本開示の趣旨を逸脱しない範囲での変更が可能である。例えば、各手段又は各ステップに含まれる機能等は論理的に矛盾しないように再配置可能であり、複数の手段又はステップを1つに組み合わせたり、或いは分割したりすることが可能である。
例えば、上記の実施形態において、情報処理装置1の機能又は処理の全部又は一部を実行するプログラムは、コンピュータで読取り可能な記録媒体に記録しておくことができる。コンピュータで読取り可能な記録媒体は、非一時的なコンピュータ読取可能な媒体を含み、例えば、磁気記録装置、光ディスク、光磁気記録媒体、又は半導体メモリである。プログラムの流通は、例えば、プログラムを記録したDVD(Digital Versatile Disc)又はCD-ROM(Compact Disc Read Only Memory)などの可搬型記録媒体を販売、譲渡、又は貸与することによって行う。またプログラムの流通は、プログラムを任意のサーバのストレージに格納しておき、任意のサーバから他のコンピュータにプログラムを送信することにより行ってもよい。またプログラムはプログラムプロダクトとして提供されてもよい。本開示は、プロセッサが実行可能なプログラムとしても実現可能である。
コンピュータは、例えば、可搬型記録媒体に記録されたプログラム又はサーバから転送されたプログラムを、一旦、主記憶装置に格納する。そして、コンピュータは、主記憶装置に格納されたプログラムをプロセッサで読み取り、読み取ったプログラムに従った処理をプロセッサで実行する。コンピュータは、可搬型記録媒体から直接プログラムを読み取り、プログラムに従った処理を実行してもよい。コンピュータは、コンピュータにサーバからプログラムが転送される度に、逐次、受け取ったプログラムに従った処理を実行してもよい。サーバからコンピュータへのプログラムの転送は行わず、実行指示及び結果取得のみによって機能を実現する、いわゆるASP型のサービスによって処理を実行してもよい。「ASP」は、application service providerの略語である。プログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるものが含まれる。例えば、コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータは、「プログラムに準ずるもの」に該当する。
S 情報処理システム
NW ネットワーク
1 情報処理装置
11 制御部
12 通信部
13 記憶部
2 車両
21 制御部
22 通信部
23 記憶部
24 撮像部
25 音声入力部
26 出力部

Claims (17)

  1. 車両と通信可能な情報処理装置であって、制御部を含み、前記制御部は、
    ユーザが運転する前記車両の運転情報を、日時と関連付けて記憶し、
    特定の時期での運転情報と、前記特定の時期より後の時期での運転情報との相異を検出すると、前記車両の撮像部を介して画像を取得し、
    前記日時及び前記運転情報と関連付けて、前記画像を記憶する、
    情報処理装置。
  2. 請求項に記載の情報処理装置において、
    前記運転情報は、訪問地と、特定の訪問地への訪問頻度と、特定の訪問地への移動ルートとの少なくとも1つを含む、情報処理装置。
  3. 請求項1又は2に記載の情報処理装置において、
    前記制御部は、
    さらに、前記車両内の前記ユーザの動作情報を、日時と関連付けて記憶し、
    特定の時期での動作情報と、前記特定の時期より後の時期での動作情報との相異を検出すると、前記車両の撮像部を介して画像を取得し、
    前記日時及び前記動作情報と関連付けて、前記画像を記憶する、情報処理装置。
  4. 請求項に記載の情報処理装置において、
    前記動作情報は、前記ユーザの感情を示す動作の情報を含む、情報処理装置。
  5. 請求項1乃至のいずれか一項に記載の情報処理装置において、
    前記制御部は更に、前記相異を検出すると、前記車両の音声入力部を介して前記ユーザの音声を取得する、情報処理装置。
  6. 請求項1乃至のいずれか一項に記載の情報処理装置において、
    前記制御部は更に、前記相異を検出すると、前記相異の前後の画像を前記車両の出力部に出力する、情報処理装置。
  7. 請求項1乃至のいずれか一項に記載の情報処理装置が搭載された車両。
  8. 車両と通信可能な情報処理装置としてのコンピュータに、
    ユーザが運転する前記車両の運転情報を、日時と関連付けて記憶することと、
    特定の時期での運転情報と、前記特定の時期より後の時期での運転情報との相異を検出すると、前記車両の撮像部を介して画像を取得することと、
    前記日時及び前記運転情報と関連付けて、前記画像を記憶することと、
    を含む動作を実行させる、プログラム。
  9. 請求項に記載のプログラムにおいて、
    前記運転情報は、訪問地と、特定の訪問地への訪問頻度と、特定の訪問地への移動ルートとの少なくとも1つを含む、プログラム。
  10. 請求項8又は9に記載のプログラムにおいて、
    さらに、前記車両内の前記ユーザの動作情報を、日時と関連付けて記憶することと、
    特定の時期での動作情報と、前記特定の時期より後の時期での動作情報との相異を検出すると、前記車両の撮像部を介して画像を取得することと、
    前記日時及び前記動作情報と関連付けて、前記画像を記憶することと、を含む、プログラム。
  11. 請求項10に記載のプログラムにおいて、
    前記動作情報は、前記ユーザの感情を示す動作の情報を含む、プログラム。
  12. 請求項乃至11のいずれか一項に記載のプログラムにおいて、
    前記相異を検出すると、前記車両の音声入力部を介して前記ユーザの音声を取得することを前記コンピュータに更に実行させる、プログラム。
  13. 車両と通信可能な情報処理装置による情報処理方法であって、
    ユーザが運転する前記車両の運転情報を、日時と関連付けて記憶することと、
    特定の時期での運転情報と、前記特定の時期より後の時期での運転情報との相異を検出すると、前記車両の撮像部を介して画像を取得することと、
    前記日時及び前記運転情報と関連付けて、前記画像を記憶することと、
    を含む情報処理方法。
  14. 請求項13に記載の情報処理方法において、
    前記運転情報は、訪問地と、特定の訪問地への訪問頻度と、特定の訪問地への移動ルートとの少なくとも1つを含む、情報処理方法。
  15. 請求項13又は14に記載の情報処理方法において、
    さらに、前記車両内の前記ユーザの動作情報を、日時と関連付けて記憶することと、
    特定の時期での動作情報と、前記特定の時期より後の時期での動作情報との相異を検出すると、前記車両の撮像部を介して画像を取得することと、
    前記日時及び前記動作情報と関連付けて、前記画像を記憶することと、を含む、情報処理方法。
  16. 請求項15に記載の情報処理方法において、
    前記動作情報は、前記ユーザの感情を示す動作の情報を含む、情報処理方法。
  17. 請求項13乃至16のいずれか一項に記載の情報処理方法において、
    前記相異を検出すると、前記車両の音声入力部を介して前記ユーザの音声を取得することを更に含む情報処理方法。
JP2021068548A 2021-04-14 2021-04-14 情報処理装置、プログラム及び情報処理方法 Active JP7484802B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2021068548A JP7484802B2 (ja) 2021-04-14 2021-04-14 情報処理装置、プログラム及び情報処理方法
US17/658,452 US11993271B2 (en) 2021-04-14 2022-04-08 Information processing apparatus, non-transitory storage medium, and information processing method
KR1020220044390A KR102833062B1 (ko) 2021-04-14 2022-04-11 정보 처리 장치, 비일시적 기억 매체 및 정보 처리 방법
CA3155713A CA3155713A1 (en) 2021-04-14 2022-04-12 Information processing apparatus, non-transitory storage medium, and information processing method
CN202210381327.2A CN115209046B (zh) 2021-04-14 2022-04-12 信息处理设备,非暂时性存储介质和信息处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021068548A JP7484802B2 (ja) 2021-04-14 2021-04-14 情報処理装置、プログラム及び情報処理方法

Publications (2)

Publication Number Publication Date
JP2022163545A JP2022163545A (ja) 2022-10-26
JP7484802B2 true JP7484802B2 (ja) 2024-05-16

Family

ID=83574712

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021068548A Active JP7484802B2 (ja) 2021-04-14 2021-04-14 情報処理装置、プログラム及び情報処理方法

Country Status (5)

Country Link
US (1) US11993271B2 (ja)
JP (1) JP7484802B2 (ja)
KR (1) KR102833062B1 (ja)
CN (1) CN115209046B (ja)
CA (1) CA3155713A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020013438A (ja) 2018-07-20 2020-01-23 株式会社Jvcケンウッド 記録制御装置、記録制御方法および記録制御プログラム
JP2020052948A (ja) 2018-09-28 2020-04-02 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP2020127175A (ja) 2019-02-06 2020-08-20 本田技研工業株式会社 画像取得システム、画像取得方法、およびプログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008076362A (ja) * 2006-09-25 2008-04-03 Matsushita Electric Ind Co Ltd ナビゲーション装置、ナビゲーション方法、及びナビゲーションプログラム
JP2012220440A (ja) * 2011-04-13 2012-11-12 Fujitsu Ten Ltd 情報提供装置、方法およびプログラム
KR20150061245A (ko) * 2013-11-27 2015-06-04 (주)위니테크놀러지 차량용 영상 저장 장치 및 경로 정보 제공 방법
KR20160148394A (ko) * 2015-06-16 2016-12-26 엘지전자 주식회사 자율 주행 차량
CA3002636C (en) * 2015-10-22 2023-01-10 Nissan Motor Co., Ltd. Parking support information display method and parking support device
CN109690601B (zh) * 2016-09-30 2022-11-18 本田技研工业株式会社 信息提供装置和移动体
WO2018170074A1 (en) * 2017-03-14 2018-09-20 Starsky Robotics, Inc. Vehicle sensor system and method of use
CN107478241A (zh) * 2017-08-24 2017-12-15 戴姆勒股份公司 基于用户出行需求的日程规划和路线导航的方法
JP7028608B2 (ja) 2017-11-06 2022-03-02 トヨタ自動車株式会社 情報処理装置、情報処理方法、及びプログラム
CN108171176B (zh) * 2017-12-29 2020-04-24 中车工业研究院有限公司 一种基于深度学习的地铁司机情绪辨识方法及装置
KR102862470B1 (ko) * 2019-06-28 2025-09-24 엘지전자 주식회사 주차 위치 알림 장치 및 방법
JP7156208B2 (ja) * 2019-08-08 2022-10-19 トヨタ自動車株式会社 車両遠隔指示システム及び遠隔指示装置
CN112581750B (zh) * 2019-09-29 2022-08-09 北京地平线机器人技术研发有限公司 车辆行驶控制方法、装置、可读存储介质及电子设备

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020013438A (ja) 2018-07-20 2020-01-23 株式会社Jvcケンウッド 記録制御装置、記録制御方法および記録制御プログラム
JP2020052948A (ja) 2018-09-28 2020-04-02 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP2020127175A (ja) 2019-02-06 2020-08-20 本田技研工業株式会社 画像取得システム、画像取得方法、およびプログラム

Also Published As

Publication number Publication date
KR20220142361A (ko) 2022-10-21
JP2022163545A (ja) 2022-10-26
KR102833062B1 (ko) 2025-07-14
US11993271B2 (en) 2024-05-28
CN115209046A (zh) 2022-10-18
US20220332326A1 (en) 2022-10-20
CN115209046B (zh) 2024-05-28
CA3155713A1 (en) 2022-10-14

Similar Documents

Publication Publication Date Title
JP7405057B2 (ja) 制御装置、プログラム及び制御方法
JP7028237B2 (ja) 情報処理装置、情報処理システム、プログラム、情報処理方法及びナビゲーション装置
JP7484802B2 (ja) 情報処理装置、プログラム及び情報処理方法
JP7351805B2 (ja) 情報処理方法、プログラム、車載装置及び車両
JP7600829B2 (ja) 情報処理装置、プログラム及び情報処理方法
JP7790365B2 (ja) 方法
US12136337B2 (en) Information processing apparatus, program, and information processing method
CN115465198B (zh) 图像投影装置、存储介质和图像投影方法
CN114581074A (zh) 信息处理装置及方法、非临时性的计算机可读取的介质
JP7559681B2 (ja) 情報処理装置、プログラム及び情報処理方法
US20220049966A1 (en) Control apparatus, service facility, server apparatus, system, and content output method
KR20220142929A (ko) 정보 처리 장치, 비일시적 기억 매체 및 정보 처리 방법
US20210276477A1 (en) Control apparatus, vehicle, non-transitory computer readable medium, and control method
EP4535275A1 (en) Information processing device and information processing method
JP7718288B2 (ja) 情報処理装置
JP7439695B2 (ja) 情報処理装置、情報処理システム、プログラム及び情報処理方法
JP7743826B2 (ja) 情報処理装置
JP7680338B2 (ja) 情報処理装置、プログラム及び情報処理方法
JP2023058379A (ja) 車両
JP2022012573A (ja) 情報処理方法、プログラム、車載装置、車両、情報処理装置及び情報処理システム
JP2022070763A (ja) センターサーバ
CN115204548A (zh) 信息处理装置、记录介质以及信息处理方法
KR20220117792A (ko) 정보 처리 장치, 차량, 비일시적인 기억 매체 및 정보 처리 방법
JP2024119425A (ja) 情報処理装置、及び、方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240312

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240415

R150 Certificate of patent or registration of utility model

Ref document number: 7484802

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150