JP7441682B2 - データ処理システムおよびデータ圧縮方法 - Google Patents
データ処理システムおよびデータ圧縮方法 Download PDFInfo
- Publication number
- JP7441682B2 JP7441682B2 JP2020038808A JP2020038808A JP7441682B2 JP 7441682 B2 JP7441682 B2 JP 7441682B2 JP 2020038808 A JP2020038808 A JP 2020038808A JP 2020038808 A JP2020038808 A JP 2020038808A JP 7441682 B2 JP7441682 B2 JP 7441682B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- compression
- learning
- region
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0626—Reducing size or complexity of storage systems
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0608—Saving storage space on storage systems
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/0671—In-line storage system
- G06F3/0673—Single storage device
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
本実施の形態は、データ量の削減に関するものである。本実施の形態では、AI向けの非可逆圧縮器を備えるストレージシステムを例に挙げて説明する。
図1において、100は全体として第1の実施の形態によるデータ処理システムを示す。
ストレージシステム140に係る構成について、図2を用いて説明する。図2は、ストレージシステム140に係る構成の一例を示す図である。
System)上で動作する異なるアプリケーションであってもよい。
管理端末120は、管理端末120が通信可能に接続された出力装置に、第1のアプリケーション登録画面300、第2のアプリケーション登録画面400、または、その両方を表示する。いずれの画面もユーザに指定させる情報は等価であるが、指定させる方法が異なる。
図5および図6を用いて、データ処理システム100が備える主な機能について説明し、図7および図8を用いてデータ処理システム100が備える主な情報について説明する。
図9を用いて、AI処理基盤130がアプリケーション管理テーブル132を更新する処理(アプリケーション管理テーブル更新処理)について説明する。
図10を用いて、ストレージシステム140がAIモデル管理テーブル141を更新する処理(AIモデル管理テーブル更新処理)について説明する。
図11を用いて、ストレージシステム140が圧縮器142および伸長器143を学習する処理(圧縮伸長器学習処理)について説明する。
図13を用いて、ストレージシステム140がデータを書き込む処理(データ書き込み処理)について説明する。
図14を用いて、ストレージシステム140がデータを読み出す処理(データ読み出し処理)について説明する。
本実施の形態の概要について、図15を用いて説明する。なお、本実施の形態では、第1の実施の形態と同じ構成については、同じ符号を用いてその説明を適宜省略する。
本実施の形態では、ストレージシステム140は、管理端末120を介してユーザに指定させた、品質指標、AI注視領域の品質目標、およびAI注視領域外の品質目標に基づいて品質を計算する。なお、本実施の形態では、第1の実施の形態と同じ構成については、同じ符号を用いてその説明を適宜省略する。
図18は、本実施の形態の概要を表す。第1の実施の形態~第3の実施の形態では、AI注視領域に基づいて画質を制御するように、圧縮器142を学習させている。これは、圧縮器142が、内部的にAI注視領域の推定が行われるように学習されることを意味する。しかしながら、圧縮器142で行われるAI注視領域の推定は、誤差を伴う可能性がある。特に、本来、AI注視領域であるにも関わらず、AI注視領域以外であると判定される領域が存在すると、当該領域の品質が低下する可能性がある。
上述の実施の形態には、例えば、以下のような内容が含まれる。
Claims (10)
- プロセッサと、
記憶装置と、
を備え、
データを圧縮および伸長する学習済みの圧縮伸長器を用いてデータを入出力するデータ処理システムにおいて、
学習データを用いて、データモデルが注視する領域を推定する推定部と、
前記注視する領域に基づいて各領域を重み付けした評価関数と、前記圧縮伸長器が前記学習データを圧縮および伸長した結果とに基づいて、前記圧縮伸長器を学習させる学習部と、
データを生成する生成源と、前記データを用いるデータモデルと、が対応付けられた管理情報を管理する管理部と、
を備え、
前記推定部は、前記生成源の学習データについて、前記管理情報をもとに前記学習データに対応するデータモデルを特定し、特定したデータモデルが注視する領域を推定し、
前記学習部は、前記学習データと、前記生成源に対応する圧縮伸長器が用いられて前記学習データが圧縮されてから伸長されたデータと、前記学習データについて前記推定部により推定された領域の重みとを用いて計算した指標を評価関数として前記圧縮伸長器を学習する、
データ処理システム。 - データを生成する生成源と、前記データを用いるデータモデルとを指定可能なインターフェース部と、
データモデルを有し、前記データモデルを実行する処理基盤から、前記インターフェース部により指定されたデータモデルを取得する取得部と、前記推定部と、前記管理部とを含んで構成されるストレージシステムと、
を備え、
前記管理部は、前記インターフェース部により指定された生成源と前記取得部により取得されたデータモデルとを対応付けて前記管理情報を生成する、
請求項1に記載のデータ処理システム。 - 前記管理情報では、データを生成する生成源と、前記データを用いるデータモデルと、前記データモデルが注視する領域の品質の目標値と、前記領域以外の領域の品質の目標値とが対応付けられ、
前記学習部は、前記学習データと、前記生成源に対応する圧縮伸長器が用いられて前記学習データが圧縮されてから伸長されたデータと、前記学習データについて前記推定部により推定された領域の重みと、前記領域の品質の目標値と、前記領域以外の領域の品質の目標値とを用いて計算した指標を評価関数として前記圧縮伸長器を学習する、
請求項1に記載のデータ処理システム。 - プロセッサと、
記憶装置と、
を備え、
データを圧縮および伸長する学習済みの圧縮伸長器を用いてデータを入出力するデータ処理システムにおいて、
学習データを用いて、データモデルが注視する領域を推定する推定部と、
前記注視する領域に基づいて各領域を重み付けした評価関数と、前記圧縮伸長器が前記学習データを圧縮および伸長した結果とに基づいて、前記圧縮伸長器を学習させる学習部と、
を備え、
前記圧縮伸長器は、圧縮器と伸長器とを有し、
前記領域の推定の不確かさを計算し、不確かさが閾値以上の領域を特定し、特定した領域に対応する前記データにおける領域データまたは前記圧縮器より高品質の圧縮器で前記データを圧縮した圧縮データを置換用データとして保持する保持部と、
前記データの読み出しに対し、前記データの圧縮データを伸長器で伸長し、伸長データを前記置換用データで置換した置換済みデータを、前記データの要求元に応答する応答部と、
を備える、
データ処理システム。 - RoI(Region of Interest)機能を有する圧縮伸長器を用いる、
請求項1に記載のデータ処理システム。 - プロセッサと、
記憶装置と、
を備え、
データを圧縮および伸長する学習済みの圧縮伸長器を用いてデータを入出力するデータ処理システムにおけるデータ圧縮方法であって、
推定部が、学習データを用いて、データモデルが注視する領域を推定することと、
学習部が、前記注視する領域に基づいて各領域を重み付けした評価関数と、前記圧縮伸長器が前記学習データを圧縮および伸長した結果とに基づいて、前記圧縮伸長器を学習させることと、
管理部が、データを生成する生成源と、前記データを用いるデータモデルと、が対応付けられた管理情報を管理することと、
を含み、
前記推定部は、前記生成源の学習データについて、前記管理情報をもとに前記学習データに対応するデータモデルを特定し、特定したデータモデルが注視する領域を推定し、
前記学習部は、前記学習データと、前記生成源に対応する圧縮伸長器が用いられて前記学習データが圧縮されてから伸長されたデータと、前記学習データについて前記推定部により推定された領域の重みとを用いて計算した指標を評価関数として前記圧縮伸長器を学習する、
データ圧縮方法。 - プロセッサと、
記憶装置と、
を備え、
データを圧縮および伸長する学習済みの圧縮伸長器を用いてデータを入出力するデータ処理システムにおけるデータ圧縮方法であって、
前記圧縮伸長器は、圧縮器と伸長器とを有し、
推定部が、学習データを用いて、データモデルが注視する領域を推定することと、
学習部が、前記注視する領域に基づいて各領域を重み付けした評価関数と、前記圧縮伸長器が前記学習データを圧縮および伸長した結果とに基づいて、前記圧縮伸長器を学習させることと、
保持部が、前記領域の推定の不確かさを計算し、不確かさが閾値以上の領域を特定し、特定した領域に対応する前記データにおける領域データまたは前記圧縮器より高品質の圧縮器で前記データを圧縮した圧縮データを置換用データとして保持することと、
応答部が、前記データの読み出しに対し、前記データの圧縮データを伸長器で伸長し、伸長データを前記置換用データで置換した置換済みデータを、前記データの要求元に応答することと、
を含む、
データ圧縮方法。 - プロセッサと、
記憶装置と、
を備え、
データを圧縮および伸長する学習済みの圧縮伸長器を用いてデータを入出力するコンピュータにおいて、
学習データを用いて、データモデルが注視する領域を推定し、
前記注視する領域に基づいて各領域を重み付けした評価関数と、前記圧縮伸長器が前記学習データを圧縮および伸長した結果とに基づいて、前記圧縮伸長器を学習させ、
データを生成する生成源と、前記データを用いるデータモデルと、が対応付けられた管理情報を管理し、
前記生成源の学習データについて、前記管理情報をもとに前記学習データに対応するデータモデルを特定し、特定したデータモデルが注視する領域を推定し、
前記学習データと、前記生成源に対応する圧縮伸長器が用いられて前記学習データが圧縮されてから伸長されたデータと、前記学習データについて前記推定された領域の重みとを用いて計算した指標を評価関数として前記圧縮伸長器を学習する、
ことを前記コンピュータに実行させる、
コンピュータプログラム。 - 前記管理情報では、データを生成する生成源と、前記データを用いるデータモデルと、前記データモデルが注視する領域の品質の目標値と、前記領域以外の領域の品質の目標値とが対応付けられ、
前記学習データと、前記生成源に対応する圧縮伸長器が用いられて前記学習データが圧縮されてから伸長されたデータと、前記学習データについて前記推定された領域の重みと、前記領域の品質の目標値と、前記領域以外の領域の品質の目標値とを用いて計算した指標を評価関数として前記圧縮伸長器を学習する、
ことを前記コンピュータに実行させる、請求項8に記載のコンピュータプログラム。 - プロセッサと、
記憶装置と、
を備え、
データを圧縮および伸長する学習済みの圧縮伸長器を用いてデータを入出力するコンピュータにおいて、
学習データを用いて、データモデルが注視する領域を推定し、
前記注視する領域に基づいて各領域を重み付けした評価関数と、前記圧縮伸長器が前記学習データを圧縮および伸長した結果とに基づいて、前記圧縮伸長器を学習させ、
前記圧縮伸長器は、圧縮器と伸長器とを有し、
前記領域の推定の不確かさを計算し、不確かさが閾値以上の領域を特定し、特定した領域に対応する前記データにおける領域データまたは前記圧縮器より高品質の圧縮器で前記データを圧縮した圧縮データを置換用データとして保持し、
前記データの読み出しに対し、前記データの圧縮データを伸長器で伸長し、伸長データを前記置換用データで置換した置換済みデータを、前記データの要求元に応答する、
ことを前記コンピュータに実行させる、
コンピュータプログラム。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020038808A JP7441682B2 (ja) | 2020-03-06 | 2020-03-06 | データ処理システムおよびデータ圧縮方法 |
| US17/642,843 US11842055B2 (en) | 2020-03-06 | 2021-03-04 | Data processing system and data compression method |
| PCT/JP2021/008346 WO2021177394A1 (ja) | 2020-03-06 | 2021-03-04 | データ処理システムおよびデータ圧縮方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020038808A JP7441682B2 (ja) | 2020-03-06 | 2020-03-06 | データ処理システムおよびデータ圧縮方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2021140554A JP2021140554A (ja) | 2021-09-16 |
| JP7441682B2 true JP7441682B2 (ja) | 2024-03-01 |
Family
ID=77613488
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020038808A Active JP7441682B2 (ja) | 2020-03-06 | 2020-03-06 | データ処理システムおよびデータ圧縮方法 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US11842055B2 (ja) |
| JP (1) | JP7441682B2 (ja) |
| WO (1) | WO2021177394A1 (ja) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20220150125A1 (en) * | 2021-12-22 | 2022-05-12 | Intel Corporation | AI Named Function Infrastructure and Methods |
| WO2023242927A1 (ja) * | 2022-06-13 | 2023-12-21 | 日本電信電話株式会社 | データ管理装置、データ管理方法、及びプログラム |
| JP7752660B2 (ja) * | 2023-08-03 | 2025-10-10 | 日立ヴァンタラ株式会社 | ストレージ装置 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6985853B2 (en) * | 2002-02-28 | 2006-01-10 | Broadcom Corporation | Compressed audio stream data decoder memory sharing techniques |
| JP3966461B2 (ja) * | 2002-08-09 | 2007-08-29 | 株式会社リコー | 電子カメラ装置 |
| JP4757038B2 (ja) | 2006-01-25 | 2011-08-24 | 株式会社日立製作所 | ストレージシステム及び記憶制御装置 |
| JP6826021B2 (ja) | 2017-11-20 | 2021-02-03 | 株式会社日立製作所 | ストレージシステム |
| US10757482B2 (en) * | 2017-12-05 | 2020-08-25 | Fdn. for Res.&Bus., Seoul Nat. Univ. of Sci.&Tech. | System and method for predicting user viewpoint using location information of sound source in 360 VR contents |
-
2020
- 2020-03-06 JP JP2020038808A patent/JP7441682B2/ja active Active
-
2021
- 2021-03-04 WO PCT/JP2021/008346 patent/WO2021177394A1/ja not_active Ceased
- 2021-03-04 US US17/642,843 patent/US11842055B2/en active Active
Non-Patent Citations (2)
| Title |
|---|
| AKUTSU Hiroaki and NARUKO Takahiro,End-to-End Learned ROI Image Compression,CVPR 2019 open access [online],2019年,[検索日 2021.05.10], インターネット:<URL: https://openaccess.thecvf.com/content_CVPRW_2019/papers/CLIC%202019/Akutsu_End-to-End_Learned_ROI_Image_Compression_CVPRW_2019_paper.pdf> |
| CAI Chunlei et al.,End-to-End Optimized ROI Image Compression,IEEE Transactions on Image Processing [online],IEEE,2019年12月25日,Vol.29,pp.3442 - 3457,[検索日 2021.05.10], インターネット:<URL: https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=8943263>,<DOI: 10.1109/TIP.2019.2960869> |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2021177394A1 (ja) | 2021-09-10 |
| JP2021140554A (ja) | 2021-09-16 |
| US20220374156A1 (en) | 2022-11-24 |
| US11842055B2 (en) | 2023-12-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10936950B1 (en) | Processing sequential interaction data | |
| JP7441682B2 (ja) | データ処理システムおよびデータ圧縮方法 | |
| CN113656587B (zh) | 文本分类方法、装置、电子设备及存储介质 | |
| JP6569047B1 (ja) | 学習方法、コンピュータプログラム、分類器、及び生成器 | |
| JP2025514092A (ja) | コンテキストにわたる意味的に関連するコンピューティングタスクの自動化 | |
| JP7242994B2 (ja) | ビデオイベント識別方法、装置、電子デバイス及び記憶媒体 | |
| US20190378506A1 (en) | Method and apparatus for synthesizing adaptive data visualizations | |
| CN115994558A (zh) | 医学影像编码网络的预训练方法、装置、设备及存储介质 | |
| CN110023984A (zh) | 用于汇总内容的电子设备和方法 | |
| CN116977459A (zh) | 图片生成模型的确定方法及装置、图片生成方法及装置 | |
| CN120804353A (zh) | 图像处理模型的训练方法、图像推荐方法、装置、设备和介质 | |
| JP2023168813A (ja) | 情報処理方法、情報処理装置およびプログラム | |
| JP7328799B2 (ja) | ストレージシステムおよび記憶制御方法 | |
| US20250013687A1 (en) | Systems and methods for integrating knowledge from a plurality of data sources | |
| KR20220169695A (ko) | 전자장치 및 그 제어방법 | |
| CN121909449A (zh) | 使用大型语言模型生成基于视图的可访问性信息 | |
| CN113449092B (zh) | 语料获取方法、装置、电子设备及存储介质 | |
| CN119384655A (zh) | 生成用于导航hci的跨域指导 | |
| JPWO2017002190A1 (ja) | データの管理装置及びデータの管理方法 | |
| US20260030205A1 (en) | Folder summarization using generative models | |
| EP3624065A1 (en) | Classification of knowledge management assets | |
| CN117315773B (zh) | 一种可持续学习的唇语识别模型训练方法及装置 | |
| US20230418429A1 (en) | Computer-readable recording medium storing information processing program, information processing method, and information processing apparatus | |
| CN118585114A (zh) | 申请凭证的交互方法、装置、计算机设备和存储介质 | |
| JP7442430B2 (ja) | 審査支援システム、及び審査支援方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220725 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230829 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231012 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231128 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240109 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240206 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240219 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7441682 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |