JP4338068B2 - ストレージシステム - Google Patents
ストレージシステム Download PDFInfo
- Publication number
- JP4338068B2 JP4338068B2 JP2002077499A JP2002077499A JP4338068B2 JP 4338068 B2 JP4338068 B2 JP 4338068B2 JP 2002077499 A JP2002077499 A JP 2002077499A JP 2002077499 A JP2002077499 A JP 2002077499A JP 4338068 B2 JP4338068 B2 JP 4338068B2
- Authority
- JP
- Japan
- Prior art keywords
- disk
- unit
- information
- control
- memory
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/16—Error detection or correction of the data by redundancy in hardware
- G06F11/20—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
- G06F11/2002—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where interconnections or communication control functionality are redundant
- G06F11/2007—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where interconnections or communication control functionality are redundant using redundant communication media
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/16—Error detection or correction of the data by redundancy in hardware
- G06F11/20—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
- G06F11/2002—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where interconnections or communication control functionality are redundant
- G06F11/2007—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where interconnections or communication control functionality are redundant using redundant communication media
- G06F11/201—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where interconnections or communication control functionality are redundant using redundant communication media between storage system components
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/16—Error detection or correction of the data by redundancy in hardware
- G06F11/20—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
- G06F11/2053—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant
- G06F11/2089—Redundant storage control functionality
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0604—Improving or facilitating administration, e.g. storage management
- G06F3/0607—Improving or facilitating administration, e.g. storage management by facilitating the process of upgrading existing storage systems, e.g. for improving compatibility between host and storage device
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0655—Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
- G06F3/0658—Controller construction arrangements
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/16—Error detection or correction of the data by redundancy in hardware
- G06F11/20—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
- G06F11/2002—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where interconnections or communication control functionality are redundant
- G06F11/2005—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where interconnections or communication control functionality are redundant using redundant communication controllers
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
【発明の属する技術分野】
本発明は、データを複数のディスク装置に格納するストレージシステムとそれを構成するディスク制御クラスタに関する。
【0002】
【従来の技術】
半導体記憶装置を記憶媒体とするコンピュータの主記憶のI/O性能に比べて、磁気ディスクを記憶媒体とするディスクサブシステム(以下「サブシステム」という。)のI/O性能は3〜4桁程度小さく、従来からこの差を縮めること、すなわちサブシステムのI/O性能を向上させる努力がなされている。サブシステムのI/O性能を向上させるための1つの方法として、複数のディスク装置でサブシステムを構成し、データを複数のディスク装置に格納する、いわゆるディスクと呼ばれるシステムが知られている。
【0003】
例えば、従来技術では、図2に示すようにホストコンピュータ3とディスク制御装置4との間のデータ転送を実行する複数のチャネルIF部11と、ディスク装置2とディスク制御装置4間のデータ転送を実行する複数のディスクIF部16と、ディスク装置2のデータとディスク制御装置4に関する制御情報(例えば、ディスク制御装置4内のデータ転送制御に関する情報、ディスク装置2に格納するデータの管理情報)を格納する共有メモリ部20とを備え、1つのディスク制御装置4内において、共有メモリ部20は全てのチャネルIF部11及びディスクIF部16からアクセス可能な構成となっている。このディスク制御装置4では、チャネルIF部11及びディスクIF部16と共有メモリ部20との間は相互結合網30で接続される。
【0004】
チャネルIF部11は、ホストコンピュータ3と接続するためのインターフェース及びホストコンピュータ3に対する入出力を制御するマイクロプロセッサ(図示せず)を有している。また、ディスクIF部16は、ディスク装置2と接続するためのインターフェース及びディスク装置2に対する入出力を制御するマイクロプロセッサ(図示せず)を有している。また、ディスクIF部16は、RAID機能の実行も行う。
インターネットの普及等により企業で扱うデータは爆発的に増大しており、データセンタ等では一台のディスク制御装置で扱えるデータ量以上のデータを記憶する必要がある。このため、図4に示すようにディスク制御装置4を複数台設置し、それらのホストコンピュータ3とのインターフェースをSANスイッチ5を介して、ホストコンピュータ3に接続していた。
また、データ量の増大に伴いSANスイッチ5に接続するディスク制御装置4の台数が増えると、ホストコンピュータ3とSANスイッチ5を含めたシステム全体(このシステムをストレージ・エリア・ネットワーク(SAN)と呼ぶ)の管理が複雑化する。それに対処するため、SANスイッチ5にSANアプライアンス6を接続し、SANアプライアンス6においてSANスイッチ5に繋がる全てのディスク制御装置4が管理するデータのディレクトリサービスを行い、ホストコンピュータ3に対して複数のディスク制御装置4を1つのストレージシステムに見せる処理、言い換えると、個々のディスク制御装置4が提供する記憶領域を1つの大きな記憶領域の固まりに見せ、その中から必要な量の記憶領域をホストコンピュータ3に割当てるという処理を行っていた。
また、特開2001−256003に開示されている他の従来技術では、図23に示すように、1つのストレージシステム1は複数のディスク制御クラスタ1−1乃至1−nから構成される。各ディスク制御クラスタは、ホストコンピュータ3と該ディスク制御クラスタの間のデータ転送を実行する複数のチャネルIF部11と、ディスク装置2と該ディスク制御クラスタの間のデータ転送を実行するディスクIF部16と、共有メモリ部25を有し、チャネルIF部11及びディスクIF部16と共有メモリ部25の間は複数のディスク制御クラスタ1−1乃至1−nに跨る相互結合網31を介して接続されている。共有メモリ部25にストレージシステムの制御情報が格納されている。共有メモリ部25は、相互結合網31を介して、全てのチャネルIF部11及びディスクIF部12からアクセス可能な構成となっており、共有メモリ部25を介して制御情報のやりとりをすることにより、複数のディスク制御クラスタが1つのストレージシステムとして動作していた。
【0005】
【発明が解決しようとする課題】
銀行、証券、電話会社等に代表される大企業では、従来各所に分散していたコンピュータ及びストレージを、データセンターの中に集中化してコンピュータシステム及びストレージシステム構成することにより、コンピュータシステム及びストレージシステムの運用、保守、管理に要する費用を削減する傾向にある。
【0006】
このような傾向の中で、大型/ハイエンドのディスク制御装置には、数百台以上のホストコンピュータへ接続するためのチャネルインターフェースのサポート(コネクティビティ)、数百テラバイト以上の記憶容量のサポートが要求されている。
【0007】
一方、近年のオープン市場の拡大、ストレージ・エリア・ネットワーク(SAN)の普及により、大型/ハイエンドのディスク制御装置と同様の高機能・高信頼性を備えた小規模構成(小型筐体)のディスク制御装置への要求が高まっている。
【0008】
前者の要求に対しては、従来の大型/ハイエンドのディスク制御装置を複数接続して超大規模なストレージシステムを構成する方法が考えられる。
【0009】
また後者の要求に対しては、従来の大型/ハイエンドのディスク制御装置の最小構成のモデルにおいて筐体を小型化した装置を構成する方法が考えられる。また、この小型化した装置を複数台接続することにより、従来のディスク制御装置がサポートしている中規模から大規模の構成をサポートするストレージシステムを構成する方法が考えられる。
【0010】
ストレージシステムでは、上記のように、小規模な構成から超大規模な構成まで、同一の高機能・高信頼なアーキテクチャで対応可能な、スケーラビリティのある構成のシステムが必要となってきており、そのためには、複数のディスク制御装置をクラスタリングし、1つのシステムとして運用できるストレージシステムが必要となる。
図2に示す従来技術では、複数のディスク制御装置4をSANスイッチ5を介してホストコンピュータ3に接続し、SANアプライアンス6によりホストコンピュータ3に対して複数のディスク制御装置4を1つのストレージシステムに見せていた。
しかし、SANアプライアンス6上で動作するソフトウェアで複数のディスク制御装置4を1つのシステムとして運用するため、従来の単体の大型のディスク制御装置に比べて信頼性、可用性が低いという問題があった。また、SANアプライアンス6上でホストコンピュータ3から要求されたデータが存在するディスク制御装置4を検索するため、性能が低下するという問題があった。
また、あるディスク制御装置4のチャネルIF部11に障害が発生し、このディスク制御装置に繋がるディスク装置のデータにアクセスできなくなった場合、ホストコンピュータ3からそのディスク制御装置4へのアクセスをいったん停止してから、チャネルIF部11を交換する必要があるため、ホストコンピュータ3上で動作しているアプリケーションプログラムに影響を及ぼすという問題があった。
図23に示す従来技術では、複数のディスク制御クラスタが共有メモリ部25を介して制御情報のやり取りをすることにより、1つのストレージシステムとして動作し、スケーラビリティの高いストレージシステムを提供していた。
しかし、以下のように、ユーザにとって使い勝手が悪い点があった。すなわち、性能を上げるためには、ホストコンピュータ3に割当てる記憶領域は、そのホストコンピュータ3が繋がるディスク制御クラスタに接続されたディスク装置2上の記憶領域にする必要があった。また、ホストコンピュータ3とディスク制御クラスタの間のインターフェースの障害のためにディスク制御クラスタへアクセスすることが不可能になることを防ぐため、1つのホストコンピュータから複数のディスク制御クラスタに接続パスを繋ぐ必要があった。また、複数の接続パスを接続した場合にもホストコンピュータに通知せずに接続パスの切換えを行うことは不可能であった。
【0011】
本発明の目的は、小規模な構成から超大規模な構成まで、同一の高信頼・高性能なアーキテクチャで対応可能な、スケーラビリティのある構成のストレージシステムを提供することにある。
【0012】
より具体的には、本発明の目的は、複数台のディスク制御装置をまとめて1つのシステムとしたストレージシステムにおいて高信頼・高性能で使い勝手の良いシステムを提供することにある。
【0013】
【課題を解決するための手段】
上記目的は、ホストコンピュータとのインターフェースを有する1または複数のチャネルインターフェース部と、ディスク装置とのインターフェースを有する1または複数のディスクインターフェース部と、前記ディスク装置に対しリード/ライトされるデータと前記データの転送に関する制御情報と前記ディスク装置の管理情報を格納するローカル共有メモリ部とを有し、前記ホストコンピュータからのデータのリード/ライト要求に対し、前記チャネルインターフェース部は前記ホストコンピュータとのインターフェースと前記ローカル共有メモリ部との間のデータ転送を実行し、前記ディスクインターフェース部は前記ディスク装置と前記ローカル共有メモリ部との間のデータ転送を実行することにより、データのリード/ライトを行う複数のディスク制御クラスタと、前記ディスク装置に対しリード/ライトされるデータと前記各ディスク制御クラスタの管理情報を格納するグローバル情報制御部と、前記複数のディスク制御クラスタを相互接続する相互結合網と、前記複数のディスク制御クラスタ内のチャネルインターフェース部を接続するスイッチを有するストレージシステムであり、
該スイッチは前記グローバル情報制御部に格納された管理情報が複写されたメモリを有するストレージシステムによって達成される。
【0014】
また、前記各ディスク制御クラスタ内の前記チャネルインターフェース部と前記ディスクインターフェース部と前記ローカル共有メモリ部とが接続された接続部と他の各ディスク制御クラスタ内の該接続部が前記相互結合網を介して接続され、前記グローバル情報制御部は前記相互結合網と前記スイッチに接続されたストレージシステムによって達成される。
【0015】
また、前記各ディスク制御クラスタ内の前記チャネルインターフェース部と前記ディスクインターフェース部が前記ローカル共有メモリ部に前記ディスク制御クラスタ内で直接接続され、該各ディスク制御クラスタ内の該ローカル共有メモリ部と他の各ディスク制御クラスタ内の該ローカル共有メモリ部が前記相互結合網を介して接続され、前記グローバル情報制御部は前記相互結合網と前記スイッチに接続されたストレージシステムによって達成される。
また、前記各ディスク制御クラスタ内の前記チャネルインターフェース部と前記ディスクインターフェース部が前記ローカル共有メモリ部に前記ディスク制御クラスタ内で直接接続され、該各ディスク制御クラスタ内の該チャネルインターフェース部と該ディスクインターフェース部との接続部と他の各ディスク制御クラスタ内の該接続部が前記相互結合網を介して接続され、前記グローバル情報制御部は前記相互結合網と前記スイッチに接続されたストレージシステムによって達成される。
【0016】
また、ホストコンピュータとのインターフェースを有する1または複数のチャネルインターフェース部と、ディスク装置とのインターフェースを有する1または複数のディスクインターフェース部と、前記ディスク装置に対しリード/ライトされるデータと前記データの転送に関する制御情報と前記ディスク装置の管理情報と前記ディスク制御クラスタの管理情報を格納するグローバル情報制御部とを有し、前記ホストコンピュータからのデータのリード/ライト要求に対し、前記チャネルインターフェース部は前記ホストコンピュータとのインターフェースと前記グローバル情報制御部との間のデータ転送を実行し、前記ディスクインターフェース部は前記ディスク装置と前記グローバル情報制御部との間のデータ転送を実行することにより、データのリード/ライトを行う複数のディスク制御クラスタと、前記複数のディスク制御クラスタを相互接続する相互結合網と、前記複数のディスク制御クラスタ内のチャネルインターフェース部を接続するスイッチを有するストレージシステムであり、
該スイッチは前記グローバル情報制御部に格納された管理情報が複写されたメモリを有するストレージシステムによって達成される。
また、前記各ディスク制御クラスタ内の前記チャネルインターフェース部と前記ディスクインターフェース部との接続部と他の各ディスク制御クラスタ内の該接続部が前記相互結合網を介して接続され、前記グローバル情報制御部は前記相互結合網と前記スイッチに接続されたストレージシステムによって達成される。
【0017】
また、ホストコンピュータとのインターフェースを有する1または複数のチャネルインターフェース部と、ディスク装置とのインターフェースを有する1または複数のディスクインターフェース部と、前記ディスク装置に対しリード/ライトされるデータを格納する第1のメモリと、前記チャネルインターフェース部及び前記ディスクインターフェース部と前記第1のメモリとの間のデータ転送に関する制御情報及び前記ディスク装置の管理情報を格納する第2のメモリとを有するローカル共有メモリ部とを有し、前記ホストコンピュータからのデータのリード/ライト要求に対し、前記チャネルインターフェース部は前記ホストコンピュータとのインターフェースと前記ローカル共有メモリ部内の前記第1のメモリとの間のデータ転送を実行し、前記ディスクインターフェース部は前記ディスク装置と前記ローカル共有メモリ部内の前記第1のメモリとの間のデータ転送を実行することにより、データのリード/ライトを行う複数のディスク制御クラスタと、前記各ディスク制御クラスタの管理情報を格納するグローバル情報制御部と、前記複数のディスク制御クラスタを相互接続する2つの異なる第1、第2の相互結合網と、前記複数のディスク制御クラスタ内のチャネルインターフェース部を接続するスイッチを有するストレージシステムであり、
該スイッチは前記グローバル情報制御部に格納された管理情報が複写されたメモリを有するストレージシステムによって達成される。
【0018】
また、前記各ディスク制御クラスタ内の前記チャネルインターフェース部と前記ディスクインターフェース部が前記ローカル共有メモリ部内の第2のメモリに前記ディスク制御クラスタ内で直接接続され、該各ディスク制御クラスタ内の該チャネルインターフェース部と該ディスクインターフェース部との第1の接続部と他の各ディスク制御クラスタ内の該第1の接続部が前記第1の相互結合網を介して接続され、前記各ディスク制御クラスタ内の前記チャネルインターフェース部と前記ディスクインターフェース部と前記ローカル共有メモリ部内の第1のメモリとが接続された第2の接続部と他の各ディスク制御クラスタ内の該第2の接続部が前記第2の相互結合網を介して接続され、前記グローバル情報制御部は前記第1の相互結合網と前記スイッチに接続されたストレージシステムによって達成される。
【0019】
その他、本願が開示する課題、及びその解決方法は、発明の実施形態の欄及び図面により明らかにされる。
【0020】
【発明の実施の形態】
以下、本発明の実施例を図面を用いて説明する。
[実施例1]
図1、図3、図12、及び図13に、本発明の一実施例を示す。
以下の実施例において、相互結合網はスイッチを利用したものを例にして説明してあるが、相互に接続され制御情報やデータが転送されれば良いのであり、例えばバスで構成されても良い。
図1に示すように、ストレージシステム1は複数のディスク制御クラスタ1−1乃至1−nとフロントエンドスイッチ7から構成される。
ディスク制御クラスタ1−1は、ホストコンピュータ3とのインターフェース部(チャネルIF部)11と、ディスク装置2とのインターフェース部(ディスクIF部)16と、ローカル共有メモリ部22を有し、チャネルIF部11及びディスクIF部16とローカル共有メモリ部22の間は複数のディスク制御クラスタ1−1乃至1−nに跨る相互結合網31を介して接続され、グローバル情報制御部21は相互結合網31に接続されている。すなわち、相互結合網31を介して、全てのチャネルIF部11及びディスクIF部12から、グローバル情報制御部21へアクセス可能な構成となっている。
ホストコンピュータ3は、フロントエンドスイッチ7を介してディスク制御クラスタに接続され、任意のホストコンピュータ3から任意のディスク制御クラスタへアクセス可能な構成となっている。
チャネルIF部11の具体的な一例を図12に示す。
チャネルIF部11は、ホストコンピュータ3との2つのIF(ホストIF)202と、ホストコンピュータ3に対する入出力を制御する2つのマイクロプロセッサ201と、グローバル情報制御部21あるいはローカル共有メモリ部22へのアクセスを制御するアクセス制御部(メモリアクセス制御部)206を有し、ホストコンピュータ3とグローバル情報制御部21あるいはローカル共有メモリ部22間のデータ転送、及びマイクロプロセッサ201とグローバル情報制御部21あるいはローカル共有メモリ部22間の制御情報の転送を実行する。マイクロプロセッサ201及びホストIF202は内部バス205によって接続され、メモリアクセス制御部206は2つのホストIF202に直接接続され、また内部バス205に接続されている。
ディスクIF部16の具体的な一例を図13に示す。
ディスクIF部16は、ディスク装置2との2つのIF(ドライブIF)203と、ディスク装置2に対する入出力を制御する2つのマイクロプロセッサ201と、グローバル情報制御部21あるいはローカル共有メモリ部22へのアクセスを制御するアクセス制御部(メモリアクセス制御部)206を有し、ディスク装置2とグローバル情報制御部21あるいはローカル共有メモリ部22間のデータ転送、及びマイクロプロセッサ201とグローバル情報制御部21あるいはローカル共有メモリ部22間の制御情報の転送を実行する。マイクロプロセッサ201及びドライブIF203は内部バス205によって接続され、メモリアクセス制御部206は2つのドライブIF203に直接接続され、また、内部バス205に接続されている。ディスクIF部16はRAID機能の実行も行う。
1つのディスク制御クラスタは1つの筐体として構成されるか、またはモジュールとして構成されても良いが、それ自体1つのディスク制御装置として機能を備えているものである。
ストレージシステムの具体的な一例を図3に示す。
ストレージシステム1は、2つのフロントエンドスイッチ7と、複数のディスク制御クラスタ1−1乃至1−nと、グローバル情報制御部21と、2つのグローバルスイッチ(GSW)115と、アクセスパス136と、アクセスパス137を有する。
グローバルスイッチ(GSW)115は、グローバル情報制御部21からのパスと複数のディスク制御クラスタからのパスを接続する接続部である。
ディスク制御クラスタ1−1乃至1−nは、ホストコンピュータ3との2つのチャネルIF部11と、ディスク装置2との2つのディスクIF部16と、2つのローカルスイッチ(LSW)110と、2つのローカル共有メモリ部22と、アクセスパス131と、アクセスパス132と、アクセスパス136を有する。
フロントエンドスイッチ7は、スイッチ71と、スイッチ制御部72と、メモリコントローラ73と、メモリモジュール105を有する。
1つのホストコンピュータ3からは、2つのフロントエンドスイッチ7内のスイッチ71にパスを1本ずつ接続し、スイッチ71からは、ディスク制御クラスタ1−1乃至1−nの各チャネルIF部11に1本ずつパスを接続する。
【0021】
グローバル情報制御部21は、アクセス制御部101と管理機能部102とメモリモジュール105とを有し、ディスク制御クラスタ1−1乃至1−nの管理情報(例えば、各ディスク制御クラスタが管理する記憶領域の情報や、ディスク制御クラスタ内の各部位の負荷情報、障害情報、及び構成情報等)を格納する。ローカルスイッチ(LSW)110は、チャネルIF部11からのパスと、ディスクIF部16からのパスと、ローカル共有メモリ部22からのパスを接続する接続部である。
ローカル共有メモリ部22は、メモリコントローラ100とメモリモジュール105とを有し、ディスク制御クラスタの制御情報(例えば、チャネルIF部11及びディスクIF部16とローカル共有メモリ部22との間のデータ転送制御に関する情報、ディスク装置2に記録するデータの管理情報等)とディスク装置2に記録するデータを格納する。
チャネルIF部11内のメモリアクセス制御部206には2本のアクセスパス131を接続し、それらを2つの異なるLSW110にそれぞれ接続する。
LSW110には2本のアクセスパス132を接続し、それらを2つの異なるローカル共有メモリ部22内のメモリコントローラ100にそれぞれ接続する。
したがって、メモリコントローラ100には、2つのLSW110から1本ずつ、計2本のアクセスパス132が接続される。
こうすることにより、1つのメモリアクセス制御部206から1つのメモリコントローラ100へのアクセスルートが2つとなる。
これにより、1つのアクセスパスまたはLSW110に障害が発生した場合でも、もう1つのアクセスルートによりローカル共有メモリ部22へアクセスすることが可能となるため、耐障害性を向上させることができる。
LSW110には、2つのチャネルIF部11と、2つのディスクIF部16からそれぞれ1本ずつ、計4本のアクセスパス131が接続される。
また、LSW110には、2つのローカル共有メモリ部22へのアクセスパス132が2本とGSW115へのアクセスパス136が1本接続される。
LSW110には上記のようなアクセスパスが接続されるため、LSW110内では、チャネルIF部11及びディスクIF部16からの4本のアクセスパスからの要求を、自ディスク制御クラスタ内のローカル共有メモリ部22への2本のアクセスパスと、GSW115への1本のアクセスパス136に振分ける機能を有する。
GSW115には、各ディスク制御クラスタから1本ずつ、ディスク制御クラスタ数分の本数のアクセスパス136が接続される。
また、GSW115には、2つのグローバル情報制御部21内のアクセス制御部101へのアクセスパス137が1本ずつ、計2本接続される。
こうすることにより、1つのメモリアクセス制御部206から1つのアクセス制御部101へのアクセスルートが2つとなる。
これにより、1つのアクセスパスまたはLSW110またはGSW115に障害が発生した場合でも、もう1つのアクセスルートによりグローバル情報制御部21へアクセスすることが可能となるため、耐障害性を向上させることができる。GSW115を使わずに、アクセスパス136をメモリコントローラ101に直接接続しても本発明を実施する上で問題ない。そうすることにより、GSW115で発生するデータ転送処理のオーバヘッドを削減することが可能となり、性能が向上する。
GSW115を使わない場合、1つのメモリアクセス制御部206から1つのメモリコントローラ101へのアクセスルートを2つ確保し,耐障害性を向上するためには、LSW110にアクセスパス136を2本接続し、それぞれを異なるメモリコントローラ101へ接続する。
また、GSW115には、2つのフロントエンドスイッチ7内のメモリコントローラ73へのパスが2本接続される。
フロントエンドスイッチ7内のメモリコントローラ73には、スイッチ制御部72とメモリモジュール105が接続される。
スイッチ制御部72はスイッチ71に接続され、メモリモジュール105に格納されたホストコンピュータ3のチャネルとディスク制御クラスタのチャネルの接続を示すルーティングテーブルを参照し、スイッチの切換えを制御する。
また、メモリモジュール105は、グローバル情報制御部21内のメモリモジュール105に格納されたディスク制御クラスタ1−1乃至1−n内の各部位の負荷情報、障害情報、および記憶領域情報のコピーを有し、スイッチ制御部72は定期的あるいは必要に際してこれらの情報をもとにルーティングテーブルを変更する。
具体的な例としては、グローバル情報制御部21は、図18に示すようなシステム構成・稼動状況テーブル500をそのメモリモジュール105に格納しており、フロントエンドスイッチ7は、テーブル500のコピーをメモリモジュール105に格納している。
システム構成・稼動状況テーブル500は、ディスク制御クラスタを識別するクラスタ番号511とディスク制御クラスタのチャネルを識別するチャネル番号512に対応する論理ボリューム番号513とチャネル稼動状況514を示す。
本実施例では、クラスタ番号511、チャネル番号512、及び論理ボリューム番号513を16進数で示している。チャネル稼動状況514は、低負荷状態を‘0’、中負荷状態を‘1’、高負荷状態を‘2’、障害を‘3’で示している。
また、フロントエンドスイッチ7は、ホスト−論理ボリューム対応テーブル600をそのメモリモジュール105に格納している。
ホスト−論理ボリューム対応テーブル600は、個々のホストコンピュータを識別するホスト番号615に対応する論理ボリューム番号513、すなわち各ホストコンピュータに割当てられた論理ボリュームと、論理ボリューム番号513にアクセスするためのチャネル番号512と該当論理ボリュームを管理するディスク制御クラスタのクラスタ番号511を示す。
ホスト番号615は、例えば、ファイバチャネルのプロトコルで使われるワールドワイドネーム(WWN)や、インターネットプロトコルで使われるマックアドレスやIPアドレスを充てることが考えられる。
スイッチ制御部72は、ホスト−論理ボリューム対応テーブル600(ルーティングテーブル)を参照し、スイッチ71の切り替えを行う。
図3でLSW110はチャネルIF部11及びディスクIF部16とローカル共有メモリ部22との接続部であり、GSW115はディスク制御クラスタ1−1乃至1−nとグローバル情報制御部21との接続部である。
図3において,GSW115とグローバル情報制御部21をボックスに実装し、フロントエンドスイッチ7を別のボックスに実装し、モジュール化した各ディスク制御クラスタ1−1乃至1−nといっしょに,1つの筐体の中に実装しても良い。また,各ディスク制御クラスタ1−1乃至1−nを別個の筐体として,距離的に離れた場所に分散しても良い。
【0022】
図3において、ホストコンピュータ3からストレージシステム1に記録されたデータを読み出す場合の一例を述べる。
まず、ホストコンピュータ3は、ストレージシステム1に対してデータの読出し要求を発行する。
要求は、フロントエンドスイッチ7に受け取られ、フロントエンドスイッチ7内のスイッチ制御部72は、要求パケットのヘッダを解析する。
要求パケットのヘッダには、要求を発行したホストコンピュータの番号(ホスト番号)と要求データが記録されている論理ボリューム番号が格納されており、スイッチ制御部72はホスト−論理ボリューム対応テーブル600を参照し、要求を発行したホストコンピュータが接続されたスイッチ71のポートを、該当する論理ボリューム番号に割当てられているチャネル番号のスイッチ71のポートに接続し、要求パケットをディスク制御クラスタに送る。
要求が送られたチャネルが接続されたチャネルIF部11内のマイクロプロセッサ201は、自ディスク制御クラスタ1−1内のローカル共有メモリ部22にアクセスし、要求されたデータがどのディスク装置2内に格納されているかを調べる。
ローカル共有メモリ部22には、要求データのアドレスとそのデータが実際に記録されているディスク装置2内のアドレスを対応させる変換テーブルが格納されており、要求されたデータがどのディスク装置2内に格納されているかを調べることができる。
さらに、要求を受けたチャネルIF部11内のマイクロプロセッサ201は、自ディスク制御クラスタ1−1内のローカル共有メモリ部22にアクセスし、要求されたデータがローカル共有メモリ部22内に格納されているかどうかを確認する。
ローカル共有メモリ部22にはディスク装置2に格納するデータとともにそのデータのディレクトリ情報が格納されており、ローカル共有メモリ部22内に要求データが存在するかどうかを確認できる。
【0023】
それにより自ディスク制御クラスタ1−1のローカル共有メモリ部22内にデータがあった場合は、ローカル共有メモリ部22にアクセスしてそのデータを自身のLSW110を介してチャネルIF部11まで転送し、フロントエンドスイッチ7を介して、ホストコンピュータ3に送る。
自ディスク制御クラスタ1−1のローカル共有メモリ部22内にデータが存在しなかった場合は、チャネルIF部11のマイクロプロセッサ201は、要求データが格納されているディスク装置2が接続されているディスクIF部16内のマイクロプロセッサ201に対し、要求データを読出しローカル共有メモリ部22に格納するというデータ要求の処理内容を示す制御情報を発行し、この制御情報の発行を受けたディスクIF部16内のマイクロプロセッサ201は、要求データが格納されているディスク装置2からデータを読出し、LSW110を介して、自ディスク制御クラスタ1−1内のローカル共有メモリ部22に要求データを転送し格納する。
すなわち、チャネルIF部11のマイクロプロセッサ201は、上記データ要求の処理内容を示す制御情報を発行し、ローカル共有メモリ部22の制御情報領域(ジョブ制御ブロック)に格納する。
ディスクIF部16のマイクロプロセッサ201は、ローカル共有メモリ部22の制御情報領域をポーリングで監視し、上記発行された制御情報が上記制御情報領域(ジョブ制御ブロック)に存在した場合は、要求データが格納されているディスク装置2からデータを読出し、LSW110を介して、自ディスク制御クラスタ1−1内のローカル共有メモリ部22に要求データを転送し格納する。
ディスクIF部16のマイクロプロセッサ201は、要求データをローカル共有メモリ部22へ格納した後、前記制御情報を発行したチャネルIF部11のマイクロプロセッサ201にローカル共有メモリ部22内のデータを格納したアドレスを、ローカル共有メモリ部22内の制御情報を介して伝える。それを受けたチャネルIF部11のマイクロプロセッサ201は、ローカル共有メモリ部22からデータを読出し、フロントエンドスイッチ7を介して、ホストコンピュータ3へ送る。
すなわち、ディスクIF部16のマイクロプロセッサ201は、要求データをローカル共有メモリ部22へ格納した後、処理の実行の終了とデータを格納したアドレスを示す制御情報を発行し、ローカル共有メモリ部22の制御情報領域に格納する。
前記制御情報を発行したチャネルIF部11のマイクロプロセッサ201は、ローカル共有メモリ部22の制御情報領域をポーリングで監視し、ディスクIF部16のマイクロプロセッサ201から発行された制御情報が上記制御情報領域に存在した場合は、ローカル共有メモリ部内のデータを格納したアドレスによりローカル共有メモリ部22からデータを読出し、チャネルIF部11まで転送し、さらにフロントエンドスイッチ7を介して、ホストコンピュータ3へ送る。
本実施例によれば、ホストコンピュータ3はフロントエンドスイッチ7のどの接続ポートに接続しても、ストレージシステム1を構成するディスク制御クラスタを意識することなく、その接続ポートにアクセス要求を発行するだけで、データの書き込み及び読出しを行うことが可能になり、ホストコンピュータ3に対して、複数台のディスク制御クラスタ1−1乃至1−nを1つのストレージシステムに見せることが可能となる。
そして,ディスク制御クラスタが1個だけの小規模な構成からディスク制御クラスタが数十個接続された超大規模な構成まで、ディスク制御クラスタ単体が持つ高信頼・高性能なアーキテクチャで対応可能な、スケーラビリティがあり使い勝手の良い構成のストレージシステムを提供することが可能となる。
[実施例2]
図4、図5、図12、及び図13に、本発明の一実施例を示す。
【0024】
図4に示すように、ディスク制御ユニット1−1乃至1−nとフロントエンドスイッチ7からなるストレージシステム1の構成は、チャネルIF部11及びディスクIF部16とローカル共有メモリ部22及び相互結合網31の間の接続構成を除いて、実施例1の図1に示す構成と同様である。
チャネルIF部11及びディスクIF部16とローカル共有メモリ部22の間は、ディスク制御クラスタ内では直接接続されている。
また、複数のディスク制御クラスタ1−1乃至1−n間では、ローカル共有メモリ部22は相互結合網31を介して接続されており、その相互結合網31にグローバル情報制御部21が接続されている。
上記のように、この実施例ではディスク制御ユニット1−1乃至1−n内においてチャネルIF部11及びディスクIF部16とローカル共有メモリ部22を直接接続することにより、実施例1で示した相互結合網31を介して接続する場合に比べ、ローカル共有メモリ部22へのアクセス時間を短縮することが可能になる。
チャネルIF部11及びディスクIF部16の構成は、それぞれ図12、図13に示す実施例1の構成と同様である。
1つのディスク制御クラスタは1つの筐体として構成されるか、またはモジュールとして構成されても良いが、それ自体1つのディスク制御装置として機能を備えているものである。
ストレージシステム1の具体的な一例を図5に示す。
【0025】
ディスク制御クラスタ1−1乃至1−n内の構成も、チャネルIF部11及びディスクIF部16とローカル共有メモリ部22の間の接続構成とディスク制御クラスタ1−1乃至1−nとGSW115の接続構成を除いて、実施例1の図3に示す構成と同様である。
ストレージシステム1は、複数のディスク制御クラスタ1−1乃至1−nと、フロントエンドスイッチ7と、グローバル情報制御部21と、2つのグローバルスイッチ(GSW)115と、アクセスパス136と、アクセスパス137を有する。
ディスク制御クラスタ1−1乃至1−nは、ホストコンピュータ3との2つのチャネルIF部11と、ディスク装置2との2つのディスクIF部16と、2つのローカル共有メモリ部22と、アクセスパス133と、アクセスパス136を有する。
チャネルIF部11内のメモリアクセス制御部206には2本のアクセスパス133を接続し、それらを2つの異なるメモリコントローラ100にそれぞれ接続する。
したがって、メモリコントローラ100には、2つのチャネルIF部11と2つのディスクIF部16から1本ずつ、計4本のアクセスパス133が接続される。また、GSW115へのアクセスパス136が1本接続される。
メモリコントローラ100には上記のようなアクセスパスが接続されるため、メモリコントローラ100内では、チャネルIF部11及びディスクIF部16からの4本のアクセスパス133からの要求を、メモリモジュール105への1本のアクセスパスと、GSW115への1本のアクセスパス136に振分ける機能を有する。
実施例1と同様にGSW115を使わずに、アクセスパス136をアクセス制御部101に直接接続しても本発明を実施する上で問題ない。そうすることにより、GSW115で発生するデータ転送処理のオーバヘッドを削減することが可能となり、性能が向上する。
GSW115を使わない場合、1つのメモリコントローラ100から1つのアクセス制御部101へのアクセスルートを2つ確保し,耐障害性を向上するためには、メモリコントローラ100にアクセスパス136を2本接続し、それぞれを異なるアクセス制御部101へ接続する。
また実施例1と同様に、図5において,GSW115とグローバル情報制御部21をボックスに実装し、フロントエンドスイッチ7を別のボックスに実装し、モジュール化した各ディスク制御クラスタ1−1乃至1−nといっしょに,1つの筐体の中に実装しても良い。また,各ディスク制御クラスタ1−1乃至1−nを別個の筐体として,距離的に離れた場所に分散しても良い。
【0026】
本実施例において、ホストコンピュータ3からストレージシステム1へのデータの読み出し/書き込みを行う場合の、ストレージシステム1内の各部の動作は、チャネルIF部11及びディスクIF部16からローカル共有メモリ部22へのアクセスが直接になることと、チャネルIF部11及びディスクIF部16からグローバル情報制御部21へのアクセスがメモリコントローラ100を介して行われることを除いて、実施例1と同様である。
本実施例によれば、ホストコンピュータ3はフロントエンドスイッチ7のどの接続ポートに接続しても、ストレージシステム1を構成するディスク制御クラスタを意識することなく、その接続ポートにアクセス要求を発行するだけで、データの書き込み及び読出しを行うことが可能になり、ホストコンピュータ3に対して、複数台のディスク制御クラスタ1−1乃至1−nを1つのストレージシステムに見せることが可能となる。
そして,ディスク制御クラスタが1個だけの小規模な構成からディスク制御クラスタが数十個接続された超大規模な構成まで、ディスク制御クラスタ単体が持つ高信頼・高性能なアーキテクチャで対応可能な、スケーラビリティがあり使い勝手の良い構成のストレージシステムを提供することが可能となる。
[実施例3]
図6、図7、図12、及び図13に、本発明の一実施例を示す。
【0027】
図6に示すように、ディスク制御ユニット1−1乃至1−nとフロントエンドスイッチ7からなるストレージシステム1の構成は、チャネルIF部12及びディスクIF部17とローカル共有メモリ部22の間の接続構成を除いて、実施例1の図1に示す構成と同様である。
チャネルIF部12及びディスクIF部17とローカル共有メモリ部22の間は、ディスク制御クラスタ内では直接接続されている。
また、複数のディスク制御クラスタ1−1乃至1−n間では、チャネルIF部12及びディスクIF部17が相互結合網31を介して接続されており、その相互結合網31にグローバル共有メモリ21が接続されている。
上記のように、この実施例ではディスク制御ユニット1−1乃至1−n内においてチャネルIF部12及びディスクIF部17とローカル共有メモリ部22を直接接続することにより、実施例1で示した相互結合網31を介して接続する場合に比べ、ローカル共有メモリ部22へのアクセス時間を短縮することが可能になる。
チャネルIF部12及びディスクIF部17の構成は、それぞれ図12、図13に示すチャネルIF部11及びディスクIF部16の構成において、メモリアクセス制御部206のアクセスパスを4本に増やした構成となる。
ここで、4本のアクセスパスの内、2本はアクセスパス131、もう2本がアクセスパス133となる。
1つのディスク制御クラスタは1つの筐体として構成されるか、またはモジュールとして構成されても良いが、それ自体1つのディスク制御装置として機能を備えているものである。
ストレージシステム1の具体的な一例を図7に示す。
【0028】
ディスク制御クラスタ1−1乃至1−n内の構成も、チャネルIF部12及びディスクIF部17とローカル共有メモリ部22の間の接続構成を除いて、実施例1の図3に示す構成と同様である。
ストレージシステム1は、複数のディスク制御クラスタ1−1乃至1−nと、フロントエンドスイッチ7と、グローバル情報制御部21と、2つのグローバルスイッチ(GSW)115と、アクセスパス136と、アクセスパス137を有する。
ディスク制御クラスタ1−1乃至1−nは、ホストコンピュータ3との2つのチャネルIF部12と、ディスク装置2との2つのディスクIF部17と、2つのローカルスイッチ(LSW)110と、2つのローカル共有メモリ部22と、アクセスパス131と、アクセスパス133と、アクセスパス136を有する。
LSW110は、チャネルIF部12からのパスと、ディスクIF部17からのパスを接続する接続部である。
【0029】
チャネルIF部12及びディスクIF部17内のメモリアクセス制御部206には2本のアクセスパス133を接続し、それらを2つの異なるメモリコントローラ100にそれぞれ接続する。したがって、メモリコントローラ100には、2つのチャネルIF部11と2つのディスクIF部16から1本ずつ、計4本のアクセスパス133が接続される。
さらに、チャネルIF部12及びディスクIF部17内のメモリアクセス制御部206には2本のアクセスパス131を接続し、それらを2つの異なるLSW110にそれぞれ接続する。したがって、LSW110には、2つのチャネルIF部12と2つのディスクIF部17から1本ずつ、計4本のアクセスパス131が接続される。また、GSW115へのアクセスパス136が1本接続される。実施例1と同様にGSW115を使わずに、アクセスパス136をアクセス制御部101に直接接続しても本発明を実施する上で問題ない。そうすることにより、GSW115で発生するデータ転送処理のオーバヘッドを削減することが可能となり、性能が向上する。
GSW115を使わない場合、1つのLSW110から1つのアクセス制御部101へのアクセスルートを2つ確保し,耐障害性を向上するためには、LSW110にアクセスパス136を2本接続し、それぞれを異なるメモリコントローラ101へ接続する。
また実施例1と同様に、図7において,GSW115とグローバル情報制御部21をボックスに実装し、フロントエンドスイッチ7を別のボックスに実装し、モジュール化した各ディスク制御クラスタ1−1乃至1−nといっしょに,1つの筐体の中に実装しても良い。また,各ディスク制御クラスタ1−1乃至1−nを別個の筐体として,距離的に離れた場所に分散しても良い。
【0030】
本実施例において、ホストコンピュータ3からストレージシステム1へのデータの読み出し/書き込みを行う場合の、ストレージシステム1内の各部の動作は、チャネルIF部12及びディスクIF部17からローカル共有メモリ部22へのアクセスが直接になることを除いて、実施例1と同様である。
本実施例によれば、ホストコンピュータ3はフロントエンドスイッチ7のどの接続ポートに接続しても、ストレージシステム1を構成するディスク制御クラスタを意識することなく、その接続ポートにアクセス要求を発行するだけで、データの書き込み及び読出しを行うことが可能になり、ホストコンピュータ3に対して、複数台のディスク制御クラスタ1−1乃至1−nを1つのストレージシステムに見せることが可能となる。
そして,ディスク制御クラスタが1個だけの小規模な構成からディスク制御クラスタが数十個接続された超大規模な構成まで、ディスク制御クラスタ単体が持つ高信頼・高性能なアーキテクチャで対応可能な、スケーラビリティがあり使い勝手の良い構成のストレージシステムを提供することが可能となる。
[実施例4]
図8、図9、図12、及び図13に、本発明の一実施例を示す。
【0031】
図8に示すように、ディスク制御ユニット1−1乃至1−nとフロントエンドスイッチ7からなるストレージシステム1の構成は、実施例1においてローカル共有メモリ22を除いた構成である。
【0032】
このため、実施例1の各ディスク制御ユニット1−1乃至1−nのローカル共有メモリ22に格納する情報を全てグローバル情報制御部21に格納する。
【0033】
複数のディスク制御クラスタ1−1乃至1−n間では、チャネルIF部11及びディスクIF部16が相互結合網31を介して接続されており、その相互結合網31にグローバル情報制御部21が接続されている。
チャネルIF部11及びディスクIF部16の構成は、それぞれ図12、図13に示す実施例1の構成と同様である。
1つのディスク制御クラスタは1つの筐体として構成されるか、またはモジュールとして構成されても良い。
ストレージシステム1の具体的な一例を図9に示す。
【0034】
ディスク制御クラスタ1−1乃至1−n内の構成も、ローカル共有メモリ部22が無いことを除いて、実施例1の図3に示す構成と同様である。
ストレージシステム1は、複数のディスク制御クラスタ1−1乃至1−nと、フロントエンドスイッチ7と、グローバル情報制御部21と、2つのグローバルスイッチ(GSW)115と、アクセスパス136と、アクセスパス137を有する。
ディスク制御クラスタ1−1乃至1−nは、ホストコンピュータ3との2つのチャネルIF部11と、ディスク装置2との2つのディスクIF部16と、2つのローカルスイッチ(LSW)110と、アクセスパス131と、アクセスパス136を有する。
LSW110は、チャネルIF部11からのパスとディスクIF部16からのパスを接続する接続部である。
チャネルIF部11及びディスクIF部16内のメモリアクセス制御部206には2本のアクセスパス131を接続し、それらを2つの異なるLSW110にそれぞれ接続する。
したがって、LSW110には、2つのチャネルIF部11と2つのディスクIF部16から1本ずつ、計4本のアクセスパス131が接続される。また、GSW115へのアクセスパス136が1本接続される。
実施例1と同様にGSW115を使わずに、アクセスパス136をアクセス制御部101に直接接続しても本発明を実施する上で問題ない。そうすることにより、GSW115で発生するデータ転送処理のオーバヘッドを削減することが可能となり、性能が向上する。
GSW115を使わない場合、1つのLSW110から1つのアクセス制御部101へのアクセスルートを2つ確保し,耐障害性を向上するためには、LSW110にアクセスパス136を2本接続し、それぞれを異なるアクセス制御部101へ接続する。
また実施例1と同様に、図9において,GSW115とグローバル情報制御部21をボックスに実装し、フロントエンドスイッチ7を別のボックスに実装し、モジュール化した各ディスク制御クラスタ1−1乃至1−nといっしょに,1つの筐体の中に実装しても良い。また,各ディスク制御クラスタ1−1乃至1−nを別個の筐体として,距離的に離れた場所に分散しても良い。
【0035】
本実施例において、ホストコンピュータ3からストレージシステム1へのデータの読み出し/書き込みを行う場合の、ストレージシステム1内の各部の動作は、実施例1の処理においてローカル共有メモリ22における処理を全てグローバル情報制御部21で行うことを除いて、実施例1と同様である。
本実施例によれば、ホストコンピュータ3はフロントエンドスイッチ7のどの接続ポートに接続しても、ストレージシステム1を構成するディスク制御クラスタを意識することなく、その接続ポートにアクセス要求を発行するだけで、データの書き込み及び読出しを行うことが可能になり、ホストコンピュータ3に対して、複数台のディスク制御クラスタ1−1乃至1−nを1つのストレージシステムに見せることが可能となる。
そして,ディスク制御クラスタが1個だけの小規模な構成からディスク制御クラスタが数十個接続された超大規模な構成まで、ディスク制御クラスタ単体が持つ高信頼・高性能なアーキテクチャで対応可能な、スケーラビリティがあり使い勝手の良い構成のストレージシステムを提供することが可能となる。
[実施例5]
図10に、本発明の一実施例を示す。
以下の実施例において、相互結合網はスイッチを利用したものを例にして説明してあるが、相互に接続され制御情報やデータが転送されれば良いのであり、例えばバスで構成されても良い。
図10に示すように、ストレージシステム1は複数のディスク制御クラスタ1−1乃至1−nとフロントエンドスイッチ7から構成される。
ディスク制御クラスタ1−1乃至1−nは、ホストコンピュータ3とのインターフェース部(チャネルIF部)13と、ディスク装置2とのインターフェース部(ディスクIF部)18と、メモリ1:25とメモリ2:26を有するローカル共有メモリ部22を有し、チャネルIF部13及びディスクIF部18とメモリ2の間は、ディスク制御クラスタ内部では直接接続される。
また、チャネルIF部13及びディスクIF部18は複数のディスク制御クラスタ1−1乃至1−nに跨る相互結合網1:32を介して接続され、グローバル情報制御部21は相互結合網1:32に接続される。すなわち、相互結合網1:32を介して、全てのチャネルIF部13及びディスクIF部18から、グローバル情報制御部21へアクセス可能な構成となっている。
また、チャネルIF部13及びディスクIF部18とメモリ1の間は、複数のディスク制御クラスタ1−1乃至1−nに跨る相互結合網2:33を介して接続される。
ホストコンピュータ3は、フロントエンドスイッチ7を介してディスク制御クラスタに接続され、任意のホストコンピュータ3から任意のディスク制御クラスタへアクセス可能な構成となっている。
チャネルIF部13の具体的な一例を図14に示す。
チャネルIF部13は、ホストコンピュータ3との2つのIF(ホストIF)202と、ホストコンピュータ3に対する入出力を制御する2つのマイクロプロセッサ201と、グローバル情報制御部21あるいはメモリ2:26へのアクセスを制御するアクセス制御部1(メモリアクセス制御部1)207と、メモリ1:25へのアクセスを制御するアクセス制御部2(メモリアクセス制御部2)208とを有し、ホストコンピュータ3とメモリ1間のデータ転送、及びマイクロプロセッサ201とグローバル情報制御部21あるいはメモリ2間の制御情報の転送を実行する。
マイクロプロセッサ201及びホストIF202は内部バス205によって接続され、メモリアクセス制御部1:207は内部バス205に接続され、メモリアクセス制御部2:208は2つのホストIF202に直接接続され、また内部バス205に接続されている。
ディスクIF部18の具体的な一例を図15に示す。
ディスクIF部18は、ディスク装置2との2つのIF(ドライブIF)203と、ディスク装置2に対する入出力を制御する2つのマイクロプロセッサ201と、グローバル情報制御部21あるいはメモリ2へのアクセスを制御するアクセス制御部1(メモリアクセス制御部1)207と、メモリ1へのアクセスを制御するアクセス制御部2(メモリアクセス制御部2)208とを有し、ディスク装置2とメモリ1間のデータ転送、及びマイクロプロセッサ201とグローバル情報制御部21あるいはメモリ2間の制御情報の転送を実行する。
マイクロプロセッサ201及びドライブIF203は内部バス205によって接続され、メモリアクセス制御部1:207は内部バス205に接続され、メモリアクセス制御部2:208は2つのドライブIF203に直接接続され、また内部バス205に接続されている。ディスクIF部18はRAID機能の実行も行う。
1つのディスク制御クラスタは1つの筐体として構成されるか、またはモジュールとして構成されても良いが、それ自体1つのディスク制御装置として機能を備えているものである。
ストレージシステムの具体的な一例は、チャネルIF部13及びディスクIF部18とメモリ2:26と相互結合網1:32とグローバル共有メモリ21との接続構成は、実施例3の図7に示す構成と同様になる。また、チャネルIF部13及びディスクIF部18とメモリ1と相互結合網2:33との接続構成は、実施例1の図3に示す構成においてグローバル情報制御部21を除いた構成と同様になる。
フロントエンドスイッチ7は、スイッチ71と、スイッチ制御部72と、メモリコントローラ73と、メモリモジュール105を有する。
1つのホストコンピュータ3からは、2つのフロントエンドスイッチ7内のスイッチ71にパスを1本ずつ接続し、スイッチ71からは、ディスク制御クラスタ1−1乃至1−nの各チャネルIF部11に1本ずつパスを接続する。
【0036】
グローバル情報制御部21は、アクセス制御部101と管理機能部102とメモリモジュール105とを有し、ディスク制御クラスタ1−1乃至1−nの管理情報(例えば、各ディスク制御クラスタが管理する記憶領域の情報や、ディスク制御クラスタ内の各部位の負荷情報、障害情報、及び構成情報等)を格納する。メモリ1は、ディスク装置2に記録するデータを一時的に格納する。また、メモリ2は、ディスク制御クラスタの制御情報(例えば、チャネルIF部13及びディスクIF部18とメモリ1:25との間のデータ転送制御に関する情報、ディスク装置2に記録するデータの管理情報等)を格納する。
フロントエンドスイッチ7は、そのメモリモジュール105内に実施例1と同様の情報、テーブルを格納しており、同様の制御を行う。
また、グローバル情報制御部21も、そのメモリモジュール105内に実施例1と同様の情報、テーブルを格納している。
図10において,相互結合網1:32を形成するディスク制御クラスタ外のスイッチ及び相互結合網2:33を形成するディスク制御クラスタ外のスイッチとグローバル情報制御部21をボックスに実装し、フロントエンドスイッチ7を別のボックスに実装し、モジュール化した各ディスク制御クラスタ1−1乃至1−nといっしょに,1つの筐体の中に実装しても良い。また,各ディスク制御クラスタ1−1乃至1−nを別個の筐体として,距離的に離れた場所に分散しても良い。
【0037】
図10において、ホストコンピュータ3からストレージシステム1に記録されたデータを読み出す場合の一例を述べる。
まず、ホストコンピュータ3は、ストレージシステム1に対してデータの読出し要求を発行する。
要求は、フロントエンドスイッチ7に受け取られ、フロントエンドスイッチ7内のスイッチ制御部72は、要求パケットのヘッダを解析する。
要求パケットのヘッダには、要求を発行したホストコンピュータの番号(ホスト番号)と要求データが記録されている論理ボリューム番号が格納されており、スイッチ制御部72はホスト−論理ボリューム対応テーブル600を参照し、要求を発行したホストコンピュータが接続されたスイッチ71のポートを、該当する論理ボリューム番号に割当てられているチャネル番号のスイッチ71のポートに接続し、要求パケットをディスク制御クラスタに送る。
要求が送られたチャネルが接続されたチャネルIF部11内のマイクロプロセッサ201は、自ディスク制御クラスタ1−1内のメモリ2:26にアクセスし、要求されたデータがどのディスク装置2内に格納されているかを調べる。メモリ2:26には、要求データのアドレスとそのデータが実際に記録されているディスク装置2内のアドレスを対応させる変換テーブルが格納されており、要求されたデータがどのディスク装置2内に格納されているかを調べることができる。
さらに、要求を受けたチャネルIF部13内のマイクロプロセッサ201は、自ディスク制御クラスタ1−1内のメモリ2:26にアクセスし、要求されたデータがメモリ1:25に格納されているかどうかを確認する。メモリ2:26にはメモリ1:25に格納されているデータのディレクトリ情報が格納されており、メモリ1:25に要求データが存在するかどうかを確認できる。
【0038】
それにより自ディスク制御クラスタ1−1のメモリ1:25にデータがあった場合は、そのデータをチャネルIF部13まで転送し、フロントエンドスイッチ7を介して、ホストコンピュータ3に送る。
【0039】
自ディスク制御クラスタ1−1のメモリ1:25にデータが存在しなかった場合は、チャネルIF部13内のマイクロプロセッサ201は要求データが格納されているディスク装置2が接続されているディスクIF部18内のマイクロプロセッサ201に対し、要求データを読出し、メモリ1:25に格納するというデータ要求の処理内容を示す制御情報を発行し、この制御情報の発行を受けたディスクIF部18内のマイクロプロセッサ201は、要求データが格納されているディスク装置2からデータを読出し、自ディスク制御クラスタ1−1内のメモリ1:25に要求データを転送し格納する。
すなわち、チャネルIF部13のマイクロプロセッサ201は、上記データ要求の処理内容を示す制御情報を発行し、メモリ2:26の制御情報領域(ジョブ制御ブロック)に格納する。
ディスクIF部18のマイクロプロセッサ201は、メモリ2:26の制御情報領域をポーリングで監視し、上記発行された制御情報が上記制御情報領域(ジョブ制御ブロック)に存在した場合は、要求データが格納されているディスク装置2からデータを読出し、自ディスク制御クラスタ1−1内のメモリ1:25に要求データを転送し格納する。
ディスクIF部18内のマイクロプロセッサ201は、要求データをメモリ1:25へ格納した後、制御情報を発行したチャネルIF部13内のマイクロプロセッサ201に、メモリ1:25内のデータを格納したアドレスを,メモリ2:26内の制御情報を介して伝える。それを受けたチャネルIF部13内のマイクロプロセッサ201は、メモリ1:25からデータを読出し、フロントエンドスイッチ7を介して、ホストコンピュータ3へ送る。
すなわち、ディスクIF部18のマイクロプロセッサ201は、要求データをメモリ1:25へ格納した後、処理の実行の終了とデータを格納したアドレスを示す制御情報を発行し、ローカル共有メモリ部22の制御情報領域に格納する。
前記制御情報を発行したチャネルIF部13のマイクロプロセッサ201は、メモリ2:26の制御情報領域をポーリングで監視し、ディスクIF部18のマイクロプロセッサ201から発行された制御情報が上記制御情報領域に存在した場合、メモリ1:25内のデータを格納したアドレスによりメモリ1:25からデータを読出し、チャネルIF部13まで転送し、さらにフロントエンドスイッチ7を介して、ホストコンピュータ3へ送る。
【0040】
制御情報とデータはデータ長が数千倍異なるため、1回のデータ転送時間がかなり異なる。このため、同じ相互結合網及びメモリを用いた場合、両者が互いの転送を妨げる。本実施例によれば、制御情報を転送する相互結合網1:32とデータを転送する相互結合網2:33を分けることができるため、両者が互いの転送を妨げることがなくなるため、性能が向上する。
[実施例6]
図11、図16、図17に,実施例1のストレージシステム1におけるディスク制御クラスタの増設手順の一例を示す。
図11に示すように、グローバルスイッチボックス310と、フロントエンドスイッチボックス315と、クラスタ筐体302は、それぞれ別筐体として、筐体301内に実装されている。
グローバルスイッチボックス310内には,GSW115とグローバル情報制御部21が実装されている。
グローバルスイッチボックス310はコネクタ321、コネクタ322をそれぞれ8個有し、ディスク制御クラスタを8クラスタ接続することができる。図ではディスク制御クラスタを3クラスタ接続した場合について示している。
GSW115のアクセスパス136は1本ずつコネクタ321,コネクタ322に接続される。
また、グローバルスイッチボックス310はフロントエンドスイッチボックス315を接続するためのコネクタ326,コネクタ327をそれぞれ2個有する。グローバル情報制御部21の1つのアクセス制御部101をフロントエンドスイッチ7の2つのメモリコントローラ73に接続するための2本の接続パスは2つのコネクタ326に接続される。また、もう1つのアクセス制御部101をフロントエンドスイッチ7の2つのメモリコントローラ73に接続するための2本の接続パスは2つのコネクタ327に接続される。
フロントエンドスイッチボックス315内には、フロントエンドスイッチ7が実装されている。
フロントエンドスイッチボックス315はグローバルスイッチボックス310を接続するためのコネクタ328、コネクタ329をそれぞれ2個有する。
フロントエンドスイッチ7の1つのメモリコントローラ73をグローバル情報制御部21の2つのアクセス制御部101に接続するための2本の接続パスは2つのコネクタ328に接続される。また、もう1つのメモリコントローラ73をグローバル情報制御部21の2つのアクセス制御部101に接続するための2本の接続パスは2つのコネクタ329に接続される。
上記個数は一実施例に過ぎず、個数を上記に限定するものではない。
各ディスク制御クラスタ1−1乃至1−3は,それぞれクラスタ筐体302に実装されている。クラスタ筐体302はコネクタ321,コネクタ322を有し、2本のアクセスパス136がそれぞれに1本ずつ接続されている。
グローバルスイッチボックス310に,ケーブル331,ケーブル332を介してそれぞれのコネクタ321,コネクタ322により3つのクラスタ筐体302が接続される。
また、グローバルスイッチボックス310のコネクタ326、コネクタ327に、ケーブル336、ケーブル337を介して、フロントエンドスイッチボックス315のコネクタ328、コネクタ329が接続される。
ここで、2つのコネクタ326に接続された2本のケーブル336は、1本ずつコネクタ328とコネクタ329に接続される。同様に、2つのコネクタ327に接続された2本のケーブル337は、1本ずつコネクタ328とコネクタ329に接続される。こうすることにより、アクセス制御部101の2本の接続パスは、1本ずつ2つのメモリコントローラ73に接続される。
ストレージシステム1において,ディスク制御クラスタを増設する場合は、次の手順による。グローバルスイッチボックス310にディスク制御クラスタを増設するコネクタに余分があれば、そのコネクタにケーブル331,ケーブル332を接続する。
余分がなければ,GSWのみを実装したグローバルスイッチボックスを用意し、グローバルスイッチボックスを多段に接続した上でそのコネクタにケーブル331,ケーブル332を接続する。
それと共に、図16に示すGSW115のポートに接続されるディスク制御クラスタを示す、言い換えるとストレージシステム1を構成しているディスク制御クラスタを示すGSWポート−クラスタ対応テーブル400と,図17に示すディスク制御クラスタが管理する論理ボリュームを示すGSWポート−クラスタ対応テーブル405とを書き換える。
GSWポート−クラスタ対応テーブル400とGSWポート−クラスタ対応テーブル405はグローバル情報制御部21に格納されており、サービスプロセッサ(SVP)により書き換えることが可能である。
SVPは通常ノートパソコンであることが多く、ノートパソコンのディスプレイ上に図16及び図17に示すテーブルが表示され、そこで内容を書き換える。
図16及び図17は,それぞれディスク制御クラスタの増設前、増設後のGSWポート−クラスタ対応テーブル400及びGSWポート−クラスタ対応テーブル405を示している。
ここでは,ストレージシステム1が増設前に5台のディスク制御クラスタで構成されており、そこに1台のディスク制御クラスタを増設する例を示している。
図16に示すように、GSWポート番号401の4番ポートが未接続となっており、そのポートにクラスタ5のケーブルを接続した後、SVPのディスプレイ上でポート番号4の行のクラスタ番号402の列の未接続表示を5に書き換える。その後、図17に示すように、クラスタ番号402のクラスタ5の行の論理ボリューム番号406の列の未接続表示を16640〜20735に書き換える。
ここで、論理ボリューム番号406は各クラスタが管理する論理ボリュームの範囲を示している。
増設前の論理ボリューム番号の最大値は16639で、ディスク制御クラスタは4096個の論理ボリュームを持っているため、ディスク制御クラスタ5の管理する論理ボリュームの範囲は16640〜20735となる。論理ボリューム番号は連続せず飛び飛びになっていても問題ない。
上記のようにすることで、ストレージシステムに新たにディスク制御クラスタを増設することができる。
[実施例7]
図18〜図21に、ストレージシステム1において、あるチャネルIF部のホストコンピュータとの1つのインタフェース(チャネル)の負荷が高くなった場合の、グローバル制御情報部及びフロントエンドスイッチ7の動作の一例を示す。実施例1に示すように、一例として、グローバル情報制御部21は、図18に示すようなシステム構成・稼動状況テーブル500をそのメモリモジュール105に格納しており、フロントエンドスイッチ7は、テーブル500のコピーをメモリモジュール105に格納している。
グローバル情報制御部21内の管理機能部102は、各ディスク制御クラスタのローカル共有メモリ部22内に格納された該ディスク制御クラスタが管理する記憶領域の情報や、ディスク制御クラスタ内の各部位の負荷情報、障害情報を定期的に参照し、システム構成・稼動状況テーブル500を更新する。
また、フロントエンドスイッチ7内のスイッチ制御部72は、テーブル500を定期的に自メモリモジュール105にコピーする。
一方、各ディスク制御クラスタのローカル共有メモリ部22内に格納された該ディスク制御クラスタが管理する記憶領域の情報、ディスク制御クラスタ内の各部位の負荷情報、あるいは障害情報が更新された時点で、チャネルIF部またはディスクIF部内のマイクロプロセッサが、グローバル情報制御部のメモリモジュール105内の該当情報を更新し、さらに、その更新の時点で、管理機能部102が該当情報をフロントエンドスイッチ7のメモリモジュール105にコピーする場合もある。これは、特にディスク制御部内のある部位に障害が起こった場合において有効である。
システム構成・稼動状況テーブル500は、ディスク制御クラスタを識別するクラスタ番号511とディスク制御クラスタのチャネルを識別するチャネル番号512に対応する論理ボリューム番号513とチャネル稼動状況514を示す。
本実施例では、クラスタ番号511、チャネル番号512、及び論理ボリューム番号513を16進数で示している。チャネル稼動状況514は、低負荷状態を‘0’、中負荷状態を‘1’、高負荷状態を‘2’、障害を‘3’で示している。
また、フロントエンドスイッチ7は、ホスト−論理ボリューム対応テーブル600をそのメモリモジュール105に格納している。
ホスト−論理ボリューム対応テーブル600は、個々のホストコンピュータを識別するホスト番号615に対応する論理ボリューム番号513、すなわち各ホストコンピュータに割当てられた論理ボリュームと、論理ボリューム番号513にアクセスするためのチャネル番号512と該当論理ボリュームを管理するディスク制御クラスタのクラスタ番号511を示す。
ホスト番号615は、例えば、ファイバチャネルのプロトコルで使われるワールドワイドネーム(WWN)や、インターネットプロトコルで使われるマックアドレスやIPアドレスを充てることが考えられる。
図19に示すように、1つのホストコンピュータに対し、連続しない複数の論理ボリュームの範囲を割当てても問題ない。
スイッチ制御部72は、ホスト−論理ボリューム対応テーブル600(ルーティングテーブル)を参照し、スイッチ71の切り替えを行う。
図20に示すように、チャネル番号512の2番チャネルの稼動状況551が高負荷を示す‘2’となった場合、2番チャネルに割当てられた論理ボリューム0100〜01FFの一部を、稼動状況552が低負荷を示す‘0’となっている1F番チャネルに割当て替える。
図21は、上記割当て替えを行った後のテーブル500の内容を示している。
本実施例では、2番チャネルに割当てられていた論理ボリューム0100〜01FFの半分の0180〜01FFを1F番チャネルに割当て替えた。これにより、2番チャネルの稼動状況551は中負荷を示す‘1’となり、1F番チャネルの稼動状況552も中負荷を示す‘1’となる。
図21に示すテーブル500がフロントエンドスイッチ7のメモリモジュール105にコピーされると、スイッチ制御部72は、テーブル500を参照し図19に示すホスト−論理ボリューム対応テーブル600を変更する。
図22は変更後のテーブル600を示す。
テーブル500において、論理ボリュームの0180〜01FFは1F番チャネルに割当て返られているので、2番のホストコンピュータ652に新たに1F番チャネルが割当てられる。
これにより、2番のホストコンピュータ652から論理ボリューム0180〜01FFへのアクセス要求が発行された場合、スイッチは1F番チャネルに切り替えられる。
この場合、アクセス要求を受けたチャネルIF部のマイクロプロセッサは、ローカル共有メモリ部にアクセスし、自ディスク制御クラスタ内に要求データがないことを知るが、その場合、グローバル情報制御部にアクセスすることにより、要求データのあるディスク制御クラスタを知り、該当ディスク制御クラスタから要求データを読み出すことができる。
これにより、ホストコンピュータに意識させること無しに、ストレージシステム1の各チャネルIF部のチャネルの負荷を均等にすることができ、それによりシステム全体の性能向上が可能となる。
【0041】
また、あるチャネル番号のチャネルが障害で使用できなくなった場合にも、上記の方法で論理ボリュームの割当て替えを行うことにより、別のチャネルから目的のディスク制御クラスタのディスク制御装置に格納されたデータへアクセスすることが、チャネルの障害をホストコンピュータに意識させること無しに、可能となる。
【0042】
また、あるディスク制御クラスタに繋がるディスク装置上の論理ボリュームの負荷が高くなった場合、負荷を均等にするために該当論理ボリュームを他のディスク制御クラスタのディスク装置にコピーまたは移動する場合があるが、その場合も上記の方法でテーブル500の論理ボリューム番号とチャネル番号を割当て替えることにより、ホストコンピュータに意識させること無しに、論理ボリュームの負荷を均等にすることが可能となる。
[実施例8]
図24に、本発明の一実施例を示す。
以下の実施例において、相互結合網はスイッチを利用したものを例にして説明してあるが、相互に接続され制御情報やデータが転送されれば良いのであり、例えばバスで構成されても良い。
図24に示すように、ストレージシステム1は複数のディスク制御クラスタ1−1乃至1−nとフロントエンドスイッチ7から構成される。
本実施例のストレージシステム1は、グローバル制御部21とフロントエンドスイッチ7が接続されていない点を除いて、実施例1の図1に示すストレージシステムと同様である。
また、その具体的な一例は、図3に示すストレージシステム1においてアクセス制御部101とメモリコントローラ73が接続されていない構成となる。
上記のように、アクセス制御部101とメモリコントローラ73が接続されないため、グローバル制御情報部21内の各ディスク制御クラスタが管理する記憶領域の情報、ディスク制御クラスタ内の各部位の負荷情報、および障害情報をチャネルIF部11とスイッチ71の接続パスを介してフロントエンドスイッチ7のメモリモジュール105にコピーする処理を行う。
この処理は、フロントエンドスイッチ7内のスイッチ制御部21がチャネルIF部11とスイッチ71の接続パスを介して、チャネルIF部11内のマイクロプロセッサに処理要求を出すことにより行う。
例えば、上記接続パスが、インターネットプロトコルを流すことが可能である場合、シンプル・ネットワーク・マネージメント・プロトコル(SNMP)により、上記情報を取得することが可能である。
本実施例によれば、フロントエンドスイッチ7とグローバル情報制御部21を接続する必要がなくなり、ストレージシステムを構成する筐体の実装を簡素化することが可能となる。
【0043】
【発明の効果】
本発明によれば、複数台のディスク制御クラスタを1つのシステムとして運用するストレージシステムにおいて、ディスク制御クラスタが1個だけの小規模な構成からディスク制御クラスタが数十個接続された超大規模な構成まで、ディスク制御クラスタ単体が持つ高信頼・高性能なアーキテクチャで対応可能な、スケーラビリティがあり使い勝手の良い構成のストレージシステムを提供することが可能となる。
【図面の簡単な説明】
【図1】本発明によるストレージシステムの実施例1の構成を示す図。
【図2】従来の複数のディスク制御装置の構成を示す図。
【図3】図1に示す実施例1のストレージシステムの詳細構成を示す図。
【図4】本発明によるストレージシステムの実施例2の構成を示す図。
【図5】図4に示す実施例2のストレージシステムの詳細構成を示す図。
【図6】本発明によるストレージシステムの実施例3の構成を示す図。
【図7】図6に示す実施例3のストレージシステムの詳細構成を示す図。
【図8】本発明によるストレージシステムの実施例4の構成を示す図。
【図9】図8に示す実施例4のストレージシステムの詳細構成を示す図。
【図10】本発明によるストレージシステムの実施例5の構成を示す図。
【図11】本発明によるディスク制御クラスタの増設方法を説明するための図。
【図12】本発明によるストレージシステムを構成するチャネルインターフェース部の構成を示す図。
【図13】本発明によるストレージシステムを構成するディスクインターフェース部の構成を示す図。
【図14】本発明によるストレージシステムを構成するチャネルインターフェース部の他の構成を示す図。
【図15】本発明によるストレージシステムを構成するディスクインターフェース部の他の構成を示す図。
【図16】グローバル情報制御部内に格納されたストレージシステムの構成情報の一例を示す図。
【図17】グローバル情報制御部内に格納されたストレージシステムの構成情報の他の一例を示す図。
【図18】グローバル情報制御部内に格納されたストレージシステムの構成・稼動状況の一例を示す図。
【図19】フロントエンドスイッチ内に格納されたスイッチ切換え制御のためのテーブルの一例を示す図。
【図20】グローバル情報制御部内に格納されたストレージシステムの構成・稼動状況の他の一例を示す図。
【図21】グローバル情報制御部内に格納されたストレージシステムの構成・稼動状況の他の一例を示す図。
【図22】フロントエンドスイッチ内に格納されたスイッチ切換え制御のためのテーブルの他の一例を示す図。
【図23】従来の複数のディスク制御クラスタから成るストレージシステムの構成を示す図。
【図24】本発明によるストレージシステムの実施例8の構成を示す図。
【符号の説明】
1:ストレージシステム、1−1、1−n…ディスク制御クラスタ、2…ディスク装置、3…ホストコンピュータ、7…フロントエンドスイッチ、11…チャネルIF部、16…ディスクIF部、21…グローバル情報制御部、22…ローカル共有メモリ部、31…相互結合網。
Claims (12)
- ディスク装置と、
個々が、ホストコンピュータとのインターフェースを有するチャネルインターフェース部及び前記ディスク装置とのインターフェースを有するディスクインターフェース部とを有する複数のディスク制御クラスタと、
前記ディスク装置に対しリード/ライトされるデータと、前記データの転送に関する制御情報と、前記ディスク装置の管理情報と、前記複数のディスク制御クラスタの負荷情報若しくは障害情報を含む管理情報を格納するグローバル情報制御部と、
前記複数のディスク制御クラスタを相互接続する相互結合網と、
前記複数のディスク制御クラスタの個々が有する前記チャネルインターフェース部の相互を接続するスイッチと、を有し、
前記複数のディスク制御クラスタにおいて、前記ホストコンピュータからのデータのリード/ライト要求に対し、前記チャネルインターフェース部は前記ホストコンピュータとのインターフェースと前記グローバル情報制御部との間のデータ転送を実行し、前記ディスクインターフェース部は前記ディスク装置と前記グローバル情報制御部との間のデータ転送を実行し、
前記スイッチは、定期的に若しくは必要に応じて、前記グローバル情報制御部に格納された前記負荷情報若しくは障害情報を含む管理情報の複製を格納するメモリを有し、
前記グローバル情報制御部は前記相互結合網と前記スイッチに接続され、
前記スイッチは、自身が有する複数のポート間の接続切換え情報を前記メモリの複製された管理情報に基づいて更新し、当該接続切換え情報に基づいて前記複数のポート間の接続切換えを行うことを特徴とするストレージシステム。 - 個々が、ホストコンピュータとのインターフェースを有するチャネルインターフェース部と、ディスク装置とのインターフェースを有するディスクインターフェース部と、前記ディスク装置に対しリード/ライトされるデータ、前記データの転送に関する制御情報及び前記ディスク装置の管理情報を格納するローカル共有メモリ部とを有し、前記ホストコンピュータからのデータのリード/ライト要求に対し、前記チャネルインターフェース部は前記ホストコンピュータとのインターフェースと前記ローカル共有メモリ部との間のデータ転送を実行し、前記ディスクインターフェース部は前記ディスク装置と前記ローカル
共有メモリ部との間のデータ転送を実行することにより、データのリード/ライトを行う複数のディスク制御クラスタと、
前記ディスクインターフェース部と接続されるディスク装置と、
前記複数のディスク制御クラスタ負荷情報若しくは障害情報を含む管理情報を格納するグローバル情報制御部と、
前記複数のディスク制御クラスタを相互接続する相互結合網と、
前記複数のディスク制御クラスタの個々が有するチャネルインターフェース部を相互に接続するスイッチと、を有し、
前記スイッチは、定期的に若しくは必要に応じて、負荷情報若しくは障害情報を含む管理情報の複製を格納するメモリを有し、自身が有する複数のポート間の接続切換え情報を前記メモリに格納された前記管理情報に基づいて更新し、当該更新後の接続切換え情報に基づいて前記複数のポート間の接続切換えを行うことを特徴とするストレージシステム。 - 前記チャネルインターフェース部、前記ディスクインターフェース部及び前記ローカル共有メモリ部とを相互に接続する接続部を前記複数のディスク制御クラスタの個々が有し、
前記複数のディスク制御クラスタの個々が有する前記制御部は、他のディスク制御クラスタが有する接続部と前記相互結合網を介して接続され、
前記グローバル情報制御部は前記相互結合網及び前記スイッチに接続されることを特徴とする請求項2記載のストレージシステム。 - 前記複数のディスク制御クラスタの個々が有する前記ローカル共有メモリ部が前記相互結合網を介して相互に接続され、
前記グローバル情報制御部は前記相互結合網と前記スイッチに接続されることを特徴とする請求項2記載のストレージシステム。 - ディスク装置と、
個々が、ホストコンピュータとのインターフェースを有するチャネルインターフェース部と、ディスク装置とのインターフェースを有するディスクインターフェース部と、前記ディスク装置に対しリード/ライトされるデータを格納する第1のメモリと前記チャネルインターフェース部及び前記ディスクインターフェース部と前記第1のメモリとの間のデータ転送に関する制御情報及び前記ディスク装置の管理情報を格納する第2のメモリとを有するローカル共有メモリ部とを有し、前記ホストコンピュータからのデータのリード/ライト要求に対し、前記チャネルインターフェース部は前記ホストコンピュータとのイン
ターフェースと前記ローカル共有メモリ部内の前記第1のメモリとの間のデータ転送を実行し、前記ディスクインターフェース部は前記ディスク装置と前記ローカル共有メモリ部内の前記第1のメモリとの間のデータ転送を実行することにより、データのリード/ライトを行う複数のディスク制御クラスタと、
前記複数のディスク制御クラスタの負荷情報若しくは障害情報を含む管理情報を格納するグローバル情報制御部と、
前記複数のディスク制御クラスタを相互に接続する第1、第2の相互結合網と、
前記複数のディスク制御クラスタの個々が有する前記チャネルインターフェース部を相互に接続するスイッチと、を有し、
前記スイッチは、定期的に若しくは必要に応じて、前記グローバル情報制御部に格納された前記負荷情報若しくは障害情報を含む管理情報の複製を格納するメモリを有し、自身が有する複数のポート間の接続切換え情報を前記メモリに格納された前記管理情報に基づいて更新し、当該更新後の接続切換え情報に基づいて前記複数のポート間の接続切換えを行うことを特徴とするストレージシステム。 - 前記複数のディスク制御クラスタの個々が有する前記チャネルインターフェース部と前記ディスクインターフェース部が、他のディスク制御クラスタが有する前記チャネルインターフェース及び前記ディスクインターフェース部と前記第1の相互結合網を介して接続され、
前記グローバル情報制御部は前記第1の相互結合網と前記スイッチに接続されることを特徴とする請求項5記載のストレージシステム。 - ディスク装置と、
個々が、ホストコンピュータとのインターフェースを有するチャネルインターフェース部と、前記ディスク装置とのインターフェースを有するディスクインターフェース部と、
前記ディスク装置に対しリード/ライトされるデータと前記データの転送に関する制御情報と前記ディスク装置の管理情報を格納するローカル共有メモリ部と、前記チャネルインターフェース部、前記ディスクインターフェース部及び前記ローカル共有メモリ部とを相互に接続する第1の接続部とを有し、前記ホストコンピュータからのデータのリード/ライト要求に対し、前記チャネルインターフェース部は前記ホストコンピュータとのインターフェースと前記ローカル共有メモリ部との間のデータ転送を実行し、前記ディスクインターフェース部は前記ディスク装置と前記ローカル共有メモリ部との間のデータ転送を実
行することにより、データのリード/ライトを行う複数のディスク制御クラスタと、
前記複数のディスク制御クラスタの負荷情報若しくは障害情報を含む管理情報を格納するグローバル情報制御部と、
前記複数のディスク制御クラスタの個々が有する前記チャネルインターフェース部を相互に接続するスイッチと、
前記複数のディスク制御クラスタの相互を接続する第2の接続部を有し、
前記グローバル情報制御部は、前記第2の接続部と前記スイッチに接続パスで接続され、
前記複数のディスク制御クラスタの個々が有する前記第1の接続部は前記第2の接続部に接続パスで接続され、
前記スイッチは、定期的に若しくは必要に応じて、前記グローバル情報制御部に格納された前記負荷情報若しくは障害情報を含む管理情報の複製を格納するメモリを有し、自身が有する複数のポート間の接続切換え情報を前記メモリに格納された前記管理情報に基づいて更新し、当該更新後の接続切換え情報に基づいて前記複数のポート間の接続切換えを行うことを特徴とするストレージシステム。 - 前記複数のディスク制御クラスタの個々が有するローカル共有メモリ部は、自身が属するディスク制御クラスタ内の各部位の負荷情報及び障害情報、並びに前記自身が属するディスク制御クラスタが管理する記憶領域情報を格納しており、
前記グローバル情報制御部は第2のメモリを有し、前記第2のメモリは前記複数のディスク制御クラスタの前記負荷情報、障害情報、記憶領域情報を格納しており、
前記グローバル情報制御部は、前記ローカル共有メモリ部内の前記負荷情報、障害情報、記憶領域情報をある時間間隔で参照し、前記第2のメモリ内の該負荷情報、障害情報、記憶領域情報を更新することを特徴とする請求項2記載のストレージシステム。 - 前記グローバル情報制御部は第2のメモリを有し、前記第2のメモリは前記複数のディスク制御クラスタの各部位の障害情報、負荷情報を格納しており、
前記複数のディスク制御クラスタの各々は、自身内のある部位で障害が発生した時点、あるいはある部位の負荷が予め設定した値より高くなった時点で、前記グローバル情報制御部の前記第2のメモリ内の前記障害情報あるいは負荷情報を更新することを特徴とする請求項2記載のストレージシステム。 - 前記グローバル情報制御部は第2のメモリを有し、前記第2のメモリは前記複数のディスク制御クラスタが管理する記憶領域情報を格納しており、
前記複数のディスク制御クラスタの各々は、自身内のある記憶領域のデータを、他のディスク制御クラスタ内のある記憶領域にコピーあるいは移動した時点で、前記グローバル情報制御部の前記第2のメモリ内の前記記憶領域情報を更新することを特徴とする請求項2記載のストレージシステム。 - 前記グローバル情報制御部は、該メモリ内の前記負荷情報、障害情報、あるいは記憶領域情報が更新された時点で、前記負荷情報、障害情報、あるいは記憶領域情報を前記スイッチ内のメモリにコピーすることを特徴とする請求項8、9及び10に記載のうちいずれか一つのストレージシステム。
- 前記スイッチは、前記接続切換え情報としての接続切換えテーブルを有し、前記管理情報、あるいは、記憶領域情報が更新された時点で、前記接続切換えテーブルに登録された情報を更新することを特徴とする請求項11記載のストレージシステム。
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002077499A JP4338068B2 (ja) | 2002-03-20 | 2002-03-20 | ストレージシステム |
| US10/222,831 US6915389B2 (en) | 2002-03-20 | 2002-08-19 | Storage system, disk control cluster, and its increase method |
| EP02018811A EP1347366A3 (en) | 2002-03-20 | 2002-08-22 | Storage system, disk control cluster, and a method for increasing the number of disk control clusters in a storage system |
| US11/125,210 US7747827B2 (en) | 2002-03-20 | 2005-05-10 | Storage system, disk control cluster, and its increase method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002077499A JP4338068B2 (ja) | 2002-03-20 | 2002-03-20 | ストレージシステム |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2003280824A JP2003280824A (ja) | 2003-10-02 |
| JP2003280824A5 JP2003280824A5 (ja) | 2005-06-23 |
| JP4338068B2 true JP4338068B2 (ja) | 2009-09-30 |
Family
ID=27785286
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2002077499A Expired - Fee Related JP4338068B2 (ja) | 2002-03-20 | 2002-03-20 | ストレージシステム |
Country Status (3)
| Country | Link |
|---|---|
| US (2) | US6915389B2 (ja) |
| EP (1) | EP1347366A3 (ja) |
| JP (1) | JP4338068B2 (ja) |
Families Citing this family (29)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4721379B2 (ja) * | 2001-09-26 | 2011-07-13 | 株式会社日立製作所 | ストレージシステム、ディスク制御クラスタおよびディスク制御クラスタの増設方法 |
| JP4014923B2 (ja) | 2002-04-30 | 2007-11-28 | 株式会社日立製作所 | 共有メモリ制御方法および制御システム |
| US7404012B2 (en) * | 2002-05-06 | 2008-07-22 | Qlogic, Corporation | System and method for dynamic link aggregation in a shared I/O subsystem |
| US7356608B2 (en) * | 2002-05-06 | 2008-04-08 | Qlogic, Corporation | System and method for implementing LAN within shared I/O subsystem |
| US7328284B2 (en) * | 2002-05-06 | 2008-02-05 | Qlogic, Corporation | Dynamic configuration of network data flow using a shared I/O subsystem |
| US7447778B2 (en) * | 2002-05-06 | 2008-11-04 | Qlogic, Corporation | System and method for a shared I/O subsystem |
| JP4107083B2 (ja) * | 2002-12-27 | 2008-06-25 | 株式会社日立製作所 | 高可用ディスク制御装置とその障害処理方法及び高可用ディスクサブシステム |
| US20040210656A1 (en) * | 2003-04-16 | 2004-10-21 | Silicon Graphics, Inc. | Failsafe operation of storage area network |
| US20050015655A1 (en) * | 2003-06-30 | 2005-01-20 | Clayton Michele M. | Intermediate station |
| JP2005149082A (ja) | 2003-11-14 | 2005-06-09 | Hitachi Ltd | ストレージ制御装置、及びストレージ制御装置の制御方法 |
| US7340639B1 (en) * | 2004-01-08 | 2008-03-04 | Network Appliance, Inc. | System and method for proxying data access commands in a clustered storage system |
| JP2005217815A (ja) * | 2004-01-30 | 2005-08-11 | Hitachi Ltd | パス制御方法 |
| JP4405277B2 (ja) * | 2004-02-16 | 2010-01-27 | 株式会社日立製作所 | ディスク制御装置 |
| JP4441286B2 (ja) * | 2004-02-10 | 2010-03-31 | 株式会社日立製作所 | ストレージシステム |
| US7467238B2 (en) * | 2004-02-10 | 2008-12-16 | Hitachi, Ltd. | Disk controller and storage system |
| JP2005275829A (ja) | 2004-03-25 | 2005-10-06 | Hitachi Ltd | ストレージシステム |
| JP4555029B2 (ja) * | 2004-09-01 | 2010-09-29 | 株式会社日立製作所 | ディスクアレイ装置 |
| JP2006127201A (ja) * | 2004-10-29 | 2006-05-18 | Hitachi Ltd | ストレージシステムおよび導通確認方法 |
| JP2006252358A (ja) * | 2005-03-11 | 2006-09-21 | Nec Corp | ディスクアレイ装置及びその共有メモリ装置、ディスクアレイ装置の制御プログラム及び制御方法 |
| US8073899B2 (en) * | 2005-04-29 | 2011-12-06 | Netapp, Inc. | System and method for proxying data access commands in a storage system cluster |
| US7739677B1 (en) * | 2005-05-27 | 2010-06-15 | Symantec Operating Corporation | System and method to prevent data corruption due to split brain in shared data clusters |
| JP4814617B2 (ja) * | 2005-11-01 | 2011-11-16 | 株式会社日立製作所 | ストレージシステム |
| JP5179031B2 (ja) | 2006-09-13 | 2013-04-10 | 株式会社日立製作所 | 空きポートを有効に活用したストレージシステム |
| US20080162813A1 (en) * | 2007-01-02 | 2008-07-03 | International Business Machines Corporation | Multiple logic media drive |
| US7751329B2 (en) * | 2007-10-03 | 2010-07-06 | Avaya Inc. | Providing an abstraction layer in a cluster switch that includes plural switches |
| JP5288875B2 (ja) * | 2008-05-02 | 2013-09-11 | 株式会社日立製作所 | ストレージシステム |
| JP5493575B2 (ja) * | 2009-08-10 | 2014-05-14 | 富士通株式会社 | 情報処理装置及び情報処理装置の制御方法 |
| US8164936B2 (en) * | 2009-10-14 | 2012-04-24 | Seagate Technology Llc | Switched memory devices |
| CN102129400B (zh) * | 2010-12-29 | 2013-12-04 | 华为数字技术(成都)有限公司 | 存储系统连接配置方法、设备及其存储系统 |
Family Cites Families (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5155845A (en) * | 1990-06-15 | 1992-10-13 | Storage Technology Corporation | Data storage system for providing redundant copies of data on different disk drives |
| US5544347A (en) * | 1990-09-24 | 1996-08-06 | Emc Corporation | Data storage system controlled remote data mirroring with respectively maintained data indices |
| JP3160149B2 (ja) * | 1994-05-13 | 2001-04-23 | 株式会社日立製作所 | ディスク制御装置の無停止プログラム変更方法およびディスク制御装置 |
| JPH0883216A (ja) | 1994-09-12 | 1996-03-26 | Canon Inc | 情報処理装置及びその方法 |
| JP3403920B2 (ja) | 1997-06-18 | 2003-05-06 | 株式会社日立製作所 | 記憶システムおよび記憶制御装置 |
| US6542961B1 (en) | 1998-12-22 | 2003-04-01 | Hitachi, Ltd. | Disk storage system including a switch |
| JP2000242434A (ja) | 1998-12-22 | 2000-09-08 | Hitachi Ltd | 記憶装置システム |
| US6457098B1 (en) * | 1998-12-23 | 2002-09-24 | Lsi Logic Corporation | Methods and apparatus for coordinating shared multiple raid controller access to common storage devices |
| JP3918394B2 (ja) * | 2000-03-03 | 2007-05-23 | 株式会社日立製作所 | データ移行方法 |
| JP2001256003A (ja) | 2000-03-10 | 2001-09-21 | Hitachi Ltd | ディスクアレイ制御装置、そのディスクアレイ制御ユニットおよびその増設方法 |
| US6738870B2 (en) * | 2000-12-22 | 2004-05-18 | International Business Machines Corporation | High speed remote storage controller |
| JP2001229042A (ja) | 2000-12-28 | 2001-08-24 | Hitachi Ltd | ディスク制御装置 |
| US7231430B2 (en) * | 2001-04-20 | 2007-06-12 | Egenera, Inc. | Reconfigurable, virtual processing system, cluster, network and method |
-
2002
- 2002-03-20 JP JP2002077499A patent/JP4338068B2/ja not_active Expired - Fee Related
- 2002-08-19 US US10/222,831 patent/US6915389B2/en not_active Expired - Fee Related
- 2002-08-22 EP EP02018811A patent/EP1347366A3/en not_active Withdrawn
-
2005
- 2005-05-10 US US11/125,210 patent/US7747827B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| EP1347366A3 (en) | 2006-02-15 |
| US20050198445A1 (en) | 2005-09-08 |
| EP1347366A2 (en) | 2003-09-24 |
| US6915389B2 (en) | 2005-07-05 |
| US7747827B2 (en) | 2010-06-29 |
| US20030182516A1 (en) | 2003-09-25 |
| JP2003280824A (ja) | 2003-10-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4338068B2 (ja) | ストレージシステム | |
| JP4508612B2 (ja) | クラスタ型ストレージシステム及びその管理方法 | |
| JP4462852B2 (ja) | ストレージシステム及びストレージシステムの接続方法 | |
| US7131027B2 (en) | Method and apparatus for disk array based I/O routing and multi-layered external storage linkage | |
| US6886054B2 (en) | Storage system, switch, storage medium having a program, storage system management method to manage data frames output from a switch to storage locations using correspondence data in a switch | |
| JP4528551B2 (ja) | ストレージシステム | |
| JP2001256003A (ja) | ディスクアレイ制御装置、そのディスクアレイ制御ユニットおよびその増設方法 | |
| JP2005275525A (ja) | ストレージシステム | |
| JP4721379B2 (ja) | ストレージシステム、ディスク制御クラスタおよびディスク制御クラスタの増設方法 | |
| JP4483168B2 (ja) | ディスクアレイ制御装置 | |
| JP2004192174A (ja) | ディスクアレイ制御装置 | |
| JP2005227807A (ja) | ストレージシステム | |
| JP2005056200A (ja) | データ管理方法、ディスク記憶装置およびディスク記憶システム | |
| US7865625B2 (en) | Data storage system with shared cache address space | |
| US7571280B2 (en) | Cluster-type storage system and managing method of the cluster-type storage system | |
| JP2007018539A (ja) | ディスクアレイ制御装置およびディスクアレイ制御ユニット | |
| JP2002182864A (ja) | ディスクアレイ制御装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040924 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040924 |
|
| RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20060419 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070626 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070731 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070928 |
|
| RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20070928 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20071031 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080417 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080618 |
|
| A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20080623 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20090209 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090406 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090527 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090624 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090625 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120710 Year of fee payment: 3 |
|
| LAPS | Cancellation because of no payment of annual fees |