Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5069079B2 - Hub device - Google Patents
[go: Go Back, main page]

JP5069079B2 - Hub device - Google Patents

Hub device Download PDF

Info

Publication number
JP5069079B2
JP5069079B2 JP2007272183A JP2007272183A JP5069079B2 JP 5069079 B2 JP5069079 B2 JP 5069079B2 JP 2007272183 A JP2007272183 A JP 2007272183A JP 2007272183 A JP2007272183 A JP 2007272183A JP 5069079 B2 JP5069079 B2 JP 5069079B2
Authority
JP
Japan
Prior art keywords
port
network
node computer
hub device
pci express
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007272183A
Other languages
Japanese (ja)
Other versions
JP2009100400A (en
Inventor
秀人 中山
Original Assignee
株式会社ハプティック
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社ハプティック filed Critical 株式会社ハプティック
Priority to JP2007272183A priority Critical patent/JP5069079B2/en
Publication of JP2009100400A publication Critical patent/JP2009100400A/en
Application granted granted Critical
Publication of JP5069079B2 publication Critical patent/JP5069079B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Small-Scale Networks (AREA)

Description

本発明は、コンピュータの拡張インターフェースを利用したネットワークを構成するためのハブ装置に関する。   The present invention relates to a hub device for configuring a network using an extended interface of a computer.

近年、学術研究等における高度な計算処理を行うために、HPC(High Performance Computing)と呼ばれるスーパーコンピュータが知られており、そのHPCに関して種々の研究・開発が進められている。   2. Description of the Related Art In recent years, a supercomputer called HPC (High Performance Computing) is known in order to perform advanced calculation processing in academic research and the like, and various researches and developments regarding the HPC are in progress.

このHPCとは、複数のノードコンピュータをネットワークで結合して、1つのシステムに統合したものである。これら複数のノードコンピュータは何らかの媒体によって双方向の通信できるように接続され、全体として1つのコンピュータとして扱えるように制御される。そして、HPC全体で各ノードコンピュータの処理速度を超える速い処理速度を得るのである。なお、ノードコンピュータとは、HPC内のネットワークに接続されたコンピュータである。   The HPC is obtained by connecting a plurality of node computers through a network and integrating them into one system. The plurality of node computers are connected so that bidirectional communication can be performed by some medium, and are controlled so as to be handled as one computer as a whole. Then, a high processing speed exceeding the processing speed of each node computer is obtained in the entire HPC. Note that the node computer is a computer connected to a network in the HPC.

このHPCでは、本願出願時においては、一般的に1G(10の9乗)ビット/秒の「イーサネット(登録商標)」又は「ミリネット」(Myricom社製のネットワークシステム)等の特殊なネットワークが採用されており、最大4Gビット/秒(理論最大値、双方向通信を実現した場合)を実現することが主流となっている。   In this HPC, a special network such as “Ethernet (registered trademark)” or “Millinet” (Myricom network system) of 1G (10 9) bits / second is generally used at the time of filing of the present application. The mainstream is to realize a maximum of 4 Gbit / second (theoretical maximum value, when bidirectional communication is realized).

HPCを構成する上記「イーサネット(登録商標)」や「ミリネット」の情報伝送速度は、本願出願時においては、各ノードコンピュータの演算速度よりも速かったため、上記「イーサネット(登録商標)」や「ミリネット」を採用することによって、各ノードコンピュータの演算能力が十分に活用することができた。   The information transmission speed of the above-mentioned “Ethernet (registered trademark)” and “Millinet” constituting the HPC was faster than the computation speed of each node computer at the time of filing of the application, so that the “Ethernet (registered trademark)” and “ By adopting "Millinet", the computing power of each node computer could be fully utilized.

しかし、近年、例えばAMD社のOpteron等の、従来よりも演算速度が劇的に向上したプロセッサが開発され、このプロセッサがHPCのノードコンピュータに搭載されるようになった。この結果、各ノードコンピュータの演算速度がネットワークの通信速度を越えるようになり、ネットワークの通信速度が、HPCの性能にとってボトルネックとなる場合が生じるようになった。   However, in recent years, processors such as AMD's Opteron and the like, which have dramatically improved the calculation speed compared to the past, have been developed, and this processor has come to be installed in an HPC node computer. As a result, the calculation speed of each node computer exceeds the network communication speed, and the network communication speed may become a bottleneck for the performance of the HPC.

このネットワークの通信速度の問題は、HPCの処理速度をさらに高速化させる上で深刻な問題であり、HPCを構成するネットワークの高性能化が急務となっている。   The problem of the communication speed of the network is a serious problem in further increasing the processing speed of the HPC, and there is an urgent need to improve the performance of the network constituting the HPC.

そこで、従来のネットワークよりもさらに高速に通信を行うことを目的とした種々の研究・開発がなされている。   Therefore, various researches and developments have been made for the purpose of performing communication at higher speed than conventional networks.

先行技術文献
下記特許文献1には、受信バッファがオーバーフローしないように伝送速度を変更するスイッチングハブが示されている。
Prior Art Documents Patent Document 1 listed below discloses a switching hub that changes a transmission rate so that a reception buffer does not overflow.

また、下記特許文献2には、転送制御部と、バッファ部と、フロー制御を行う監視部と、を備えたスイッチングハブ装置において、バッファに蓄積されるデータ量を監視して、ネットワーク全体としてのスループットを向上させる技術が開示されている。   Patent Document 2 listed below monitors the amount of data stored in a buffer in a switching hub device including a transfer control unit, a buffer unit, and a monitoring unit that performs flow control, and A technique for improving throughput is disclosed.

また、下記特許文献3には、ネットワークに比べて拡張バスのデータ転送速度が遅いことを解決する技術が開示されている。   Patent Document 3 below discloses a technique for solving the problem that the data transfer rate of the expansion bus is slower than that of the network.

特開平9−162916号公報Japanese Patent Laid-Open No. 9-162916 特開2000−232470号公報JP 2000-232470 A 特開2000−124922号公報JP 2000-124922 A

本願発明者は、上述した背景の下、拡張インターフェースを利用してサーバシステムやコンピュータクラスタにおけるノードコンピュータ間の相互通信を実現し、これを一般的なネットワークとして稼働させることを研究・開発するに至った。   Under the background described above, the inventor of the present application has realized research and development of realizing mutual communication between node computers in a server system or a computer cluster using an extension interface and operating this as a general network. It was.

このような拡張インターフェースを利用したネットワークシステムは、別途特許出願するつもりである。   We intend to apply for a patent separately for a network system using such an extended interface.

さて、このような拡張インターフェースを利用したネットワークにおいては、複数のノードコンピュータ同士を、拡張インターフェースを利用したネットワークシステムに接続するためのHUB装置が重要である。このようなHUB装置は、コンピュータの拡張インターフェースのコネクタを備え、そこにノードコンピュータがそれぞれ接続を行うことになる。   Now, in such a network using an extended interface, a HUB device for connecting a plurality of node computers to a network system using the extended interface is important. Such a HUB device is provided with a connector for an expansion interface of a computer, and the node computers respectively connect to the connector.

ところで、従来、拡張インターフェースは、コンピュータとIOデバイスとを接続するために使用されてきたので、上記のようなノードコンピュータを接続することを前提としたHUB装置であっても汎用的なIOデバイスが接続できれば便利である。   By the way, since the expansion interface has been conventionally used to connect a computer and an IO device, a general-purpose IO device is used even in a HUB device premised on connecting a node computer as described above. It would be convenient if it could be connected.

なお、IOデバイスは、周辺機器、ペリフェラルなどと呼ばれることも多い。   An IO device is often called a peripheral device or a peripheral.

つまり、ノードコンピュータ同士を、拡張インターフェースを利用したネットワークで接続するためのHUB装置において、このHUB装置にIOデバイスを接続して通信を行えれば、この拡張インターフェースを利用したネットワークシステムの利便性がさらに向上すると考えられる。   That is, in a HUB device for connecting node computers to each other via a network using an expansion interface, if communication is possible by connecting an IO device to this HUB device, the convenience of a network system using this expansion interface can be improved. It is thought that it will further improve.

本願発明は、上記で述べたような考えを基礎としてなされたものであり、その第1の目的は、ノードコンピュータ同士を拡張インターフェースを利用したネットワークによって接続できるHUB装置10を提供することである。   The present invention has been made on the basis of the idea as described above, and a first object thereof is to provide a HUB device 10 capable of connecting node computers to each other by a network using an extended interface.

また、第2の目的は、上記HUBにおいて、IOデバイスをも接続可能とすることである。   The second purpose is to enable connection of IO devices in the HUB.

(1)本発明は、上記課題を解決するために、ノードコンピュータの拡張インターフェースを接続することができるポート群と、前記ポートに接続されるノードコンピュータのアドレス情報を保存するテーブル手段と、前記各ポートから入力したデータを保存するバッファ手段と、前記バッファ手段から、前記入力したデータの宛先のアドレスを取得し、取得したアドレスで前記テーブル手段を検索し、宛先の位置を取得し、前記データを宛先に送信するスイッチロジック手段と、を備えることを特徴とするHUB装置である。   (1) In order to solve the above problems, the present invention provides a port group to which an extended interface of a node computer can be connected, table means for storing address information of the node computer connected to the port, Buffer means for storing data input from a port; and from the buffer means, a destination address of the input data is obtained, the table means is searched with the obtained address, a destination position is obtained, and the data is Switch logic means for transmitting to a destination.

(2)また、本発明は、上記(1)記載のHUB装置において、前記拡張インターフェースはPCI Expressであることを特徴とするHUB装置である。   (2) Further, the present invention is the HUB device according to the above (1), wherein the extension interface is a PCI Express.

(3)また、本発明は、上記(1)又は(2)に記載のHUB装置において、前記テーブル手段は、前記各ポート毎に、接続している機器のIPアドレス、デバイス番号、MACアドレス、のいずれかを保持していることを特徴とするHUB装置である。   (3) Further, the present invention provides the HUB device according to (1) or (2) above, wherein the table means includes, for each port, an IP address, a device number, a MAC address of a connected device, It is a HUB apparatus characterized by holding either.

(4)本発明は、上記課題を解決するために、ノードコンピュータの拡張インターフェースを接続することができるポート群と、前記ポートに接続されるノードコンピュータ又はIOデバイスのアドレス情報を保存するテーブル手段と、前記各ポートから入力したデータを保存するバッファ手段と、前記バッファ手段から、前記入力したデータの宛先のアドレスを取得し、取得したアドレスで前記テーブル手段を検索し、宛先の位置を取得し、前記データを宛先に送信するスイッチロジック手段と、を備えることを特徴とするHUB装置である。   (4) In order to solve the above problems, the present invention provides a port group to which an expansion interface of a node computer can be connected, and table means for storing address information of the node computer or IO device connected to the port. , Buffer means for storing data input from each port; and from the buffer means, obtain the address of the destination of the input data, search the table means by the obtained address, obtain the position of the destination, And a switch logic means for transmitting the data to a destination.

(5)また、本発明は、上記(4)記載のHUB装置において、前記拡張インターフェースはPCI Expressであることを特徴とするHUB装置である。   (5) Further, the present invention is the HUB device according to the above (4), wherein the extension interface is a PCI Express.

(6)また、本発明は、上記(4)又は(5)に記載のHUB装置において、前記テーブル手段は、前記各ポート毎に、接続している機器のIPアドレス、デバイス番号、MACアドレス、のいずれかを保持していることを特徴とするHUB装置である。   (6) Further, the present invention provides the HUB device according to (4) or (5) above, wherein the table means includes, for each port, an IP address, a device number, a MAC address, It is a HUB apparatus characterized by holding either.

(7)また、本発明は、上記(4)〜(6)のいずれかに記載のHUB装置において、前記テーブル手段は、前記各ポート毎に、接続している機器がネットワーク上のノードコンピュータであるか、それとも、ネットワーク上で公開するIOデバイスであるか、を示すフラグを有することを特徴とするHUB装置である。   (7) Further, the present invention provides the HUB device according to any one of (4) to (6), wherein the table means is a node computer on a network for each port. It is a HUB device characterized by having a flag indicating whether it is an IO device to be disclosed on the network.

(8)また、本発明は、上記(4)〜(7)のいずれかに記載のHUB装置において、前記スイッチロジック手段は、前記各ポート毎に、接続している機器の所定の記憶領域を検査し、その機器がネットワーク上のノードコンピュータであるか、それとも、ネットワーク上で公開するIOデバイスであるか、を判断することを特徴とするHUB装置である。   (8) Moreover, the present invention provides the HUB device according to any one of (4) to (7), wherein the switch logic unit stores a predetermined storage area of a connected device for each port. The HUB device is characterized in that it checks and determines whether the device is a node computer on the network or an IO device to be disclosed on the network.

(9)また、本発明は、上記(7)記載のHUB装置において、前記スイッチロジック手段は、前記各ポート毎に、接続している機器の所定の記憶領域を検査し、その機器がネットワーク上のノードコンピュータであるか、それとも、ネットワーク上で公開するIOデバイスであるか、を判断し、この判断結果に基づいて、前記フラグを設定することを特徴とするHUB装置である。   (9) Further, in the HUB device according to (7), the switch logic means inspects a predetermined storage area of a connected device for each port, and the device is connected to a network. This is a HUB device that judges whether it is a node computer or an IO device to be disclosed on the network and sets the flag based on the judgment result.

以上述べたように、本発明によれば、複数のノードコンピュータ同士を、拡張インターフェースを利用したネットワークに接続することができる。   As described above, according to the present invention, a plurality of node computers can be connected to a network using an extended interface.

また、本発明によれば、ノードコンピュータとIOデバイスとを拡張インターフェースによって接続し、IOデバイスを前記ノードコンピュータが接続するネットワーク上で公開されたデバイスとして利用することを可能とした。従って、本発明によれば、拡張インターフェースを利用したネットワークの利便性を向上させることができる。   Further, according to the present invention, a node computer and an IO device are connected by an extended interface, and the IO device can be used as a device disclosed on a network to which the node computer is connected. Therefore, according to the present invention, the convenience of the network using the extended interface can be improved.

以下、本発明の好ましい形態を添付の図面に基づいて説明する。   Hereinafter, preferred embodiments of the present invention will be described with reference to the accompanying drawings.

第1 本実施の形態におけるHUB装置10の概要
図1には、本実施の形態におけるHUB装置10の外観図が示されている。この図1に示されるように、HUB装置10は、5つのポート20a、20b、20c、20d、20eを備えている。これらのポート20a〜20eは、PCI Expressのポートである。
First Outline of HUB Device 10 in the Present Embodiment FIG. 1 shows an external view of the HUB device 10 in the present embodiment. As shown in FIG. 1, the HUB device 10 includes five ports 20a, 20b, 20c, 20d, and 20e. These ports 20a to 20e are PCI Express ports.

本実施の形態において特徴的なことは、このPCI Expressのポートをネットワークのポートとして利用したことである。   What is characteristic in the present embodiment is that this PCI Express port is used as a network port.

図1のHUB装置10は、これらのポート20a〜20e間をスイッチングし、各ポート20間の高速な通信を実現する。   The HUB device 10 of FIG. 1 switches between these ports 20a to 20e and realizes high-speed communication between the ports 20.

また、本実施の形態におけるHUB装置10が備える各ポート20a〜20eの形状は、図1中に示される形状のみに限定されるものではなく、実施者が適宜各ポート20a〜20eの形状を変更することができる。   Moreover, the shape of each port 20a-20e with which the HUB apparatus 10 in this Embodiment is provided is not limited only to the shape shown in FIG. 1, A practitioner changes the shape of each port 20a-20e suitably. can do.

なお、HUB装置10の各種動作に関する設定は、ホストコンピュータをこのHUB装置10に接続することによって行うことができる。なお、このホストコンピュータとは、HUB装置10の動作を管理するアプリケーションソフトを備えたコンピュータである。   Note that settings relating to various operations of the HUB device 10 can be performed by connecting a host computer to the HUB device 10. The host computer is a computer provided with application software for managing the operation of the HUB device 10.

第2 本実施の形態におけるHUB装置10を使用したネットワークの概要
図2には、本実施の形態におけるHUB装置10に、ノードコンピュータ22a、22b、22cと、ハードディスク24d、24eと、を接続した概念図が示されている。
2. Outline of Network Using HUB Device 10 in Second Embodiment FIG. 2 shows a concept in which node computers 22a, 22b, 22c and hard disks 24d, 24e are connected to HUB device 10 in this embodiment. The figure is shown.

2−1 ノードコンピュータの接続
まず、HUB装置10のポート20aには、図2に示すように、ノードコンピュータ22aが接続されている。接続は、PCI Expressのケーブルを利用して行われる。なお、ノードコンピュータ22aには、PCI Expressインターフェースをネットワークとして用いるためのNICカードがPCI Expressスロットに導入されており、このNICカードのPCI Expressポートと、上記ポート20aとがPCI Expressケーブルで接続されるのである。
2-1. Connection of Node Computer First, a node computer 22a is connected to the port 20a of the HUB device 10 as shown in FIG. The connection is performed using a PCI Express cable. In the node computer 22a, a NIC card for using the PCI Express interface as a network is installed in the PCI Express slot, and the PCI Express port of the NIC card and the port 20a are connected by a PCI Express cable. It is.

また、同様に、ポート20b、20cには、それぞれ各ノードコンピュータ22b、22cが接続されている。これらのノードコンピュータ22b、22cにも同様にNICカードがそのPCI Expressスロットに挿入されている。   Similarly, the node computers 22b and 22c are connected to the ports 20b and 20c, respectively. Similarly, in these node computers 22b and 22c, a NIC card is inserted into the PCI Express slot.

2−2 IOデバイスの接続
次に、HUB装置10のポート20dには、図2に示すように、ハードディスク22dが接続されている。このハードディスク22dは、PCI Expressに準拠する一般的な外部ハードディスク装置である。
2-2 Connection of IO Device Next, a hard disk 22d is connected to the port 20d of the HUB device 10 as shown in FIG. The hard disk 22d is a general external hard disk device that conforms to PCI Express.

このポート20dは、デバイスが接続されると、(一般的なコンピュータに設けられている)PCI Expressのスロットとして動作を行う。   When a device is connected, the port 20d operates as a PCI Express slot (provided in a general computer).

つまり、HUB装置10がPCI Expressのスロットを有するコンピュータとして動作し、ハードディスク22dは、一般的なコンピュータに接続された外部ハードディスクとして動作を行う。   That is, the HUB device 10 operates as a computer having a PCI Express slot, and the hard disk 22d operates as an external hard disk connected to a general computer.

このとき、HUB装置10は、このHUB装置10が実現している上記ネットワーク上に接続された1個の仮想的なコンピュータとして動作し、上記ハードディスクをネットワーク上で公開する。結局、HUB装置10は、スイッチングのためのプロセッサを備えているが、一般的なコンピュータと同様に、その動作はプログラムで規定されるので、接続されたハードディスクをネットワーク上で公開することは、当業者であれば容易である。   At this time, the HUB device 10 operates as one virtual computer connected to the network realized by the HUB device 10 and publishes the hard disk on the network. Eventually, the HUB device 10 is provided with a processor for switching. However, like a general computer, its operation is defined by a program, so that it is not possible to open a connected hard disk on the network. It is easy for a contractor.

この結果、本実施の形態において特徴的なことは、HUB装置10に接続したIOデバイスがネットワーク上で、他のノードコンピュータが利用可能な共通リソースとなることである。   As a result, what is characteristic in the present embodiment is that the IO device connected to the HUB device 10 becomes a common resource that can be used by other node computers on the network.

例えば、上で述べた例では、ポート20dに接続されたハードディスク22dは、ネットワーク上におけるNAS(Network Attached Storage)として動作することとなる。   For example, in the example described above, the hard disk 22d connected to the port 20d operates as a NAS (Network Attached Storage) on the network.

また、HUB装置10が備えるポート20eにも、図2に示すように、ハードディスク22eが接続されている。このポート20eは、上で述べたポート20dと同様に、PCI Expressの拡張スロットとして動作する。そして、同様にハードディスク22eは、ネットワーク上で公開されたNASとして動作する。   Further, as shown in FIG. 2, a hard disk 22e is also connected to the port 20e included in the HUB device 10. This port 20e operates as a PCI Express expansion slot, similarly to the port 20d described above. Similarly, the hard disk 22e operates as a NAS disclosed on the network.

本実施の形態において特徴的なことは、HUB装置10が備える各ポート20a〜20eは、ノードコンピュータが接続された時には、PCI Expressを利用したネットワークのポートになり、デバイスが接続された時には、PCI Expressのソケットになるということである。   What is characteristic in the present embodiment is that each of the ports 20a to 20e provided in the HUB device 10 becomes a network port using PCI Express when the node computer is connected, and when the device is connected, the PCI is used. It is an Express socket.

これによって、例えばHUB装置10とノードコンピュータ22aとの間では、PCI Expressを利用したネットワークによって高速な通信が行われ、一方、各ハードディスク22d、22eは、PCI Expressを利用したネットワーク上で公開されたNASとして動作し、HUB装置10に接続された前記各ノードコンピュータ22a〜22cとの間で、高速なデータの書き込み・読み出しが行われる。   As a result, for example, high-speed communication is performed between the HUB device 10 and the node computer 22a through a network using PCI Express, while the hard disks 22d and 22e are made public on the network using PCI Express. High-speed data writing / reading is performed with each of the node computers 22a to 22c connected to the HUB device 10 and operating as a NAS.

2−3 ポートに接続されている装置の種類の判断
さて、本実施の形態に係るHUB装置10は、ポート20に接続されたものが、ネットワークのノードコンピュータであるのか、それとも、IOデバイスであり、ネットワーク上の共通リソースとなるべきものであるのか、を所定のコンフィグレーション空間中の情報に基づいて判断している。この判断について次節で述べる。
2-3 Determining the Type of Device Connected to the Port The HUB device 10 according to the present embodiment is a network node computer connected to the port 20 or an IO device. Whether the resource should be a common resource on the network is determined based on information in a predetermined configuration space. This will be discussed in the next section.

第3 HUB装置10の内部構成
図3には、本実施の形態におけるHUB装置10の内部構成を示すブロック図が示されている。この図3に示されるように、本実施の形態におけるHUB装置10は、5個のポート20a〜20eと、PCI Expressスイッチロジック30と、バッファ40と、テーブル50と、を備えている。そして、この図3に示すように、これら各ポート20a〜20e、バッファ40、テーブル50などはそれぞれPCI Expressスイッチロジック30に接続されている。
Internal Configuration of Third HUB Device 10 FIG. 3 is a block diagram showing the internal configuration of the HUB device 10 in the present embodiment. As shown in FIG. 3, the HUB device 10 according to the present embodiment includes five ports 20 a to 20 e, a PCI Express switch logic 30, a buffer 40, and a table 50. As shown in FIG. 3, the ports 20 a to 20 e, the buffer 40, the table 50, and the like are each connected to the PCI Express switch logic 30.

この図3中のPCI Expressスイッチロジック30は、HUB装置10の種々の動作を担うスイッチチップである。このスイッチチップは、所定のプログラムを格納しており、このプログラムに従って、所望のスイッチング処理を実行する。   The PCI Express switch logic 30 in FIG. 3 is a switch chip that performs various operations of the HUB device 10. The switch chip stores a predetermined program, and executes a desired switching process according to the program.

また、この図3中のテーブル50は、各ポート20a〜20eに接続された機器のMACアドレス及びIPアドレス、デバイス番号などのアドレス情報を保存するテーブルである。   Also, the table 50 in FIG. 3 is a table for storing address information such as MAC addresses, IP addresses, and device numbers of devices connected to the ports 20a to 20e.

また、図3中のバッファ40は、HUB装置10が各ポート20a〜20eを介して受信したデータを、PCI Expressスイッチロジック30が一時的に保存するためのバッファの役割を担う。PCI Expressスイッチロジック30は、このバッファ中の領域を各ポート毎の領域に分けて用いている。すなわち、バッファ40は、各ポート20a、20b、20c、20d、20e用に領域が分けられている。   3 serves as a buffer for the PCI Express switch logic 30 to temporarily store data received by the HUB device 10 via the ports 20a to 20e. The PCI Express switch logic 30 uses the area in the buffer divided into areas for each port. That is, the buffer 40 is divided into areas for the ports 20a, 20b, 20c, 20d, and 20e.

3−1 HUBがノードコンピュータとデバイスとを判別する動作
さて、HUB装置10の各ポート20a〜20eに、何らかのPCI Expressのデバイスが接続された場合に、それが一般的な従来からあるいわゆる「周辺機器」であるのか、それともネットワークを構成するために設けられた上述したNICカードであるのか、を識別する。識別結果に基づき、それぞれ異なった動作をすることは既に上述した。
3-1 Operation for HUB to discriminate between node computer and device Now, when any PCI Express device is connected to each port 20a to 20e of the HUB device 10, it is a so-called “peripheral” that is generally used in the past. It is identified whether it is a “device” or the above-mentioned NIC card provided for configuring a network. It has already been described above that different operations are performed based on the identification results.

まず、各ノードコンピュータ22a、22b、22cが接続する際には、上述したNICカードを用いて接続を行う。このNICカードは、PCI Expressのデバイスではあるが、そのコンフィグレーション空間の所定のビット位置に、「本デバイスはネットワークインターフェースカードであり、ノードコンピュータとして接続したい」旨を表すビットが立てられている。   First, when the node computers 22a, 22b, and 22c are connected, the connection is performed using the NIC card described above. Although this NIC card is a PCI Express device, a bit indicating that “this device is a network interface card and wants to be connected as a node computer” is set at a predetermined bit position in its configuration space.

HUB装置10は、接続されたデバイスのコンフィグレーション空間中のこのビットを参照し、立てられていれば(「1」であれば)、それをノードコンピュータが接続されたと判断するのである。   The HUB device 10 refers to this bit in the configuration space of the connected device, and if it is set (if it is “1”), it determines that the node computer is connected.

一方、このビットが立っていない場合は、従来の一般的なPCI ExpressのIOデバイスが接続されたと判断し、そのIDデバイスをネットワーク上で公開し、共有リソースとするのである。   On the other hand, if this bit is not set, it is determined that a conventional general PCI Express IO device is connected, and the ID device is made public on the network and used as a shared resource.

ここでは、「ビットが立っていない」と述べたが、一般的なデバイスである各ハードディスク22d、22eでは、そのビットに相当するメモリそのものが存在しない場合もあり得る。   Here, it is described that “the bit is not set”, but in each of the hard disks 22d and 22e which are general devices, there may be a case where the memory itself corresponding to the bit does not exist.

PCI Expressのコンフィグレーション空間はPCIのコンフィグレーション空間(256バイト)に加えて3840バイト多く、4096バイト利用可能であるが、実際にはその一部しか用いないため、一部しかメモリを実装していない場合も多いのである。ビットが立っていないとは、このようにそのビットが存在しない場合も含まれる。   The PCI Express configuration space is 3840 bytes more than the PCI configuration space (256 bytes), and 4096 bytes can be used. However, since only a part of it is actually used, only a part of the memory is mounted. In many cases, it is not. That a bit is not set includes a case where the bit does not exist.

これらの各ノードコンピュータ22a、22b、22c、及び各ハードディスク22d、22eを、図3中の各ポート20a〜20eにそれぞれ接続すると、HUB装置10が備えるPCI Expressスイッチロジック30は、各ポート20a〜20eに接続された各ノードコンピュータ22a、22b、22c、及び各ハードディスク22d、22e中の上記コンフィグレーション空間の所定のビットを検査する。   When these node computers 22a, 22b, 22c and hard disks 22d, 22e are respectively connected to the ports 20a-20e in FIG. 3, the PCI Express switch logic 30 provided in the HUB device 10 is connected to the ports 20a-20e. The predetermined bits of the configuration space in each of the node computers 22a, 22b, 22c and the hard disks 22d, 22e connected to the are checked.

そして、このPCI Expressスイッチロジック30は、この検査結果を、テーブル50内に格納する。   The PCI Express switch logic 30 stores the inspection result in the table 50.

すなわち、テーブル50内には、各ポート20a〜20e毎にその接続デバイスがネットワーク機器(ノードコンピュータ)か、それとも、一般的なIOデバイスか、に関するフラグ情報等が保存されている。テーブル50中には、各ポート20毎に、このようなフラグ情報の他に、、デバイスの種類(ハードディスクか、グラフィックカードか、等)、アドレス関連情報その他の情報が格納されている、
そして、PCI Expressスイッチロジック30が、これらのフラグ情報等を参照することによって、各ノードコンピュータ22a、22b、22c及び各ハードディスク22d、22eが接続された各ポートがどのポートであるか、等の状況を常に確認しながら、それぞれ対応する処理を実行することができる。
That is, in the table 50, for each port 20a to 20e, flag information relating to whether the connected device is a network device (node computer) or a general IO device is stored. In the table 50, for each port 20, in addition to such flag information, device type (hard disk or graphic card, etc.), address related information and other information are stored.
Then, the PCI Express switch logic 30 refers to the flag information and the like to determine which port each port to which each node computer 22a, 22b, 22c and each hard disk 22d, 22e is connected is. The corresponding processing can be executed while always confirming.

3−2 通信に係る動作(スイッチング動作)
次に、図4に基づいて、このHUB装置10がスイッチングを行う動作を説明する。この図4には、ポート20aに接続されたノードコンピュータ22aと、ポート20bに接続されたノードコンピュータ22bとの間で通信を行う際のフローチャートが示されている。ノードコンピュータ22aは、以下の(1)〜(4)に示す動作によって、ノードコンピュータ22bに対して任意のデータパケットを送信する。
3-2 Operation related to communication (switching operation)
Next, based on FIG. 4, the operation | movement which this HUB apparatus 10 performs switching is demonstrated. FIG. 4 shows a flowchart when communication is performed between the node computer 22a connected to the port 20a and the node computer 22b connected to the port 20b. The node computer 22a transmits an arbitrary data packet to the node computer 22b by the operations shown in the following (1) to (4).

3−2−1 ノードコンピュータ同士の通信
(1)まず、ノードコンピュータ22aは、任意のデータに、相手先であるノードコンピュータ22bのIPアドレスを含むデータパケットをポート20aを介してHUB装置10に対して送信する。この動作が、図4中の(1)に示されている。
3-2-1 Communication Between Node Computers (1) First, the node computer 22a sends a data packet including the IP address of the node computer 22b, which is the counterpart, to arbitrary data as to the HUB device 10 via the port 20a. To send. This operation is indicated by (1) in FIG.

(2)PCI Expressスイッチロジック30は、前記データパケットを、ポート20aを介して受信し、受信したデータを、バッファ40に保存する。この動作が図4中の(2)に示されている。   (2) The PCI Express switch logic 30 receives the data packet via the port 20 a and stores the received data in the buffer 40. This operation is shown by (2) in FIG.

(3)次に、PCI Expressスイッチロジック30は、上記(2)でバッファ40に保存した前記データに含まれる宛先(すなわちノードコンピュータ22b)のIPアドレスを読み取る。   (3) Next, the PCI Express switch logic 30 reads the IP address of the destination (that is, the node computer 22b) included in the data stored in the buffer 40 in (2) above.

そして、PCI Expressスイッチロジック30は、前記IPアドレスに基づいて、テーブル50を検索し、対応するIPアドレスを見つけ、そのデバイス番号又はMACアドレス等を取得する。   Then, the PCI Express switch logic 30 searches the table 50 based on the IP address, finds the corresponding IP address, and acquires the device number or MAC address.

また、PCI Expressスイッチロジック30は、同時に、テーブル50に保存されている情報を参照し、送信先がノードコンピュータであること、接続しているポートがポート20bであること、等の情報を取得する。   In addition, the PCI Express switch logic 30 simultaneously refers to the information stored in the table 50, and acquires information such as that the transmission destination is a node computer and the connected port is the port 20b. .

これらテーブル50の検索動作が、図4中の(3)に示されている。なお、HUB装置10に接続されたノードコンピュータ及びデバイスの各IPアドレス及び各MACアドレスは、テーブル50に格納しておく。   The search operation of these tables 50 is shown in (3) in FIG. Each IP address and each MAC address of the node computer and device connected to the HUB device 10 are stored in the table 50.

このテーブル50のメンテナンスを始め、HUB装置10の各種設定は、外部のホストコンピュータから行うことが好ましい。   Various settings of the HUB device 10 including the maintenance of the table 50 are preferably performed from an external host computer.

このホストコンピュータは、ポート20のいずれかに接続することを予め決めておき、そのポート20を通じて、ホストコンピュータが内部のテーブル50等を設定するように構成することが好ましい。このような構成を採用する場合は、テーブル50の内容をホストコンピュータのハードディスク等にバックアップしておくことが好ましい。   It is preferable that the host computer is determined in advance to be connected to one of the ports 20 and the host computer sets the internal table 50 and the like through the port 20. When such a configuration is adopted, it is preferable to back up the contents of the table 50 to a hard disk or the like of the host computer.

また、このようなHUB装置10は、接続可能なノードコンピュータの数を増やすため、しばしばディジーチェーン接続されることがある。この場合、上流側と下流側のディジーチェーン接続のための専用のポートを設けておくことが好ましく、特にその最上位に先程述べたホストコンピュータを接続しておくことも、大変好ましい。特に、この場合は、ホストコンピュータがPCI Expressのルートコンプレックスの役割を果たすことが好ましい。   Also, such a HUB device 10 is often daisy chained to increase the number of connectable node computers. In this case, it is preferable to provide dedicated ports for daisy chain connection on the upstream side and downstream side, and it is also very preferable to connect the host computer described above in particular at the highest level. In particular, in this case, it is preferable that the host computer plays the role of a PCI Express root complex.

(4)次に、PCI Expressスイッチロジック30は、上記(2)でバッファ40に保存した前記データを読み取り、読み取った前記データをポート20bを介してノードコンピュータ22bに送出する。この動作が、図4中の(4)に示されている。   (4) Next, the PCI Express switch logic 30 reads the data stored in the buffer 40 in (2), and sends the read data to the node computer 22b via the port 20b. This operation is shown by (4) in FIG.

3−2−2 ノードコンピュータとIOデバイス間の通信
また、HUB装置10のポート20aに接続されたノードコンピュータ22aと、ポート20dに接続されたハードディスク22dと、の間での通信は、以下の動作手順によって行われる。このハードディスク22dは、HUB装置10に接続され、ネットワーク上でNASとして公開されているIOデバイスである。
3-2-2 Communication between Node Computer and IO Device In addition, communication between the node computer 22a connected to the port 20a of the HUB device 10 and the hard disk 22d connected to the port 20d has the following operations. Done by the procedure. The hard disk 22d is an IO device that is connected to the HUB device 10 and disclosed as NAS on the network.

まず、ノードコンピュータ22a、PCI Expressスイッチロジック30、及びバッファ40、において、上記(1)及び(2)で述べた動作と同様の動作が行われる。   First, in the node computer 22a, the PCI Express switch logic 30, and the buffer 40, operations similar to the operations described in the above (1) and (2) are performed.

(3’)次に、上記(3)で述べたように、Expressスイッチロジック30は、バッファ40に保存した前記データに含まれるハードディスク22dのIPアドレスを読み取る。そして、PCI Expressスイッチロジック30は、前記IPアドレスに基づいて、テーブル50を参照し、ハードディスク22dのデバイス番号やMACアドレスを取得する。また、このとき、テーブル50に保存されているフラグ情報を参照し、送信先がネットワーク上で公開されているIOデバイスであることを認識する。   (3 ′) Next, as described in (3) above, the Express switch logic 30 reads the IP address of the hard disk 22 d included in the data stored in the buffer 40. Then, the PCI Express switch logic 30 refers to the table 50 based on the IP address and acquires the device number and MAC address of the hard disk 22d. At this time, the flag information stored in the table 50 is referred to and it is recognized that the transmission destination is an IO device published on the network.

(4’)次に、PCI Expressスイッチロジック30は、バッファ40に保存した前記データを読み取り、読み取った前記データをポート20dを介してハードディスク22dに送出する。その後、ハードディスク22dは、このデータを格納し、「データの書き込み」は終了する。このように、基本的に、一般のNASと同様の動作を実行する。データの読み出しも従来のNASの動作と同様に行われる。   (4 ') Next, the PCI Express switch logic 30 reads the data stored in the buffer 40 and sends the read data to the hard disk 22d through the port 20d. Thereafter, the hard disk 22d stores this data, and the “data writing” ends. Thus, basically, the same operation as that of a general NAS is executed. Data reading is also performed in the same manner as the conventional NAS operation.

第5 まとめ
以上述べたように、本実施の形態によれば、拡張インターフェースをネットワークとして利用しうるスイッチングハブを構成したので、従来より高速なネットワークシステムを簡便に構成することができる。その結果、従来よりも高性能なサーバシステムやHPCを実現することができる。
Fifth Summary As described above, according to the present embodiment, since the switching hub that can use the extended interface as a network is configured, a network system that is faster than the conventional one can be configured easily. As a result, it is possible to realize a server system or HPC with higher performance than before.

第6 変形例・応用例
(1)上述した図1中のHUB装置10は、5個のポート20a〜20eを備えているが、HUB装置10が備えるポートの数は5個に限られるものではなく、実施者が任意の個数のポートをHUB装置10に備えることができる。
Sixth Modification / Application (1) The HUB device 10 in FIG. 1 described above includes five ports 20a to 20e, but the number of ports included in the HUB device 10 is not limited to five. However, the implementer can provide the HUB device 10 with an arbitrary number of ports.

(2)各ポート20のPCI Expressのレーン数は、任意のレーン数に設定することができる。   (2) The number of PCI Express lanes of each port 20 can be set to an arbitrary number of lanes.

(3)本実施の形態では拡張インターフェースとしてPCI Expressを採用したが、高速なインターフェースであれば、本実施の形態のように利用することが可能である。   (3) In this embodiment, PCI Express is adopted as the expansion interface, but any high-speed interface can be used as in this embodiment.

(4)本文では、「HUB装置」と称しているが、このような機器は、「ハブ装置」又は単に「ハブ」「HUB」と呼ぶこともある。   (4) In the text, it is referred to as a “HUB device”, but such a device may be referred to as a “hub device” or simply “hub” or “HUB”.

HUB装置10の外観図である。1 is an external view of a HUB device 10. FIG. HUB装置10を利用したネットワークの概念図である。1 is a conceptual diagram of a network using a HUB device 10. FIG. HUB装置10の内部構成を示すブロック図である。2 is a block diagram showing an internal configuration of a HUB device 10. FIG. ノードコンピュータ22aとノードコンピュータ22bとの間で通信を行う際のフローチャートである。It is a flowchart at the time of performing communication between the node computer 22a and the node computer 22b.

符号の説明Explanation of symbols

10 HUB
20a〜20e ポート
22a〜22c ノードコンピュータ
22d、22e ハードディスク
30 PCI Expressスイッチロジック
40 バッファ
50 テーブル
10 HUB
20a to 20e Ports 22a to 22c Node computers 22d and 22e Hard disk 30 PCI Express switch logic 40 Buffer 50 Table

Claims (3)

ノードコンピュータの拡張インターフェースを接続することができるポート群と、
前記ポートに接続されるノードコンピュータ又はIOデバイスのアドレス情報を保存するテーブル手段と、
前記各ポートから入力したデータを保存するバッファ手段と、
前記バッファ手段から、前記入力したデータの宛先のアドレスを取得し、取得したアドレスで前記テーブル手段を検索し、宛先の位置を取得し、前記データを宛先に送信するスイッチロジック手段と、
を備え、
前記拡張インターフェースはPCI Expressであり、
前記テーブル手段は、前記各ポート毎に、接続している機器がネットワーク上のノードコンピュータであるか、それとも、ネットワーク上で公開するIOデバイスであるか、を示すフラグを有し、
前記スイッチロジック手段は、前記各ポート毎に、接続している機器の所定の記憶領域を検査し、その機器がネットワーク上のノードコンピュータであるか、それとも、ネットワーク上で公開するIOデバイスであるか、を判断することを特徴とするHUB装置。
A group of ports to which the expansion interface of the node computer can be connected;
Table means for storing address information of a node computer or IO device connected to the port;
Buffer means for storing data input from each port;
Switch logic means for obtaining a destination address of the input data from the buffer means, searching the table means with the obtained address, obtaining a position of the destination, and transmitting the data to the destination;
With
The extended interface is PCI Express ,
The table means has, for each port, a flag indicating whether the connected device is a node computer on the network or an IO device disclosed on the network,
The switch logic means inspects a predetermined storage area of a connected device for each port, and whether the device is a node computer on the network or an IO device disclosed on the network. , HUB device characterized by judging.
ノードコンピュータの拡張インターフェースを接続することができるポート群と、
前記ポートに接続されるノードコンピュータ又はIOデバイスのアドレス情報を保存するテーブル手段と、
前記各ポートから入力したデータを保存するバッファ手段と、
前記バッファ手段から、前記入力したデータの宛先のアドレスを取得し、取得したアドレスで前記テーブル手段を検索し、宛先の位置を取得し、前記データを宛先に送信するスイッチロジック手段と、
を備え、
前記拡張インターフェースはPCI Expressであり、
前記テーブル手段は、前記各ポート毎に、接続している機器がネットワーク上のノードコンピュータであるか、それとも、ネットワーク上で公開するIOデバイスであるか、を示すフラグを有し、
前記スイッチロジック手段は、前記各ポート毎に、接続している機器の所定の記憶領域を検査し、その機器がネットワーク上のノードコンピュータであるか、それとも、ネットワーク上で公開するIOデバイスであるか、を判断し、この判断結果に基づいて、前記フラグを設定することを特徴とするHUB装置。
A group of ports to which the expansion interface of the node computer can be connected;
Table means for storing address information of a node computer or IO device connected to the port;
Buffer means for storing data input from each port;
Switch logic means for obtaining a destination address of the input data from the buffer means, searching the table means with the obtained address, obtaining a position of the destination, and transmitting the data to the destination;
With
The extended interface is PCI Express ,
The table means has, for each port, a flag indicating whether the connected device is a node computer on the network or an IO device disclosed on the network,
The switch logic means inspects a predetermined storage area of a connected device for each port, and whether the device is a node computer on the network or an IO device disclosed on the network. , And the flag is set based on the determination result.
請求項1又は2のいずれかに記載のHUB装置において、
前記テーブル手段は、前記各ポート毎に、接続している機器のIPアドレス、デバイス番号、MACアドレス、のいずれかを保持していることを特徴とするHUB装置。
In the HUB apparatus in any one of Claim 1 or 2 ,
The HUB apparatus characterized in that the table means holds one of an IP address, a device number, and a MAC address of a connected device for each port.
JP2007272183A 2007-10-19 2007-10-19 Hub device Active JP5069079B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007272183A JP5069079B2 (en) 2007-10-19 2007-10-19 Hub device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007272183A JP5069079B2 (en) 2007-10-19 2007-10-19 Hub device

Publications (2)

Publication Number Publication Date
JP2009100400A JP2009100400A (en) 2009-05-07
JP5069079B2 true JP5069079B2 (en) 2012-11-07

Family

ID=40702951

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007272183A Active JP5069079B2 (en) 2007-10-19 2007-10-19 Hub device

Country Status (1)

Country Link
JP (1) JP5069079B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015033384A1 (en) * 2013-09-03 2015-03-12 株式会社アキブシステムズ Computer system for i/o device virtualization, operation method therefor, and hub device

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3371953B2 (en) * 1999-03-05 2003-01-27 日本電気株式会社 USB network configuration system
JP2003158529A (en) * 2001-11-20 2003-05-30 Fujitsu Ltd Power control method for LAN device and LAN device
JP4282571B2 (en) * 2004-08-25 2009-06-24 シャープ株式会社 Facsimile machine
JP4740683B2 (en) * 2005-08-02 2011-08-03 パナソニック株式会社 IP communication apparatus, private network system including the same, and control method of IP communication apparatus
JP4792964B2 (en) * 2005-12-22 2011-10-12 パナソニック電工株式会社 Location information system
WO2007105373A1 (en) * 2006-03-10 2007-09-20 Sony Corporation Bridge, information processing system, and access control method

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015033384A1 (en) * 2013-09-03 2015-03-12 株式会社アキブシステムズ Computer system for i/o device virtualization, operation method therefor, and hub device
JPWO2015033384A1 (en) * 2013-09-03 2017-03-02 株式会社アキブシステムズ Computer system for virtualizing I/O devices, its operation method, and HUB device
US10585842B2 (en) 2013-09-03 2020-03-10 Akib Systems Inc. Computer system for virtualizing I/O device and method of operating the same and hub device

Also Published As

Publication number Publication date
JP2009100400A (en) 2009-05-07

Similar Documents

Publication Publication Date Title
EP3827356B1 (en) Unified address space for multiple hardware accelerators using dedicated low latency links
JP5285375B2 (en) Network on chip and method for processing data on network on chip
EP3057272B1 (en) Technologies for concurrency of cuckoo hashing flow lookup
EP1530850B1 (en) Store and forward switch device, system and method
CN118056191A (en) Multi-plane, multi-protocol memory switch fabric with configurable transport
CN103392175B (en) Low Latency Prioritization in PCI Express Multi-Root I/O Virtualized Environments
CN101616083B (en) Message forwarding method and device
JP2019091494A (en) Emulated endpoint configuration
WO2012128282A1 (en) Communication control system, switch node, and communication control method
CN110119304B (en) Interrupt processing method, device and server
JP6788691B2 (en) Improved throughput in OpenFabrics
US10372642B2 (en) System, apparatus and method for performing distributed arbitration
US10616116B1 (en) Network traffic load balancing using rotating hash
KR101846485B1 (en) Split traffic routing in a distributed shared memory multiprocessor
US8885673B2 (en) Interleaving data packets in a packet-based communication system
US20140092900A1 (en) Methods and apparatuses to split incoming data into sub-channels to allow parallel processing
CN115633098B (en) Storage management method and device of many-core system and integrated circuit
CN103106177B (en) Interconnect architecture and method thereof on the sheet of multi-core network processor
JP5069079B2 (en) Hub device
US11487695B1 (en) Scalable peer to peer data routing for servers
US20090285207A1 (en) System and method for routing packets using tags
JP5244362B2 (en) High speed network system and related equipment
JP2004234306A (en) Server, method for monitoring component processing, and program
JP2019016101A (en) Information processing system, information processing apparatus, and control method of information processing system
CN120743576A (en) Data transmission method, device and computer equipment

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101008

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120709

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120803

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120816

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150824

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5069079

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250