JP6325348B2 - Virtual machine placement device - Google Patents
Virtual machine placement device Download PDFInfo
- Publication number
- JP6325348B2 JP6325348B2 JP2014110754A JP2014110754A JP6325348B2 JP 6325348 B2 JP6325348 B2 JP 6325348B2 JP 2014110754 A JP2014110754 A JP 2014110754A JP 2014110754 A JP2014110754 A JP 2014110754A JP 6325348 B2 JP6325348 B2 JP 6325348B2
- Authority
- JP
- Japan
- Prior art keywords
- virtual machine
- placement
- communication
- physical server
- switch
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Description
本発明は、仮想マシン配置装置、仮想マシン配置方法、および、仮想マシン配置プログラムの技術に関する。 The present invention relates to a technology of a virtual machine arrangement device, a virtual machine arrangement method, and a virtual machine arrangement program.
近年、データセンタなどでサーバの仮想化によるサーバ集約が検討されている。1台の物理的なサーバ上に、複数台の論理的なサーバ(仮想マシン)を構築することにより、物理的なサーバの台数を集約できる。仮想マシンの負荷量が同じであっても、仮想化システム全体の性能は、各仮想マシンがどの物理サーバに配置されるかという配置状況によって大きく変化する。配置状況がよくないと、ある計算機資源だけが過剰に使用されてしまうものの、別の計算機資源は使用されないという非効率な状態も発生する。 In recent years, server aggregation by server virtualization has been studied in data centers and the like. By constructing a plurality of logical servers (virtual machines) on one physical server, the number of physical servers can be aggregated. Even if the load amount of the virtual machine is the same, the performance of the entire virtualization system varies greatly depending on the physical server on which each virtual machine is placed. If the arrangement state is not good, only one computer resource is excessively used, but another computer resource is not used, resulting in an inefficient state.
そこで、特許文献1には、使用リソース量の大きい仮想マシンから順に、移動対象の仮想マシン候補として抽出することで、リソース使用効率を向上させる方法が記載されている。
また、特許文献2には、仮想マシン間の依存関係を考慮して仮想マシンを配置するために、通信量の多い2台の仮想マシン同士を、同じ物理マシンで実行されるように配置する方法が記載されている。
Therefore,
Patent Document 2 discloses a method of arranging two virtual machines having a large amount of communication so that they are executed on the same physical machine in order to arrange virtual machines in consideration of the dependency between virtual machines. Is described.
ここで、エンドツーエンドで仮想マシン間の通信品質(QoS:Quality of Service)を保証するためには、物理サーバと仮想マシンとの関係や、仮想マシン同士の関係だけに着目して仮想マシンの配置先を決定するだけでは、不充分である。 Here, in order to guarantee the end-to-end communication quality (QoS: Quality of Service) between virtual machines, pay attention only to the relationship between the physical server and the virtual machine, and the relationship between the virtual machines. It is not enough to determine the placement destination.
仮想化システムの構成要素として、仮想マシンを搭載する物理サーバだけでなく、それらの物理サーバ間のトラフィックを転送する通信装置(スイッチ)も存在する。よって、いくら物理サーバ単体で処理能力に余裕があっても、複数のトラフィックが1台のスイッチに集中してしまうと、そのスイッチがボトルネックとなって仮想マシン間の通信遅延が発生してしまう。 As components of the virtualization system, there are not only physical servers on which virtual machines are mounted, but also communication devices (switches) that transfer traffic between those physical servers. Therefore, no matter how much processing capacity can be afforded by a single physical server, if multiple traffic concentrates on one switch, the switch becomes a bottleneck and communication delay between virtual machines occurs. .
そこで、本発明は、仮想マシン間の通信品質を保証するように、各仮想マシンを物理サーバに配置することを、主な課題とする。 Therefore, the main object of the present invention is to arrange each virtual machine on a physical server so as to guarantee the communication quality between the virtual machines.
前記課題を解決するために、本発明の仮想マシン配置装置は、第1の物理サーバ内の第1の仮想マシンと、第2の物理サーバ内の第2の仮想マシンとの間で行われる所定の通信に対して、前記所定の通信で使用される通信量が、前記第1の物理サーバと前記第2の物理サーバとの間で前記所定の通信を中継するスイッチの空き容量以内に収まっているときに、前記第1の仮想マシンの配置先を前記第1の物理サーバとして選択し、前記第2の仮想マシンの配置先を前記第2の物理サーバとして選択する配置処理部を有することを特徴とし、前記配置処理部は、配置済みの前記第1および第2の仮想マシン間の前記所定の通信を転送する前記スイッチのうち、現時点での前記所定の通信で使用される通信量が前記スイッチの通信容量を超過している前記スイッチが存在する場合は、その超過している前記スイッチが担当していた前記所定の通信で使用される通信量の少なくとも一部を別の前記スイッチが担当するように、担当していた前記第1および第2の仮想マシンのうちの少なくとも1つの仮想マシンを、前記第1および第2の物理サーバとは別の物理サーバへと現時点で再配置することを特徴とする。
これにより、スイッチの通信容量の超過を回避するようにあらかじめ考慮して仮想マシンの配置先の候補となる物理サーバを選択するので、仮想マシン間の通信品質を保証するように、各仮想マシンを物理サーバに配置することができ、現時点で発生してしまったスイッチの通信容量の超過を早急に解消できる。
In order to solve the above problems, the virtual machine placement apparatus of the present invention is a predetermined process performed between the first virtual machine in the first physical server and the second virtual machine in the second physical server. The communication volume used in the predetermined communication is within the free capacity of the switch that relays the predetermined communication between the first physical server and the second physical server. A placement processing unit that selects the placement destination of the first virtual machine as the first physical server and selects the placement destination of the second virtual machine as the second physical server. The placement processing unit is characterized in that, among the switches that transfer the predetermined communication between the first and second virtual machines that have already been arranged, the amount of communication used in the predetermined communication at the present time is Exceeding the communication capacity of the switch If there is such a switch, it was in charge so that another switch is responsible for at least a part of the traffic used in the predetermined communication that the excess switch was in charge of At least one virtual machine of the first and second virtual machines is currently relocated to a physical server different from the first and second physical servers.
As a result, the physical server that is a candidate for the placement destination of the virtual machine is selected in advance so as to avoid exceeding the communication capacity of the switch, so that each virtual machine is configured so as to guarantee the communication quality between the virtual machines. It can be placed on a physical server, and the excess of the communication capacity of the switch that has occurred at the present time can be quickly resolved.
また、本発明は、第1の物理サーバ内の第1の仮想マシンと、第2の物理サーバ内の第2の仮想マシンとの間で行われる所定の通信に対して、前記所定の通信で使用される通信量が、前記第1の物理サーバと前記第2の物理サーバとの間で前記所定の通信を中継するスイッチの空き容量以内に収まっているときに、前記第1の仮想マシンの配置先を前記第1の物理サーバとして選択し、前記第2の仮想マシンの配置先を前記第2の物理サーバとして選択する配置処理部を有することを特徴とし、前記配置処理部は、配置済みの前記第1および第2の仮想マシン間の前記所定の通信を転送する前記スイッチのうち、将来時点での前記所定の通信で使用される通信量が前記スイッチの通信容量を超過すると予測される前記スイッチが存在する場合は、その超過が予測される前記スイッチが担当する前記所定の通信で使用される通信量の少なくとも一部を別の前記スイッチが担当するように、担当する前記第1および第2の仮想マシンのうちの少なくとも1つの仮想マシンを、前記第1および第2の物理サーバとは別の物理サーバへと将来時点で再配置することを特徴とする。In addition, the present invention relates to predetermined communication performed between the first virtual machine in the first physical server and the second virtual machine in the second physical server. When the amount of communication used is within the available capacity of the switch that relays the predetermined communication between the first physical server and the second physical server, the first virtual machine An arrangement processing unit that selects an arrangement destination as the first physical server and an arrangement destination of the second virtual machine as the second physical server is provided, and the arrangement processing unit is arranged Among the switches that transfer the predetermined communication between the first and second virtual machines, it is predicted that the amount of communication used in the predetermined communication at a future time will exceed the communication capacity of the switch When the switch exists Of the first and second virtual machines in charge, another switch is responsible for at least part of the traffic used in the predetermined communication for which the switch is expected to exceed The at least one virtual machine is relocated to a physical server different from the first and second physical servers at a future time.
これにより、将来時点で発生が予測されるスイッチの通信容量の超過を、未然に防止できる。 As a result, it is possible to prevent an excess of the communication capacity of the switch that is predicted to occur at a future time.
本発明は、前記配置処理部が、前記第1の仮想マシンと前記第2の仮想マシンとの間の前記所定の通信で使用される通信量と、前記第1の仮想マシンと前記第2の仮想マシンとの間のホップ数との積を仮想マシン間の通信評価値とし、前記通信評価値の総和が最小になるように、各仮想マシンの配置先となる各物理サーバを決定することを特徴とする。 According to the present invention, the arrangement processing unit is configured such that the communication amount used in the predetermined communication between the first virtual machine and the second virtual machine, the first virtual machine, and the second virtual machine the product of the number of hops between the virtual machine and the communication evaluation values between virtual machines, so that the sum of the previous SL communications evaluation value is minimum, determine each physical server as the placement destination of the virtual machine It is characterized by doing.
これにより、ネットワーク全体の仮想マシンの通信量が最小化されることで、ネットワーク全体の利用効率を向上させることができる。 As a result, the amount of communication of the virtual machines in the entire network is minimized, so that the utilization efficiency of the entire network can be improved.
本発明は、前記配置処理部が、未配置の仮想マシンの集合から配置先を決定する前記第1および第2の仮想マシンを選択するときに、前記第1の仮想マシンと前記第2の仮想マシンとの間の前記所定の通信で使用される通信量が多いほど、前記第1および第2の仮想マシンを早い順序で配置先を決定し、仮想マシンの配置先の候補となる物理サーバの集合から配置先となる前記第1および第2の物理サーバを選択するときに、前記第1および第2の物理サーバからみてその近傍に接続される前記スイッチの通信容量の余裕が多いほど、前記第1および第2の物理サーバを早い順序で配置先を決定することを特徴とする。 The present invention, the arrangement processing unit, when selecting the first and second virtual machines to determine the placement destination of a set of virtual machines unplaced, the first virtual machine and the second As the amount of communication used in the predetermined communication with the virtual machine increases , the placement destination of the first and second virtual machines is determined in an earlier order, and the physical that becomes the placement destination candidate of the virtual machine When the first and second physical servers to be arranged are selected from a set of servers, the more the communication capacity of the switch connected in the vicinity of the first and second physical servers is larger, The placement destinations of the first and second physical servers are determined in an early order.
これにより通信容量の大きいスイッチの周辺により通信量の大きい仮想マシンを配置可能となり、ネットワーク全体で適切なネットワークリソース配分が可能となる。 As a result, a virtual machine having a large communication volume can be arranged around a switch having a large communication capacity, and appropriate network resource distribution can be performed in the entire network.
本発明によれば、仮想マシン間の通信品質を保証するように、各仮想マシンを物理サーバに配置することができる。 According to the present invention, each virtual machine can be arranged on a physical server so as to guarantee the communication quality between the virtual machines.
以下、本発明の一実施形態について、図面を参照して詳細に説明する。 Hereinafter, an embodiment of the present invention will be described in detail with reference to the drawings.
図1は、仮想化システムを示す構成図である。仮想化システムは、VM配置装置1と、物理サーバ4と、スイッチ3とを含めて構成される。これらの仮想化システムを構成する各装置は、それぞれCPU(Central Processing Unit)とメモリとハードディスク(記憶手段)とネットワークインタフェースを有するコンピュータとして構成され、このコンピュータは、CPUが、メモリ上に読み込んだプログラムを実行することにより、各処理部を動作させる。
VM配置装置1は、仮想マシン2ごとに、その配置先となる物理サーバ4を決定する。
なお、仮想マシン2は、物理サーバ4の計算機資源を利用し、コンピュータの動作をエミュレートした計算機環境である。以下、物理サーバ4をPS(Physical Server)と略し、仮想マシン2をVM(Virtual Machine)と略し、スイッチ3をSW(SWitch)と略す場合もある。
FIG. 1 is a configuration diagram illustrating a virtualization system. The virtualization system includes a
The
The virtual machine 2 is a computer environment that uses the computer resources of the physical server 4 to emulate the operation of a computer. Hereinafter, the physical server 4 may be abbreviated as PS (Physical Server), the virtual machine 2 may be abbreviated as VM (Virtual Machine), and the switch 3 may be abbreviated as SW (SWitch).
VM配置装置1は、VM使用量予測部11と、SW使用量予測部12と、SW容量管理部13と、NW情報管理部14と、VMスコア算出部15と、配置先算出部16と、VM配置部17と、VM情報受信部18と、SW情報受信部19と、PSスコア算出部10aと、PS使用量収集部10bとを有する。
仮想マシン2は、VM使用量収集部21と、VM情報転送部22とを有する。
スイッチ3は、SW使用量収集部31と、SW情報転送部32とを有する。
物理サーバ4は、PS使用量収集部41と、PS情報転送部42とを有する。
以下、図1の各構成要素の詳細を説明する。
The
The virtual machine 2 includes a VM usage collection unit 21 and a VM information transfer unit 22.
The switch 3 includes a SW usage amount collection unit 31 and a SW information transfer unit 32.
The physical server 4 includes a PS usage amount collection unit 41 and a PS information transfer unit 42.
Hereinafter, the details of each component in FIG. 1 will be described.
VM使用量収集部21は、所定期間ごとに、自身のVMと、その通信先のVMとのペアごとのVM使用量(実測値)を収集する。なお、VM使用量とは、VMペアの通信(トラフィック)を転送するために使用する通信資源の量である。
VM情報転送部22は、VM使用量収集部21が収集したVM使用量などの自身のVMに関する情報を、VM情報受信部18に対して送信する。
VM情報受信部18は、VM情報転送部22から各VMに関する情報を受信する。
The VM usage amount collection unit 21 collects the VM usage amount (actual value) for each pair of its own VM and the communication destination VM for each predetermined period. The VM usage is the amount of communication resources used for transferring communication (traffic) of a VM pair.
The VM information transfer unit 22 transmits information on its own VM such as the VM usage collected by the VM usage collection unit 21 to the VM information reception unit 18.
The VM information receiving unit 18 receives information on each VM from the VM information transfer unit 22.
VM使用量予測部11は、VM情報受信部18が受信したVM使用量の実測値から、今後の所定期間におけるVM使用量の予測値を計算する。なお、VM使用量予測部11は、所定のVMペアにおけるVM使用量の実測値が更新されるたびに、その実測値をもとにしたVM使用量の予測値を再計算する。
図2(a)は、VM使用量予測部11による予測値などを示すグラフである。グラフの横軸は時刻を示し、縦軸は所定のVMペア間のVM使用量を示す。
例えば、現在時刻を10月11日(10/11と表記)の14:00とする。
グラフの実線は、過去のトラフィック傾向を示すVM使用量の実測値である。前日(10/10)は朝から夜までの一日の実測値が計測されており、今日(10/11)は朝から14:00までの実測値が計測されている。
グラフの破線は、実測値をもとにしたVM使用量の予測値である。今日は14:00から夜までの予測値が計算されている。
例えば、図2(a)のグラフの横軸(定義域)を1日とすると、前日の実測値から、朝(グラフの左側)は使用量が少なく、昼(グラフの中央側)は使用量が増加し、夕方(グラフのやや右側)は使用量が減少し、夜(グラフの右側)は使用量が増加するという過去のトラフィック傾向がわかる。
そして、今日の朝から14:00までの実測値は、前日の同時刻の実測値よりもVM使用量が若干高いものの、全体的な傾向が類似する。
よって、今日14:00から夜までの予測値は、過去の(前日の)トラフィック傾向に類似することが期待されるので、今日の予測値は、前日の同時刻の実測値よりも若干高い値をなぞるようにして計算される。例えば、前日の夕方(16:00)の実測値が低くなっているので、本日の夕方(16:00)の予測値も低くする。また、前日の夜(19:00)の実測値が高くなっているので、本日の夜(19:00)の予測値も高くする。
The VM usage amount prediction unit 11 calculates a predicted value of the VM usage amount in a predetermined period in the future from the measured value of the VM usage amount received by the VM information receiving unit 18. The VM usage amount prediction unit 11 recalculates the predicted value of the VM usage amount based on the actual measurement value every time the actual measurement value of the VM usage amount in the predetermined VM pair is updated.
FIG. 2A is a graph showing a predicted value by the VM usage amount prediction unit 11 and the like. The horizontal axis of the graph indicates time, and the vertical axis indicates the VM usage between predetermined VM pairs.
For example, the current time is set to 14:00 on October 11 (indicated as 10/11).
The solid line in the graph is the measured value of the VM usage indicating the past traffic trend. On the previous day (10/10), the actual measurements from the morning to the night are measured, and today (10/11) the actual measurements from the morning to 14:00 are measured.
A broken line in the graph is a predicted value of the VM usage based on the actual measurement value. Today, predictions from 14:00 to night are calculated.
For example, if the horizontal axis (definition area) of the graph in FIG. 2 (a) is 1 day, the amount used in the morning (left side of the graph) is low and the amount used in the daytime (center side of the graph) from the actual measurement value of the previous day. You can see past traffic trends in which the usage decreases in the evening (slightly to the right of the graph) and increases in the evening (to the right of the graph).
The measured values from today's morning to 14:00 are similar in overall trend, although the VM usage is slightly higher than the measured values at the same time of the previous day.
Therefore, since the forecast value from 14:00 today to the night is expected to be similar to the past (previous day) traffic trend, the forecast value for today is slightly higher than the actual value measured at the same time on the previous day. It is calculated by tracing. For example, since the actual measurement value in the evening of the previous day (16:00) is low, the predicted value of today's evening (16:00) is also lowered. In addition, since the actual measurement value of the previous night (19:00) is high, the prediction value of today's night (19:00) is also increased.
図1に戻って、VMスコア算出部15は、仮想マシン2ごとにその仮想マシン2が次のキーVM(詳細は、図3)としての選ばれやすさを示す「VMスコア」を算出する。VMスコアは、高いほど次のVMの配置先として選ばれやすくなるとともに、高いほど配置済みのVMについてのリセット対象としても選ばれやすくなる。以下、VMスコアの計算方法を例示する。 Returning to FIG. 1, the VM score calculation unit 15 calculates a “VM score” for each virtual machine 2 indicating that the virtual machine 2 is easily selected as the next key VM (details are FIG. 3). The higher the VM score is, the easier it is to be selected as the placement destination of the next VM, and the higher the VM score is, the easier it is to be selected as the reset target for the already placed VM. Hereinafter, a VM score calculation method will be exemplified.
1つめのVMスコアの計算方法として、所定のVMとその通信先のVMとの間のVMペアについて、VMペアごとのVM使用量(所定期間における平均値)が大きい(例えば、VM使用量が所定閾値を超える)か否かを判定し、VM使用量が大きい通信先のVMの台数が多いほど、所定のVMに対するVMスコアを高くする方法がある。 As a first VM score calculation method, for a VM pair between a predetermined VM and a communication destination VM, the VM usage (average value in a predetermined period) for each VM pair is large (for example, the VM usage is There is a method of increasing the VM score for a predetermined VM as the number of communication destination VMs having a large VM usage amount increases.
2つめのVMスコアの計算方法として、所定のVMについてのVM使用量(所定期間における平均値)を、所定のVMからみた通信先のVMごとに計算し、所定のVMについてのVM使用量の合計値が大きいほど、所定のVMに対するVMスコアを高くする方法がある。 As a second VM score calculation method, the VM usage (average value in a predetermined period) for a predetermined VM is calculated for each VM of the communication destination viewed from the predetermined VM, and the VM usage for the predetermined VM is calculated. There is a method of increasing the VM score for a predetermined VM as the total value increases.
なお、VMスコア算出部15は、VMスコアの計算に用いるVM使用量として、VM使用量予測部11からの予測値と、VM情報受信部18からの実測値とをそれぞれ受信する。そして、VMスコア算出部15は、受信したVM使用量が更新されるたびに、VMスコアを再計算する。 The VM score calculation unit 15 receives a predicted value from the VM usage amount prediction unit 11 and an actual measurement value from the VM information reception unit 18 as the VM usage amount used for calculation of the VM score. The VM score calculation unit 15 recalculates the VM score every time the received VM usage is updated.
SW使用量収集部31は、所定期間ごとに、自身のSWについてのSW使用量(実測値)を収集する。SW使用量とは、SWがVMペアの通信を転送するために使用する通信資源の量であり、具体的には、あるSWの使用量とは、そのSWを通過する経路のVM使用量の総和である。
SW情報転送部32は、SW使用量収集部31が収集したSW使用量などの自身のSWに関する情報を、SW情報受信部19に対して送信する。
SW情報受信部19は、SW情報転送部32から各SWに関する情報を受信する。
SW容量管理部13は、各SWに関する情報として、SW情報受信部19が受信したSW使用量と、あらかじめSWごとに登録されているSW容量(SWの通信能力から求まるSWの通信容量)とを管理する。
The SW usage amount collecting unit 31 collects the SW usage amount (actually measured value) for its own SW every predetermined period. The SW usage is the amount of communication resources used by the SW to transfer the communication of the VM pair. Specifically, the usage of a certain SW is the VM usage of the route passing through the SW. It is the sum.
The SW information transfer unit 32 transmits information related to its own SW such as the SW usage collected by the SW usage collection unit 31 to the SW information reception unit 19.
The SW information receiving unit 19 receives information regarding each SW from the SW information transfer unit 32.
The SW capacity management unit 13 uses, as information about each SW, the SW usage received by the SW information receiving unit 19 and the SW capacity registered for each SW in advance (the SW communication capacity obtained from the SW communication capacity). to manage.
SW使用量予測部12は、VM使用量予測部11が予測したVM使用量と、配置先算出部16が決定したVMの配置関係とをもとに、単位時間あたりの各SWの使用量を予測する。なお、SW使用量予測部12は、入力パラメータ(VM使用量、VMの配置関係)が更新されるたびに、各SWの使用量の予測値が再計算される。 The SW usage amount prediction unit 12 calculates the usage amount of each SW per unit time based on the VM usage amount predicted by the VM usage amount prediction unit 11 and the arrangement relationship of the VMs determined by the arrangement destination calculation unit 16. Predict. The SW usage amount prediction unit 12 recalculates the predicted value of the usage amount of each SW every time the input parameter (VM usage amount, VM arrangement relationship) is updated.
PS使用量収集部41は、所定期間ごとに、自身の物理サーバ4についてのPS使用量(実測値)や搭載VM数を収集する。PS使用量とは、物理サーバ4が使用する通信資源の量である。搭載VM数とは、自身の物理サーバ4に配置(搭載)されているVMの数である。
PS情報転送部42は、PS使用量収集部41が収集した自身の物理サーバ4に関する情報を、PSスコア算出部10aおよびNW情報管理部14に対してそれぞれ送信する。
PS使用量収集部10bは、各物理サーバ4のPS情報転送部42から送信されたPS使用量や搭載VM数を収集する。
The PS usage amount collection unit 41 collects the PS usage amount (actually measured value) and the number of installed VMs for its physical server 4 every predetermined period. The PS usage is the amount of communication resources used by the physical server 4. The number of installed VMs is the number of VMs arranged (mounted) on the own physical server 4.
The PS information transfer unit 42 transmits information on the physical server 4 collected by the PS usage amount collection unit 41 to the PS score calculation unit 10a and the NW information management unit 14, respectively.
The PS usage amount collection unit 10 b collects the PS usage amount and the number of installed VMs transmitted from the PS information transfer unit 42 of each physical server 4.
NW情報管理部14は、VMの配置対象であるネットワークシステムのトポロジ情報を、あらかじめ管理者などから受け付けて管理する。トポロジ情報とは、例えば、以下の情報である。
・各物理サーバ間の経路情報
・各物理サーバ間の経路ごとの経路ホップ数情報
・各経路に存在するSW情報
図2(b)は、NW情報管理部14が管理するトポロジ情報を示す説明図である。スイッチ3(SW1〜SW5)と、物理サーバ4(PS1〜PS4)とが図示したように接続されている。
The NW information management unit 14 receives and manages topology information of a network system that is a VM placement target from an administrator or the like in advance. The topology information is, for example, the following information.
-Route information between each physical server-Route hop count information for each route between each physical server-SW information existing in each route FIG. 2 (b) is an explanatory diagram showing topology information managed by the NW information management unit 14 It is. The switch 3 (SW1 to SW5) and the physical server 4 (PS1 to PS4) are connected as illustrated.
図1に戻って、PSスコア算出部10aは、物理サーバ4ごとにその物理サーバ4が次のVMの配置先としての選ばれやすさを示す「PSスコア」を算出する。PSスコアは、高いほど次のVMの配置先としての選ばれやすくなる。以下、PSスコアの計算方法を例示する。 Returning to FIG. 1, the PS score calculation unit 10 a calculates a “PS score” for each physical server 4 that indicates the ease with which the physical server 4 can be selected as the placement destination of the next VM. The higher the PS score, the easier it is to be selected as the next VM placement destination. Hereinafter, a PS score calculation method will be exemplified.
1つめのPSスコアの計算方法は、自身の物理サーバ4からみてNホップ(例えば、N=1)以内のスイッチ3に着目し、それらのスイッチ3のうちの所定期間継続して空き通信容量が所定値以上の(換言すると、余裕のある)スイッチ3の台数が多いほど、PSスコアを高くする方法である。 The first PS score calculation method focuses on the switches 3 within N hops (for example, N = 1) when viewed from its own physical server 4, and the free communication capacity continues for a predetermined period of these switches 3. This is a method of increasing the PS score as the number of switches 3 having a predetermined value or more (in other words, having a margin) increases.
2つめのPSスコアの計算方法は、自身の物理サーバ4からみてNホップ(例えば、N=1)以内のスイッチ3に着目し、着目した各スイッチ3の所定期間中の空き通信容量の合計値が大きいほど、PSスコアを高くする方法である。 The second PS score calculation method focuses on the switches 3 within N hops (for example, N = 1) when viewed from its own physical server 4, and the total value of the free communication capacities during the predetermined period of each focused switch 3 This is a method of increasing the PS score as the value of is larger.
なお、スイッチ3ごとの空き通信容量は、スイッチ3の容量(通信能力)からスイッチ3の使用量を減じたものである。PSスコア算出部10aは、スイッチ3の使用量として、SW使用量予測部12からの予測値と、SW容量管理部13からの実測値とをそれぞれ受信する。PSスコア算出部10aは、受信したスイッチ3の使用量が更新されるたびに、PSスコアを再算出する。 The free communication capacity for each switch 3 is obtained by subtracting the usage amount of the switch 3 from the capacity (communication capability) of the switch 3. The PS score calculation unit 10 a receives the predicted value from the SW usage amount prediction unit 12 and the actual measurement value from the SW capacity management unit 13 as the usage amount of the switch 3. The PS score calculation unit 10a recalculates the PS score each time the received usage amount of the switch 3 is updated.
配置先算出部16は、仮想マシン2ごとに、その配置先となる物理サーバ4を配置ポリシをもとに決定する。配置ポリシは、下記の(ルール1)〜(ルール5)をすべて満たすように、各VMの配置先を決定することである。または、(ルール1)〜(ルール5)のうちの少なくとも1つの条件を満たすように、各VMの配置先を決定することである。
(ルール1)VMスコアが高い(使用量が大きく、混んでいるVM)順に、対象VMを選択し、その対象VMとの間で使用量が大きいキーVMを選択する。
(ルール2)PSスコアが高い(使用量が小さく、空いているPS)順に、配置先の物理サーバ4を選択する。
(ルール3)ネットワーク全体のスイッチ3が中継する通信量を最小化するように、(ルール1)で選択した対象VMとキーVMとを、(ルール2)で選択した物理サーバ4に配置する。
(ルール4)各SWの物理制約条件(SW使用量≦SW容量)を満たす。
(ルール5)各PSの物理制約条件(PS使用量≦PS容量や、搭載VM数≦搭載VM上限数)を満たす。
The placement destination calculation unit 16 determines, for each virtual machine 2, the physical server 4 that is the placement destination based on the placement policy. The placement policy is to determine the placement destination of each VM so as to satisfy all of the following (Rule 1) to (Rule 5). Alternatively, the placement destination of each VM is determined so as to satisfy at least one condition of (Rule 1) to (Rule 5).
(Rule 1) The target VM is selected in descending order of the VM score (the VM that is used is large and crowded), and the key VM that is used with the target VM is selected.
(Rule 2) The physical servers 4 that are the placement destinations are selected in descending order of PS score (low PS usage and free PS).
(Rule 3) The target VM and the key VM selected in (Rule 1) are arranged on the physical server 4 selected in (Rule 2) so as to minimize the amount of communication relayed by the switch 3 of the entire network.
(Rule 4) The physical constraints (SW usage amount ≦ SW capacity) of each SW are satisfied.
(Rule 5) The physical constraints of PS (PS usage amount ≦ PS capacity, number of mounted VMs ≦ mounted VM upper limit number) are satisfied.
配置先算出部16は、前記した配置ポリシを満たすか否かを判断するため、VMの初期配置時には、他の各処理部から以下の情報を取得する。図1では、情報の流れを示す矢印のうち、配置先算出部16に流れる矢印の一部を省略している。
・VM使用量の予測値(VM使用量予測部11から)
・SW容量(SW容量管理部13から)
・トポロジ情報(NW情報管理部14から)
・VMスコア(VMスコア算出部15から)
・PSスコア(PSスコア算出部10aから)
・PS使用量や搭載VM数(PS使用量収集部10bから)
The placement destination calculation unit 16 acquires the following information from other processing units at the time of initial placement of the VM in order to determine whether or not the above placement policy is satisfied. In FIG. 1, among the arrows indicating the flow of information, some of the arrows flowing to the arrangement destination calculation unit 16 are omitted.
-Predicted value of VM usage (from VM usage prediction unit 11)
SW capacity (from SW capacity management unit 13)
Topology information (from NW information management unit 14)
VM score (from the VM score calculation unit 15)
PS score (from PS score calculation unit 10a)
-PS usage and number of installed VMs (from PS usage collection unit 10b)
さらに、配置先算出部16は、前記した配置ポリシを満たすか否かを判断するため、VMの再配置時には、前記した初期配置時に取得した情報に加え、他の各処理部から以下の情報を取得する。
・SW使用量の実測値(SW情報受信部19から)
・VM使用量の実測値(VM情報受信部18から)
Furthermore, in order to determine whether or not the placement policy is satisfied, the placement destination calculation unit 16 receives the following information from each of the other processing units in addition to the information acquired at the time of the initial placement at the time of VM relocation. get.
・ Measured value of SW usage (from SW information receiver 19)
・ Actual value of VM usage (from VM information receiver 18)
VM配置部17は、配置先算出部16からのVMの初期配置の指示および再配置の指示に従い、実際に各仮想マシン2を各物理サーバ4へと配置する。なお、配置先算出部16とVM配置部17とを1つの配置処理部として構成してもよい。 The VM placement unit 17 actually places each virtual machine 2 on each physical server 4 in accordance with the VM initial placement instruction and relocation instruction from the placement destination calculation unit 16. Note that the placement destination calculation unit 16 and the VM placement unit 17 may be configured as one placement processing unit.
図3(a)は、VM情報受信部18が受信した各VMペアにおけるVM使用量の一例を示す説明図である。6つの仮想マシン2(VM1〜VM6)のうち、直接接続されているVMペア(VM1とVM2など)は、VMペア間の通信が発生するものであり、その通信量(VM使用量)をリンクの近傍に記載する(例えば、VM1−VM2間のVM使用量は「40」)。
なお、説明を簡単にするために、各VM使用量を時間経過にかかわらず一定の値としたが、実際は、各VM使用量は逐次更新される。
FIG. 3A is an explanatory diagram illustrating an example of the VM usage in each VM pair received by the VM information receiving unit 18. Of the six virtual machines 2 (VM1 to VM6), the directly connected VM pair (such as VM1 and VM2) generates communication between the VM pairs, and links its communication volume (VM usage). (For example, the VM usage between VM1 and VM2 is “40”).
In order to simplify the description, each VM usage amount is set to a constant value regardless of the passage of time, but actually, each VM usage amount is sequentially updated.
また、VMペアの接続線のうち、閾値「30」以上のVM使用量が発生する接続線を太線で表記している。この太線の接続線は、「対象VM」と「キーVM」との関係を示す。VM配置部17は、ある対象VM(例えば、VM1)を選択すると、その対象VMに対して太線の接続線で接続されている他のVM(VM1に対するVM2,VM3,VM4)をキーVMとして選択する。
なお、キーVMとは、対象VMとの間でのVM使用量(所定期間における平均値など)が所定量(閾値「30」)を超える通信を行うVMである。
In addition, among the connection lines of the VM pair, connection lines that generate a VM usage amount equal to or greater than the threshold “30” are indicated by bold lines. This bold connection line indicates the relationship between the “target VM” and the “key VM”. When selecting a certain target VM (for example, VM1), the VM placement unit 17 selects another VM (VM2, VM3, VM4 with respect to VM1) connected to the target VM with a thick connection line as a key VM. To do.
Note that the key VM is a VM that performs communication with the target VM such that the VM usage amount (such as an average value in a predetermined period) exceeds a predetermined amount (threshold value “30”).
図3(b)は、NW情報管理部14が管理するNW情報の一例を示す説明図である。説明を簡単にするために、図2(b)よりも単純なトポロジを例示する。
ここで、各物理サーバ4(PS1〜PS3)について、それぞれの収容VM上限数を「2」と仮定する。例えば、PS1には、対象VM(VM1)と、そのキーVM(VM2)との2台を収容できるが、3台目のキーVM(VM3)は収容できない。
FIG. 3B is an explanatory diagram illustrating an example of NW information managed by the NW information management unit 14. In order to simplify the description, a simpler topology than that in FIG.
Here, for each physical server 4 (PS1 to PS3), the upper limit number of accommodation VMs is assumed to be “2”. For example, the PS1 can accommodate the target VM (VM1) and its key VM (VM2), but cannot accommodate the third key VM (VM3).
図3(c)は、図3(b)のNW情報に対して、図3(a)のVM使用量をもとにしたVM配置部17の初期配置処理を示す説明図である。
以下、表の列要素が示す各段階(第1段階〜第5段階)において、徐々に仮想マシン2が配置されていく様子を説明する。表の行要素は、図3(a)の各仮想マシン2と、図3(b)の各スイッチ3とを示す。
表の各セルの内容について、仮想マシン2のセルには、「対象VM」や「キーVM」などの現在の選択状況や、「(PS2)」などの現在の配置先の物理サーバ4が記載される。スイッチ3のセルには、「110/150」などの分数形式が記載され、分母が自身の容量を示し、分子が現在の割り当て済みの使用量を示す。
FIG. 3C is an explanatory diagram illustrating an initial placement process of the VM placement unit 17 based on the VM usage amount of FIG. 3A with respect to the NW information of FIG. 3B.
Hereinafter, a state in which the virtual machines 2 are gradually arranged in each stage (first stage to fifth stage) indicated by the column elements in the table will be described. The row elements in the table indicate each virtual machine 2 in FIG. 3A and each switch 3 in FIG.
Regarding the contents of each cell in the table, in the cell of the virtual machine 2, the current selection status such as “target VM” and “key VM”, and the physical server 4 of the current placement destination such as “(PS2)” are described. Is done. In the cell of switch 3, a fractional format such as “110/150” is described, the denominator indicates its own capacity, and the numerator indicates the current allocated usage.
第1段階では、VM配置部17は、(ルール1)に従い、VMスコアが最高のVM1を対象VMとして選択する。VM1は、太線で接続される通信相手(キーVM)が多い(3台)上に、VM使用量の合計値(30+40+50=120)も他のVM2〜6よりも大きいために、VMスコアが最高になる。
そして、VM配置部17は、(ルール2)に従い、PSスコアが高いPS2を、対象VM(VM1)の配置先として決定する。なお、PS2は、1ホップ以内に存在するSW1,SW2がともに所定閾値(50)より大きい空き通信容量を有しており、かつ、その2台の空き通信容量の合計値(80+150)が最大であるため、PSスコアが他のPS1,PS3より高くなる。
さらに、VM配置部17は、図3(a)で説明したように、対象VM(VM1)から太線で接続される通信相手(VM2,VM3,VM4)をそれぞれキーVMとして選択する。
In the first stage, the VM placement unit 17 selects the
Then, the VM placement unit 17 determines PS2 having a high PS score as the placement destination of the target VM (VM1) according to (Rule 2). Note that PS2 has a free communication capacity larger than a predetermined threshold (50) for both SW1 and SW2 existing within one hop, and the total value (80 + 150) of the two free communication capacities is Since it is the maximum, the PS score is higher than the other PS1 and PS3.
Further, as described with reference to FIG. 3A, the VM placement unit 17 selects communication partners (VM2, VM3, VM4) connected by a thick line from the target VM (VM1) as the key VMs.
第2段階では、VM配置部17は、収容VM上限数「2」という(ルール5)と、(ルール3)とに従い、キーVMのうちの最高のVM使用量(50)であるVM3だけをVM1と同じ(0ホップの)PS2に配置する。
第3段階では、VM配置部17は、(ルール3)に従い、残りのキーVM(VM2,4)を対象VM(VM1)からなるべく近く(1ホップ)になるPS3に配置する。ここで、VM配置部17は、PS2(VM1,VM3)と、PS3(VM2,VM4)との間のVM使用量の総和は「40+30+40=110」であり、PS2−PS3間を中継するSW2の容量(150)以内に収まっているので、(ルール4)も満たすようにPS3を選択している。また、VM配置部17は、収容VM上限数「2」という(ルール5)を満たすようにPS3を選択している。
In the second stage, the VM placement unit 17 determines only the VM 3 that is the highest VM usage (50) of the key VMs according to (Rule 5) and (Rule 3), which are the accommodation VM upper limit number “2”. Placed in the same PS2 (0 hops) as VM1.
In the third stage, the VM placement unit 17 places the remaining keys VM (VM2, 4) in the PS3 that is as close as possible (one hop) to the target VM (VM1) according to (Rule 3). Here, in the VM placement unit 17, the sum of the VM usage amounts between PS2 (VM1, VM3) and PS3 (VM2, VM4) is “40 + 30 + 40 = 110”, and between PS2 and PS3 Since it is within the capacity (150) of SW2 to be relayed, PS3 is selected to satisfy (Rule 4). Further, the VM placement unit 17 selects PS3 so as to satisfy (rule 5), which is the upper limit number of accommodation VMs “2”.
第4段階では、VM配置部17は、初回の対象VM(VM1)とそのキーVM(VM2,VM3,VM4)が配置済みになったので、2回目の対象VM(VM5)とそのキーVM(VM6)とを第1段階と同様に選択する。この選択処理では、配置済みになった各VM(VM1〜VM4)は選択対象から除外される。
第5段階では、VM配置部17は、第1段階〜第3段階と同様に、各配置ポリシを満たすように、第4段階で選択したVM5,6をともにPS1へと配置する。
In the fourth stage, the VM placement unit 17 has already placed the first target VM (VM1) and its key VM (VM2, VM3, VM4), so the second target VM (VM5) and its key VM ( VM6) is selected as in the first stage. In this selection process, each VM (VM1 to VM4) that has been placed is excluded from the selection target.
In the fifth stage, the VM placement unit 17 places the VMs 5 and 6 selected in the fourth stage on PS1 so as to satisfy each placement policy, as in the first to third stages.
図4(a)は、VM使用量の一例を示す説明図であり、図3(a)とは別の構成である。
図4(b)は、NW情報の一例を示す説明図であり、図3(b)とは別の構成である。
図4(c)は、図4(b)のNW情報に対して、図4(a)のVM使用量をもとにしたVM配置部17の初期配置処理を示す説明図である。図4(c)では、図3(c)と異なり、いったん配置した仮想マシン2の配置をリセット(解除)するケースを説明する。
FIG. 4A is an explanatory diagram illustrating an example of the VM usage amount, and has a configuration different from that in FIG.
FIG. 4B is an explanatory diagram showing an example of NW information, and has a configuration different from that shown in FIG.
FIG. 4C is an explanatory diagram illustrating an initial placement process of the VM placement unit 17 based on the VM usage amount of FIG. 4A with respect to the NW information of FIG. 4B. FIG. 4C illustrates a case where the arrangement of the virtual machine 2 once arranged is reset (released), unlike FIG. 3C.
図4(c)の第1段階では、図3(c)の第1段階〜第3段階で説明したように、VM配置部17は、(ルール1)に従い、VMスコアが最高のVM1を対象VMとして選択し、(ルール2)に従い、PSスコアが高いPS2を、対象VM(VM1)の配置先として決定する。そして、VM配置部17は、(ルール3)に従い、残りのキーVM(VM2,4)を対象VM(VM1)からなるべく近く(1ホップ)になるPS1に配置する。
In the first stage of FIG. 4C, as described in the first to third stages of FIG. 3C, the VM placement unit 17 targets the
図4(c)の第2段階では、VM配置部17は、(ルール1)に従い、次の対象VMとしてVM5を選択し、そのキーVMとしてVM5を選択する。しかし、(ルール5)により搭載VM上限数に余裕のあるVM5の配置先候補(PS3,PS4)のどちらにVM5を配置しても、そのVM5とVMペアをなすVM4がPS1に配置済みのため、そのVMペアの通信量「50」がSW1を通過することで、SW1の通信量超過(130/90)が発生してしまう。 In the second stage of FIG. 4C, the VM placement unit 17 selects VM5 as the next target VM according to (Rule 1), and selects VM5 as its key VM. However, according to (Rule 5), regardless of which VM5 placement destination candidate (PS3, PS4) has a surplus in the upper limit number of installed VMs (PS3, PS4), VM4 that forms a VM pair with that VM5 has already been placed in PS1. When the communication amount “50” of the VM pair passes through SW1, the communication amount excess of SW1 (130/90) occurs.
図4(c)の第3段階では、VM配置部17は、第2段階で問題となった配置済みのVM4をリセットする。これにより、未配置のVMは、VM4,VM5,VM6となる。
図4(c)の第4段階では、VM配置部17は、(ルール1)への例外処理として、第3段階でリセットしたVM4を、VMスコアが高いVM5よりも優先して今回の対象VMとする。よって、VM4と太線で接続されるVM5が今回のキーVMとなる。VM配置部17は、(ルール2)に従い、PSスコアが高いPS3を、対象VM(VM4)の配置先として決定し、(ルール3)に従い、キーVM(VM5)を対象VM(VM1)からなるべく近く(0ホップ)になるPS3に配置する。
図4(c)の第5段階では、VM配置部17は、残りのVM6を、配置ポリシを満たすPS4へと配置する。
In the third stage of FIG. 4C, the VM placement unit 17 resets the placed VM 4 that has been problematic in the second stage. As a result, the unallocated VMs become VM4, VM5, and VM6.
In the fourth stage of FIG. 4C, the VM placement unit 17 gives priority to the VM4 reset in the third stage over the VM5 having a higher VM score, as an exception process to (Rule 1). And Therefore, VM5 connected to VM4 by a thick line is the current key VM. According to (Rule 2), the VM placement unit 17 determines PS3 having a high PS score as the placement destination of the target VM (VM4), and according to (Rule 3), the key VM (VM5) is made up of the target VM (VM1) as much as possible. Place it in PS3 that will be near (0 hops).
In the fifth stage of FIG. 4C, the VM placement unit 17 places the remaining VMs 6 on the PS 4 that satisfies the placement policy.
図5は、VM配置部17の初期配置処理を示すフロー説明図である。
S101として、VM配置部17は、未配置のVMが存在するか否かを判定する。S101でYesならS102に進み、Noなら終了する。そのため、VM配置部17は、VMごとに現在配置済みか否かを示す情報と、配置済みである場合にはその配置先の物理サーバ4を示す情報とを、記憶手段にて管理する。
S102として、VM配置部17は、(ルール1)により、未配置VMから対象VMを選択する。例えば、図3(c)の第1段階では、VM1が対象VMとして選択される。なお、(ルール1)では、VMスコアが高い順に複数台のVMを選択してもよい。
FIG. 5 is a flowchart for explaining the initial placement process of the VM placement unit 17.
In S101, the VM placement unit 17 determines whether there is a VM that has not been placed. If Yes in S101, the process proceeds to S102, and if No, the process ends. For this reason, the VM placement unit 17 manages information indicating whether or not the placement is currently performed for each VM and information indicating the placement destination physical server 4 in the storage unit when the placement is performed.
In S102, the VM placement unit 17 selects a target VM from the unplaced VMs according to (Rule 1). For example, in the first stage of FIG. 3C, VM1 is selected as the target VM. In (Rule 1), a plurality of VMs may be selected in descending order of the VM score.
S103として、VM配置部17は、図3(a)で説明したように、選択した対象VMからキーVMを選択する。例えば、図3(c)の第1段階では、VM2,VM3,VM4が対象VM(VM1)のキーVMとして選択される。
S104として、VM配置部17は、(ルール2)、(ルール5)により配置先PSを選択する。例えば、図3(c)の第1段階では、PSスコアが高く、他に搭載するVMが存在していないPS2が配置先PSとして選択される。なお、(ルール2)では、PSスコアが高い順に複数台のPSを選択してもよい。
In S103, the VM placement unit 17 selects a key VM from the selected target VM as described with reference to FIG. For example, in the first stage of FIG. 3C, VM2, VM3 and VM4 are selected as the key VMs of the target VM (VM1).
In S104, the VM placement unit 17 selects a placement destination PS according to (Rule 2) and (Rule 5). For example, in the first stage of FIG. 3C, PS2 having a high PS score and no other installed VM is selected as the placement destination PS. In (Rule 2), a plurality of PSs may be selected in descending order of PS score.
S105として、VM配置部17は、S102で選択した対象VMと、S103で選択したキーVMとを(ルール3)により、S104で選択した配置先PS(や他のPS)に配置する。
例えば、図3(c)の第1段階では、S102で選択した対象VM1を、S104で選択したPS2に配置する。また、図3(c)の第2段階では、S103で選択したキーVM3を、S104で選択したPS2に配置する。さらに、図3(c)の第3段階では、S103で選択したキーVM2,4を、PS3に配置する。
As S105, the VM placement unit 17 places the target VM selected in S102 and the key VM selected in S103 in the placement destination PS (or other PS) selected in S104 according to (Rule 3).
For example, in the first stage of FIG. 3C, the target VM1 selected in S102 is arranged in PS2 selected in S104. Further, in the second stage of FIG. 3C, the key VM3 selected in S103 is arranged in PS2 selected in S104. Further, in the third stage of FIG. 3C, the keys VM2, 4 selected in S103 are arranged in PS3.
なお、(ルール3)を満たすか否かは、ネットワーク全体の通信量の評価式を元に判定される。まず、VM配置部17は、S102で選択した対象VMと、S103で選択したキーVMとの組み合わせごとのVMペア集合を形成し、それらのVMペアのVM使用量(所定期間における合計値)の総和を、合計通信量とする。なお、VMペアのVM使用量には、VMペア間のホップ数を重み付け(乗算)してもよい。VMペアの両方が同じ物理サーバ4上に配置されるときには、ホップ数が0なので、そのVMペアのVM使用量も0となる。つまり、選択した各VM間のホップ数をなるべく小さくなるように配置すれば、合計通信量も小さくなる。 Whether or not (Rule 3) is satisfied is determined based on an evaluation formula for the traffic of the entire network. First, the VM placement unit 17 forms a VM pair set for each combination of the target VM selected in S102 and the key VM selected in S103, and the VM usage amount (total value in a predetermined period) of these VM pairs. The total is the total traffic. Note that the VM usage of the VM pair may be weighted (multiplied) by the number of hops between the VM pairs. When both of the VM pairs are arranged on the same physical server 4, the number of hops is 0, so the VM usage of the VM pair is also 0. That is, if the number of hops between the selected VMs is arranged to be as small as possible, the total communication amount is also reduced.
そして、VM配置部17は、S102で選択した対象VMと、S103で選択したキーVMとをそれぞれS104の配置先PSのいずれかに配置するようにさまざまな配置先の組み合わせを試す(仮配置する)ことにより、合計通信量が最小になる組み合わせを発見する。
なお、S103で選択したキーVMが配置済みである場合、配置ポリシを満たしつつ、(ルール3)の合計通信量が改善する(より小さくなる)場合は、その配置済みのキーVMをリセットした後、S105で再配置してもよい。
Then, the VM placement unit 17 tries various combinations of placement destinations so that the target VM selected in S102 and the key VM selected in S103 are placed in any of the placement destination PSs in S104 (temporary placement). ) To find a combination that minimizes the total traffic.
When the key VM selected in S103 is already arranged, if the total traffic of (Rule 3) is improved (becomes smaller) while satisfying the arrangement policy, the arranged key VM is reset. , S105 may be rearranged.
S106として、VM配置部17は、S105の配置処理により、各スイッチ3が(ルール4)を満たすか否かを判定する。S106でYesならS101に戻り、NoならS107に進む。
例えば、図3(c)の第3段階では、SW2の通信量が「110/150」で容量内に収まっているので、(ルール4)を満たす。
一方、図4(c)の第2段階では、SW1の通信量が「130/90」で容量を超過しているので、(ルール4)を満たさない。
ここで、配置済みの対象VMのVMスコアが高いほど、SWの容量(110/150の分母「150」など)を示す閾値を低く設定してもよい。
In S106, the VM placement unit 17 determines whether or not each switch 3 satisfies (Rule 4) by the placement process in S105. If Yes in S106, the process returns to S101, and if No, the process proceeds to S107.
For example, in the third stage of FIG. 3C, the communication amount of SW2 is “110/150” and is within the capacity, so (Rule 4) is satisfied.
On the other hand, in the second stage of FIG. 4C, since the traffic volume of SW1 is “130/90” and exceeds the capacity, (Rule 4) is not satisfied.
Here, the higher the VM score of the arranged target VM, the lower the threshold indicating the SW capacity (such as 110/150 denominator “150”) may be set.
S107として、VM配置部17は、今回S105で配置したキーVMをリセットし、そのリセットしたVMを次回の対象VMとして選択し、S103に戻る。
例えば、図4(c)の第3段階では、第2段階でキーVMとして配置したVM4をリセットしており、そのVM4が第4段階の対象VMとして選択されている。
なお、VM配置部17は、無限ループを防ぐために、各VMについて、すでに試行した配置先の履歴を保持し、以前に試行して失敗した配置先の物理サーバ4を、次回以降の配置先に候補から除外することが、望ましい。
In S107, the VM placement unit 17 resets the key VM placed in S105 this time, selects the reset VM as the next target VM, and returns to S103.
For example, in the third stage of FIG. 4C, the VM4 arranged as the key VM in the second stage is reset, and the VM4 is selected as the target VM in the fourth stage.
In order to prevent an infinite loop, the VM placement unit 17 holds a history of placement destinations that have already been tried for each VM, and places the physical server 4 of the placement destination that has previously failed as a placement destination for the next and subsequent times. It is desirable to exclude from candidates.
図6(a)は、再配置を要する状況を示す説明図である。PS1にはVM1とVM2とが配置され、PS2にはVM3とVM4とが配置され、PS3にはVM5が配置されている。ここで、VM1−VM3ペア間のVM使用量が大きいため、そのVMペア間の経路上に位置するSW1のSW使用量が増大し、SW1に輻輳が発生する場合を考える。
図6(b)は、図6(a)から再配置を実行した後の状況を示す説明図である。VM配置部17は、PS1からVM1をリセット(配置解除)し、その後にVM1をPS3へと再配置する。これにより、VM1−VM3ペア間のVM使用量は引き続き大きいものの、その経路上に位置するSW2のSW容量には余裕があるため、SW1,SW2の輻輳を発生させずに済む。
FIG. 6A is an explanatory diagram illustrating a situation where rearrangement is required. VM1 and VM2 are arranged in PS1, VM3 and VM4 are arranged in PS2, and VM5 is arranged in PS3. Here, since the VM usage between the VM1-VM3 pairs is large, the SW usage of the SW1 located on the path between the VM pairs is increased, and the SW1 is congested.
FIG. 6B is an explanatory diagram showing a situation after the rearrangement is executed from FIG. The VM placement unit 17 resets (removes) VM1 from PS1, and then rearranges VM1 to PS3. As a result, although the VM usage amount between the VM1-VM3 pair continues to be large, there is a margin in the SW capacity of SW2 located on the path, so that it is not necessary to cause congestion of SW1 and SW2.
図7(a)は、図6(a)の再配置を要する状況が現時点で発生した旨を示すグラフである。まず、現時点のSW1のSW使用量(実測値)は、VM1−VM3ペア間のVM使用量だけでなく、他のVM使用量と合わせると、閾値が示すSW容量を超過してしまっている。一方、現時点のSW2のSW使用量は、まだ余裕があり、仮にVM1−VM3ペア間のVM使用量を追加したとしても、現時点から所定期間先まで(実測値だけでなく予測値も含む)は、SW2のSW容量を超過しない。
そこで、VM配置部17は、(ルール4)と(ルール5)とに従い、SWの物理制約条件を双方のSW1,SW2が満たすように、VM1−VM3ペア間のVM使用量を、SW1からSW2へと再配置する(そのために、VM1をPS3へと再配置する)ことを決定する。
FIG. 7A is a graph showing that the situation requiring the rearrangement of FIG. 6A has occurred at the present time. First, the SW usage amount (actually measured value) of the current SW1 exceeds the SW capacity indicated by the threshold when combined with not only the VM usage amount between the VM1-VM3 pair but also other VM usage amounts. On the other hand, the SW usage amount of the current SW2 still has a margin, and even if the VM usage amount between the VM1-VM3 pair is added, from the present time to a predetermined period ahead (including not only the actual measurement value but also the predicted value) , SW capacity of SW2 is not exceeded.
Therefore, the VM placement unit 17 changes the VM usage amount between the VM1 and VM3 pairs from SW1 to SW2 so that both SW1 and SW2 satisfy the physical constraints of SW according to (Rule 4) and (Rule 5). To relocate (to relocate VM1 to PS3).
図7(b)は、図6(b)の再配置を現時点で実行した旨を示すグラフである。双方のSW1,SW2ともに、SW使用量が閾値(SW容量)内に収まることで、(ルール4)を満たすことができる。なお、VM配置部17は、(ルール5)の搭載VM上限数の制約を満たすために、すでに上限の2台のVMが搭載されているPS2を再配置先の候補から除外する。 FIG. 7B is a graph showing that the rearrangement of FIG. 6B has been executed at the present time. Both SW1 and SW2 can satisfy (Rule 4) when the SW usage amount falls within the threshold (SW capacity). Note that the VM placement unit 17 excludes PS2 in which two upper limit VMs are already mounted from the relocation destination candidates in order to satisfy the restriction on the upper limit number of installed VMs in (Rule 5).
図8(a)は、図6(a)の再配置を要する状況が将来時点(時刻t)で発生した旨を示すグラフである。図8(b)は、図6(b)の再配置を将来時点(時刻t)で実行した旨を示すグラフである。
図8と図7とを比較すると、SW1のSW容量の超過時点が現時点から将来時点(時刻t)へと置き換わっている。つまり、図8では現時点においては、SW1のSW容量は超過しない。
FIG. 8A is a graph showing that the situation requiring the rearrangement of FIG. 6A has occurred at a future time (time t). FIG. 8B is a graph showing that the rearrangement of FIG. 6B has been executed at a future time (time t).
Comparing FIG. 8 and FIG. 7, the
図8(a)では、将来時点(時刻t)でのSW1のVM使用量(予測値)は、VM1−VM3ペア間のVM使用量だけでなく、他のVM使用量と合わせると、閾値が示すSW容量を超過してしまっている。一方、将来時点(時刻t)でのSW2のVM使用量(予測値)は、まだ余裕があり、仮にVM1−VM3ペア間のVM使用量を追加したとしても、将来時点(時刻t)から所定期間先までは、SW2のSW容量を超過しないと予測される。 In FIG. 8A, the VM usage amount (predicted value) of SW1 at the future time point (time t) is not only the VM usage amount between the VM1-VM3 pairs but also the other VM usage amounts, the threshold value is The indicated SW capacity has been exceeded. On the other hand, the VM usage (predicted value) of SW2 at the future time (time t) is still sufficient, and even if the VM usage between the VM1-VM3 pairs is added, it is predetermined from the future time (time t). It is predicted that the SW capacity of SW2 will not be exceeded until the period ahead.
そこで、図8(b)に示すように、VM配置部17は、(ルール4)に従い、SWの物理制約条件を双方のSW1,SW2が満たすように、VM1−VM3ペア間のVM使用量を、SW1から再配置することを決定する。なお、図7(b)と異なり、VM配置部17は、配置ポリシを満たすVM使用量の再配置先(図では、SW2)の決定を、現時点ではなく将来時点(時刻t)の直前に行ってもよい。つまり、VM1のリセット処理と、VM1の再配置処理は、現時点ではなく将来時点(時刻t)の直前に行ってもよい。
これにより、各SWのSW使用量として、予測値よりも精度の高い実測値を活用することができるので、確実に空きのあるSWをVM使用量の再配置先として選ぶことができる。
Therefore, as illustrated in FIG. 8B, the VM placement unit 17 determines the VM usage amount between the VM1-VM3 pair so that both SW1 and SW2 satisfy the physical constraints of the SW according to (Rule 4). , SW1 is determined to be rearranged. Note that unlike FIG. 7B, the VM placement unit 17 determines the relocation destination (in the figure, SW2) of the VM usage that satisfies the placement policy, not just at the current time but immediately before the future time (time t). May be. That is, the reset process of VM1 and the rearrangement process of VM1 may be performed immediately before a future time (time t) instead of the current time.
As a result, an actual measurement value with higher accuracy than the predicted value can be used as the SW usage amount of each SW, so that an available SW can be reliably selected as a relocation destination of the VM usage amount.
図9は、VM配置部17の再配置処理を示すフロー説明図である。
S201として、VM配置部17は、VM配置状況が配置ポリシを満たしているか否かを判断する材料として、VM使用量およびSW使用量をそれぞれ取得する(詳細は、図1の説明)。
S202として、VM配置部17は、各スイッチ3が(ルール4)の物理制約条件(SW使用量≦SW容量)を満たすか否かを判定する。S202でYesなら終了し、NoならS203に進む。例えば、図6(a)のSW1は、(ルール4)を満たさないために輻輳してしまった例である。
FIG. 9 is a flowchart illustrating the rearrangement process of the VM placement unit 17.
As S201, the VM placement unit 17 acquires the VM usage and the SW usage as materials for determining whether or not the VM placement status satisfies the placement policy (details are described in FIG. 1).
In S202, the VM placement unit 17 determines whether or not each switch 3 satisfies the physical constraint condition (SW usage amount ≦ SW capacity) of (Rule 4). If Yes in S202, the process ends. If No, the process proceeds to S203. For example, SW1 in FIG. 6A is an example in which congestion occurs because (rule 4) is not satisfied.
S203として、VM配置部17は、S202で(ルール4)を満たさないスイッチ3に対して、そのスイッチ3が収容するVM使用量のうちの割合が大きいVMペア(図6〜図8では、「VM1−VM3のペア」)を選択する。
S204として、VM配置部17は、(ルール4)と(ルール5)とに従い、VM使用量の再配置先を検索する。例えば、図7(a)や図8(a)では、SW使用量が空いているSW2が検索される。
S205として、VM配置部17は、S204で再配置先が発見されたか否かを判定する。S205でYesならS206に進み、NoならS208に進む。図6〜図8では、VM1の再配置先としてPS3が発見されている(S205でYes)。
As S203, the VM placement unit 17 sets a VM pair that has a large ratio of the VM usage amount accommodated by the switch 3 to the switch 3 that does not satisfy (rule 4) at S202 (in FIGS. Select VM1-VM3 pair ").
In S204, the VM placement unit 17 searches for a VM placement amount rearrangement destination according to (Rule 4) and (Rule 5). For example, in FIG. 7 (a) and FIG. 8 (a), a search is made for SW2 having an unused SW usage.
In S205, the VM placement unit 17 determines whether a relocation destination has been found in S204. If Yes in S205, the process proceeds to S206, and if No, the process proceeds to S208. In FIGS. 6 to 8, PS3 is found as a relocation destination of VM1 (Yes in S205).
S206として、VM配置部17は、VMペアの片方(図6〜図8では、「VM1」)をリセットし、VMペアのVM使用量がS204で検索したスイッチ3を通過するように、リセットしたVMを別の物理サーバ4(図6〜図8では、「PS3」)に再配置する。この再配置処理は、配置済VMの配置リセットを実行しない指示をつけて、図5の初期配置処理を呼び出すことで実現される。
S207として、VM配置部17は、S206の再配置に成功したか否かを判定する。S207でYesならS202に戻り、NoならS208に進む。
In S206, the VM placement unit 17 resets one of the VM pairs ("VM1" in FIGS. 6 to 8) so that the VM usage of the VM pair passes through the switch 3 searched in S204. The VM is relocated to another physical server 4 (“PS3” in FIGS. 6 to 8). This rearrangement process is realized by calling an initial arrangement process of FIG. 5 with an instruction not to execute the arrangement reset of the arranged VM.
In S207, the VM placement unit 17 determines whether the rearrangement in S206 has succeeded. If Yes in S207, the process returns to S202, and if No, the process proceeds to S208.
S208として、VM配置部17は、VMペアの両方(図6〜図8では、「VM1とVM3」)をリセットし、そのリセットしたVMを再配置するために、図5の初期配置処理を呼び出す。そして、S208の後は、処理をS202へ戻す。 As S208, the VM placement unit 17 resets both of the VM pairs ("VM1 and VM3" in FIGS. 6 to 8), and calls the initial placement process of FIG. 5 to relocate the reset VM. . Then, after S208, the process returns to S202.
以上説明した図9の各処理の実行時刻について、図7のように、再配置を要する状況が現時点で発生した場合は、S201〜S208の各処理を現時点で実行する。
一方、図8のように、再配置を要する状況が将来時点(時刻t)で発生することを予測した場合は、S202〜S203を現時点で実行し、それ以降の各処理(S204〜S208)を、将来時点(時刻t)の直前まで待ってから実行する。
Regarding the execution times of the processes in FIG. 9 described above, when a situation requiring relocation occurs at the current time as shown in FIG. 7, the processes of S201 to S208 are executed at the current time.
On the other hand, as shown in FIG. 8, when it is predicted that a situation requiring rearrangement will occur at a future time (time t), S202 to S203 are executed at this time, and the subsequent processing (S204 to S208) is performed. The process is executed after waiting immediately before the future time (time t).
以上説明した本実施形態では、図3,図4で示したように、(ルール4)に従って、各スイッチ3の容量が超過しないように、対象VMやキーVMを初期配置していくことで、仮想マシン間の通信品質を保証するように、各仮想マシンを物理サーバに配置することができる。
さらに、図6〜図8で示したように、過去の初期配置の時点では(ルール4)を満たしていても、トラフィックの変動などにより、現時点や将来時点で(ルール4)を満たさなくなる事象に対して、配置済みの仮想マシン2を再配置することによって、事後的に(ルール4)を満たすように改善することができる。
In the present embodiment described above, as shown in FIGS. 3 and 4, according to (Rule 4), the target VM and the key VM are initially arranged so that the capacity of each switch 3 does not exceed. Each virtual machine can be arranged on a physical server so as to guarantee the communication quality between the virtual machines.
Furthermore, as shown in FIGS. 6 to 8, even if (Rule 4) is satisfied at the time of the initial initial arrangement in the past, the event (Rule 4) is not satisfied at the present time or in the future due to traffic fluctuation or the like. On the other hand, by rearranging the virtual machines 2 that have already been arranged, it can be improved to satisfy (Rule 4) afterwards.
1 VM配置装置(仮想マシン配置装置)
2 VM(仮想マシン)
3 SW(スイッチ)
4 物理サーバ
11 VM使用量予測部
12 SW使用量予測部
13 SW容量管理部
14 NW情報管理部
15 VMスコア算出部
16 配置先算出部(配置処理部)
17 VM配置部(配置処理部)
18 VM情報受信部
19 SW情報受信部
10a PSスコア算出部
10b PS使用量収集部
21 VM使用量収集部
22 VM情報転送部
31 SW使用量収集部
32 SW情報転送部
41 PS使用量収集部
42 PS情報転送部
1 VM placement device (virtual machine placement device)
2 VM (virtual machine)
3 SW (switch)
4 Physical Server 11 VM Usage Prediction Unit 12 SW Usage Prediction Unit 13 SW Capacity Management Unit 14 NW Information Management Unit 15 VM Score Calculation Unit 16 Placement Destination Calculation Unit (Placement Processing Unit)
17 VM placement unit (placement processing unit)
18 VM information receiving unit 19 SW information receiving unit 10a PS score calculating unit 10b PS usage collecting unit 21 VM usage collecting unit 22 VM information transfer unit 31 SW usage collecting unit 32 SW information transferring unit 41 PS usage collecting unit 42 PS information transfer unit
Claims (4)
前記配置処理部は、配置済みの前記第1および第2の仮想マシン間の前記所定の通信を転送する前記スイッチのうち、現時点での前記所定の通信で使用される通信量が前記スイッチの通信容量を超過している前記スイッチが存在する場合は、その超過している前記スイッチが担当していた前記所定の通信で使用される通信量の少なくとも一部を別の前記スイッチが担当するように、担当していた前記第1および第2の仮想マシンのうちの少なくとも1つの仮想マシンを、前記第1および第2の物理サーバとは別の物理サーバへと現時点で再配置することを特徴とする
仮想マシン配置装置。 For the predetermined communication performed between the first virtual machine in the first physical server and the second virtual machine in the second physical server, the amount of communication used in the predetermined communication is When the first virtual machine is within the free capacity of the switch that relays the predetermined communication between the first physical server and the second physical server, the placement destination of the first virtual machine is the first virtual server. of selecting a physical server, the placement destination of the second virtual machine to have the arrangement processing unit that selects as said second physical server,
The placement processing unit is configured so that a communication amount used in the predetermined communication at the present time is a communication amount of the switch among the switches that transfer the predetermined communication between the first and second virtual machines that have been arranged. When there is a switch that exceeds the capacity, another switch is responsible for at least a part of the traffic used in the predetermined communication that the excess switch is in charge of. Relocating at least one virtual machine of the first and second virtual machines in charge to a physical server different from the first and second physical servers at the present time, virtual machine placement device to.
前記配置処理部は、配置済みの前記第1および第2の仮想マシン間の前記所定の通信を転送する前記スイッチのうち、将来時点での前記所定の通信で使用される通信量が前記スイッチの通信容量を超過すると予測される前記スイッチが存在する場合は、その超過が予測される前記スイッチが担当する前記所定の通信で使用される通信量の少なくとも一部を別の前記スイッチが担当するように、担当する前記第1および第2の仮想マシンのうちの少なくとも1つの仮想マシンを、前記第1および第2の物理サーバとは別の物理サーバへと将来時点で再配置することを特徴とする
仮想マシン配置装置。 For the predetermined communication performed between the first virtual machine in the first physical server and the second virtual machine in the second physical server, the amount of communication used in the predetermined communication is When the first virtual machine is within the free capacity of the switch that relays the predetermined communication between the first physical server and the second physical server, the placement destination of the first virtual machine is the first virtual server. And a placement processing unit that selects the second virtual machine placement destination as the second physical server.
The placement processing unit is configured such that, of the switches that transfer the predetermined communication between the first and second virtual machines that have already been arranged, a communication amount used in the predetermined communication at a future time point When there is the switch that is predicted to exceed the communication capacity, another switch is responsible for at least a part of the communication amount used in the predetermined communication that the switch that is predicted to exceed the capacity is in charge. And at least one virtual machine of the first and second virtual machines in charge is relocated to a physical server different from the first and second physical servers at a future time. virtual machine placement device to.
請求項1または2に記載の仮想マシン配置装置。 The arrangement processing unit includes a communication amount used in the predetermined communication between the first virtual machine and the second virtual machine, and between the first virtual machine and the second virtual machine. The product of the number of hops between them is used as a communication evaluation value between virtual machines, and each physical server as a placement destination of each virtual machine is determined so that the sum of the communication evaluation values is minimized. Item 3. The virtual machine arrangement device according to item 1 or 2 .
未配置の仮想マシンの集合から配置先を決定する前記第1および第2の仮想マシンを選択するときに、前記第1の仮想マシンと前記第2の仮想マシンとの間の前記所定の通信で使用される通信量が多いほど、前記第1および第2の仮想マシンを早い順序で配置先を決定し、
仮想マシンの配置先の候補となる物理サーバの集合から配置先となる前記第1および第2の物理サーバを選択するときに、前記第1および第2の物理サーバからみてその近傍に接続される前記スイッチの通信容量の余裕が多いほど、前記第1および第2の物理サーバを早い順序で配置先を決定することを特徴とする
請求項1ないし請求項3のいずれか1項に記載の仮想マシン配置装置。
The arrangement processing unit
When selecting the first and second virtual machines for determining the placement destination from a set of unplaced virtual machines, the predetermined communication between the first virtual machine and the second virtual machine is performed. As the amount of communication used increases, the placement destination of the first and second virtual machines is determined in an earlier order,
When selecting the first and second physical servers as placement destinations from a set of physical servers that are candidates for placement destinations of virtual machines, they are connected in the vicinity as seen from the first and second physical servers The placement destination of the first and second physical servers is determined earlier in order as the communication capacity of the switch increases.
The virtual machine placement device according to claim 1 .
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014110754A JP6325348B2 (en) | 2014-05-29 | 2014-05-29 | Virtual machine placement device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014110754A JP6325348B2 (en) | 2014-05-29 | 2014-05-29 | Virtual machine placement device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2015225560A JP2015225560A (en) | 2015-12-14 |
| JP6325348B2 true JP6325348B2 (en) | 2018-05-16 |
Family
ID=54842239
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2014110754A Expired - Fee Related JP6325348B2 (en) | 2014-05-29 | 2014-05-29 | Virtual machine placement device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6325348B2 (en) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102532641B1 (en) * | 2016-03-22 | 2023-05-15 | 삼성전자 주식회사 | An apparatus for relocating virtual machines and method thereof |
| JP6654584B2 (en) * | 2017-02-16 | 2020-02-26 | 日本電信電話株式会社 | Communication amount management system and communication amount management method |
| JP6692994B2 (en) * | 2017-06-26 | 2020-05-13 | 株式会社日立製作所 | Virtual machine management apparatus and management method |
| KR102557617B1 (en) * | 2022-12-27 | 2023-07-21 | 오케스트로 주식회사 | A virtual machine placement ecaluation device and a sever operating system using the same |
| KR102622088B1 (en) * | 2023-03-31 | 2024-01-09 | 오케스트로 주식회사 | A cloud operation evaluation device considering performance guarantee of the cloud operating environment and stability and a sever operating system using the same |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003224598A (en) * | 2002-01-31 | 2003-08-08 | Mitsubishi Electric Corp | Policy definition setting method and policy server |
| JP2010146420A (en) * | 2008-12-22 | 2010-07-01 | Hitachi Ltd | Surplus resource management system, management method thereof, and server device |
| JP2011221581A (en) * | 2010-04-02 | 2011-11-04 | Hitachi Ltd | Management method for computer system, computer system management terminal and computer management system |
| JP2011243112A (en) * | 2010-05-20 | 2011-12-01 | Hitachi Ltd | System management method and management device |
| JP5697102B2 (en) * | 2012-02-20 | 2015-04-08 | 日本電信電話株式会社 | Configuration apparatus and configuration method of image processing system |
-
2014
- 2014-05-29 JP JP2014110754A patent/JP6325348B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2015225560A (en) | 2015-12-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109218355B (en) | Load balancing engine, client, distributed computing system and load balancing method | |
| US20190319844A1 (en) | Service deployment method and apparatus | |
| CN102082692B (en) | Method and equipment for migrating virtual machines based on network data flow direction, and cluster system | |
| JP6325348B2 (en) | Virtual machine placement device | |
| CN109684074B (en) | Physical machine resource allocation method and terminal equipment | |
| CN106681839B (en) | Elastic computing dynamic allocation method | |
| JP6960444B2 (en) | Computer system and resource management method | |
| WO2014208661A1 (en) | Device, method, system, and program for designing placement of virtual machine | |
| JP6293683B2 (en) | Computer system and coping method for performance failure of computer system | |
| CN110851235B (en) | Virtual network function deployment method suitable for multidimensional resource optimization configuration | |
| JP2012199644A (en) | Virtual network management system, virtual network management method, and program for managing virtual network | |
| KR101448413B1 (en) | Method and apparatus for scheduling communication traffic in atca-based equipment | |
| JP6406633B2 (en) | Virtual network control device, virtual network control method, and program | |
| CN105704180B (en) | Configuration method and system of data center network | |
| JP6963465B2 (en) | Computer system and data processing control method | |
| Babu et al. | Interference aware prediction mechanism for auto scaling in cloud | |
| Zhengbing et al. | Resource management in a distributed computer system with allowance for the level of trust to computational components | |
| JP6996341B2 (en) | Estimating device and estimation method | |
| JP2017028548A (en) | Physical resource allocation device, physical resource allocation method and program | |
| JP6721921B2 (en) | Equipment design device, equipment design method, and program | |
| JP7239861B2 (en) | Resource allocation device, resource allocation method, and resource allocation program | |
| JP6186287B2 (en) | System management server and control method | |
| JP5617586B2 (en) | Information processing program, relay device, and relay management device | |
| JP6232698B2 (en) | Network switching device, task moving method, and task moving program | |
| JP6723951B2 (en) | Virtual resource allocation device and virtual resource allocation method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160722 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170530 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170627 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170828 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20180109 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180314 |
|
| A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20180323 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180406 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180412 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6325348 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| LAPS | Cancellation because of no payment of annual fees |