JP4044855B2

JP4044855B2 - Session filtering method and load balancing apparatus

Info

Publication number: JP4044855B2
Application number: JP2003038860A
Authority: JP
Inventors: 高廣田村; 順平渡瀬; 勝志田中; 伸一栗林
Original assignee: Nippon Telegraph and Telephone Corp; NTT Inc USA
Current assignee: NTT Inc; NTT Inc USA
Priority date: 2003-02-17
Filing date: 2003-02-17
Publication date: 2008-02-06
Anticipated expiration: 2023-02-17
Also published as: JP2004246833A

Description

【０００１】
【発明の属する技術分野】
本発明はインターネット、IP (Internet Protocol)・VPN (Virtual Private Network)、広域インサーネット等のIPネットワーク上において、クライアントからサーバに対する接続要求を複数のサーバに振り分けることでサーバの負荷を分散するサーバ負荷分散技術に関する。
【０００２】
【従来の技術】
従来のサーバ負荷分散技術としては、アウトチャネル方式とインチャネル方式の２つの方式が存在している。
【０００３】
アウトチャネル方式は、クライアントがサーバのIPアドレスを解決するためにDNS (Domain Name System)にドメイン名からIPアドレスへのアドレス解決の問い合せを行った時点で、DNSが予め設定された当該ドメインに対応する複数のサーバのIPアドレスからいずれか1つのIPアドレスを応答することによりサーバの負荷を分散する方式である（非特許文献１）。
【０００４】
インチャネル方式は、DNSで解決されるIPアドレスとしてネットワーク内に設置したロードバランサが保持するIPアドレス（仮想IPアドレス：以後VIPと記載）を応答することを前提とし、VIPアドレス宛の新規セッション確立要求を受信したロードバランサが、当該パケットの宛先IPアドレス、送信元IPアドレス、宛先Port番号、送信元Port番号、宛先MAC (Media Access Control)アドレス、送信元MACアドレスなどのヘッダ情報の各フィールドを、当該VIPと予め関連付けられた同一のコンテンツを保持する複数のサーバから選択した１台のサーバに転送するのに適した値に書き換えサーバへ転送し、新規セッション確立要求を受信する毎に転送先サーバを選択することによりサーバの負荷を分散させる方式である（特許文献１、特許文献２、非特許文献１）。
【０００５】
また、インチャネル方式の負荷分散では、サーバからクライアント宛に送信される応答のデータがVIPを保持しているサーバからの応答であるようにクライアントに見せるために、パケットのヘッダ情報の変換を行いクライアントへ転送する。
【０００６】
転送先のサーバを選択するアルゴリズムとしては、Round Robin, Least connction, Weihted Round Robin)等の方式がある。
【０００７】
【特許文献１】
特開２００１―２３６２９３号公報
【特許文献２】
特開２００１―１５５７３６号公報
【非特許文献１】
トニー・ブルーク著「サーバ負荷分散技術」pp.３〜pp.３４、オライリー・ジャパン発行、２００１年１２月１３日発行、ISBN4-87311-065-3
【０００８】
【発明が解決しようとする課題】
インチャネル方式の負荷分散を実装したロードバランサを複数のユーザで共用し、ユーザ毎に個別のサーバを設置してインターネット向けにサイトを運営しているような状況下において、特定のユーザが管理するサーバに対してトラフィックが集中した際には、ロードバランサが管理するクライアントとサーバ間のセッション情報が、当該セッション情報で全て消費し尽くしてしまい、その他のユーザが設置したサーバに対するトラフィックをロードバランサが受信した際に、コネクション情報を保持できずデータが廃棄されてしまうという問題がある。
【０００９】
また、インチャネル方式の負荷分散を実装したロードバランサを、インターネット、IP-VPN、広域イーサ網などを経由して複数のユーザで供用しているような状況下において、特定のユーザ拠点からのトラフィックが集中した場合には、当該セッション情報によりロードバランサのセッション管理エントリが消費し尽くされてしまい、他の拠点に属するユーザからのトラフィックをロードバランサが受信した際にコネクション情報を保持できず、ユーザ拠点間の公平性が確保されないという問題がある。
【００１０】
また、１台のサーバを複数のユーザで共用してシステムを構築するような状況（同一サーバ上で複数のユーザにASPサービスを提供するような状況）においては、特定のASPサービス提供者が提供するアプリケーションサービスとエンドユーザとの間のセッション情報によってロードバランサが保持可能なセッションエントリが消費し尽くされてしまい、その他のASPサービス事業者がサービス提供不能になるという問題がある。
【００１１】
その他の問題として、短時間でエンドユーザからサーバに対してトラフィックが集中した際には、当該のトラフィックを処理するサーバの負荷が極めて高くなり、サーバがダウンししてしまうという問題があった。
【００１２】
本発明の目的は、複数のユーザでロードバランサが共用した際にも、特定のユーザのトラフィック、特定のサーバ宛のセッション確立要求、特定のユーザ拠点からのセッション確立要求、特定のASPサービス事業者の提供するサービス宛のセッション確立要求等がシステムのセッション管理エントリを消費し尽くすことを防止し、様々なレベルでユーザ間の干渉を防止し、ユーザ間およびサービス間の公平性を確保し、サーバを共用する場合においても共用しているユーザ間の干渉を防止することができ、また、サーバ、および対抗装置の負荷をユーザ毎に適正に制御することができるセッションフィルタリング方法および負荷分散装置を提供することにある。
【００１３】
【課題を解決するための手段】
エンドユーザ端末からのリクエストを複数のサーバのうちいずれかを選択して、転送する負荷分散機能を備えた本発明の装置は、ユーザ単位で最大接続可能セッション数と単位時間あたりに接続可能なセッション数を管理する手段と、ユーザ拠点（NWアドレス）単位で最大接続可能セッション数と単位時間あたりに接続可能なセッション数を管理する手段と、サーバグループ単位で最大接続可能セッション数と単位時間あたりに接続可能なセッション数を管理する手段と、サーバ単位で最大接続可能セッション数と単位時間あたりに接続可能なセッション数を管理する手段と、VIP単位で最大接続可能セッション数と単位時間あたりに接続可能なセッション数を管理する手段と、上記のいずれの単位の組み合わせにおいても階層的に最大接続可能セッション数と単位時間あたりに接続可能なセッション数を管理する手段を有する。
【００１４】
エンドユーザ端末からサーバに対するセッション確立要求、すなわちVIP宛のセッション確立要求を受信した際に、上記に示したユーザ単位、ユーザ拠点（NWアドレス）単位、サーバグループ単位、VIP単位の階層的な組み合わせにおいて、当該アクセス要求が、最大接続可能セッション数の上限値未満かつ単位時間あたりに接続可能なセッション数未満である場合には、当該セッション確立要求を許可してサーバに転送し、いずれかの１つの単位においてセッション数が上限値以上となっている場合には当該セッション確立要求の廃棄を行う。
【００１５】
また、エンドユーザ端末からサーバに対するセッション確立要求、すなわちVIP宛のセッション確立要求を受信した際に、特定のサーバにおいて最大接続可能セッション数の上限値以上かつ単位時間あたりに接続可能なセッション数の上限値以上である場合には、当該セッション確立要求の当該サーバへの転送を禁止し、同一コンテンツを提供可能なその他のサーバへの転送を試み、同一コンテンツを提供可能なその他のサーバ全てにおいても最大接続可能セッション数の上限値以上かつ単位時間あたりに接続可能なセッション数の上限値以上である場合には、当該のセッション確立要求を廃棄する。
【００１６】
また、ユーザ単位、ユーザ拠点（NWアドレス）単位、サーバグループ単位、VIP単位、サーバ単位のいくつかもしくはそれら全てを階層的に組み合わせ、最大接続可能セッション数および単位時間あたりに接続可能なセッション数を管理する。
【００１７】
階層的な組み合わせとしてサーバ単位の管理を含めている状況においてサーバ単位のセッション数制限に該当したセッション確立要求は先述の通り、当該サーバへはセッション確立要求を転送せず、同一コンテンツを提供可能なその他のサーバへの転送を試み、同一コンテンツを提供可能なその他のサーバ全てにおいても最大接続可能セッション数もしくは単位時間あたりに接続可能なセッション数が上限値以上である場合には、当該のセッション確立要求を廃棄する。
【００１８】
【発明の実施の形態】
次に本発明の実施の形態について図面を参照して説明する。
【００１９】
図１は本発明の一実施形態の負荷分散装置の構成図である。本実施形態の負荷分散装置はユーザ識別部１００と新規接続可能セッション数比較部２００と接続可能最大セッション数比較部３００と負荷分散処理部４００で構成されている。
【００２０】
また、新規接続可能セッション数比較部２００はユーザ単位新規接続可能上限値管理テーブル２０１とユーザ単位新規接続数カウンタ２０２とネットワークアドレス単位新規接続可能上限値管理テーブル２０３とネットワークアドレス単位新規接続数カウンタ２０４とサーバグループ単位新規接続可能上限値管理テーブル２０５とサーバグループ単位新規接続数カウンタ２０６とサーバ単位新規接続上限値管理テーブル２０７とサーバ単位新規接続数カウンタ２０８とVIP単位新規接続可能上限値管理テーブル２０９とVIP単位新規接続数カウンタ２１０とネットワークアドレス＆サーバグループ単位新規接続可能上限値管理テーブル２１１とネットワークアドレス＆サーバグループ単位新規接続数カウンタ２１２とネットワークアドレス＆サーバ単位新規接続可能上限値管理テーブル２１３とネットワークアドレス＆サーバ単位新規接続数カウンタ２１４と比較演算部２１５で構成される。
【００２１】
接続可能最大セッション数管理部３００はユーザ単位接続可能上限値管理テーブル３０１とユーザ単位接続数カウンタ３０２とネットワークアドレス単位接続可能上限値管理テーブル３０３とネットワークアドレス単位接続数カウンタ３０４とサーバグループ単位接続可能上限値管理テーブル３０５とサーバグループ単位接続数カウンタ３０６とサーバ単位接続可能上限値管理テーブル３０７とサーバ単位接続数カウンタ３０８とVIP単位接続可能上限値管理テーブル３０９とVIP単位接続カウンタ３１０とネットワークアドレス＆サーバグループ単位接続可能上限値管理テーブル３１１とネットワークアドレス＆サーバグループ単位接続数カウンタ３１２とネットワークアドレス＆サーバ単位接続可能上限値管理テーブル３１３とネットワークアドレス＆サーバ単位接続数カウンタ３１４と比較演算部３１５で構成される。
【００２２】
クライアント端末からVIP宛の新規セッション確立要求（TCP：SYN等）を受信した際に、ユーザ識別部１００はトラフィックのヘッダ情報から当該トラフィックがどのユーザに属するものであるかを確認し、システム内部処理用の内部識別子への変換を行う。ユーザの識別情報としてエンドユーザ端末の属するNWアドレスおよびエンドユーザ端末のIPアドレスの集合として定義されるユーザグループ、エンドユーザ端末からのトラフィックのレイヤ２の識別子であるEthernet におけるVLAN-ID, ATM (Asynchronous Transfer Mode)におけるVCI/VPI, MPLSにおけるシムヘッダ等を参照し、予め定義した内部識別子とのマッピングを行う。システム内部においては、上記のシステム固有の内部識別子を用いずEthernetにおけるVLAN-ID, ATMにおけるVCI/VPI, MPLSにおけるシムヘッダ等をそのまま内部識別子として用いることも可能である。
【００２３】
ユーザ識別部１００において内部識別子を付与された新規セッション確立要求(TCP：SYN等）は、新規接続可能セッション数比較部２００において当該接続要求が受理可能であるかを比較・確認する処理が施される。
【００２４】
新規接続可能セッション数比較部２００は、内部識別子を付与されたユーザ単位、当該データを送信したクライアント端末が所属するNWアドレス単位、当該データの転送先サーバの集合であるサーバグループ単位、当該データを処理するサーバ単位、当該データの宛先VIP単位、当該データを送信したクライアント端末が所属するNWアドレスと当該データを処理するサーバの集合であるサーバグループとの階層的な単位、当該データを送信したクライアント端末が所属するNWアドレスと当該データを処理するサーバとの階層的な単位、それぞれもしくはそれらいくつかの組み合わせにおいて単位時間（可変）あたりに処理した新規の接続要求数を予め設定された上限値と比較することにより、当該新規接続要求が転送処理可能であるかを判断する。
【００２５】
上記のそれぞれの単位において転送処理が可能であるかの比較対象となるセッション数の上限値はユーザ単位新規接続可能上限値管理テーブル２０１、ネットワークアドレス単位新規接続可能上限値管理テーブル２０３、サーバグループ単位新規接続可能上限値管理テーブル２０５、サーバ単位新規接続可能上限値管理テーブル２０７、VIP単位新規接続可能上限値管理テーブル２０９、ネットワークアドレス＆サーバグループ単位新規接続可能上限値管理テーブル２１１、ネットワークアドレス＆サーバ単位新規接続可能上限値管理テーブル２１３に予め設定されている。
【００２６】
上記それぞれの単位において、単位時間あたりに処理した新規の接続要求の数はユーザ単位新規接続数カウンタ２０２、ネットワークアドレス単位新規接続数カウンタ２０４、サーバグループ単位新規接続数カウンタ２０６、サーバ単位新規接続数カウンタ２０８、VIP単位新規接続数カウンタ２１０、ネットワークアドレス＆サーバグループ単位新規接続数カウンタ２１２、ネットワークアドレス＆サーバ単位新規接続数カウンタ２１４で保持するが、当該カウンタの値は、クライアントから受信した新規セッション確立要求の中で転送を許可する毎にインクリメントされ、単位時間毎に０クリアされる。
【００２７】
比較演算部２１５では、ユーザ単位新規接続可能上限値管理テーブル２０１の値とユーザ単位新規接続数カウンタ２０２の値を比較し、ネットワークアドレス単位新規接続可能上限値管理テーブル２０３とネットワークアドレス単位新規接続数カウンタ２０４の値を比較し、サーバグループ単位新規接続可能上限値管理テーブル２０５の値とサーバグループ単位新規接続数カウンタ２０６の値を比較し、サーバ単位新規接続可能上限値管理テーブル２０７の値とサーバ単位新規接続数カウンタ２０８の値を比較し、VIP単位新規接続可能上限値管理テーブル２０９の値とVIP単位新規接続数カウンタ２１０の値を比較し、ネットワークアドレス＆サーバグループ単位新規接続可能上限値管理テーブル２１１の値とネットワークアドレス＆サーバグループ単位新規接続数カウンタ２１２の値を比較し、ネットワーク＆サーバ単位新規接続可能上限値管理テーブル２１３の値とネットワークアドレス＆サーバ単位新規接続数カウンタ２１４の値を比較し、当該システムで利用している全ての比較においてカウンタ値がテーブルに設定されている上限値未満である場合に、当該新規セッション確立要求（TCP：SYN等）の転送を許可し、接続可能最大セッション数比較部３００に処理を引き渡すが、いずれか１つの比較においても、カウンタ値が上限値以上となってしまった場合には、当該接続要求を廃棄する。
【００２８】
また、比較演算部２１５では、サーバ単位新規接続可能上限値管理テーブル２０７の値とサーバ単位新規接続数カウンタ２０８の値を比較し、ネットワークアドレス＆サーバ単位新規接続可能上限値管理テーブル２１３の値とネットワークアドレス＆サーバ単位新規接続数カウンタ２１４の値の比較も行うが、当該システムで利用している上記の比較においてカウンタ値がテーブルに設定されている上限値未満である場合に、当該新規セッション確立要求(TCP：SYN等）の転送を許可し、接続可能最大セッション数比較部３００に処理を引き渡すが、いずれか１つの比較においても、カウンタ値が上限値以上になってしまった場合には、当該サーバでは接続要求を処理不能であるために、当該サーバが属するサーバグループに属する別のサーバを転送先の候補として上限値とカウンタ値の比較を行う。
【００２９】
接続可能最大セクション数比較部３００は、内部識別子を付与されたユーザ単位、当該データを送信したクライアント端末が所属するNWアドレス単位、当該データの転送先サーバの集合であるサーバグループ単位、当該データを処理するサーバ単位、当該データの宛先VIP単位、当該データを送信したクライアント端末が所属するNWアドレスと当該データを処理するサーバの集合であるサーバグループとの階層的な単位、当該データを送信したクライアント端末が所属するNWアドレスと当該データを処理するサーバとの階層的な単位、それぞれもしくはそれらいくつかの組み合わせにおいて、同時に接続可能なコネクション数の上限値と新規の接続要求を受信した時点で確立しているコネクション数を比較することにより、当該新規接続要求が転送処理可能であるかを判断する。
【００３０】
上記それぞれの単位において転送処理が可能であるかの比較対象となるセッション数の上限値はユーザ単位接続可能上限値管理テーブル３０１、ネットワークアドレス単位接続可能上限値管理テーブル３０３、サーバグループ単位接続可能上限値管理テーブル３０５、サーバ単位接続可能上限値管理テーブル３０７、VIP単位接続可能上限値管理テーブル３０９、ネットワークアドレス＆サーバグループ単位接続可能上限値管理テーブル３１１、ネットワークアドレス＆サーバ単位接続上限値管理テーブル３１３に予め設定する。
【００３１】
上記それぞれの単位において、現在確立しているコネクションの数は、ユーザ単位接続数カウンタ３０２、ネットワークアドレス端子接続数カウンタ３０４、サーバグループ単位接続カウンタ３０６、サーバ単位接続数カウンタ３０８、VIP単位接続数カウンタ３１０、ネットワークアドレス＆サーバグループ単位接続数カウンタ３１２、ネットワークアドレス＆サーバ単位接続数カウンタ３１４で保持する。
【００３２】
当該カウンタの値は、クライアントから受信した新規セッション確立要求（TCP：SYN等）をサーバに転送した後にサーバからコネクション確立応答があった時点でインクリメントする。
【００３３】
クライアント・サーバの双方から既に確立しているセッションの閉鎖要求（TCP：FIN等）を受信した際には、当該コネクションの情報のエージング処理を開始し、エージングタイマーが０になった時点でコネクション情報の削除と、カウンタ値のデクリメントを行う。
【００３４】
また、クライアントもしくはサーバからコネクションから、既に確立しているコネクションの緊急のコネクション閉鎖要求（TCP：RST等）を受信した際には、当該コネクションのエントリを即座に開放すると共に、カウンタ値のデクリメントを行う。
【００３５】
比較演算部３１５では、ユーザ単位接続可能上限値管理テーブル３０１の値とユーザ単位接続カウンタ３０２の値を比較し、ネットワークアドレス単位接続可能上限値管理テーブル３０３の値とネットワークアドレス単位接続数カウンタ３０４の値を比較し、サーバグループ単位接続可能上限値管理テーブル３０５の値とサーバグループ単位接続数カウンタ３０６の値を比較し、サーバ単位接続可能上限値管理テーブル３０７の値とサーバ単位接続数カウンタ３０８の値を比較し、VIP単位接続可能上限値管理テーブル３０９の値とVIP単位接続数カウンタ３１０の値を比較し、ネットワークアドレス＆サーバグループ単位接続可能上限値管理テーブル３１１の値とネットワークアドレス＆サーバグループ単位接続数カウンタ３１２の値を比較し、ネットワークアドレス＆サーバ単位接続可能上限値管理テーブル３１３の値とネットワークアドレス＆サーバ単位接続数カウンタ３１４の値を比較し、当該システムで利用している全ての比較においてカウンタ値がテーブルに設定されている上限値未満である場合に、当該TCPコネクション接続要求の転送を許可し負荷分散処理部４００に処理を引き渡すが、いずれか１つの比較においても、カウンタ値が上限値以上となってしまった場合には当該接続要求を廃棄する。ただし、サーバ単位での確認およびネットワークアドレス＆サーバ単位での確認においては、当該サーバが属するサーバグループの他のサーバで処理可能な場合には当該接続処理不能サーバへの振り分けを禁止するだけであり、当該サーバの属するサーバグループの他のサーバへの転送可能性を探るために、上限値と現状接続数の比較を行いその他のサーバに設定されたカウンタの値が上限値未満であれば転送処理を行う。
【００３６】
負荷分散処理部４００では、当該宛先IPアドレス、宛先MACアドレス、送信元MACアドレスなどの各種ヘッダ情報を転送先のサーバに合わせて設定し、データを転送する。
【００３７】
なお、上記で示したカウンタを全て同時に用いる必要はなくそれぞれ独立して利用の可否を決められることはもちろんである。また、カウンタの上記の内容に因らずカウンタの検索順序を自由に変更可能であることはもちろんである。
【００３８】
さらに、カウンタの上限値をカウンタ毎にそれぞれ独立して設定できることはもちろんであり、かつカウンタの上限値を利用帯域に比例して配分可能であることももちろんである。
【００３９】
なお、本発明は専用のハードウェアにより実現されるもの以外に、その機能を実現するためのプログラムを、コンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行するものであってもよい。コンピュータ読み取り可能な記録媒体とは、フロッピーディスク、光磁気ディスク、CD―ROM等の記録媒体、コンピュータシステムに内蔵されるハードディスク装置等の記憶装置を指す。さらに、コンピュータ読み取り可能な記録媒体は、インターネットを介してプログラムを送信する場合のように、短時間の間、動的にプログラムを保持するもの（伝送媒体もしくは伝送波）、その場合のサーバとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含む。
【００４０】
【発明の効果】
以上説明したように、本発明によれば下記の効果がある。複数のユーザでロードバランサを共用した際にも、特定のユーザのトラフィック、特定のサーバ宛のセッション確立要求、特定のユーザ拠点からのセッション確立要求、特定のASPサービス事業者の提供するサービス宛のセッション確立要求等がシステムのセッション管理エントリを消費し尽くすことを防止し、様々なレベルでユーザ間の干渉を防止し、ユーザ間およびサービス間の公平性を確保することができる。サーバを共用する場合においても共用しているユーザ間の干渉を防止することができる。また、単位時間あたりに処理可能なセッション数を制限することにより本発明の装置と接続されたサーバおよび対抗装置の負荷をユーザ毎に適正に制御することができる。
【図面の簡単な説明】
【図１】本発明の一実施形態の負荷分散装置の構成図である。
【図２】新規接続可能セッション数管理部の構成図である。
【図３】接続可能最大セッション数管理部の構成図である。
【符号の説明】
１００ユーザ識別部
２００新規接続可能セッション数比較部
３００接続可能最大セッション数比較部
４００負荷分散処理部
２０１ユーザ単位新規接続可能上限値管理テーブル
２０２ユーザ単位新規接続数カウンタ
２０３ネットワークアドレス単位新規接続可能上限値管理テーブル
２０４ネットワークアドレス単位新規接続数カウンタ
２０５サーバグループ単位新規接続可能上限値管理テーブル
２０６サーバグループ単位新規接続数カウンタ
２０７サーバグループ単位新規接続可能上限値管理テーブル
２０８サーバ単位新規接続数カウンタ
２０９ VIP単位新規接続可能上限値管理テーブル
２１０ VIP単位新規接続数カウンタ
２１１ネットワークアドレス＆サーバグループ単位新規接続可能上限値管理テーブル
２１２ネットワークアドレス＆サーバグループ単位新規接続数カウンタ
２１３ネットワークアドレス＆サーバ単位新規接続可能上限値管理テーブル
２１４ネットワークアドレス＆サーバ単位新規接続数カウンタ
２１５比較演算部
３０１ユーザ単位接続可能上限値管理テーブル
３０２ユーザ単位接続数カウンタ
３０３ネットワークアドレス単位接続可能上限値管理テーブル
３０４ネットワークアドレス単位接続数カウンタ
３０５サーバグループ単位接続可能上限値管理テーブル
３０６サーバグループ単位接続数カウンタ
３０７サーバ単位接続可能上限値管理テーブル
３０８サーバ単位接続数カウンタ
３０９ VIP単位接続可能上限値管理テーブル
３１０ VIP単位接続数カウンタ
３１１ネットワークアドレス＆サーバグループ単位接続可能上限値管理テーブル
３１２ネットワークアドレス＆サーバグループ単位接続数カウンタ
３１３ネットワークアドレス＆サーバグループ単位接続可能上限値管理テーブル
３１４ネットワークアドレス＆サーバ単位接続数カウンタ
３１５比較演算部[0001]
BACKGROUND OF THE INVENTION
The present invention is a server load that distributes a server load by distributing connection requests from a client to a server over a plurality of servers on an IP network such as the Internet, IP (Internet Protocol) / VPN (Virtual Private Network), and wide area Internet. Regarding distributed technology.
[0002]
[Prior art]
As conventional server load distribution techniques, there are two methods, an out-channel method and an in-channel method.
[0003]
The out-channel method supports DNS (Domain Name System) address resolution from a domain name to an IP address in order to resolve the server's IP address. The server load is distributed by responding to any one IP address from a plurality of server IP addresses (Non-Patent Document 1).
[0004]
The in-channel method establishes a new session addressed to a VIP address on the assumption that the IP address (virtual IP address: hereinafter referred to as VIP) held by the load balancer installed in the network is returned as an IP address resolved by DNS. The load balancer that received the request displays the header information fields such as the destination IP address, source IP address, destination port number, source port number, destination MAC (Media Access Control) address, and source MAC address of the packet. Each time a new session establishment request is received, the transfer destination is rewritten to a value suitable for transfer to a single server selected from a plurality of servers holding the same content previously associated with the VIP. This is a method of distributing the server load by selecting a server (Patent Document 1, Patent Document 2, Non-Patent Document 1).
[0005]
In the in-channel load distribution, packet header information is converted so that the response data sent from the server to the client appears to be the response from the server holding the VIP. Transfer to client.
[0006]
As an algorithm for selecting a destination server, there are methods such as Round Robin, Least connction, Weihted Round Robin).
[0007]
[Patent Document 1]
JP 2001-236293 A [Patent Document 2]
JP 2001-155736 A [Non-Patent Document 1]
"Server load balancing technology" by Tony Bruk, pp.3 to 34, published by O'Reilly Japan, published on December 13, 2001, ISBN4-87311-065-3
[0008]
[Problems to be solved by the invention]
A specific user manages a load balancer that implements in-channel load balancing among multiple users, and installs a separate server for each user and operates a site for the Internet. When traffic is concentrated on the server, the session information between the client and the server managed by the load balancer is completely consumed by the session information, and the load balancer handles the traffic for the server installed by other users. When receiving, there is a problem that connection information cannot be held and data is discarded.
[0009]
In addition, traffic from a specific user base in a situation where a load balancer that implements in-channel load balancing is used by multiple users via the Internet, IP-VPN, wide area Ethernet, etc. When the load balancer concentrates, the session management entry of the load balancer is consumed up by the session information, and when the load balancer receives traffic from a user belonging to another base, the connection information cannot be held and the user There is a problem that fairness between bases is not ensured.
[0010]
Also provided by a specific ASP service provider in situations where a single server is shared by multiple users to build a system (providing ASP services to multiple users on the same server) Session information between the application service and the end user to be consumed consumes session entries that can be held by the load balancer, and other ASP service providers cannot provide the service.
[0011]
As another problem, when traffic is concentrated on a server from an end user in a short time, there is a problem that the load on the server that processes the traffic becomes extremely high and the server goes down.
[0012]
It is an object of the present invention to provide traffic for a specific user, a request for establishing a session addressed to a specific server, a request for establishing a session from a specific user base, a specific ASP service provider even when a load balancer is shared by a plurality of users. Prevents session establishment requests addressed to services provided by the system from consuming system session management entries, prevents interference between users at various levels, ensures fairness between users and services, and server Provided is a session filtering method and a load balancer that can prevent interference between users who share the same, and can control the load of the server and the countermeasure device appropriately for each user There is to do.
[0013]
[Means for Solving the Problems]
The apparatus of the present invention having a load distribution function for selecting and transferring a request from an end user terminal from among a plurality of servers is the maximum number of connectable sessions per user and sessions connectable per unit time. A means to manage the number, a means to manage the maximum number of sessions that can be connected per user base (NW address) and the number of sessions that can be connected per unit time, and a maximum number of sessions that can be connected per server group and per unit time A means to manage the number of connectable sessions, a means to manage the maximum number of connectable sessions per server and the number of connectable sessions per unit time, and a maximum connectable session per VIP and connectable per unit time The maximum number of connections possible in any combination of the above units and means for managing the number of sessions And means for managing the number of connectable sessions per number of sessions and the unit time.
[0014]
When receiving a session establishment request from the end user terminal to the server, that is, a session establishment request addressed to the VIP, in the hierarchical combination of the above-mentioned user unit, user base (NW address) unit, server group unit, VIP unit When the access request is less than the upper limit value of the maximum connectable sessions and less than the number of sessions connectable per unit time, the session establishment request is permitted and transferred to the server. If the number of sessions in the unit exceeds the upper limit, the session establishment request is discarded.
[0015]
In addition, when receiving a session establishment request from an end user terminal to a server, that is, a session establishment request addressed to a VIP, the upper limit of the maximum number of sessions that can be connected to a specific server and the maximum number of sessions that can be connected per unit time If the value is greater than or equal to the value, the transfer of the session establishment request to the server is prohibited, the transfer to other servers that can provide the same content is attempted, and the maximum of all other servers that can provide the same content. If the upper limit value of the number of connectable sessions and the upper limit value of the number of sessions connectable per unit time are exceeded, the session establishment request is discarded.
[0016]
In addition, some or all of user units, user bases (NW address) units, server group units, VIP units, and server units are combined hierarchically, and the maximum number of sessions that can be connected and the number of sessions that can be connected per unit time. to manage.
[0017]
In situations where server-level management is included as a hierarchical combination, a session establishment request that corresponds to the limit on the number of sessions per server can be provided to the server without forwarding the session establishment request as described above. Attempts to transfer to another server, and if the maximum number of connectable sessions or the number of sessions connectable per unit time is greater than or equal to the upper limit on all other servers that can provide the same content, establish the session Discard the request.
[0018]
DETAILED DESCRIPTION OF THE INVENTION
Next, embodiments of the present invention will be described with reference to the drawings.
[0019]
FIG. 1 is a configuration diagram of a load distribution apparatus according to an embodiment of the present invention. The load distribution apparatus according to this embodiment includes a user identification unit 100, a newly connectable session number comparison unit 200, a connectable maximum session number comparison unit 300, and a load distribution processing unit 400.
[0020]
Also, the new connectable session number comparison unit 200 includes a user unit new connectable upper limit management table 201, a user unit new connectable number counter 202, a network address unit new connectable upper limit management table 203, and a network address unit new connection count counter 204. , Server group unit new connection upper limit management table 205, server group unit new connection number counter 206, server unit new connection upper limit value management table 207, server unit new connection number counter 208, and VIP unit new connection upper limit management table 209 And VIP unit new connection number counter 210, network address & server group unit new connection upper limit management table 211, network address & server group unit new connection number counter 212 and network address & server It consists of the comparison operation unit 215 and the unit novel connectable upper limit management table 213 and the network address and the server unit newly connected counter 214.
[0021]
The maximum connectable session number management unit 300 is connectable to a user unit connectable upper limit value management table 301, a user unit connection number counter 302, a network address unit connectable upper limit value management table 303, a network address unit connectable number counter 304, and a server group unit. Upper limit value management table 305, server group unit connection number counter 306, server unit connectable upper limit value management table 307, server unit connection number counter 308, VIP unit connectable upper limit value management table 309, VIP unit connection counter 310, network address & Server group unit connectable upper limit management table 311, network address & server group unit connection number counter 312, network address & server unit connectable upper limit management table 313 and network It consists of the comparison operation unit 315 and the address & server unit connected counter 314.
[0022]
When a new session establishment request (TCP: SYN, etc.) addressed to the VIP is received from the client terminal, the user identification unit 100 confirms to which user the traffic belongs to from the header information of the traffic, and the system internal processing Conversion to internal identifier for User identification defined as a set of NW address to which end user terminal belongs and IP address of end user terminal as user identification information, VLAN-ID, ATM (Asynchronous) in Ethernet which is layer 2 identifier of traffic from end user terminal Reference is made to VCI / VPI in Transfer Mode), shim header in MPLS, etc., and mapping with a predefined internal identifier is performed. In the system, VLAN-ID in Ethernet, VCI / VPI in ATM, shim header in MPLS, and the like can be used as they are as internal identifiers without using the above-mentioned system-specific internal identifiers.
[0023]
A new session establishment request (TCP: SYN, etc.) given an internal identifier in the user identification unit 100 is subjected to a process of comparing and confirming whether or not the connection request can be accepted in the newly connectable session number comparison unit 200. The
[0024]
The new connectable session number comparison unit 200 includes a user unit given an internal identifier, an NW address unit to which the client terminal that transmitted the data belongs, a server group unit that is a set of transfer destination servers of the data, and the data Server unit to process, destination VIP unit of the data, hierarchical unit of NW address to which the client terminal that sent the data belongs and a server group that is a set of servers that process the data, client that sent the data The upper limit value set in advance for the number of new connection requests processed per unit time (variable) in the hierarchical unit between the NW address to which the terminal belongs and the server that processes the data, or in some combination of them By comparing, it is determined whether the new connection request can be transferred.
[0025]
The upper limit value of the number of sessions to be compared as to whether transfer processing is possible in each of the above units is the user unit new connectable upper limit management table 201, the network address unit new connectable upper limit management table 203, and the server group unit. New connection possible upper limit management table 205, server unit new connection possible upper limit management table 207, VIP unit new connection possible upper limit management table 209, network address & server group unit new connection upper limit management table 211, network address & server A unit new connectable upper limit management table 213 is preset.
[0026]
In each of the above units, the number of new connection requests processed per unit time is the user unit new connection number counter 202, the network address unit new connection number counter 204, the server group unit new connection number counter 206, and the server unit new connection number. The counter 208, the VIP unit new connection count counter 210, the network address & server group new connection count counter 212, and the network address & server unit new connection count counter 214 hold the value of the counter as a new session received from the client. It is incremented every time transfer is permitted in the establishment request, and cleared to 0 every unit time.
[0027]
The comparison operation unit 215 compares the value in the user unit new connection upper limit management table 201 with the value in the user unit new connection count counter 202, and compares the network address unit new connection upper limit management table 203 with the network address unit new connection count. The value of the counter 204 is compared, the value of the server group unit new connection upper limit management table 205 is compared with the value of the server group unit new connection count counter 206, and the value of the server unit new connection upper limit management table 207 is compared with the server. The value of the unit new connection number counter 208 is compared, the value of the VIP unit new connection upper limit management table 209 is compared with the value of the VIP unit new connection number counter 210, and the network address & server group unit new connection upper limit management Table 211 values, network address & server Compare the value of the group-wide new connection number counter 212 and compare the value of the network & server unit new connection upper limit management table 213 with the value of the network address & server unit new connection counter 214 and use it in the system. If the counter value is less than the upper limit value set in the table in all comparisons, the transfer of the new session establishment request (TCP: SYN, etc.) is permitted and processed by the connectable maximum session number comparison unit 300. However, even in any one of the comparisons, if the counter value exceeds the upper limit value, the connection request is discarded.
[0028]
Further, the comparison operation unit 215 compares the value of the server unit newly connectable upper limit management table 207 with the value of the server unit new connection count counter 208 and compares the value of the network address & server unit new connectable upper limit management table 213 with the value. Although the network address & server unit new connection counter 214 is also compared, if the counter value is less than the upper limit set in the table in the above comparison used in the system, the new session is established. The request (TCP: SYN, etc.) is permitted to be transferred, and the process is passed to the connectable maximum session number comparison unit 300. In any one of the comparisons, if the counter value exceeds the upper limit value, Since the server cannot process the connection request, another server belonging to the server group to which the server belongs The upper limit value is compared with the counter value as a transfer destination candidate.
[0029]
The connectable maximum section number comparison unit 300 includes a user unit given an internal identifier, an NW address unit to which the client terminal that transmitted the data belongs, a server group unit that is a set of transfer destination servers of the data, and the data Server unit to process, destination VIP unit of the data, hierarchical unit of NW address to which the client terminal that sent the data belongs and a server group that is a set of servers that process the data, client that sent the data Established when receiving the upper limit of the number of connections that can be connected simultaneously and a new connection request in the hierarchical unit of the NW address to which the terminal belongs and the server that processes the data, or in some combinations of them. By comparing the number of connected connections, the new connection request is transferred. It determines whether the processable.
[0030]
The upper limit value of the number of sessions to be compared to determine whether transfer processing is possible in each of the above units is the user unit connectable upper limit value management table 301, the network address unit connectable upper limit value management table 303, and the server group unit connectable upper limit. Value management table 305, server unit connectable upper limit value management table 307, VIP unit connectable upper limit value management table 309, network address & server group unit connectable upper limit value management table 311, network address & server unit connectable upper limit value management table 313 Is set in advance.
[0031]
In each of the above units, the number of connections currently established includes the user unit connection number counter 302, the network address terminal connection number counter 304, the server group unit connection counter 306, the server unit connection number counter 308, and the VIP unit connection number counter. 310, network address & server group unit connection number counter 312, network address & server unit connection number counter 314.
[0032]
The value of the counter is incremented when a connection establishment response is received from the server after a new session establishment request (TCP: SYN, etc.) received from the client is transferred to the server.
[0033]
When a request for closing a session (TCP: FIN, etc.) already established from both the client and server is received, the connection information is started when the aging timer reaches 0. Is deleted and the counter value is decremented.
[0034]
When an urgent connection close request (TCP: RST, etc.) of an already established connection is received from a connection from a client or server, the entry for the connection is immediately released and the counter value is decremented. Do.
[0035]
The comparison operation unit 315 compares the value in the user unit connectable upper limit management table 301 with the value in the user unit connection counter 302, and compares the value in the network address unit connectable upper limit management table 303 with the network address unit connection count counter 304. Compare the values, compare the value in the server group unit connectable upper limit management table 305 and the value in the server group unit connectable number counter 306, and compare the value in the server unit connectable upper limit management table 307 and the server unit connectable number counter 308. The values are compared, the value in the VIP unit connectable upper limit management table 309 is compared with the value in the VIP unit connection count counter 310, and the value in the network address & server group unit connectable upper limit management table 311 is compared with the network address & server group. Compare the value of the unit connection counter 312 The value in the network address & server unit connectable upper limit management table 313 is compared with the value in the network address & server unit connection number counter 314, and the counter value is set in the table in all comparisons used in the system. When it is less than the upper limit value, the transfer of the TCP connection connection request is permitted and the process is transferred to the load distribution processing unit 400. However, when the counter value becomes equal to or higher than the upper limit value in any one of the comparisons. Discards the connection request. However, in the confirmation by server unit and the confirmation by network address & server unit, if the server group to which the server belongs can be processed by another server, it is only prohibited to distribute to the server that cannot be connected. In order to find the possibility of transfer to another server in the server group to which the server belongs, the upper limit value is compared with the current number of connections, and if the counter value set for the other server is less than the upper limit value, the transfer process I do.
[0036]
The load distribution processing unit 400 sets various header information such as the destination IP address, destination MAC address, and source MAC address according to the transfer destination server, and transfers the data.
[0037]
Of course, it is not necessary to use all the counters shown above at the same time, and it is of course possible to determine whether or not they can be used independently. Of course, the counter search order can be freely changed regardless of the above-described contents of the counter.
[0038]
Furthermore, it is a matter of course that the upper limit value of the counter can be set independently for each counter, and the upper limit value of the counter can be distributed in proportion to the use band.
[0039]
In addition to what is implemented by dedicated hardware, the present invention records a program for realizing the function on a computer-readable recording medium, and the program recorded on the recording medium is stored in a computer system. It may be read and executed. The computer-readable recording medium refers to a recording medium such as a floppy disk, a magneto-optical disk, a CD-ROM, or a storage device such as a hard disk device built in the computer system. Furthermore, a computer-readable recording medium is a server that dynamically holds a program (transmission medium or transmission wave) for a short period of time, as in the case of transmitting a program via the Internet, and a server in that case. Some of them hold programs for a certain period of time, such as volatile memory inside computer systems.
[0040]
【The invention's effect】
As described above, the present invention has the following effects. Even when a load balancer is shared by multiple users, the traffic of a specific user, a request for establishing a session addressed to a specific server, a request for establishing a session from a specific user base, a service addressed by a specific ASP service provider A session establishment request or the like can be prevented from consuming the session management entry of the system, interference between users can be prevented at various levels, and fairness between users and services can be ensured. Even when a server is shared, it is possible to prevent interference between shared users. Further, by limiting the number of sessions that can be processed per unit time, it is possible to appropriately control the load of the server and the counter device connected to the device of the present invention for each user.
[Brief description of the drawings]
FIG. 1 is a configuration diagram of a load distribution apparatus according to an embodiment of the present invention.
FIG. 2 is a configuration diagram of a newly connectable session number management unit.
FIG. 3 is a configuration diagram of a connectable maximum session number management unit;
[Explanation of symbols]
DESCRIPTION OF SYMBOLS 100 User identification part 200 New connection possible session number comparison part 300 Maximum connectable session number comparison part 400 Load distribution processing part 201 User unit new connection upper limit management table 202 User unit new connection number counter 203 Network address unit new connection upper limit Value management table 204 New connection count counter for network address unit 205 Upper limit value for new connection possible for server group unit 206 New connection number counter for server group unit 207 New upper limit for server group connectable value management table 208 New connection count counter for server unit 209 VIP Unit new connectable upper limit management table 210 VIP unit new connection count counter 211 Network address & server group unit new connectable upper limit management table 212 Network address & Server Group Unit New Connection Number Counter 213 Network Address & Server Unit New Connection Maximum Value Management Table 214 Network Address & Server Unit New Connection Number Counter 215 Comparison Operation Unit 301 User Unit Connection Maximum Value Management Table 302 User Unit Connection Number Counter 303 Network address unit connectable upper limit management table 304 Network address unit connectable upper limit management table 305 Server group unit connectable upper limit management table 306 Server group unit connectable upper limit counter 307 Server unit connectable upper limit management table 308 Server unit connectable number counter 309 VIP unit connectable upper limit management table 310 VIP unit connection number counter 311 Network address & server group unit connectable upper limit management table 312 Work Address & server group level connections counter 313 network address and server group unit connectable upper limit management table 314 the network address and the server unit connected counter 315 comparing unit

Claims

A user group defined as a set of an NW address to which the end user terminal belongs and an IP address of the end user terminal, a VLAN-ID in Ethernet that is a layer 2 identifier of traffic from the end user terminal, a VPI / VCI value in ATM, And a user unit identified by a shim header in MPLS , a virtual IP address unit indicating a data destination , a server group unit which is a set of servers to which the data is transferred, a client terminal that has transmitted the server and the server group and the data hierarchical established the number of sessions managed respectively to the upper limit value per unit time the number of connectable session per unit time in each unit of the unit, a new session establishment request from the end user terminal and NW address belongs Received For each of the unit upon performs established compared connection number of sessions at the upper limit value and the unit of time connectable number of sessions per unit time, in all comparisons of each of the unit, the number of sessions established in a unit time If the number of sessions established per unit time is equal to or greater than the upper limit value in the comparison of at least one of the units , the session establishment request is permitted. Session filtering method to discard.

A user group defined as a set of an NW address to which the end user terminal belongs and an IP address of the end user terminal, a VLAN-ID in Ethernet that is a layer 2 identifier of traffic from the end user terminal, a VPI / VCI value in ATM, And a user unit identified by a shim header in MPLS , a virtual IP address unit indicating a data destination , a server group unit which is a set of servers to which the data is transferred, a client terminal that has transmitted the server and the server group and the data each of the unit when managing the number of connection session upper limit value and the current maximum connectable number of sessions, receiving a new session establishment request from the end user terminal at the unit of a hierarchical unit of the NW address belongs for, Compares the number of connection sessions large connectable number of sessions and the present situation, the permission in all comparisons, the transfer of the new session establishment request in the case current number of connection sessions is less than the upper limit value of the unit A session filtering method that discards the session establishment request when the current number of connection sessions is equal to or greater than the upper limit value in at least one comparison of the units .

A user group defined as a set of an NW address to which the end user terminal belongs and an IP address of the end user terminal, a VLAN-ID in Ethernet that is a layer 2 identifier of traffic from the end user terminal, a VPI / VCI value in ATM, And a user unit identified by a shim header in MPLS , a virtual IP address unit indicating a data destination , a server group unit which is a set of servers to which the data is transferred, a client terminal that has transmitted the server and the server group and the data means for managing each belong NW address hierarchical unit of the number of sessions established per limit unit time the number of connectable session per unit time in each unit,
End For each of the unit upon receiving a new session establishment request from the user terminal, it performs a comparison of the number of connection session established at the upper limit value and the unit of time connectable number of sessions per unit time, the all the unit In the comparison, if the number of sessions established per unit time is less than the upper limit value, the transfer of the new session establishment request is permitted, and in at least one comparison of each unit, the number of sessions established per unit time is A load balancer comprising means for discarding the session establishment request when the upper limit value is exceeded.

A user group defined as a set of an NW address to which the end user terminal belongs and an IP address of the end user terminal, a VLAN-ID in Ethernet that is a layer 2 identifier of traffic from the end user terminal, a VPI / VCI value in ATM, And a user unit identified by a shim header in MPLS , a virtual IP address unit indicating a data destination , a server group unit which is a set of servers to which the data is transferred, a client terminal that has transmitted the server and the server group and the data It means for managing an upper limit value of the maximum connectable number of sessions and the number of connection sessions current of each unit of the hierarchical units of NW address belongs,
When a new session establishment request is received from an end user terminal , the maximum number of sessions that can be connected is compared with the number of current connection sessions for each unit, and the number of current connection sessions in all comparisons of each unit. Transfer of the new session establishment request is permitted when the number of connection sessions is equal to or greater than the upper limit in the comparison of at least one of the units. Load balancer having means for disposing of