JP7324831B2 - ディープラーニングフレームワークにおける演算子の展開方法、展開装置及び電子機器 - Google Patents

Description

本出願の実施例は、データ処理技術の分野に関し、より具体的には、ディープラーニングなどの人工知能技術の分野に関する。

現在、主流となっているディープラーニングフレームワークには、演算子と総称される豊富なテンソル計算処理ユニットが含まれており、豊富な演算子ライブラリは、ディープラーニングモデルを迅速に構築するために強力な基礎ツールを提供しているが、ディープラーニングフレームワークにおける演算子ライブラリは、一般的に完全性を実現できず、特に、最先端の学術研究分野では、現在の演算子ライブラリは、特定の論理計算操作を満たすことができない場合がよく存在する。したがって、各ディープラーニングフレームワークは、カスタム演算子のメカニズムをユーザに提供している。

カスタム演算子は、主にＣ＋＋言語（Ｔｈｅ Ｃ＋＋ Ｐｒｏｇｒａｍｍｉｎｇ Ｌａｎｇｕａｇｅ／Ｃ ｐｌｕｓ ｐｌｕｓ）によって実現され、ソースコードを個別にコンパイルし、動的ライブラリにリンクした後、フロントエンドでロッド及びインポートして使用する必要がある。ユーザがこのフレームワークをある程度理解する必要があるだけでなく、ユーザはＣ＋＋ソースのコンパイルに関する基本的な知識を持っている必要がある。ＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ、グラフィックプロセッミングユニット）デバイスをサポートする演算子の実現に関する場合、ユーザがＣＵＤＡ（Ｃｏｍｐｕｔｅ Ｕｎｉｆｉｅｄ Ｄｅｖｉｃｅ Ａｒｃｈｉｔｅｃｔｕｒｅ、コンピューティングユニファイドデバイスアーキテクチャ）コンパイルの背景知識を理解する必要がある。これは、ユーザの使用コストが極めて高く、他のサードパーティライブラリ（例えば、ライブラリｐｙｂｉｎｄ１１）への依存度が高く、柔軟性に欠け、効率が低いという技術的課題につながる。したがって、如何にしてディープラーニングフレームワークにおける演算子の展開プロセスの効率、柔軟性及びデカップリング性を向上させ、ユーザの使用コストを削減するかが重要な研究方向の１つとなっている。

本出願は、ディープラーニングフレームワークにおける演算子の展開方法、展開装置及び電子機器を提供する。

本出願の第１の態様では、演算子のソースファイルを取得するステップと、前記演算子のソースファイルをコンパイルして前記演算子の動的リンクライブラリを形成するステップと、前記演算子の動的リンクライブラリのインタフェースファイルを生成するステップと、前記動的リンクライブラリ及び前記インタフェースファイルに基づいて、インストール可能なライブラリファイルを生成するステップと、前記インストール可能なライブラリファイルを、ターゲットプログラミング言語ライブラリにインストールするステップと、を含む、ディープラーニングフレームワークにおける演算子の展開方法が提供される。

本出願の第２の態様では、演算子のソースファイルを取得するように構成される第１の取得モジュールと、前記演算子のソースファイルをコンパイルして前記演算子の動的リンクライブラリを形成するように構成される形成モジュールと、前記演算子の動的リンクライブラリのインタフェースファイルを生成するように構成される第１の生成モジュールと、前記動的リンクライブラリ及び前記インタフェースファイルに基づいて、インストール可能なライブラリファイルを生成するように構成される第２の生成モジュールと、前記インストール可能なライブラリファイルを、ターゲットプログラミング言語ライブラリにインストールするように構成されるインストールモジュールと、を含む、ディープラーニングフレームワークにおける演算子の展開装置が提供される。

本出願の第３の態様では、少なくとも１つのプロセッサと、前記少なくとも１つのプロセッサに通信可能に接続されるメモリと、を含み、前記メモリには前記少なくとも１つのプロセッサによって実行可能な命令が記憶され、前記命令が前記少なくとも１つのプロセッサによって実行される場合、前記少なくとも１つのプロセッサが本出願の第１の態様に記載のディープラーニングフレームワークにおける演算子の展開方法を実行できる、電子機器が提供される。

本出願の第４の態様では、コンピュータに本出願の第１の態様に記載のディープラーニングフレームワークにおける演算子の展開方法を実行させるためのコンピュータ命令を記憶している、非一時的なコンピュータ読み取り可能な記憶媒体が提供される。

本出願の第５の態様では、プロセッサによって実行される場合、本出願の第１の態様に記載のディープラーニングフレームワークにおける演算子の展開方法を実現するコンピュータプログラムを含む、コンピュータプログラム製品が提供される。
本出願の第６の態様では、プロセッサによって実行される場合、本出願の第１の態様に記載のディープラーニングフレームワークにおける演算子の展開方法を実現する、コンピュータプログラムが提供される。

なお、本部分に記載された内容は、本出願の実施例の肝心または重要な特徴を限定することを意図するものではなく、本出願の範囲を限定するものでもない。本出願の他の特徴は、以下の説明によって容易に理解されやすくなる。

図面は、本技術案をよりよく理解するために使用され、本出願を限定するものではない。
本出願の第１の実施例に係るディープラーニングフレームワークにおける演算子の展開方法の概略フローチャートである。 本出願の第２の実施例に係るディープラーニングフレームワークにおける演算子の展開方法の概略フローチャートである。 本出願の第３の実施例に係るディープラーニングフレームワークにおける演算子の展開方法の概略フローチャートである。 本出願の第４の実施例に係るディープラーニングフレームワークにおける演算子の展開方法の概略フローチャートである。 本出願の第５の実施例に係るディープラーニングフレームワークにおける演算子の展開方法の概略フローチャートである。 Ｐｙｔｈｏｎパッケージリリースの流れを示す概略図である。 本出願の実施例に係るディープラーニングフレームワークにおける演算子の展開方法を実現するためのディープラーニングフレームワークにおける演算子の展開装置の概略構成図である。 本出願の実施例に係るディープラーニングフレームワークにおける演算子の展開方法を実現するためのディープラーニングフレームワークにおける演算子の展開装置の概略構成図である。 本出願の実施例に係るディープラーニングフレームワークにおける演算子の展開方法を実現するための電子機器のブロック図である。

以下、図面を組み合わせて本出願の例示的な実施例を説明し、理解を容易にするためにその中には本出願の実施例の様々な詳細事項が含まれ、それらは単なる例示するものとして見なされるべきである。したがって、当業者は、本出願の範囲及び精神から逸脱することなく、ここで説明される実施例に対して様々な変更と置き換えを行うことができる。同様に、わかりやすくかつ簡潔にするために、以下の説明では、周知の機能及び構造の説明を省略する。

本出願の技術案に関する技術分野を簡単に説明する。
データ処理（Ｄａｔａ Ｐｒｏｃｅｓｓｉｎｇ）は、データの収集、記憶、検索、加工、変化及び伝送などの処理を含み、大量の、乱雑かもしれない、理解し難いデータから特定のユーザにとって価値があり、意味のあるデータを抽出し、導き出すことを目的とする。

ＡＩ（Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ、人工知能）は、コンピュータに人間のある思考過程や知的行為（例えば、学習、推理、思考、計画など）をシミュレーションさせることを研究する学科であり、ハードウェアレベルの技術もあれば、ソフトウェアレベルの技術もある。人工知能ハードウェア技術には、一般的にコンピュータビジョン技術、音声認識技術、自然言語処理技術及びその学習／ディープラーニング、ビッグデータ処理技術、ナレッジグラフ技術などのいくつかの面が含まれる。

ＤＬ（Ｄｅｅｐ Ｌｅａｒｎｉｎｇ、ディープラーニング）は、ＭＬ機械学習（Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ、機械学習）分野における新たな研究方向であり、本来の目標である人工知能により近づけるために、機械学習に導入されている。ディープラーニングとは、サンプルデータの内在法則と表現レベルを学習することであり、これらの学習プロセスにおいて取得された情報は、文字、画像及び音声などのデータの解釈に大きく役立つ。最終的な目標は、機械が人間と同じように解析学習能力を持ち、文字、画像及び音声などのデータを認識できるようにすることである。ディープラーニングは、複雑な機械学習アルゴリズムであり、音声及び画像認識の面で取得された効果は、従来の関連技術を遥かに上回る。

なお、関連技術において、カスタム演算子機能をサポートするディープラーニングフレームワークについては、コンパイルとインストールの実現が異なり、主にｓｅｔｕｐ．ｐｙ（ファイルの記述）に基づく方式、及びＪＩＴ（Ｊｕｓｔ－Ｉｎ－Ｔｉｍｅ、ジャストインタイムコンパイル）に基づくフロントエンドロード（ｌｏａｄ）インタフェースの方式という２つの方式を含む。

ここで、ｓｅｔｕｐ．ｐｙに基づく方式についは、Ｐｙｔｏｒｃｈフレームワークを例として、フロントエンド言語であるｐｙｔｈｏｎのｓｅｔｕｐｔｏｏｌｓライブラリを利用して、ユーザがインストール（ｉｎｓｔａｌｌ）コマンドを実行して、カスタム演算子ライブラリをコンパイルにより生成してｐｙｔｈｏｎライブラリにインストールすることをサポートすることにより、ユーザがインポート（ｉｍｐｏｒｔ）して使用することをサポートする。

しかしながら、この場合、カスタム演算子は、Ｐｙｂｉｎｄ１１モジュールに依存する必要があり、ユーザは事前にインストールし、カスタム演算子を明示的にＰｙｂｉｎｄ１１によってバインドする必要があり、そうしないと、フロントエンドに公開して使用することはできない。

ここで、ＪＩＴに基づくフロントエンドｌｏａｄインタフェースの方式は、インタフェースの最下層が、ＣＭａｋｅ、Ｎｉｎｊａなどのサードパーティツールに依存するため、ユーザが事前に配置する必要がある。

したがって、本出願は、Ｐｙｂｉｎｄ１１及びその他のサードパーティのモジュールに依存しなくなり、ｓｅｔｕｐｔｏｏｌｓを高度にカプセル化し、コンパイル、リンク、インストールのすべてのプロセスを完全に隠することができるディープラーニングフレームワークにおける演算子の展開方法を提案し、ユーザは、依存するフレームワークの基礎となるリンクライブラリ、コンパイルオプジョンなどの概念知識を一切に理解する必要がない。さらに、コード注入の原理を利用して、ｐｙｔｈｏｎライブラリインストールファイルの生成方式の柔軟なカスタムズをサポートすることができ、これにより、ユーザの学習コストを大幅に削減するとともに、ディープラーニングフレームワークにおける演算子の展開プロセスの効率、柔軟性及び信頼性を向上させることができる。

以下に、図面を参照して本出願の実施例のディープラーニングフレームワークにおける演算子の展開方法、展開装置及び電子機器を説明する。

図１は、本出願の第１の実施例に係るディープラーニングフレームワークにおける演算子の展開方法の概略フローチャートである。なお、本実施例のディープラーニングフレームワークにおける演算子の展開方法の実行主体がディープラーニングフレームワークにおける演算子の展開装置であり、ディープラーニングフレームワークにおける演算子の展開装置は、具体的には、ハードウェアデバイスであってもよいし、ハードウェアデバイス内のソフトウェアなどであってもよい。ここで、ハードウェアデバイスは、端末デバイス、サーバなどである。図１に示すように、本実施例に係るディープラーニングフレームワークにおける演算子の展開方法は、以下のステップＳ１０１～ステップＳ１０５を含む。
Ｓ１０１において、演算子のソースファイルを取得する。

なお、現在、主流となっているディープラーニングフレームワークには、演算子と総称される豊富なテンソル計算処理ユニット、例えば、ビジョン分野の畳み込みＣｏｎｖ２Ｄ演算子、自然言語処理分野のＬＳＴＭ（Ｌｏｎｇ Ｓｈｏｒｔ－Ｔｅｒｍ Ｍｅｍｏｒｙ、長・短期記憶人工ニューラルネットワーク）演算子、及び基本の関数活性化ＲｅＬＵ（Ｒｅｃｔｉｆｉｅｄ Ｌｉｎｅａｒ Ｕｎｉｔ、正規化線形関数）演算子などが含まれている。

ここで、演算子のソースファイルは、ユーザがコンパイルしようとするカスタム演算子（Ｏｐｅｒａｔｏｒ、ＯＰと略称する）に対応するＣＰＰ／Ｃ＋＋言語（Ｔｈｅ Ｃ＋＋ Ｐｒｏｇｒａｍｍｉｎｇ Ｌａｎｇｕａｇｅ／ｃ ｐｌｕｓ ｐｌｕｓ）、又はＣＵＤＡ（Ｃｏｍｐｕｔｅ Ｕｎｉｆｉｅｄ Ｄｅｖｉｃｅ Ａｒｃｈｉｔｅｃｔｕｒｅ、コンピューティングユニファイドデバイスアーキテクチャ）ソースコードファイルであってもよい。

なお、ＣＰＰファイルは、一般的に、．ｃｃ又は．ｃｐｐで終わり、ＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ、グラフィックプロセッミングユニット）デバイスをサポートするには、．ｃｕで終わるＣＵＤＡソースコードファイルが必要である。

Ｓ１０２において、演算子のソースファイルをコンパイルして演算子の動的リンクライブラリを形成する。

なお、ディープラーニングフレームワークは、一般的にフロンドエンドシステム（Ｐｙｔｈｏｎ）及びバックエンドシステム（Ｃ＋＋）を含む必要がある。ユーザのカスタム演算子によって記述されるのがバックエンドＣ＋＋コードである。この場合、フロントエンドＰｙｔｈｏｎによって呼び出せるようにするには、特定の形式のファイルにコンパイルされる必要があり、これにより、Ｐｙｔｈｏｎフロントエンドシステムでメモリにロッドされ、Ｃ＋＋バックエンドシステムによって実現された演算子計算論理関数（例えば、畳み込みＣｏｎｖ）が呼び出される。

例えば、Ｌｉｎｕｘ（登録商標）（フルネームＧＮＵ／Ｌｉｎｕｘ）システムでのｇｃｃ／ｇ＋＋／ｎｖｃｃコマンドなどの、ユーザのローカルネイティブコンパイルコマンド（すなわち、演算子のソースファイル）が呼び出された後、演算子の動的リンクライブラリをコンパイルにより生成することができる。

本出願の実施例では、処理対象がＣ＋＋又はＣＵＤＡソースコードファイルであり、前処理（Ｐｒｅ－ｐｒｏｃｅｓｓｉｎｇ）、コンパイル、アセンブリ及びリンク（Ｌｉｎｋｉｎｇ）によって、演算子のソースファイルをコンパイルして、演算子の動的リンクライブラリを形成することができる。

Ｓ１０３において、演算子の動的リンクライブラリのインタフェースファイルを生成する。

なお、関連技術において、ディープラーニングフレームワークのすべては、フロントエンドシステム及びバックエンドシステムを含む。ここで、バックエンドシステムは、Ｃ＋＋言語によって実現されることが多く、演算子の具体的な論理演算が多数含まれており、例えば、畳み込み操作Ｃｏｎｖの実際のデータ演算操作は、、Ｃ＋＋によって実現される。この場合、演算効率が高く、実行性が優れるという利点がある。フロントエンドシステムは、Ｐｙｔｈｏｎ言語によって実現されることが多く、カプセル化が簡単なＡＰＩ（Ａｐｐｌｉｃａｔｉｏｎ Ｐｒｏｇｒａｍｍｉｎｇ Ｉｎｔｅｒｆａｃｅ、アプリケーションプログラミングインタフェース）インタフェースによってバックエンド演算子Ｋｅｒｎｅｌへの呼び出しが実現される。この場合、実現コストが低く、ユーザ体験が優れるという利点がある。

本出願の実施例において、ユーザがバックエンドシステムに対して記述したカスタム演算子に対応するＣ＋＋言語の演算関連コードのみに基づいて、フロントエンドシステムのＡＰＩインタフェース、すなわち、演算子の動的リンクのインタフェースファイルを自動的に生成することができる。

Ｓ１０４において、動的リンクライブラリ及びインタフェースファイルに基づいて、インストール可能なライブラリファイルを生成する。

ここで、インストール可能なライブラリファイルは、ファイルの終わりが．ｅｇｇのファイルであってもよい。ファイルの終わりが．ｅｇｇのファイルは、Ｐｙｔｈｏｎプログラミング言語の、サードパーティのインストール可能なライブラリを管理するためのファイル形式である。

本出願の実施例において、予め設定されたパッケージ戦略に従って動的リンクライブラリ及びインタフェースファイルをパッケージ化して、インストール可能なライブラリファイルを生成する。

Ｓ１０５において、インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにインストールする。

なお、インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにインストールすると、ユーザカスタム演算子をターゲットプログラミング言語ライブラリにインストールすることを実現することができ、これにより、ユーザの後続の呼び出しをサポートすることができる。

本出願の実施例において、インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにおけるターゲットディレクトリにインストールすることができる。

本出願の実施例のディープラーニングフレームワークにおける演算子の展開方法によれば、演算子のソースファイルを取得し、演算子のソースファイルをコンパイルして演算子の動的リンクライブラリを形成し、演算子の動的リンクライブラリのインタフェースファイルを生成し、動的リンクライブラリ及びインタフェースファイルに基づいて、インストール可能なライブラリファイルを生成し、インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにインストールする。これにより、ディープラーニングフレームワークにおける演算子の展開を実現し、サードパーティモジュールに依存しなくなり、演算子インストールのすべてのプロセスを完全に隠すことができ、ユーザの学習コストを大幅に削減するとともに、ディープラーニングフレームワークにおける演算子の展開プロセスの効率、柔軟性及び信頼性を向上させることができる。

なお、本出願において、演算子のソースファイルをコンパイルして演算子の動的リンクライブラリを形成する場合、前処理、コンパイル、アセンブリ及びリンクによって演算子のソースファイルをコンパイルすることができる。

図２は、本出願の第２の実施例に係るディープラーニングフレームワークにおける演算子の展開方法の概略フローチャートである。図２に示すように、前の実施例のもとに、本実施例に係るディープラーニングフレームワークにおける演算子の展開方法は、以下のステップＳ２０１～ステップ２０７を含む。
Ｓ２０１において、演算子のソースファイルを取得する。

当該ステップＳ２０１は、前の実施例におけるステップＳ１０１と同様のものであり、ここでは詳しく説明しない。

前の実施例におけるステップＳ１０２は、具体的には、Ｓ２０２～Ｓ２０４を含むことができる。

Ｓ２０２において、演算子のソースファイルに対してヘッダファイル拡張及びマクロ置換を行って、コンパイル対象コードを生成する。

本出願の実施例において、前処理操作によってコンパイル対象コードを生成することができる。

選択可能に、プリプロセッサによって、ソースファイル内の「＃」で始まるコード行に対して、ヘッダファイル拡張及びマクロ置換を行って、コンパイル対象コードを生成することができる。

ここで、パラメータをテキストに置き換えることが許可されており、このような実現は、一般的に定義マクロ又はマクロ置換と呼ばれ、マクロと略称される。

Ｓ２０３において、コンパイル対象コードをアセンブリコードにコンパイルし、アセンブリコードを１行ずつバイトコードに変換して、オブジェクトファイルを生成する。

本出願の実施例において、前処理によって生成されたコンパイル対象コードをコンパイル及びアセンブリして、オブジェクトファイル（Ｏｂｊｅｃｔ Ｆｉｌｅ）を生成することができる。ここで、オブジェクトファイルは、実行可能なファイル又はライブラリファイル（例えば、静的ライブラリ又は動的ライブラリ）であってもよい。

選択可能に、コンパイル段階において、コンパイル対象コードを基礎となるアセンブリコードにコンパイルすることができる。

さらに、アセンブリ段階において、アセンブラによってアセンブリコードを１行ずつバイトコード（マシンコード）に変換して、オブジェクトファイルを生成することができる。

Ｓ２０４において、オブジェクトファイルに対してリンク操作を行って、リンクされたオブジェクトファイルを取得し、リンクされたオブジェクトファイルに基づいて動的リンクライブラリを生成する。

本出願の実施例において、オブジェクトファイルをリンクすることによって動的リンクライブラリを生成することができる。

選択可能に、前記ステップで生成されたオブジェクトファイルをまとめてリンクして、実行可能なファイル又はライブラリファイル（例えば、静的ライブラリ又は動的ライブラリ）を生成することができる。

なお、このステップにおいて、未定義の識別子への参照は、すべて対応する正しいアドレスに置き換えられる。

Ｓ２０５において、演算子の動的リンクライブラリのインタフェースファイルを生成する。

当該ステップＳ２０５は、前の実施例におけるステップＳ１０３と同様なものであり、ここでは詳しく説明しない。

Ｓ２０６において、動的リンクライブラリ及びインタフェースファイルに基づいて、インストール可能なライブラリファイルを生成する。

選択可能に、予め設定されたパッケージ戦略に従って動的リンクライブラリ及びインタフェースファイルをパッケージ化して、インストール可能なライブラリファイルを生成することができる。

例えば、動的リンクライブラリファイル及びＰｙｔｈｏｎ ＡＰＩを、フロントエンドでインストール可能なｐｙｔｈｏｎライブラリファイルにパッケージ化することができる。選択可能に、ｓｅｔｕｐｔｏｏｌｓなどのｐｙｔｈｏｎ言語のネイティブライブラリを、ｉｎｓｔａｌｌ、ｂｕｉｌｄ、ｅｘｔｒａｃｔｉｎｇ（インストール、構築、抽出）などのプロセスによってパッケージ化することができる。ここで、前記プロセスは、いずれもいくつかの処理関数からなる。

Ｓ２０７において、インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにインストールする。

当該ステップＳ２０７は、前の実施例におけるステップＳ１０５と同様のものであり、ここでは詳しく説明しない。

本出願の実施例のディープラーニングフレームワークにおける演算子の展開方法によれば、演算子のソースファイルを前処理、コンパイル、アセンブリ及びリンクによってコンパイルすることができ、これにより、すべての操作がユーザから完全に隠され、ユーザの学習、使用コストが大幅に削減さえ、使い易さが向上する。さらに、サードパーティのコンパイルツール及びモジュールに依存しなくなり、より強いデカップリング性を持つようになる。

なお、本出願において、インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにインストールしようとする場合、インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにおけるターゲットディレクトリにインストールすることができる。

サイトパッケージ（ｓｉｔｅ－ｐａｃｋａｇｅ）を例として、ファイルの終わりが．ｅｇｇ形式のインストール可能なライブラリファイルは、ｐｙｔｈｏｎの標準のインストールプロトコルファイル形式であり、ｓｉｔｅ－ｐａｃｋａｇｅへのインストールに用いられてもよい。

ここで、Ｐｙｔｈｏｎ言語には、パッケージ化されたサードパーティライブラリが多数含まれており、各ライブラリには、呼び出し用のＡＰＩが多数含まれている。これらのサードパーティライブラリは、いずれもＰｙｔｈｏｎインストールパスにおけるｓｉｔｅ－ｐａｃｋａｇｅディレクトリに配置されている。つまり、ｓｉｔｅ－ｐａｃｋａｇｅディレクトリは、複数のサードパーティライブラリを含む「倉庫」であり、Ｐｙｔｈｏｎのインストールされたすべてのライブラリを管理することに用いることができる。

さらに、インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにインストールした後、ユーザのカスタム演算子をインポートして使用することができる。

図３は、本出願の第３の実施例に係るディープラーニングフレームワークにおける演算子の展開方法の概略フローチャートである。図３に示すように、前の実施例のもとに、本実施例に係るディープラーニングフレームワークにおける演算子の展開方法は、以下のステップＳ３０１～ステップＳ３０３を含む。
Ｓ３０１において、ターゲット演算子のインポートステートメントを取得し、インポートステートメントには、ターゲット演算子のインストール可能なライブラリファイルが所在するプログラミング言語ライブラリに対応する情報が含まれている。

なお、ｐｙｔｈｏｎのインポートは、「ｉｍｐｏｒｔ」というキーワードによって実現される。例えば、Ａが予めインストールされたサードパーティライブラリである場合、ユーザが記述した「ｉｍｐｏｒｔ Ａ」というインポートステートメントを取得することができる。

本出願の実施例において、インストール可能なライブラリファイルがターゲットプログラミング言語ライブラリにインストールされた後、ユーザのカスタム演算子は、ユーザが記述したｉｍｐｏｒｔインポートステートメントによってインポートして使用することができる。

Ｓ３０２において、インポートステートメントを解析して、ターゲット演算子のインストール可能なライブラリファイルが所在するターゲットサブディレクトリを決定する。

例えば、ｉｍｐｏｒｔ Ａというインポートステートメントを解析する場合、ターゲット演算子のインストール可能なライブラリファイルが所在するターゲットサブディレクトリがｓｉｔｅ－ｐａｃｋａｇｅディレクトリにおけるｓｉｔｅ－ｐａｃｋａｇｅ／Ａというサブディレクトリであると決定することができる。

Ｓ３０３において、ターゲットサブディレクトリからターゲット演算子のインストール可能なライブラリファイルを読み取ってインポートする。

選択可能に、ｉｍｐｏｒｔを実行してインポートする際、後続の使用に備えるように、ターゲットサブディレクトリから、ターゲット演算子に関連するインストール可能なライブラリファイルを読み取ってインポートすることができる。

なお、本出願において、インストール可能なライブラリファイルをインストールすることにより、Ａと同様のサブディレクトリを自動的に生成することができる。

例えば、Ａ．ｅｇｇがインストールされている場合、Ａ．ｅｇｇを自動的に解凍して対応するサブディレクトリ、すなわち、ｓｉｔｅ－ｐａｃｋａｇｅ／Ａのサブディレクトリにコピーすることができる。

本出願の実施例のディープラーニングフレームワークにおける演算子の展開方法によれば、ターゲット演算子のインポートを取得し、インポートステートメントを解析し、ターゲット演算子のインストール可能なライブラリファイルが所在するターゲットサブディレクトリを決定し、ターゲットサブディレクトリからターゲット演算子のインストール可能なライブラリファイルを読み取ってインポートすることができ、これにより、一致性及び使い易さがより優れる。

さらに、本出願において、フレームワークに関するインタフェースファイルをコード注入によってエントリファイルに注入することにより、動的リンクライブラリのロッドプロセス及びインタフェースファイルの呼び出し方式をカスタマイズすることができる。

図４は、本出願の第４の実施例に係るディープラーニングフレームワークにおける演算子の展開方法の概略フローチャートである。図４に示すように、前の実施例のもとに、本実施例に係るディープラーニングフレームワークにおける演算子の展開方法は、以下のステップＳ４０１～ステップＳ４０３を含む。
Ｓ４０１において、動的リンクライブラリに対応する注入対象関数コードを取得する。

ここで、注入対象関数コードは、ユーザによって入力されたいずれかの関数コードであってもよい。

Ｓ４０２において、注入対象関数コードをエントリファイルに注入して、動的リンクライブラリのターゲット呼び出し関数コードを生成する。

可能な一実現形態として、図５に示すように、前の実施例に基づいて、注入対象関数コードをエントリファイルに注入して、動的リンクライブラリのターゲット呼び出し関数コードを生成する上記ステップＳ４０２は、以下のステップＳ５０１とステップＳ５０２とを含む。
Ｓ５０１において、エントリファイルから動的リンクライブラリのデフォルト呼び出し関数コードを取得する。

図６に示すように、デフォルト呼び出し関数６－１が__ｂｏｏｔｓｔｒａｐ__であることを例とし、__ｂｏｏｔｓｔｒａｐ__は、ｐｙｔｈｏｎフロントエンドがカスタム演算子ライブラリをｉｍｐｏｒｔする際に動的リンクライブラリをロッドするデフォルト呼び出し関数である。当該デフォルト呼び出し関数は、Ｐｙｔｈｏｎに組み込まれた論理である。

なお、デフォルト呼び出し関数コードは、１つのａｐｉ．ｐｙに配置されてもよい。例えば、ユーザがｃｏｎｖ．ｐｙに対してｉｍｐｏｒｔ ｃｏｎｖステートメントを実行する場合、ｃｏｎｖ．ｐｙの__ｂｏｏｔｓｔｒａｐ__関数を呼び出すことになる。

Ｓ５０２において、デフォルト呼び出し関数コードを注入対象関数コードに置き換えて、動的リンクライブラリのターゲット呼び出し関数コードを生成する。

本出願の実施例において、Ｐｙｔｈｏｎに組み込まれたデフォルト呼び出し関数を動的に置き換え、その関数コードを、ユーザが実際の必要に応じて注入しようとする関数コードに変更することができる。

例えば、Ｐｙｔｈｏｎに組み込まれた__ｂｏｏｔｓｔｒａｐ__関数を動的に置き換え、その関数コードを注入対象関数コードに変更することができる。

Ｓ４０３において、ターゲット呼び出し関数コードをインタフェースファイルに書き込む。

例えば、変更された__ｂｏｏｔｓｔｒａｐ__関数コードをｃｏｎｖ．ｐｙなどの特定のインタフェースａｐｉ．ｐｙに書き込んで、１つの完全なコード注入プロセスを実現することができる。

本出願の実施例のディープラーニングフレームワークにおける演算子の展開方法によれば、動的リンクライブラリに対応する注入対象関数コードを取得し、注入対象関数コードをエントリファイルに注入して、動的リンクライブラリのターゲット呼び出し関数コードを生成し、ターゲット呼び出し関数コードをインタフェースファイルに書き込むことにより、フレームワークに関するインタフェースファイルをコード注入によってエントリファイルに注入し、動的リンクライブラリのロッドプロセス及びインタフェースファイルの呼び出し方式をカスタマイズすることができる。コード注入によって、ネイティブ動的ライブラリのロッド及びＡＰＩの呼び出し方式を置き換え、ディープラーニングフレームワークと組み合わせてｐｙｔｈｏｎのインストール可能なライブラリの生成をカスタマイズすることを実現するために、新しい技術的アイデアを提供する。

上記いくつかの実施例によって提供されたディープラーニングフレームワークにおける演算子の展開方法に対応し、本出願の１つの実施例は、ディープラーニングフレームワークにおける演算子の展開装置をさらに提供する。本出願の実施例によって提供されるディープラーニングフレームワークにおける演算子の展開装置は、上記いくつかの実施例によって提供されるディープラーニングフレームワークにおける演算子の展開方法に対応するため、ディープラーニングフレームワークにおける演算子の展開方法の実施形態は、本実施例によって提供されるディープラーニングフレームワークにおける演算子の展開装置にも適用可能であり、本実施例では詳しく説明しない。

図７は、本出願の実施例に係るディープラーニングフレームワークにおける演算子の展開装置の概略構成図である。

図７に示すように、当該ディープラーニングフレームワークにおける演算子の展開装置７００は、第１の取得モジュール７１０、形成モジュール７２０、第１の生成モジュール７３０、第２の生成モジュール７４０、及びインストールモジュール７５０を含む。ここで、第１の取得モジュール７１０は、演算子のソースファイルを取得するように構成される。

形成モジュール７２０は、前記演算子のソースファイルをコンパイルして前記演算子の動的リンクライブラリを形成するように構成される。

第１の生成モジュール７３０は、前記演算子の動的リンクライブラリのインタフェースファイルを生成するように構成される。

第２の生成モジュール７４０は、前記動的リンクライブラリ及び前記インタフェースファイルに基づいて、インストール可能なライブラリファイルを生成するように構成される。

インストールモジュール７５０は、前記インストール可能なライブラリファイルを、ターゲットプログラミング言語ライブラリにインストールするように構成される。

図８に示すように、当該ディープラーニングフレームワークにおける演算子の展開装置８００は、第１の取得モジュール８１０、形成モジュール８２０、第１の生成モジュール８３０、第２の生成モジュール８４０、及びインストールモジュールを含む。ここで、形成モジュール８２０は、前記演算子のソースファイルに対してヘッダファイル拡張及びマクロ置換を行って、コンパイル対象コードを生成するように構成される第１の生成サブモジュール８２１と、前記コンパイル対象コードをアセンブリコードにコンパイルし、前記アセンブリコードを１行ずつバイトコードに変換して、オブジェクトファイルを生成するように構成される第２の生成サブモジュール８２２と、前記オブジェクトファイルに対してリンク操作を行って、リンクされたオブジェクトファイルを取得し、前記リンクされたオブジェクトファイルに基づいて前記動的リンクライブラリを生成するように構成される第３の生成サブモジュール８２３と、を含む。

ここで、第２の生成モジュール８４０は、予め設定されたパッケージ戦略に従って前記動的リンクライブラリ及び前記インタフェースファイルをパッケージ化して、前記インストール可能なライブラリファイルを生成するように構成される第４の生成サブモジュール８４１を含む。

ここで、インストールモジュール８５０は、前記インストール可能なライブラリファイルを、前記ターゲットプログラミング言語ライブラリ内のターゲットディレクトリにインストールするように構成される第１のインストールサブモジュール８５１を含む。

ここで、ディープラーニングフレームワークにおける演算子の展開装置８００は、ターゲット演算子のインポートステートメントを取得するように構成される第２の取得モジュール８６０であって、前記インポートステートメントには、前記ターゲット演算子のインストール可能なライブラリファイルが所在するプログラミング言語ライブラリに対応する情報が含まれている第２の取得モジュール８６０と、前記インポートステートメントを解析して、前記ターゲット演算子のインストール可能なライブラリファイルが所在するターゲットサブディレクトリを決定するように構成される決定モジュール８７０と、前記ターゲットサブディレクトリから前記ターゲット演算子のインストール可能なライブラリファイルを読み取ってインポートするように構成されるインポートモジュール８８０と、前記動的リンクライブラリに対応する注入対象関数コードを取得するように構成される第３の取得モジュール８９０と、前記注入対象関数コードをエントリファイルに注入して、前記動的リンクライブラリのターゲット呼び出し関数コードを生成するように構成される注入モジュール８１００と、前記ターゲット呼び出し関数コードを前記インタフェースファイルに書き込むように構成される書き込みモジュール８１１０と、をさらに含む。

ここで、書き込みモジュール８１１０は、前記エントリファイルから前記動的リンクライブラリのデフォルト呼び出し関数コードを取得するように構成される第１の取得サブモジュール８１１１と、前記デフォルト呼び出し関数コードを前記注入対象関数コードに置き換えて、前記動的リンクライブラリのターゲット呼び出し関数コードを生成するように構成される第５の生成サブモジュール８１１２と、を含む。

本出願の実施例に係るディープラーニングフレームワークにおける演算子の展開装置によれば、演算子のソースファイルを取得し、演算子のソースファイルをコンパイルして演算子の動的リンクライブラリを形成し、演算子の動的リンクライブラリのインタフェースファイルを生成し、動的リンクライブラリ及びインタフェースファイルに基づいて、インストール可能なライブラリファイルを生成し、インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにインストールする。これにより、ディープラーニングフレームワークにおける演算子の展開を実現し、サードパーティモジュールに依存しなくなり、演算子インストールのすべてのプロセスを完全に隠すことができ、ユーザの学習コストを大幅に削減するとともに、ディープラーニングフレームワークにおける演算子の展開プロセスの効率、柔軟性及び信頼性を向上させることができる。

本開示の実施例によれば、本開示は、電子機器、読み取り可能な記憶媒体及びコンピュータプログラム製品をさらに提供する。

図９には、本開示の実施例を実現するための例示的な電子機器９００の概略ブロック図が示されている。電子機器は、ラップトップコンピュータ、デスクトップコンピュータ、ワークステーション、パーソナルデジタルアシスタント、サーバ、ブレードサーバ、メインフレームコンピュータ、及び他の適切なコンピュータなどの様々な形態のデジタルコンピュータを表すことを目的とする。電子機器は、パーソナルデジタルプロセッサ、携帯電話、スマートフォン、ウェアラブルデバイス、他の同様のコンピューティングデバイスなどの様々な形態のモバイルデバイスを表すこともできる。本明細書で示されるコンポーネント、それらの接続と関係、及びそれらの機能は単なる例であり、本明細書の説明及び／又は要求される本出願の実現を制限するものではない。

図９に示すように、機器９００は、リードオンリーメモリ（ＲＯＭ）９０２に記憶されているコンピュータプログラム、又は記憶ユニット９０８からランダムアクセスメモリ（ＲＡＭ）９０３にロッドされたコンピュータプログラムに基づいて、様々な適切な操作及び処理を実行することができる計算ユニット９０１を含む。ＲＡＭ９０３には、機器９００の操作に必要な様々なプログラム及びデータが記憶されていてもよい。計算ユニット９０１、ＲＯＭ９０２及びＲＡＭ９０３は、バス９０４を介して互いに接続されている。入出力（Ｉ／Ｏ）インタフェース９０５もバス９０４に接続されている。

機器９００における、キーボード、マウスなどの入力ユニット９０６と、様々なタイプのディスプレイ、スピーカなどの出力ユニット９０７と、磁気ディスク、光ディスクなどの記憶ユニット９０８と、ネットワークカード、モデム、無線通信トランシーバなどの通信ユニット９０９と、を含む複数のコンポーネントは、入出力（Ｉ／Ｏ）インタフェース９０５に接続されている。通信ユニット９０９は、機器９００がインタネットなどのコンピュータネットワーク及び／又は様々な電気通信ネットワークを介して他のデバイスと情報／データを交換することを可能にする。

計算ユニット９０１は、各種の処理及び計算能力を有する汎用及び／又は専用処理コンポーネントであってもよい。計算ユニット９０１のいくつかの例は、セントラルプロセッシングユニット（ＣＰＵ）、グラフィックスプロセッシングユニット（ＧＰＵ）、各種の専用人工知能（ＡＩ）計算チップ、各種の機械学習モデルアルゴリズムを運行する計算ユニット、デジタルシグナルプロセッサ（ＤＳＰ）、及びいずれかの適宜なプロセッサ、コントローラ、マイクロコントローラなどを含むが、これらに限定されない。計算ユニット９０１は、上述したそれぞれの方法及び処理、例えば、ディープラーニングフレームワークにおける演算子の展開方法を実行する。例えば、いくつかの実施例で、ディープラーニングフレームワークにおける演算子の展開方法は、記憶ユニット９０８のような機械読み取り可能な媒体に具体的に含まれるコンピュータソフトウェアプログラムとして実現されてもよい。いくつかの実施例で、コンピュータの一部又は全部は、ＲＯＭ９０２及び／又は通信ユニット９０９を介して機器９００にロッド及び／又はインストールすることができる。コンピュータプログラムがＲＡＭ９０３にロッドされて計算ユニット９０１によって実行された場合、上述したディープラーニングフレームワークにおける演算子の展開方法の１つ又は複数のステップを実行することができる。あるいは、他の実施例で、計算ユニット９０１は、他の任意の適切な形態で（例えば、ファーとウェアにより）ディープラーニングフレームワークにおける演算子の展開方法を実行するように構成されてもよい。

本明細書で上述したシステム及び技術の各種の実施方式は、デジタル電子回路システム、集積回路システム、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、特定用途向け集積回路（ＡＳＩＣ）、特定用途向け標準製品（ＡＳＳＰ）、システムオンチップ（ＳＯＣ）、コンプレックス・プログラマブル・ロジック・デバイス（ＣＰＬＤ）、コンピュータハードウェア、ファームウェア、ソフトウェア及び／又はそれらの組合せにおいて実現してもよい。これらの各種の実施方式は、少なくとも１つのプログラマブルプロセッサを含むプログラマブルシステムにおいて実行及び／又は解釈することができる１つ又は複数のコンピュータプログラムにおいて実現されてもよく、当該プログラマブルプロセッサは、専用及び／又は汎用プログラマブルプロセッサであってもよく、記憶システム、少なくとも１つの入力装置、及び少なくとも１つの出力装置からデータ及び命令を受信し、当該記憶システム、当該少なくとも１つの入力装置、及び当該少なくとも１つの出力装置にデータ及び命令を伝送することができる。

本開示の方法を実施するためのプログラムコードは、１つ又は複数のプログラミング言語の任意の組み合わせで書くことができる。これらのプログラムコードは、プロセッサ又はコントローラによって実行された際に、フローチャート及び／又はブロック図に規定された機能／操作が実施されるように、汎用コンピュータ、専用コンピュータ、又は他のプログラマブルデータ処理装置のプロセッサ又はコントローラに提供されてもよい。プログラムコードは、完全に機械上で実行され、部分的に機械上で実行され、スタンドアロンパッケージとして、部分的に機械上で実行され、かつ部分的にリモート機械上で実行され、又は完全にリモート機械又はサーバ上で実行されてもよい。

本開示の文脈では、機械読み取り可能な媒体は、命令実行システム、装置、又はデバイスによって使用されるために、又は命令実行システム、装置、又はデバイスと組み合わせて使用するためのプログラムを含むか、又は格納することができる有形の媒体であってもよい。機械読み取り可能な媒体は、機械読み取り可能な信号媒体又は機械読み取り可能な記憶媒体であってもよい。機械読み取り可能な媒体は、電子的、磁気的、光学的、電磁気的、赤外線的、又は半導体システム、装置又はデバイス、又はこれらの任意の適切な組み合わせを含むことができるが、これらに限定されない。機械読み取り可能な記憶媒体のより具体的な例は、１つ又は複数のラインに基づく電気的接続、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリーメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリーメモリ（ＥＰＲＯＭ）又はフラッシュメモリ、光ファイバ、ポータブルコンパクトディスクリードオンリーメモリ（ＣＤ－ＲＯＭ）、光学記憶装置、磁気記憶装置、又はこれらの任意の適切な組み合わせを含む。

ユーザとのインタラクションを提供するために、コンピュータ上でここで説明されているシステム及び技術を実施することができ、当該コンピュータは、ユーザに情報を表示するためのディスプレイ装置（例えば、ＣＲＴ（陰極線管）又はＬＣＤ（液晶ディスプレイ）モニタ）と、キーボード及びポインティングデバイス（例えば、マウス又はトラックボール）とを有し、ユーザは、当該キーボード及び当該ポインティングデバイスによって入力をコンピュータに提供することができる。他の種類の装置も、ユーザとのインタラクションを提供することができ、例えば、ユーザに提供されるフィードバックは、任意の形式のセンシングフィードバック（例えば、視覚フィードバック、聴覚フィードバック、又は触覚フィードバック）であってもよく、任意の形式（音響入力と、音声入力と、触覚入力とを含む）でユーザからの入力を受信することができる。

ここで説明されるシステム及び技術は、バックエンドユニットを含むコンピューティングシステム（例えば、データサーバとする）、又はミドルウェアユニットを含むコンピューティングシステム（例えば、アプリケーションサーバ）、又はフロントエンドユニットを含むコンピューティングシステム（例えば、グラフィカルユーザインタフェース又はウェブブラウザを有するユーザコンピュータであり、ユーザは、当該グラフィカルユーザインタフェース又は当該ウェブブラウザによってここで説明されるシステム及び技術の実施方式とインタラクションする）、又はこのようなバックエンドユニットと、ミドルウェアユニットと、フロントエンドユニットの任意の組み合わせを含むコンピューティングシステムで実施することができる。任意の形式又は媒体のデジタルデータ通信（例えば、通信ネットワーク）によってシステムのコンポーネントを相互に接続することができる。通信ネットワークの例は、ローカルエリアネットワーク（ＬＡＮ）と、ワイドエリアネットワーク（ＷＡＮ）と、インターネットと、ブロックチェーンネットワークとを含む。

コンピュータシステムは、クライアントとサーバとを含むことができる。クライアントとサーバは、一般に、互いに離れており、通常に通信ネットワークを介してインタラクションする。対応するコンピュータ上で実行され、且つ互いにクライアント-サーバ関係を有するコンピュータプログラムによって、クライアントとサーバとの関係が生成される。サーバは、クラウドコンピューティングサーバ又はクラウドホストとも呼ばれるクラウドサーバであってもよく、従来の物理ホスト及びＶＰＳサービス（「Ｖｉｒｔｕａｌ Ｐｒｉｖａｔｅ Ｓｅｒｖｅｒ」、又は「ＶＰＳ」と略称する）における、管理難度が大きく、ビジネスの拡張性が低いという欠点を解決するクラウドコンピューティングサービスシステムのホスト製品の１つである。サーバは、分散型システムのサーバ、又はブロックチェンを組み合わせたサーバであってもよい。

上記に示された様々な形式のフローを使用して、ステップを並べ替え、追加、又は削除することができる。例えば、本開示に記載されている各ステップは、並列に実行されてもよいし、順次的に実行されてもよいし、異なる順序で実行されてもよいが、本開示で開示されている技術案が所望の結果を実現することができれば、本明細書では限定しない。

上記の具体的な実施形態は、本開示の保護範囲を制限するものではない。当業者は、設計要件と他の要因に応じて、様々な修正、組み合わせ、サブコンビネーション、及び代替を行うことができる。本開示の精神と原則内で行われる任意の修正、同等の置換、及び改善などは、いずれも本開示の保護範囲内に含まれるべきである。

Claims (16)

1. コンピュータにより実行されるディープラーニングフレームワークにおける演算子の展開方法であって、
   演算子のソースファイルを取得するステップと、
   前記演算子のソースファイルをコンパイルして前記演算子の動的リンクライブラリを形成するステップと、
   前記演算子の動的リンクライブラリの前記ディープラーニングフレームワークのフロントエンドシステムのＡＰＩインタフェースファイルを生成するステップと、
   前記動的リンクライブラリ及び前記インタフェースファイルに基づいて、インストール可能なライブラリファイルを生成するステップと、
   前記インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにインストールするステップと、
   前記動的リンクライブラリに対応する注入対象関数コードを取得するステップと、
   前記注入対象関数コードをエントリファイルに注入して、前記動的リンクライブラリのターゲット呼び出し関数コードを生成するステップと、
   前記ターゲット呼び出し関数コードを前記インタフェースファイルに書き込むステップと、を含む、ディープラーニングフレームワークにおける演算子の展開方法。
2. 前記演算子のソースファイルをコンパイルして前記演算子の動的リンクライブラリを形成するステップは、
   前記演算子のソースファイルに対してヘッダファイル拡張及びマクロ置換を行って、コンパイル対象コードを生成するステップと、
   前記コンパイル対象コードをアセンブリコードにコンパイルし、前記アセンブリコードを１行ずつバイトコードに変換して、オブジェクトファイルを生成するステップと、
   前記オブジェクトファイルに対してリンク操作を行って、リンクされたオブジェクトファイルを取得し、前記リンクされたオブジェクトファイルに基づいて前記動的リンクライブラリを生成するステップと、を含む、請求項１に記載のディープラーニングフレームワークにおける演算子の展開方法。
3. 前記動的リンクライブラリ及び前記インタフェースファイルに基づいて、インストール可能なライブラリファイルを生成するステップは、
   予め設定されたパッケージ戦略に従って前記動的リンクライブラリ及び前記インタフェースファイルをパッケージ化して、前記インストール可能なライブラリファイルを生成するステップを含む、請求項１に記載のディープラーニングフレームワークにおける演算子の展開方法。
4. 前記インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにインストールするステップは、
   前記インストール可能なライブラリファイルを、前記ターゲットプログラミング言語ライブラリ内のターゲットディレクトリにインストールするステップを含む、請求項１に記載のディープラーニングフレームワークにおける演算子の展開方法。
5. ターゲット演算子のインポートステートメントを取得するステップであって、前記インポートステートメントには、前記ターゲット演算子のインストール可能なライブラリファイルが所在するプログラミング言語ライブラリに対応する情報が含まれているステップと、
   前記インポートステートメントを解析して、前記ターゲット演算子のインストール可能なライブラリファイルが所在するターゲットサブディレクトリを決定するステップと、
   前記ターゲットサブディレクトリから前記ターゲット演算子のインストール可能なライブラリファイルを読み取ってインポートするステップと、をさらに含む、請求項１に記載のディープラーニングフレームワークにおける演算子の展開方法。
6. 前記注入対象関数コードをエントリファイルに注入して、前記動的リンクライブラリのターゲット呼び出し関数コードを生成するステップは、
   前記エントリファイルから前記動的リンクライブラリのデフォルト呼び出し関数コードを取得するステップと、
   前記デフォルト呼び出し関数コードを前記注入対象関数コードに置き換えて、前記動的リンクライブラリのターゲット呼び出し関数コードを生成するステップと、をさらに含む、請求項１に記載のディープラーニングフレームワークにおける演算子の展開方法。
7. ディープラーニングフレームワークにおける演算子の展開装置であって、
   演算子のソースファイルを取得するように構成される第１の取得モジュールと、
   前記演算子のソースファイルをコンパイルして前記演算子の動的リンクライブラリを形成するように構成される形成モジュールと、
   前記演算子の動的リンクライブラリの前記ディープラーニングフレームワークのフロントエンドシステムのＡＰＩインタフェースファイルを生成するように構成される第１の生成モジュールと、
   前記動的リンクライブラリ及び前記インタフェースファイルに基づいて、インストール可能なライブラリファイルを生成するように構成される第２の生成モジュールと、
   前記インストール可能なライブラリファイルをターゲットプログラミング言語ライブラリにインストールするように構成されるインストールモジュールと、
   前記動的リンクライブラリに対応する注入対象関数コードを取得する第３の取得モジュールと、
   前記注入対象関数コードをエントリファイルに注入して、前記動的リンクライブラリのターゲット呼び出し関数コードを生成するように構成される注入モジュールと、
   前記ターゲット呼び出し関数コードを前記インタフェースファイルに書き込むように構成される書き込みモジュールと、を含む、ディープラーニングフレームワークにおける演算子の展開装置。
8. 前記形成モジュールは、
   前記演算子のソースファイルに対してヘッダファイル拡張及びマクロ置換を行って、コンパイル対象コードを生成するように構成される第１の生成サブモジュールと、
   前記コンパイル対象コードをアセンブリコードにコンパイルし、前記アセンブリコードを１行ずつバイトコードに変換して、オブジェクトファイルを生成するように構成される第２の生成サブモジュールと、
   前記オブジェクトファイルに対してリンク操作を行って、リンクされたオブジェクトファイルを取得し、前記リンクされたオブジェクトファイルに基づいて前記動的リンクライブラリを生成するように構成される第３の生成サブモジュールと、を含む、請求項７に記載のディープラーニングフレームワークにおける演算子の展開装置。
9. 前記第２の生成モジュールは、
   予め設定されたパッケージ戦略に従って前記動的リンクライブラリ及び前記インタフェースファイルをパッケージ化して、前記インストール可能なライブラリファイルを生成するように構成される第４の生成サブモジュールを含む、請求項７に記載のディープラーニングフレームワークにおける演算子の展開装置。
10. 前記インストールモジュールは、
    前記インストール可能なライブラリファイルを、前記ターゲットプログラミング言語ライブラリ内のターゲットディレクトリにインストールするように構成される第１のインストールサブモジュールを含む、請求項７に記載のディープラーニングフレームワークにおける演算子の展開装置。
11. ターゲット演算子のインポートステートメントを取得するように構成される第２の取得モジュールであって、前記インポートステートメントには、前記ターゲット演算子のインストール可能なライブラリファイルが所在するプログラミング言語ライブラリに対応する情報が含まれている第２の取得モジュールと、
    前記インポートステートメントを解析して、前記ターゲット演算子のインストール可能なライブラリファイルが所在するターゲットサブディレクトリを決定するように構成される決定モジュールと、
    前記ターゲットサブディレクトリから、前記ターゲット演算子のインストール可能なライブラリファイルを読み取ってインポートするように構成されるインポートモジュールと、をさらに含む、請求項７に記載のディープラーニングフレームワークにおける演算子の展開装置。
12. 前記書き込みモジュールは、
    前記エントリファイルから前記動的リンクライブラリのデフォルト呼び出し関数コードを取得するように構成される第１の取得サブモジュールと、
    前記デフォルト呼び出し関数コードを前記注入対象関数コードに置き換えて、前記動的リンクライブラリのターゲット呼び出し関数コードを生成するように構成される第５の生成サブモジュールと、をさらに含む、請求項７に記載のディープラーニングフレームワークにおける演算子の展開装置。
13. 電子機器であって、
    少なくとも１つのプロセッサと、
    前記少なくとも１つのプロセッサと通信可能に接続されたメモリと、を含み、
    前記メモリには、前記少なくとも１つのプロセッサによって実行可能な命令が記憶されており、前記命令が前記少なくとも１つのプロセッサによって実行される場合、前記少なくとも１つのプロセッサが請求項１～６のいずれか一項に記載のディープラーニングフレームワークにおける演算子の展開方法を実行できる、電子機器。
14. コンピュータに請求項１～６のいずれかに記載のディープラーニングフレームワークにおける演算子の展開方法を実行させるためのコンピュータ命令を記憶している、コンピュータ読み取り可能な記憶媒体。
15. プロセッサによって実行される場合、請求項１～６のいずれかに記載のディープラーニングフレームワークにおける演算子の展開方法を実現するコンピュータプログラムを含む、コンピュータプログラム製品。
16. プロセッサによって実行される場合、請求項１～６のいずれかに記載のディープラーニングフレームワークにおける演算子の展開方法を実現する、コンピュータプログラム。

Images