JP7276482B2

JP7276482B2 - ナレッジトレース装置、方法、および、プログラム

Info

Publication number: JP7276482B2
Application number: JP2021550873A
Authority: JP
Inventors: 浩嗣玉野
Original assignee: NEC Corp
Current assignee: NEC Corp
Priority date: 2019-10-03
Filing date: 2019-10-03
Publication date: 2023-05-18
Anticipated expiration: 2039-10-03
Also published as: US20220335309A1; US20260087376A1; WO2021064931A1; US20260087377A1; US12518176B2; JPWO2021064931A1

Description

本発明は、学習者の知識の状態をトレースするナレッジトレース装置、ナレッジトレース方法およびナレッジトレースプログラムに関する。

教育の効果をより高めるためには、個々の学習者に合わせた教育を提供することが重要である。このような仕組みは、アダプティブラーニングと呼ばれている。このような仕組みを実現するため、個々の学習者に合わせたスキルをコンピュータが自動的に提供することが求められている。具体的には、各学習者の知識の状態を常にトレースし、その知識の状態に合わせて適切な学びを提供する必要がある。このように、学習者の知識の状態をトレースして、適切な情報を提供する技術は、ナレッジトレースとも呼ばれている。

非特許文献１には、リアルタイムでナレッジトレースを行う方法が記載されている。非特許文献１に記載された方法では、リカレントニューラルネットワーク（ＲＮＮ：Recurrent Neural Networks ）を使用して学生の学習をモデル化する。

また、リアルタイムでナレッジトレースを行う方法が、非特許文献２および非特許文献３に記載されている。非特許文献２に記載された方法では、知識構造情報、特に教育学的概念間の前提条件の関係を知識追跡モデルに組み込み、前提条件の概念ペアを順序ペアとしてモデル化する。また、非特許文献３に記載された方法では、学習者の概念の知識を経時的に追跡し、各時刻における学習者の概念の知識状態の予測分布、また各問題を解くことができるかの予測分布を推定する。

なお、非特許文献４には、シグモイド関数で表現される尤度関数をガウス分布で近似する方法について記載されている。

Chris Piech, et al., "Deep Knowledge Tracing", Advances in Neural Information Processing Systems 28 (NIPS 2015), 2015. Penghe Chen, Yu Lu, Vincent W. Zheng, Yang Pian, "Prerequisite-Driven Deep Knowledge Tracing", IEEE International Conference on Data Mining (ICDM) 2018. Andrew S. Lan, Christoph Studer, Richard G. Baraniuk, "Time-varying Learning and Content Analytics via Sparse Factor Analysis", KDD '14 Proceedings of the 20th ACM SIGKDD international conference on Knowledge discovery and data mining, pp.452-461, 2014. Tommi S. JaakkolaMichael I. Jordan, "Bayesian parameter estimation via variational methods",Statistics and Computing, Volume 10, Issue 1, pp 25-37, January 2000.

学習者のインタラクションに対し、システムがリアルタイムで追従できるよう、上記非特許文献１～３に記載されているようなリアルタイムでのナレッジトレースは必須と言える。さらに、指導者の立場からは、ナレッジトレースにより予測された結果の理由を理解したいというニーズがある。

例えば、問題正誤予測において、ＡＩ（Artificial Intelligence ）がこの問題に対して何故できないと予測しているか、指導者の立場から理由が知りたい場合がある。すなわち、指導者がナレッジトレースを用いたツールを学習に取り入れる場合、ＡＩがどのように判断しているか理解できるように、予測理由の説明性が求められている。しかし、非特許文献１に記載された方法では、ディープラーニングにより予測結果を導出しているため、予測した理由を提示することは困難である。

また、理由が提示できる方法であったとしても、その理由の信頼度に疑義がある場合、ツールとして用いる際の不安を払拭することは難しい。例えば、学習者が新しい単元を学び始めたころのデータの少ない区間では、期待値による予測の信頼度は低いと考えられる。そこで、ナレッジトレースには、予測の信頼度を提示すること（例えば、十分に信頼できる結果か否かを人間が判断できる、信頼度が十分と判断されるまでシステムが推定値を出力しない、など）も求められている。

非特許文献２に記載された方法では、予測理由について一定の説明性を有するが、予測の信頼度を提示することは困難である。一方、非特許文献３に記載された方法では、予測の信頼度を提示することは可能であるが、予測理由を提示することは困難である。また、非特許文献２に記載された方法と、非特許文献３に記載された方法とでは、用いられるモデルの態様が根本的に異なるため、これらの方法を単純に組み合わせただけでは、説明性と信頼度の提示とを両立させることは困難である。

そこで、本発明は、リアルタイムでナレッジトレースを行う場合でも、予測理由の説明性を高めつつ、予測結果の信頼度も提示できるナレッジトレース装置、ナレッジトレース方法およびナレッジトレースプログラムを提供することを目的とする。

本発明によるナレッジトレース装置は、尤度関数と、ガウス近似させる尤度関数の下界とが接する位置を特定するパラメータである変分パラメータを決定する変分パラメータ決定部と、事前分布の中心における勾配方向に一次元化した尤度関数を生成し、生成された尤度関数の下界を計算する勾配方向下界計算部と、勾配方向以外の共分散を任意の共分散に設定し、設定された共分散の下界を計算する全次元下界計算部とを備えたことを特徴とする。

本発明によるナレッジトレース方法は、コンピュータが、尤度関数と、ガウス近似させる尤度関数の下界とが接する位置を特定するパラメータである変分パラメータを決定し、コンピュータが、事前分布の中心における勾配方向に一次元化した尤度関数を生成し、生成された尤度関数の下界を計算し、コンピュータが、勾配方向以外の共分散を任意の共分散に設定し、設定された共分散の下界を計算することを特徴とする。

本発明によるナレッジトレースプログラムは、コンピュータに、尤度関数と、ガウス近似させる尤度関数の下界とが接する位置を特定するパラメータである変分パラメータを決定する変分パラメータ決定処理、事前分布の中心における勾配方向に一次元化した尤度関数を生成し、生成された尤度関数の下界を計算する勾配方向下界計算処理、および、勾配方向以外の共分散を任意の共分散に設定し、設定された共分散の下界を計算する全次元下界計算処理を実行させることを特徴とする。

本発明によれば、リアルタイムでナレッジトレースを行う場合でも、予測理由の説明性を高めつつ、予測結果の信頼度も提示できる。

本発明によるナレッジトレース装置の一実施形態の構成例を示すブロック図である。確率モデルの例を示す説明図である。尤度関数の形の例を示す説明図である。勾配方向に一次元化した尤度関数を生成する方法の例を示す説明図である。全次元の下界を算出する方法の例を示す説明図である。勾配方向の下界を計算する処理の例を示す説明図である。ｚ座標系での多次元下界の精度行列の例を示す説明図である。学習部の動作例を示すフローチャートである。予測部の動作例を示すフローチャートである。本発明によるナレッジトレース装置の概要を示すブロック図である。少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。

以下、本発明の実施形態を図面を参照して説明する。本発明は、ナレッジトレースをリアルタイムで行う状況を想定する。また、本発明では、予測結果の信頼度を提示できるようにするとともに、予測理由の説明性（解釈性と言うこともある。）を高めることを目的とする。

ここで、本発明における説明性について説明する。本発明において説明性とは、予測に用いられるモデル（以下、予測モデルと記す。）が、補償モデルで表されるか非補償モデルで表されるか、を意味する。補償モデルとは、一方のスキルが他方のスキルを補完できる態様のモデルを表わし、非補償モデルとは、一方のモデルでは他方のモデルを補完できない（言い換えると、両方のスキルの必要性が求められる）モデルを表わす。

以下、具体例を用いで、本発明における説明性について説明する。ここで、分数を含む方程式に関する問題（例：ｘ／５＋３／１０＝２ｘ）を解くことができるか否かを示す予測モデルを想定する。この問題を解くためには、分数のスキルｓ_１と、方程式のスキルｓ_２が必要であると考えられる。

補償モデルでは、正解確率を予測するモデルが各スキルの線形和で表される。例えば、各スキルｓ_１，ｓ_２の係数をそれぞれａ_１，ａ_２とした場合、予測モデルは、シグモイド関数σを用いて、以下のように表すことができる。

正解確率＝σ（ａ_１ｓ_１＋ａ_２ｓ_２）

一方、非補償モデルでは、正解確率を予測するモデルが各スキルの積で表される。例えば、各スキルｓ_１，ｓ_２の係数をそれぞれａ_１，ａ_２とした場合、予測モデルは、シグモイド関数σを用いて、以下のように表すことができる。

正解確率＝σ（ａ_１ｓ_１）σ（ａ_２ｓ_２）

上述するように、補償モデルは、上記非特許文献４に示すように尤度関数をガウス近似することが可能なため、既存の枠組みを使いモデルパラメータの近似推定が可能であるが、説明性は低いと言える。補償モデルでは、例えば、「分数の習熟度（スキル）が高ければ、方程式を知らなくても上記問題を解くことができる」と解釈される可能性があり、説明性は低い。一方、非補償モデルでは、「分数と方程式の知識がなければ上記問題は解けない」と解釈されるため、説明性は高いと言える。

ただし、説明性の高い非補償モデルの予測分布は、不正解側の尤度関数を非特許文献４に記載された方法でガウス近似することができず、近似解を解析的に求めるのが難しい。また、リアルタイム予測を想定した場合、マルコフ連鎖モンテカルロ法（ＭＣＭＣ：Markov chain Monte Carlo methods）を用いることもできない。そこで、本発明では、予測精度を維持しつつ、リアルタイムに予測分布（学習者の知識状態、各問題の正誤確率）も含めて非補償モデルを推定することを目標とする。

図１は、本発明によるナレッジトレース装置の一実施形態の構成例を示すブロック図である。本実施形態のナレッジトレース装置１００は、学習部１０と、予測部２０とを備えている。

学習部１０は、学習データ入力部１１と、変分パラメータ決定部１２と、勾配方向下界計算部１３と、全次元下界計算部１４と、事後分布計算部１５と、γメッセージ計算部１６と、モデル最適化部１７と、モデル出力部１８とを含む。学習部１０は、学習データ記憶部１９に接続される。なお、学習部１０が学習データ記憶部１９を含んでいてもよい。

学習データ記憶部１９は、モデルの学習に用いられる学習データを記憶する。なお、学習部１０は、外部の装置（図示せず）から通信回線を介して学習データを受信してもよい。この場合、学習データ記憶部１９は、学習データを記憶していなくてもよい。学習データの内容は、後述される。

また、学習データ記憶部１９は、本実施形態で学習されるモデルの各種パラメータを記憶してもよい。本実施形態では、３つのモデル（確率モデル、レスポンスモデルおよび状態遷移モデル）を想定した学習が行われる。以下、本実施形態で想定するモデルの内容を説明する。

本実施形態で想定する確率モデルは、観測されたデータからモデルの内部の状態を推定する状態空間モデルであり、カルマンフィルタに類するモデルである。本実施形態では、内部の状態として、学習者（以下、ユーザと記すこともある。）が問題を解くための各スキルを有している程度を表わす。

なお、以下の説明では、ユーザインデックスをｊで表わし、問題インデックスをｉで表わす。また、ｉ（ｊ，ｔ）は、ユーザｊが時刻ｔに解いた問題ｉを意味する。また、ユーザが問題を解くために必要なスキルのインデックス（スキルインデックス）をｋで表わす。問題ｉを解くために必要なスキルｋの対応は、問題スキルマップＱ_ｉ，ｋ∈｛０，１｝として予め定義される。

図２は、確率モデルの例を示す説明図である。図２に例示するｃ_ｊ ^（ｔ）∈Ｒ^Ｋは、時刻ｔにおけるユーザｊの状態を表わす確率変数であり、Ｋ個の実数値を有するベクトルである。また、ｙ_ｊ ^（ｔ）∈｛０，１｝は、ユーザｊが時刻ｔにおいて問題が解けたか否かを表わす確率変数である。Ｘ_ｊ ^（ｔ）は、時刻ｔにおけるユーザｊに関する情報であり、学習データとして入力される。学習データには、ユーザｊの属性のほか、ユーザｊの学習モチベーション、問題の分野に対するユーザｊの嗜好度合い、前回の学習時点からの経過時間など、予め設計された特徴が含まれる。なお、時刻ｔにおけるユーザｊのスキルｋを示す個々の特徴は、ｘ_ｊ，ｋ ^（ｔ）で表され、学習データとして入力される。

レスポンスモデルは、時刻ｔにおける学習者ｊの状態ｃ_ｊ ^（ｔ）と問題ｉが与えられたときに、学習者ｊがその問題ｉを解ける確率を表わすモデルであり、具体的には、以下に例示する式１で定義される。

式１に例示するモデルは、問題ｉの解決に学習者ｊが必要とするスキルｋの組み合わせで表され、各スキルの積により問題を解ける確率が算出される。問題ｉを解くために必要とするスキルｋを学習者ｊが有する程度（習熟度）は、以下に示す式２で定義される。

式２において、ｂ_ｉ，ｋは、問題ｉで用いられるスキルｋの難易度を表わし、ｃ_ｊ，ｋ ^（ｔ）は、時刻ｔにおける学習者ｊのスキルｋの程度を表わす。なお、ａ_ｉ，ｋは、問題ｉに関するスキルｋの立ち上がりの程度（スロープ）を表わすパラメータである。式２は、ｂ_ｉ，ｋが示す難易度よりもスキルｃ_ｊ，ｋ ^（ｔ）が高ければ、高い確率で問題が解けることを表わす。

一般的なカルマンフィルタでは、レスポンスモデルがガウス分布で表されるのに対し、本実施形態では、レスポンスモデルが上記式１で示すような非補償モデルで表される点において異なる。

状態遷移モデルは、時刻ｔにおけるユーザｊの状態ｃ_ｊ ^（ｔ）が与えられると、線形変換Ｄにより次の状態ｃ_ｊ ^{（ｔ＋１）}に遷移させるモデルである。本実施形態の状態遷移モデルは、以下に示す式３で定義される。

式３において、Ｄ_{ｉ（ｊ，ｔ）}は、ユーザｊが時刻ｔに解いた問題ｉに応じて状態を変化させる線形変換を表わし、Γ_{ｉ（ｊ，ｔ＋１）}はガウスノイズを表わす。また、右辺の第二項はバイアス項であり、状態遷移に影響し得るユーザｊの特徴量を表わす項である。バイアス項で想定される特徴量として、例えば、ユーザのモチベーションや、前回問題を解いてからの時間間隔などが挙げられる。

例えば、経過時間をリニアに設定した場合、経過時間に沿ってその学習者のスキルがリニアに下がってしまうことになる。これを防ぐため、バイアス項に、例えば、ｘに忘却曲線に従った値を設定することで、減衰を規定できるため、時間に応じてスキルが減衰した場合に、その状態で問題が解けるか否かを、後述する学習処理でフィッティングできるようになる。なお、β_ｋは、スキルごとの特性を表わす係数であり、例えば、忘れやすいスキルの係数には、大きなマイナス値が設定される。また、μ_０，Ｐ_０は、学習者の初期状態のガウス分布の平均および分散をそれぞれ表わす。

学習部１０は、学習データからこれらのパラメータを求める学習処理を行う。具体的には、学習部１０は、ＥＭ（expectation-maximization）アルゴリズムによる学習を行う。

本実施形態において、Ｅステップのαメッセージ（再帰式）は、以下に示す式４で定義される。図２に示す例では、αメッセージは、ｙ_ｊ ^（ｔ）まで与えられたときの事後分布である。

上記の式４に示すように、時刻ｔにおけるαメッセージ（式４における左辺）は、時刻ｔ－１におけるαメッセージに状態遷移確率Ｐ（ｃ_ｊ ^（ｔ）｜ｃ_ｊ ^{（ｔ－１）}）を掛けて積分した値に尤度項（尤度関数と記すこともある。）Ｐ（ｙ_ｊ ^（ｔ）｜ｃ_ｊ ^（ｔ））を掛けることで算出される。なお、上記に示す式４は、以下に示す式５のようにも表わすことができる。

上述するように、一般的なカルマンフィルタでは、尤度関数がガウス分布であるが、本実施形態では、尤度関数が非補償モデル（非ガウス分布）であるため、このままでは解析的に計算することができない。そこで、本実施形態では、尤度関数をガウス分布で近似することにより、一般的なカルマンフィルタのアルゴリズムに合わせるようにする。具体的には、非補償モデルの対数尤度の下界を二次近似（ガウス近似）することにより、予測を解析的に実行できるようにする。

本実施形態で用いられる尤度関数は、Ｙ_ｊ ^（ｔ）＝１の場合（すなわち、問題が解けるときの尤度関数）と、Ｙ_ｊ ^（ｔ）＝０の場合（すなわち、問題が解けないときの尤度関数）とで、関数の形が異なる。図３は、尤度関数の形の例を示す説明図である。図３に例示する尤度関数１０１が、Ｙ_ｊ ^（ｔ）＝１の場合の尤度関数であり、尤度関数１０２が、Ｙ_ｊ ^（ｔ）＝０の場合の尤度関数である。

Ｙ_ｊ ^（ｔ）＝１の場合の尤度関数は、以下に示す式６で表される。

Ｙ_ｊ ^（ｔ）＝１の場合の尤度関数は、例えば、非特許文献４に記載されているような、一般的に知られた方法によりガウス近似可能である。一方、Ｙ_ｊ ^（ｔ）＝０の場合の尤度関数は、以下に示す式７で表される。

Ｙ_ｊ ^（ｔ）＝０の場合の尤度関数は、非特許文献４に記載されているような、一般的に知られた方法でガウス近似することは困難である。

ところで、上記式５に例示するように、事後分布は、事前分布と尤度関数の積により算出される。したがって、事前分布の値が０に近い範囲では、尤度関数の値がどんなに大きくても、掛け合わせることで事後分布の値はほぼ０になってしまう。そのため、事後分布の値を算出することを目的とした場合、その範囲の尤度関数を近似する効果は低いと考えられる。そこで、本実施形態では、事前分布の中心に局所近似することで、予測精度を維持しながら非補償モデルを推定する。

学習データ入力部１１は、学習データの入力を受け付ける。学習データ入力部１１は、学習データ記憶部１９から学習データを取得してもよく、外部の装置（図示せず）から通信回線を介して学習データを受信してもよい。

変分パラメータ決定部１２は、尤度関数と、ガウス近似させる尤度関数の下界とが接する位置を特定するパラメータ（以下、変分パラメータと記す。）を決定する。尤度関数をガウス近似する方法、および、変分パラメータの決定方法は後述される。

勾配方向下界計算部１３は、事前分布の中心における勾配方向に一次元化した尤度関数を生成し、生成された尤度関数の下界を計算する。勾配方向とは、尤度関数が最も上っていく（一番変化率が高い）方向である。上述するように、本実施形態では、事前分布の付近をできるだけ正確に近似することが重要である。そのため、勾配方向下界計算部１３は、事前分布の中心における勾配方向のベクトルを生成し、生成したベクトルの方向に一次元化した尤度関数を生成する。

図４は、勾配方向に一次元化した尤度関数を生成する方法の例を示す説明図である。具体的には、図４（ａ）は、真上から見た場合の尤度関数を等高線で示したものであり、図４（ｂ）は、一次元化した勾配方向の断面を示したものである。図４（ｂ）に例示する曲線１１１は尤度関数の曲線であり、曲線１１２および１１３は、いずれも尤度関数の下界を示す曲線である。なお、下界の計算方法は後述される。

全次元下界計算部１４は、勾配方向以外の共分散を任意の共分散に設定し、設定した共分散の下界を計算する。全次元下界計算部１４は、例えば、勾配方向以外の共分散を、事前分布の分散に設定してもよい。勾配方向以外の共分散を任意の共分散に設定する理由は、以下のとおりである。

図４に例示するように、尤度関数の等高線は凸関数であるため、事前分布の中心の接線方向では、尤度関数は上昇していくことになる。そのため、多次元のガウス分布の分散を広げたとしても、その分散は尤度関数よりも必ず下側に存在する。そもそも、ガウス近似する場合には、尤度関数の下に張り付くような下界を算出することを目的とする。これにより、ＥＭアルゴリズムの目的関数を下側から抑えるような関数が生成されるからである。

目的関数を下側から抑えるような関数を生成することを考えると、勾配方向に下側からフィッティングできる分散であれば、横方向（すなわち、勾配方向に直行する方向）の分散は任意である。等高線が凸関数になっているため、勾配方向では、ガウス分布としては必ず下がり、直行する方向では尤度関数は必ず上がることになる。

本実施形態では、事前分布が高い部分を正確に近似し、それ以外の部分の尤度関数は分からない（任意である）ため、勾配方向以外の分散は、事前分布の分散に合わせるものとする。

図５は、全次元の下界を算出する方法の例を示す説明図である。図５（ａ）に例示するように、勾配方向に直行する方向の分散を広げたとしても、その分散は尤度関数よりも必ず下側に存在することになる。その結果、図５（ｂ）に例示するような下界が算出される。なお、下界の計算方法は後述される。

事後分布計算部１５は、事前分布と尤度関数とを掛け合わせて事後分布を算出する。なお、事前分布の算出方法も後述される。

γメッセージ計算部１６は、カルマンフィルタと同様の方法で、γメッセージを計算する。なお、γメッセージ計算部１６がγメッセージを計算する方法は広く知られているため、詳細な説明を省略する。

モデル最適化部１７は、Ｍステップとして、Ｅステップで求めた尤度関数の下界を最大化するパラメータを算出する。モデル最適化部１７は、例えば、カルマンフィルタと同様の方法により、パラメータを最適化してもよい。パラメータの最適化方法の具体例については、後述される。

モデル出力部１８は、最適化されたモデルを出力する。モデル出力部１８は、後述する予測部２０に含まれる予測モデル入力部２１を介して予測モデル記憶部２８にモデルを記憶してもよい。

学習部１０（より詳しくは、学習データ入力部１１と、変分パラメータ決定部１２と、勾配方向下界計算部１３と、全次元下界計算部１４と、事後分布計算部１５と、γメッセージ計算部１６と、モデル最適化部１７と、モデル出力部１８）は、プログラム（ナレッジトレースプログラム）に従って動作するコンピュータのプロセッサ（例えば、ＣＰＵ（Central Processing Unit ）、ＧＰＵ（Graphics Processing Unit））によって実現される。

例えば、プログラムは、記憶部（図示せず）に記憶され、プロセッサは、そのプログラムを読み込み、プログラムに従って、学習部１０（より詳しくは、学習データ入力部１１、変分パラメータ決定部１２、勾配方向下界計算部１３、全次元下界計算部１４、事後分布計算部１５、γメッセージ計算部１６、モデル最適化部１７およびモデル出力部１８）として動作してもよい。また、学習部１０の機能がＳａａＳ（Software as a Service ）形式で提供されてもよい。

また、学習データ入力部１１と、変分パラメータ決定部１２と、勾配方向下界計算部１３と、全次元下界計算部１４と、事後分布計算部１５と、γメッセージ計算部１６と、モデル最適化部１７と、モデル出力部１８とは、それぞれが専用のハードウェアで実現されていてもよい。また、各装置の各構成要素の一部又は全部は、汎用または専用の回路（circuitry ）、プロセッサ等やこれらの組合せによって実現されてもよい。これらは、単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。各装置の各構成要素の一部又は全部は、上述した回路等とプログラムとの組合せによって実現されてもよい。

また、学習部１０の各構成要素の一部又は全部が複数の情報処理装置や回路等により実現される場合には、複数の情報処理装置や回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、情報処理装置や回路等は、クライアントサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。

また、学習データ記憶部１９は、例えば、磁気ディスク等により実現される。

予測部２０は、予測モデル入力部２１と、予測データ入力部２２と、変分パラメータ決定部２３と、勾配方向下界計算部２４と、全次元下界計算部２５と、事後分布計算部２６と、予測結果出力部２７と、予測モデル記憶部２８と、予測データ記憶部２９と、予測結果記憶部３０とを含む。

予測モデル記憶部２８は、予測モデルを記憶する。

予測データ記憶部２９は、予測に用いるデータ（予測データ）を記憶する。なお、予測部２０は、外部の装置（図示せず）から通信回線を介して予測データを受信してもよい。この場合、予測データ記憶部２９は、予測データを記憶していなくてもよい。予測データの内容は、学習データと同様の特徴を含むデータである。

予測結果記憶部３０は、予測結果を記憶する。予測結果を記憶しておくことで、次の予測データに対して、既存の予測結果を利用することが可能になる。

予測モデル入力部２１は、予測に用いるモデル（予測モデル）の入力を受け付ける。そして、予測モデル入力部２１は、受け付けた予測モデルを予測モデル記憶部２８に記憶させる。

予測データ入力部２２は、予測データの入力を受け付ける。なお、予測データ入力部２２は、予測データ記憶部２９から予測データを取得してもよく、外部の装置（図示せず）から通信回線を介して予測データを受信してもよい。

変分パラメータ決定部２３は、変分パラメータ決定部１２と同様に、変分パラメータを決定する。勾配方向下界計算部２４は、勾配方向下界計算部１３と同様に、事前分布の中心における勾配方向に一次元化した尤度関数を生成し、生成された尤度関数の下界を計算する。全次元下界計算部２５は、全次元下界計算部１４と同様に、勾配方向以外の共分散を任意の共分散に設定し、設定した共分散の下界を計算する。事後分布計算部２６は、事後分布計算部１５と同様に、事後分布を計算する。

予測結果出力部２７は、予測結果を出力する。

予測部２０（より詳しくは、予測モデル入力部２１と、予測データ入力部２２と、変分パラメータ決定部２３と、勾配方向下界計算部２４と、全次元下界計算部２５と、事後分布計算部２６と、予測結果出力部２７）は、プログラム（予測プログラム）に従って動作するコンピュータのプロセッサによって実現される。

また、予測部２０の各構成要素の一部又は全部が複数の情報処理装置や回路等により実現される場合には、学習部１０と同様に、複数の情報処理装置や回路等が、集中配置されてもよいし、分散配置されてもよい。さらに、学習部１０および予測部２０に含まれる各構成要素のそれぞれが同一の情報処理装置や回路に集中配置されてもよいし、異なる情報処理装置に分散配置されてもよい。すなわち、本実施形態のナレッジトレース装置１００に含まれる学習部１０と予測部２０とが、それぞれ異なる情報処理装置により実現されていてもよく、これら情報処理装置が集中配置されてもよいし、分散配置されてもよい。

また、予測モデル記憶部２８と、予測データ記憶部２９と、予測結果記憶部３０とは、例えば、磁気ディスク等により実現される。

次に、各種計算の具体的方法を説明する。まず、初めに、αメッセージの計算方法を説明する。αメッセージは、上記式５に示すように、事前分布と尤度関数の積で算出される。事前分布は、１つ前のαメッセージに状態遷移確率を掛けることで算出される。事前分布は、例えば、以下に例示する式８により算出される。事前分布の計算は、ガウス分布同士の計算のため、解析的に計算可能である。

式８において、ｍ_ｊ ^（ｔ）は平均を表わし、Ｇ_ｊ ^（ｔ）は共分散行列を表わす。本実施形態では、事後分布計算部１５が、事前分布を算出してもよい。

次に、事後分布計算部１５が事後分布を計算する方法を詳細に説明する。上述するように、事後分布は、事前分布と尤度関数の積で算出される。ただし、問題を解くときに関連するスキルは、必ずしも全てのスキルが必要になるとは限らない。そのため、尤度関数が、全スキルの次元分存在しない（一部のスキルを用いた）関数になる可能性を考慮する必要がある。

そこで、スキル部分を分解して、事後分布ｑを、以下に示す式９のように定義する。式９において、ベクトルｃ_ａが更新対象のスキル部分を表わし、ベクトルｃ_ｂが残りのスキル部分を表わす。

この尤度関数は、学習した問題で使用されるスキルしか含まないため、ｃ_ａに対応する関数になっている。そこで、事後分布計算部１５は、まず、ｐ（ｃ_ａ）ｆ（ｃ_ａ）の部分で事後分布を計算する。ガウス分布の条件付き確率ｐ（ｃ_ｂ|ｃ_ａ）もガウス分布であるため、最終的な事後分布もガウス分布になる。このように、事後分布計算部１５は、まず、事前分布ｐ（ｃ_ａ，ｃ_ｂ）について今回解いた問題に関係する部分の周辺尤度を計算しておき、その周辺尤度とガウス近似した尤度で事後分布を計算し、さらに、計算された事後分布にガウス分布ｐ（ｃ_ｂ|ｃ_ａ）を掛けることにより、最終的な事後分布を計算する。

まず、状態ｃ_ｊ ^（ｔ）、平均ｍ_ｊ ^（ｔ）、および、共分散行列Ｇ_ｊ ^（ｔ）を、それぞれ以下に示す式１０のように定義する。

そして、事前分布に関し、Ｑ_{ｉ（ｊ，ｔ）}に関係のあるスキル部分の周辺分布をＮ（ｃ_ａ｜ｍ_ａ，Ｇ_ａ，ａ）とする。事後分布計算部１５は、尤度関数のガウス近似を行い、ｃ_ａに関する事後分布の近似を計算することで、事後分布をガウス分布で近似する。

上述するように、Ｙ_ｊ ^（ｔ）＝１の場合、例えば、非特許文献４に記載された方法で、非補償モデルの尤度関数をガウス近似できる。一方、Ｙ_ｊ ^（ｔ）＝０の場合、非補償モデルの尤度関数のガウス近似は、後述する方法（変分パラメータ決定部１２、勾配方向下界計算部１３、全次元下界計算部１４）にて計算できる。

すなわち、ｆ（ｃ_ａ）≒Ｎ（｜η，ψ）、ｑ（ｃ_ａ）∝ｐ（ｃ_ａ）ｆ（ｃ_ａ）より、事後分布はｑ（ｃ_ａ）＝Ｎ（ｃ_ａ｜ｍ´_ａ，Ｇ´_ａ，ａ）になる。ここで、平均ｍ´_ａおよび分散Ｇ´_ａ，ａは、それぞれ

である。そして、事後分布α＾（ｃ_ｊ ^（ｔ））＝ｑ（ｃ_ａ，ｃ_ａ）は、以下に示す式１１のように算出される。なお、α＾は、αの上付きハット（＾）である。

次に、勾配方向下界計算部１３による勾配方向の下界の計算方法を説明する。Ｙ_ｊ ^（ｔ）＝０の場合の尤度関数は、以下に示す式１２のように表すことができる。ただし、上記の式７に関する説明の通り、式１２を単純にガウス近似することは困難である。

ところで、上記に示す式１２は、余事象の確率を表わす式とも言える。例えば、スキルが２つの場合、２つのスキルを有している確率がＹ_ｊ ^（ｔ）＝１の確率に対応し、少なくとも１つのスキルを有していない確率が、Ｙ_ｊ ^（ｔ）＝０の確率に対応する。少なくとも１つのスキルを有していない状況は、言い換えると、スキルを二つとも有していない、または、いずれか一方のスキルを有していない状況と言える。したがって、Ｙ_ｊ ^（ｔ）＝０の状況を、シグモイド関数の積の和に書き換えることができる。

以下、説明を簡略化するため、スキルが２つの場合（Ｋ＝２）を想定する。Ｋ＝２の場合、上記に示す式１２は、

のように展開できる。上記の式は、２ビット表記で表された式と言うことができる。具体的には、バー付きのシグモイド関数を「０」に、バーなしのシグモイド関数を「１」に対応付けることができる。

シグモイド関数のバーあり／なしに関し、１０進数の数ｌを２進数で表したときのｋビット目を取得する関数をｂｉｎ（ｌ）_ｋと定義すると、上記に示す式１２を、下記の式１３に示すように、シグモイド関数の掛け算で展開できる。

勾配方向下界計算部１３は、算出された尤度関数を勾配方向に一次元化する。図６は、勾配方向の下界を計算する処理の例を示す説明図である。まず、勾配方向下界計算部１３は、尤度関数の勾配を計算する。図６に例示するように、事前分布の中心をｍ_１とすると、勾配∇ｐ（ｙ｜ｃ_ａ，Ｑ_ｉ）｜ｍ_１は、以下の式１４により計算できる。

また、勾配以外の方向は、直行している座標系であれば任意であるため、勾配方向下界計算部１３は、例えば、与えられたベクトルから直交系のベクトルを計算する方法（例えば、シュミットの直交化）によって、勾配以外のベクトルを計算する。これにより、ｃの座標系とｚの座標系とが計算できるため、両座標系の変換を、変換行列Ｗを用いて表すことができる。具体的には、ｃの座標系とｚの座標系との変換は、以下に示す式１５を用いて行うことができる。なお、Ｗは正規直交基底であり、式１５におけるＷアンダーバーとの間で、以下に示す関係を満たす。

上記に示す式１３は、ｃの座標系で表されているため、勾配方向下界計算部１３は、式１３に示す関数を、ｚの座標系に変換する。また、ｚ_１以外のｚの値を０に設定することで、勾配方向ｚ_１に一次元化することができる。ｃ_ａ，ｋは、以下に示す式１６で表すことができるため、勾配方向下界計算部１３は、下記に示すｃ_ａ，ｋを式１３に代入する。その結果、以下に示す式１７が得られる。

ここで、ｚ_１における係数と、バイアス項とを明確にするため、上記に示す式１７を以下に示す式１８のように変換する。なお、式１８までの式展開に近似処理が行われていないことに留意する。

次に、勾配方向下界計算部１３は、シグモイド関数をガウス近似する一般的な方法（例えば、非特許文献４に記載された方法）により、上記式１８の下界を計算する。式１８の下界は、以下に示す式１９のように計算される。

式１９におけるｚ_１ ^２に関する係数をＡ_ｌ、ｚ_１の係数をＢ_ｌ、それ以外をＣ_ｌとした場合、式１９は、以下に示す式２０のように変換される。

勾配方向下界計算部１３は、式２０に示す式の対数尤度の二次下界を計算する。具体的には、勾配方向下界計算部１３は、Ｊｅｎｓｅｎの不等式を式２０に適用して、対数尤度の二次下界を近似する。これにより、上記に示す式２０は、以下の式２１に示すようにｚに関する二次式で表すことができる。

なお、式２１におけるｑ_ｌは、正規化定数Ｇを用いて、以下に示す式２２のように表すことができる。

式２１を平方完成することにより、一次元のガウス関数を導出でき、ｚ座標系での中心を導出することができる。

次に、全次元下界計算部１４による勾配方向以外の共分散の下界を計算する方法を説明する。勾配方向以外も、ｚ座標系で計算を行う。まず、全次元下界計算部１４は、上記式９のｐ（ｃ_ａ）に示すｃ座標系の事前分布をｚ座標系に変換し、勾配方向（ｚ_１）以外の共分散行列を計算する。具体的には、上記に示す式９のｐ（ｃ_ａ）に対して、ｚ座標系への変換（ｃ＝Ｗｚ）を行う。これにより、以下に示す式２３が得られる。

精度行列Λ＝Ｗ^ＴＧ_ａ，ａ ^－１Ｗとおくと、シェーア補行列の変換により、事前分布をＺ_１に関して周辺化した分布の精度行列として、以下に示す式２４が得られる。

図７は、ｚ座標系での多次元下界の精度行列の例を示す説明図である。上述する変換により、精度行列の１行１列目の内容は、以下に示す式２５で表され、２行目からＫ行目および２列目からＫ列目の内容は、上記に示す式２４で表される。

また、平均は、以下に示す式２６で表される。これにより、ｚ座標系での下界が算出される。

次に、全次元下界計算部１４は、ｚ座標系からｃ座標系への変換（ｚ＝Ｗ^Ｔｃ）を行う。これにより、以下の式２７に示すｃ座標系での多次元下界の精度行列、および、式２８に示すｃ座標系での多次元下界の平均が算出される。

次に、変分パラメータ決定部１２による変分パラメータξ（すなわち、どの部分で尤度関数にフィットさせたところでガウス近似を行えばよいか）を決定する方法を説明する。ここでは、２つの方法を説明する。

一つ目の方法は、ヒューリスティックに探索する方法である。具体的には、変分パラメータ決定部１２は、尤度が予め定めた閾値（例えば、０．９５）以上の場合に、事前分布の中心を設定し、尤度が閾値に満たない場合、リニアサーチにより閾値を超えるまで探索することにより、変分パラメータを求めてもよい。

二つ目の方法として、変分パラメータ決定部１２は、周辺尤度を微分して最適化することにより、変分パラメータξを決定してもよい。変分パラメータ決定部１２、例えば、以下に示す式２９を用いて変分パラメータを探索してもよい。

次に、モデル最適化部１７によるパラメータの最適化方法を説明する。モデル最適化部１７は、尤度関数の下界を最大化するパラメータを算出する。モデル最適化部１７は、例えば、以下の式３０に示す目的関数を各パラメータμ_０，Ｐ_０，Γ_ｉ，Ｄ_ｉ，β_ｋ，ａ_ｉ，ｋ，ｂ_ｉ，ｋ（∀ｉ，ｋ）について最大化することにより、パラメータを最適化してもよい。

式３０において、モデル最適化部１７は、カッコ内の第一項および第二項に含まれるパラメータ（すなわち、μ_０，Ｐ_０，Γ，Ｄ_ｉ，β_ｋ）について、カルマンフィルタと同様の方法で最適化してもよい。また、カッコ内の第三項に含まれるパラメータ（すなわち、ａ_ｉ，ｋ，ｂ_ｉ，ｋ）について、モデル最適化部１７は、非特許文献４に記載されているようなＪａａｋｋｏｌａの不等式および上述するＪｅｎｓｏｎの不等式により下界を算出し、算出した式の微分が０になる解を解析的に求めることで最大化してもよい。

次に、本実施形態のナレッジトレース装置１００の動作を説明する。図８は、本実施形態の学習部１０の動作例を示すフローチャートである。まず、学習データ入力部１１は、モデルの最適化に必要な学習データの入力を受け付ける（ステップＳ１１）。次に、αメッセージを生成するステップＳ１２からステップＳ１６の処理が行われる。

具体的には、事後分布計算部１５は、事前分布を計算する（ステップＳ１２）。変分パラメータ決定部１２は、変分パラメータを決定する（ステップＳ１３）。勾配方向下界計算部１３は、尤度関数の勾配方向の下界を計算する（ステップＳ１４）。全次元下界計算部１４は、尤度関数の勾配方向以外の下界を計算する（ステップＳ１５）。そして、事後分布計算部１５は、算出された尤度関数の下界と事前分布に基づいて事後分布を計算する（ステップＳ１６）。

γメッセージ計算部１６は、γメッセージを計算する（ステップＳ１７）。モデル最適化部１７は、各パラメータを最適化することにより、各モデルを最適化する（ステップＳ１８）。そして、モデル最適化部１７は、パラメータの変化が収束したか否かを判定する（ステップＳ１９）。変化が収束していない場合（ステップＳ１９におけるＮ）、ステップＳ１１以降の処理が繰り返される。一方、変化が収束した場合（ステップＳ１９におけるＹ）、モデル出力部１８は、最適化されたモデルを出力する（ステップＳ２０）。

図９は、本実施形態の予測部２０の動作例を示すフローチャートである。予測データ入力部２２は、予測データの入力を受け付ける（ステップＳ２１）。以降、αメッセージを生成する処理は、図８に例示するステップＳ１２からステップＳ１６までの処理と同様である。

以上のように、本実施形態では、変分パラメータ決定部１２が、尤度関数とガウス近似させる尤度関数の下界とが接する位置を特定する変分パラメータを決定し、勾配方向下界計算部１３が、事前分布の中心における勾配方向に一次元化した尤度関数を生成し、生成された尤度関数の下界を計算する。そして、全次元下界計算部１４が、勾配方向以外の共分散を任意の共分散に設定し、設定された共分散の下界を計算する。よって、非補償モデルを予測分布も含めて推定できるため、リアルタイムでナレッジトレースを行う場合でも、予測理由の説明性を高めつつ、予測結果の信頼度も提示できる。

次に、本発明の概要を説明する。図１０は、本発明によるナレッジトレース装置の概要を示すブロック図である。本発明によるナレッジトレース装置８０（例えば、ナレッジトレース装置１００）は、尤度関数とガウス近似させる尤度関数の下界とが接する位置を特定するパラメータである変分パラメータ（例えば、変分パラメータξ）を決定する変分パラメータ決定部８１（例えば、変分パラメータ決定部１２）と、事前分布の中心における勾配方向に一次元化した尤度関数を生成し、生成された尤度関数の下界を計算する勾配方向下界計算部８２（例えば、勾配方向下界計算部１３）と、勾配方向以外の共分散を任意の共分散に設定し、設定された共分散の下界を計算する全次元下界計算部８３（例えば、全次元下界計算部１４）とを備えている。

そのような構成により、リアルタイムでナレッジトレースを行う場合でも、予測理由の説明性を高めつつ、予測結果の信頼度も提示できる。

具体的には、全次元下界計算部８３は、勾配方向以外の共分散を事前分布の分散に設定してもよい。

また、変分パラメータ決定部８１は、尤度が予め定めた閾値を超える位置、または、周辺尤度の微分を最適化して得られる位置を、変分パラメータとして決定してもよい。

また、尤度関数が、問題の解決に学習者が必要とするスキルを表わす関数の積（たとえが、上記に示す式１）で表されてもよい。

また、ナレッジトレース装置８０は、計算された尤度関数の下界と事前分布とを掛け合わせて、カルマンフィルタにおけるαメッセージを生成する事後分布計算部（たとえが、事後分布計算部１５）を備えていてもよい。

また、事後分布計算部は、学習者の特徴量を示すバイアス項がガウス分布の平均に含まれる状態遷移モデル（例えば、上記に示す式３）を用いてαメッセージを生成してもよい。

図１１は、少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。コンピュータ１０００は、プロセッサ１００１、主記憶装置１００２、補助記憶装置１００３、インタフェース１００４を備える。

上述のナレッジトレース装置８０は、コンピュータ１０００に実装される。そして、上述した各処理部の動作は、プログラム（ナレッジトレースプログラム）の形式で補助記憶装置１００３に記憶されている。プロセッサ１００１は、プログラムを補助記憶装置１００３から読み出して主記憶装置１００２に展開し、当該プログラムに従って上記処理を実行する。

なお、少なくとも１つの実施形態において、補助記憶装置１００３は、一時的でない有形の媒体の一例である。一時的でない有形の媒体の他の例としては、インタフェース１００４を介して接続される磁気ディスク、光磁気ディスク、ＣＤ－ＲＯＭ（Compact Disc Read-only memory ）、ＤＶＤ－ＲＯＭ（Read-only memory）、半導体メモリ等が挙げられる。また、このプログラムが通信回線によってコンピュータ１０００に配信される場合、配信を受けたコンピュータ１０００が当該プログラムを主記憶装置１００２に展開し、上記処理を実行してもよい。

また、当該プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、当該プログラムは、前述した機能を補助記憶装置１００３に既に記憶されている他のプログラムとの組み合わせで実現するもの、いわゆる差分ファイル（差分プログラム）であってもよい。

１０学習部
１１学習データ入力部
１２変分パラメータ決定部
１３勾配方向下界計算部
１４全次元下界計算部
１５事後分布計算部
１６ γメッセージ計算部
１７モデル最適化部
１８モデル出力部
１９学習データ記憶部
２０予測部
２１予測モデル入力部
２２予測データ入力部
２３変分パラメータ決定部
２４勾配方向下界計算部
２５全次元下界計算部
２６事後分布計算部
２７予測結果出力部
２８予測モデル記憶部
２９予測データ記憶部
３０予測結果記憶部

Claims

尤度関数と、ガウス近似させる当該尤度関数の下界とが接する位置を特定するパラメータである変分パラメータを決定する変分パラメータ決定部と、
事前分布の中心における勾配方向に一次元化した尤度関数を生成し、生成された尤度関数の下界を計算する勾配方向下界計算部と、
前記勾配方向以外の共分散を任意の共分散に設定し、設定された共分散の下界を計算する全次元下界計算部とを備えた
ことを特徴とするナレッジトレース装置。
全次元下界計算部は、勾配方向以外の共分散を事前分布の分散に設定する
請求項１記載のナレッジトレース装置。
変分パラメータ決定部は、尤度が予め定めた閾値を超える位置、または、周辺尤度の微分を最適化して得られる位置を、変分パラメータとして決定する
請求項１または請求項２記載のナレッジトレース装置。
尤度関数が、問題の解決に学習者が必要とするスキルを表わす関数の積で表される
請求項１から請求項３のうちのいずれか１項に記載のナレッジトレース装置。
計算された尤度関数の下界と事前分布とを掛け合わせて、カルマンフィルタにおけるαメッセージを生成する事後分布計算部を備えた
請求項１から請求項４のうちのいずれか１項に記載のナレッジトレース装置。
事後分布計算部は、学習者の特徴量を示すバイアス項がガウス分布の平均に含まれる状態遷移モデルを用いてαメッセージを生成する
請求項５記載のナレッジトレース装置。
コンピュータが、尤度関数と、ガウス近似させる当該尤度関数の下界とが接する位置を特定するパラメータである変分パラメータを決定し、
前記コンピュータが、事前分布の中心における勾配方向に一次元化した尤度関数を生成し、生成された尤度関数の下界を計算し、
前記コンピュータが、前記勾配方向以外の共分散を任意の共分散に設定し、設定された共分散の下界を計算する
ことを特徴とするナレッジトレース方法。
コンピュータが、勾配方向以外の共分散を事前分布の分散に設定する
請求項７記載のナレッジトレース方法。
コンピュータに、
尤度関数と、ガウス近似させる当該尤度関数の下界とが接する位置を特定するパラメータである変分パラメータを決定する変分パラメータ決定処理、
事前分布の中心における勾配方向に一次元化した尤度関数を生成し、生成された尤度関数の下界を計算する勾配方向下界計算処理、および、
前記勾配方向以外の共分散を任意の共分散に設定し、設定された共分散の下界を計算する全次元下界計算処理
を実行させるためのナレッジトレースプログラム。
コンピュータに、
全次元下界計算処理で、勾配方向以外の共分散を事前分布の分散に設定させる
請求項９記載のナレッジトレースプログラム。