生成人工知能（AI）による偽情報の出力などのリスクを踏まえ、総務省は18日、個別のAIの信頼性や安全性を評価する基盤の開発に着手すると明らかにした。民間企業や自治体が安心してAIを使えるような環境を整える狙いがある。林芳正総務相は18日の閣議後記者会見で「来年度中に企業が試行的に（評価基盤を）利用できるようにする」と表明した。
この基盤は複数のAIを組み合わせた集合体のような仕組みで、国立研究開発法人の情報通信研究機構（NICT）が収集する大量の日本語データや公文書なども活用して信頼性を評価する構想だ。評価基盤が自動生成した質問を対象のAIに投げかけ、応答に問題が含まれているかどうかを確認する。
回答が差別や偏見を助長したり犯罪を促したりする内容かどうかや偽情報が含まれていないか、日本の文化や習慣を適切に理解しているかといった観点からの評価を検討している。