いつでも“構ってくれる”生成AIの悪循環
前回に続き「『AIおしゃべりアプリ』に対してどう感じているか」を言語学者33人に訊いたアンケートの結果を基に、本稿を進めていきます。
肯定的見解がある一方で、リスクに関する意見も寄せられました。
例えば、「生成AIは酷いことばを投げつけられても傷つかないので、ことばが人を傷つけうることを学べない」という懸念があげられました。本書『言語学者、生成AIを危ぶむ 子どもにとって毒か薬か』で先述しましたが、生成AIの背後には感情も人格もないので、この点において生身の人間との対話と大きく異なるわけです。
関連して、「生成AIはいつ、どれだけ仕事を頼んでも文句を言わないから便利だ」という意見を聞いたことがあります。これは確かに事実としては正しい言明でしょう。しかし、これは諸刃の剣だとも感じています。
というのも、子どもがそのような「生成AIに対する接し方」が普通であると考え、人間に対して同じような態度を取るようになったら問題です。生成AIは、いつ何を問いかけても返信してくれますが、人間相手にはそれを求められません。すると、ますます、いつでも「構ってくれる」生成AIを心地よく感じてしまい、悪循環に陥る可能性があります。
“都合の良い応答”にチューニングできる危険性
現状の生成AIでは、それが出した答えが「良い」か「悪い」か、使用者がフィードバックを送れる仕組みになっています。
ということは、それぞれの利用者が「自分にとって都合の良い応答をしてくれる形」にチューニングできてしまうわけです。
しかし、人間の相手の応答をチューニングすることは不可能です。実際の人間関係では、相手が自分にとって「良い」応答をしてくれることのほうが希かもしれません。
言葉による「すれ違い」も多く経験するものです。人間は、自分と違う意見を持った相手と、時に失敗を経験しながら、やり取りすることで成長していくとも言えます。ですから、相手や状況によって話し方を変える工夫も重要です。
それなのに、自分にとって心地よい返事ばかりしてくれる、いわば「イエスマン」的な生成AIとの応答に慣れてしまうと、実際の人間関係が面倒に感じられてくる――そんな可能性も十分にあると思います。
