人間のように「考える」AIの開発
人間のようなAIを実現するためには、単に人間の行動を模倣するだけでなく、人間のように情報を処理する、つまり「考える」ことができる技術でなければなりません。
グラスゴー大学心理学・神経科学部が主導し、学術誌「Patterns」に掲載された新しい研究では、機械学習の中でも特に広い範囲を占めるディープニューラルネットワークの情報処理方法を3Dモデルで分析し、その情報処理が人間のそれとどのように一致するかを視覚化しています。
今回の研究により、人間と同じように情報を処理し、人間が理解・予測できるようなエラーを起こす、より信頼性の高いAI技術の開発につながることが期待されています。
AI開発の課題の一つは、機械の思考プロセスをいかに理解し、それが人間の情報処理と一致しているかどうかを把握して、精度を確保することです。深層ニューラルネットワークは、人間の意思決定行動の現在の最良のモデルとして紹介されることが多く、いくつかのタスクでは人間のパフォーマンスを達成、あるいは上回ることもあります。しかし、単純な視覚識別タスクであっても、人間と比較した場合、AIモデルの明らかな矛盾やエラーが明らかになることがあります。
現在、ディープニューラルネットワーク技術は、顔認識などのアプリケーションに使用されており、これらの分野では非常に成功していますが、科学者たちは、ディープニューラルネットワークがどのように情報を処理するのか、したがって、どのような場合にエラーが発生するのかについて、まだ完全には理解していません。
今回の研究では、この問題を解決するために、ディープニューラルネットワークに与えられた視覚刺激をモデル化し、複数の方法で変換することで、人間とAIモデルの間で類似した情報を処理することで、認識の類似性を実証しました。
本研究の上席著者であり、グラスゴー大学神経科学・技術研究所の所長であるフィリップ・シャインズ教授は、次のように述べています。「人間と同じように行動するAIモデルを構築する場合、例えば、人間と同じように人の顔を見たときにいつでも認識できるようにするためには、AIモデルが、他の人間が顔を認識するときと同じように、顔からの情報を使用するようにしなければなりません。もしAIがこれを行わなければ、システムが人間と同じように機能するように錯覚してしまい、新しい、あるいはテストされていない状況では、システムが間違ったことをしてしまう可能性があります」と述べています。
研究者たちは、修正可能な一連の3D顔を使用し、人間に、これらのランダムに生成された顔が4つの身近な人物に似ているかどうかを評価してもらいました。人間とAIが同じ判断をするかどうかだけでなく、同じ情報に基づいているかどうかも検証しました。重要なのは、今回の手法では、これらの結果を、人間とネットワークの行動を動かす3Dの顔として可視化できることです。例えば、2,000人の人物を正しく分類したネットワークは、大きく戯画化された顔によって動かされており、人間とはまったく異なる顔情報を処理して顔を識別していることがわかりました。
研究者たちは、この研究が、より人間に近い振る舞いをし、予測不可能なエラーを少なくする、より信頼性の高いAI技術への道を開くものと期待しています。
出典:TechXplore