XAI（説明可能なAI）を実現する手法：ポッドキャスト抜粋

AIのタスクが複雑化する中で必要性が大きく増大している「説明可能なAI (XAI=explainable AI)」について、クーガーCEO石井敦とマーケティング羽入田新が語ります。


羽入田：私も最近「XAI」という言葉を聞く機会が増えました。XAIというものの概念、その言葉が意味する目的・背景といったところについて、石井さんのお考えをお聞かせください。

石井：まずAIには高い精度と機能が求められます。それがAIの価値となります。普通のソフトウェアは、プログラミングしてこういうときにこう動く、というような設計ありきのものなので、想定の範囲内、つまり説明可能なわけです。これに対してAIは統計的な技術を使って開発者の想定以上のことを実行させることが目的であるため、説明が困難であるという現状があります。

開発者が分かっている範囲内で精度が上がったとしても、もしテストで得られていたものとまったく違うデータが出てきて予想していない動きをする可能性は常にあります。そのときにXAIの存在意義が出てくるわけです。ビッグデータとか、統計で参照できる情報の場合はさほど問われませんが、AIの判断結果がそのまま実行されるとか、そのまま何かに反映されるようなプロダクトが増えてくるに従ってXAIのニーズが急速に上がってきているのだと思います。

羽入田：なるほど。ユーザーがAIが提案してきたものを最終的に受け入れるかどうかを選べるプロダクトかどうか、というところも違いとしてはあるのですね。

石井：そうですね。AIがユーザーの業務サポート的な存在で、最終判断が人間に委ねられているような場合はAIの提案結果の納得性を判断して人間が実行するので、説明可能かどうかはさほど問題にはならないですね。

羽入田：いつも運転しているコースをドライブするとき、カーナビが今日だけ全然違うコースを提案してきたのでおかしいと思って調べてみると、大渋滞しているとか、工事をしているとか、理由がわかって「ああなるほどね」と納得して、それを受け入れるというような場合にはいちいちXAIはいらないですもんね。

石井：そうですね。その瞬間になぜなのかを説明するのではなく、AIが判断や提案をする際にその構造自体を理解できるようにする、そういったことがXAIに求められているのだと思います。

羽入田：分かりました。では、ユーザーが最終判断を下さないAIの実例・事例というとどういったものがあるのでしょうか？

石井：典型的なものとしては自動運転が挙げられます。あとロボット、ドローン等もそうでしょうね。

羽入田：工場のオートメーションにまつわる何かとか。

石井：そうですね。あとは医療系も今後は必要になりますね。そういったAIが実行に移すというようなものは、説明可能であることがどんどん重要になってくると思います。

羽入田：AIが実行に移すもので、人命とか人の安全に関わるようなものであればあるほどXAIが必要になってくるということですね。

石井：言い方を変えると、例えば自動運転の車に搭載されているAIはどんどん進化していくのが前提なわけですから、そのベースにあるものは何をもって信用できるのか、というような定義がないと、蓄積や学習もできなくなってしまいますから、必須ということですね。

羽入田：AIの思考はブラックボックスというか、ユーザーには見えない部分があるので、そこを説明可能にするというのは、技術的にあるいは概念的に、さらにUIの見た目的な部分も含めてですが、どのように開発を進めてゆくのがベストなのでしょうか？

続きはポッドキャスト本編でお聴きください！