農研機構は，判断の根拠となる画像の特徴を可視化できるAIを開発した（ニュースリリース）。
これまで，精度の向上という面で深層学習などのAIが活用されてきたが，それらのほとんどは，学習したネットワークが分類のためにどのような特徴を学習したかを解釈および説明できないブラックボックスモデルだった。
学習した特徴が明らかでないと，利用者はAIが正しい特徴を学習したか否かを判断することはできない。人間の意思決定の参考にする場合など，判断の根拠が必要となるケースが次々と出てきており，判断の根拠を説明できるAIへの社会的要請が強まっている。そこでこの研究では，学習した特徴を可視化できるAIの開発に取り組んだ。
ジャガイモの葉の画像を題材として，判断の根拠を示した上で病気か否かを判別するAIを開発した。オートエンコーダという技術を用いて，学習した特徴を可視化できる。
植物の葉の画像データから健全，病気，および共通部分の特徴を，3つの領域に分けて学習により抽出する。今回の研究では，入力のRGB画像のサイズが256×256画素であるのに対して，特徴領域は，4096次元にした。また，特徴領域の1/4が健全，1/2が共通，1/4が病気の領域と定義した。
健全の画像を入力する場合は病気の特徴領域を使用せず，病気の画像の場合は健全領域を使用せず，それぞれの特徴が対応する特徴の部分領域へ反映されるように条件付きで学習を行なう。学習の基準は，入力画像と生成画像の差とする。差が小さくなるようにオートエンコーダを学習させる。
病気および健全の特徴のみを抽出し，病気／健全葉を判別するAIに入力することで，入力画像が病気／健全葉のどちらであるかを判定することができる。
このAIについて，ジャガイモで2種類の病気について，健全な葉の画像400枚，病気の葉の画像827枚により深層学習を行なった。176枚の画像を用いて精度検証した結果，2種類の病気の両方において95%以上の高精度で診断できた。また，ピーマン，トマトの各1種類の病気についても同様の学習を行ない検証したところ，病気／健全葉の識別精度は90%を上回った。
病気葉を入力画像として，健全の特徴を使用せず生成した画像と，病気の特徴を使用しない画像を比較したところ，後者では病気の特徴が消えた画像が生成された。この結果から，特徴領域が病気か否かを説明するものであることが確認できた。
このAIは学習次第で，様々な活用が可能となる。今後，農業分野を始め，根拠が説明できるAIが必要な，広い分野での活用が期待されるとしている。
