MITの研究者らは、機械学習モデルが近道を使う傾向を抑える技術を開発しました。
これは、モデルがそれまで考慮していなかったデータ内の特徴に注目させることで実現されます。
その結果、より信頼性の高い予測と正確な結果が得られます。
ウーバーの運転手が近道をすれば、目的地に早く着くかもしれません。しかし、機械学習モデルが近道をすると、予期しない形で失敗する可能性があります。
機械学習において近道的な解決策とは、モデルがデータの本質を学習するのではなく、データセットの単純な特徴に頼って判断を下すことを指します。その結果、不正確な予測につながる可能性があります。例えば、モデルは牛の複雑な形や模様ではなく、写真に写っている緑の草に注目することで、牛の画像を識別することを学習してしまうかもしれません。
MITの研究者による新たな研究は、一般的な機械学習手法における近道の問題を検討し、モデルに判断でより多くのデータを使わせることで近道を防ぐ解決策を提案しています。
研究者らは、モデルが注目している単純な特徴を取り除くことで、それまで考慮されていなかったデータのより複雑な特徴に注目させます。次に、同じタスクを2通りの方法で解くようモデルに求めます。1つは単純な特徴を使う方法、もう1つは今や識別することを学習した複雑な特徴を使う方法です。これにより、近道的な解決策を使う傾向を抑え、モデルの性能を高めています。
この研究の応用可能性の1つは、医療画像において疾患を特定するために使われる機械学習モデルの有効性を高めることです。この文脈で近道的な解決策を使うと、誤診につながり、患者にとって危険な結果をもたらす可能性があります。
「深層ネットワークがなぜそのような判断を下すのか、特に判断の際にデータのどの部分に注目しているのかを説明するのは、今なお困難です。近道がどのように機能するかをさらに詳しく理解できれば、これらのネットワークを導入しようとしている人々にとって非常に重要な、根本的でありながら極めて実践的な問いに、さらに踏み込んで答えられるようになります」と、論文の筆頭著者であり、コンピュータサイエンス・人工知能研究所（CSAIL）の博士課程学生であるジョシュア・ロビンソン氏は述べています。
世界経済フォーラムは第四次産業革命に関して何に取り組んでいますか？
先端技術・イノベーションセンターは、科学者、政策立案者、ビジネスリーダーを結集し、新興技術とそれが現実世界にもたらす影響を見極めることを支援しています。
センターは、協働と実験を可能にすることで、パートナーが研究から生まれたイノベーションを、世界が共有する課題に対処する実践的な応用へと転換できるよう支援しています。
ロビンソン氏は、指導教員とともにこの論文を執筆しました。上級著者はスヴリット・スラ氏で、電気工学・コンピュータサイエンス学部（EECS）のEsther and Harold E. Edgerton Career Development Associate Professorであり、データ・システム・社会研究所（IDSS）および情報・意思決定システム研究所の中核メンバーです。もう1人はステファニー・イェゲルカ氏で、X-Consortium Career Development Associate Professorです 。EECSに所属し、CSAILおよびIDSSのメンバーでもあります。また、ピッツバーグ大学のカヤン・バトマンゲリッヒ助教授と、博士課程学生のリ・サン氏およびケ・ユー氏も執筆に加わっています。本研究は、12月に開催されるNeural Information Processing Systems会議で発表される予定です。
近道を理解するまでの長い道のり
研究者らは、強力な自己教師あり機械学習の一形態である対照学習に焦点を当てて研究を行いました。自己教師あり機械学習では、人間によるラベル記述を持たない生のデータを用いてモデルを訓練します。そのため、より多様なデータに対して成功裏に利用できます。
自己教師あり学習モデルは、画像分類などのさまざまなタスクの入力として使われる、データの有用な表現を学習します。しかし、モデルが近道を使い、重要な情報を捉えられない場合、これらのタスクもその情報を利用できなくなります。
例えば、自己教師あり学習モデルが、複数の病院のX線画像から肺炎を分類するよう訓練されたとします。ところが、そのモデルは、スキャンがどの病院から来たのかを示すタグ（病院によって肺炎症例の数が異なるため）に基づいて予測を行うことを学習してしまうことがあります。その場合、モデルは新しい病院のデータを与えられると、うまく機能しません。
対照学習モデルでは、エンコーダーアルゴリズムが、類似した入力のペアと非類似の入力のペアを区別するよう訓練されます。このプロセスにより、画像のような豊かで複雑なデータが、対照学習モデルが解釈できる形にエンコードされます。
研究者らは、一連の画像を用いて対照学習エンコーダーを検証したところ、この訓練過程においても近道的な解決策の罠に陥ることが分かりました。エンコーダーは、どの入力ペアが類似しており、どれが非類似かを判断する際、画像の最も単純な特徴に注目する傾向があります。イェゲルカ氏によれば、理想的にはエンコーダーは判断の際にデータのすべての有用な特徴に注目すべきだとのことです。
そこで研究チームは、類似したペアと非類似のペアの違いを見分けにくくしたところ、これによってエンコーダーが判断のために注目する特徴が変化することが分かりました。
「類似した項目と非類似の項目を識別するタスクを、どんどん難しくしていくと、システムはデータ内のより意味のある情報を学習せざるを得なくなります。それを学習しなければ、タスクを解けないからです」と、イェゲルカ氏は述べています。
しかし、この難易度を上げた結果、トレードオフが生じました。エンコーダーはデータの一部の特徴に注目するのが上手くなった一方で、他の特徴への注目は弱くなったのです。ロビンソン氏によれば、単純な特徴をほぼ忘れてしまったかのように見えたとのことです。
このトレードオフを避けるため、研究者らはエンコーダーに、ペアを元の方法で、すなわち単純な特徴を用いて識別させるとともに、研究者らがすでに学習された情報を取り除いた後にも識別させました。この2通りの方法でタスクを同時に解かせたところ、エンコーダーはすべての特徴にわたって性能が向上しました。
「暗黙的特徴修正」と呼ばれるこの手法は、エンコーダーがペアを識別するために用いている単純な特徴を取り除くよう、サンプルを適応的に修正します。この手法は人間の入力に依存しません。これは重要な点であり、スラ氏によれば、実世界のデータセットには、複雑な形で組み合わさりうる数百もの異なる特徴が含まれている場合があるからです。
自動車からCOPDまで
研究者らは、車両の画像を用いて、この手法の検証を1回行いました。暗黙的特徴修正を用いて、色、向き、車両の種類を調整し、エンコーダーが類似した画像のペアと非類似の画像のペアを識別することをより困難にしました。エンコーダーは、テクスチャー、形状、色という3つの特徴すべてにわたって、同時に正確性を向上させました。
この手法がより複雑なデータにも耐えられるかどうかを確かめるため、研究者らは慢性閉塞性肺疾患（COPD）の医療画像データベースのサンプルを用いても検証しました。ここでも、この手法は評価したすべての特徴にわたって同時に改善をもたらしました。
この研究は、近道的な解決策の原因を理解し、その解決に取り組む上で重要な一歩を踏み出したものですが、研究者らは、これらの手法をさらに洗練させ、他の種類の自己教師あり学習に適用し続けることが、今後の進展の鍵になると述べています。
「これは、ディープラーニングシステムに関する最大の疑問のいくつかに関わるものです。例えば『なぜそれらは失敗するのか』や『モデルが失敗する状況を事前に知ることはできるのか』といった問いです。近道学習を完全に一般的な形で理解したいのであれば、まだ先は長いのです」と、ロビンソン氏は述べています。
本研究は、米国国立科学財団、米国国立衛生研究所、そしてペンシルベニア州保健省のSAP SE Commonwealth Universal Research Enhancement（CURE）プログラムの支援を受けています。
