言語にはそれぞれ固有の音素、すなわち話し言葉を構成する基本的な音声単位の集合がある。数え方によって異なるが、英語には35から45の音素がある。言語の音素を把握することは、自動化システムが音声を解釈することを学習するうえで、はるかに容易になりうる。
2015年の Transactions of the Association for Computational Linguistics』誌に掲載された論文で、MITの研究者らは、これまでのいくつかのシステムと同様に話し言葉の単語を区別することを学習できる新たな機械学習システムを提示している。ただし、従来のシステムとは異なり、音節や音素といったより低次の音声単位を区別することも学習できる。
そのため、このシステムは、広く話されておらず、音声体系について数十年にわたる言語学的研究の恩恵を受けていない言語の音声処理システムの開発に役立つ可能性がある。また、より低次の音声単位に関する情報は話者ごとの発音の違いを解消するのに役立ちうるため、音声処理システムの移植性を高めることにも寄与しうる。
たとえば今日のスマートフォンの音声認識アルゴリズムにつながった機械学習システムとは異なり、MITの研究者らのシステムは教師なし学習であり、生の音声ファイルに直接作用する。人間の専門家による訓練データの手作業による注釈付けには依存しない。そのため、新たな訓練データのセットや新しい言語へ拡張することは、はるかに容易である可能性がある。
最後に、このシステムは人間の言語習得に関する洞察をもたらす可能性もある。「子どもが言語を学ぶとき、まず書き方を学ぶわけではありません」と、MITでコンピュータサイエンス・工学の博士号を昨年取得し、本論文の筆頭著者であるチア・イン・リー氏は語る。「子どもは言語を直接音声から学びます。パターンを観察することで、言語の構造を理解できるのです。私たちの論文が目指しているのも、まさにそれです。」
リー氏は この論文 で、かつての博士論文指導教員であるジム・グラス氏(コンピュータ科学・人工知能研究所の上級研究科学者、音声言語システム・グループの責任者)と、MIT脳・認知科学部のポスドク研究員ティモシー・オドンネル氏の共同執筆を得ている。
形が見えてきた
研究者らのシステムは学習データへの注釈付けを必要としないため、一貫した結論を導くには、データの構造について若干の前提を置く必要がある。その一つは、音声における単語の出現頻度が、べき乗分布として知られる標準的な分布に従うというものである。これは、少数の単語が非常に頻繁に出現する一方で、大多数の単語はまれにしか出現しないことを意味する。これがいわゆる「ロングテール」という統計的現象である。その分布の正確なパラメータ(最大値と減衰の速度)は不明だが、一般的な形状は仮定されている。
しかし、このシステムの性能の鍵は、リー氏が「ノイジーチャネル」モデルと表現する音声の変動性のモデル化にある。英語の音素は50未満かもしれないが、単一の話者の発話においてさえ、いずれの音素も広範囲にわたる音に対応しうる。たとえばリー氏は、「『t』が単語の語頭にあるか語末にあるかによって、音声的な実現が異なる場合がある」と述べている。
この現象をモデル化するため、研究者らは 通信理論の概念を借用した。研究者らは音声信号を、何らかの劣化要因の影響を受けるノイズの多い経路を通じて送られた、完全に規則的な音素の系列として扱う。機械学習システムの目的は、「受信された」音、すなわちノイズによって劣化した可能性のある音と、それに対応する音素との間の統計的相関を学習することである。たとえば、ある音が「t」音素に対応する確率は85パーセントである一方、「d」音素に対応する確率は15パーセントである、といった具合だ。
「2つのモデルを比較しました。一方は音声の変動性をモデル化するもの、他方はモデル化しないものですが、その差は非常に大きいのです」とリー氏は語る。
研究者らは、MITで行われた講義の6種類の録音でシステムを検証し、各講義で最も頻繁に使われた単語を正確に特定できることを確認した。ただし、いくつかの逸脱も見られた。講義の一つ(講師は ニューヨーク・タイムズ 紙のコラムニスト、トーマス・フリードマン氏)を分析した際、システムは「open university」を一語であると結論づけた。
これはおそらく、フリードマン氏がこの語を繰り返し使用しただけでなく、その構成要素のいずれもほとんど使わなかったためと思われる。「システムが『open』と『university』を個別に観測していれば、この二つが二つの単語であることを発見できたかもしれない」とリー氏は語る。
「最近の実験研究は、乳児が音素と単語を同時に学習していることを示している」と語るのは、パリのEcole des Hautes Etudes en Sciences Socialesと関連する認知・心理言語科学研究所のエマニュエル・デュプー所長だ。「しかしこれまで、機械学習的手法を用いてこの二つのレベルの相互作用をモデル化した研究は、ほんの一握りにすぎない。
「これまでの研究は、相互作用の片側、すなわち音素から単語へ、またはその逆のいずれかしか研究してこなかったか、あるいは相互作用全体をモデル化した場合でも、問題の『おもちゃ』版、つまりわずかな音素と単語のみを対象とする簡易版にとどまっていた。グラス氏とリー氏の研究は、大規模な音声コーパスを用いて、相互作用全体に大規模に取り組んだ初めての研究である。これを実現する技術的困難は極めて大きく、したがって彼らの成果は真の離れ業と言える。」
本記事は MIT Newsとの協力により掲載されている。MIT News。掲載は世界経済フォーラムによる見解の支持を意味するものではない。
アジェンダの最新情報を把握するには、 週刊ニュースレターにご登録ください。
著者:ラリー・ハーデスティ(MITニュース・オフィス)
画像:東京で開催された、サービスロボット製造技術の展示会「ROBOTECH」において、音声認識機能を用いて声に反応して表情を見せる、Raytronのコミュニケーションロボット「Chapit」。REUTERS/Kim Kyung-Hoon



