宿題ヘルパー
イーロン・マスクやピーター・ティールらテクノロジー界の大物が設立した人工知能研究企業OpenAIは、これまでで最も先進的な言語処理アルゴリズムの開発に成功したと発表している。
サンプル出力からは、このAIシステムが画期的な前進であることがうかがえ、文脈やニュアンスに富み、ユーモアに近いものさえ生み出している。実際、あまりに優れているため、OpenAIは研究者たちが悪用されることを懸念しているとして、コードを一般に公開しないとしている。新しいブログ記事によると。
ユニコーン・バレー
このアルゴリズムであるGPT-2は、約800万のウェブページで学習させたという。新たな研究によると。プロンプトが与えられると、GPT-2は、読み込んだウェブサイト上でそれらの単語がどのように使われてきたかに基づいて、次に来る単語を予測する課題を担う。最終的に、このアルゴリズムは、言語の文脈的知識を備えたAIを構築しようとする過去の試みよりも、はるかに一貫性のある文章を生み出す。過去の試みより。
ブログでOpenAIの研究者たちは、GPT-2が約半分の確率でしか機能しないことを認めている。しかし、チームがブログ記事で紹介した例文は非常に巧みに書かれているため、人間が書いたものかどうかを見分けることは難しいだろう。
ある例では、研究者たちは架空の新聞記事の冒頭を提示して、アルゴリズムに続きを書かせた。その記事は、ユニコーンを発見した科学者についてのものである。
「衝撃的な発見として、科学者たちは、アンデス山脈の、これまで未踏査だった人里離れた谷に暮らすユニコーンの群れを発見した。研究者たちにとってさらに驚くべきことに、そのユニコーンは完璧な英語を話した」と研究者らは記している。
AIが書いた物語には時折不具合や支離滅裂な文もあるが、概ねアルゴリズムはかなりうまく書けていた。
「科学者はこの集団を、その特徴的な角にちなんで『オヴィッドのユニコーン』と名付けた。この四本角で銀白色のユニコーンは、これまで科学に知られていなかった」。この記事の最初の段落はそう述べており、AIが書いた九つの段落のうちの一つである。その中には、架空の科学者による作り話の引用を含むものもある。
ClosedAI
もっとも、すべてがユニコーンと発見の話というわけではない。OpenAIは、アルゴリズムが誤解を招くニュース記事の生成や、人物へのなりすまし、その他の怪しい行為に容易に利用されかねないとして、GPT-2を社内に留める判断をした。
Wired はGPT-2を試しプロンプトとして「ヒラリー・クリントンとジョージ・ソロス」という言葉だけを与えたところ、OpenAIのアルゴリズムは、信頼性の低い右派のウェブサイトに定期的に現れるような、政治的陰謀論のたぐいのナンセンスな文章を生み出した。
「悪意を持つ者が、質の高い偽ニュースを生成できるようになる可能性がある」と、OpenAIのエンジニアリング担当副社長であるデイヴィッド・ルアンはWiredに語った。
