BLOG

【インタビュー連載】ティアゴ・ラマル, リードリサーチサイエンティスト-世界的AI企業からCogent Labsでのキャリア

InterviewsResearch

ティアゴ・ラマル(Tiago Ramalho)は、Cogent Labsのリードリサーチサイエンティストとして、メタ学習、言語のグラウンディングおよびニューラルネットワークの不確実性について研究しています。

今回のインタビューでは、主に彼の経歴(人間のプロ囲碁棋士に初めて勝利したAlphaGoを開発したDeepMind在籍時代を中心に)、AIおよび機械学習研究の現在と自身の研究との関係性、さらにはコージェントラボでの仕事状況について伺いました。

 

トピック1:キャリア – 世界的AI企業からCogent Labsへ

Q: 学生時代からのバックグラウンドについて教えてください。

大学では物理を専攻しました。昔から自然科学が好きだったのですが、特に、宇宙の物理法則に隠されたエレガントとも言うべき構造に関する研究と、難解な数学を組み合わせた物理学に強く惹かれました。ポルトガルにあるリスボン大学で物理工学の学士号を取得しています。物理工学とは、物理やプログラミングのほか、化学、電子工学、その他さまざまな分野を融合した学問です。講座の内容は非常に幅広く、理論物理学から工学など、学生がさまざまな分野に進むことを想定し、構成されていました。

その後、理論物理学に興味を持ち、ドイツのルートヴィヒ・マキシミリアン大学で修士課程に進みました。2年間、数理物理学を徹底的に勉強し、最終的には統計物理学の道に進むことになりました。初めての研究は生体系のパターン形成に関するもので、特に胚発生で幹細胞が構造化し、それぞれ分化した組織となる過程に興味を持ちました。

修士課程を修了した後、同じアドバイザーの下で博士課程に進み、統計物理学の1部門である生物物理学の分野で研究を続けました。生物学データには大量のノイズが含まれており、その仕組みも非常に複雑なため、すべてについて整合性を見出すことはとても大変な作業です。さまざまな統計法を駆使し、実験データのもつれをほぐすところから始めなければなりません。このことが、機械学習の応用について学び始めるきっかけとなりました。こうした生体システムに機械学習を応用する研究を重ねた結果、その仕組みについてより詳しく学ぶことができたのです。数年、このような研究に取り組んでいましたが、その後、研究だけの人生は自分には向いていないと判断し、Googleの子会社であるDeepMindに入社しました。

 

Q: DeepMindでの仕事はどうでしたか?

DeepMindには3年ほど勤務しましたが、その間、多くのプロジェクトに参加しました。リサーチエンジニアとして複数のプロジェクトで、プログラミングやリサーチに従事しました。最初のプロジェクトはニューラルネットワークの仕組みを調査でした。そのプロジェクトのゴールはトレーニングされたニューラルネットワークの学習方法を人が理解できるか判断することで、物理や神経科学の知識を駆使しながら、厳密な科学的アプローチを使って、非常に量子的かつ精密に物事の特徴を確認しました。

次に、言語チームに加わりました。当時は、強化学習が注目されており、与えられた言語指示や環境内で行動する学習エージェントを開発しました。これらのエージェントが本当にその行動環境を理解しているのか、また人間と同じように言語指示を目的や行動に関連付けているのか、という考えに興味を持ちました。エージェントが、言語で説明された内容を絵として再現できるのか、また反対に、絵を言語で説明できるのか観察するのです。多少の成果はありましたが、完全に普遍的なレベルまで疑問を解き明かすことはできていません。この研究分野には、今でも大きな関心を寄せています。

DeepMindで経験した最後のプロジェクトは、メタ学習に関するものでした。一般的に機械学習モデルのトレーニングでは、一定のデータセットやタスク用にパラメーターを最適なパフォーマンスを実現できるレベルに最適化します。ところがそれを実世界で応用すると、提示されたデータがトレーニング時のものと全く異なる場合があります。メタ学習のゴールは、モデルがパターンの変化に対応できるよう、提示されたデータから学習することを教えることなのです。

先日、この研究に関する詳しい情報をブログに投稿しました。

 

Q: コージェントラボに入社したばかりですが、いかがですか?

今はまだ、スタートアップ企業のスピードに慣れることで精一杯です。たくさんのことを学んでいますが、仲間とAIの研究について議論できることを楽しんでいます。

コージェントラボは研究の自由度が高く、自主的に研究課題を作成できることも魅力的でした。規模は小さいですが、ダイナミックなAIスタートアップ企業で働くことで、成長する機会をたくさん与えてもらっていると感じています。最先端のAI研究・応用し、人々の役に立つ製品を実現するという課題に取り組んでいます。

 

Q: これまで、学校や職場から、どのような教訓を得ましたか?

博士課程でいくつか重要な教訓を得ました。1つは、常にチェックしながら作業を進める、ということです。あるアイデアをコードに実装する場合、コードのどこかに必ずミスや論理エラーが発生します。実装が完了した部分を慎重にテストし、これまでの作業が正しくできていることを入念にチェックすることが重要です。

また、実験の設計も重要で、非常に慎重に行う必要があります。ここで工学の知識が役に立ちます。大規模なプログラムを開発するのではなく、テストが可能なくらい、細かいモジュールに分割するのが良いと思います。そうすることで、ユニットテストを書き、問題のない部分と問題のある部分を識別することができるようになります。

同様に、実験を設計する際は、使い捨てコードは使わない方が良いと思います。積分の計算用にコードを複数書き、それぞれのコードが混ざった状態にしておくと仮定します。その後、その積分計算を変更したくなった場合、実験全体を変更しなければならなくなり、新たなバグを発生させる可能性を広げてしまいます。ところが、個々のコードをを明確に切り離しておけば、イタレーションを素早く、簡単に行うことができます。モデルを適切に設計するには初期投資が必要な場合も多いのですが、一度払ってしまえば、イタレーションのスピードは遥かに向上します。このように順序良く行えば、研究をスムーズに進め、コストのかかるミスやすべてを書き直す手間を回避することができます。

また、研究のゴールをしっかり理解する重要性についても学びました。大量の論文を読んだ結果、何らかの面白そうなアイデアを思いつき、それに膨大な時間を使ったものの、結局、その研究には何の意味もないと悟るといったことはよくあります。私は研究を始める前、人々に何を伝えたいのか、またその研究から人々は何を得られるのかについて考えることが重要だと学びました。こうすることにより、アイデアの不要な部分が一瞬で整理されます。そのアイデアは大規模な知識ベースに貢献するもので、また人々が基盤とするに足るものなのか?それとも、面白いものの、基盤とするには根拠に乏しいものなのか?そうであるなら、その研究を行う意味はあるのか?同様の原理はビジネスにも当てはまります。人々は、このアイデアを実装した製品を買うのか?このように考え続けることが重要なのです。

 

もちろん、DeepMindでも、たくさんのことを学びました。非常に厳格な工学文化を持つ企業であったため、ソフトウェアの品質関連で、拡張性のある機械学習システムの設計に役立つさまざまな学びを得ました。機械学習の仕事に取り組むにあたり、確かな数学と工学スキルを両方持ちあわせていることが如何に重要であるかを学びました。これこそ、機械学習分野への参入がこれほど難しく、機械学習研究者の需要は高いものの、供給が不足している理由だと思います。

幸運にも、私には自然科学の学歴があるだけでなく、昔から個人的にコンピューターに触れていたため、これら両方のスキルを持ち合わせていました。確かな数学的土台に技術的ノウハウを組み合わせることが、AIと自動化の時代に非常に有利であることは、多くの人が認識し始めていることです。この現実が、さらに教育現場に反映されることを願います。

また、一人だけで作業を進めることは不可能であるという重要な学びもありました。機械学習では、グループとしての協業・協力が必要です。機械学習は1人の天才が作れるものではありません。さまざまな動的要素を一つにまとめるという非常に複雑なシステムであるため、チームで取り組む必要があります。力を合わせ、共通の目標を見つける必要があります。

DeepMindでは、部下の指導に加え、個別に成果を生むだけでなく、互いの研究に貢献できるように、同僚にも協力を呼びかけ、共通のプロジェクトで一丸となる重要性について伝えなれければなりませんでした。そのためには、他者のアイデアに耳を傾け、自分のアイデアに対する異論を受け入れる、風通しのよい文化が必要です。色々な方法を試して、実際に成功や失敗を確認し、その結果に従うべきです。また、色々試してみること、失敗すること、その失敗を素直に認めることを恐れないことを仲間に伝え、自信を持たせることも重要です。

 

Q: ご自身のキャリアで長期的に目指している目標はありますか?

私の目標は、機械学習の分野を大きく発展させることです。私にとって、キャリアアップは優れた研究成果を実現することの二の次です。優れた研究成果を出せば、キャリアも上がると思います。キャリアが先ではありません。野心的な研究目標に向かって邁進し、重要であると考える事柄に取り組み、AIシステムの発展に貢献できるアイデアを追及していきたいと思います。そうすれば、キャリアは自ずとついてくるものです。

この記事をシェア

RSS