コロナウイルスタンパク質配列を1024次元に埋め込むとはどういうこと？

近年、バイオインフォマティクスの分野で急速に注目を集めているのが、タンパク質配列をベクトル表現に変換するための大規模言語モデル "ProtTrans" です。私たちのプロジェクトでも、DeepPurpose を COVID-19 スクリーニング用に改造する際に、この ProtTrans を核となる構成要素の一つとして導入しました。今回は、ProtTrans とは何か、なぜそれが私たちにとって重要なのかを、一般読者の方にもわかりやすくご紹介します。

ProtTransとは何か？

ProtTrans は、自然言語処理（NLP）の技術を応用して、タンパク質のアミノ酸配列を理解し、意味的なベクトルに変換するAIモデル群の総称です。特に "prot_t5_xl_uniref50" というバージョンは、数千万件以上のタンパク質配列を学習データとして訓練された超大型モデルであり、Transformer 系の構造を採用しています。

このモデルは、ドイツのミュンヘン工科大学（TUM）とロストック大学（University of Rostock）によって共同開発されました。ProtTrans は、特定の病原体や疾患に特化したモデルではなく、あらゆるタンパク質配列を言語のように学習し、構造・機能の推定や予測に幅広く応用できる「汎用タンパク質エンベディングモデル」です。

このモデルは、従来のバイオインフォマティクス手法よりもはるかに高精度に、配列の構造的・機能的特徴を捉えることができ、"タンパク質の言語モデル" とも呼ばれています。

なぜ重要なのか？

私たちは、SARS-CoV-2 の全29タンパク質（構造タンパク質＋非構造タンパク質）を対象として、自然化合物との親和性をスクリーニングするためのAIを構築しています。

しかし、従来のDeepPurposeではタンパク質配列を単なる文字列として扱っており、その構造的な意味や、立体構造上の部位差などをうまく捉えることができませんでした。

ProtTrans を導入することで、

• タンパク質配列 → 1024次元のベクトル表現に変換

• PCAで512次元に圧縮し、効率的に学習・推論に使用

• 構造の類似性や活性部位の情報をベクトル空間で保持

という高度な表現が可能となり、SARS-CoV-2のような新興ウイルスでも、事前に3D構造が判明していない状態であっても予測精度を飛躍的に高めることができます。

ProtTransの応用例

私たちの用途以外にも、ProtTransは次のような分野で応用が期待されています：

• 新規タンパク質の機能予測（創薬・バイオテック分野）

• 構造予測（AlphaFoldとの併用）

• 抗体設計、酵素改変などのプロテインエンジニアリング

• 病原体検出や変異解析（パンデミック時の活用）

実際、いくつかの製薬企業では、既にProtTrans系モデルを取り入れた創薬探索が始まっているとの報告もあります。

おわりに

私たちは、「SARS-CoV-2 タンパク質 × 自然化合物」のスクリーニングAIにおいて、ProtTrans によって得られたベクトル表現を活用することで、従来にない予測の質と柔軟性を手に入れました。