要說(shuō)“AI for Science”的扛大旗者，大家也許都會(huì)首先想到 DeepMind：2018年，DeepMind 推出蛋白質(zhì)折疊結(jié)構(gòu)預(yù)測(cè)模型 AlphaFold，從氨基酸序列計(jì)算預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)，不僅為 Alpha 系列錦上添花，奠定了其在 AI 創(chuàng)新上的領(lǐng)頭羊地位，還彰顯了深度學(xué)習(xí)攻破其他領(lǐng)域難題的潛力，生物學(xué)首當(dāng)其沖。AlphaFold 出世后，“AI for biology”（將人工智能用于生物學(xué)研究）成為人工智能領(lǐng)域的研究潮流，吸引了世界各地的優(yōu)秀研究者投身其中。這不，最近谷歌便發(fā)布了用于蛋白質(zhì)解析的機(jī)器學(xué)習(xí)模型——ProtENN，登頂 Nature 子刊《Nature Biotechnology》。地址：https://www.nature.com/articles/s41587-021-01179-w值得注意的是，早在2019年，谷歌 AI 就在 bioRXiv 發(fā)過(guò) ProtENN 的預(yù)印本，不知是不是最近才被 Nature 接收？
蛋白質(zhì)結(jié)構(gòu)對(duì)生命有著至關(guān)重要的作用，了解蛋白質(zhì)的氨基酸序列（如其結(jié)構(gòu)域）與功能之間的關(guān)系是一項(xiàng)具有重大科學(xué)意義的長(zhǎng)期挑戰(zhàn)。自計(jì)算機(jī)興起，科學(xué)家們就開(kāi)始嘗試用計(jì)算工具助攻該課題。例如，被廣泛使用的蛋白質(zhì)家族數(shù)據(jù)庫(kù)Pfam便囊括了大量詳細(xì)描述蛋白質(zhì)結(jié)構(gòu)功能的計(jì)算注釋，例如珠蛋白與胰蛋白酶家族。但發(fā)展至今，目前至少仍有三分之一的微生物蛋白質(zhì)的注釋有待完善。而據(jù)谷歌 AI 的官博介紹，ProtENN的出現(xiàn)，能夠?yàn)橥晟频鞍踪|(zhì)結(jié)構(gòu)的計(jì)算注釋起到重要作用。根據(jù)谷歌 AI 介紹，他們所提出的 ProtENN 方法可以幫助在 Pfam 的蛋白質(zhì)功能注釋集中添加大約 680 萬(wàn)個(gè)條目，大約相當(dāng)于過(guò)去十年的新增條目總和，將 Pfam 的覆蓋范圍擴(kuò)大了9.5%以上。在計(jì)算機(jī)視覺(jué)中，模型通常首先用于圖像分類任務(wù)的訓(xùn)練，如 CIFAR-100，然后將其擴(kuò)展到更專業(yè)的任務(wù)，如物體檢測(cè)和定位。受此啟發(fā)，谷歌團(tuán)隊(duì)也決定開(kāi)發(fā)一個(gè)蛋白質(zhì)域分類模型，在給定蛋白質(zhì)結(jié)構(gòu)域的氨基酸序列的情況下，從 17,929 個(gè)類別（所有類別都包含在 Pfam 數(shù)據(jù)庫(kù)中）中預(yù)測(cè)單個(gè)標(biāo)簽。目前有許多模型可以用于蛋白質(zhì)結(jié)構(gòu)域分類，但當(dāng)前最前沿的方法也存在許多缺陷。首先，它們基于線性序列的比對(duì)，并且不考慮蛋白質(zhì)序列不同部分的氨基酸之間的相互作用。然而，蛋白質(zhì)不僅僅停留在一行氨基酸中，還會(huì)折疊起來(lái)，這樣不相鄰的氨基酸也會(huì)相互影響。此外，當(dāng)前最前沿的方法是將新的查詢序列與一個(gè)或多個(gè)具有已知功能的序列進(jìn)行比對(duì)。如果新序列與任何具有已知功能的序列高度不同，這種對(duì)具有已知功能的序列的依賴就會(huì)加大預(yù)測(cè)新序列功能的難度。另外，基于比對(duì)的方法需要密集的計(jì)算量，將它們應(yīng)用于大型數(shù)據(jù)集（例如包含超過(guò) 10 億個(gè)蛋白質(zhì)序列的宏基因組數(shù)據(jù)庫(kù) MGnify）時(shí)，成本會(huì)非常高昂。為了解決這些問(wèn)題，谷歌團(tuán)隊(duì)想到了使用擴(kuò)張卷積神經(jīng)網(wǎng)絡(luò)(CNN)，因?yàn)椤八浅＿m合模擬非局部成對(duì)氨基酸的相互作用，并且可以在 GPU 等現(xiàn)代 ML 硬件上運(yùn)行”。他們訓(xùn)練了一維 CNN （稱之為“ProtCNN”）來(lái)預(yù)測(cè)蛋白質(zhì)序列的分類，以及一組獨(dú)立訓(xùn)練的 ProtCNN 模型（稱之為“ProtENN”），目的是通過(guò)開(kāi)發(fā)一種可靠的機(jī)器學(xué)習(xí)方法來(lái)補(bǔ)充傳統(tǒng)的基于對(duì)齊的方法的缺陷。與其他領(lǐng)域的分類問(wèn)題相似，蛋白質(zhì)功能預(yù)測(cè)的挑戰(zhàn)不在于為任務(wù)開(kāi)發(fā)全新的模型，而更多在于創(chuàng)建公平的訓(xùn)練和測(cè)試集，以確保模型能夠?qū)床灰?jiàn)的數(shù)據(jù)進(jìn)行準(zhǔn)確的預(yù)測(cè)。由于蛋白質(zhì)是從共同的祖先那進(jìn)化而來(lái)的，因此不同的蛋白質(zhì)通常共享一大部分氨基酸序列。如果不加以注意，測(cè)試集可能會(huì)被與訓(xùn)練數(shù)據(jù)高度相似的樣本所控制，從而使模型可能僅通過(guò)簡(jiǎn)單地“記憶”訓(xùn)練數(shù)據(jù)而不是學(xué)習(xí)來(lái)泛化模型的優(yōu)異性能。為了防止這種情況，研究者必須使用多個(gè)單獨(dú)的設(shè)置來(lái)評(píng)估模型性能。在每次評(píng)估中，他們都將模型精度分層為每個(gè)保留測(cè)試序列與訓(xùn)練集中最近序列之間的相似性函數(shù)。第一個(gè)評(píng)估包括一個(gè)聚類分裂訓(xùn)練和測(cè)試集，與先前研究者提出的方法一致。其中，蛋白質(zhì)序列樣本按序列相似性進(jìn)行聚類，并將整個(gè)聚類放入訓(xùn)練集或測(cè)試集中。由此，每個(gè)測(cè)試示例與每個(gè)訓(xùn)練示例之間至少有 75% 的差異。在此任務(wù)上的出色表現(xiàn)表明，他們所提出的模型可以泛化、以對(duì)分布外的數(shù)據(jù)做出準(zhǔn)確的預(yù)測(cè)。
圖注：谷歌團(tuán)隊(duì)創(chuàng)建了一個(gè)測(cè)試集，使 ProtENN 能夠很好地泛化遠(yuǎn)離訓(xùn)練集的數(shù)據(jù)在第二次評(píng)估中，他們使用隨機(jī)拆分的訓(xùn)練和測(cè)試集，根據(jù)對(duì)樣本分類難度的評(píng)估來(lái)對(duì)樣本進(jìn)行分層。難點(diǎn)主要有兩點(diǎn)：1）測(cè)試示例與最近的訓(xùn)練示例之間的相似性；2）真實(shí)分類的訓(xùn)練示例數(shù)量（這比在僅有少量訓(xùn)練示例的情況下準(zhǔn)確預(yù)測(cè)函數(shù)要困難得多）。他們還評(píng)估了最廣泛使用的基線模型和評(píng)估設(shè)置的性能，特別是以下基線模型：(1) BLAST，一種使用序列比對(duì)來(lái)測(cè)量距離和推斷函數(shù)的最近鄰方法；(2) TPHMM 和 pmmer。每一個(gè)模型都包括基于上述序列比對(duì)相似性的模型性能分層。他們將這些基線與 ProtCNN 和 CNN 的集合 ProtENN 進(jìn)行了比較。實(shí)驗(yàn)表明，ProtENN 的泛化能力高于 ProtCNN 與兩類基線模型。
圖注：谷歌團(tuán)隊(duì)衡量了每個(gè)模型的泛化能力，從最難的例子（左）到最簡(jiǎn)單的例子（右）他們與 Pfam 團(tuán)隊(duì)合作，測(cè)試 ProtENN 是否適用于標(biāo)記真實(shí)世界的序列。實(shí)驗(yàn)證明，ProtENN 學(xué)習(xí)到基于比對(duì)的方法的互補(bǔ)信息，并創(chuàng)建了兩種方法的集合，以標(biāo)記比任何一種方法都多的序列。他們公開(kāi)發(fā)布了這項(xiàng)工作的結(jié)果——Pfam-N，其包括 680 萬(wàn)個(gè)新的蛋白質(zhì)序列注釋。目前，ProtENN 模型的架構(gòu)已在 github 上開(kāi)放。此外，他們還設(shè)計(jì)了一個(gè)交互工具 ProteInfer，用戶可以在瀏覽器中輸入蛋白質(zhì)序列，并實(shí)時(shí)獲得蛋白質(zhì)功能預(yù)測(cè)的結(jié)果：項(xiàng)目地址：https://google-research.github.io/proteinfer/AI 解析蛋白質(zhì)還能更卷嗎？大家怎么看？1.https://ai.googleblog.com/2.https://www.nature.com/articles/s41587-021-01179-w3.https://github.com/google-research/google-research/tree/master/using_dl_to_annotate_protein_universe#availability-of-trained-models雷峰網(wǎng)雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
