?
? ? ? ?復(fù)旦大學(xué)高分子科學(xué)系張紅東教授、李劍鋒副教授與加拿大滑鐵瀘大學(xué)陳征宇教授合作,在深度學(xué)習(xí)與物理研究交叉領(lǐng)域取得新進(jìn)展,提出了一種全新的概念表征方法。近日,研究成果以《用強關(guān)聯(lián)神經(jīng)網(wǎng)絡(luò)進(jìn)行結(jié)構(gòu)預(yù)測與反向設(shè)計》(“Structural Prediction and Inverse Design by a Strongly Correlated Neural Network”)為題發(fā)表于《物理評論快報》(Physical Review Letters 123, 2019, 108002)。
? ? ? ?將深度學(xué)習(xí)或神經(jīng)網(wǎng)絡(luò)運用于研究自然語言或其它學(xué)科時,首先需要對涉及的一些概念(詞或物理實體)進(jìn)行恰當(dāng)?shù)?、充分的表征。之前,人們大多采用靜態(tài)熱點表征(One-Hot Encoding)或向量表征(Vector Representation),此兩種表征方式雖可描述概念的特征,卻不能反映環(huán)境對其屬性之影響,亦不能體現(xiàn)概念的功能。
? ? ? ?“因此,我常在想:大腦是不是真的用一個靜態(tài)的向量來表達(dá)概念與物理實體呢?我覺得不一定,比如我們說自行車時,這個概念本身它應(yīng)該自帶‘構(gòu)造’,另外它跟環(huán)境有關(guān)系。在不同光線下其形象應(yīng)該是有差別的。因此,我們想把概念的表示從向量提升成算符,做個升級?!?李劍鋒表示。
? ? ? ?據(jù)此想法,團隊創(chuàng)造性地提出用算子表示概念表示實體的思想。具體而言,用一個個子神經(jīng)網(wǎng)絡(luò)來表示一個個物理實體:網(wǎng)絡(luò)的輸入相當(dāng)于物理實體所處的環(huán)境,網(wǎng)絡(luò)的輸出表示在此環(huán)境下物理實體展現(xiàn)的物理屬性。
? ? ? ?物理實體所處的環(huán)境再由其它實體的物理屬性聯(lián)合決定,通過這種自洽迭代形成物理屬性與環(huán)境的強關(guān)聯(lián),從而極大地提高神經(jīng)網(wǎng)絡(luò)預(yù)測的準(zhǔn)確性。該方法目前被運用于HP蛋白質(zhì)模型的預(yù)測與反向設(shè)計中,取得良好的效果;他們發(fā)現(xiàn)新方法特別適合解決涉及簡并度的問題。
? ? ? ? ? ? ? ? ? ? ??
? ? ? ?文章鏈接:https://journals.aps.org/prl/abstract/10.1103/PhysRevLett.123.108002
?
版權(quán)與免責(zé)聲明:本網(wǎng)頁的內(nèi)容由收集互聯(lián)網(wǎng)上公開發(fā)布的信息整理獲得。目的在于傳遞信息及分享,并不意味著贊同其觀點或證實其真實性,也不構(gòu)成其他建議。僅提供交流平臺,不為其版權(quán)負(fù)責(zé)。如涉及侵權(quán),請聯(lián)系我們及時修改或刪除。郵箱:sales@allpeptide.com