冷泉港實驗室開發(fā)了一種新方法，通過測試機器學習程序來判斷哪些規(guī)則是它自己學會的，以及這些規(guī)則是否正確。
研究發(fā)表在《PLOS計算生物學》上，標題為“Global importance analysis:An interpretability method to quantify importance of genomic features in deep neural networks”(全局重要性分析:一種量化深度神經網絡中基因組特征重要性的可解釋性方法)。
人工智能算法雖然是人類制定的，但是人類制定的算法只是教會它怎么學習解決問題，而怎么解決問題，是人工智能自己“思考”出來的。因此在解決問題上，研究人員往往不知道這些機器為自己制定了什么規(guī)則。
研究團隊開發(fā)了一種名為“全局重要性分析”(Global Importance Analysis)的新方法，用來測試他們分析RNA的深度神經網絡算法生成了哪些規(guī)則來做出預測。他向經過訓練的網絡展示了一組精心設計的合成RNA序列，其中包含了科學家們認為可能影響算法評估的不同基序和特征的組合。
他們發(fā)現(xiàn)，神經考慮的不僅僅是一個簡短的主題的拼寫。它決定了RNA鏈如何折疊并與自身結合，一個基序與另一個基序有多近，以及其他特征。
