| cyqdesign |
2020-11-23 22:34 |
麻省理工的神經(jīng)網(wǎng)絡(luò)知道自己什么時(shí)候可以被信任
深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)是一種人工智能系統(tǒng)，正在被用于越來(lái)越重要的決策，例如從自動(dòng)駕駛到診斷醫(yī)療條件等各種任務(wù)。這種類(lèi)型的網(wǎng)絡(luò)擅長(zhǎng)識(shí)別大型和復(fù)雜數(shù)據(jù)集中的模式，以幫助決策。一個(gè)很大的挑戰(zhàn)是確定神經(jīng)網(wǎng)絡(luò)的判斷是否正確。麻省理工學(xué)院和哈佛大學(xué)的研究人員開(kāi)發(fā)了一種快速的方法，讓神經(jīng)網(wǎng)絡(luò)在數(shù)據(jù)中提供預(yù)測(cè)資深對(duì)其答案的信心水平。 ,~hvFTJI
*FQrmdwb]L
該項(xiàng)目的研究人員認(rèn)為，他們的系統(tǒng)可以拯救生命，因?yàn)樯疃葘W(xué)習(xí)已經(jīng)部署在現(xiàn)實(shí)世界中。 qY l%v
:;#^h] Q
目前，神經(jīng)網(wǎng)絡(luò)的不確定性來(lái)自于計(jì)算成本往往很高，而且對(duì)于瞬間的決策來(lái)說(shuō)速度太慢。研究人員設(shè)計(jì)的方法被稱(chēng)為 "深度證據(jù)回歸"，加快了這一過(guò)程，可能會(huì)帶來(lái)更安全的結(jié)果。該項(xiàng)目的研究人員表示，我們需要有能力擁有高性能的模型，并了解何時(shí)不能信任模型的結(jié)果。 dK#:io[Nz
Cz+`C9#
深度學(xué)習(xí)已經(jīng)在各種任務(wù)中表現(xiàn)出令人印象深刻的性能。在某些情況下，它已經(jīng)能夠超越人類(lèi)的準(zhǔn)確性。這些網(wǎng)絡(luò)擅長(zhǎng)在99%的時(shí)間內(nèi)找到正確的答案，但在生命攸關(guān)的情況下，任何錯(cuò)誤都是不可接受的。研究人員設(shè)計(jì)了一種使用神經(jīng)網(wǎng)絡(luò)的單次運(yùn)行來(lái)估計(jì)不確定性的方法。該網(wǎng)絡(luò)設(shè)計(jì)了一個(gè)增加的輸出產(chǎn)生一個(gè)決定和一個(gè)新的概率分布捕捉支持其決定的證據(jù)。這些分布被稱(chēng)為證據(jù)分布，直接捕獲模型對(duì)其預(yù)測(cè)的信心。
| |