| cyqdesign |
2022-07-16 23:38 |
新研究有望讓人工智能更“理解”人類
我國(guó)科學(xué)家牽頭進(jìn)行的一項(xiàng)研究，在讓人工智能快速識(shí)別人類的價(jià)值意圖方面取得突破，可在復(fù)雜任務(wù)中提高人機(jī)協(xié)作的效率。研究成果日前已由國(guó)際學(xué)術(shù)期刊《科學(xué)·機(jī)器人學(xué)》在線發(fā)表。 &tf(vU;,'
/:{4,aX2
該研究由北京通用人工智能研究院教授朱松純帶領(lǐng)的團(tuán)隊(duì)完成。研究團(tuán)隊(duì)提出了一種人機(jī)雙向價(jià)值對(duì)齊的合作框架，并展示了機(jī)器人如何與人類用戶通過實(shí)時(shí)溝通完成一系列復(fù)雜的人機(jī)協(xié)作任務(wù)。 }kItVx
G,B4=[Y
科學(xué)家一直試圖讓人工智能學(xué)習(xí)人類的認(rèn)知推理能力，進(jìn)而學(xué)習(xí)理解人類的意圖，并執(zhí)行人類真正在意的價(jià)值需求。但目前廣泛應(yīng)用的人工智能系統(tǒng)，往往只能機(jī)械地按照人類給定的任務(wù)行事。 79}jK"Gc
-F*vN'
“如果一個(gè)任務(wù)的目標(biāo)可以被清晰地描述出來(lái)，那么讓人工智能理解任務(wù)背后的價(jià)值需求并不困難�！闭撐墓餐髡摺⒈本┩ㄓ萌斯ぶ悄苎芯吭貉芯繂T鄭子隆表示，然而生活中充滿大量很難定義目標(biāo)的任務(wù)。例如，一杯咖啡在不同人心中意味著不同的飲料，當(dāng)人類用戶跟人工智能說“我要一杯咖啡”時(shí)，需要人工智能搞清楚究竟要的是什么咖啡，也就是與人類“對(duì)齊價(jià)值”。 Dm}M8`|X
5}w
據(jù)介紹，研究團(tuán)隊(duì)提出了一個(gè)基于即時(shí)雙向價(jià)值對(duì)齊模型的可解釋人工智能系統(tǒng)。在該系統(tǒng)中，一組機(jī)器人通過與人類的實(shí)時(shí)溝通來(lái)快速推斷人類用戶的價(jià)值目標(biāo)，同時(shí)通過“解釋”將其決策過程傳達(dá)給用戶，讓用戶了解機(jī)器人做出判斷的價(jià)值依據(jù)。此外，該系統(tǒng)通過推測(cè)人類用戶的內(nèi)在價(jià)值偏好，生成更容易理解的解釋。 h
| |