国产日韩欧美一区二区三区综合-国产日韩欧美在线-国产日韩欧美在线播放-国产日韩欧美在线观看-国产日韩欧美在线观看不卡-国产日韩欧美在线视频免费观看

機(jī)器人新算法 讓人工智能更安全

  在經(jīng)歷了幾十年起起伏伏的發(fā)展后,人工智能終于開始為公司企業(yè)帶來實(shí)實(shí)在在的價(jià)值了。近日,麥肯錫發(fā)布了報(bào)告指出,新進(jìn)入人工智能領(lǐng)域的公司將學(xué)習(xí)到早期進(jìn)入這一領(lǐng)域的巨頭在投資以及創(chuàng)造價(jià)值上面的豐富經(jīng)驗(yàn)。新技術(shù)開啟新應(yīng)用,但也會(huì)帶來新的風(fēng)險(xiǎn)。應(yīng)用高新技術(shù),必須注意新技術(shù)帶來的危險(xiǎn)。因此,最近OpenAI和DeepMind的研究人員希望利用一種能從人工反饋中學(xué)習(xí)的新算法,使人工智能更安全。

機(jī)器人新算法 讓人工智能更安全

  這兩家公司都是強(qiáng)化學(xué)習(xí)領(lǐng)域的專家。強(qiáng)化學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支,即在給定的環(huán)境下,如果人工智能系統(tǒng)做出正確行為,那么就給予獎(jiǎng)勵(lì)。目標(biāo)通過算法來制定,而人工智能系統(tǒng)通過編程去尋求獎(jiǎng)勵(lì),例如在游戲中贏得高分。

  在教會(huì)機(jī)器玩游戲,或是通過模擬來駕駛無人車的場景下,強(qiáng)化學(xué)習(xí)非常成功。這種方法在探索人工智能系統(tǒng)的行為時(shí)非常強(qiáng)大,但如果編死的算法出現(xiàn)錯(cuò)誤,或是產(chǎn)生不必要的副作用,那么也可能非常危險(xiǎn)。

  發(fā)表至arXiv的一篇論文描述了一種新方法,有助于預(yù)防此類問題。首先,人工智能系統(tǒng)在環(huán)境中產(chǎn)生隨機(jī)行為,預(yù)期的獎(jiǎng)勵(lì)基于人工判斷,而這將被反饋至強(qiáng)化學(xué)習(xí)算法,以改變?nèi)斯ぶ悄芟到y(tǒng)的行為。

  研究人員將這種技術(shù)應(yīng)用至一項(xiàng)訓(xùn)練任務(wù)。關(guān)于人工智能行為的兩段視頻被發(fā)給人工,而人工將判斷哪種行為干得更好。

  通過這種方式,人工智能系統(tǒng)可以逐漸學(xué)會(huì)如何追逐獎(jiǎng)勵(lì),通過更好地解釋人工的評(píng)判來學(xué)會(huì)達(dá)成目標(biāo)。這樣的強(qiáng)化學(xué)習(xí)算法會(huì)調(diào)整自身的行為,并不斷尋求人工的認(rèn)同。

  在這項(xiàng)任務(wù)中,人工評(píng)判者只花了不到1小時(shí)時(shí)間。然而對(duì)于更復(fù)雜的任務(wù),例如做飯或發(fā)送電子郵件,那么還需要更多的人工反饋。這樣做可能是不經(jīng)濟(jì)的。

  論文的共同作者、OpenAI研究員達(dá)里奧.阿莫德伊(DarioAmodei)表示,減少對(duì)人工智能系統(tǒng)的監(jiān)督是未來可能專注的一個(gè)研究領(lǐng)域。

  他表示:“從廣義上說,半監(jiān)督學(xué)習(xí)技術(shù)在這里可能會(huì)有幫助。另一種可能的選擇是提供信息密集的反饋形式,例如語言,或者讓人工指向屏幕的特定部分,以代表良好行為。信息更密集的反饋或許將幫助人工減少與算法溝通的時(shí)間。”

  研究員在其他模擬機(jī)器人和Atari游戲中測試了他們的算法。結(jié)果表明,機(jī)器某些時(shí)候可能取得超人的成績。不過,這在很大程度上依賴人工的評(píng)判能力。

  OpenAI在博客中表示:“關(guān)于什么行為是正確的,我們算法的表現(xiàn)與人工評(píng)判者的直覺一樣好。但如果人工對(duì)于任務(wù)沒有很好的把握,那么可能就無法提供較多有幫助的反饋。”

  阿莫德伊表示,目前的結(jié)果僅限于非常簡單的環(huán)境。不過,對(duì)于那些獎(jiǎng)勵(lì)難以量化的任務(wù),例如駕駛、組織活動(dòng)、寫作,以及提供技術(shù)支持,這可能會(huì)很有幫助。

澳博機(jī)器人微信公眾號(hào)
掃一掃
分享到朋友圈
或者
手機(jī)上繼續(xù)看
主站蜘蛛池模板: 亚洲毛片免费视频 | 亚洲精品一二三四区 | 深夜网站在线 | 修修视频在线观看 | 黄色网址亚洲 | 国产一国产一级毛片视频 | 免费一级成人毛片 | 亚洲免费在线看 | 亚洲一区二区中文 | 日本a∨在线观看 | 国产午夜永久福利视频在线观看 | 最猛黑人xxxⅹ黑人猛交 | 国产中文字幕在线免费观看 | 香蕉tv亚洲专区在线观看 | 久久婷婷激情 | h片在线观看网站 | 亚洲精品国产第一区二区图片 | 91国语精品自产拍在线观看一 | 草草在线观看视频 | 综合婷婷丁香 | 久久穴| 香蕉九九| 国产91在线精品 | 毛片大片免费看 | 99这里有精品视频 | 老子影院午夜伦手机不卡无 | 色姑娘综合 | 亚洲欧美久久精品 | 欧美成人毛片一级在线 | 97精品国产自在现线免费 | 特黄特级a级黄毛片免费观看多人 | 伊人精品视频一区二区三区 | 日韩欧美亚 | 美女在线视频观看影院免费天天看 | 欧美激情毛片 | 999成人国产精品 | 国产亚洲精品久久综合影院 | 欧美成人性色生活片天天看 | 五月天在线免费视频 | 久久天天操 | 国产人做人爱免费视频 |