-
聯(lián)系電話:
-
153 2226 0625(韋先生)
-
183 0661 7892(王先生)
-
159 9995 6247(李小姐)
-
020-32859809
-
郵箱:
-
wcf@penghua888.com
ph686@penghua888.com
-
eugenia@penghua888.com
-
公司地址:
廣州市增城區(qū)新塘鎮(zhèn)民營工業(yè)區(qū)民營西一橫2號
- 立即咨詢
新聞資訊
NEWS CENTER
聯(lián)系我們
CONTACT US
聯(lián)系我們
-
聯(lián)系電話:
-
138 2226 0625(韋先生)
-
183 0661 7892(王先生)
-
159 9995 6247(李小姐)
-
020-32859809
-
郵箱:
-
wcf@penghua888.com
ph686@penghua888.com
-
eugenia@penghua888.com
-
公司地址:
廣州市增城區(qū)新塘鎮(zhèn)民營工業(yè)區(qū)民營西一橫2號
- 立即咨詢
人類玩德州撲克也撲街了?Facebook開發(fā)玩德州撲克的AI
- 分類:公司新聞
- 作者:
- 來源:
- 發(fā)布時間:2021-01-07 08:32:28
- 訪問量:
【概要描述】 近年來人工智能發(fā)展迅猛,很多重復性的工作都被AI自動化了,人類工作要被機器替代的說法也「甚囂塵上」,而現(xiàn)在,打打撲克也不行了?最近,F(xiàn)acebook 的研究人員開發(fā)了一個名為「Recursive Belief-based Learning」(ReBeL)的通用人工智能框架,德州撲克玩的相當溜。根據(jù)Facebook的說法,這個框架在單挑無限制的德州撲克游戲
近年來人工智能發(fā)展迅猛,很多重復性的工作都被AI自動化了,人類工作要被機器替代的說法也「甚囂塵上」,而現(xiàn)在,打打撲克也不行了?
最近,F(xiàn)acebook 的研究人員開發(fā)了一個名為「Recursive Belief-based Learning」(ReBeL)的通用人工智能框架,德州撲克玩的相當溜。
根據(jù)Facebook的說法,這個框架在單挑無限制的德州撲克游戲中明顯優(yōu)于人類表現(xiàn),而且使用的領(lǐng)域知識比之前任何撲克人工智能都要少。
他們斷言 ReBeL 是開發(fā)通用多代理交互技術(shù)的一種方法,該算法可以部署在大規(guī)模、多代理環(huán)境中,預期的應用范圍也很廣,從拍賣、談判、網(wǎng)絡安全到自動駕駛都能用上。
AlphaZero在不完全信息游戲中表現(xiàn)「差點意思」
目前,將強化學習與搜索相結(jié)合,在人工智能模型訓練和測試方面,已經(jīng)取得了一些進展。
強化學習代理是通過最大化回報來學習的,而搜索是從開始到目標狀態(tài)的導航過程。例如,DeepMind 的 AlphaZero 使用強化學習和搜索技術(shù)在國際象棋、圍棋等游戲中實現(xiàn)了SOTA效果。
但是之前的組合方法在應用于不完全信息的游戲如撲克(甚至是石頭、剪子、布)時就不那么奏效了,因為它做出了一些在這種情況下不成立的假設(shè)。
任何給定動作的價值取決于它被選擇的概率,更一般地說,取決于整個游戲策略,而圍棋游戲的搜索空間是有限的,并且每一個動作的價值可以在被選之前評估出來。
基于信念的遞歸學習擊敗頂尖人類玩家
ReBeL將「游戲狀態(tài)」的概念進行了擴展,它包括了代理基于常識和其他代理的政策對他們可能處于何種狀態(tài)的置信度。
ReBeL通過自我強化學習訓練了兩個網(wǎng)絡:一個價值網(wǎng)絡和一個政策網(wǎng)絡。它在自我對弈中使用兩種模型進行搜索。結(jié)果是一種簡單,靈活的算法,研究人員聲稱該算法能夠在大規(guī)模的兩人不完全信息游戲中擊敗頂尖的人類玩家。
從更高層次上來講,ReBeL 運行于公共置信狀態(tài)而不是世界狀態(tài)(即游戲狀態(tài))。公共置信狀態(tài)(PBSs)將「狀態(tài)價值」的概念推廣到像撲克這樣的不完全信息游戲中,PBS是在可能的動作和狀態(tài)的有限序列(也稱為歷史記錄)上的常見知識概率分布,可提供發(fā)生不同結(jié)果的可能性。
在完全信息游戲中,PBS可以提取到歷史記錄,而在兩人零和游戲中,PBS可以有效地提取到世界狀態(tài)。撲克中的PBS是玩家可以做出的一系列決定,以及特定手牌,底池和籌碼時他們的結(jié)果。
ReBeL在每個游戲開始時都會生成一個與原始游戲相同的「子游戲」,只是它起源于最初的PBS。該算法通過運行「均衡查找」算法的迭代并使用訓練后的價值網(wǎng)絡在每次迭代中取近似值來擊敗對手。
與世界上最好的單挑撲克玩家之一的Dong Kim相比,ReBeL在7500手牌中每手玩的時間超過了2秒,決策所需的時間從不超過5秒。Facebook以前的撲克游戲系統(tǒng)Libratus的最高得分為147,而ReBeL對人類的平均每場比賽盲注(強迫下注)得分為165(標準差為69)。
擔心被拿去賭錢,F(xiàn)acebook決定不公開源碼
在實驗中,研究人員對ReBeL進行了單挑無限制,Liar’s Dice和殘局游戲的基準測試,這是無限制德州撲克的一種變體,兩個玩家可以在四輪投注中的前兩輪進行檢查或叫牌。
研究小組使用了多達128臺帶有8個顯卡的電腦來生成模擬游戲數(shù)據(jù),并在訓練期間隨機分配賭注和堆棧大小(從5,000到25,000個芯片)。ReBeL 在整場比賽中接受訓練,并且有20,000美元可以下注。
出于對作弊的擔心,F(xiàn)acebook 團隊決定不發(fā)布用于撲克的 ReBeL 代碼庫。相反,他們將 Liar’s Dice 的實現(xiàn)開放了。Facebook的研究人員相信ReBeL將使得德州撲克在強化學習研究領(lǐng)域更受歡迎。
「雖然人工智能算法已經(jīng)存在,可以在撲克游戲中取得超人的表現(xiàn),但這些算法通常假設(shè)參與者擁有一定數(shù)量的籌碼或使用一定的賭注大小」。
而在實戰(zhàn)中,你的籌碼數(shù)量是不定的,所以需要重新訓練算法,這種情況下想進行實時對戰(zhàn)就有困難了。但是,ReBeL 可以在幾秒鐘內(nèi)計算任意任意賭注大小的策略。
友情鏈接:
聯(lián)系電話:
掃碼添加微信