OpenAI的機器人剛剛在Dota2 1v1比賽中戰勝了人類頂級職業玩家Dendi。以建設安全的通用人工智能為己任的OpenAI，通過“Self-Play”的方式，從零開始訓練出了這個機器人。

Dota2 淪陷

繼橫掃頂級的人類國際象棋大師和圍棋大師后，計算機如今在風靡全球的電子游戲Dota2中戰勝了世界級的職業玩家。此前未被披露的此場對決發生于Valve獎金高達2400萬美元的Dota2國際邀請賽“The International”。

在這場一對一的對戰中，OpenAI設計的一款機器人擊敗了職業玩家Danylo “Dendi” Ishutin，Dendi在此前的職業生涯中已贏得累計735449.4美元的獎金。OpenAI的機器人在首場對戰中用時十分鐘擊敗了Dendi，之后Dendi在第二局對戰中退出并拒絕再戰第三局。

“請放過我吧，”賽間Dendi對機器人對手這樣說道。

OpenAI在電子競技領域首度擊敗人類頂級玩家。這比國際象棋及圍棋等游戲要復雜得多。

OpenAI的CTO Greg Brockman在賽前介紹稱這一款機器人通過數千次的加以指導的自我對決進行訓練，并稱該機器人已經擊敗了數個Dota 2的職業玩家。Brockman在博客中稱：“過去幾周內，我們的機器人已經戰勝過包括 SumaiL（世界頂級1v1選手）及Arteezy（世界頂級overall選手）等多個頂級玩家”。

“自我對決”的理念是OpenAI研發的關鍵。這是一種AI系統學習解決極其復雜任務的有效方法：與太弱或太強的對手對戰，它都無法從中學到東西，但自身反倒是有價值的對手。Brockman介紹道：“你可以看到AI從完全的隨機狀態一步步發展到如今的頂級水平”。

AI公司慣常用電子競技游戲來測試他們的技術，如谷歌的DeepMind攻克“星際2”，微軟的AI團隊今日則宣稱他們在吃豆人游戲中獲取高分。

OpenAI并未打算就此停止征戰的腳步。他們希望在明年的參與正式的五對五比賽。與此同時他們也對外發布了此機器人，所以任何人有興趣均可與之對戰。第一個擊敗此機器人的玩家則可獲得Valve專設的賞金。

我們創造了在Dota2 1v1比賽中能夠擊敗世界頂尖職業選手的AI。其完全是用self-play的方式訓練，沒有使用模仿學習（imitation learning）或樹搜索。這對構建在混亂、包含人類行為在內的復雜場景下能夠完成well-defined goals的AI 系統是重要一步。

Dota 1v1是含有隱藏信息的復雜游戲。代理需要學習計劃、進攻、花招以及誤導對手。選手技巧和手速（每分鐘動作）的關聯不那么強烈，實際上，我們的AI“手速”只是一般人類選手的水平。

想要在Dota中取勝，要求選手培養出對對手的直覺，并采取相應的策略。在上述視頻中，你能看到，我們的機器人已經通過完全的self-play學會了預測其他選手的動作，并在不熟悉的場景下即興發揮，以及如何作用于選手的單位。

完全通過Self-Play的方式訓練，從零達到世界頂級水平

OpenAI的目標是建設安全的通用人工智能。對于AI來說，Dota是一個非常理想的試驗場，競爭激烈，游戲復雜。如果想在這門游戲中獲得成就，就必須推進現有技術，實現技術突破。我們現在開發了一個AI，能夠在Dota的1v1比賽中擊敗頂尖職業選手。

Dota的規則非常復雜，如果是用規則方法，那么構建出的AI一定是個蹩腳的player。所以，我們完全采用的是自我游戲（self-play）的訓練方法。剛開始訓練時，AI對于自己所處的世界全無認識，而只是和自己的copy比賽，這也就意味著它和它的對手永遠是旗鼓相當的。它用這個方法一點點地提升，直到達到了世界上最優秀的職業運動員的水平。The International（TI）是Dota的世界錦標賽，吸引了世界各地20000名觀眾來觀看職業運動員爭奪2400萬獎金。在TI上，我們派出AI和其中的多位高手進行了比賽，在比賽中，AI展現出了很強的魯棒性和技巧，許多職業選手希望能持續和我們的AI比賽，并考慮要把它當做是一種訓練手段。

下一步研究將是5v5比賽，我們希望做出5個相互協作的AI，擊敗人類戰隊。另外，我們也期待嘗試把AI和人類放在同一戰隊中，協作取得勝利。 

（本文首發于微信公眾號“新智元”，澎湃新聞獲授權轉發。原標題：【攻陷Dota2】馬斯克的OpenAI自學習機器人完虐人類最強玩家）