[新聞] 圍棋AI竟有盲點，深度學習的弱點是何處？

看板GO (圍棋)作者joanzkow (星浪)時間2年前 (2023/06/02 21:17)推噓3(3推 0噓 2→)

留言5則, 3人參與討論串1/1

【安靜】圍棋AI竟有盲點，深度學習的弱點是何處？野狐圍棋作者：找藉口安靜點擊：40322023-06-01 13:22 原址：https://www.nikkei.com/article/DGXZQOUD1580R0V10C23A5000000/ 原題：囲碁AI、「論理的思考」に盲點深層學習の弱點示す摘自：日本經濟新聞作者：北村光翻譯和整理：找藉口安靜感謝餘正麒點我名我們終於找到了圍棋AI的盲點，雖然圍棋AI具備遠超人類棋手的實力，但是在一個特別的棋型中，它卻沒法識別。據說這也是各領域的AI共同存在的一個弱點。 “啊，這個白棋全死裡面了”，對AI頗有研究的大橋拓文七段，通過某種策略戰勝了具備最強水平的圍棋AI“KataGo”。執黑的大橋拓文在最後吃掉了左上角到中腹的一團白棋，實空大幅領先並獲得了勝利。大橋拓文將其稱為“甜甜圈下法”，正是下面這個圖的下法。首先讓自己的黑棋被AI的白棋包圍，讓AI的白棋像甜甜圈一樣圍成一個圓圈。然後黑棋在這個白棋周圍行棋，而AI卻感覺不到自己的“甜甜圈”已經處於生死的邊緣了。這個下法是美國的一家研究團隊，和KataGo下了100多萬盤對局之後發現的漏洞。將另一個AI設定為“敵對的AI”，另一個軟件則參考計算的這些手段來反復進行對局，此後發現 “敵對的AI”勝率超過了97%。此後到了2月，一名美國的業餘棋手通過這個方法戰勝了AI 。相信很多人都對AI為什麼不能正確識別特定局面感到懷疑，但是大橋拓文表示，在很早以前，包括手數很長的對殺在內，AI其實也經常下不出正確的下法。雖說AI的實力已經遠超很多頂尖圍棋棋手，不過AI棋手並沒有完全理解“圍棋是什麼”。比如說兩眼做活這樣的概念，圍棋的話只要被圍住對手就能吃掉，不過有黑白交替落子和不能在禁入點落子，這兩個規則融合在一起的話，就是“只要製造兩個不能讓對手行棋的空間，這塊棋就是活棋”。這也是剛剛學棋的人最先學到的內容。圍棋AI是通過模仿人腦的深度學習技術，通過自我對局來提升實力，但是AI並沒有理解“ 兩眼做活”這樣的理論性知識，AI只不過是通過自己的經驗選擇勝率最高的手段然後一步步積累起來。而針對蔓延到全盤的死活，或者是不是有兩隻眼的情況，對AI來說它就需要在龐大的數據中一個個進行反復驗證。大橋拓文用的KataGo，在發現弱點之後又重新發佈了新的版本，而在新的版本中就很難使用“甜甜圈戰術”了。但是KataGo的對策是“避免自己的棋子變成一圈”。在特定的情況下，AI還是沒法正確識別局部的死活問題，而這個問題在利用深度學習技術的AI中也同樣存在。 “甜甜圈戰術”是人類棋手之間不可能採用的特殊手段，所以說很難斷言人類棋手再一次超越了機器。大橋拓文以及戰勝了中國圍棋AI的芝野龍之介二段也說：“這麼下和正常的圍棋不一樣”。和圍棋AI面臨同樣課題的深度學習型AI也有很多，比如說“ChatGPT”的文章生成功能，也會說一些明顯是錯誤的內容。AI雖然可以通過龐大的數據然後寫出一篇像樣的文章，但是AI並不明白這些詞的意思以及邏輯性。現在社會上各個領域都有AI的存在，但是我們還是有必要區分其擅長和不擅長的地方。 https://www.foxwq.com/news/listid/id/14370.html -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.200.160.134 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/GO/M.1685711840.A.797.html