聽起來很驚悚吧！Facebook的人工智慧實驗室（FAIR）為了讓 AI 更加智慧，設定了一個「互相協商」的目標。對話的兩名機器人各有「書、帽子、球」三種物品，每種物品對兩個機器人來說都有不同的價值。而這兩名機器人的目的就是在不說出價值的情況下互相交易，以取得自己最大利益為目的。
(圖片來源：ExtremeTech)
聽起來很熟悉吧！說成白話，這就是「討價還價」的過程，彼此不亮出底牌，但要透過各種談判策略來取得自己的最大利益，這就是臉書人工智慧實驗室的設計目標。團隊教導機器人用兩個步驟來進行這次談判。他們先提供機器人對話，讓系統擁有對語言的掌握力，接著用試錯法來磨練機器人的談判技巧。
機器人會假裝沒興趣
要達成這目的，研究人員發現臉書的 AI 居然也出現了虛張聲勢的動作，假裝對某項物品沒有興趣，試圖讓對方因此降低價值後再行交換。這個行為並沒有被研究人員編寫在程式內，是由 AI 自行發展出來的。
非人類的語言出現
在過程中最為驚悚的，是研究人員發現 AI 居然用自己發展出來的語言溝通。Facebook 研究人員在技術論文中提到：「我們發現更新兩個人工智慧的參數，導致了人類無法理解的語言出現」。下面就是這兩個機器人彼此溝通的對話：
BOB：i can i i everything else . . . . . . . . . . . . . .
Alice：balls have zero to me to me to me to me to me to me to me to me to
這種看似毫無意義的對話有時候居然可以產生成功的談判，但由於研究人員希望機器人可以與人類溝通，因此重新設計了訓練方案，好確保 AI 一直都是使用人類可以理解的語言。
這並不可怕
報導看似很驚悚，但其實這件事情的本質並不可怕。因為 AI 並非有意識地發展自己的語言，相反的，正是因為 AI 對於語言的掌握力不足，才只好用「重複」的方式來溝通，發展出人類看不懂的對話方式，其實也顯現了當今 AI 的侷限。
相關文章
