像蘋果Siri這樣的個人助理通過自然語言命令來完成任務。然而，它們的底層組件通常依賴于監(jiān)督機器學習算法，這些算法需要大量手工注釋的訓練數(shù)據。為了減少收集這些數(shù)據的時間和精力，蘋果的研究人員開發(fā)了一個框架，利用用戶參與下的信號，來自動創(chuàng)建增強數(shù)據的標簽。他們的報告中表示，當使用諸如多任務學習和外部知識庫驗證等策略時，帶注釋的數(shù)據顯著提高了生產深度學習系統(tǒng)的準確性。

“我們認為，這是首次使用用戶參與信號來幫助大規(guī)模生成序列標記任務的訓練數(shù)據，并可應用于實際設置中，在幾乎沒有人工注釋數(shù)據的情況下加快新功能的部署，”研究人員在一篇待出版的論文中寫道�！按送猓�用戶參與信號可以幫助我們從數(shù)字助理自身的錯誤中吸取教訓，從而確定其需要改進的地方�！�

研究人員使用了一系列啟發(fā)式方法來識別，可以表明積極參與或消極參與的行為。其中一些包括點擊內容來進一步參與（積極的回應），長時間聽一首歌（另一個積極的回應），或者打斷智能助手提供的內容，手動選擇不同的內容（消極的回應）。這些信號被選擇性地以“隱私保護方式”獲取，以自動生成基本的具有真實性的注釋，隨后它們與人類注釋者提供的粗粒度標簽相結合。

為了將粗粒度標簽和推斷出的細粒度標簽合并到人工智能模型中，論文的合作者設計了一個多任務學習框架，將粗粒度和細粒度實體標簽作為兩個任務處理。此外，它們還合并了一個由實體及其關系組成的外部知識庫驗證器。假設預測“something”作為一個音樂標題，“the Beatles”作為一個音樂藝術家，我們可以查詢“Play something by the Beatles”，驗證器將展開對一級標簽的備選方案的查找，并將它們發(fā)送到一個組件，該組件將對預測重新排序，并返回最佳備選方案。

研究人員利用兩個獨立的測試集來評估多任務模型所執(zhí)行的任務，他們從生產系統(tǒng)中隨機抽取樣本，并對基礎的真實標簽手工標注。他們表示，在21次模型運行中，添加的26萬個訓練示例，與所有數(shù)量的人工注釋數(shù)據的基線相比，“一致地”降低了預測任務中的粗粒度實體錯誤率。此外，他們還報告說，當有相對少量的人工注釋數(shù)據（5000個示例）時，添加弱監(jiān)督的細粒度數(shù)據會產生更大的影響。最后，他們報告說，對于任何頂級模型假設通過知識庫驗證器的例子，細粒度實體錯誤率下降了大約50％。

在另一個實驗中，團隊試圖確定用戶意圖的更細微標注，是否會增加系統(tǒng)選擇正確操作的可能性。他們采集了大約5000個“播放音樂”命令，其中包含對多個樂隊、藝術家和歌曲的引用，并通過一個包含其框架的系統(tǒng)將其發(fā)送出去，之后，他們要求注釋者將系統(tǒng)返回的響應分為“滿意”或“不滿意”。研究人員報告說，增強后的系統(tǒng)產生的結果相對任務錯誤率降低了24．64％。

他們將繼續(xù)探索如何利用個人用戶的參與行為來提升個性化。

“我們觀察到，我們的模型改進了用戶最終接收的結果，特別是對于包含困難或不尋常語言模式的請求，”論文合作者寫道�！袄�如，增強后的系統(tǒng)可以正確處理諸如‘你能播放Miley Cyrus新專輯中的Malibu嗎’和‘播放Kendrick Lamar的Humble’之類的查詢。此外，增強后的模型還能識別出用戶在遇到真正的語言歧義時更有可能引用的實體。例如，在Play one by Metallica中，one可以是一個非實體標記（意為播放Metallica的任何歌曲），也可以特指Metallica一首名為One的歌。由于大多數(shù)用戶在說‘Play One by Metallica’時都會聽Metallica樂隊的‘One’這首歌，所以我們的模型會根據用戶參與注釋的數(shù)據來預測‘One’到底指什么，從而更好地捕捉用戶群體的趨勢和偏好�！�

此前，有一篇論文描述了蘋果的人工智能開發(fā)工具Overton，該工具的模型處理了“數(shù)十億”個查詢。另外，蘋果最近研究了用戶是否更喜歡與“健談”的人工智能助手交談。