對Babylon人工智能的擔憂指出了醫(yī)療系統(tǒng)與科技初創(chuàng)公司合作時可能會出現(xiàn)的困難。雖然Babylon已經(jīng)將自己定位為一家醫(yī)療保健公司，但它的運營似乎更像硅谷的初創(chuàng)公司。一名工作人員說，“公司的重點是快速構建并推出”，并補充說，Parsa喜歡和員工談論“逃逸速度”。短語“快速構建”出現(xiàn)在至少一名Babylon工作人員的電子郵件簽名下。該公司內部的醫(yī)生甚至在解決安全問題時也很難讓人們聽到他們的聲音，而現(xiàn)任和前任工作人員表示，數(shù)據(jù)科學家被視為搖滾明星，不過他們表示，過去12個月，情況已經(jīng)開始好轉。

Babylon稱這些斷言為“誹謗”，并指出定期審查的舉報政策和專用電子郵件地址是其“安全第一文化”的關鍵。它宣稱，員工“有義務將任何問題正式提交給當局”。一名現(xiàn)任和前任員工表示，他們不知道有舉報電子郵件系統(tǒng)。

盡管一些醫(yī)生很謹慎，但Parsa還是因其堅韌不拔的精神和宏偉的愿景而受到倫敦科技界的推崇，認為他將“把方便和負擔得起的醫(yī)療服務帶給地球上的每一個人”。對許多人來說，這是一種令人耳目一新的企業(yè)家精神，在謙遜的英國你并不總是能找到這種精神。Parsa的故事令人鼓舞，他出生在伊朗的Ali Parsadoust，父母是中產(chǎn)階級，17歲時為了逃避革命，作為難民來到英國。他自學英語，然后進入了高中和倫敦最負盛名的大學，在那里他發(fā)表了工程物理學博士論文，并積極參與到學生政治中。雖然他的職業(yè)生涯建立在投資銀行業(yè)，但他的心始終關注著社會正義。

將他的社會烏托邦本能與商業(yè)結合起來并不總是奏效。2003年，Parsa通過共同創(chuàng)建一個名為Circle Health的“社會企業(yè)”，進入了醫(yī)療保健領域。然后在2011年，Parsa通過獲得一份合同，成為第一家接管國有醫(yī)院的私營公司，而創(chuàng)造了歷史。這家醫(yī)院是位于劍橋郡的Hinchingbrooke Hospital。Circle做出了削減成本的崇高承諾，包括在10年交易中，可以為NHS節(jié)省超過4．95億美元。Parsa于2012年退出，當時該公司仍處于債務之中。2015年，Circle保釋了這一合同。審計人員表示，他的出價“過于樂觀”。Parsa離開Circle一年后，創(chuàng)辦了Babylon，并最終再次與NHS簽訂了重要合同。

為了鞏固這種關系，并為擴大到更多患者奠定技術基礎，Parsa正在雇傭軟件工程師。它最近承諾投資1億美元進一步開發(fā)他的人工智能。

但是，為醫(yī)療保健構建人工智能可能需要進一步反思Babylon技術的設計方式。簡而言之，它的診斷引擎是基于一套復雜的規(guī)則。這些規(guī)則由臨床醫(yī)生決定，并在電腦中輸入一系列癥狀的概率。隨著規(guī)則數(shù)量的增加，軟件做出決策的路徑變得更加復雜和難以改變。那么，你如何讓這樣的聊天機器人變得更聰明呢？一種方法是提高其語言能力。另一個是改進支撐它的診斷引擎。“如果Babylon擁有醫(yī)療記錄，他們可能會更準確，”Action．AI首席執(zhí)行官John Taylor表示。Action．AI是一家倫敦初創(chuàng)公司，幫助公司構建聊天機器人。

為了更好地診斷，我們需要訓練軟件深入了解反饋回路：在一個人描述自己的癥狀，然后去看醫(yī)生，接受x光檢查，并有可能接受進一步治療后，會發(fā)生什么？Babylon表示，它可以訪問健康改善網(wǎng)絡研究數(shù)據(jù)庫，該數(shù)據(jù)庫包含不可識別的患者數(shù)字記錄，但目前尚未向監(jiān)管機構請求訪問醫(yī)療記錄。

對于Babylon來說，要實現(xiàn)用更智能的技術提高醫(yī)療保健提供商效率的愿景，它可能需要在更多的患者記錄上訓練算法。為此，它需要繼續(xù)贏得監(jiān)管者和醫(yī)學界的信任。