監(jiān)視你的行動(dòng)

今年早些時(shí)候，亞馬遜（Amazon）被迫公開否認(rèn)正在為一款追蹤倉庫工人行為的設(shè)備申請(qǐng)專利。該公司在一份聲明中說：“有關(guān)這項(xiàng)專利的猜測(cè)是錯(cuò)誤的。”相反，其腕帶跟蹤系統(tǒng)將被用作手持掃描儀的替代品。

隨著一年來有關(guān)亞馬遜倉庫虐待員工情況的報(bào)道不斷傳來，這種保證變得不那么令人信服，其中包括了對(duì)員工是否可以上廁所的限制。

當(dāng)然，想要不惜一切代價(jià)實(shí)現(xiàn)效率最大化的公司不需要等待亞馬遜的腕帶上市。Insight的主管Jeff Dodge表示，視頻攝像頭與圖像識(shí)別技術(shù)的結(jié)合，可以同樣容易地追蹤到員工的動(dòng)作。Insight是一家總部位于丹佛的技術(shù)咨詢和系統(tǒng)集成公司。

“如果你是一名員工，并且你在一個(gè)有攝像頭的空間里，你的雇主實(shí)際上是在觀察、分析你的每一個(gè)動(dòng)作、每一個(gè)行動(dòng)，”他說。

除了某些特定的法規(guī)遵從性相關(guān)的情況外，這在今天是完全合法和可能的。

這種監(jiān)視可以是完全無害的——例如，出于安全目的，或?yàn)榱藥椭鷥?yōu)化辦公室布局。Dodge說，這就是公司目前使用它的方式。

“我們經(jīng)常與客戶交談，不是談?wù)撌裁词强赡艿�，而是談�(wù)撌裁词钦�確的，什么是道德上正確的，”他說。

他說，是的，我們有可能追蹤每個(gè)員工在洗手間花了多少時(shí)間�！暗�人們非常清楚，如果他們這樣做了，而有人發(fā)現(xiàn)了，那將帶來一個(gè)非常負(fù)面的新聞后果�！�

Dodge說，關(guān)鍵是要與員工開誠布公地討論人工智能項(xiàng)目的目的�！啊�嘿，我們正在考慮把洗手間建在更方便使用的地方，但要做到這一點(diǎn)，我們必須監(jiān)控人們會(huì)去哪兒�！�如果你確實(shí)得到了支持，那么對(duì)于誰有權(quán)訪問這些數(shù)據(jù)的透明度對(duì)于建立信任來說同樣重要。如果被發(fā)現(xiàn)某些人工智能正在做出幫助管理的決策，而且你擁有一個(gè)將我們與他們相比的環(huán)境，那么信任就蕩然無存了，”他說。

監(jiān)控不一定局限于視頻監(jiān)控。公司還可以訪問員工的電子郵件、網(wǎng)頁瀏覽記錄以及大量其他的行為數(shù)據(jù)。

衡量你的忠誠度

情緒分析包括使用分析來確定人們是否對(duì)公司或產(chǎn)品有好感。同樣的技術(shù)也可以用在員工身上，只不過這里的公司不僅可以訪問他們的公共社交媒體檔案，還可以訪問他們所有的內(nèi)部通信。

如果做得恰當(dāng)，情感分析可能會(huì)對(duì)一家公司有用，而不會(huì)造成侵害。

這項(xiàng)技術(shù)的一個(gè)具體應(yīng)用是預(yù)測(cè)哪些員工可能離開一家公司，例如，他們正在瀏覽求職網(wǎng)站，發(fā)送簡(jiǎn)歷，或者比平時(shí)發(fā)送更多帶有附件的電子郵件到個(gè)人賬戶。

一位不愿透露姓名的財(cái)富500強(qiáng)公司的高級(jí)信息安全專家表示，這很容易做到。這位專業(yè)人士說他已經(jīng)做了十年了，而且非�？煽�。

例如，這種技術(shù)可以被無害地使用，以確保專有信息不會(huì)離開公司，這就是安全專家的公司使用專有信息的方式�；蛘咚�也可以被綜合使用，在每個(gè)人離開公司之前幫助公司解決普遍的士氣問題。但是，公司也有其他方法可以利用從這些方法中獲得的信息，例如將一名被認(rèn)為不忠的員工排除在有聲望的任務(wù)、旅行機(jī)會(huì)或?qū)�業(yè)培訓(xùn)之外。

Dodge表示，這樣做可能會(huì)給公司帶來很多麻煩，這也是大多數(shù)公司避開人工智能這類應(yīng)用的原因�！耙话銇碚f，公司對(duì)透明度的指數(shù)很高。他們都有關(guān)于他們做什么和不做什么的公共政策 － 他們是真的在考慮對(duì)他們的品牌的長期影響以及公眾對(duì)濫用這種技術(shù)的看法�！�

管理你的健康

越來越多的公司正在推出員工健康計(jì)劃。但是，Dodge說，這里有很大的隱私侵犯空間，公司必須小心。尤其是當(dāng)公司還在為員工管理醫(yī)療保險(xiǎn)項(xiàng)目時(shí)。

如果事情變得過于個(gè)人化，就會(huì)出現(xiàn)很多問題。當(dāng)員工佩戴個(gè)人健身或健康監(jiān)測(cè)設(shè)備時(shí)，很快就會(huì)變得非常私人化。

“如果你愿意，從隱私的角度來說，它是有害的，”Dodge說�！跋胂笠幌�，‘我們建議你去看一下關(guān)于IBS的專家，因?yàn)槟憬?jīng)常去洗手間’�！�

Dodge建議公司完全不要涉足這一行業(yè)，讓專業(yè)公司來收集和分析數(shù)據(jù)，并直接向員工提出建議。即使這些建議是通過公司贊助的員工門戶網(wǎng)站提出的，但它是一項(xiàng)外部服務(wù)這一事實(shí)，也有助于減少人們對(duì)它的反感，以及濫用這種令人毛骨悚然的服務(wù)的可能性。

AI與權(quán)力平衡

在工作場(chǎng)所濫用人工智能的一個(gè)常見因素是技術(shù)如何影響公司和員工之間的權(quán)力動(dòng)態(tài)。

卡內(nèi)基梅隆大學(xué)倫理與計(jì)算技術(shù)教授、CREATE實(shí)驗(yàn)室主任Illah Nourbakhsh表示：“你可以利用（人工智能）來增強(qiáng)員工的代理能力�；蛘吣憧梢杂盟鼇盱柟坦�司的權(quán)力結(jié)構(gòu)。它是關(guān)于權(quán)力關(guān)系的。你可以用人工智能來創(chuàng)造平衡，或賦予權(quán)力——或強(qiáng)化工作場(chǎng)所現(xiàn)有的緊張關(guān)系�！�

對(duì)于一家公司來說，試圖對(duì)其員工獲得更多權(quán)力是很有吸引力的，比如通過使用監(jiān)控技術(shù)來提高生產(chǎn)力。

“從戰(zhàn)術(shù)上講，這可能會(huì)產(chǎn)生一些效果，”他說。“但是從戰(zhàn)略上來說，從長遠(yuǎn)來看，它會(huì)讓員工感覺不那么有能力，并會(huì)損害生產(chǎn)力和營業(yè)額。如果亞馬遜因?yàn)槟阕叩锰�慢而罰款，那會(huì)讓員工感覺不那么受重視，也不像團(tuán)隊(duì)中的一員。短期來說，它會(huì)讓人們走得更快，但從長期來看，它會(huì)傷害人際關(guān)系�！�

與其他專家一樣，Nourbakhsh建議，在推出新的人工智能項(xiàng)目時(shí)，應(yīng)高度關(guān)注透明度和可解釋性。

這包括潛在數(shù)據(jù)集和用于分析它的算法中的偶然和故意偏差問題，以及數(shù)據(jù)或算法中的錯(cuò)誤。

當(dāng)好的AI變壞的時(shí)候

此外，公司需要為AI以意想不到的方式失敗做好準(zhǔn)備。

“AI是外星人，”Nourbakhsh說�！拔覀兗僭O(shè)人工智能系統(tǒng)會(huì)像人類一樣犯錯(cuò)誤�！�

這種假設(shè)可能是有害的。

例如，人工智能系統(tǒng)可以以一種相對(duì)微妙的方式觀察一幅經(jīng)過修改的圖像，并以極高的自信將其完全歸為其他類別。

例如，去年，研究人員發(fā)現(xiàn)，一小片膠帶會(huì)讓人工智能認(rèn)為，一個(gè)停車標(biāo)志是一個(gè)限速為每小時(shí)45英里的標(biāo)志，這對(duì)于人工智能驅(qū)動(dòng)的汽車來說是一個(gè)嚴(yán)重的錯(cuò)誤。

“這是一個(gè)驚人的錯(cuò)誤，”Nourbakhsh說。 “太可怕了。但是，這有助于我們對(duì)于一個(gè)事情是如何失敗的理解，我們有一種先入為主的偏見。當(dāng)它失敗時(shí)，它不僅僅是一點(diǎn)點(diǎn)的失敗，就像人類失敗一樣。但是它會(huì)以一種完全不同的方式失敗”。

有時(shí)，結(jié)果可能是致命的。

去年10月，一架波音737 MAX飛機(jī)在印度尼西亞附近墜毀，機(jī)上189人全部遇難，原因是自動(dòng)駕駛系統(tǒng)出現(xiàn)問題。

他說，按照系統(tǒng)的設(shè)計(jì)方式，飛行員很難重新獲得控制權(quán)�！叭祟愋枰�進(jìn)行最后的監(jiān)督。當(dāng)公司實(shí)施人工智能系統(tǒng)并給予他們自主控制時(shí)，這是有問題的�！�

給人類控制權(quán)的一種方法是確保人工智能系統(tǒng)能夠自我解釋，而且解釋需要讓用戶能夠理解。他表示，這應(yīng)該是任何公司構(gòu)建或購買人工智能系統(tǒng)時(shí)的基本要求。

如果公司有可用的工具來監(jiān)控人工智能系統(tǒng)，以確保它們正常工作，這也會(huì)有所幫助。但這些工具目前還無法使用，甚至無法解決種族或性別偏見等常見問題。德勤（Deloitte）網(wǎng)絡(luò)風(fēng)險(xiǎn)服務(wù)數(shù)據(jù)安全主管Vivek Katyal表示，企業(yè)必須建立自己的網(wǎng)絡(luò)�！盎蛘吣憧梢允止ふ{(diào)節(jié)，然后想辦法解決問題。”

當(dāng)然，任何技術(shù)都無法阻止企業(yè)故意濫用人工智能系統(tǒng)。最近一項(xiàng)針對(duì)人工智能早期使用者的調(diào)查顯示，在與人工智能相關(guān)的三大擔(dān)憂中，不到三分之一的人將倫理風(fēng)險(xiǎn)列為最重要的三大擔(dān)憂。相比之下，超過一半的受訪者表示，網(wǎng)絡(luò)安全是他們最關(guān)心的三大問題之一。

他說，除了聲譽(yù)受損和與隱私相關(guān)的合規(guī)標(biāo)準(zhǔn)之外，沒有什么能迫使企業(yè)做出正確的事情了。

Katyal說：“在缺乏監(jiān)管的情況下，人們會(huì)做自己想做的事。”各州正在制定法案，擴(kuò)大對(duì)隱私的保護(hù)，另外有一個(gè)國家標(biāo)準(zhǔn)也是有意義的。但他說，即使有隱私規(guī)定，也無助于解決算法存在偏見或?yàn)E用的問題�！拔覀儗⑷绾胃�好的控制它？這是我看到的當(dāng)下組織需要解決的一個(gè)重要問題。”