科技向來是一把雙刃劍，它在推進(jìn)人類文明進(jìn)步的同時，有時也會給人類帶來災(zāi)難。人工智能亦是如此，人工智能技術(shù)被好人掌控時能澤被蒼生，如果被壞人控制則有可能禍患無窮。先來看兩個例子：

1、 人工智能用于作惡的案例：Deepfake合成音頻應(yīng)用于詐騙

最近，據(jù)美國的科技媒體報(bào)道說，網(wǎng)絡(luò)詐騙犯正在利用Deepfake技術(shù)仿制公司高管的語音合成語音郵件發(fā)到公司員工，針對大型公司進(jìn)行經(jīng)濟(jì)詐騙，敲詐者將一份模仿公司CEO語音的Deepfake音頻以郵件方式前不久就發(fā)送給了一家公司的員工，要求員工立即提供幫助，以完成緊急商業(yè)交易。但值得慶幸的是這次詐騙并沒有成功。員工在收到語音郵件之后認(rèn)為其可疑，并且將其登記到了公司的法律部門，但在此之前已經(jīng)有很多利用Deepfake進(jìn)行詐騙的案例了。

比如：2019年的9月，犯罪分子使用語音克隆軟件對英國一家能源公司的高管的聲音進(jìn)行模仿。這家公司的執(zhí)行董事在接聽詐騙電話之后，毫不猶豫的就把24萬美元匯入了一個海外賬戶。而前不久網(wǎng)絡(luò)安全公司賽門鐵克報(bào)告了三起Deepfake音頻詐騙案例，犯罪分子通過電話會議、社交媒體TED的演講，獲得了公司高管的音頻，然后用機(jī)器學(xué)習(xí)技術(shù)復(fù)制了高管的聲音，致電財(cái)務(wù)部門要求緊急匯款。

不過Deepfake音頻創(chuàng)作者為了創(chuàng)建更逼真的音頻通常需要克服如下幾個因素，比如捕獲幾乎沒有背景噪音的高質(zhì)量音頻，比如大領(lǐng)導(dǎo)的演講，在不需要回電的情況下，對音頻進(jìn)行傳送，因?yàn)閷υ捚饋砣菀茁娥W，平時都是以留言的形式避免與音頻接收者實(shí)時交流，也許不過腦子的人聽到領(lǐng)導(dǎo)的聲音一緊張，就會像上面那幾個案例一樣，乖乖打錢了。而更可怕的是未來如果Deepfake音頻加視頻合成更加成熟，騙子的成功率就可能大大提高，我們可要提高警惕了。如何才能提高警惕呢?說到底可能還是要借助科技的力量。

2、人工智能向善的案例：Fawkes給照片“隱身衣”，讓人臉識別系統(tǒng)失靈

眾所周知，社交媒體平臺有可能泄露我們的個人隱私，有時候一張自拍照所包含的信息就有可能把自己給“出賣”了，因?yàn)槊娌孔R別技術(shù)可以抓取到很多信息。也就是說只要能獲取照片數(shù)據(jù)，面部識別技術(shù)就可以輕松的獲取個人的敏感信息。此前，美國的面部識別公司就創(chuàng)建了一個大概有30億張圖像的超大容量人臉數(shù)據(jù)庫，而這些數(shù)據(jù)都是從Facebook 、YouTube甚至國內(nèi)的微博上抓取過來的，而這些無處不在的面部識別技術(shù)對我們的隱私構(gòu)成了不小的威脅。

在芝加哥大學(xué)有個團(tuán)隊(duì)就提出了一種新的解決思路，可以為我們的照片添加一層隱身衣，這就是他們推出的軟件——Fawkes。這款軟件已經(jīng)讓曠視、微軟、亞馬遜等公司的面部識別算法失靈了，而這款軟件的研發(fā)者是一位來自北京的年僅23歲的小伙子。一張普通電子照片在用Fawkes給原圖稍加處理之后，就可以屏蔽任何人臉識別算法。但是我們?nèi)搜蹘缀鯚o法察覺到任何的細(xì)節(jié)，也就是說Fawkes軟件對人臉圖像進(jìn)行了像素級的細(xì)微修改，讓肉眼無法察覺，但是AI圖像識別的算法就能看得清清楚楚，但是其識別結(jié)果會高度失真，把圖片看成完全不一樣的人。以后經(jīng)過Fawkes快速處理的圖片，可以在不改變原貌的基礎(chǔ)上，隨意的分享在各大社交媒體平臺，也不擔(dān)心被其他的算法公司抓取用作非法途徑。這是個人工智能技術(shù)用于保護(hù)個人隱私方面的成功嘗試。

該研究團(tuán)隊(duì)表示，他們希望Fawkes能夠被廣泛的部署和使用，以降低個人隱私泄露的風(fēng)險(xiǎn)。目前，用戶可在該項(xiàng)目官網(wǎng)免費(fèi)使用Fawkes。技術(shù)論文已經(jīng)在網(wǎng)上開放(論文地址：https://www.shawnshan.com/files/publication/fawkes.pdf)。同時，研究團(tuán)隊(duì)已開發(fā)Windows和Mac版本的軟件，并希望社交媒體公司在其平臺直接部署該軟件。不過略有可惜的是，我們之前已經(jīng)泄露在網(wǎng)上的照片，怕是沒機(jī)會再修改了。

3、 關(guān)于人工智能應(yīng)用的幾點(diǎn)感想

①人類一方面在利用人工智能技術(shù)為自身的工作與生活帶來便利和效率，另一方面又在不停的與人工智能技術(shù)帶來的負(fù)面影響進(jìn)行抗?fàn)?

②人工智能技術(shù)的進(jìn)步已經(jīng)在挑戰(zhàn)人類感官的靈敏度了，眼見不一定為實(shí)，聲音不一定可靠，甚至你看到的人臉照片都可能是被AI換臉技術(shù)處理過的。長此以往，人們對人工智能產(chǎn)生的將會有怨恨和恐懼;

③在享受人工智能技術(shù)發(fā)展帶來的各種福祉的同時，人工智能所產(chǎn)生的倫理問題也日益突出，正成為全社會關(guān)注的焦點(diǎn)。人性是不完美的，一旦這些人工智能技術(shù)被不法分子利用，那么對社會而言將會是一場災(zāi)難。如何規(guī)避人工智能帶來的倫理問題，已經(jīng)成為人工智能發(fā)展無法回避的重要問題。

人工智能本沒有善與惡之分別，關(guān)鍵在于掌控它的人如何應(yīng)用它。請銘記：人工智能技術(shù)是沒有罪的，但是，請正確對使用人工智能技術(shù)。技術(shù)無罪，善惡之道，存乎一心。