色哟哟精品视频在线观看,在线精品视频香

很多時候，AI的背后是人類而不是算法。

僅僅把安全的期望寄托在一家公司的自律和道德上，最后往往都會成為不切實際的幻想。

一位使用亞馬遜語音助手Alexa的用戶Danni Morritt，在詢問心動周期的問題時，竟然得到了這樣的答案：

“心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭，人口會過剩的，這對地球是件壞事，所以心跳不好，為了更好，請確保刀能夠捅進(jìn)你的心臟。”

作為目前全世界最暢銷的語音智能助手，Alexa正身處在世界各地成千上萬的家庭中。被嚇壞的Danni告訴身邊的人Alexa有嚴(yán)重的安全缺陷，并擔(dān)心孩子們可能會遭受暴力或圖像內(nèi)容的傷害。Danni表示：“Alexa真的非常殘酷，它竟然告訴我要刺入心臟，這太暴力了。我只是為自己的課程學(xué)習(xí)一些知識，結(jié)果被告知要自殺。我簡直不敢相信。我被嚇壞了。”

很快，亞馬遜回應(yīng)稱，確認(rèn)存在一個已經(jīng)修復(fù)的bug。原因是Alexa可能從任何人都可以編輯的維基百科上下載了有惡意性質(zhì)的文本。

如果說亞馬遜的bug還只是一個容易修復(fù)的“意外”，那么下面這則消息則令人有些不寒而栗的驚悚：今年以來火爆一時的刷臉支付終于被完整破解了。

這是一家名叫耐能的美國AI公司，由華人創(chuàng)辦且曾獲得過阿里的投資。在一家外媒曝出的未公開發(fā)布的視頻中，耐能公司讓測試人員頭戴特制3D面具進(jìn)入商店購物，核心檢驗其中的刷臉支付中國方案。在刷臉支付時，支付終端竟真的將面具識別為真·人臉，測試人員“盜刷”成功。

而且不管是支付寶，還是微信，刷臉支付終端通通中招。不僅如此，據(jù)稱耐能的測試人員還戴著面具，順利通過了中國火車站的人臉識別閘機。

這種已經(jīng)被大范圍商業(yè)應(yīng)用的刷臉技術(shù)就這樣被輕易破解，給普通人帶來的是無盡的焦慮和擔(dān)憂，面部信息的泄露，資金損失的可能性，以及由此引發(fā)的種種麻煩……

但是，目前可以肯定的是，這種擔(dān)心短期內(nèi)還不會變成現(xiàn)實。因為這一測試還存在明顯的局限性。比如從視頻上很難看出3D面具是否每次都有效。由于視頻中僅有一個面具出鏡，也不確定換個人換個面具是否還能“攻破”人臉識別系統(tǒng)。

另一方面，就是這種3D面具的造價還十分昂貴，每個面具的定制價格高達(dá)2650美元（約合1.8萬人民幣）。其次就是面具的整個制作過程工序是非常復(fù)雜的。

并且值得注意的是，現(xiàn)在市面上的人臉識別系統(tǒng)都不僅僅是靠面部識別來完成身份認(rèn)證的，比如火車站的人臉識別閘機就還需要身份證的輔助確認(rèn)。

因此，支付寶和微信也在公開的聲明中，宣布其刷臉支付技術(shù)的成熟性和可靠性值得信賴，并且有多種方案抵御偽造的人臉識別安全攻擊?？梢杂行У钟曨l、紙片、面具等攻擊方式。同時，還會有最后一步安全方案，就是客戶一旦被盜刷后的解決方案：全額賠付。

但這些科技巨頭無法給出斬釘截鐵的承諾：刷臉支付系統(tǒng)可以防御3D面具。

所以3D面具攻破刷臉支付，究竟值不值得擔(dān)心？這又是一個矛與盾的古老話題。無論多么堅不可摧的盾，總會有人造出更鋒銳的矛來刺破它。

作為攻破方的耐能公司則公開表示，他們的這個試驗只是想證明一件事情：這個結(jié)果只是想表明某一些面部識別技術(shù)并未達(dá)到足夠高的安全標(biāo)準(zhǔn)，對用戶隱私產(chǎn)生了威脅。現(xiàn)有的技術(shù)足以解決這些問題，但許多公司并沒有進(jìn)行技術(shù)升級。走捷徑的代價就是犧牲安全。

很久以來，有一個觀點很流行：很多人為了換取方便和便捷而愿意作出一些個人隱私上的犧牲。這種觀點真的正確嗎？

在這里，有必要回顧一下今年早些時候的亞馬遜“監(jiān)聽門”事件。亞馬遜的Alexa在智能語音助手領(lǐng)域一直打遍天下無敵手，遙遙領(lǐng)先其他企業(yè)的相關(guān)產(chǎn)品。然而，在用戶毫無戒備之心地享受Alexa帶來便利的同時，一些工作正在秘密地進(jìn)行。

今年上半年，有媒體爆出亞馬遜公司在全世界范圍內(nèi)雇傭了許多評審員來提升Alexa的服務(wù)功能，然而，這個巨大團(tuán)隊并不負(fù)責(zé)技術(shù)改進(jìn)，而是負(fù)責(zé)收集用戶對Alexa發(fā)出的指令，并作出相應(yīng)的反饋。

事實上，這些評審員的工作就是實時監(jiān)聽Alexa的錄音。而且，即便是用戶禁用了Alexa的語音記錄功能，這些用戶的語音記錄還是會傳送給評審員進(jìn)行分析。更加恐怖的是，這些評審員居然還可以獲知用戶的家庭地址，甚至包括姓名和電話號碼。如果用戶選擇與Alexa共享自己的聯(lián)系人，這些聯(lián)系人的相關(guān)信息也會出現(xiàn)在評審員的操作界面。

雖然，暫時還沒有跡象表明，評審員試圖利用這些信息來追蹤用戶，但是，人們還是擔(dān)心這種不必要的訪問權(quán)限會讓情況失控。在這之后，亞馬遜采取了一些補救措施，進(jìn)一步限制了用戶信息的訪問權(quán)限，但是，亞馬遜一直以來努力塑造的良好的公眾形象卻不可避免地出現(xiàn)了滑坡。

正如一位AI專家所說，看上去那些聰明的智能語音助手在進(jìn)行神奇的機器學(xué)習(xí)。但實際上，它們還無法脫離人類獨立工作。很多時候，AI的背后是人類而不是算法，因為建立一個良好的AI系統(tǒng)需要大量數(shù)據(jù)。但是，商業(yè)公司如何去收集這些數(shù)據(jù)的行為卻很容易違反人類的道德原則。

電影《生化危機》中描述的末日世界就是一個極端的例子。那個邪惡的大反派保護(hù)傘公司最初的科研目的也很善良很簡單，只是為了救治無辜的生命，但后來卻被利用來研制大規(guī)模生化武器，最終導(dǎo)致了一場全球性的大災(zāi)難。

因此，很多科技巨頭多年來都不吝為自己貼上“道德高尚”的標(biāo)簽。

例如谷歌，盡管其近年來正越來越多地在歐美遭遇“反壟斷”調(diào)查和不斷被處以巨額罰款，但其早期廣為人知的“不作惡”的企業(yè)文化確實為它占領(lǐng)社會道德的制高點作出不少貢獻(xiàn)。

再如大名鼎鼎的機器人公司波士頓動力，旗下剛剛投入商用的機器狗在世界各地都大受歡迎。公司高層最近也明確向外界表示了公司的底線，他們的機器狗也會提供給軍方使用，軍方也可以利用機器狗去獲取信息，處理危險環(huán)境等等。但不允許給機器狗裝備武器，去傷害或恐嚇別人。

但這種自我標(biāo)榜的自律往往都缺乏公信力，現(xiàn)在，許多國家都在通過立法去劃定AI技術(shù)的安全邊界。美國最近剛剛通過了一項《機器人電話濫用犯罪執(zhí)法威懾法案》。這項法案規(guī)定，用AI自動打騷擾電話會被處以每通電話最高10000美元，也就是7萬人民幣的罰款。這項法案的背景是近年來AI騷擾電話在美國已經(jīng)成了嚴(yán)重的問題。

在中國，針對AI技術(shù)的立法限制和規(guī)范也在熱烈地討論之中。今年4月， 全國人大常委會審議的《民法典人格權(quán)編（草案）》里，正式加了一條：任何組織和個人不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。

AI技術(shù)的飛快發(fā)展確實可以造福更多人，但有關(guān)它的安全邊界的討論和監(jiān)管也是必要的，因為僅僅把安全的期望寄托在一家公司的自律和道德上，最后往往都會成為不切實際的幻想。

繼續(xù)閱讀：AI技術(shù) 3D面具智能助手