今年2月7日，美國(guó)加州議會(huì)擬定了《SB-1047前沿AI大模型安全創(chuàng)新法案》。經(jīng)過(guò)4個(gè)月6次修訂、審議，該法案已經(jīng)通過(guò)了一些關(guān)鍵條款，距離正式發(fā)布已經(jīng)很近了。

表面上，這是一個(gè)增強(qiáng)大模型安全、透明性、促進(jìn)公平、吸引投資的法案。實(shí)際上，你仔細(xì)閱讀其中一些關(guān)鍵條款，會(huì)發(fā)現(xiàn)這對(duì)于一些科技企業(yè)、開(kāi)發(fā)者將帶來(lái)非常大的負(fù)面影響。

例如，根據(jù)該法案的定義，Meta的Llama-3被定義為超過(guò)1億美元訓(xùn)練成本的“前沿模型”。如果有人將該模型用于非法用途，Meta也會(huì)受到嚴(yán)重處罰。咱們2000多年前大秦的連坐制度，咋還出口了呢~

加州的地理位置非常特殊，這里既有斯坦福、加州理工、南加州大學(xué)等名校，也是谷歌、蘋(píng)果、OpenAI、Meta等科技巨頭總部的所在地，所以，該法案也受到了吳恩達(dá)、Yann LeCun等AI界泰斗的抵制。

例如，該法案中的22603(a)(3)(4)條要求"有限職責(zé)豁免"向政府部門(mén)提交證明,并在有錯(cuò)誤時(shí)停止模型的運(yùn)行；

第22603(b)條要求開(kāi)發(fā)者需要報(bào)告任何模型的潛在的AI安全事故。如果開(kāi)發(fā)者無(wú)法完全掌控基于其模型的各種衍生版本,若發(fā)生安全事故,責(zé)任將歸屬于第一開(kāi)發(fā)者。

也就是說(shuō)，開(kāi)發(fā)者需要對(duì)模型的能力做出保證,一旦大模型開(kāi)源后被他人修改,能力發(fā)生變化,會(huì)面臨合規(guī)風(fēng)險(xiǎn)的處罰。所以，企業(yè)、個(gè)人開(kāi)發(fā)者在開(kāi)源大模型權(quán)重時(shí)會(huì)非常謹(jǐn)慎，這相當(dāng)于是一個(gè)連帶責(zé)任。

此外，該法案中的22604（a）（b）規(guī)定，當(dāng)用戶(hù)使用其“前沿模型”和算力資源時(shí)，開(kāi)發(fā)者需要提交客戶(hù)的所有資料，包括客戶(hù)的身份、信用卡號(hào)、賬號(hào)、客戶(hù)標(biāo)識(shí)符、交易標(biāo)識(shí)符、電子郵件、電話(huà)號(hào)碼。

同時(shí)，每年都要提交一次資料，并對(duì)用戶(hù)的行為、意圖進(jìn)行評(píng)估。用戶(hù)的所有資料會(huì)被備份7年，也會(huì)在海關(guān)、邊境總署備案。

而開(kāi)發(fā)者也需要具備緊急停止大模型的能力，例如，用戶(hù)使用其模型用于別的業(yè)務(wù)場(chǎng)景，可以不用通過(guò)用戶(hù)本地直接關(guān)閉模型。

像這種嚴(yán)格的監(jiān)管條例還有不少，無(wú)形之中會(huì)加重企業(yè)、開(kāi)發(fā)者對(duì)大模型的合規(guī)成本和開(kāi)放權(quán)重的態(tài)度。

尤其是那種“秦朝連坐制度”，用戶(hù)使用了你的模型開(kāi)發(fā)了其他潛在危險(xiǎn)的應(yīng)用，特別是這個(gè)判定還很模糊，那么第一開(kāi)發(fā)者弱沒(méi)有“豁免權(quán)”將會(huì)一起被處罰，真的是挺離譜的。

對(duì)于SB-1047法案的擬定，吳恩達(dá)發(fā)表了一篇深度長(zhǎng)文進(jìn)行回應(yīng)。他表示，該法案中有很多問(wèn)題，首先就是危險(xiǎn)范疇定義不合理，如果有人使用他們的模型做超出規(guī)定的事情，原作者一起被處罰。此外對(duì)造成的傷害定義也不太好，例如，造成5億美元的損失，這在AI領(lǐng)域還是很難實(shí)現(xiàn)的。

如果最終議會(huì)通過(guò)了這個(gè)方案，那么將會(huì)對(duì)AI大模型領(lǐng)域造成很大影響，將徹底扼殺開(kāi)源大模型的技術(shù)創(chuàng)新。

吳恩達(dá)進(jìn)一步指出，應(yīng)該監(jiān)管的是AI應(yīng)用程序而不是大模型本身。例如，電機(jī)是一種技術(shù)。當(dāng)我們把它放在攪拌機(jī)、電動(dòng)汽車(chē)、透析機(jī)或?qū)椫袝r(shí)，它就成為了一種應(yīng)用。

如果我們通過(guò)法律規(guī)定，如果任何人以有害的方式使用電機(jī)，制造商將承擔(dān)相應(yīng)的責(zé)任。那么，電機(jī)制造商要么關(guān)閉生產(chǎn)，要么將電機(jī)的性能制造的非常小，難以大范圍應(yīng)用。

SB-1047法案似乎沒(méi)有考慮過(guò)大模型有益處的應(yīng)用，而是全部針對(duì)他的有害來(lái)處理的，這是不公平的。

如果這樣的監(jiān)管法案最終通過(guò)了，可能會(huì)阻止人們使用電機(jī)制造導(dǎo)彈，但我們也會(huì)失去使用攪拌機(jī)、電動(dòng)汽車(chē)和透析機(jī)的機(jī)會(huì)。

吳恩達(dá)在最近演講中談SB-1047

更大的憂(yōu)慮是，加州的SB-1047法案一旦通過(guò)，其他州可能會(huì)效仿，整個(gè)負(fù)面影響會(huì)不斷擴(kuò)大。

圖靈獎(jiǎng)獲得者、Meta首席科學(xué)家-Yann LeCun直言，SB-1047法案意味著，加州的科技產(chǎn)業(yè)將直接面臨終結(jié)。

知名架構(gòu)師Daniel Jeffries也贊成Yann的觀點(diǎn)，并發(fā)表長(zhǎng)文強(qiáng)烈呼吁加州議會(huì)對(duì)SB-1047法案提反對(duì)票。并且認(rèn)為，SB-1047根本就不是一個(gè)法案，就是一個(gè)“特洛伊木馬”。

原因很簡(jiǎn)單，這是由一群小范圍利益群體制定的規(guī)則，他們堅(jiān)信AI大模型會(huì)帶來(lái)“世界毀滅”，完全不顧他的好處。

此外，他提出中國(guó)已經(jīng)具備與OpenAI等科技巨頭競(jìng)爭(zhēng)的大模型，在電動(dòng)汽車(chē)、自動(dòng)駕駛、城市AI大腦皆處于領(lǐng)先地位。這個(gè)方案要是通過(guò)了，將直接壓制美國(guó)AI領(lǐng)域的發(fā)展進(jìn)程。

普通用戶(hù)對(duì)SB-1047法案也是相當(dāng)?shù)种频?，這個(gè)法案的最終目的，就是讓第一開(kāi)發(fā)者為自己的大模型永久負(fù)責(zé)，并保證不會(huì)出現(xiàn)任何危險(xiǎn)。這簡(jiǎn)直是難以執(zhí)行的監(jiān)管，會(huì)嚴(yán)重影響開(kāi)源領(lǐng)域的發(fā)展。

同時(shí)嘲諷道，讓一群平均年齡63歲的人，來(lái)監(jiān)管AI大模型有點(diǎn)不靠譜啊~~

也有人建議，不行就把開(kāi)源大模型這事交給中國(guó)來(lái)做吧，Quen 2、零一萬(wàn)物等開(kāi)源大模型的性能已經(jīng)和GPT-4、GPT-4o等旗鼓相當(dāng)。

本文素材來(lái)源吳恩達(dá)個(gè)人網(wǎng)站、X，如有侵權(quán)請(qǐng)聯(lián)系刪除

繼續(xù)閱讀：

未經(jīng)允許不得轉(zhuǎn)載：RPA中國(guó) | RPA全球生態(tài) | 數(shù)字化勞動(dòng)力 | RPA新聞 | 推動(dòng)中國(guó)RPA生態(tài)發(fā)展 | 流 > 吳恩達(dá)：美國(guó)加州SB-1047法案，將扼殺開(kāi)源大模型