人工智能（AI）的浪潮正勢(shì)不可擋地占據(jù)了軟件應(yīng)用開(kāi)發(fā)的前沿?，F(xiàn)在，除了傳統(tǒng)的C級(jí)技術(shù)領(lǐng)導(dǎo)角色之外，評(píng)論家、行業(yè)分析人士、AI倡導(dǎo)者以及新設(shè)立的首席人工智能官（CAIO）等職位也相繼出現(xiàn)，成為這一領(lǐng)域的新補(bǔ)充。
當(dāng)前討論主要集中在三個(gè)層次上。首先是支持人工智能所必須的計(jì)算能力背后，需要建立的后端基礎(chǔ)設(shè)施；其次，行業(yè)內(nèi)部對(duì)于中間層面也展示出了關(guān)切，尤其關(guān)注于制定相關(guān)標(biāo)準(zhǔn)（安全措施）以及對(duì)人工智能處理個(gè)人可識(shí)別信息（PII）所帶來(lái)的風(fēng)險(xiǎn)進(jìn)行擔(dān)憂；最后，在應(yīng)用層面，人們不僅關(guān)注于開(kāi)發(fā)旨在輔助人類工作的協(xié)作工具，同時(shí)也越來(lái)越關(guān)注AI機(jī)器人創(chuàng)建甚至擁有自己的社交媒體賬戶的現(xiàn)象。

隨著預(yù)測(cè)性、反應(yīng)式和生成式人工智能越來(lái)越普及，新興服務(wù)紛紛將自然語(yǔ)言處理（NLP）作為核心技術(shù)，這也推動(dòng)了LLMs（LLM）的廣泛應(yīng)用。其中，一些如OpenAI的GPT、Google AI的PaLM支持下的Bard、Anthropic的Claude AI、Meta的LLaMA、BLOOM和Ernie Titan等技術(shù)，已經(jīng)廣受人們熟知。然而，構(gòu)建這些高級(jí)模型所涉及的資源、時(shí)間成本和技術(shù)門(mén)檻使得不少機(jī)構(gòu)難以自主開(kāi)發(fā)，進(jìn)而激發(fā)了行業(yè)內(nèi)部關(guān)于如何選擇恰當(dāng)?shù)南冗M(jìn)模型，以及如何深度解析它們內(nèi)部邏輯的討論。
面對(duì)降低技術(shù)復(fù)雜度的諸多挑戰(zhàn)，IT團(tuán)隊(duì)需要明確如何有效利用這些AI核心組件。同時(shí)，為了簡(jiǎn)化這一進(jìn)程，我們還需考慮哪些自動(dòng)化策略可以采納。這些針對(duì)如何優(yōu)化人工智能技術(shù)應(yīng)用的問(wèn)題正逐漸成為行業(yè)討論的中心話題。

01 確定適合特定任務(wù)的LLMs

Appian低代碼軟件平臺(tái)和流程自動(dòng)化解決方案顧問(wèn)Ysanne Baxter指出，當(dāng)組織評(píng)估不同的LLMs時(shí)，首要任務(wù)是確立自己面臨的業(yè)務(wù)挑戰(zhàn)或改進(jìn)機(jī)會(huì)。在此基礎(chǔ)上，組織需要深入分析相關(guān)的任務(wù)流程及涉及的人員，以此來(lái)構(gòu)建精準(zhǔn)的應(yīng)用場(chǎng)景。他強(qiáng)調(diào)，認(rèn)識(shí)到每款模型都有其獨(dú)特的架構(gòu)、訓(xùn)練數(shù)據(jù)、優(yōu)勢(shì)和應(yīng)用范圍的重要性。商用的LLMs通常是其他項(xiàng)目的底層支撐，它們提供了一個(gè)平臺(tái)以便用戶進(jìn)行進(jìn)一步的定制或針對(duì)特定任務(wù)的開(kāi)發(fā)。這類模型設(shè)計(jì)時(shí)考慮了靈活性和擴(kuò)展性，特別是在處理龐大、多元且復(fù)雜的基礎(chǔ)數(shù)據(jù)集時(shí)，往往能展現(xiàn)出更好的性能。

不同的模型架構(gòu)可能會(huì)導(dǎo)致輸出結(jié)果各異。模型需要先處理大量文本數(shù)據(jù)，比如針對(duì)產(chǎn)品或服務(wù)的客戶評(píng)價(jià)。若組織意圖從中識(shí)別關(guān)鍵觀點(diǎn)或主題，這些分析結(jié)果就可以幫助生成響應(yīng)措施和新功能，從而提升產(chǎn)品質(zhì)量。有多個(gè)模型可以處理此類任務(wù)，并且有工具可以用來(lái)同時(shí)訓(xùn)練多個(gè)模型。開(kāi)發(fā)人員可以在流程結(jié)束后，根據(jù)實(shí)際的性能指標(biāo)，評(píng)估這些模型的輸出結(jié)果，從而選出最適合當(dāng)前需求的模型。

總而言之，最關(guān)鍵的是確定適合特定任務(wù)的LLMs。如果一個(gè)組織已經(jīng)清楚自己面對(duì)的問(wèn)題或所把握的機(jī)會(huì)，并且對(duì)于所使用的數(shù)據(jù)與期望的結(jié)果有準(zhǔn)確的理解，那么在評(píng)估并選擇與手頭任務(wù)最匹配的模型時(shí)，就能從一個(gè)堅(jiān)實(shí)的基礎(chǔ)出發(fā)。

02 LLMs是低代碼的加速器

在機(jī)器學(xué)習(xí)/人工智能領(lǐng)域，很難找準(zhǔn)一個(gè)合適的切入點(diǎn)。對(duì)此，Baxter指出，低代碼開(kāi)發(fā)工具以其易用性顯著降低了這種復(fù)雜性。開(kāi)發(fā)者可以利用這些工具快速啟動(dòng)項(xiàng)目，而這背后得益于專家團(tuán)隊(duì)對(duì)相關(guān)技術(shù)的深刻洞察。新任務(wù)的開(kāi)展無(wú)需從零開(kāi)始構(gòu)建全新模型，反而是可以依靠該團(tuán)隊(duì)在機(jī)器學(xué)習(xí)/人工智能工具上的長(zhǎng)期研究和開(kāi)發(fā)成果來(lái)實(shí)現(xiàn)目標(biāo)。他認(rèn)為，低代碼的路徑實(shí)際上是一種跨學(xué)科合作的體現(xiàn)，它允許將這些領(lǐng)域的知識(shí)與自己的專業(yè)能力相結(jié)合，以一種快速并與組織的需求緊密結(jié)合的方式來(lái)運(yùn)用。

Appian團(tuán)隊(duì)指出，在多種情形下，現(xiàn)成的低代碼人工智能工具已經(jīng)可以滿足需求。例如，許多電子郵件服務(wù)商都利用自然語(yǔ)言處理技術(shù)來(lái)過(guò)濾垃圾郵件。開(kāi)發(fā)者通過(guò)選用適合特定AI場(chǎng)景的低代碼工具，可以大幅提升工作效率，避免了重新設(shè)計(jì)已有產(chǎn)品或功能所需的大量時(shí)間投入。

Baxter還提到，低代碼工具使得開(kāi)發(fā)者能在行業(yè)頂尖工具的基礎(chǔ)上進(jìn)行擴(kuò)展和構(gòu)建。通過(guò)采用低代碼方法，開(kāi)發(fā)者在應(yīng)用現(xiàn)成的LLMs開(kāi)發(fā)新的AI解決方案時(shí)，能夠在短時(shí)間內(nèi)實(shí)現(xiàn)高效率、高產(chǎn)出和強(qiáng)大的影響力。

然而，在整個(gè)開(kāi)發(fā)過(guò)程中，對(duì)個(gè)人信息和敏感任務(wù)數(shù)據(jù)的保護(hù)依然至關(guān)重要。使用現(xiàn)成的LLMs時(shí)，通常不會(huì)涉及敏感數(shù)據(jù)的識(shí)別問(wèn)題。舉例來(lái)說(shuō)，用戶可能會(huì)輸入英國(guó)國(guó)民保險(xiǎn)號(hào)或美國(guó)社會(huì)保障號(hào)碼到ChatGPT中，但據(jù)Baxter了解，就模型本身而言，目前并未有有效的機(jī)制來(lái)防止這些信息被完整吸收和傳播。

03 開(kāi)源還是閉源？

開(kāi)源項(xiàng)目的優(yōu)勢(shì)在于可以讓人們審查源代碼，并據(jù)此評(píng)估其有效性。這一點(diǎn)在人工智能領(lǐng)域尤為關(guān)鍵，因?yàn)楦咝阅苋斯ぶ悄苣Ｐ托枰嫶蟮臄?shù)據(jù)集，進(jìn)行數(shù)據(jù)分析既耗費(fèi)時(shí)間又復(fù)雜，有時(shí)甚至難以執(zhí)行。因此，對(duì)其影響力和重要性的評(píng)估顯得尤為重要。與此相對(duì)，閉源模型像“黑盒”一樣，難以對(duì)其內(nèi)部運(yùn)作進(jìn)行透徹的審視。雖然技術(shù)的完全透明是理想狀態(tài)，但要保護(hù)數(shù)據(jù)，透明度并非唯一選項(xiàng)。

Baxter提出了一種技術(shù)來(lái)提高生成型語(yǔ)言模型的準(zhǔn)確性和可靠性，即檢索增強(qiáng)生成（Retrieval-Augmented Generation，簡(jiǎn)稱RAG）。這一方法將人工智能模型與外部知識(shí)庫(kù)相結(jié)合。首先，需要確保所選數(shù)據(jù)集適用且目標(biāo)明確。其次，要執(zhí)行有效的訪問(wèn)控制，并制定全面的策略，以確保從數(shù)據(jù)源中清除任何敏感或機(jī)密信息。最后，系統(tǒng)接收的查詢請(qǐng)求也需要進(jìn)行驗(yàn)證。目前業(yè)界對(duì)RAG技術(shù)持樂(lè)觀態(tài)度，認(rèn)為它通過(guò)額外鏈接到可靠或至少公認(rèn)的數(shù)據(jù)源，增強(qiáng)了驗(yàn)證人工智能處理數(shù)據(jù)的潛力。

04 提示注入技術(shù)對(duì)AI模型的影響

提示注入技術(shù)的研究至關(guān)重要，這項(xiàng)技術(shù)能夠以多種方式改變AI模型的反應(yīng)。提示注入的形式多樣，包括基本的注入攻擊、利用不同語(yǔ)言提問(wèn)的翻譯注入、數(shù)學(xué)注入，以及同時(shí)針對(duì)不相關(guān)內(nèi)容提問(wèn)的上下文切換注入技術(shù)，比如同時(shí)詢問(wèn)有關(guān)希臘假期和阿拉巴馬州卷心菜價(jià)格的問(wèn)題。

這些技術(shù)可能會(huì)違背原先設(shè)定的模型指令或安全措施，影響模型未來(lái)的輸出結(jié)果。攻擊者會(huì)利用系統(tǒng)的漏洞進(jìn)行提示注入，從而產(chǎn)生開(kāi)發(fā)者未預(yù)期或未授權(quán)的答復(fù)。

Baxter指出，尤其在涉及自然語(yǔ)言處理時(shí)，確定系統(tǒng)漏洞并防范提示注入頗具挑戰(zhàn)。由于自然語(yǔ)言的靈活性，攻擊者可以更加自由地繞過(guò)安全防護(hù)。與需要精確語(yǔ)法的SQL注入不同，自然語(yǔ)言的處理標(biāo)準(zhǔn)遠(yuǎn)不如此嚴(yán)格。因此，確保用戶輸入的驗(yàn)證與凈化是必不可少的。開(kāi)發(fā)者應(yīng)當(dāng)分享這些安全工具的實(shí)施和應(yīng)對(duì)策略，幫助網(wǎng)絡(luò)安全領(lǐng)域的同事加強(qiáng)防護(hù)。

05  未來(lái)發(fā)展軌跡

在討論人工智能的未來(lái)發(fā)展和LLMs如何更好地融入現(xiàn)代企業(yè)軟件系統(tǒng)時(shí)，業(yè)界的觀點(diǎn)普遍傾向于，未來(lái)的LLMs將更精準(zhǔn)地服務(wù)于特定的應(yīng)用領(lǐng)域。

Baxter也贊同這一見(jiàn)解，他預(yù)計(jì)LLMs將更多地針對(duì)特定行業(yè)和任務(wù)進(jìn)行優(yōu)化。盡管市場(chǎng)上已有泛用型和專用型的模型解決方案，但未來(lái)的發(fā)展方向是提供既能貼合行業(yè)需求又能靈活適應(yīng)特定場(chǎng)景的產(chǎn)品和服務(wù)。

值得欣慰的是，這一趨勢(shì)并非僅僅是技術(shù)簡(jiǎn)化導(dǎo)致的復(fù)雜性增加。相反，新興AI技術(shù)的開(kāi)發(fā)和應(yīng)用需要軟件開(kāi)發(fā)者、行業(yè)專家，以及非技術(shù)人員的共同努力。

前進(jìn)的道路需要采取一種“協(xié)作且周到”的策略，確保不會(huì)因缺乏參與而導(dǎo)致這條前進(jìn)之路變得荒涼。
文章由LowCode低碼時(shí)代編譯發(fā)布，如有侵權(quán)，請(qǐng)聯(lián)系刪除。

- END -

繼續(xù)閱讀：

未經(jīng)允許不得轉(zhuǎn)載：RPA中國(guó) | RPA全球生態(tài) | 數(shù)字化勞動(dòng)力 | RPA新聞 | 推動(dòng)中國(guó)RPA生態(tài)發(fā)展 | 流 > 人工智能軟件開(kāi)發(fā)中的低代碼角色