C114通信網(wǎng)  |  通信人家園

人工智能
2024/6/26 16:00

浩鯨科技鐘健松:大模型落地遠不止最后“一公里”

C114通信網(wǎng)  焦焦

C114訊 6月26日消息(焦焦)ChatGPT橫空出世,掀起了AI行業(yè)的發(fā)展熱潮。大模型從嶄露頭角到現在的如日中天,全行業(yè)已然在A(yíng)I的新時(shí)代中全速前進(jìn),大模型成為驅動(dòng)創(chuàng )新的焦點(diǎn)之一。在A(yíng)I帶來(lái)生產(chǎn)力革新與商業(yè)模式升級浪潮下,作為向科技公司轉型的領(lǐng)軍央企,運營(yíng)商在A(yíng)I領(lǐng)域不斷加碼布局,為通信產(chǎn)業(yè)邁入大模型時(shí)代積極領(lǐng)路,構建數智生產(chǎn)力也被被賦予前所未有的重要使命。

在2024年MWC上海展上,作為運營(yíng)商的重要合作伙伴,浩鯨科技圍繞“智能時(shí)代,構建數智生產(chǎn)力”為主題,分享在大模型的驅動(dòng)下,如何賦能運營(yíng)商業(yè)務(wù)和運營(yíng)管理快速實(shí)現深度智能化,并展示在加速智能化進(jìn)程中的技術(shù)突破和創(chuàng )新應用,為運營(yíng)商構建從智能基礎設施、大模型平臺、到創(chuàng )新數智應用落地的全方位支持,攜手運營(yíng)商共筑智能化未來(lái)宏圖,加速數智躍升。

運營(yíng)商數字化建設成果仍存挑戰,亟待解決

在智能化浪潮下,運營(yíng)商在推進(jìn)自身轉型的同時(shí)積極發(fā)力產(chǎn)業(yè)數字化建設,據C114觀(guān)察,目前運營(yíng)商數字化轉型取得顯著(zhù)成效。在為用戶(hù)提供更快速、更穩定的通信網(wǎng)絡(luò )連接的同時(shí),推出更豐富的數字化服務(wù)和增值服務(wù),并通過(guò)數據驅動(dòng)的運營(yíng),更加精準地滿(mǎn)足最終用戶(hù)的個(gè)性化需求,提高數據資產(chǎn)的管理利用效率。

浩鯨科技中國CTO鐘健松在接受C114專(zhuān)訪(fǎng)時(shí)指出,運營(yíng)商的數字化建設走過(guò)三十年,已取得卓越成效,成為推動(dòng)國家數字經(jīng)濟建設的領(lǐng)頭羊。但以發(fā)展的視角審視當前的數字化建設成果,依舊存在一些挑戰,亟待智能化手段去解決。

1、生產(chǎn)要素已被大量累積,但價(jià)值發(fā)揮有限

鐘健松認為,經(jīng)過(guò)數十年的的數字化發(fā)展與積累,運營(yíng)商沉淀了海量的數據,包括資源、網(wǎng)絡(luò )、服務(wù)、客戶(hù)、渠道等立體多維數據資產(chǎn),堪稱(chēng)為“寶藏數據礦場(chǎng)”;谶@些數據,運營(yíng)商內部構建了諸多報表系統、數據分析系統,但對數據的提取和分析仍存在諸多動(dòng)態(tài)變化,導致當前各下屬公司依然要配備大量取數人員,以響應每月不同維度的看數要求。

此外,隨著(zhù)中臺的建設,運營(yíng)商的重點(diǎn)已從功能建設逐漸轉向能力構建,能力不斷累積和豐富,并逐步沉淀為企業(yè)的能力資產(chǎn)。盡管能力資產(chǎn)在助力數字化應用建設過(guò)程中發(fā)揮了一定價(jià)值,但由于能力的可視化、非完全的集約、從能力到應用的轉化難度等問(wèn)題,制約了能力資產(chǎn)的價(jià)值發(fā)揮。

鐘健松表示,相比數據資產(chǎn)和能力資產(chǎn),企業(yè)的知識資產(chǎn)受重視程度不夠,少量的知識庫僅存儲了某些關(guān)于產(chǎn)品營(yíng)銷(xiāo)方面的內容,而更需要傳承的例如網(wǎng)絡(luò )運維、故障處理、施工操作、方案配置等方面的知識,要么作為規則被整合到系統中,缺乏迭代更新;要么沉淀在少數專(zhuān)家的頭腦中,難以復制和傳承。

2、生產(chǎn)效率盡管在不斷提高,但仍有很大提升空間

當前,流程驅動(dòng)已成為數字化系統的一個(gè)典型特征,但流程驅動(dòng)有其受限之處。首先,流程為異步處理,非實(shí)時(shí),可能會(huì )因為環(huán)節之間的來(lái)回回退導致處理時(shí)間拉長(cháng),而企業(yè)的生產(chǎn)運營(yíng)則有大量需要實(shí)時(shí)解決問(wèn)題的場(chǎng)景,比如涉及到多方參與的網(wǎng)絡(luò )疑難故障診斷分析,基于流程驅動(dòng)的派單式的解決方式就不太適用。

其次,在新技術(shù)的推動(dòng)下,自動(dòng)化、智能化的述求在企業(yè)運營(yíng)中越來(lái)越強烈,雖然通過(guò)規則、AI算法、RPA等的引入能夠解決不少問(wèn)題,但目前采取“散點(diǎn)注智”的開(kāi)發(fā)模式,派生出多種類(lèi)型的規則引擎、推薦引擎、調度引擎等多個(gè)系統,開(kāi)發(fā)周期長(cháng)、應用面狹窄,管理分散,從而導致需求難以即時(shí)響應,自智成熟度等級難以產(chǎn)生質(zhì)的飛躍。

3、數字化系統林立,使用者陷入系統和功能的海洋

盡管在ITSP的規劃下,運營(yíng)商數字化系統縱向集約橫向整合,系統數量已做了大幅收斂,但當前系統規模依然龐大,不同崗位人員需要面對諸多系統以及功能模塊,在龐雜的系統中尋找對應的功能,費時(shí)費力,以至于大量已開(kāi)發(fā)出的功能模塊因不被認知而使用率極低。

與此同時(shí),為了應對復雜場(chǎng)景,數字化系統往往配備繁瑣的使用界面,使用者需要在各種彈出的窗口、頁(yè)簽中切換,使用門(mén)檻高,工作負荷大。

大模型,助推運營(yíng)商向理想藍圖平滑演進(jìn)

據C114了解,強大的通用智能能力,催生AI創(chuàng )新應用多點(diǎn)開(kāi)花。國內外均積極、迅速地推進(jìn)大模型訓練,千億參數模型層出不窮,大模型驅動(dòng)的場(chǎng)景也在逐步落地,但大模型的價(jià)值發(fā)揮并不是想象中的一蹴而就。大模型應用在落地過(guò)程需要多方參與,且對算力、平臺、算法的要求較高,因此盡管大模型的訓練量不斷擴大,在不同行業(yè)不同領(lǐng)域也多有應用,但應用的發(fā)展水平與速度參差不齊,部分領(lǐng)域尚且很難將模型價(jià)值發(fā)揮實(shí)效,推動(dòng)行業(yè)大模型“真正落地”的機遇與挑戰并存。

鐘健松認為,整體而言,大模型依然處于成熟過(guò)程中,技術(shù)演進(jìn)日新月異,還需要克服其在行業(yè)實(shí)際應用中的各類(lèi)技術(shù)缺陷,比如幻覺(jué)、算力成本高、知識實(shí)時(shí)更新差等問(wèn)題。如若貿然利用大模型重構IT系統來(lái)替換現有IT,會(huì )因為反復折騰消耗巨大的人力物力,帶來(lái)的價(jià)值效果可能也不盡如人意。面對以上難點(diǎn),需要選擇一條穩步、平滑演進(jìn)的路線(xiàn),通過(guò)先引入大模型增強現有數字化系統架構和能力,再逐步升級替代到理想藍圖。

在這條演進(jìn)路線(xiàn)上,一方面需要從系統工程的角度來(lái)提升通用人工智能的準確性、適應性、創(chuàng )造性和效率,另一方面需要結合運營(yíng)商數字化場(chǎng)景及當期架構模式,構建出增強演進(jìn)的架構體系?傮w看來(lái),整個(gè)增強體系可分為2+3+N+1來(lái)分層演進(jìn)。

“2”通過(guò)2個(gè)核心平臺的引入,增強企業(yè)IT整體架構

MAAS平臺,將大模型能力更絲滑地嵌入到企業(yè)數字化系統中。未來(lái)的頭部企業(yè),很有可能采用1+N的大模型構建方式,即在一個(gè)主力大模型的基礎上,還會(huì )根據不同場(chǎng)景需要,應用N個(gè)各有擅長(cháng)以及尺寸不同的其它模型。MAAS平臺將對接各類(lèi)不同的大模型,以更安全和更高性?xún)r(jià)比的方式向上統一提供模型服務(wù)。同時(shí)為解決大模型生成幻覺(jué)問(wèn)題和知識滯后性問(wèn)題,引入RAG,將非參數化預料庫和參數模型結合,解決純參數化大模型的局限。并對原始RAG架構優(yōu)化,通過(guò)增加意圖識別、問(wèn)題改寫(xiě)、查詢(xún)擴展、結構化和非結構化數據動(dòng)態(tài)路由、多路召回、降噪去重等工程化手段大幅提升實(shí)際場(chǎng)景下的知識服務(wù)能力。

mmRTC平臺,在原有頁(yè)面集成、流程集成、數據集成、企業(yè)集成架構的基礎上,搭建多模態(tài)的實(shí)時(shí)通信交互平臺,實(shí)現人-人、人-智能體、人-智能體-人、多智能體等多種方式的即時(shí)協(xié)同,充分發(fā)揮智能體在感知、規劃、記憶、執行等方面的能力,面對復雜場(chǎng)景,改變傳統異步派單的模式,在人腦和智腦的多維加持下,實(shí)現實(shí)時(shí)分析、精準診斷、即時(shí)處理,推進(jìn)效率的大幅提升。該平臺與運營(yíng)商的網(wǎng)絡(luò )故障診斷、裝維疑難問(wèn)題處理、復雜方案營(yíng)銷(xiāo)等場(chǎng)景非常適配。

3通過(guò)3個(gè)工廠(chǎng)的建設,提升數字化生產(chǎn)效率

知識工廠(chǎng):在知識工廠(chǎng)中訓練兩類(lèi)知識,一類(lèi)是經(jīng)營(yíng)領(lǐng)域的專(zhuān)業(yè)知識,包括前端營(yíng)銷(xiāo)涉及的產(chǎn)品、渠道、客戶(hù)等以及后端運維涉及的的網(wǎng)絡(luò )、故障分析等;另一類(lèi)是數字化領(lǐng)域的專(zhuān)業(yè)知識,包括IT系統數據模型、功能頁(yè)面、集成關(guān)系等。知識工廠(chǎng)提供高效工具幫助企業(yè)通過(guò)多種形式建立專(zhuān)屬知識庫,解決知識分散、信息損失等問(wèn)題,實(shí)現知識可運營(yíng)、可迭代優(yōu)化,基于知識標簽,最終實(shí)現一問(wèn)多答,更好的滿(mǎn)足跨地域、多產(chǎn)品、多客戶(hù)類(lèi)型的豐富的經(jīng)營(yíng)形態(tài)。

智能體工廠(chǎng):未來(lái)Agent as a Service 或許將逐步取代目前IT架構的微服務(wù)模式。在智能體工廠(chǎng)中,將整合目前已形成的海量插件,以低代碼的方式,通過(guò)工作流的可視化開(kāi)發(fā)形態(tài),將模型、知識庫、提示詞、插件工具進(jìn)行鏈式整合,構建出面向不同領(lǐng)域、解決不同場(chǎng)景問(wèn)題的智能體。

數字應用工廠(chǎng):更高效更低門(mén)檻構建數字化應用是IT工作者的追求?梢灶A見(jiàn),以大模型來(lái)驅動(dòng),識別需求意圖,搭載低代碼組裝式開(kāi)發(fā),數字應用生產(chǎn)效率將倍增。應用開(kāi)發(fā)的同時(shí)數字資產(chǎn)不斷豐富,又進(jìn)一步提升數字應用的開(kāi)發(fā)效率。運營(yíng)商推進(jìn)政企市場(chǎng),智能數字工廠(chǎng)將為其如虎添翼。

“N”通過(guò)N個(gè)場(chǎng)景的智慧化,推進(jìn)全面智能的落地

將大模型的理解、生成、邏輯、記憶四大能力結合運營(yíng)商的場(chǎng)景,浩鯨科技已實(shí)現如下諸多大類(lèi)智慧化應用,全面大幅提升數字化智能水平。

生成類(lèi)場(chǎng)景:包括營(yíng)銷(xiāo)方案、禮包策劃、營(yíng)銷(xiāo)海報等應用;

診斷類(lèi)場(chǎng)景:包括家寬綜調助手、資費爭議診斷等應用;其中家寬綜調助手面向裝維和綜調人員,提供自然語(yǔ)言順暢交互、問(wèn)題智能精準診斷以及即時(shí)處理等智能化支撐;

助理類(lèi)場(chǎng)景:包括CRM營(yíng)業(yè)助手、資源助手等應用;

分析類(lèi)場(chǎng)景:推出chatBI分析助手,提供海量報表一問(wèn)直達、智能按需問(wèn)數、隨心深度探索數據等智能能力

稽核類(lèi)場(chǎng)景:包括資費稽核、合同稽核等應用;

問(wèn)答類(lèi)場(chǎng)景:基于統一框架快速高效搭建各類(lèi)場(chǎng)景的問(wèn)答機器人,基于浩鯨特有技術(shù)既保障答案的精準度,又保證完整度,同時(shí)還支持一問(wèn)多答的跨地域跨產(chǎn)品的特有場(chǎng)景應用。

代碼類(lèi)場(chǎng)景:通過(guò)代碼大模型幫助軟件工程師編碼時(shí)實(shí)現代碼理解、自動(dòng)補全,提升軟件開(kāi)發(fā)人員的編碼效率和代碼質(zhì)量。

“1”通過(guò)1個(gè)“無(wú)系統”的打造,實(shí)現嶄新的交互形態(tài)

“無(wú)系統”一方面將企業(yè)數字化系統的數據、功能界面、使用操作、業(yè)務(wù)知識等訓練給大模型,另一方面構建統一入口,在該入口以自然語(yǔ)言的方式調用功能模塊、完成功能模塊的操作(包括跨系統的鏈式操作)、查看權限內的數據(包括跨系統的整合數據)等。

對于使用者而言,不再需要關(guān)注端到端的流程穿越具體在哪個(gè)系統和菜單定位,只需要表達自己的意圖,通過(guò)統一入口,由智能助手實(shí)現一步直達。此入口可掛載在現有任一數字化系統上,即時(shí)呼出,隨地調用。

運營(yíng)商深入大模型應用腹地,浩鯨科技將做大模型價(jià)值釋放者

從整個(gè)電信行業(yè)來(lái)看,2023年以來(lái),三大運營(yíng)商相繼推出自己的基礎大模型、行業(yè)大模型和大模型應用工具,如今運營(yíng)商更是深入大模型應用腹地,不斷落子。

據C114了解,中國移動(dòng)推出APP的AI智能助理“靈犀”,深度嵌入到最新升級的中國移動(dòng)APP V10版本中,從用戶(hù)使用需求出發(fā),依托大模型的內容生成能力改善用戶(hù)體驗。而中國電信,前不久一口氣發(fā)布了12個(gè)垂類(lèi)行業(yè)大模型,加強在各個(gè)領(lǐng)域的深度應用。中國聯(lián)通也發(fā)布了元景“1+1+M”大模型體系,更在5月進(jìn)一步發(fā)布中國聯(lián)通元景大模型MaaS平臺,為企業(yè)行業(yè)向MaaS服務(wù)。

總體來(lái)看,三大運營(yíng)商對大模型,無(wú)論是反應速度、研發(fā)深度,還是覆蓋廣度,都格外突出。對運營(yíng)商而言,大模型提供了一個(gè)契機,讓運營(yíng)商不僅僅作為通信網(wǎng)絡(luò )的基礎設施提供商,還可以整合自身在全國一體化算力網(wǎng)絡(luò )、云資源等技術(shù)方面和政企市場(chǎng)、消費者市場(chǎng)等客戶(hù)方面的多種優(yōu)勢,更深度地參與到產(chǎn)業(yè)智能化升級與數字化轉型中,重構自身在數字化業(yè)務(wù)中的競爭優(yōu)勢。

正如采訪(fǎng)的最后,鐘健松表示,大模型企業(yè)落地遠不止“一公里”, 涉及端到端全程各環(huán)節配套,包括算力資源、大模型切換、私域知識高效導入、智能體構建、copilot與現有系統融合,以及每個(gè)層面特有的推進(jìn)方法。在智能時(shí)代,未來(lái)的IT系統將有著(zhù)新的架構、運營(yíng)模式、研發(fā)范式以及交互形態(tài),而作為運營(yíng)商的重要且長(cháng)期合作伙伴,浩鯨科技不做大模型的生產(chǎn)者,但會(huì )基于自身對行業(yè)的深度理解,以及通過(guò)體系化的工程手段,致力做大模型真實(shí)價(jià)值釋放者和使能者,助力運營(yíng)商全面推進(jìn)AI+戰略落地,加速AI融入百業(yè),加速數智新增長(cháng)。

給作者點(diǎn)贊
0 VS 0
寫(xiě)得不太好

版權說(shuō)明:凡注明來(lái)源為“C114通信網(wǎng)”的文章皆屬C114版權所有,除與C114簽署內容授權協(xié)議的單位外,其他單位未經(jīng)允許禁止轉載、摘編,違者必究。如需使用,請聯(lián)系021-54451141。其中編譯類(lèi)僅出于傳遞更多信息之目的,系C114對海外相關(guān)站點(diǎn)最新信息的翻譯稿,僅供參考,不代表證實(shí)其描述或贊同其觀(guān)點(diǎn),投資者據此操作,風(fēng)險自擔;翻譯質(zhì)量問(wèn)題請指正。

熱門(mén)文章
    最新視頻
    為您推薦

      C114簡(jiǎn)介 | 聯(lián)系我們 | 網(wǎng)站地圖 | 手機版

      Copyright©1999-2024 c114 All Rights Reserved | 滬ICP備12002291號

      C114 通信網(wǎng) 版權所有 舉報電話(huà):021-54451141