新车测评网_网罗汽车评测资讯_汽车评测门户报道

首頁 > 汽車技巧 > 汽車技巧 > 騰訊邱躍鵬:圍繞智能化、融合創新、國際化,打造面向未來的云

騰訊邱躍鵬:圍繞智能化、融合創新、國際化,打造面向未來的云

發布時間:2024-09-05 17:42:33來源: 13041198719

9月5日,在騰訊全球數字生態大會上,騰訊集團副總裁、云與智慧產業事業群COO兼騰訊云總裁邱躍鵬在演講中表示,未來的云是面向智能化、融合創新、國際化的,騰訊云將圍繞這三個方向持續探索和創新,打磨好產品能力,助力企業取得新增長。


在智能化方面,邱躍鵬表示,大模型和云的關系變得越來越緊密,大模型能力通過云對外輸出,云也借助大模型提升產品效能和體驗。

目前,騰訊混元最新一代模型騰訊混元Turbo已經在騰訊云上線,輸入和輸出價格只有前代模型的一半。騰訊混元Turbo采用萬億級層間異構MoE架構,擁有更多的專家數和更少的激活參數量,推理效率提升100%,推理部署成本下降50%,解碼速度提升20%。根據SuperCLUE評測,騰訊混元Turbo總分位列國內第一,中文場景效果對標GPT-4o。

騰訊云也正式推出了“騰訊云智算”品牌。作為集算存網一體的高性能智算底座,能夠為AI創新輸出性能領先、多芯兼容、靈活部署的智算產品能力。目前,騰訊云智算的集群千卡單日故障數已經刷新到0.16,是行業水平的1/3;1分鐘就能完成萬卡Checkpoint寫入,數據讀寫效率是業界10倍;千卡集群的通信時間縮短到6%,是業界一半。騰訊云智算集群從機器上架到開始訓練可以做到只需1天,相比業界以月為單位大為縮短。

同時,為了幫助企業構建大模型應用,騰訊云基于客戶不同架構和場景,能夠提供兼容ES開源生態的智能檢索方案和AI原生向量數據庫方案。另外騰訊云云原生數據庫TDSQL、騰訊云大數據BI以及騰訊云AI代碼助手、騰訊會議、騰訊樂享、騰訊企點客服等產品也結合大模型實現了能力升級,能夠為用戶提供更加智能化的產品體驗。

在融合創新方面,邱躍鵬認為,隨著融合創新進程加速推進,客戶除了關注如何把原有業務系統支撐起來,同樣看重穩定性、安全性和兼容性。目前騰訊云打造了包括數據庫TDSQL、專有云平臺TCE、大數據平臺TBDS、操作系統TencentOS以及人工智能開發平臺TI在內的融合創新軟件體系。

在某國有大行核心系統場景下,TDSQL支撐的日交易峰值達到了19.6億筆;TCE支持了國內最大規模的金融云、政務云融合創新實踐,總規模超過10萬節點;在保險行業打造了首個國產數據湖倉標桿案例,5分鐘就能產出數據;TencentOS自研了完全兼容CentOS的T-Kernel4內核,能夠支持在線原地替換,部署量超過1000萬臺。

在國際化方面,邱躍鵬表示,國際化是企業增長的新方向,騰訊云正在發揮產品技術能力優勢,并通過全球一致的產品體驗、優質的服務能力以及在安全合規方面的經驗,助力客戶在全球范圍內把握機遇、實現增長。

以星星海SA5云服務器為例,結合騰訊云軟硬一體的協同優化,SA5性能大幅提升,故障率降低了60%,為客戶提供端到端的業務穩定表現,在大量客戶的國際化場景中得到應用,成為了十年來增長最快的云服務器實例。

隨著游戲、直播電商等商業模式復制到海外,騰訊云也助力企業提供更好的應用體驗,帶來直接的增長。在音視頻領域,騰訊云首創并在全球大規模應用超低延時直播,把直播的平均延時從3秒降到0.5秒內,大幅提升用戶活躍度和商品成交率,實現了每日千萬元級別的交易量提升。騰訊云邊緣加速平臺EdgeOne提供最接近用戶的邊緣節點,讓游戲服的訪問提速超過30%,提升了游戲的活躍度。

此外,騰訊會議也在企業國際化業務中扮演著重要角色。通過類“2G”的弱網環境下流暢開會的能力、多達17種語言的實時翻譯支持、多種入會方式升級,騰訊會議海外會議數已經較年初增長了近50%。 以下是演講原文:

大家好,圍繞著智能化、融合創新和國際化三個方向,我接下來分享一下騰訊云的產品升級和實踐。

大模型推出之后,我們看到了科技行業的變化,比如大模型在云上訓練,云又成為大模型對外輸出能力的重要出口,云自身的產品怎么通過大模型的智能化能力提升自己,這些都是我們作為云從業者要回答的必回題。

去年的數字生態大會上,騰訊混元大模型第一次正式對外亮相。經過一年的不斷迭代升級,我們今天正式推出了騰訊混元Turbo,更快更強的下一代模型。它實現了MoE架構的創新,通過在模型的不同層采用不同的專家個數和激活參數量,推理效率提升了100%,成本降低了50%,速度也提升了20%。目前,混元Turbo已經在騰訊云正式上線,輸入和輸出價格只有前代模型的一半,歡迎大家體驗。

雖然成本更低,但從性能看,混元Turbo卻是實力最強、效果最好的新一代模型。根據國內大模型評測機構SuperCLUE前天發布的最新報告,騰訊混元Turbo總分位列國內第一,在11個能力項測評中,8項核心任務排名國內第一,中文場景效果對標GPT-4o。技術圈常常通過公開評測集“跑分”來看大模型的能力。benchmark,也叫基準測試。主流大模型,比如GPT、llama、claude等,都會公開自己在特定評測集的成績,各家都可以直觀地對比模型實力。評測數據顯示,目前騰訊混元turbo 在多個評測集的測試成績已經居于國內第一梯隊,數學和代碼能力提升明顯,已經可以對標國際上最好的模型。

為什么在算力有限的情況下,騰訊可以訓練出混元Turbo這樣性能領先的萬億參數大模型,一方面是算法、框架、工程方面的持續精進,另一方面,騰訊在infra方面的高穩定性也是提升訓練效率的重要一環。

8月,Meta發布最新Llama模型的時候,也分享了訓練集群的運轉情況,拆解了集群運轉過程中遇到的各式各樣問題。集群的穩定、卡的互聯、數據讀寫效率、發生故障后的續訓,每個環節都會給訓練效率帶來影響,也直接關系到整體訓練成本,這就好比你買了一臺高性能車,但是路很差,也不能跑的快,整個AI infra是一個系統性工程。

過去幾年,騰訊云智算為客戶提供了穩定高效的AI infra服務:

比如,大部分公司搭建集群,從上架到開始訓練,是以月為單位,我們把這個流程優化到1天。去年集群搭建后,第二天就開始做騰訊混元的訓練任務。在業界非常關注的性能上,騰訊云智算的集群,千卡單日故障數只有0.16,是meta的1/3;在數據讀寫效率方面,1分鐘就能完成萬卡checkpoint寫入,是業界的10倍;千卡集群的通信時間占比,也降低到6%,是業界一半。

在今天,我們也把計算的能力,通過公有云、專有云、分布式云的形態,輸出給客戶,希望讓每一個想去訓練或者是精調自己模型的公司,都能擁有一個真正的高可用的計算集群。

很多公司更關注的是AI的應用如何落地,尤其是原來積累了大量數據,怎么真正把模型的能力與應用場景結合起來?很多技術團隊都選擇去做RAG,提升落地的效果。其實做RAG也有不同的方法。今天騰訊云提供兩種模式:

如果企業有elasticsearch的使用基礎,熟悉elastic生態,通過騰訊云ES,可以用最少代碼的便捷方式,幾乎不用重寫代碼或者寫少量代碼,就能構建一個AI問答應用;

如果企業要用到多模態的數據源,我們也提供了騰訊云的向量數據庫,可以用多模態方式去檢索,向量數據庫也提供了2倍于業界的檢索能力;

比如,微信讀書前不久上線的AI問書,就是基于騰訊云ES實現了RAG的高效開發和運維,為億級用戶提供毫秒級別的高效處理能力;學而思的AI語音助手,借助向量數據庫的極致高性能,讓語義檢索的準確率高達95%。

除了訓練模型、調用模型,作為云廠商我們也在思考怎么用大模型的能力,去提升原有的云產品能力,為企業創造價值。

我想講一個數據庫的案例,騰訊云數據庫TDSQL結合騰訊混元,做了3個方向的事情:

智能分析用戶歷史1-7天的負載情況,預估未來分鐘級的流量變化,提早5秒擴容,實現秒級彈性;同時,用最經濟的模式擴容,我們通過識別客戶場景,將CPU和內存完全解耦、獨立彈性,精準調整彈性時間和步長;此外,影響數據庫存運行效率最關鍵的因素是SQL寫得好不好,我們通過AI分析所有SQL執行語句的情況,優化SQL執行效率,降低每次數據庫操作所使用的資源。

我們也助力國內知名的體育社區虎撲,依托TDSQL數據庫,扛住了百萬級QPS的流量洪峰。做到0抖動的同時,也降本75%。這樣的技術應用為客戶創造了價值,也升級了我們的產品。

數據分析的場景,也在深度應用大模型。大家都關注,大模型在落地過程中,能否讓每個人都通過自然語言交互的方式,拿到專業的數據分析結果。但這涉及兩方面問題:一是要給使用者做好Prompt;二是要讓數據治理變得更符合自然語言交互習慣。通過不斷優化,我們打造了ChatBI,讓更多員工真正用數據武裝自己,提升自己應用數據的能力,也降低了BI開發的工作量。

大模型的最快受益者其實是程序員自己。在騰訊內部,現在50%的研發同學都在用騰訊云AI代碼助手。在模型訓練階段,我們針對大約50種不同編程語言做了獨立訓練;制定了31種補全策略,精準理解用戶意圖,讓采納率提升10%以上;通過抓取核心上下文,把代碼生成率提升了5%左右。

生成代碼很簡單,但想要讓代碼實現工程化、提高可用性,要求非常高。我們基于混元的MoE架構,通過編碼、測試、代碼評審/安全等多智能體協作,進一步優化代碼質量。在與一家消費電子企業的合作中,我們將代碼生成率從最初學習代碼庫之后的15%提升到37%,代碼采納率也提高到了28%,讓研發效率大幅提升。

騰訊會議是最早一批應用大模型的產品。經過一年多的不斷打磨,現在每個月有1500萬用戶在使用我們的智能錄制、AI小助手、多語言翻譯等AI能力。

要讓大模型準確理解會議內容,首先需要清晰捕捉每個人的發言。我們自研的天籟智能語音語義技術,針對會議中的口語化表達和不同口音進行了重點訓練,顯著提高識別準確率。

騰訊會議不止會開會,今天智能化的能力在多個場景的應用做得非常好。比如在教育場景,老師通過騰訊會議上課,上完課就可以自動提煉這節課的教學大綱,也可以把知識點做切片,學生也可以快速得到復習材料,可以通過AI助手去問教學中的知識點,學習的交互與效率變得可沉淀和高效。今天,我們在華東理工大學已經落地了超過300間這樣的會議室,未來在金融、招聘等領域,AI的能力結合在線溝通,一定帶來更多讓大家提升效率的機會。

我們通過騰訊樂享也在打造學習型的組織。推動大家學習的同時,怎么用好工具也變得非常重要。員工越多的企業,新人培養、產品更新等場景就面臨很高的培訓成本,怎么讓員工掌握,對于大企業都面臨這樣的問題。通過騰訊樂享和騰訊混元的結合,我們提高了培訓效率,通過學習企業知識庫,30分鐘就可以搭建出智能陪練,可以提供24小時在線陪練,員工可以隨時隨地學習。我們把這樣的場景與語言交互結合起來,可以做很多情景式的培訓。同時,提供培訓后的評估。

在保險行業,如何快速讓保代達到非常好的銷售水平?我們可以快速生成一篇報告,告訴學員在哪些方面需要提升、需要強化訓練。這樣的閉環,讓學習型組織的學習效率取得非常大的提升。我們相信只要企業有足夠多的員工,這個工具幫助組織提效非常重要。

除了對內的學習培訓,對外的客服也是AI落地的好場景。比如通過騰訊企點客服,我們引入大語言模型,讓智能化啟動的時間從過去的7天、15天,到今天的分鐘級構建。當然,這還要依賴于大家底層知識庫的積累,如果積累得比較好,可以做到88%的用戶問題都能被精準識別和回答。以我們服務的東北某省人社局為例,客戶從企點傳統機器人升級到大模型機器人,轉人工率一個月內從27%降至14.5%,人工客服每周接待的會話量從460降至200,大幅降低了人工客服工作量。

我們可以看,這家企業的售后服務機器人已經可以做到多模態的輸入,不僅能識別照片里的打印機型號、還能識別顯示屏上的報錯代號,并且快速準確回復用戶的問題。

面向融合創新,我們提供5T的產品矩陣,從專有云TCE、數據庫TDSQL、大數據平臺TBDS、人工智能開發平臺TI-ONE,到下層的操作系統。今天TCE支持了最大的兩朵融合創新云,最大支撐節點數超過10萬個。TDSQL數據庫對Oracle的兼容性也非常高,需要改的代碼大幅減少。在某國有大行核心系統場景下,TDSQL支撐的日交易峰值達到了19.6億筆,金融級最挑戰的場景,已經實現了國產替代。大家如果選擇TDSQL,可以放心用。國產專有云平臺TCE,,通過不斷的優化,在保險行業打造了首個國產數據湖倉標桿案例,5分鐘就能產出數據。TI-ONE的訓練平臺也可以兼容所有國產芯片,讓客戶降低使用多芯片構筑算力的門檻。

面向國際化,對騰訊云而言,我們也做了改變。今天中國絕大部分的企業都在看國際化的機會,怎么出海,業務怎么全球發展。我們的產品從第一天就要思考產品怎么變成面向國際化。

去年騰訊云推出了自研的星星海SA5云服務器,單機最大核心數達到了512核。搭載自研的銀杉智能網卡,SA5云服務器提供了高達200Gbps的網絡帶寬。通過軟硬協同優化,經過騰訊內部海量業務規模驗證,真正讓客戶在使用上,可以獲得更高的密度算力,故障也更少。這款產品我們也直接全球部署,成為了歷史上推出的所有CVM產品里最受歡迎的產品,也是增長最快的產品。

回到增長的話題。中國商業模式的創新在領先全球,游戲、電商、制造業等能力都非常強,我們通過什么樣的產品能力可以幫助大家在全球化有更好的商業迭代?比如通過超低延時的直播,延時從3秒降低到了0.5秒,通過這樣的技術,讓全球知名的電商平臺,讓主播和觀眾實時互動的效果徹底改變,客戶活躍度、商品成交率都有大的提升,每日支撐超過千萬級別交易量,真正用技術提升了商業產出。

EdgeOne是我們孵化的下一代CDN產品,滿足了國際化企業對加速和安全防護一站式的需求,目前服務了眾多游戲、電商、金融等客戶。比如在游戲場景下,我們將訪問速度提升了30%,要知道訪問的速度越快,玩家的體驗就會更流暢,留存、活躍也會更高。

對游戲來講,下載付的錢在成本里非常低,真正的是廣告投放、獲客、轉化,這帶來的商業價值非常大,這也改變了我們跟很多客戶的交流,以前大家覺得要便宜點、慢一點沒有關系,但是真的商業閉環,大家全面思考的時候,更快的下載速度,多一點成本的付出能夠為商業增長帶來價值。

今天大家的企業出海是業務出海,更是組織的出海。在騰訊會議上,跨國會議的數量相較年初增長了超過50%。

為了服務好這些跨國協作的需求,騰訊會議也升級了產品能力。比如音頻編碼率的下降,我們做這件事之前也探討,騰訊之前是做QQ起家,那個時候會想每一個Byte要不要小一點,但是今天在中國,5G基礎設施網絡特別好,當時團隊說要做這件事,我們也擔心,這個做完大家會有感知嗎? 

汽車技巧更多>>

吉利銀河星耀8:以豪華平權,再創“爆款” 奇瑞混動技術大秀,沖擊1升油耗 上汽之夜:技術平權定義出行文明,中國方案重構全球汽車秩序 汽車智能化狂飆遭質疑,上汽要用更懂用戶的方式步入下半場 50萬買奧迪S5,修車比保養還勤,奧迪售后該醒醒了! 智能化內卷時代,英仕派的“恰到好處”才是真香 盤點:奇瑞汽車混動之夜上發布的新技術和新產品 奇瑞混動之夜:中國技術定義全球標準,開源計劃引領產業革命 現在“出海”,理想汽車能找到“理想”的海外市場嗎? 車展為何誕生于上海? Gartner預測:2025年電動汽車出貨量將增長 17% 奇瑞風云A9即將盲訂:超5米混動四驅中大型車 加拿大電動汽車退稅計劃提前終止,資金耗盡促車企自補 騰勢Z9GT第1萬輛正式交付:最快交付破萬的新能源豪華轎車 委員談AI+教育,“不怕學生用得多,怕他們不會用” 運動與生活早已密不可分,他是身體力行的“體育人” 春運開啟,昆明長水機場應對即將到來的出入境客流高峰 深圳二手房交易量重新站上6萬套關口,樓市新政后連現5個“日光盤” 點燃數字引擎,加大場景創新,蘇州工行打造數字人民幣生態體系新篇章 他從上海到西藏定日,希望一點點平息孩子們心中的“余震” 比亞迪唐L插混版的全新升級,如何重新定義家用SUV? 小米YU7純電SUV來襲,3040萬價位能否引領新潮流? 堅守駕駛樂趣 進階數字智能 寶馬集團以堅實市場表現邁向新世代 阿斯頓·馬丁Vantage Roadster來襲,6.8秒敞篷開合,性能與顏值并存! 換裝新發動機并增加ABS,新大洲本田NS125LA升級 多項功能升級 長安啟源E07迎1.1版本OTA升級 比亞迪夏入局MPV,GL8、塞納、夢想家等曾經的優勢車型該如何應對 敞篷開/關只要6.8s?兄弟們先看看!沒準今年就開上了! 2025年溫州市財稅會計學校招聘公告 2025年杭州市第三人民醫院招聘工作人員公告
主站蜘蛛池模板: 单机除尘器 骨架-脉冲除尘器设备生产厂家-润天环保设备 | 线粒体膜电位荧光探针-细胞膜-标记二抗-上海复申生物科技有限公司 | 西门子伺服电机维修,西门子电源模块维修,西门子驱动模块维修-上海渠利 | 屏蔽泵厂家,化工屏蔽泵_维修-淄博泵业| 活性炭-果壳木质煤质柱状粉状蜂窝活性炭厂家价格多少钱 | 东莞注册公司-代办营业执照-东莞公司注册代理记账-极刻财税 | 冷却塔降噪隔音_冷却塔噪声治理_冷却塔噪音处理厂家-广东康明冷却塔降噪厂家 | 隧道风机_DWEX边墙风机_SDS射流风机-绍兴市上虞科瑞风机有限公司 | 重庆小面培训_重庆小面技术培训学习班哪家好【终身免费复学】 | 青岛侦探调查_青岛侦探事务所_青岛调查事务所_青岛婚外情取证-青岛狄仁杰国际侦探公司 | 免费个人pos机申请办理-移动pos机刷卡-聚合收款码办理 | 气密性检测仪_气密性检测设备_防水测试仪_密封测试仪-岳信仪器 | 100_150_200_250_300_350_400公斤压力空气压缩机-舰艇航天配套厂家 | 卧涛科技有限公司科技项目申报公司|高新技术企业申报|专利申请 | 挤塑板-XPS挤塑板-挤塑板设备厂家[襄阳欧格] | 广州展台特装搭建商|特装展位设计搭建|展会特装搭建|特装展台制作设计|展览特装公司 | 自动配料系统_称重配料控制系统厂家 | 广东泵阀展|阀门展-广东国际泵管阀展览会 | 定量包装机,颗粒定量包装机,粉剂定量包装机,背封颗粒包装机,定量灌装机-上海铸衡电子科技有限公司 | 柔性输送线|柔性链板|齿形链-上海赫勒输送设备有限公司首页[输送机] | 山东氧化铁红,山东铁红-淄博科瑞化工有限公司 | 超细|超微气流粉碎机|气流磨|气流分级机|粉体改性机|磨粉机|粉碎设备-山东埃尔派粉体科技 | 盛源真空泵|空压机-浙江盛源空压机制造有限公司-【盛源官网】 | 吸音板,隔音板,吸音材料,吸音板价格,声学材料 - 佛山诺声吸音板厂家 | [官网]叛逆孩子管教_戒网瘾学校_全封闭问题青少年素质教育_新起点青少年特训学校 | 外贮压-柜式-悬挂式-七氟丙烷-灭火器-灭火系统-药剂-价格-厂家-IG541-混合气体-贮压-非贮压-超细干粉-自动-灭火装置-气体灭火设备-探火管灭火厂家-东莞汇建消防科技有限公司 | 高温链条油|高温润滑脂|轴承润滑脂|机器人保养用油|干膜润滑剂-东莞卓越化学 | 广州监控安装公司_远程监控_安防弱电工程_无线wifi覆盖_泉威安防科技 | 宿松新闻网 宿松网|宿松在线|宿松门户|安徽宿松(直管县)|宿松新闻综合网站|宿松官方新闻发布 | 茶叶百科网-茶叶知识与茶文化探讨分享平台 | 上海阳光泵业制造有限公司 -【官方网站】 | Eiafans.com_环评爱好者 环评网|环评论坛|环评报告公示网|竣工环保验收公示网|环保验收报告公示网|环保自主验收公示|环评公示网|环保公示网|注册环评工程师|环境影响评价|环评师|规划环评|环评报告|环评考试网|环评论坛 - Powered by Discuz! | 安全阀_弹簧式安全阀_美标安全阀_工业冷冻安全阀厂家-中国·阿司米阀门有限公司 | 天津热油泵_管道泵_天津高温热油泵-天津市金丰泰机械泵业有限公司【官方网站】 | 杭州标识标牌|文化墙|展厅|导视|户内外广告|发光字|灯箱|铭阳制作公司 - 杭州标识标牌|文化墙|展厅|导视|户内外广告|发光字|灯箱|铭阳制作公司 | 便携式高压氧舱-微压氧舱-核生化洗消系统-公众洗消站-洗消帐篷-北京利盟救援 | 专业深孔加工_东莞深孔钻加工_东莞深孔钻_东莞深孔加工_模具深孔钻加工厂-东莞市超耀实业有限公司 | 天津中都白癜风医院_天津白癜风医院_天津治疗白癜风 | 高铝砖-高铝耐火球-高铝耐火砖生产厂家-价格【荣盛耐材】 | Brotu | 关注AI,Web3.0,VR/AR,GPT,元宇宙区块链数字产业 | 开平机_纵剪机厂家_开平机生产厂家|诚信互赢-泰安瑞烨精工机械制造有限公司 |