服務治理 MSE Sentinel/OpenSergo,Agent數量 不受限
在過去一年里大模型領域主要有兩大領域的熱點,一個是 LLM,幾乎每月速度革新,大家關心的是效果和成本。另一個是 AI Agent,大家嘗試解決各個領域應用問題,大家關心的是場景和競爭力。下面我們重點分享一下 AI Agent 的趨勢和實踐。
在過去一年里大模型領域主要有兩大領域的熱點,一個是 LLM,幾乎每月速度革新,大家關心的是效果和成本。另一個是 AI Agent,大家嘗試解決各個領域應用問題,大家關心的是場景和競爭力。下面我們重點分享一下 AI Agent 的趨勢和實踐。
AI Agent 在從單 Agent 到多 Agent 加速演進;以數據為核心的智能體平臺會加速形成;構建高質量數據和持續(xù)優(yōu)化數據質量能力會是智能體成功的關鍵。
AI Agent 是一種能夠感知環(huán)境、自主決策并執(zhí)行行動的智能實體,具備通過獨立思考和調用工具逐步完成目標的能力。
因為 LLM 只是模擬人腦神經元推理過程,如果要完成一個具體的現實任務,還是需要像人一樣有言耳鼻舌身的感知系統(tǒng),有記憶和經驗輔助決策,最后行動。
在過去 1 年時間里大家更多在探索各種固定的,單任務的智能體,解決一個個具體小問題。從今年開始大家開始構建智能體平臺和范式,提升多 Agent 協(xié)同,編排,優(yōu)化數據質量體系。終態(tài)是具備一個超級智能體,一站式解決所有問題,通用人工智能真正到來。
考慮到通用性和專業(yè)性,很多時候需要平衡,成本和效果也需要平衡,AGI 到來仍需要一定時間,因此我們判斷未來主要方向是以數據為中心的多智能體協(xié)同模式。
AI Agent 構建過程中我們思考第一個問題是,智能體的核心競爭力是什么?
1、模型把公域數據挖掘的比較充分了,下一步重點可能是成本和性能(DeepSeek在加速推動發(fā)生)。
2、私域數據是每個公司的核心壁壘,需要做的是充分挖掘私域數據,沉淀好數據,持續(xù)優(yōu)化數據,釋放最大客戶價值。生產資源足夠好,有底層模型生產力加持,可以持續(xù)演進。
3、找到自己領域高頻,結構化和風險可控的場景,逐步延伸場景的專業(yè)性,幫助客戶提升效率。如我們 DEVOPS 領域的智能編碼,靈碼在代碼輔助高頻場景突破,通過靈碼提升大家構建智能體效率。
首先我們每個應用能夠從客戶收集和沉淀數據,這部分數據是個性化和專業(yè)性的前提。其次我們每個領域都有自己的專業(yè)數據和 SOP,可以結合客戶數據高效解決客戶問題。
當我們構架好智能體要發(fā)布客戶,需要提前對數據和效果構建數據評測集,以便滿足客戶對 SLA 的確定性要求。上線后我們需要收集客戶反饋數據,通過反饋數據分析優(yōu)化我們的行業(yè)數據,工具集,場景。
通過左邊評估數據體系持續(xù)優(yōu)化右邊私域高質量數據體系。完成客戶訴求到數據的高質量匹配。從而讓這個飛輪持續(xù)轉起來,持續(xù)優(yōu)化企業(yè)競爭力!
1、構建好企業(yè)知識庫,通過平臺工具將數據轉換成 Markdown,然后推到向量數據庫,構建領域數據;通過工具集幫助Agent獲取結構化客戶數據。
那如何構建多 Agent 架構呢?阿里巴巴在去年云棲大會推出了 Spring-AI-Alibaba 框架和生態(tài)工具集合,助理企業(yè)構建智能體。
通過上面介紹大家構建以數據為中心智能體的重大意義和趨勢。下面我們重點分享阿里巴巴在落地 AI Agent 的最佳實踐,以便給大家做一個參考,加速 AI 時代到來~
Higress 是阿里開源的 AI 原生 API 網關,具備行業(yè)最全 AI 生態(tài)插件,能夠幫助開發(fā)者一鍵集成多種數據源。
支持對接多種模型,Higress 可以一鍵集成多種模型,統(tǒng)一協(xié)議,統(tǒng)一權限,統(tǒng)一容災;
通過搜索工具獲取領域數據,通過 MCP Server 獲取客戶數據,整合推理需要的完整數據。
統(tǒng)一數據格式轉換,通過緩存和向量檢索構建長短期記憶數據,降低 LLM 調用,降低成本,提升性能和吞吐。
我們基于 Otel 觀測體系能夠自動的分析推理過程中效果,召回效果。效果不好,可以全鏈路追蹤客戶整個檢索和推理過程,分析是知識庫問題,RAG 問題,還是工具集問題,提升優(yōu)化數據效率。
Agent 中有大量提示詞,算法等參數,通過 Nacos 可以做到動態(tài)實時推送,及時獲得優(yōu)化的效果。如果系統(tǒng)上線擔心修改提示詞效果不符合預期,還可以通過灰度配置逐步觀測優(yōu)化提示詞數據的效果。
系統(tǒng)數據和客戶數據都是不斷更新的,我們可以通過 RocketMQ 把變更事件和數據實時同步,以便每次推理能拿到最及時數據和效果。
我們通過上面技術體系構建開源 AI 專家和阿里云云原生 API 網關和微服務引擎 MSE 兩個產品的智能診斷體系,解決 95% 以上咨詢問題,解決 85% 以上異常問題。
通過 Higress 屏蔽底層多個模型,工具體系,構建數據安全鏈路和賬號安全體系, 通過 Spring-AI-Alibaba 構建 Agent 和編排,提供 chat 模式解決咨詢問題, Composer 模式解決客戶異常問題。
DeepSeek 很火,用過的同學都知道,能聯(lián)網的 DeepSeek 還是真正的滿血版。
目前大量客戶通過 Higress 一鍵集成 DeepSeek 和聯(lián)網能力,集成夸克搜索數據,體驗最佳能力。通過 Higress 能夠在模型訪問鏈路上全鏈路 TLS,保護鏈路數據安全。通過內容安全解決數據合規(guī)安全問題。通過 API-Key 集中管理,提高并發(fā)度,對 Agent 提供內部 API-Key,防止 API-Key 泄漏風險,并且可以根據內部 API-Key 做流量和額度控制,防止代碼 bug 導致巨大 token 調用和巨大費用支出。
通義靈碼個人版為開發(fā)者免費提供智能編碼能力,專業(yè)版限免期內開放更多功能。使用需先注冊阿里云賬號,支持JetBrains IDEs、Visual Studio Code等開發(fā)工具。以Visual Studio Code為例,安裝插件并登錄后即可體驗其強大功能。通義靈碼2.0在代碼生成、需求理解及單元測試自動化等方面有顯著提升,支持多語言和復雜場景,大幅提高開發(fā)效率。
利用通義靈碼AI在VS Code中快速開發(fā)掃雷游戲:Qwen2.5-Max模型的應用實例
本文介紹了如何利用阿里云通義靈碼AI程序員的Qwen2.5-Max模型,在VS Code中一鍵生成掃雷小游戲。通過安裝通義靈碼插件并配置模型,輸入指令即可自動生成包含游戲邏輯與UI設計的Python代碼。生成的游戲支持難度選擇,運行穩(wěn)定無Bug。實踐表明,AI工具顯著提升開發(fā)效率,但人機協(xié)作仍是未來趨勢。建議開發(fā)者積極擁抱新技術,同時不斷提升自身技能以適應行業(yè)發(fā)展需求。
基于阿里百煉的DeepSeek-R1滿血版模型調用【零門檻保姆級2084小游戲開發(fā)實戰(zhàn)】
本文介紹基于阿里百煉的DeepSeek-R1滿血版模型調用,提供零門檻保姆級2048小游戲開發(fā)實戰(zhàn)。文章分為三部分:定位與核心優(yōu)勢、實戰(zhàn)部署操作指南、輔助實戰(zhàn)開發(fā)。通過詳細步驟和案例展示,幫助開發(fā)者高效利用DeepSeek-R1的強大推理能力,優(yōu)化游戲邏輯與視覺效果,解決官網響應延遲問題,提升開發(fā)效率和彩神用戶體驗。適合企業(yè)開發(fā)者、教育行業(yè)及多模態(tài)探索者使用。
小魚深度評測 通義靈碼2.0,不僅可跨語言編碼,自動生成單元測試,更炸裂的是集成DeepSeek模型且免費使用,太炸裂了。
小魚深度評測 通義靈碼2.0,不僅可跨語言編碼,自動生成單元測試,更炸裂的是集成DeepSeek模型且免費使用,太炸裂了。
DeepSeek是一款基于Transformer架構的先進大語言模型,以其強大的自然語言處理能力和高效的推理速度著稱。近年來,DeepSeek不斷迭代,從DeepSeek-V2到參數達6710億的DeepSeek-V3,再到性能比肩GPT-4的DeepSeek-R1,每次都帶來重大技術突破。其開源策略降低了AI應用門檻,推動了AI普惠化。通過阿里云百煉調用滿血版API,用戶可以快速部署DeepSeek,享受高效、低成本的云端服務,最快10分鐘完成部署,且提供免費token,極大簡化了開發(fā)流程。
深度評測 僅用3分鐘,百煉調用滿血版 Deepseek-r1 API,百萬Token免費用,簡直不要太爽。
僅用3分鐘,百煉調用滿血版Deepseek-r1 API,享受百萬免費Token。阿里云提供零門檻、快速部署的解決方案,支持云控制臺和Cloud Shell兩種方式,操作簡便。Deepseek-r1滿血版在推理能力上表現出色,尤其擅長數學、代碼和自然語言處理任務,使用過程中無卡頓,體驗絲滑。結合Chatbox工具,用戶可輕松掌控模型,提升工作效率。阿里云大模型服務平臺百煉不僅速度快,還確保數據安全,值得信賴。
Agent TARS:一鍵讓AI托管電腦!字節(jié)開源PC端多模態(tài)AI助手,無縫集成瀏覽器與系統(tǒng)操作
Agent TARS 是一款開源的多模態(tài)AI助手,能夠通過視覺解析網頁并無縫集成命令行和文件系統(tǒng),幫助用戶高效完成復雜任務。
隨著人工智能技術的飛速發(fā)展,AI Agent(智能體)作為人工智能領域的重要分支,正逐漸從概念走向現實,并在各行各業(yè)展現出巨大的應用潛力。在眾多AI Agent產品中,Manus以其獨特的技術優(yōu)勢和市場表現,有望成為該領域的標桿。作為資深AI工程師,本文將深入探討Manus的背景知識、主要業(yè)務場景、底層原理、功能的優(yōu)缺點,并嘗試使用Java搭建一個屬于自己的Manus助手,以期為AI Agent技術的發(fā)展和應用提供參考。
阿里云百煉已上線超強推理開源模型QwQ-32B,尺寸更小,性能比肩DeepSeek滿血版
通義千問團隊推出了320億參數的QwQ-32B模型,通過大規(guī)模強化學習和多階段訓練,在數學、編程及通用能力上達到或超越了DeepSeek-R1等先進模型。QwQ-32B模型已在阿里云百煉上線,支持API調用,用戶可通過官方文檔了解詳細使用方法。未來,團隊將繼續(xù)探索智能體與RL集成,推動人工通用智能的發(fā)展。
如何打造出一個安全的架構 —— 一位來自阿里云資深架構師的實踐經驗分享
springcloud微服務一:spring boot基礎項目搭建及問題處理
框架源碼私享筆記(02)Mybatis核心框架原理 一條SQL透析核心組件功能特性
阿里云微服務引擎 MSE 及 云原生 API 網關 2025 年 2 月產品動態(tài)
阿里云微服務引擎 MSE 及 云原生 API 網關 2025 年 1 月產品動態(tài)