Agentic AI定義與應用現況:企業導入前必須注意的安全挑戰

Agentic AI和AI agents到底有什麼不同?專家教你分辨這兩種技術

這陣子,像是資訊長或技術主管們,對於「agentic AI」還有什麼「AI代理人」之類的詞,好像常常聽到有人傻傻分不清。兩者到底是不是一回事?有些人說法不太一致。不少組織最近急著上馬各種AI相關東西,難免就混在一起講。不過,據說現在愈來愈多人開始覺得,其實這兩個東西雖然有點關聯,但並不是完全一樣的玩意兒。

專家倒是提醒說,如果你想選對工具、避開廠商那些讓人頭疼的花俏行銷話術,也許分辨一下會比較保險。有些議題還會特別拉出新聞討論,比如那種和agentic AI相關的產業動態。偶爾聊起來,有人會用比較簡單的方法去劃分這兩種技術:所謂AI代理人,大約就是在企業資訊系統裡頭,被賦予某項明確工作目標的小工具。它們多半只處理很有限範圍的事務,而且預期結果通常也算可控。學習新知識的能力嘛……目前看來,大致還是偏有限度那一類。

至於agentic AI本身,看起來發展階段還沒成熟到什麼地步,坊間定義似乎也沒完全固定下來。如果真的要細究差異,不妨再找機會多參考不同專家的觀點。反正大家現在都在摸索,有些地方甚至還有人搞錯了名詞意思,也是時有所聞啦。

AI agents就像公司裡的單一員工,而agentic AI則是整個團隊協作

有一種叫做 agentic AI 的東西,其實還算很新吧,現在外面偶爾會有人討論到。這類系統好像就是那種可以用一堆代理人、還有各種人工智慧工具,串起來變成幾乎能自動運作的機器。聽說它們自己會設定目標,也能隨著時間慢慢學習、然後在不同任務間思考。不過有些專家——像是 iVerify 做手機安全的機器學習負責人 Numa Dhamani——她倒是提過:目前市場上看到的大部分都還只是在測試階段,有些初步的原型啦。要那種真正可以一直記得事情、持續自主學習的 AI,距離現在看來還有點遠。

Dhamani 也常提 agentic AI 好像跟一般代理人的差別就在於,它們不只是執行預設好的事情,而是真的能調整自己的方向。有時候它們甚至還會自我檢查、反省或改進。遇到複雜情況時,好像能自己決定先做哪個任務,再挑下一件事處理,順序怎麼排也會稍微想一下。

另一邊,有人在聊這主題時,ModelOp 負責軟體治理的技術長 Jim Olsen 用比喻形容。他認為,可以把單獨的 agent 想成團隊裡頭某個成員——也許有的人專長 A、有的人熟悉 B——而 agentic AI 則比較像整支球隊,不同角色互補搭配,一起合作解決大問題。這樣講好像容易懂一點,不過細節方面嘛,其實每家公司搞法都不盡相同。有關這類 AI 具體應用,到底成熟到什麼程度,目前看來意見分歧,有些場景下或許多少能派上用場,可是要說徹底無人干預就全都妥當,那感覺可能還得再觀察一陣子才知道。

Comparison Table:
結論內容
自動化風險引入自主型AI可能導致協調流程混亂,增加出錯機率。
審核必要性即使系統具備自主性,仍需人工審核以確保決策正確。
資訊安全不同代理程式間的資料流動可能導致敏感資訊外洩,需謹慎處理。
專業小助手未來將出現針對特定任務的小型語言模型,更加精細和可靠。
漸進實施策略建議從低風險場景開始實施AI,自下而上逐步擴大自主權限。

AI agents就像公司裡的單一員工,而agentic AI則是整個團隊協作

廠商總是把產品說得很神,但你可能只是買到高級版聊天機器人

Louis Gutierrez,這個名字最近在某些AI圈子裡偶爾會聽到,他現在是在一間做電郵行銷平台的公司負責AI相關部門。說起這類技術,他好像蠻喜歡用球隊還是運動員那種比喻。有一次他解釋agentic AI時,就把它講得像一層協調的東西,大致意思是:與其說每個agent就像場上的球員,不如想成agentic系統整體比較像教練、團隊和戰術本子一起作用吧。也有人討論過,這類分法對於CIO(資訊長)來說到底有什麼實質意義?畢竟看起來兩種AI技術,好多人覺得只是詞彙遊戲,但其實最近這些東西被炒得挺熱,有人甚至說大概有七八成的新創或廠商都硬要加上「agent」或「agentic」這樣的標籤。不過iVerify公司的Dhamani倒是提醒過,有些廠商賣的產品,聲稱自己很厲害,其實跟真正意義上的那些代理人技術差別不小,有時候只是在包裝上玩點文字遊戲而已。總之,對於經常需要評估新科技的人來講,要搞清楚背後到底賣的是哪一套,也許才不會踩到坑。

當AI開始自己訂目標做決策,CIO們真的準備好了嗎?

她說,很多時候大家買到的,可能只是被包裝得很像「代理人」的聊天機器人罷了。CIO們如果碰上廠商推銷所謂的代理式AI,好像還是得多留點心,畢竟這個領域現在看起來還算初步。有些協議像是MCP什麼的,最近才出現沒多久,AI開發者開始在往全自動代理邁進,只是目前距離那種能夠共享記憶、或是複雜工具調度之類的東西,似乎還有一段路。Dhamani也提過,有些廠商可能講得天花亂墜,但實際用起來卻不如預期,有時甚至會有點難預測行為。她觀察到,好多人都在把「agentic AI」掛在嘴邊,可現實裡大概就是個加了RAG功能的聊天程式吧。有時候它只是在幫你找檔案資料、或者算個數字,說到底,那感覺其實離真正的智能代理還有段距離——至少現在看起來,是這樣啦。

當AI開始自己訂目標做決策,CIO們真的準備好了嗎?

那些號稱agentic AI的系統,其實連共享記憶功能都還沒實現

有些人會覺得,假如一家AI廠商連自家技術到底怎麼跑的都講不太清楚,這裡面大概就藏著一些風險。像Constant Contact的Gutierrez,好像在某次談話時提過一點:如果搞不懂背後原理,也許可以再問清楚,你買到的是那種可以自己處理任務的「代理系統」,還是其實只是某種流程機器外頭包了層新名詞?說真的,有時候分辨起來沒那麼容易。有的人會以為兩者差不多,但細節其實差了一大截。這中間可能也牽涉到很多專業詞彙,聽得懂和實際運作又未必是一回事。畢竟現在市面上名字很花俏的產品不少,不小心就被繞進去了。有經驗的人有時會建議,如果遇到解釋模糊、答案閃爍,大概得多留個心眼才好啦。

買AI系統前先問:這到底是真貨還是披著流行術語的工作流程工具?

有時候,這種領域裡頭最讓人頭疼的,也許就是資訊被包裝得太複雜。倒也不是說大家都故意要混淆視聽啦,只是常常會發生,把技術講得比實際能做到的還厲害一些。Dhamani好像有提到過,如果CIO或IT主管對代理程式和那些主動型AI到底怎麼運作不是很清楚,那他們可能就不太容易察覺其中潛藏的風險,或者到底該怎麼盯著看、怎麼查帳這些事。

她自己補充了一句,大概意思是說:反正你開始用那些可以自己去找工具、自己下指令做事的系統後,整個協調流程會變得亂七八糟,出錯的機率可就比以前大多了。有點像是,一旦引入這類自動化操作,萬一真的哪裡沒顧好,事情就容易朝著不理想方向發展。雖然也不是每次都會出問題,但要小心留意才比較保險。

買AI系統前先問:這到底是真貨還是披著流行術語的工作流程工具?

放任AI自主運作的風險有多大?一個失誤可能讓資料全外洩

有時候,資深的資訊長們在聊到現在很紅的那種「會自己跑來跑去」的AI代理人時,好像都會先停下來想:「我到底真的需要一個全自動的機器人在我系統裡亂晃嗎?」ModelOp 的 Olsen 大致是這麼說過——其實,那種真正意義上的自主型人工智慧啊,大概得給它滿高的自由度,它才能自己摸索怎麼搞定工作。可是,事情也可能一不小心就脫軌。所以他還建議最後還是要有人審核一下比較妥當。不知道是不是每家公司為了處理業務,都真的非得冒著那麼大的風險,把所有決定權都放手交給這些系統?總之,偶爾可能要思考一下,其實很多任務,不見得需要讓AI放飛到完全自主。這問題好像沒什麼標準答案,只能邊試邊看吧。

未來的AI agent會像專業團隊,各自精通特定領域任務

有時候,把各種代理程式用像MCP這類協議連起來,可能會讓資料外洩的狀況變得更容易發生,Olsen好像提過這類的風險。他有點疑惑地問,如果真的要讓代理之間互通,到底哪些資訊會透過這樣的管道流出去?舉個例子好了,有一個工具本來只能動到某個顧客資料庫,結果剛好接觸得到一些很敏感的資料,像是身分證字號之類,然後突然又跑去把這些數字傳給另一個能碰到Slack的代理。天知道,最後那些資訊會不會被貼在公開的Slack頻道上。Olsen那邊觀察下來,他認為這兩種技術都在蠻短時間內不停進化中,不過具體怎麼發展還沒完全看清楚。

未來的AI agent會像專業團隊,各自精通特定領域任務

與其冒險all in,不如先從低風險的讀取模式開始測試

現在好像有不少人都在談論那些靠著大型語言模型運作的智能代理,結果最近有人開始說,未來這些代理應該會慢慢改成用比較精巧的小型語言模型來做特定任務。這種說法聽起來也不是沒道理,畢竟每個專案或部門大概都需要那種針對某件事練得很熟的AI,就跟找個軟體工程師、再配個懂敏捷開發的人和產品經理組隊差不多。

說到這裡,其實他們覺得,可能過一陣子,我們會看到那種很專門、對某幾項工作特別熟悉的智能小助手出現。這些S什麼L什麼M的技術,本身就不是要取代全部大範圍的AI,而是像團隊裡安排一個功能比較明確、但做事細膩的小組員。至於表現到底會變多厲害,目前看來應該能更可靠一些,但還是有待觀察。

如果你是那種負責IT決策的人,比如CIO之類,大概就不能只看熱鬧。有人建議,在考慮要不要用哪種類型AI之前,最好還是先多查點資料。畢竟市面上的東西一直在變,也沒誰敢保證哪一套一定最適合自己手頭問題。有時候光看簡報還不夠,實際操作後才知道適不適合。不過,有些人已經開始研究怎麼把這些小型模型搭進自己的流程,看起來效果似乎還可以,但是不是普遍都適用,好像也沒定論。

想導入AI?先把你的資料整理乾淨再說

她好像提過,企業想讓AI發揮作用,得先弄清楚怎麼去監督它的運作吧?資料也不能馬虎,最好是整理到一個還算乾淨、可以直接給這些自動化代理或新型智能系統用的狀態。倒不是說一開始就要搞得很大,她反而建議從特定的小場景入手,那種風險低一點的用途比較適合起步。剛啟動時,不妨讓AI只能讀取或者提出一些建議,真正讓它自己處理事情前,可以慢慢觀察它有沒有達到你設下的那些效果標準——等到差不多都過關了,再逐步放寬限制,給AI多點自主空間。話說回來,有些人或許會收到什麼電子報邀請,那就是另外一回事了,其實資訊來源這麼多,有時候也搞不清到底該注意哪個重點。

Related to this topic:

Comments