〔記者方韋傑／台北報導〕AI應用引發產業技術升級熱潮，沛星互動科技（Appier，TSE：4180）執行長游直翰今天指出，隨著生成式AI與代理式AI加速進入商業場景，企業關注焦點已從「AI能不能用」，轉向「AI能不能被信任」，對此，Appier鎖定「自我覺察能力」的AI技術，強化決策可靠性，協助企業完善AI技術導入的最後一哩路。
游直翰表示，未來代理式AI（Agent AI）將串聯使用者、工具與軟體，形成更複雜的「智慧代理社會（Agent society）」，企業若要搶占先機，關鍵在於AI是否具備可信任的決策能力。現在許多AI系統即使在不確定答案的情況下，仍傾向給出看似自信的回應，從客服錯答到內容虛構，都有可能對企業營運造成實質風險，「AI不知道自己行不行，卻硬要回答」是需要被解決的問題。
針對上述挑戰，沛星聚焦四大核心能力，協助AI建立「自知之明」。首先，在模型訓練面，透過穩定微調機制避免「災難性失憶」，使AI在強化特定任務時，仍能保有原有推理與指令理解能力；其次，在互動層面，導入可驗證外部回饋與多模型交叉驗證，讓AI在面對模糊指令時能精準提問，兼顧準確度與使用者體驗；第三，在決策機制上，透過風險評估模型拆解解題與信心判斷，使AI可依風險高低決定是否回答、拒答或上報；最後，透過能力校準機制，讓AI在回答前預估成功機率，更準確界定自身能力邊界。
從實測數據來看，上述技術已帶來顯著效益，游直翰說，導入精準提問機制後，任務準確度與體驗平衡可提升逾三成；風險評估機制則可將高風險情境下的預期損失降低約六至七成；在能力校準方面，其推論成本甚至低於1個token；同時，透過穩定微調方法，非目標任務的效能退化已可降至接近零。整體而言，現行AI Agent已能為企業阻擋約八成潛在風險回應。
在實際應用場景中，具備自我覺察能力的AI亦展現差異化價值，游直翰以消費者互動為例，當用戶提出與品牌無關的問題時，AI可避免產生錯誤或虛構內容，維持品牌信任；在企業內部應用上，面對資料條件不足或限制時，AI亦能主動說明資料邊界，並提出替代方案與利弊分析，協助決策者降低風險。
游直翰認為，商用AI的關鍵不僅在於能力提升，更在於能否成為企業可信賴的「AI同事」。隨著代理式 AI逐步從工具走向決策參與者，具備自我覺察與風險控管能力的AI，是成為企業推動數位轉型與提升投報率的核心引擎。透過持續深化研究與產品整合，沛星正加速將可信任AI導入實際商業場景，強化台灣在全球AI產業鏈中的軟體競爭力。
一手掌握經濟脈動 點我訂閱自由財經Youtube頻道
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法