AI代理功能愈來愈強，也讓安全風險同步升高。OpenAI最新模型Astra因為安全風險，暫停研發，啟動更嚴格的防護機制，Anthropic、mexta也表示，模型測試過程出現異常行為，如何在技術持續進步的同時守住安全防線，也成為下一道重要考驗。