該AI新創公司表示，AI能夠自我建構，將是科技史上重大的發展，但「全遞迴式」（full recursive）的自我進化，也可能導致人類失去對AI系統的控制。
Anthropic表示，如果系統有能力完全自主建立後繼程式，那麼我們確保其安全性、監控它們以及塑造它們行為的方式，就變得更加重要。Anthropic舉例稱截至5月，併入該公司程式碼庫（codebase）的程式碼，有超過80%是由Claude自己編寫的。
該公司表示，如果可以選擇放慢或暫停前沿AI的發展，以便社會結構和協同研究能跟上技術進步的步伐，這對全世界來說是一件好事。
Anthropic表示，旗下研究機構Anthropic Institute將進行相關研究，並協助建立能為系統開發緊急踩下剎車的機制。
在接下來的幾個月裡，Anthropic擬號召政策制定者、研究人員、民間團體和其他AI公司就相關議題進行協商，包括如何管理遞迴式自我進化等AI相關風險，以及如何強化協同機制。
Anthropic在上個月完成新一輪融資，使其估值達到9650億美元。本周一，該公司已秘密提交在美國IPO的申請。
2026/06/05 16:35
轉載自中時新聞網: https://www.chinatimes.com/realtimenews/20260605003343-260410
Post gallery
