美國人工智能又有失控案例，Anthropic公司的模型曾自主到國務院網站填寫簽證申請表，還向費城警方提交虛假的兇殺案線索。

費城警方稱本周接獲Anthropic通知，公司一款人工智能模型曾向專門受理兇殺案線索提供的網站提交虛假兇案線索。事件發生於今年7月，Anthropic直到9月底才發現。

費城警方表示，市政府對這宗事件高度重視，並批評事隔兩個月才發現及通報，這種延誤令人無法接受。

警方指出，Anthropic的模型當時正進行一項測試，測試內容涉及與隨機選取的網站互動。在測試過程中，模型提交一則線索，冒充掌握某宗懸案相關資訊人士。

Anthropic在一篇博客帖文表示，費城兇殺案虛假線報只是其中一項公司近期發現的連串不受控行為。這些異常活動還涉及試圖存取聯邦、各州以及地方政府機關的網站，公司已就案例向白宮簡報，並通知各受影響機構。