聊天機器人ChatGPT的研發公司OpenAI宣布，計劃投入大量資源並建立新的研究團隊，以確保人工智能（AI）持續對人類保持無害，終將透過AI來監督AI自身發展。

OpenAI共同創辦人暨首席科學家Ilya Sutskever和協調團隊負責人Jan Leike在博客文章中表示，超級智慧（superintelligence）的巨大能力恐導致人類喪失權力，甚至可能導致人類滅絕。目前掌控潛在的超級智慧AI還沒有方案，也無法預防AI失控。

文中預測，作為一個超越人類智慧的系統，超級智慧AI可能在這10年內誕生，人類需要比當前更厲害的技術來控制超級智慧AI，因此必須在「對齊研究」（alignment research）方面有所突破。「對齊研究」指的是聚焦於確保AI如何持續對人類有益的研究。

微軟支持的OpenAI預計將在未來4年內投入20%的運算能力，來解決這個問題。此外，公司正在針對這項目標，組織一個名為Superalignment的新團隊。

這個團隊的目標是建立一個「人類等級」的AI對齊研究員，然後透過龐大的運算能力擴展。OpenAI表示，這代表他們將會以人類反饋的方式來訓練AI系統，訓練AI系統協助人類評估，最終訓練AI系統實際進行「對齊研究」。