中信建投： OpenAI“超級對齊”取得進展，由弱到強泛化實現AI可控

每經AI快訊，中信建投研報表示，12月15日，OpenAI“超級對齊”團隊發布了成立以來的首篇論文，開辟了對超級模型進行實證對齊的新研究方向。OpenAI認為，比人類聰明得多的人工智能（超級智能）可以在未來十年之內發展出來，然而如何正確的引導和控制超人的人工智能系統仍然沒有得到很好的解決，解決AI的可控問題對于如何確保最先進的人工智能系統始終安全并造福人類至關重要。在最新的研究中，OpenAI實現了從弱模型監督強模型的任務,OpenAI使用GPT-2 模型來激發 GPT-4 的大部分能力，使其達到接近 GPT-3.5 級別的性能。實現了“弱到強泛化”（Weak-to-strong generalization），即讓小模型監督大模型，為“超級對齊”提供了切實可行的技術路線。預期OpenAI將在“超級對齊”研究中取得持續突破，我們看好安全可控下的大模型行業發展前景。