今年兩會期間，全國政協(xié)委員、360集團創(chuàng)始人周鴻祎再度聚焦大模型安全。他認為，DeepSeek-R1等先進模型帶來了前所未有的機遇，也同樣面臨無法通過傳統(tǒng)網(wǎng)絡(luò)安全手段解決的安全挑戰(zhàn)。對此周鴻祎呼吁各界共同努力，構(gòu)建更加完善的大模型應用安全治理體系，在保障安全的前提下最大化地釋放大模型技術(shù)的潛力。

周鴻祎認為，大模型應用安全主要集中在基座模型、知識庫和智能體三個方面。基座模型安全方面，由于大模型普遍存在的幻覺現(xiàn)象，特別是在生成文本時可能輸出與現(xiàn)實不符的信息，這在政策制定、法律條文解讀或商業(yè)決策等場景下可能導致誤導性后果。