在百度、商湯等中國科技公司陸續推出「文心一言」、「日日新」等基於人工智慧（AI）所構成的生成式服務，準備與微軟的ChatGPT、谷歌的Bard等聊天機器人競逐的同時，中國官方也將出手管控，強調內容不得違反社會主義核心價值觀，且在正式推出前必須通過有關單位的安全評估，內容審查制度的出現，已為中國生成式AI的發展前景投下不確定性。

中國國家互聯網信息辦公室（簡稱網信辦），11日公布《生成式人工智能服務管理辦法》草案，並徵求公眾意見，預計5月10日截止，其內容共有21條，除了規定應確保內容正確性並尊重智慧財產權外，不得有「顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一」相關內容，且在服務正式推出前，必須向國家網信部門申報安全評估。

彭博報導指出，網信辦的公告出爐後，包括百度、商湯，以及甫推出「通義千問」生成式AI服務的阿里巴巴集團，股價隨即下挫，其中百度的跌幅更一度達到7%。除了上市前審查與諸多限制外，該辦法草案也規定，有關部門在必要時，可要求廠商提供包括訓練AI所使用的數據、演算法與其它技術，使當局控管內容的能力更加全面。

報導稱該規範的推出，是為了確保共產黨對於爭議言論的控制，但網信辦雖強調將禁止偏離社會的內容，卻未說明進一步細節，使外界對於該類型服務在中國的發展感到憂心。

路透引述八六證券研究公司分析師柴超毅的說法指，北京當局的規範「能使AI技術使用更有序且符合社會責任」，但代價便是發展速度將會受限，此外，該規範將設下重重阻礙使有意涉足中國市場的外國企業卻步，進而使中國本土企業獲得商機。