社科研究：生成式人工智能意识形态风险管理研究
语音播报
进入播报模式
退出播报模式
大中小生成式人工智能意识形态风险管理研究
党工委宣传部课题组 余方运 何思佳 杨润
2022年11月，美国OpenAI公司发布ChatGPT——一款人工智能技术驱动的自然语言处理工具，其后不断对其进行迭代升级，引起全球关注。2024年2月，OpenAI发布人工智能文生视频大模型Sora，进一步引发了全社会对生成式人工智能大模型技术发展的高度关注。2025年1月，中国DeepSeek公司发布普通Deepseek-V3模型、深度思考（R1）和互联网搜索，引发全球极大关注和热烈讨论，把生成式人工智能推向了新高潮。意识形态是人类思维的产物。人的思想、意志是由物质条件决定的。基于知识生产的生成式人工智能“生产内容”“生产过程”与意识形态高度关联，密切关注生成式人工智能意识形态风险，具有重要的理论和现实意义。
一、生成式人工智能发展现状
生成式人工智能主要是指在生成式AI模型、训练数据的基础上，生成文本、图片、音频、视频、代码等多样化内容的内容生产方式。目前市面上比较流行的有ChatGPT、Deepseek、文心一言等“生成式预训练模型”——一种用来分析和预测语言的人工智能模型，它可以帮助我们进行自然语言处理，比如机器翻译、自动文摘和快速问答等。此外，还有能够实现描绘图像、音频制作、影视创作、互动娱乐等不同功能的生成式人工智能模型。大体上我们可以从意识形态传播样态、意识形态管理难度、弱化虚化意识形态阶级属性三个层面审视生成式人工智能意识形态风险的底层逻辑。
（一）“人机对话”重塑意识形态传播样态。
（二）数据、算法造成意识形态管理难度增大。
（三）智能生成技术特性虚化弱化意识形态阶级属性。
二、生成式人工智能存在的意识形态风险
生成式人工智能意识形态风险主要表现在内容生成、技术形式和传播范围三个方面。
（一）内容上疏离消解主流意识形态。
（二）形式上弱化主流意识形态主导权。
（三）传播上挤占主流意识形态理论传播空间。
三、生成式人工智能意识形态风险防范对策
建设具有强大凝聚力和引领力的社会主义意识形态，是全党特别是宣传思想战线必须承担起的一个战略任务。应对生成式人工智能意识形态风险，应强化制度保障，充分发挥马克思主义在意识形态领域指导地位的根本性优势，通过理论引领强化重点群体教育，加快同意识形态关联性技术研发，提升对生成式人工智能技术意识形态风险的防控能力。
（一）坚持马克思主义在意识形态领域指导地位的根本制度。
（二）加强用党的创新理论引领青少年等重点群体。
（三）强化与意识形态关联性紧密型技术研发。
（四）加快完善生成式人工智能技术发展制度规范。
（本文有删节）
