生成式人工智能的兴起和发展
生成式人工智能是一种基于算法、模型、规则生成内容的技术，与决策式人工智能不同，它学习数据中的联合概率分布，用于创作全新内容。
生成式人工智能的发展历程从20世纪50年代的简单统计模型，到21世纪神经网络模型的兴起，再到深度学习算法的发展，实现了技术上的飞跃。
大语言模型（LLM）是生成式人工智能的重大突破，如OpenAI的GPT系列模型，具有百亿甚至万亿级别的参数，展现出强大的生成能力和涌现能力。
生成式人工智能公司的迅速崛起和传统科技公司的入局，推动了全球生成式人工智能的发展热潮。
生成式人工智能变革网络信息内容生产
生成式人工智能的兴起改变了网络信息内容的生产模式，从传统的专业生成内容（PGC）和用户生成内容（UGC）转变为人工智能生成内容（AIGC）。
AIGC模式下，网络信息内容中人工智能生成内容的比重越来越高，预计到2026年，互联网上多达90%的内容可能由人工智能生成或增强。
AIGC的兴起对网络信息内容生产模式产生了深刻影响，预示着AIGC将成为网络信息内容的重要来源，甚至可能取代PGC和UGC成为主流生产模式。
生成式人工智能引发网络信息内容风险
生成式人工智能的兴起带来了个人信息风险、有害信息风险和错误信息风险。
个人信息风险包括大语言模型可能“记住”并生成训练数据中的个人身份信息，尽管新模型在防止生成个人信息方面有所改进，但仍存在被越狱提示词攻破的风险。
有害信息风险涉及生成式人工智能可能生成仇恨言论、欺诈信息、侵权内容等违法有害信息，恶意用户可能利用该技术从事非法活动。
错误信息风险源于训练数据中的错误信息、语言模型的“幻觉”现象以及用户恶意利用生成式人工智能制作虚假信息。
生成式人工智能对网络信息内容治理的挑战
信息失序：生成内容的识别挑战，包括人工智能生成内容与人类创作内容的区别、人工智能生成内容更容易引发网络信息内容风险、人工智能生成内容受到的权利保护更弱。
平台革命：新型平台的规则缺位，包括生成式人工智能服务提供者的复合性和多元性、生成式人工智能的黑箱性和规模化特征。
责任困境：内容损害的分配难题，包括内容损害责任问题可能牵涉多重主体、内容损害责任问题可能涉及到不同的场景。
人工智能监管的国际发展趋势
美国采取发展导向的弱监管模式，强调在既有法律框架内通过原则性指引与行业自律实现风险管控，避免过早、过严的专门立法对技术创新造成阻碍。
欧盟采取安全导向的强监管模式，提出《人工智能法》草案并正式通过，采用基于风险的分级监管方法，成立欧洲人工智能办公室负责监管。
中国探索形成了一条介于美国与欧盟之间的“中间道路”，在网络信息内容治理方面，细化了相关主体防止生成违法和不良信息的义务，新增了相关主体对人工智能生成内容进行标识的义务。
完善人工智能生成内容治理的建议
内容识别：技术与制度协同发展，包括强化生成内容识别技术体系建设、完善生成内容信息披露义务制度。
平台治理：新型平台的规则构建，包括明确生成式人工智能服务提供者的法律定位、根据服务提供者的信息管理能力进行分类规制。