chatgpt持续火爆,它将如何改变我们的社会,又潜藏着哪些风险?近日,华东政法大学政治学研究院和人工智能与大数据指数研究院发布了“人工智能通用大模型(chatgpt)的进展、风险与应对”研究报告。该报告聚焦以chatgpt为代表的人工智能通用大模型及其社会影响,在深入分析其发展现状的基础上,对于各类治理风险进行总体评估,并提出应对风险的策略与具体建议。
人工智能技术并非新鲜事物,为何chatgpt会引起如此大的轰动与关注?报告指出,chatgpt的出现反映了人工智能发展的新趋势,即ai正在从感知智能向认知智能快速发展,它代表了通用人工智能突破的可能性。此前,人工智能运用的都是专用人工智能模型,往往只能在具体的领域内产生一定的效果。而chatgpt代表了人工智能通用大模型的最新进展,显示了大模型的巨大影响力。
所谓大模型,是指容量较大、用于深度学习任务的模型,通常具有海量的参数和复杂的架构,具有涌现性、扩展性和复合性的特征。通用大模型的研发已经成为各国新一轮技术竞争的核心领域。报告指出,美国作为传统的科技强国,在大模型发展方面具有显著的优势,谷歌、微软、亚马逊等科技巨头公司均有相关雄厚的技术资源和能力,且都在通用大模型上进行了进一步的布局与投资。当前,中国在大模型发展方面正迎头赶上,各科技公司纷纷加入了大模型开发和应用的队伍。但总体而言,在原创能力、技术配套、制度环境三个方面,中美之间仍然存在一定差距。
与人聊天、帮人写程序甚至进行文化创作……chatgpt因其“无所不能”而备受青睐,但随之而来的治理风险和挑战也不容忽视。报告指出,在技术方面,大模型存在着鲁棒性不足(编者注:鲁棒性指在异常和危险情况下系统生存的能力)、可解释性低、算法偏见等风险;在社会方面,大模型可能加剧数字鸿沟、侵犯个人隐私、诱发网络犯罪、冲击教育体系;在经济方面,大模型将加速寡头垄断、推动产业结构重塑、替代传统就业、推动世界分工的重组;在政治方面,大模型将给政治决策、舆论引导、监管机制与国际关系带来新的冲击。
针对通用大模型可能造成的治理风险,报告从构建法律之治、增强竞争能力、加强市场应用、防范失业风险、推动教育改革、维护政治安全等方面,提出了应对风险的具体原则、制度建构和相关举措。