确保生成式人工智能向善而行

2025-06-11 来源：AI图库吧

紧随科技进步和行业发展的步伐，全面提升治理水平，促进生成式人工智能健康发展

【现象】从一个灵感起步，设置主题、类型、人物、情节等各种参数，引导编剧填入自己的想法，大模型可以在极短时间内生成类型片剧本初稿。不久前，西部电影集团有限公司发布国内首个拥有自主知识产权的电影创作类生成式人工智能系统。近年来，生成式人工智能技术取得突破性进展，开始完成绘画、谱曲、咨询互动等原本被认为只能由人来完成的工作，正在并将继续对生产生活产生深远影响。

【点评】

人工智能是引领未来的战略性技术，是新一轮科技革命和产业变革的重要驱动力量，是必须抢占的科技制高点。生成式人工智能可以依托事先训练好的多模态基础大模型等，利用用户输入的相关资料，生成具有一定逻辑性和连贯性的内容，是目前最具革命性、引领性的科学技术之一。

从进行数据处理，到学习和模拟事物内在规律，这一跳跃让人工智能更加接近人类的创造力，可以完成更多复杂场景任务。与此同时，解决相关安全风险和伦理问题也变得更加紧迫。

党的二十届三中全会《决定》提出：“完善生成式人工智能发展和管理机制。”紧随科技进步和行业发展的步伐，全面提升治理水平，促进生成式人工智能健康发展，是形势所需，也是更好保障公众利益的内在要求。

尽管技术路径已经明确，但生成式人工智能产品和服务的商业化、大众化、普及化，仍处于起步阶段。2023年，我国生成式人工智能的企业采用率已达15%，市场规模约为14.4万亿元。目前，我国现有完成备案并上线为公众提供服务的生成式人工智能服务大模型近200个，注册用户超6亿。我们已占据有利身位，且有丰富的数据资源、广阔的市场需求、稳定的技术基础和多样化的应用场景，要充分发挥这些优势，力争在新一代人工智能技术的发展上抢占先机，为更多行业向价值链中高端攀升提供更强推动力。

着力推动技术进步、产业发展的同时，也要看到，生成式人工智能会带来一些治理难题。比如，利用他人作品生成新的“作品”，可能涉嫌侵权；利用人工智能生成虚假信息进行诈骗，增加防范难度；随着技术应用的拓展，一些就业岗位可能会受到较大冲击；等等。

针对各种可能发生的风险，相关部门和地方已经出台了一些技术应对、综合防治措施及安全开发应用指引，促进人工智能向善而行。比如，北京市编制大模型分级分类管理和安全评测标准，围绕真实场景开展应用质量评估、伦理对齐等方面评测；上海交通大学发布“生成式人工智能教师使用指南”，对版权与学术诚信、伦理与公平等问题作出规定……坚持未雨绸缪，坚持伦理先行，进一步加强人工智能规则治理，完善相关法律体系建设，才能做到趋利避害、安全使用。

发展人工智能，根本目的是造福人类、增进人民福祉、促进人的全面发展。在技术加速演进的关键阶段，坚持发展与治理、创新与安全并重，着力培育安全、可靠、公平、透明的技术研发和应用生态，定能不断促进人工智能健康发展，更好抓住新一轮技术变革带来的新机遇。

1.4万亿美元的Meta，被迫卷入AI竞争的无限游戏

最后一页