ChatGPT崛起背后 伦理安全拷问AI治理体系 ｜直击GAIDC

　　ChatGPT崛起背后，更多的应用与影响被讨论。

　　《科创板日报》2月26日讯（记者 黄心怡）ChatGPT崛起背后，更多的应用与影响被讨论。

　　在2023全球人工智能开发者先锋大会（GAIDC）上，上海市委统战部二级巡视员、上海市欧美同学会党组书记李霞为上海标准《信息技术 人工智能系统生命周期治理指南》工作组核心编写成员颁发聘书，核心成员来自上海市人工智能行业协会、市软件开发中心、信通院华东分院、商汤科技、华东师范大学等五家单位。

　　据了解，该指南将成为首部有关人工智能治理的上海地方标准。

　　上述论坛还举行了《2023 上海人工智能安全伦理倡议书》签署仪式。来自上海市人工智能行业协会、上海中青年知识分子联谊会、上海临港集团、信通院华东分院、市软件开发中心等代表共同签署了《倡议书》。

　　中国科学院院士、北京大学教授、上海算法创新研究院院长鄂维南在会上表示，ChatGPT 的“胜利”是原始创新的胜利，近6年时间沉淀集中投入资源，训练数据量45TB，参数量1750亿，训练一次要花费 450万美元。

　　鄂维南指出，ChatGPT 的“胜利”也是工程的胜利。数百人的数据工程团队与数千人的数据标注团队提供“原材料”的支持与保障；模型训练的算力基础设施、模型管理的软件基础设施齐备，支持少量开发者短时间进行想法验证与模型迭代；上线后仅1个月，支持上亿日活的模型访问，并且能够以日为单位进行模型升级

　　在鄂维南看来，“AI 工程化、平台化”正成为释放人工智能技术红利的重要支撑，“小作坊、项目制”的AI赋能方式正在成为历史。未来，AI for Science 进入平台化发展时代，随着领域数据逐步完成规模化，AI在自然语言领域所取得的成功，有望在基础科学研究领域被复制，科学研究领域预训练模型时代正在到来。

　　鄂维南认为，以提高创新效能为出发点的平台化基础设施建设应当被格外重视，比如数据的积累、标注汇聚与管理，支持建模工具、求解工具、自动化工作流工具等基础软件工具的发展，支持模型高速迭代的算力基础设施平台等。

　　在高等教育领域，ChatGPT和AIGC也将带来广泛的影响。

　　上海大学副校长汪小帆列举了一些ChatGPT在高等教育中的应用，包括用ChatGPT帮助撰写论文、编写程序、创作诗歌，用ChatGPT生成摘要，快速浏览大量文献，专注于最相关和最重要的信息；用ChatGPT生成数据报告或协助数据分析，快速准确地识别数据中的趋势和模式等。

　　但高等教育界也对ChatGPT抱有担忧。ChatGPT会否成为作弊“神器”？会产生学术诚信、伦理道德和安全问题？

　　目前，教育界ChatGPT对态度是谨慎限制。香港大学不久前向师生发出内部邮件，表明禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具，成为香港首间大学明文禁止在课堂等教学行为使用ChatGPT或其他人工智能工具。

　　《Nature》则规定，任何大型语言模型工具都不会被接受作为研究论文的署名作者，使用大型语言模型工具的研究人员应该在方法或致谢部分记录这种使用。

　　汪小帆认为，大学在使用AIGC时应遵守学术诚信和伦理道德。具体包括：制定在教学和研究中使用AIGC的指导性原则，并确保学生和教师都能了解和遵循这些准则；支持在教、学和研究中合理使用AIGC，但采取有效举措禁止抄袭等学术不端行为；教师在教学和研究过程中起到示范作用，并把合理使用AIGC等人工智能技术纳入学术诚信和伦理道德课程教学。

　　商汤科技智能产业研究院院长田丰指出，AIGC热潮之下的治理挑战已引发各方“冷思考”。 由于担心作弊、对学生学习的负面影响以及内容的准确性，纽约市教育部在其网络设备上禁止访问。

　　除教学方面，AIGC还引发了版权保护的讨论以及加大网络空间内容治理挑战和网络安全风险。不法分子可能利用其生成与真实照片完全相同的假照片、虚假信息、诈骗话术，以及恶意代码带来了便利。

　　黄心怡

　　lixiadongzhi

　　科创板日报记者