走出AI伦理困境 专家建言ChatGPT要“有边界”

南方财经全媒体记者 陈思琦 深圳报道

(资料图片仅供参考)

“机器人不得伤害人类个体，必须服从人给予它的命令，在不违反前述二者的情况下尽可能保护自己的生存。”

1950年，科幻小说作家艾萨克·阿西莫夫在《我，机器人》中提出“机器人三定律”，让世界警惕技术进步带来的反噬与反叛风险。

连日来，“AI教父”杰弗里·辛顿（Geoffrey Hinton）从谷歌离职、马斯克联合近千科技人员呼吁未来6个月暂停训练巨型GPT模型——ChatGPT浪潮下，人工智能伦理争议愈发激烈，“三定律”有了衍生意义。

“ChatGPT使社会系统结构发生变化，要求我们更注重人机关系研究。人工智能不再是单纯的辅助工具，而是走向了人机融合、人机平衡。”

在5月5日于深圳大学举办的“智慧城市与数字经济交叉学科高端论坛”上，华中科技大学特聘教授、中国管理科学与工程学会副理事长王红卫作为首位发言者，以对人机关系的关注开启了接近3小时的圆桌讨论。

与会专家认为，ChatGPT等技术可为管理学、心理学、地理学等领域研究提供极大帮助，但随之而来的技术伦理问题要求我们关注立法，以完善的制度法规约束AI的无序发展。

另一方面，技术的迅猛进步对人才培养提出新的挑战。25年前，诞生于深圳的腾讯被认为破解了互联网“密码”。如今培养破解AI“密码”的创新团队，深圳最具土壤，要求高校从源头上推进科技与人文的双轮驱动，重构教育体系以培养更多具备跨学科素养的“多面手”。

实现可控、有边界的AI发展

ChatGPT横空出世，能以极快的速度回答各种领域的问题，被认为大大提高了人类的工作效率与生活质量。

然而，直接引用ChatGPT答案会产生极大的伦理风险，如个人隐私侵犯、虚假信息传播等。离开谷歌的辛顿也坦言，网上充斥的虚假图片、视频和文字，将让普通人“无法再辨别真假”。

论坛上，中国人民大学信息学院教授、中国计算机学会会士孟小峰指出，当前ChatGPT“吃”掉的素材全是人类的知识成果，与人类自身吸收、学习的素材同源，而人类消化了同样的信息可能无法生成与ChatGPT同等质量的答案。

“核聚变是毁灭人类的，‘可控的’核聚变才可被人类应用。人工智能同样不能直接服务于经济社会，需要像核聚变一样探索一个可控的、有边界的机制。”

孟小峰认为，不能单纯从伦理角度“一刀切”地认为ChatGPT生成的结果不可接受，人工智能也需要一套可控的技术体系。

深圳大学党委书记、光明实验室主任李清泉则强调了法律约束的重要性。技术发展的“可控”需要加强顶层设计和规划，从法律法规到产业扶持政策都需进一步完善，尤其法律的约束对象要从“人”拓展到人工智能。

以智能驾驶为例，即使技术达到相对成熟的水平，其大规模推广也面临着复杂城市路况带来的高度不确定性与道德伦理困境，事故权责归属问题尤为棘手。

在这方面，深圳发挥经济特区立法优势，于2022年8月出台实施全国首部智能网联汽车管理法规《深圳经济特区智能网联汽车管理条例》，全国首部人工智能产业专项立法《深圳经济特区人工智能产业促进条例》也于去年11月正式生效。

学界与业界也持续发力。李清泉透露，以深圳大学为牵头建设单位的人工智能与数字经济广东省实验室（深圳）（即光明实验室）正在探索与保险公司合作，生成无人驾驶的保费模型。

推进科技与人文的双轮驱动

“艺术与科学总是在山脚下分手，又在山顶上相遇。”正如法国作家福楼拜所言，科学思维与艺术思维是相辅相成、相得益彰的。

与会专家认为，ChatGPT对高校人才培养带来了新的机遇和挑战，要求重构教育体系，重视科技与人文双轮驱动，培养学生成为具备多学科素养的“多面手”。

北京大学计算机学院教授、中国计算机学会会士李晓明提到，其曾在北京大学开设通识课程“社会科学中的计算思维方法”“社会科学问题研究的计算实践”等，培养人文社科学生的计算思维。

如今担任大湾区大学（筹）科教负责人，李晓明透露，该校拟面向全校开设一门为期一年的计算机通识课，而这将是一门“认真的通识课”，帮助学生迈出舒适圈，推进理工科与人文社科更紧密地融合。

华东师范大学心理与认知科学学院院长周晓林提出，ChatGPT在很多方面的行为表现与人非常相似，但在心理学领域，还缺乏“机器人心理学”这类二级学科。

周晓林举例说，机器人行走的角度与速度不同，与人类发生碰撞的可能性不同，人类由此产生的心理认知也有很大差异。因此，建议高校设置“机器人心理学”等前沿学科，探索将人类的心理特性融入机器人设计中，让心理学更好赋能技术进步。

“ChatGPT成功的背后，是一帮年轻人掌握了‘密码’。我们要培养潜心修炼、能够破解AI‘密码’的创新团队，而深圳最有培养这种团队的土壤和条件。”孟小峰对曾孕育出腾讯，在互联网浪潮中取得先机的深圳寄予厚望。

深圳大学作为深圳高等教育“长子”，李清泉透露，该校正探索将ChatGPT等技术与教育信息化结合，为传统教育赋能。

“公立大学受限于成本，长期以来难以实现个性化教育。而ChatGPT可以根据学生的基础条件、素质、爱好等，生成其所需要的课程，并根据其学习过程展开评价，对后续的学习提供有针对性的帮助。深大希望在这方面积极探索，起到引领作用。”李清泉表示。