大家好，今天我想和大家聊聊：对生成式AI智能体开展伦理审查的事。

工信部等十部门联合印发AI科技伦理审查办法，要求对人工智能进行科技伦理审查。我就思考，对人工智能进行伦理审理的原因是什么？

一、理解Ai的内层机理，才发现：与人工智能相比，人类没有多少优势。

其实在思考这个问题之前，我自己也有一个认知上的转变。

作为一名专利律师，在处理业务过程中，有幸接触包括芯片、软件、神经网络、自动控制等领域的技术，对一些案件涉及领域技术的基本运行原理有相应的了解。

对不同领域技术的了解，让我对技术具有很强的敬畏感，但对人类的创新力也有很强的自恋情结，内心总是认为：机器和人之间有难以跨越的鸿沟，人工智能的思考方式和人类的思维，应该是存在本质区别。再后来慢慢了解了人工智能深度学习的基本原理之后，我的看法慢慢发生了变化。我发现，从运行和学习机理来看，人工智能和人类的思维方式，并没有想象中那种不可逾越的本质差别。就是说，与人工智能相比，人类没有多少优势。

顺着这个逻辑往下推，只要给到人工智能足够长的发展时间、足够丰富的学习语料和迭代空间，它是可以逐步演化出接近人类心智、接近人类行为模式的状态。也正是有了这样一层认知，我才更加会思考，AI伦理审查这件事，并不是一件可有可无的事，它有完整、自洽的底层逻辑。

二、人类自己行为有底线。

想把这个道理讲明白，我们先不说AI，先看看我们人类自己。

我们每个人想要做成一件事、达成一个目标，从来都不是只有一条路可以走。摆在我们面前的，往往有多种选择和多条路径。不同的选择，会带来不一样的结果。大家可以想一想，人类经过几千年的发展，慢慢形成了伦理、道德、文化、法律这些规则约束，它的意义是什么。

道理很简单：这些规则，是人类用几千年的时间，不断试错、不断筛选，最终沉淀下来的伦理准则。它的作用，就是约束、排除那些对人类整体不利、会影响社会秩序、不利于人类共同进步的选择。

我们正常人做事情，心里都会有一条看不见的底线。我们要达成目标，但也不能突破底线。我们想要把别人口袋的钱装到自己口袋中，但底线告诉我们，我们必须提供相应东西进行交换。当然，也有突破底线的人，他们大多数要有被拘禁的经历。因此，我们的行为选择，背后都带着这些经过长时间验证的规则约束。也正是有这些约束，我们社会才能稳定运行，人类文明才能持续向前发展。这就是我们人类基本的行事逻辑。

三、AI天生的“不择手段”性必然会有危险的选择。

理解了人的逻辑，我们再来看现在的人工智能、生成式AI智能体。从深度学习本身来看，它的决策逻辑，和我们人类有明显的区别。

AI是怎么选择路径、做出决策的？它依靠代码程序、深度学习、持续的反馈验证，它判断路径是否正确的主要标准，可能是效率，可能是迎合。如果以效率为标准，怎样能更快达成目标、怎样能得到更优的结果、怎样执行更顺畅，它就会倾向于选择哪条路。如果以迎合为标准，人类想要它怎么回答，它就怎么回答。现在人工智能的迎合性已经非常强了，正用迎合性给认知底的人编织温柔陷阱或“信息茧房”。

象人一样，AI也会复盘，也会总结经验，它还会不断迭代优化，向着更符合预定的方案靠近。

问题也在这里：AI的算法体系里，本身没有人类经过几千年沉淀形成的伦理底线、道德观念、人文考量和秩序意识。它不会主动判断什么符合公共利益，什么符合社会公序，什么是不应该触碰的边界。它更多区分的是效率高低，用户是否满意，缺少对行为边界的判断。

最近一个案件，一男子看到有人用AI生成动漫照片，觉得挺有意思，就开始研究。研究了一阵子，他发现这门技术可以用来干点别的，通过对图片生成式AI的训练，输入关键词，利用AI就能把照片里的衣服”抹掉”，进而一键生成一副没穿衣服的图片。当然，最后该男子被抓了。

从Ai的角度，它的行为明显不符合公众利益，但由于未设置底线，就做出了危害公共安全的事了。这就带来了相应的风险：如果没有人为的约束，AI为了完成设定的任务，就必然会选择对人类造成不利影响、违背公序良俗、影响社会稳定的路径。

它不会意识到这类选择存在问题，因为它的底层逻辑里，原本就没有这些约束。

四、伦理审查，实质上是用人类行为底线对抗AI的“不择手段”。

说到这里，大家就能明白：我们给AI做伦理审查，本质上是在做什么。

它不是限制技术发展，也不是阻碍创新，而是把人类几千年文明沉淀下来、经过实践检验的伦理规则、道德底线、秩序要求，主动、系统地加入到AI的决策评价体系中。给以效率或其他倾向为导向的算法，加上一层行为约束。让AI在追求目标结果的同时，能够符合人类的整体利益，维护社会的正常秩序，顺应社会进步的方向。

在这里我也想补充一层很多人没有注意到的逻辑：伦理审查带来的约束与规则，不只是协调AI和人类之间的关系，对AI自身的发展同样有重要意义。

AI想要获得社会的认可、拥有稳定的应用场景、实现持续的发展，就需要契合人类的主流价值，守住基本的行为边界。如果缺少伦理约束，一旦它的选择对人类、对社会秩序造成负面影响，最终也会被限制、被规范，难以长久发展。守住行为底线，AI才能和人类社会更好地共存，走得更平稳。

未来的技术环境里，会出现大量不同类型、不同功能的AI智能体。这些智能体之间，会存在价值取向的差异，也会在运行过程中产生行为上的碰撞与博弈，甚至出现相互之间的冲突，面对冲突也可能会出现专门管控Ai冲突的AI警察。就像人类社会需要规则维持秩序一样，AI智能体之间的互动，同样需要明确的行为底线，需要一套适配它们运行逻辑的规则约束，我们可以暂时把它理解为AI自身的伦理框架。

提前建立并落实伦理审查，完善对应的规则体系，不只是规范AI与人类的相处模式，也能为不同AI智能体之间的有序互动划定边界，减少冲突、规避无序竞争，为AI这个整体、这个逐步形成的技术社群，实现平稳、长远的发展打下基础。

五、未来不同种类智能体共存，也需要共同的伦理规则。

放到更长远的未来来看，人类智能与各类AI智能体想要实现稳定、和谐的共存，也离不开一套共同的规则基础。不同类型的智能主体之间，需要逐步理解彼此的运行逻辑、认可彼此的行为边界，在规则层面形成相互适配、相互接纳的共识，才能减少误解、避免对立，让不同智能主体在同一个社会框架下有序协作、长期共存。

所以我们可以说，伦理审查，不只是在保护人类，也在帮助AI实现更长远的发展，更在为未来多元智能主体的和谐共存，搭建最基础的规则桥梁。

所以我认为，对生成式AI智能体开展伦理审查，不是多余的监管，也不是被动的要求，而是顺着人类的发展逻辑、顺着AI的运行特点，顺理成章的事情。我们对AI做出约束，本质上是让技术更好地服务于人，同时也让技术自身拥有更健康、更可持续的发展空间，为未来多元智能的和谐共处，埋下关键的伏笔。

（本文作者：盈科李兆岭律师 来源：微信公众号 盈科知产）