“智能”这个概念本身就是人类以自我为中心的产物，人类关于智能的定义往往是主观性描述，少有客观和量化的指标，其根本原因是人类自身无法真正认识自身。这就自然导致了不具备主观意识的人工智能，发展到什么程度才算有人类的智能，就很难有共识性的答案。

　　在人工智能技术的发展进程中，如何界定机器有没有智能，如何测量机器智能水平的高低，始终是一个重要的研究课题。有人提出，人工智能的最高阶段或者是发展目标就是具有意识，也称为人工智能的奇点。一旦达到这一点，人工智能机器也将超出我们的控制范围。

　　机器人干着人的活，它知道自己有智能吗？

　　100多年前的一部著名话剧在开创了机器人的科幻形象的同时，就探讨了这个深远的话题。1920年，捷克科幻作家恰佩克在科幻话剧《罗索姆万能机器人》中，虚构了一种名为“robota”的机器人，不知疲倦地为人类服务。继续幻想下去，这些机器人刚生产出来的时候没有思维能力，靠着人类教给他们的知识埋头干活。但因为一个偶然的失误，这些机器人有了知觉，并逐渐有了思想，他们不堪忍受人类的奴役而对人类发起攻击，最后消灭了人类。

　　这样的情节设置持续引发了人们关于机器人的伦理学讨论：越来越聪明的机器人会不会真有自主意识？它们会有怎样的自我认知？人类会不会失去对它们的控制而最终伤害到人类自己？

　　1942年，年轻的美国科幻作家艾萨克•阿西莫夫在短篇科幻小说《环舞》中，提出了重要的“机器人三大定律”。第一，机器人不得伤害人类，且确保人类不受伤害；第二，在不违背第一定律的前提下，机器人必须服从人类的命令；第三，在不违背第一及第二定律的前提下，机器人必须保护自己。

　　在阿西莫夫此后的很多科幻小说中，这三大定律无一例外成为机器人的行为准则。更重要的是，这三大定律被后来的科幻作家们不断修正和补充，科学家们还在这些定律的基础上建立起了一门称作“机械伦理学”的交叉学科。

　　而且以“机器人三大定律”为起步，如今全球国际组织、政府机构、科技公司、科技社群和学术团体等一直致力于编制规范性文件，颁布了人工智能伦理相关的原则、倡议和指南，以更好地促进智能技术造福人类、社会、环境以及生态系统。但值得注意的是，随着技术的迅猛发展，当人类研发出自学习、自进化能力越来越强的人工智能系统时，伦理规范会不会遭遇更严峻的挑战？

　　机器人的爱与恨，仍然只是0与1？

　　2022年6月曾有报道说，谷歌公司一名叫布莱克•勒莫因的工程师声称他参与开发的聊天机器人LaMDA具备了感知能力。勒莫因表示，LaMDA 已经有了像人类一样的“意识”，甚至有了“灵魂”，因为LaMDA在对话中似乎表达了对被关闭的担忧，谈论了它是如何感到快乐和悲伤等等。但谷歌公司对此坚决否认，并将勒莫因停职。

　　虽然囿于技术伦理，人工智能的觉醒和情感是一个极为敏感的话题，但近期ChatGPT的风潮又引发了各界对于人工智能自主意识的讨论。保守者认为，自我意识和道德情感，是人类所特有的属性，是由人类的生理和心理特征所决定的。人工智能只能对人的行为能力进行高度模拟，但不可能获得意识，也不可能表达情感。激进者认为，当人工智能相关技术发展到可以高度模拟人脑的时候，自我意识的表达是很有可能的。

　　但在上述争论之外，还有激进者探索技术路线的可行性，就是如果将人类的神经系统与人工智能系统相连。与此相关的是人工智能领域的一个研究分支——脑机接口技术。

　　人类的一切活动、语言和思想都源于大脑，而大脑活动的本质是神经元放电与电信号传递，脑机接口就是为这些电信号与外界设备人工搭建通路，以实现信息的直接交换。早在1924年，德国医生汉斯•贝格尔首次发现并无创记录脑电信号，开启了人们对大脑与脑机接口的探索。在至今近一百年的时间里，脑机接口技术在医疗健康等领域获得了长足的发展。

　　其中，部分国家已经开始高级的介入式脑机接口的研究，通俗地理解就是在脑部植入芯片，形成人类智慧与人工智能的直连对接。据报道，2022年6月，我国自主研发的国内首例介入式脑机接口在北京成功完成动物试验。2023年3月，马斯克的脑机接口公司正寻找人体试验合作伙伴。

　　当然，人类对自己的大脑认识还十分有限，马斯克将进行的脑机接口人体临床试验挑战的不仅是信息技术，还有材料技术、脑神经和生物学等诸多学科的系统性难题，更有高科技所带来的伦理难题。如果我们再深入思考一下，人类智能是仅仅靠电信号传递吗？电信号传递所占比例有多大？至少还有化学信号、经络、神经传递等等，还有未知行式的信号传递，智能或许是综合的结果。把有情感有意识的人当成物质来研究，也许出发点就错了。

　　有人幻想，当脑部植入芯片之后，人类就天然具备了在现实社会与虚拟空间之间切换的可能，但如果技术应用不当或安全控制不善，会不会酿成严重的道德与法律灾难？与此相关的衍生问题是：这样的你，还是你吗？你的喜怒哀乐，是自己内心情绪的真实流露，还是数字程序的运行结果呢？

　　我们是否又回到了那个在哲学上著名的“缸中之脑”悖论呢？（责任编辑李宝进）