““强人工智能”的伦理困境：倘若有一天你爱上了AI，咋办？”

记者张斯实习记者刘春山经卢祥勇

在科幻电影中，人工智能机器人多次实现了自我意识的觉醒。 在以ai为主题的美国电视剧《西部世界》中，主人公虽然知道所爱的人是机器人，但还是沉迷于忘我。 机器人也发现了“这个世界上唯一真正的东西”——自由意识。

在一系列关于人工智能的担忧中，伦理问题是最重要的之一。 首届“太和文明论坛”举办期间，许多领域人士表示，从目前的技术来看，人工智能并未面临失控的局面，人工智能所表现出的情感是虚假的。 科学家还没有研究清楚什么是人类的自我意识，实现机器人真正的自我意识还遥遥无期。

新技术的出现实现了人类能力的外延，但在历史上，没有一种技术与人类大脑直接竞争过。

科学家们将“强大的人工智能”定义为:出现真正自主且能够证实主体资格的“智能”，而不是像alpha go那样快速发展远高于机器计算的推理能力和学习能力的程序。 与强人工智能相对应的是遵从人类计算机算法的弱人工智能。

微软亚太研发集团副总经理商容表示，人工智能需要理性和感性，涉及感性会涉及伦理和隐私等问题。 联想创投董事总经理王光熙认为，未来的人工智能可能会有感情，这关系到未来人类智慧与机器智能的边界在哪里，或者边界会消失。

人工智能一旦具备了感情，就会变成人与恋人、亲属等的关系，拷问现代的伦理规范。 信帧机器人的创始人贺江涛认为，在实际工作中，人类遇到了对机器人有感情的事情。 “企业旗下的娱乐机器人。 那个视频在网上点击次数超过亿次，在视频中这个机器人的头被敲击了。 一位母亲看了直播后勃然大怒。 说是女儿的企业制造的机器人。 怎样才能打他呢？ ’这时贺江涛发现，人类对这个机器人有感情，和这个机器人有某种联系。

除了感情，人工智能还涉及隐私安全问题。 以前有一次美国夫妇吵架，家里的智能音响在察觉到环境新闻后，自动报警解决。 其中，智能音响“窃听”了夫妇的对话，并做出了妥善的应对。 很明显那个反馈结果不是夫妇想要的。

今年6月，一篇论文表明，facebook的研究者通过训练一对聊天机器人，希望有“目的”地与人类对话。 研究人员发现，人工智能也可以对不希望的东西假装有趣。 之后，facebook明确了，但这迫使人们思考，人工智能失控的日子是否会到来。

微软亚洲研究院副院长潘天佑在接受《每日经济信息》记者采访时表示，目前人工智能的快速发展并不一定会失控，失控听起来很恐怖。 作为一名计算机科学技术人员，我经常向人解释实际科学和科幻电影的差距还是非常大的。

“很多情况下，人工智能的一些应用看起来像有感情一样，像有情妇一样，但实际上这还是虚拟的。 例如，语音聊天，它从网上学习了很多人类的聊天方法，它回答的某一句话中，可能会被认为有感情。 但是，这种感情还是通过机器学习实现的，还没有产生自我意识。 ”潘天佑说，我们自己还没有探讨人类的意识是什么。 怎么设计有感情的东西呢？

专家认为，无论目前的人工智能系统如何模仿人脑“神经网络”，在对话、行为等方面如何与人类相似，只要人类内心现象的最终解释没有取得突破性进展，人工智能是否逼近人类这个问题就缺乏必要的前提

从快速发展的程度来说，目前我们快速发展的还是弱人工智能，强人工智能技术能否实现还不清楚。 潘天佑对《每日经济信息》记者表示，未来的事件谁也不知道，但从目前的状态看，人工智能的情感还是虚拟的，不用担心人工智能能像人一样拥有自我意识、个人情感。

《网络进化论》的作者计算机博士刘锋对《每日经济信息》记者说，如果人工智能被视为与人类同等地位的智慧生命体，其与人类社会的关系存在伦理道德问题。 如果人工智能本质上和菜刀一样是工具的话，工具本身就没有伦理问题。

然而，虽然有一些不可否认的是，人工智能已经悄悄地影响了人类的思维方法。 正如太和智库副理事长兼秘书长艾迪所说，人工智能在某些行业，或者说在某种意义上已经超过了人脑，可以做到人类做不到的事情，从而影响人类的思维方法。 例如，人类思考问题的方法主要是因果关系，未来的人工智能包括大数据的快速发展更强调关联性。

来源：经济之声