11月27日，应哲学所青年学术沙龙邀请，上海交通大学科学史与科学文化研究院杜严勇副教授来所做学术报告，题目是“如何构建安全可靠的人工智能——基于科技伦理的分析”。计海庆副研究员主持，成素梅副所长等二十余位科研人员和研究生参加。
首先，杜严勇老师从人工智能超越人类智能的可能性、以及人工智能产生危害的可能性及后果，阐明了探究人工智能安全问题十分必要；相对于科学和技术的研究，人文社会科学研究应该有所超前和预见，就像我们不能等克隆人产生之后再来研究克隆人的伦理与社会问题一样,我们必须在人工智能产生安全问题之前就做好充分的理论准备。
接着，杜老师指出，技术导致的负面影响(包括安全问题)主要是由技术本身或人为因素两方面造成的,相应的解决途径也可以从这两方面入手；这两条路径可称为内部路径和外部路径。就内部路径而言，我们可以采用对人工智能进行伦理设计、限定人工智能的应用范围、限制人工智能的自主水平和智能水平等措施，来促使人工智能技术本身具有更安全和可靠的技术特质。就外部路径而言，强调研发人员的社会责任与国际合作、通过科普消除公众对人工智能技术的误解、同时加强对人工智能技术的安全评估和管理等，或许可以有效管控人工智能的可能风险。
讨论环节中，张帆博士提出，如何来判定人工智能技术产品的道德能动者地位，应是相关安全和法律问题必须要考虑的前提；成素梅研究员提出，人工智能和机器人技术的安全问题现在的正在呈现新的变化，由人机融合造成的责任、伦理和法律等问题也值得进一步关注；韩玮博士提出，人工智能对模仿人的模仿不应该以计算效率为其主旨，一件人工智能产品也应该关注人的非计算理性的特质，例如情感等。最后计海庆副研究员总结到，伦理学研究在21世纪面临的问题转向，就是不得不去处理许多非人类的伦理问题，人工智能、机器人伦理等的出现正体现了这个特点。解决这类伦理问题，需要更多地采取一种人和技术产品关系的视角来考察。
