研发人工智能 “危言耸听”的话要不断响起

  　　日前，上海市社会科学界联合会举办以“人工智能与社会变革”为主题的“东方讲坛·科技与人文的对话”。同济大学教授汪镭、上海交通大学教授江晓原、复旦大学教授于海等就人工智能的未来等话题展开深入对话。

　　专家认为，反思人工智能的过程，也是反思人类自身的过程。以前一直说科学没有禁区，但现在看来，科学仍然有不可逾越的红线。这个禁区可以在不同的时间里有所改变。比如，某些事情当人类社会已经准备好了，能够有伦理或者法律的东西规范时，或许就可以开放这个区域。

　　与会者认为，不应该无限制地发展人工智能。首先，要对科学技术可能的危险有充分认识，其次，要警惕科学与资本的共谋。今天科学告别了纯真年代，转而跟资本密切结合在一块。包括研发人工智能，其背后可能都有着巨大的商业驱动。应对这一挑战，需要各国谈判订立国际条约，来严格约束研发。同时，哲学家需要发出批判的、超前的设想。只有这种“危言耸听”的话不断地响起，才会推动政治家、科研技术人员真正意识到问题的严重性，才可能会有一系列的集体应对。　(李小佳)

责编：胡月明