斯蒂芬霍金警告说，如果工程师无法控制其背后的道德规范，那么人工智能可以边缘化并“摧毁”其人类创造者。
在里斯本举行的网络峰会上，理论物理学家表示人工智能有可能成为人类所见过的最好或最坏的事情，可怕的现实是我们还不知道哪一个。
他说：“我们无法知道我们是否会被人工智能无限制地帮助，或者被它忽视并被边缘化，或者可以被它摧毁中国机械网okmao.com。”
这位剑桥大学教授表示，虽然人工智能可以极大地有利于减少贫困，疾病和恢复自然环境，但我们无法预测“当我们自己的思想被人工智能放大时，我们可能会取得什么”。
“人工智能可能是我们文明历史上最糟糕的发明，它带来了强大的自主武器等危险，或者是少数人压迫许多人的新方法。”
“人工智能可以发展自己的意志，这种意志与我们的意志相冲突，可能会摧毁我们。简而言之，强大的人工智能的兴起将是人类最好或最糟糕的事情。“
霍金在人工智能开发的“先锋”中向工程师和技术工人群发表讲话时警告说，他们需要专注于最大化社会效益而不是纯粹的能力。
“我们需要在其发展的所有领域采用有效的管理，”他说。“我们站在一个勇敢的新世界的门槛上。这是一个令人兴奋的，如果不稳定的地方，你是先驱。“
这个地址为高调的技术，商业和政府领导人进行了为期三天的会谈，他们正在努力解决从自动驾驶汽车到性玩偶等各方面的道德影响。
网络峰会创始人帕迪科斯格罗夫称科技目前的十字路口是“在几个生命中曾经发生过一次的拐点。”包括联合国秘书长安东尼奥古特雷斯和欧盟竞争委员马格雷斯维斯塔格在内的高调发言人也于周一登台并加入呼吁采取道德方法来减少不平等。
内核创始人布莱恩·约翰逊（Bryan Johnson）已经向他的公司投入1亿美元用于“破解人类大脑”，他同意我们正处于“人类历史上最重要的革命”的门槛上。
他说：“未来就像一场5级飓风，它将以如此大的力量压制我们，我们可以做的最大的事情就是物种对我们适应变化的适应性。”
欧盟竞争事务专员维斯塔格（Vestager）曾对爱尔兰的未付税款罚款190亿美元，以及36亿美元用其算法处罚其他人的谷歌36亿美元，称政府面临的主要挑战是开发工具以跟上快速变化的步伐。