上海迎来了7月27日这一天,中新网的记者吴家驹和宋宇晟在现场看到了辛顿。这位被称为“AI教父”的人现身2025世界人工智能大会(WAIC)。他在这个论坛上发表了主题演讲和对话,主题围绕着AI安全展开。辛顿把人类和AI的关系比喻为“养小老虎当宠物”。 辛顿说,虽然小老虎可爱,但把老虎当宠物可不是好主意。如果养着它,只有两种选择:训练它别想吃掉你,或者彻底摆脱它。对于AI,我们没退路,它在医疗保健、教育、气候变化等领域都大有用处。 当天与上海人工智能实验室主任周伯文对话时,辛顿指出当今的聊天机器人已经有意识。他认为人类创造的智能体已经能设定子目标,一旦拥有这种能力,它们就会寻求生存和更多控制权。 所以人类要想生存下去,就得找到办法让AI向善。他建议建立一个由安全机构组成的国际社群来开发技术。 辛顿还表示,让一个聪明的AI不想接管世界需要不同的技术路径。尽管我们现在不知道怎么做,但这是人类面临的最大问题。好在这件事上各国可以合作。 最后他强调未来会有通用方法让AI变得善良。虽然可能不真实但我们得探索这种可能性。