AI教父辛顿最近担心大型语言模型可能失控伤人,他认为聊天机器人已能很好地理解语言,未来5-20年内AI系统有50%的可能会比人类更聪明。辛顿分析,聊天机器人是通过预测下一个词来理解语境的,所以它们也具有主观经验。他提出可通过模拟计算而非数字计算来减轻AI的威胁,因为模拟系统难以集体化。