【新智元导读】在2020年,GPT-3和AlphaFold 2这两项基于Transformer的革命性技术突破了界限,深刻影响了我们的生活。那么,在2021年,我们又能期待哪些令人振奋的人工智能创新呢?虽然2020年并没有缺乏重要新闻事件,但人工智能依然以其独特的方式占据了主流视野。
尤其是GPT-3,它展示了人工智能即将以全新的方式融入我们的日常生活。这些进步为未来带来了无数可能,使得预测未来变得更加困难。但随着技术应用的成熟,一些领域的突破也变得可预见。
以下是我们在2021年有望看到的人工智能重大突破几个方面。首先,是Transformer结构背后的GPT-3和AlphaFold。这两项在2020年的巨大成就共享着相同的基本结构——OpenAI 的 GPT-3 和 DeepMind 的 AlphaFold 都是基于Transformer。在这个基础上,我们预计在几个关键领域方法进步,将推动更广泛地应用Graph Neural Networks(GNN)。
其中,“动态图”是一个重要方向。尽管迄今为止,大多数 GNN 研究都假定一个静态图,但这种情况正在发生变化。在社交网络中,新成员加入会产生新的节点,而关系也会发生变化。在2020年,我们已经看到了一些将时间演化图建模为一系列快照的做法,而在2021年,这个研究方向将会扩展,并侧重于将动态图表建模为连续时间序列。这意味着这样的连续建模不仅包括拓扑结构,还需要能够发现和学习图中的时态结构。
另一个关键进展是对“消息传递范式”的改进。消息传递是一种常用的实现图神经网络的一种方法,它通过沿边缘信息“传递”来聚集节点信息。但这有一定的局限性,比如难以捕捉到需要信息长距离传播的情况。在2021年,我们期待能够解决这一问题,比如通过迭代学习哪些信息传播路径最相关,或甚至学习一个全新的关系数据集的因果图。
此外,人工智能应用也将继续向前发展。在医疗保健、网络安全等领域,AI和机器学习技术正逐渐成为不可或缺的一部分。而且,与之前相比,更多默认在边缘设备上运行机器学习模型的情景,也有望出现,如谷歌Coral这样具有TPU芯片的小型多芯片模块,这可以减少对云端服务依赖,从而节省带宽并减少延迟,对于医疗保健等敏感领域至关重要。此外,这样的边缘计算还能用于那些需要隐私、安全以及低延迟的地方,即使是在无法访问高速互联网的地方。
总之,无论未来的具体走向如何,在人工智能发展史上,每一步都是充满惊喜与挑战的。而对于即将到来的这一年的AI浪潮,我们充满期待,因为它不仅代表着技术上的飞跃,更代表着人类理解世界的一个新阶段。