GPT-3引领科技潮流2020年至2021年的AI发展大幕背后有哪些震撼人心的瞬间

【新智元导读】2020年，GPT-3和AlphaFold 2两项基于Transformer的突破性技术不仅杀出重围，还走进了我们生活的方方面面。那么，2021年又将给我们带来哪些新的突破呢？

2020年虽然充满了重磅新闻，但人工智能依然以全新的方式深入我们的日常生活。尤其是GPT-3，它展示了人工智能即将以全新的方式深入我们的日常生活。这一进步赋予了未来很多可能，使得预测未来变得并不容易。但伴随着技术应用的成熟，另一些领域的突破也是可预见的。

以下是2021年人工智能有望取得突破的几个方面。GPT-3和AlphaFold背后的Transformer在2020年的最大的两项人工智能成就中共同出现。OpenAI 的 GPT-3 和 DeepMind 的 AlphaFold 都是基于Transformer。这一基础结构在未来的发展中将扮演关键角色。

「动态图」是第一个重要的领域。在过去，大多数 GNN 研究都假定了一个静态图，但这一情况正在发生变化：例如，在社交网络中，新成员加入会产生新的节点，而关系也会发生变化。在2020年，我们看到了一些将时间演化图建模为一系列快照的做法，而在2021年，这个新生的研究方向将会扩展，侧重于将动态图表建模为连续时间序列的一种方法。此类连续建模除了通常拓扑结构外，还应该使 GNN 能够发现和学习图中的时态结构。

对「消息传递范式」的改进也是一大可操作之举。消息传递是一种实现图神经网络的一种常用方法，它通过沿着连接邻居边“传递”信息来聚集节点信息。一直以来，由于这种方法难以捕捉到需要信息在图上长距离传播的情况。但是在2021年，我们期待能够推翻这一范式，例如通过迭代学习哪些信息传播路径是最相关的，或甚至学习一个全新的关系数据集中的因果网絡。

此外，在实际应用中，我们还可以期待更多关于AI技术与机器学习如何进一步融合并加强现有的网络安全系统，以及更广泛地运用AI进行行为分析，以识别新威胁或早期威胁。此外，与边缘设备上的运行机器学习模型有关的大量应用程序也有望增加，如谷歌Coral这样具有TPU（Tensor Processing Unit）的设备，其处理能力和量化技术都有所提升，因此更加普及。

Edge AI消除了把数据发送到云端服务器上参照的大部分需求，不仅节省了带宽，也减少了执行时间，这对于医疗保健等领域至关重要。而且，对于那些需要隐私、安全以及低延迟的地方，即使是在无法访问高速互联网的地方，都有可能打开使用这些设备提供服务的情景。