AI日报

blog-thum
过去两周,六个最有可能改变AI进程的发布!

本研究引入了Multi-Head高斯自适应注意力机制(GAAM)和高斯自适应变换器(GAT)来提高模型性能和上下文表示,特别是对于高度可变的数据。GAAM 将可学习的均值和方差纳入其注意力机制中,并在多头框架内构建。此设置允许 GAAM 共同表示任何概率分布,从而能够根据需要不断调整功能的重要性。

read more
blog-thum
让知识图谱成为大模型的伴侣

人工智能需要结合外部知识和推理,这就是知识图谱的用武之地。知识图谱提供了真实世界实体和关系的结构化表示,编码了关于世界的事实以及它们之间的联系。通过遍历那些相互关联的事实,这使得复杂的逻辑推理可以跨越多个步骤。

read more