2023年6月2日,我院举办第2023-B-08期黄海论坛,邢军博士以“面向跨模态遥感数据的生成式预训练大模型”为题作报告,报告由人工智能教研室王晓辉主任主持,参会教师为人工智能、物联网、数据科学教研室教师。
首先,邢军博士从遥感数据的特点出发,阐述了跨模态遥感数据对于提升遥感影像处理和解译任务上的性能和普适性的重要意义。
其次,针对大多数现有深度神经网络模型是利用自然场景图像预训练的权重来进行初始化的局限性,探讨了一种面向跨模态遥感数据的生成式预训练大模型。该模型依托掩膜自编码结构,采用ViT和Swin Transformer等Transformer类骨干网络,使用目标特性引导的自监督学习方法,能够面向复杂场景且更具通用表征能力,对新任务有较强的泛化能力。
最后,邢军博士围绕视觉结构建模和特征学习、图神经网络、视觉大模型微调和细粒度多模态协同感知、认知与生成等方面,分享了计算机视觉领域当前的前沿技术和最新进展,并与参会教师进行了深入的探讨和交流。
本次报告内容与参会教师的专业方向密切相关,开阔了教师的视野,促进了学习交流与能力提升,并对教师学术研究方向的选择起到了有益的启发作用。