【时间】2025年3月13日（周四）下午14：30 开始

【地点】线下讲座，9B406会议室

【主题】面向视觉大模型的多任务混合推理优化技术

【主讲人及介绍】

    吴加其博士，2019年在广西大学数学与信息科学学院获得硕士学位，2020年入学哈尔滨工业大学(深圳)电子与信息工程学院。主要从事网络通信、人工智能、博弈论和经济学交叉学科研究工作。研究成果发表国际期刊和会议论文多篇。

【内容简介】  

    随着通用人工智能的飞速发展，视觉大模型因其能够根据用户指令生成高质量的视觉内容，正逐渐成为研究热点。然而，在资源受限的边缘计算网络中，如何高效地进行视觉大模型任务的推理成为亟待解决的问题。本报告首先介绍了视觉大模型的现实应用与底层模型架构，分析了其面临的主要挑战。其次，研究了如何选择合理的推理步数，并在质量、时延与能耗之间实现有效的权衡，从而设计出独立推理优化方案。最后，报告探讨了如何利用不同用户之间的意图相似性进一步优化推理流程，减少资源消耗，提出了混合推理优化方案，以实现更高效的资源调度与推理处理。

 

诚挚欢迎广大师生参加。