讲座主题:支持大模型的分布式机器学习系统性能优化
专家姓名:崔斌
工作单位:北京大学
讲座时间:2023年10月22日 9:00-10:00
讲座地点:烟台东山宾馆
主办单位:欧宝官方app下载计算机与控制工程学院
内容摘要:
机器学习系统是人工智能应用的重要基础,其核心包括数据组织形式、模型计算方法以及硬件使用方式等。日益增长的模型和数据规模对现有系统带来了严峻的挑战。本次报告介绍了课题组自主研发的面向大模型的分布式深度学习框架--河图。报告首先剖析了目前“大模型”发展情况,然后重点介绍了河图面向不同大模型和硬件环境的优化进展以及在自动化并行训练上的探索。最后,对机器学习系统的发展进行了展望。河图系统已在GitHub开源 https://github.com/PKU-DAIR/Hetu。
主讲人介绍:
崔斌,北京大学博雅特聘教授,计算机学院副院长,数据科学与工程研究所所长。研究方向包括数据库、大数据管理和分析、机器学习系统等,在相关领域发表了200多篇学术论文。担任中国计算机学会数据库专委会副主任,DSE期刊主编,IEEE TKDE、VLDB Journal等期刊编委,VLDB 2024大会主席以及数十个国际会议的程序委员会委员。于2008年获得微软亚洲研究院的“微软青年教授奖”,2009年获得中国计算机学会 “CCF 青年科学家奖”,2014年获教育部自然科学二等奖,2016年入选长江学者特聘教授。