马硕天
学习周报-马硕天-20250324-20250330
2025-3-30 20:27
阅读:1967

                                    学习周报

姓名

马硕天

时间范围

20250324-20250330

周次

第二十四周

研究方向

大模型数据高效微调

本周完成工作

1.      完成了OpenLLM LeaderBoard上所有六个评测任务在我的方法、随机选择、完整数据集和superfilter方法得到的模型上的评测结果,我的方法在三个子任务上超越了基线模型,在其余三个子任务上略逊于基线模型。

2.      完成了我的方法和superfilter方法的结合,采用混合排名与多样性采样的方法,目前正在评测模型效果。

3.      完成多智能体综述阅读:Multi-Agent Collaboration Mechanisms A   Survey of LLMs

本周

问题汇报

1.      OpenLLM   LeaderBoard排行榜在十几天前被Huggingface官方宣布弃用不再更新,后续数据评测基准还是需要参考领域内论文常用的评测数据集。

2.      2025年的文章许多是在Llama3上进行的实验,目前为了方便和去年的文章作比较还是用Llama2做的实验,后续需要考虑新的模型。

下周工作计划

1.      修改数据评分代码,尝试在不影响选择效果的情况下加快数据选择速度。

2.      根据混合方法得到的模型效果推进下一步实验。

 

转载本文请联系原作者获取授权,同时请注明本文来自马硕天科学网博客。

链接地址:https://wap.sciencenet.cn/blog-3623255-1479977.html?mobile=1

收藏

当前推荐数:0
推荐到博客首页
网友评论0 条评论
确定删除指定的回复吗?
确定删除本博文吗?