@techreport{oai:ipsj.ixsq.nii.ac.jp:02004138,
 author = {佐々木,泰河 and 山本,岳洋 and 大島,裕明 and 藤田,澄男},
 issue = {62},
 month = {Sep},
 note = {本研究の目的は，複数ドメインの文書検索に高い性能を示す単一の密検索モデルの構築である．このようなモデルの構築方法として，各ドメインのデータを結合したデータを用いてモデルをファインチューニングする方法があげられる．しかし，この方法では，新たなドメインを追加するたびに全ドメインを含むデータでモデルを再学習しなおす必要があり，計算コストが高いという課題がある．そこで本研究では，各ドメインで個別にファインチューニングされたモデルをモデルマージにより統合することで，再学習することなく単一のモデルを構築することを提案する．モデルマージは，複数のモデルの強みを統合し，計算コストを抑えつつ多様な能力を備えた新たなモデルを構築する手法である．提案手法の有効性を検証するために，対応すべきドメインが段階的に増加していくシナリオを想定した実験を行った．具体的には，ベースモデルを5つのテストコレクションに特化して個別にファインチューニングしたモデルを構築し，マージに含める特化モデルの数を2から5に増やしながら，各テストコレクションでの検索性能を評価した．その結果，マージに含める特化モデルを増やすことで，ベースモデルを上回る性能を発揮するテストコレクションが段階的に増えていくことが確認された．また，対象ドメインのデータを結合してファインチューニングしたモデルと比較しても，マージモデルは学習データ分布の偏りによる特定ドメインへの過学習やタスク競合を抑制できる点において優れていることが示唆された．},
 title = {モデルマージによる複数ドメインに対応した単一密検索モデルの構築},
 year = {2025}
}