マルチタスク学習に向けた高品質データセット構築に関する研究

项目来源

日本学术振兴会基金(JSPS)

项目主持人

鈴木 優

项目受资助机构

岐阜大学

项目编号

24K03044

立项年度

2024

立项时间

未公开

研究期限

未知 / 未知

项目级别

国家级

受资助金额

18590000.00日元

学科

合同審査対象データベース関連、ウェブ情報学およびサービス情報学関連;ウェブ情報学およびサービス情報学関連;データベース関連

学科代码

未公开

基金类别

基盤研究(B)

关键词

マルチタスク学習;クラウドソーシング;評判分析;教師データ構築;ニューラルネットワーク;大規模データセット;ラベル不均衡問題;機械学習;

参与者

灘本明代;波多野賢治;

参与机构

岐阜大学,工学部;甲南大学,知能情報学部;同志社大学,文化情報学部;

项目标书摘要:マルチタスク学習における副タスク選定のための評価方法を確立し、初期実験によりその有効性を確認した。主タスクと副タスク候補の教師データを用いたニューラルネットワークの学習過程で得られるパラメータ推移に着目し、k-means法によるクラスタリングを活用して、副タスクの適切性を客観的に評価する仕組みを実装した。さらに、クラウドソーシングを通じた教師データ構築を半自動化するため、分類木によるラベル付与基準を大規模言語モデル(LLM)に入力し、自動的に作業指示を生成するシステムの初期開発を完了した。しかし、人間が直感的に理解可能な作業指示の生成については改善の余地があり、分類精度と直感的理解のバランスを取る手法を現在検討している。これらを基に次年度の本格的な評価実験への準備が整いつつある。マルチタスク学習を用いて機械学習モデルの性能向上を図るために、主タスクの精度を最も効率よく改善できる副タスクの選定方法の確立に取り組んだ。具体的には、評判分析を主タスクとして設定し、主タスクに加えて様々な副タスク候補を準備した上で、それぞれに対応した少量の教師データを用いて予備的な実験を行った。まず、副タスク選定の評価手法として、ニューラルネットワークのパラメータ変化を観察する方法を採用した。主タスクおよび副タスクの教師データをそれぞれ独立にニューラルネットワークモデルに学習させた後、学習中のパラメータの推移を計測した。また、副タスクの設定および教師データ生成に必要なクラウドソーシングプラットフォームの構築にも着手した。特に、ラベル付与の判断基準を自動的に生成するため、分類木によるラベル付与基準を生成し、それを大規模言語モデル(LLM)へ入力することで、作業者への指示文を自動作成するシステムを開発した。さらに、システム基盤としてのクラウドソーシングプラットフォームの初期実装を完了し、一部の実タスクを対象としてテスト運用を行った。具体的には、副タスク候補の教師データ作成のためのクラウドソーシング作業を試験的に実施し、作業者のラベル付け結果と作業依頼者の期待するラベルとの間の差異を観測することによって、作業指示の品質を定量的に評価した。作業指示が適切でない場合にはラベルの差異が拡大することから、この差異を指標として作業指示の改善を繰り返す仕組みを構築しつつある。以上の成果を踏まえ、1年目の研究では、副タスク選定のための基盤技術の構築およびクラウドソーシングによる教師データ生成の初期実装を達成し、これらを統合したシステムの全体的な枠組みを整備することができた。これにより、次年度以降の本格的なマルチタスク学習の実施と大規模データセットによる評価実験への道筋を明確に示した。まず副タスク選定手法の精度と汎用性を高めるため、多様な主タスク・副タスクの組み合わせで実験を拡充する。パラメータ推移に基づく副タスク評価の安定性を検証し、さまざまなテキスト分類課題において有効性を実証する。次に、クラウドソーシングの教師データ作成に関しては、LLMによる作業指示文生成の課題を改善するため、人間が直感的に理解しやすい分類木の構築手法を開発し、分類精度と指示文のわかりやすさの最適なバランスを見出す。これにより、作業者の品質および作業効率の向上を図る。また、副タスクの教師データを大規模かつ効率的に収集するため、1000人規模の作業者が同時に作業可能なクラウドソーシングプラットフォームの本格構築を進める。具体的には、高速性と整合性を両立するため、RDBMSとNoSQLを組み合わせたデータベース基盤を整備し、実環境での性能評価を実施することで実用性を確認する。Reason:マルチタスク学習における副タスク選定のための評価方法を確立し、初期実験によりその有効性を確認した。主タスクと副タスク候補の教師データを用いたニューラルネットワークの学習過程で得られるパラメータ推移に着目し、k-means法によるクラスタリングを活用して、副タスクの適切性を客観的に評価する仕組みを実装した。さらに、クラウドソーシングを通じた教師データ構築を半自動化するため、分類木によるラベル付与基準を大規模言語モデル(LLM)に入力し、自動的に作業指示を生成するシステムの初期開発を完了した。しかし、人間が直感的に理解可能な作業指示の生成については改善の余地があり、分類精度と直感的理解のバランスを取る手法を現在検討している。これらを基に次年度の本格的な評価実験への準備が整いつつある。Outline of · · · Start:本研究では,マルチタスク学習と呼ばれる方法で機械学習の精度向上に必要なデータセットの構築を行う.マルチタスク学習では,二つ以上の問題をまとめて解くことによって精度が向上することが知られているが,どのような問題を組み合わせると精度が向上するかは自明ではない.そこで,相性の良い問題,悪い問題の傾向について明らかにすると共に,データセットの構築を行うことがこの研究の目的である.クラウドソーシングによりデータセットを構築することにより,安価で高精度なデータセット構築が可能となる.評判分析を一つのテストケースとして用い,既存手法で60%程度の精度であったものを80%程度まで向上させることを目指す。

  • 排序方式:
  • 1
  • /
  • 1.Sp···h-···na··· G···ra···n ···ed···th···il···ph···fa···mi···t ···de···it··· a···ll···mm···ty

    • 关键词:
    • ;Community IS;Graduation ceremony;Language model;LLM;Philosophy;Retrieval-augmented generation;Scenarios generation;Small community;Speech-scenario generation;Text generations
    • Ki···at···Te···ya···ki···az···ro···da···o,···iy·
    • 《36···In···na···na···on···en···on···ta···e ··· E···rt···st··· A···ic···on···DE···20··》
    • 2026年
    • August 25, 2025 - August 27, 2025
    • Ba···ok···ha···nd
    • 会议

    Re···rc···bo···lo···te···ge···at··· h···be···ac···el···on···te···it···he···va···me···of···rg···an···ge···de··· H···ve···ge···at··· l··· t··· t··· c···id··· t···un···e ···lo···hy···th···a ···ll···mm···ty···uc···s ···ec··· u··· i···ra···ti···ce···on··· o···om···y ···uc···ns···em···s ···ll···in···Th···ea··· i···ha···nf···at··· a···li···at··· a···t ···mi···t ···de···in···al···om···it··· a···ge···al···ex···me···li···ed···mp···d ···th··· a···t ···l-···wn···om···nt···ad···. ···s ···dy···cu··· o···ro···en···ea···s ···hi···ma···co···ni···s,···ch··· u···er···y ···co···ny···un···s.··· a··· t···en···te···ee···sc···ri···th···au···at···ll···ha···sm··· c···un···es···ni··· p···os···ie···In···is···pe···we···rg···Ha···sa···o ···ao···he···un··· o···ur···iv···it···an···xt···t ···te···s ···ta···ng···s ···lo···hi···fr···hi···ia···s,···ct···s,···d ···ob···ra···es··· c···te···qu···ti··· d···ba··· W···he···ro···e ···et··· t···en···te···ee···sc···ri···ba··· o···he···er···in··· t···e ···ng···tr···al···gm···ed···ne···io···RA···wi···th···uo···io···da···as···© ··· A···or···, ···er···cl···ve···ce··· t···pr···er···tu···Sw···er···d ···20···

    ...
  • 2.Tw···ta···Fi···Tu···g ···Di···gu···en···ti···wi···ma···Co···ni···Pr···ne···Le···rs···hi···op···s

    • 关键词:
    • Speech communication;Dialogue generations;Fine tuning;Generation method;Language model;Philosophy;Public data;Small business;Small community;Speech patterns;Two-stage fine-tuning
    • Ki···at···Te···ya···ki···az···ro···da···o,···iy·
    • 《27···In···na···na···on···en···on···fo···ti···In···ra···n ··· W···In···li···ce···iW···20··》
    • 2026年
    • December 8, 2025 - December 10, 2025
    • Ma···e,···pa·
    • 会议

    Re···t ···an··· i···ar···la···ag···od··· (···s)···ve···ab··· t···re···ca···n ···sp···h ···te··· a···ph···so···es··· p···in··· h···or···l ···ur··· H···ve···ge···at··· d···og···th···re···ct···he···il···ph··· o···ro···en···ea···s ···sm··· c···un···es···uc···s ···nd··· o···oc···un···rs···es··· s···l ···in···es···em···s ···ha···ng···ue··· t···li···ed···ai···il··· o···ub··· d···. ···er···le··· t···ph···so···es··· s··· l···er···ft···se··· a···mp···an···du···io··· a···be···io··· f···da···ns···r ···be···of···es···om···it···. ···th···st···, ···pr···se···di···gu···en···ti···me···d ···t ···bl···th···ha···g ···a ···mi···t ···al···ad···s ···lo···hy···ro··· n···ra···on···sa···n.···ec···ca···, ···cl···if···en···ce···ef···eh··· b···he···ad···su···as···os···n ···ks··· d···ie···nt···ou···yp··· s···em···s,···ou···s,···ti···, ··· f···s.··· t··· p···or···wo···ag···in···un··· u···g ··· s···em···s ··· t···gh···to···ne···e ···lo···s ···t ···th···ly···fl··· t···le···r’···al··· a···ph···so···. ···he···th···s)···nd···ex···si···li···se··· S···ng···Na···e ···tz···an···G ···6.

    ...
  • 3.Pa···et···Dr··· a···ig··· f···em···sh···In···en···in···rf···Tu··· L···

    • 关键词:
    • ;Inference attacks;Internal parameters;Language model;Large language model;Membership inference attack;Parameter dynamics;Parameters drift;Pre-training;White box;White-box attack
    • Ki···ur···Ta···o;···uk···Yu
    • 《27···In···na···na···on···en···on···g ···a ···ly···s ··· K···le··· D···ov···, ···aK···25》
    • 2026年
    • August 25, 2025 - August 27, 2025
    • Ba···ok···ha···nd
    • 会议

    We···op··· a···ve···hi···bo···em···sh···in···en···at···k ···A)···r ···ge···ng···e ···el···LL··· t··· l···ra··· i···rn···pa···et···dy···ic···o ···er···e ···th···a ···en···xt···mp···wa···nc···ed··· a···de··· p···tr···in···at···Pr··· M···ap···ac··· r··· p···ar··· o···np···ou···t ···av··· a···st···gl···o ···ti···is···em···ze···am···s ···m ···an···al···si···ar···t ···ee···ne···ue··· t···pr···bi···ti···at··· o···LM···ne···io···To···dr··· t··· c···le···, ···in···du···a ···ho···as···on···ra···er···if···ef···d ···th···uc···ea···is···ce···tw··· t···en···e ··· o···od···pa···et··· b···re···d ···er···nt···al···e-···in··· o··· s···le···pu···Ou···yp···es···is···at···nt···al···e-···in···in···s ···uc···in···l ···am···r ···ng··· w···e ···ee···np··· r···ir···re···r ···at···to···e ···el···ot···y,··· f··· t··· e··· s···nt···ll···im···r ···ut···ie···di···nc···ri···ma···tu···, ···bl··· m··· p···is···em···sh···in···en··· W···al···te···r ···ro··· o···ul···le···Ms···nc···in···yt··· a···LL···-2···nd···ow···at··· c···is···tl···ut···fo··· e···ti···MI···as···ne···uc···s ···-K···ro···nd···MI···li···nd···va···us···al···io···et···gs···ur···rm···, ···de···st···e ···t ···us··· o···ar···te···wi···hi···dr··· f···he···mp···es···fe···ce···cu···y,···hi···ng···at···f-···-a···re···ts··· b···hm··· d···se··· ©···e ···ho···),···de···xc···iv···ic···e ···Sp···ge···at··· S···ze···nd··· 2···.

    ...
  • 4.Au···at···In···uc···n ···er···on···aA···rn···ng···al···io···nd···at··· w···LL··

    • 关键词:
    • Iterative methods;Crowdsourcing platforms;Dataset creation;High quality;Instruction;Instruction generations;Iterative process;Language model;Large language model;Performance;Workers'
    • Ta···a,···o;···uk···Yu
    • 《27···In···na···na···on···en···on···fo···ti···In···ra···n ··· W···In···li···ce···iW···20··》
    • 2026年
    • December 8, 2025 - December 10, 2025
    • Ma···e,···pa·
    • 会议

    On···ow···ur···g ···tf···s,···e ···li···of···ll···ed···ta···pe··· o···he···ar··· o···ns···ct···s,···t ···ue···rs···ru···e ···cr···e ···tr···io···th···ca···re···ei···wn···pl···t ···te···. ···ad···ss···is···su···we···op··· a···ve···ra···or···ha···se···wo···rg···an···ge···de···(L···) ··· C···to···nd··· E···ua··· –··· a···ma···al···ex···re···e ···ce··· p···ib···in···uc···ns···n ···s ···ra···e ···ce··· t···Cr···or···M ···er···s ···er···in···uc···n ···di···es···nd···e ···lu···r ···, ···in···s ···ro···fo···um···wo···rs···ss···es···ei···er···ma··· o··· t···, ···vi···g ···it···s ···re···ur···pe···en···sh···th···th···ex···ra···y ···ro··· i···ff···iv···or···sc···ri···hi···qu···ty···st···ti···, ···n ···th···ro···s ···s ··· s··· m···to··· i···ov···nt···si···th···es···er···mi···in···uc···n ···at···by···r ···ho···it···em···, ···ac···ve···.4···ig··· a···ra···an···.0···lo··· R··· t··· w··· g···a ···d ···in···uc···n ···at···by···re···st··· ©···e ···ho···),···de···xc···iv···ic···e ···Sp···ge···at··· S···ze···nd··· 2···.

    ...
  • 5.An···si···f ···av···al···ci···at··· I···rm···on···ri···Di···te···Ba··· o···ea··· A···ib···s ··· P···on···ty···ai··

    • 关键词:
    • Behavioral research;Social networking (online);Storms;Big five;Classifieds;Content-based;Large volumes;Personality traits;Social networking services
    • Na···ot···Ak···;W···su··· K···ke···zu··· Y···um···to···ad···ko
    • 《In···ma···a ···ov···a)》
    • 2026年
    • 49卷
    • 3期
    • 期刊

    Du···g ···as···s,···la··· v···me··· m···ag···ar···os··· o···oc··· n···or···g ···vi··· (···).···me··· t···e ···sa··· c···ai···eh···or···fa···it···on···fo···ti··· w···h ···he···nc···ag···or···sc···ag···sp···fi···ct···s.···we···, ··· i···rp···at··· o···uc···nf···at··· d···nd···n ··· p···on···ty···ai···of···e ···iv···al···ff···ed···n ···s ···dy···e ···ot···iz···ha···ic···s’···rs···li···tr···s ···lu···e ···ir···rc···io···f ···av···al···ci···at··· i···rm···on···nd··· a···yz···he···ar···er···ic···f ···se···ff···nc··· F···si···on···ph···s,··· p···os··· m···od···r ···ra···ng···ha···ra···ac···ta···n ···or···io···ro···os···on···(f···er···Tw···er···ur··· t···oo···el···d ···as···s.···e ···ra···d ···or···io···s ···n ···ss···ed···to···ur···nt···-b···d ···eg···es···ug···t,···hi···io···en···ra···en···an···is···Fu···er···e,··· c···go···e ···iv···al···rs···li···tr···s ···o ···e ···en···ns···he···g ···e)···nd···so···ke···to···co··· t···r ··· a···se···We···en···al··· h···th···er···ti···of···ch···pe··· b···vi···l ···il···ti···in···ma···n ···ie···cc···in···o ···se···ai··· O···an···si···ev···s ···t,···ri···di···te··· t···in···pr···ti···of···ha···ra···ac···ta···n ···or···io···xh···ts···st···t ··· c···is···t ···te··· d···nd··· o···he···rs···li···tr···s ···th···ic···s.···20··· S···en···oc···y ···or···ik···Al···ig··· r···rv···

    ...
  • 6.An···si···fB···vi···l ···il···ti···In···ma···n ···in···yp···n ···io···as···on···ti···tt···ut··

    • 关键词:
    • ;Behavioral facilitation;Large amounts;SNS;Victim
    • Wa···ug···Ko···e;···uk···Yu···ma···o,···da···o;···am···, ···yo
    • 《13···In···na···na···ym···iu···n ···or···io···nd···mm···ca···n ···hn···gy···OI···20··》
    • 2025年
    • December 13, 2024 - December 15, 2024
    • Da···g,···et···m
    • 会议

    Du···g ···is···er··· l···e ···un···f ···av···al···ci···at··· i···rm···on···F ···or···io···is···st···on···Ss···e ···e ···po··· t···me···d ···ex···ct··· a···ca···or···ng··· i···rm···on···to···ur···be···(b···vi···l ···s)···n ···s ···er···e ···ly···th···if···en··· i···ow··· i···rm···on··· r···iv···be···e,···ri··· a···af··· a···ph···, ···us··· o···he···tr···te···f ···as··· v···im···Th···re···rc···im···o ···ri···th···pp···ri··· i···rm···on···r ··· t···et···ct··· i···ac···yp···n ···io···nd···al··· t···r ···at···sh··· T···re···ts···ve···ow···if···en··· i···he···la···ns··· b···ee···he···ct···’ ···ri···es···d ···ir···rc···io···f ···in···ma···n.···Th···ut···(s···un··· e···us··· l···ns···o ···in··· N···re···ng···re···e ···. ···5.

    ...
  • 7.Fi···ng···eq···e ···it···al···ye···fA···li··· T··· i···RT···se···ul···ta···Le···in·

    • 关键词:
    • Contrastive Learning;Deep learning;Federated learning;Multi-task learning;Natural language processing systems;BERT;Deep learning;Different layers;Language processing;Learning models;Machine learning models;Machine-learning;Multitask learning;Natural language processing;Natural languages
    • Ki···ur···Ta···o;···uk···Yu
    • 《26···In···na···na···on···en···on···fo···ti···In···ra···n ··· W···In···li···ce···iW···20··》
    • 2025年
    • December 2, 2024 - December 4, 2024
    • Br···sl···, ···va···
    • 会议

    We···nd···eq···e ···it···al···ye···of···xi···ry···sk···or···RT···se···ul···ta···le···in···Mu···-t··· l···ni···is···me···d ··· i···ov··· t···ac···ac···f ···hi···le···in···od···by···di···au···ia···ta···. ···vi··· s···ie···ro···e ···ti···sk···ar···g ···el···it···ux···ar···as···ad··· t···if···en···ay···. ··· r···ar···qu···io···s ···ch···ye···s ···ec···e ··· a···ng···xi···ry···sk···o ···ro···ac···ac···ec···e ··· a···er··· s···l ···no··· T···ai···f ···s ···dy··· t···in···de···te···di···na···ay···of···xi···ry···sk···ha···ax···ze···od···ac···ac···We···e ···ER···as···od···co···st··· o···we··· l···rs··· T···sf···er···d ···er···nt···th···ve···at···ts···ur···pe···en··· r···lt···ho···ha···ha···ng···e ···it···al···ye···f ···il···y ···ks···pr···s ···ro··· b···p ···5.···(p···lu···.0···. ···eo···, ··· f···in···su···st···at···e ···er···n ···au···ia···ta··· i··· l···rs···th···e ···n ···k’···ha···te···ti···in···as···ac···ac···© ··· A···or···, ···er···cl···ve···ce··· t···pr···er···tu···Sw···er···d ···20···

    ...
  • 排序方式:
  • 1
  • /