{"id":5838,"date":"2026-11-05T00:03:32","date_gmt":"2026-11-04T15:03:32","guid":{"rendered":"https:\/\/blog.id774.net\/entry\/?p=5838"},"modified":"2026-11-04T12:37:55","modified_gmt":"2026-11-04T03:37:55","slug":"%e5%bf%98%e5%8d%b4%e3%81%af%e3%80%81%e5%86%8d%e5%ad%a6%e7%bf%92%e3%81%a8%e3%81%ae%e5%b7%ae%e3%81%a8%e4%bf%9d%e6%8c%81%e3%83%87%e3%83%bc%e3%82%bf%e3%81%b8%e3%81%ae%e5%bd%b1%e9%9f%bf%e3%81%a7%e6%b8%ac","status":"publish","type":"post","link":"https:\/\/blog.id774.net\/entry\/2026\/11\/05\/5838\/","title":{"rendered":"\u5fd8\u5374\u306f\u3001\u518d\u5b66\u7fd2\u3068\u306e\u5dee\u3068\u4fdd\u6301\u30c7\u30fc\u30bf\u3078\u306e\u5f71\u97ff\u3067\u6e2c\u308b"},"content":{"rendered":"<p>\u5b66\u7fd2\u6e08\u307f\u306e AI \u306b\u3001\u3042\u308b\u30c7\u30fc\u30bf\u3092\u5fd8\u308c\u3055\u305b\u305f\u3068\u3059\u308b\u3002\u305d\u306e\u30c7\u30fc\u30bf\u306b\u3064\u3044\u3066\u6b63\u3057\u3044\u56de\u7b54\u3092\u8fd4\u305b\u306a\u304f\u306a\u308c\u3070\u3001\u5fd8\u5374\u306b\u6210\u529f\u3057\u305f\u3068\u8a00\u3048\u308b\u3060\u308d\u3046\u304b\u3002\u5206\u985e\u5668\u306a\u3089\u6b63\u7b54\u7387\u304c\u4f4e\u4e0b\u3057\u3001\u6587\u7ae0\u751f\u6210\u30e2\u30c7\u30eb\u306a\u3089\u5bfe\u8c61\u306e\u60c5\u5831\u3092\u542b\u3080\u56de\u7b54\u304c\u6e1b\u308b\u3002\u3053\u306e\u5909\u5316\u306f\u89b3\u6e2c\u3067\u304d\u308b\u3002\u3057\u304b\u3057\u3001\u56de\u7b54\u304c\u5909\u308f\u3063\u305f\u3068\u3044\u3046\u4e8b\u5b9f\u304b\u3089\u5206\u304b\u308b\u306e\u306f\u3001\u6307\u5b9a\u3057\u305f\u5165\u529b\u306b\u5bfe\u3059\u308b\u30e2\u30c7\u30eb\u306e\u632f\u308b\u821e\u3044\u304c\u5909\u5316\u3057\u305f\u3053\u3068\u307e\u3067\u3067\u3042\u308b\u3002\u305d\u306e\u30c7\u30fc\u30bf\u3092\u6700\u521d\u304b\u3089\u5b66\u7fd2\u3057\u306a\u304b\u3063\u305f\u30e2\u30c7\u30eb\u304c\u3001\u3069\u306e\u3088\u3046\u306a\u51fa\u529b\u3092\u8fd4\u3059\u304b\u306f\u5225\u306b\u78ba\u304b\u3081\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u4f8b\u3048\u3070\u4e8c\u3064\u306e\u5206\u985e\u5668\u304c\u3001\u5fd8\u5374\u5bfe\u8c61\u306b\u3064\u3044\u3066\u3068\u3082\u306b 0% \u306e\u6b63\u7b54\u7387\u306b\u306a\u3063\u305f\u3068\u3057\u3066\u3082\u3001\u4e00\u65b9\u306f\u6b63\u89e3\u30af\u30e9\u30b9\u306b 49% \u306e\u78ba\u7387\u3092\u4e0e\u3048\u3001\u3082\u3046\u4e00\u65b9\u306f 1% \u3057\u304b\u4e0e\u3048\u306a\u3044\u3053\u3068\u304c\u3042\u308b\u3002\u6700\u7d42\u7684\u306a\u8aa4\u7b54\u3068\u3044\u3046\u5224\u5b9a\u306f\u540c\u3058\u3067\u3082\u3001\u4e88\u6e2c\u78ba\u7387\u306e\u5206\u5e03\u306f\u7570\u306a\u308b\u3002\u6b63\u7b54\u7387\u306f\u6700\u3082\u9ad8\u3044\u78ba\u7387\u3092\u6301\u3064\u30af\u30e9\u30b9\u304c\u6b63\u89e3\u3060\u3063\u305f\u304b\u3092\u96c6\u8a08\u3059\u308b\u305f\u3081\u3001\u305d\u308c\u4ee5\u5916\u306e\u78ba\u7387\u306e\u9055\u3044\u3092\u8a55\u4fa1\u5024\u306b\u53cd\u6620\u3057\u306a\u3044\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u60c5\u5831\u304c\u4e88\u6e2c\u306b\u4e0e\u3048\u3066\u3044\u305f\u5f71\u97ff\u3092\u8abf\u3079\u308b\u5834\u5408\u3001\u3053\u306e\u5931\u308f\u308c\u305f\u5dee\u7570\u304c\u5224\u5b9a\u306b\u95a2\u308f\u308b\u3002<\/p>\n<p>\u3055\u3089\u306b\u3001\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306f\u8907\u6570\u306e\u5b66\u7fd2\u30c7\u30fc\u30bf\u304b\u3089\u66f4\u65b0\u3055\u308c\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u4e88\u6e2c\u3092\u5909\u3048\u308b\u305f\u3081\u306b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u66f4\u65b0\u3059\u308b\u3068\u3001\u540c\u3058\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u5229\u7528\u3059\u308b\u4fdd\u6301\u5bfe\u8c61\u306e\u4e88\u6e2c\u306b\u3082\u5909\u5316\u304c\u53ca\u3076\u5834\u5408\u304c\u3042\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u6b63\u7b54\u7387\u304c\u4f4e\u4e0b\u3057\u3066\u3044\u3066\u3082\u3001\u4fdd\u6301\u3059\u3079\u304d\u30c7\u30fc\u30bf\u3078\u306e\u4e88\u6e2c\u7cbe\u5ea6\u304c\u4f4e\u4e0b\u3057\u305f\u308a\u3001\u4e88\u6e2c\u5024\u304c\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304b\u3089\u96e2\u308c\u305f\u308a\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u5fd8\u5374\u306e\u6210\u5426\u3092\u8a55\u4fa1\u3059\u308b\u306b\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6027\u80fd\u3001\u5bfe\u8c61\u30c7\u30fc\u30bf\u3092\u9664\u3044\u3066\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u3092\u5206\u3051\u3066\u6e2c\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u95a2\u4fc2\u306f\u3001\u6700\u9069\u5316\u3059\u308b\u640d\u5931\u95a2\u6570\u3068\u3001\u6700\u7d42\u7684\u306b\u89b3\u6e2c\u3059\u308b\u51fa\u529b\u306e\u9055\u3044\u3068\u3057\u3066\u5b9a\u5f0f\u5316\u3067\u304d\u308b\u3002\u7dda\u5f62\u56de\u5e30\u3067\u306f\u3001\u5fd8\u5374\u51e6\u7406\u306b\u3088\u3063\u3066\u751f\u3058\u308b\u51fa\u529b\u5dee\u3092\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u6b8b\u5dee\u3068\u3001\u30c7\u30fc\u30bf\u9593\u306e\u76f8\u4e92\u4f5c\u7528\u3092\u8868\u3059\u4e8c\u3064\u306e\u884c\u5217\u306b\u3088\u3063\u3066\u53b3\u5bc6\u306b\u8a18\u8ff0\u3067\u304d\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u304c\u3069\u306e\u3088\u3046\u306a\u7279\u5fb4\u3092\u5171\u6709\u3057\u3001\u305d\u306e\u7279\u5fb4\u306b\u5bfe\u3057\u3066\u30e2\u30c7\u30eb\u304c\u3069\u306e\u7a0b\u5ea6\u5909\u5316\u3057\u3084\u3059\u3044\u304b\u306b\u3088\u3063\u3066\u3001\u66f4\u65b0\u306e\u5f71\u97ff\u304c\u4f1d\u308f\u308b\u5148\u3068\u5927\u304d\u3055\u304c\u6c7a\u307e\u308b\u3002\u3053\u306e\u6570\u7406\u69cb\u9020\u304b\u3089\u3001\u5fd8\u5374\u640d\u5931\u3092\u5897\u3084\u3059\u66f4\u65b0\u304c\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u3092\u62e1\u5927\u3055\u305b\u308b\u6761\u4ef6\u3068\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u304c\u751f\u3058\u308b\u7406\u7531\u3092\u8aac\u660e\u3067\u304d\u308b\u3002<\/p>\n<hr>\n<h2>1. AI \u306b\u5fd8\u308c\u3055\u305b\u308b\u3068\u306f\u3069\u3046\u3044\u3046\u3053\u3068\u304b<\/h2>\n<h3>1.1 \u6b63\u7b54\u7387\u304c\u540c\u3058\u3067\u3082\u51fa\u529b\u306f\u7570\u306a\u308b<\/h3>\n<p>\u4e8c\u3064\u306e\u30af\u30e9\u30b9\u3092\u533a\u5225\u3059\u308b\u5206\u985e\u5668\u3092\u8003\u3048\u308b\u3002\u6b63\u89e3\u304c\u30af\u30e9\u30b9 2 \u3067\u3042\u308b\u5165\u529b\u306b\u5bfe\u3057\u3066\u3001\u30e2\u30c7\u30eb A \u304c\u30af\u30e9\u30b9 1 \u3068\u30af\u30e9\u30b9 2 \u3078\u305d\u308c\u305e\u308c 0.51 \u3068 0.49 \u306e\u78ba\u7387\u3092\u4e0e\u3048\u3001\u30e2\u30c7\u30eb B \u304c 0.99 \u3068 0.01 \u306e\u78ba\u7387\u3092\u4e0e\u3048\u305f\u3068\u3059\u308b\u3002\u78ba\u7387\u304c\u6700\u5927\u306e\u30af\u30e9\u30b9\u3092\u9078\u3076\u65b9\u5f0f\u306a\u3089\u3001\u4e21\u30e2\u30c7\u30eb\u306f\u3068\u3082\u306b\u30af\u30e9\u30b9 1 \u3068\u5224\u5b9a\u3057\u3001\u4e0d\u6b63\u89e3\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\np_A=(0.51,0.49),\\qquad p_B=(0.99,0.01)<br \/>\n\\]<\/p>\n<p>\u30e2\u30c7\u30eb A \u3067\u306f\u4e8c\u3064\u306e\u30af\u30e9\u30b9\u306e\u4e88\u6e2c\u78ba\u7387\u304c\u8fd1\u304f\u3001\u30e2\u30c7\u30eb B \u3067\u306f\u30af\u30e9\u30b9 1 \u306b\u78ba\u7387\u304c\u96c6\u4e2d\u3057\u3066\u3044\u308b\u3002\u4e21\u30e2\u30c7\u30eb\u306e\u6b63\u7b54\u7387\u306f\u3001\u3053\u306e\u5165\u529b\u306b\u95a2\u3057\u3066\u3068\u3082\u306b 0 \u3067\u3042\u308b\u3002\u3057\u304b\u3057\u3001\u6b63\u89e3\u30af\u30e9\u30b9\u306b\u4e0e\u3048\u305f\u78ba\u7387\u306f 0.49 \u3068 0.01 \u3067\u3042\u308a\u3001\u4e88\u6e2c\u306e\u72b6\u614b\u306b\u306f\u5927\u304d\u306a\u9055\u3044\u304c\u3042\u308b\u3002\u5165\u529b\u304c\u8907\u6570\u5b58\u5728\u3057\u3001\u3059\u3079\u3066\u306e\u5165\u529b\u3067\u4e21\u30e2\u30c7\u30eb\u304c\u8aa4\u7b54\u3057\u305f\u5834\u5408\u306b\u3082\u3001\u6b63\u7b54\u7387\u306f\u3068\u3082\u306b 0% \u3068\u306a\u308b\u4e00\u65b9\u3001\u500b\u3005\u306e\u5165\u529b\u306b\u5bfe\u3059\u308b\u78ba\u7387\u5206\u5e03\u306f\u7570\u306a\u308a\u5f97\u308b\u3002<\/p>\n<p>\u4e8c\u3064\u306e\u78ba\u7387\u5206\u5e03\u304c\u3069\u308c\u3060\u3051\u7570\u306a\u308b\u304b\u306f\u3001\u5bfe\u5fdc\u3059\u308b\u30af\u30e9\u30b9\u306e\u78ba\u7387\u5dee\u3092\u4f7f\u3063\u3066\u6e2c\u5b9a\u3067\u304d\u308b\u3002\u4f8b\u3048\u3070\u3001\u5404\u30af\u30e9\u30b9\u306e\u78ba\u7387\u5dee\u306e\u7d76\u5bfe\u5024\u3092\u5408\u8a08\u3059\u308b L1 \u8ddd\u96e2\u3092\u4f7f\u3046\u3068\u3001\u6b21\u306e\u5024\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\n\\|p_A-p_B\\|_1<br \/>\n&#038;=|0.51-0.99|+|0.49-0.01|\\\\<br \/>\n&#038;=0.48+0.48\\\\<br \/>\n&#038;=0.96<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\u3053\u306e 0.96 \u306f\u3001\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u304c\u540c\u3058\u8aa4\u7b54\u3092\u8fd4\u3059\u3068\u3044\u3046\u6b63\u8aa4\u5224\u5b9a\u304b\u3089\u306f\u5fa9\u5143\u3067\u304d\u306a\u3044\u60c5\u5831\u3067\u3042\u308b\u3002\u6b63\u7b54\u7387\u306f\u3001\u4e88\u6e2c\u78ba\u7387\u306e\u4e2d\u304b\u3089\u6700\u5927\u306e\u3082\u306e\u3092\u9078\u3073\u3001\u305d\u306e\u30af\u30e9\u30b9\u304c\u6b63\u89e3\u3068\u4e00\u81f4\u3059\u308b\u304b\u3092\u5224\u5b9a\u3057\u3066\u304b\u3089\u96c6\u8a08\u3059\u308b\u3002\u78ba\u7387\u5206\u5e03\u3092\u6b63\u8aa4\u3068\u3044\u3046\u96e2\u6563\u7684\u306a\u5024\u3078\u5909\u63db\u3059\u308b\u904e\u7a0b\u3067\u3001\u6700\u5927\u78ba\u7387\u3068\u305d\u308c\u4ee5\u5916\u306e\u78ba\u7387\u306e\u5dee\u3001\u6b63\u89e3\u30af\u30e9\u30b9\u306b\u4e0e\u3048\u3089\u308c\u305f\u78ba\u7387\u3001\u30e2\u30c7\u30eb\u9593\u306e\u5206\u5e03\u306e\u9055\u3044\u304c\u5931\u308f\u308c\u308b\u3002<\/p>\n<p>\u65e2\u7a3f\u300c\u8a55\u4fa1\u5024\u306f\u6e2c\u308a\u65b9\u306b\u3088\u3063\u3066\u9806\u4f4d\u307e\u3067\u5909\u308f\u308a\u5f97\u308b\u300d\u3067\u306f\u3001\u8a55\u4fa1\u5bfe\u8c61\u306e\u72b6\u614b\u3092\u4e00\u3064\u306e\u6570\u5024\u306b\u5199\u3059\u969b\u306b\u533a\u5225\u304c\u5931\u308f\u308c\u308b\u3053\u3068\u3092\u6271\u3063\u305f<a href=\"#ref1\">[1]<\/a>\u3002\u5fd8\u5374\u51e6\u7406\u306e\u6b63\u7b54\u7387\u306b\u3082\u540c\u3058\u69cb\u9020\u304c\u3042\u308b\u3002\u6b63\u7b54\u7387\u304c 0% \u306b\u306a\u3063\u305f\u3068\u3044\u3046\u89b3\u6e2c\u306f\u3001\u6307\u5b9a\u3057\u305f\u8a55\u4fa1\u96c6\u5408\u3067\u6b63\u89e3\u3092\u9078\u3070\u306a\u304b\u3063\u305f\u3053\u3068\u3092\u610f\u5473\u3059\u308b\u3002\u4e00\u65b9\u3001\u4e88\u6e2c\u78ba\u7387\u304c\u3069\u306e\u3088\u3046\u306b\u5206\u5e03\u3057\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u3066\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u306e\u4e88\u6e2c\u3078\u3069\u3053\u307e\u3067\u8fd1\u3065\u3044\u305f\u304b\u306f\u3001\u78ba\u7387\u5206\u5e03\u305d\u306e\u3082\u306e\u3092\u6bd4\u8f03\u3057\u3066\u5224\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u3053\u3067\u6bd4\u8f03\u3059\u308b\u76f8\u624b\u306e\u9078\u3073\u65b9\u3082\u8a55\u4fa1\u7d50\u679c\u3092\u5909\u3048\u308b\u3002\u30e2\u30c7\u30eb A \u3068\u30e2\u30c7\u30eb B \u306e\u51fa\u529b\u5dee\u3092\u6e2c\u308c\u3070\u3001\u4e8c\u3064\u306e\u5fd8\u5374\u51e6\u7406\u306e\u9055\u3044\u306f\u5206\u304b\u308b\u3002\u3057\u304b\u3057\u3001\u305d\u308c\u3060\u3051\u3067\u306f\u3069\u3061\u3089\u304c\u9069\u5207\u306a\u5fd8\u5374\u72b6\u614b\u306b\u8fd1\u3044\u304b\u306f\u6c7a\u307e\u3089\u306a\u3044\u3002\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u3066\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u304c\u30af\u30e9\u30b9 2 \u306b 0.45 \u306e\u78ba\u7387\u3092\u4e0e\u3048\u308b\u306a\u3089\u3001\u30e2\u30c7\u30eb A \u306e\u65b9\u304c\u305d\u306e\u51fa\u529b\u306b\u8fd1\u3044\u3002\u540c\u3058\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304c 0.02 \u306e\u78ba\u7387\u3092\u4e0e\u3048\u308b\u306a\u3089\u3001\u30e2\u30c7\u30eb B \u306e\u65b9\u304c\u8fd1\u3044\u3002\u5fd8\u5374\u306e\u8a55\u4fa1\u306b\u306f\u3001\u6e2c\u5b9a\u3059\u308b\u91cf\u306b\u52a0\u3048\u3066\u3001\u6bd4\u8f03\u57fa\u6e96\u3068\u306a\u308b\u30e2\u30c7\u30eb\u306e\u5b9a\u7fa9\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<h3>1.2 \u5fd8\u5374\u306e\u9054\u6210\u6761\u4ef6\u3092\u5206\u3051\u308b<\/h3>\n<p>\u300c\u5fd8\u308c\u305f\u300d\u3068\u3044\u3046\u5224\u65ad\u306b\u306f\u3001\u7570\u306a\u308b\u9054\u6210\u6761\u4ef6\u304c\u542b\u307e\u308c\u3066\u3044\u308b\u3002\u7b2c\u4e00\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u56de\u7b54\u304c\u5909\u308f\u3063\u305f\u304b\u3068\u3044\u3046\u6761\u4ef6\u3067\u3042\u308b\u3002\u7b2c\u4e8c\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u3066\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u306b\u51fa\u529b\u304c\u8fd1\u3065\u3044\u305f\u304b\u3068\u3044\u3046\u6761\u4ef6\u3067\u3042\u308b\u3002\u7b2c\u4e09\u306f\u3001\u6307\u5b9a\u3055\u308c\u305f\u60c5\u5831\u306e\u524a\u9664\u306b\u3064\u3044\u3066\u3001\u6c42\u3081\u3089\u308c\u308b\u4fdd\u8a3c\u304c\u6210\u7acb\u3057\u305f\u304b\u3068\u3044\u3046\u6761\u4ef6\u3067\u3042\u308b\u3002\u305d\u308c\u305e\u308c\u89b3\u6e2c\u3059\u308b\u5bfe\u8c61\u3068\u5224\u5b9a\u65b9\u6cd5\u304c\u7570\u306a\u308b\u305f\u3081\u3001\u4e00\u3064\u306e\u6761\u4ef6\u3092\u6e80\u305f\u3057\u305f\u3053\u3068\u304b\u3089\u4ed6\u306e\u6761\u4ef6\u306e\u6210\u7acb\u3092\u7d50\u8ad6\u3065\u3051\u308b\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002<\/p>\n<p>\u7b2c\u4e00\u306e\u6761\u4ef6\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306b\u5bfe\u3059\u308b\u6b63\u7b54\u7387\u3084\u640d\u5931\u306b\u3088\u3063\u3066\u8a55\u4fa1\u3067\u304d\u308b\u3002\u4f8b\u3048\u3070\u5206\u985e\u5668\u304c\u5fd8\u5374\u5bfe\u8c61\u3092\u3059\u3079\u3066\u8aa4\u5206\u985e\u3059\u308b\u3088\u3046\u306b\u306a\u308c\u3070\u3001\u305d\u306e\u8a55\u4fa1\u96c6\u5408\u3067\u306e\u6b63\u7b54\u7387\u306f 0% \u306b\u306a\u308b\u3002\u3057\u304b\u3057\u3001\u8aa4\u5206\u985e\u3078\u5909\u5316\u3057\u305f\u539f\u56e0\u304c\u3001\u7279\u5b9a\u30c7\u30fc\u30bf\u306e\u5f71\u97ff\u306e\u9664\u53bb\u306b\u3088\u308b\u3082\u306e\u304b\u3001\u5358\u306b\u5225\u306e\u30af\u30e9\u30b9\u3092\u904e\u5270\u306b\u4e88\u6e2c\u3059\u308b\u3088\u3046\u306b\u306a\u3063\u305f\u305f\u3081\u304b\u306f\u3001\u6b63\u7b54\u7387\u3060\u3051\u3067\u306f\u533a\u5225\u3067\u304d\u306a\u3044\u3002\u5b66\u7fd2\u30c7\u30fc\u30bf\u306e\u5f71\u97ff\u3092\u9664\u53bb\u3059\u308b\u51e6\u7406\u3068\u3001\u4e88\u6e2c\u3092\u8aa4\u3089\u305b\u308b\u51e6\u7406\u306f\u3001\u7d50\u679c\u3068\u3057\u3066\u540c\u3058\u6b63\u7b54\u7387\u3092\u751f\u3080\u5834\u5408\u304c\u3042\u308b\u3002<\/p>\n<p>\u7b2c\u4e8c\u306e\u6761\u4ef6\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u6700\u521d\u304b\u3089\u4f7f\u7528\u305b\u305a\u306b\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u3092\u6bd4\u8f03\u57fa\u6e96\u306b\u3059\u308b\u3002\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u304c\u3001\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u5404\u5165\u529b\u306b\u3064\u3044\u3066\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306b\u8fd1\u3044\u51fa\u529b\u3092\u8fd4\u3059\u306a\u3089\u3001\u6307\u5b9a\u3055\u308c\u305f\u8a55\u4fa1\u96c6\u5408\u306b\u304a\u3044\u3066\u3001\u5bfe\u8c61\u30c7\u30fc\u30bf\u3092\u4f7f\u308f\u306a\u304b\u3063\u305f\u5834\u5408\u306e\u632f\u308b\u821e\u3044\u306b\u8fd1\u3065\u3044\u305f\u3068\u5224\u65ad\u3067\u304d\u308b\u3002\u3053\u3053\u3067\u306f\u6b63\u7b54\u7387\u3060\u3051\u3067\u306a\u304f\u3001\u4e88\u6e2c\u5024\u3084\u78ba\u7387\u5206\u5e03\u306e\u5dee\u3092\u76f4\u63a5\u6e2c\u5b9a\u3059\u308b\u3002\u4fdd\u6301\u5bfe\u8c61\u306b\u5bfe\u3059\u308b\u51fa\u529b\u3082\u8abf\u3079\u308b\u3053\u3068\u3067\u3001\u5fd8\u5374\u306e\u305f\u3081\u306e\u66f4\u65b0\u304c\u672c\u6765\u6b8b\u3059\u3079\u304d\u4e88\u6e2c\u306b\u3069\u306e\u7a0b\u5ea6\u5f71\u97ff\u3057\u305f\u304b\u3092\u533a\u5225\u3067\u304d\u308b\u3002<\/p>\n<p>\u7b2c\u4e09\u306e\u6761\u4ef6\u306f\u3001\u30e2\u30c7\u30eb\u304c\u7279\u5b9a\u30c7\u30fc\u30bf\u3092\u5229\u7528\u3057\u3066\u3044\u305f\u4e8b\u5b9f\u3084\u3001\u5185\u90e8\u306b\u6b8b\u308b\u60c5\u5831\u3092\u3069\u306e\u7bc4\u56f2\u307e\u3067\u9664\u53bb\u3057\u305f\u3068\u4fdd\u8a3c\u3067\u304d\u308b\u304b\u306b\u95a2\u308f\u308b\u3002\u4f8b\u3048\u3070\u3001\u901a\u5e38\u306e\u8cea\u554f\u3067\u306f\u5bfe\u8c61\u60c5\u5831\u3092\u8fd4\u3055\u306a\u3044\u30e2\u30c7\u30eb\u3067\u3042\u3063\u3066\u3082\u3001\u5225\u306e\u8cea\u554f\u5f62\u5f0f\u3084\u653b\u6483\u7684\u306a\u5165\u529b\u306b\u3088\u3063\u3066\u540c\u3058\u60c5\u5831\u3092\u51fa\u529b\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u307e\u305f\u3001\u6709\u9650\u500b\u306e\u5165\u529b\u306b\u3064\u3044\u3066\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u540c\u3058\u51fa\u529b\u3092\u8fd4\u3057\u3066\u3044\u3066\u3082\u3001\u5b66\u7fd2\u904e\u7a0b\u3067\u5bfe\u8c61\u30c7\u30fc\u30bf\u3092\u4f7f\u7528\u3057\u306a\u304b\u3063\u305f\u3053\u3068\u307e\u3067\u8a3c\u660e\u3067\u304d\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002\u8981\u6c42\u3059\u308b\u4fdd\u8a3c\u306e\u5185\u5bb9\u306b\u5fdc\u3058\u3066\u3001\u518d\u62bd\u51fa\u653b\u6483\u3001\u5b66\u7fd2\u904e\u7a0b\u306e\u76e3\u67fb\u3001\u7d71\u8a08\u7684\u306a\u533a\u5225\u4e0d\u80fd\u6027\u306a\u3069\u3001\u7570\u306a\u308b\u691c\u8a3c\u65b9\u6cd5\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<p>\u65e2\u7a3f\u300cAI \u306f\u6b63\u3057\u3055\u3067\u306f\u306a\u304f\u3001\u8a55\u4fa1\u306e\u901a\u308a\u65b9\u3092\u5b66\u3076\u3053\u3068\u304c\u3042\u308b\u300d\u3067\u6271\u3063\u305f\u4ee3\u7406\u6307\u6a19\u306e\u554f\u984c\u306f\u3001\u6700\u9069\u5316\u3067\u76f4\u63a5\u64cd\u4f5c\u3059\u308b\u6307\u6a19\u3068\u672c\u6765\u306e\u76ee\u7684\u306e\u95a2\u4fc2\u3092\u8003\u3048\u308b\u305f\u3081\u306e\u57fa\u790e\u3068\u306a\u308b<a href=\"#ref2\">[2]<\/a>\u3002\u5fd8\u5374\u51e6\u7406\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u5897\u3084\u3059\u3053\u3068\u304c\u6700\u9069\u5316\u4e0a\u306e\u76ee\u7684\u306b\u306a\u3063\u3066\u3044\u3066\u3082\u3001\u9054\u6210\u3057\u305f\u3044\u72b6\u614b\u306f\u5fd8\u5374\u5bfe\u8c61\u3092\u4f7f\u308f\u305a\u306b\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u306e\u632f\u308b\u821e\u3044\u3078\u306e\u63a5\u8fd1\u3067\u3042\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u640d\u5931\u306e\u5909\u5316\u3068\u51fa\u529b\u306e\u5909\u5316\u3092\u5225\u3005\u306b\u6e2c\u308b\u3053\u3068\u3067\u3001\u6700\u9069\u5316\u304c\u3069\u306e\u9054\u6210\u6761\u4ef6\u306b\u5bfe\u5fdc\u3057\u3066\u3044\u308b\u304b\u3092\u8a55\u4fa1\u3067\u304d\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u8a55\u4fa1\u5bfe\u8c61<\/th>\n<th>\u6e2c\u5b9a\u3059\u308b\u3082\u306e<\/th>\n<th>\u6e2c\u5b9a\u7d50\u679c\u304b\u3089\u4e3b\u5f35\u3067\u304d\u308b\u7bc4\u56f2<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387<\/td>\n<td>\u5bfe\u8c61\u306e\u56de\u7b54\u304c\u6b63\u89e3\u3068\u4e00\u81f4\u3059\u308b\u5272\u5408\u3092\u6e2c\u308b\u3002<\/td>\n<td>\u6307\u5b9a\u3055\u308c\u305f\u8a55\u4fa1\u96c6\u5408\u3067\u306e\u5206\u985e\u7d50\u679c\u3092\u8a55\u4fa1\u3067\u304d\u308b\u3002\u78ba\u7387\u5206\u5e03\u3084\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u8ddd\u96e2\u306f\u5225\u9014\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee<\/td>\n<td>\u5404\u5165\u529b\u306b\u3064\u3044\u3066\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u306e\u4e88\u6e2c\u5024\u3001\u78ba\u7387\u307e\u305f\u306f\u51fa\u529b\u5f97\u70b9\u3092\u6bd4\u8f03\u3059\u308b\u3002<\/td>\n<td>\u6307\u5b9a\u3055\u308c\u305f\u8a55\u4fa1\u96c6\u5408\u3068\u6e2c\u5ea6\u306b\u304a\u3051\u308b\u884c\u52d5\u4e0a\u306e\u8fd1\u3055\u3092\u8a55\u4fa1\u3067\u304d\u308b\u3002\u6bd4\u8f03\u57fa\u6e96\u3068\u8a55\u4fa1\u96c6\u5408\u306e\u9078\u3073\u65b9\u306b\u3088\u3063\u3066\u7d50\u8ad6\u304c\u5909\u308f\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff<\/td>\n<td>\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u3068\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304c\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u8fd4\u3059\u51fa\u529b\u306e\u5dee\u3092\u6e2c\u308b\u3002<\/td>\n<td>\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u5909\u66f4\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u4e88\u6e2c\u3078\u6ce2\u53ca\u3057\u305f\u7a0b\u5ea6\u3092\u8a55\u4fa1\u3067\u304d\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3067\u306e\u6027\u80fd\u6539\u5584\u3068\u533a\u5225\u3057\u3066\u5224\u65ad\u3067\u304d\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u60c5\u5831\u9664\u53bb\u306e\u4fdd\u8a3c<\/td>\n<td>\u518d\u62bd\u51fa\u653b\u6483\u3001\u5b66\u7fd2\u904e\u7a0b\u306e\u76e3\u67fb\u3001\u5f62\u5f0f\u7684\u306a\u533a\u5225\u4e0d\u80fd\u6027\u306a\u3069\u3092\u8a55\u4fa1\u3059\u308b\u3002<\/td>\n<td>\u63a1\u7528\u3057\u305f\u4fdd\u8a3c\u306e\u5b9a\u7fa9\u3068\u8105\u5a01\u30e2\u30c7\u30eb\u306e\u7bc4\u56f2\u3067\u5224\u65ad\u3067\u304d\u308b\u3002\u6709\u9650\u306e\u51fa\u529b\u6bd4\u8f03\u3060\u3051\u3067\u5b8c\u5168\u306a\u60c5\u5831\u524a\u9664\u3092\u8a3c\u660e\u3059\u308b\u3082\u306e\u3067\u306f\u306a\u3044\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u3053\u306e\u56db\u3064\u306e\u8a55\u4fa1\u5bfe\u8c61\u306f\u3001\u4e92\u3044\u306b\u72ec\u7acb\u3057\u305f\u6570\u5024\u3092\u4e26\u3079\u3066\u3044\u308b\u3060\u3051\u3067\u306f\u306a\u3044\u3002\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u6b63\u7b54\u7387\u306f\u89b3\u6e2c\u3055\u308c\u305f\u56de\u7b54\u306e\u6210\u5426\u3092\u6e2c\u308a\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u306f\u5bfe\u8c61\u30c7\u30fc\u30bf\u3092\u9664\u3044\u305f\u72b6\u614b\u3078\u306e\u63a5\u8fd1\u3092\u6e2c\u308b\u3002\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u306f\u3001\u305d\u306e\u63a5\u8fd1\u3092\u5b9f\u73fe\u3059\u308b\u904e\u7a0b\u3067\u4ed6\u306e\u4e88\u6e2c\u306b\u751f\u3058\u305f\u5909\u5316\u3092\u6e2c\u308b\u3002\u60c5\u5831\u9664\u53bb\u306e\u4fdd\u8a3c\u306f\u3001\u51fa\u529b\u306e\u6bd4\u8f03\u3068\u3044\u3046\u89b3\u6e2c\u53ef\u80fd\u306a\u7bc4\u56f2\u3092\u8d8a\u3048\u3066\u3001\u3069\u306e\u3088\u3046\u306a\u6027\u8cea\u307e\u3067\u8a3c\u660e\u3067\u304d\u308b\u304b\u3092\u5b9a\u3081\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u5897\u3084\u3059\u66f4\u65b0\u304c\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u3092\u5c0f\u3055\u304f\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u7406\u7531\u3082\u3001\u3053\u306e\u533a\u5225\u306b\u3042\u308b\u3002\u640d\u5931\u95a2\u6570\u304c\u76f4\u63a5\u8a55\u4fa1\u3059\u308b\u306e\u306f\u3001\u6307\u5b9a\u3055\u308c\u305f\u30c7\u30fc\u30bf\u306b\u5bfe\u3059\u308b\u30e2\u30c7\u30eb\u306e\u8aa4\u5dee\u3067\u3042\u308b\u3002\u4e00\u65b9\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u306f\u3001\u5225\u306e\u6700\u9069\u5316\u306b\u3088\u3063\u3066\u5f97\u3089\u308c\u305f\u30e2\u30c7\u30eb\u3092\u57fa\u6e96\u3068\u3059\u308b\u3002\u4e8c\u3064\u306e\u76ee\u7684\u304c\u7570\u306a\u308b\u4ee5\u4e0a\u3001\u640d\u5931\u95a2\u6570\u3092\u6539\u5584\u3059\u308b\u65b9\u5411\u3078\u306e\u66f4\u65b0\u3068\u3001\u6bd4\u8f03\u57fa\u6e96\u3078\u8fd1\u3065\u304f\u65b9\u5411\u3078\u306e\u66f4\u65b0\u304c\u4e00\u81f4\u3059\u308b\u306b\u306f\u8ffd\u52a0\u306e\u6761\u4ef6\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<h3>1.3 \u30c7\u30fc\u30bf\u306e\u5f71\u97ff\u3092\u9664\u304f\u305f\u3081\u306e\u53c2\u7167\u5148<\/h3>\n<p>\u6a5f\u68b0\u5b66\u7fd2\u306b\u304a\u3051\u308b\u5fd8\u5374\u306f\u3001\u6307\u5b9a\u3055\u308c\u305f\u5b66\u7fd2\u30c7\u30fc\u30bf\u306e\u5f71\u97ff\u3092\u30e2\u30c7\u30eb\u304b\u3089\u53d6\u308a\u9664\u304f\u3068\u3044\u3046\u554f\u984c\u3068\u3057\u3066\u7814\u7a76\u3055\u308c\u3066\u304d\u305f<a href=\"#ref3\">[3]<\/a>\u3002\u5b66\u7fd2\u6e08\u307f\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306f\u3001\u591a\u6570\u306e\u30c7\u30fc\u30bf\u3092\u4f7f\u3063\u3066\u640d\u5931\u95a2\u6570\u3092\u6700\u9069\u5316\u3057\u305f\u7d50\u679c\u3067\u3042\u308b\u3002\u4e00\u3064\u306e\u30c7\u30fc\u30bf\u3092\u53d6\u308a\u9664\u304f\u3068\u3001\u6700\u9069\u5316\u306b\u5229\u7528\u3055\u308c\u308b\u30c7\u30fc\u30bf\u96c6\u5408\u304c\u5909\u308f\u308b\u305f\u3081\u3001\u540c\u3058\u5b66\u7fd2\u624b\u9806\u3092\u5b9f\u884c\u3057\u305f\u5834\u5408\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3084\u51fa\u529b\u3082\u5909\u308f\u308a\u5f97\u308b\u3002\u5bfe\u8c61\u30c7\u30fc\u30bf\u304c\u30e2\u30c7\u30eb\u3078\u4e0e\u3048\u305f\u5f71\u97ff\u3092\u8a55\u4fa1\u3059\u308b\u306b\u306f\u3001\u305d\u306e\u30c7\u30fc\u30bf\u3092\u4f7f\u3063\u305f\u5834\u5408\u3068\u4f7f\u308f\u306a\u304b\u3063\u305f\u5834\u5408\u3092\u6bd4\u8f03\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u7406\u60f3\u7684\u306a\u6bd4\u8f03\u5148\u306e\u4e00\u3064\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u6700\u521d\u304b\u3089\u5b66\u7fd2\u30c7\u30fc\u30bf\u306b\u542b\u3081\u305a\u3001\u6b8b\u308a\u306e\u30c7\u30fc\u30bf\u3060\u3051\u3067\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u3067\u3042\u308b\u3002\u4f8b\u3048\u3070\u3001\u5168\u30c7\u30fc\u30bf\u304b\u3089\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u3092\u5143\u30e2\u30c7\u30eb\u3068\u3057\u3001\u4e00\u90e8\u306e\u30c7\u30fc\u30bf\u3092\u9664\u3044\u305f\u96c6\u5408\u304b\u3089\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u3092\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u3059\u308b\u3002\u5fd8\u5374\u51e6\u7406\u306f\u3001\u5143\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u66f4\u65b0\u3059\u308b\u3053\u3068\u3067\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u306b\u8fd1\u3065\u3051\u3088\u3046\u3068\u3059\u308b\u3002\u5168\u4f53\u3092\u518d\u5b66\u7fd2\u3059\u308b\u65b9\u6cd5\u306f\u8a08\u7b97\u8cbb\u7528\u304c\u304b\u304b\u308b\u305f\u3081\u3001\u65e2\u5b58\u30e2\u30c7\u30eb\u306e\u66f4\u65b0\u3060\u3051\u3067\u76ee\u7684\u306e\u72b6\u614b\u306b\u63a5\u8fd1\u3067\u304d\u308c\u3070\u3001\u5fd8\u5374\u51e6\u7406\u306b\u5fc5\u8981\u306a\u8a08\u7b97\u8cc7\u6e90\u3092\u524a\u6e1b\u3067\u304d\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u305d\u306e\u3082\u306e\u306b\u3082\u5b9a\u7fa9\u4e0a\u306e\u6ce8\u610f\u304c\u3042\u308b\u3002\u7dda\u5f62\u56de\u5e30\u306e\u3088\u3046\u306b\u3001\u9069\u5207\u306a\u6b63\u5247\u5316\u6761\u4ef6\u306e\u4e0b\u3067\u76ee\u7684\u95a2\u6570\u304c\u53b3\u5bc6\u306b\u51f8\u3067\u3042\u308c\u3070\u3001\u6700\u9069\u89e3\u3092\u4e00\u610f\u306b\u5b9a\u3081\u3089\u308c\u308b\u3002\u4e00\u65b9\u3001\u975e\u51f8\u306a\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u3067\u306f\u3001\u540c\u3058\u30c7\u30fc\u30bf\u96c6\u5408\u3092\u4f7f\u3063\u3066\u3082\u3001\u521d\u671f\u5024\u3001\u30c7\u30fc\u30bf\u306e\u6295\u5165\u9806\u5e8f\u3001\u6700\u9069\u5316\u306e\u78ba\u7387\u7684\u306a\u5909\u52d5\u306a\u3069\u306b\u3088\u3063\u3066\u7570\u306a\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u304c\u5f97\u3089\u308c\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u3053\u306e\u5834\u5408\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u4e00\u81f4\u3092\u8a55\u4fa1\u3059\u308b\u306b\u306f\u3001\u3069\u306e\u5b66\u7fd2\u624b\u9806\u3068\u6761\u4ef6\u304b\u3089\u5f97\u3089\u308c\u305f\u30e2\u30c7\u30eb\u3092\u57fa\u6e96\u3068\u3059\u308b\u304b\u3092\u6307\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u3055\u3089\u306b\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u4e00\u81f4\u3068\u51fa\u529b\u306e\u4e00\u81f4\u3082\u533a\u5225\u3055\u308c\u308b\u3002\u7570\u306a\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u6301\u3064\u30e2\u30c7\u30eb\u304c\u3001\u6307\u5b9a\u3055\u308c\u305f\u5165\u529b\u306b\u5bfe\u3057\u3066\u540c\u3058\u4e88\u6e2c\u3092\u8fd4\u3059\u3053\u3068\u304c\u3042\u308b\u3002\u9006\u306b\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u9593\u306e\u8ddd\u96e2\u304c\u5c0f\u3055\u304f\u3066\u3082\u3001\u51fa\u529b\u304c\u654f\u611f\u306b\u5909\u5316\u3059\u308b\u65b9\u5411\u3078\u66f4\u65b0\u3055\u308c\u308c\u3070\u3001\u4e88\u6e2c\u306e\u5dee\u304c\u5927\u304d\u304f\u306a\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u51fa\u529b\u3092\u6bd4\u8f03\u5bfe\u8c61\u306b\u9078\u3076\u3053\u3068\u3067\u3001\u5229\u7528\u8005\u3084\u8a55\u4fa1\u8005\u304c\u89b3\u6e2c\u3059\u308b\u30e2\u30c7\u30eb\u306e\u632f\u308b\u821e\u3044\u3092\u76f4\u63a5\u6e2c\u308c\u308b\u3002\u305f\u3060\u3057\u3001\u305d\u306e\u8a55\u4fa1\u7d50\u679c\u306f\u6bd4\u8f03\u306b\u4f7f\u7528\u3057\u305f\u5165\u529b\u96c6\u5408\u3068\u6e2c\u5ea6\u306e\u7bc4\u56f2\u306b\u4f9d\u5b58\u3059\u308b\u3002<\/p>\n<p>\u4fdd\u8a3c\u306e\u6c34\u6e96\u3082\u7814\u7a76\u3054\u3068\u306b\u7570\u306a\u308b\u3002\u8a8d\u8a3c\u4ed8\u304d\u30c7\u30fc\u30bf\u524a\u9664\u306e\u7814\u7a76\u3067\u306f\u3001\u524a\u9664\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u3092\u5bfe\u8c61\u30c7\u30fc\u30bf\u306a\u3057\u3067\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u304b\u3089\u7d71\u8a08\u7684\u306b\u533a\u5225\u3067\u304d\u308b\u304b\u3092\u5b9a\u7fa9\u3057\u3066\u3044\u308b<a href=\"#ref4\">[4]<\/a>\u3002\u3053\u3053\u3067\u6bd4\u8f03\u3059\u308b\u306e\u306f\u3001\u7279\u5b9a\u306e\u5165\u529b\u306b\u5bfe\u3059\u308b\u4e88\u6e2c\u3060\u3051\u3067\u306f\u306a\u304f\u3001\u5b66\u7fd2\u3084\u524a\u9664\u306e\u624b\u9806\u306b\u3088\u3063\u3066\u5f97\u3089\u308c\u308b\u30e2\u30c7\u30eb\u306e\u5206\u5e03\u3067\u3042\u308b\u3002\u30e2\u30c7\u30eb\u306e\u5b66\u7fd2\u306b\u4e71\u6570\u304c\u95a2\u308f\u308b\u5834\u5408\u306b\u306f\u3001\u540c\u3058\u30c7\u30fc\u30bf\u96c6\u5408\u304b\u3089\u3082\u7570\u306a\u308b\u30e2\u30c7\u30eb\u304c\u751f\u6210\u3055\u308c\u308b\u305f\u3081\u3001\u500b\u3005\u306e\u30e2\u30c7\u30eb\u306e\u4e00\u81f4\u3068\u306f\u5225\u306b\u3001\u751f\u6210\u3055\u308c\u308b\u30e2\u30c7\u30eb\u306e\u5206\u5e03\u3068\u3057\u3066\u4fdd\u8a3c\u3092\u5b9a\u7fa9\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u307e\u305f\u3001\u5b66\u7fd2\u904e\u7a0b\u306e\u76e3\u67fb\u3068\u3044\u3046\u89b3\u70b9\u304b\u3089\u306f\u3001\u540c\u3058\u30e2\u30c7\u30eb\u72b6\u614b\u3092\u7570\u306a\u308b\u30c7\u30fc\u30bf\u96c6\u5408\u304b\u3089\u5f97\u3089\u308c\u308b\u305f\u3081\u3001\u6700\u7d42\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3060\u3051\u3067\u904e\u53bb\u306e\u30c7\u30fc\u30bf\u4f7f\u7528\u3092\u8a3c\u660e\u3059\u308b\u3053\u3068\u306b\u306f\u9650\u754c\u304c\u3042\u308b<a href=\"#ref5\">[5]<\/a>\u3002\u3042\u308b\u30e2\u30c7\u30eb\u304c\u5bfe\u8c61\u60c5\u5831\u3092\u51fa\u529b\u3057\u306a\u304f\u306a\u3063\u305f\u3068\u3057\u3066\u3082\u3001\u305d\u308c\u3060\u3051\u3067\u5bfe\u8c61\u30c7\u30fc\u30bf\u304c\u5b66\u7fd2\u904e\u7a0b\u306b\u5b58\u5728\u3057\u306a\u304b\u3063\u305f\u3053\u3068\u3092\u8a3c\u660e\u3067\u304d\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002\u6700\u7d42\u51fa\u529b\u304b\u3089\u78ba\u8a8d\u3067\u304d\u308b\u6027\u8cea\u3068\u3001\u5b66\u7fd2\u30fb\u524a\u9664\u306e\u5c65\u6b74\u306b\u3064\u3044\u3066\u78ba\u8a8d\u3059\u3079\u304d\u6027\u8cea\u306f\u3001\u7570\u306a\u308b\u8a3c\u62e0\u3092\u5fc5\u8981\u3068\u3059\u308b\u3002<\/p>\n<p>\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u306f\u3001\u5fd8\u5374\u51e6\u7406\u306e\u7d50\u679c\u3092\u6570\u91cf\u3068\u3057\u3066\u6bd4\u8f03\u3059\u308b\u305f\u3081\u306e\u57fa\u6e96\u306b\u306a\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306b\u3064\u3044\u3066\u306f\u3001\u5bfe\u8c61\u30c7\u30fc\u30bf\u3092\u4f7f\u308f\u306a\u304b\u3063\u305f\u5834\u5408\u306e\u51fa\u529b\u3078\u3069\u308c\u307b\u3069\u8fd1\u3065\u3044\u305f\u304b\u3092\u6e2c\u308c\u308b\u3002\u4fdd\u6301\u5bfe\u8c61\u306b\u3064\u3044\u3066\u306f\u3001\u5fd8\u5374\u51e6\u7406\u304c\u4ed6\u306e\u4e88\u6e2c\u3078\u53ca\u307c\u3057\u305f\u5909\u5316\u3092\u6e2c\u308c\u308b\u3002\u3053\u306e\u4e8c\u3064\u306e\u51fa\u529b\u5dee\u306f\u3001\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u66f4\u65b0\u3092\u901a\u3058\u3066\u7d50\u3073\u4ed8\u3044\u3066\u3044\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u304c\u5171\u6709\u3059\u308b\u7279\u5fb4\u3084\u3001\u305d\u306e\u7279\u5fb4\u306b\u5bfe\u3059\u308b\u640d\u5931\u95a2\u6570\u306e\u66f2\u7387\u3092\u8abf\u3079\u308b\u3053\u3068\u3067\u3001\u66f4\u65b0\u306e\u5f71\u97ff\u304c\u3069\u3053\u3078\u4f1d\u308f\u308b\u304b\u3092\u6570\u7406\u7684\u306b\u8aac\u660e\u3067\u304d\u308b\u3002<\/p>\n<hr>\n<h2>2. \u5fd8\u5374\u306e\u57fa\u6e96\u306f\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u306b\u3042\u308b<\/h2>\n<h3>2.1 \u5b66\u7fd2\u30c7\u30fc\u30bf\u3092\u4e8c\u3064\u306b\u5206\u3051\u308b<\/h3>\n<p>\u5fd8\u5374\u51e6\u7406\u3092\u6570\u7406\u7684\u306b\u6271\u3046\u305f\u3081\u306b\u3001\u307e\u305a\u5b66\u7fd2\u30c7\u30fc\u30bf\u3092\u4e8c\u3064\u306e\u96c6\u5408\u306b\u5206\u3051\u308b\u3002\u5168\u5b66\u7fd2\u30c7\u30fc\u30bf\u3092 \\(\\mathcal D\\)\u3001\u5fd8\u5374\u3059\u308b\u30c7\u30fc\u30bf\u3092 \\(\\mathcal D_f\\)\u3001\u6b8b\u3059\u30c7\u30fc\u30bf\u3092 \\(\\mathcal D_r\\) \u3068\u3059\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306f\u91cd\u8907\u305b\u305a\u3001\u4e21\u8005\u3092\u5408\u308f\u305b\u308b\u3068\u5143\u306e\u5b66\u7fd2\u30c7\u30fc\u30bf\u5168\u4f53\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\mathcal D=\\mathcal D_r\\cup\\mathcal D_f,\\qquad<br \/>\n\\mathcal D_r\\cap\\mathcal D_f=\\varnothing<br \/>\n\\]<\/p>\n<p>\u5168\u30c7\u30fc\u30bf\u6570\u3092 \\(n=|\\mathcal D|\\)\u3001\u5fd8\u5374\u5bfe\u8c61\u6570\u3092 \\(m=|\\mathcal D_f|\\) \u3068\u7f6e\u304f\u3002\u4fdd\u6301\u5bfe\u8c61\u6570\u306f \\(n-m\\) \u3067\u3042\u308b\u3002\u3053\u3053\u3067 \\(\\theta\\) \u306f\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u307e\u3068\u3081\u305f\u30d9\u30af\u30c8\u30eb\u3001\\(\\ell_i(\\theta)\\) \u306f\u30c7\u30fc\u30bf \\(i\\) \u306b\u5bfe\u3059\u308b\u640d\u5931\u3092\u8868\u3059\u3002\u640d\u5931\u306f\u3001\u30e2\u30c7\u30eb\u306e\u4e88\u6e2c\u3068\u5b66\u7fd2\u4e0a\u306e\u76ee\u6a19\u3068\u306e\u4e0d\u4e00\u81f4\u3092\u6570\u5024\u5316\u3057\u305f\u3082\u306e\u3067\u3042\u308a\u3001\u4f8b\u3048\u3070\u56de\u5e30\u30e2\u30c7\u30eb\u3067\u306f\u4e88\u6e2c\u5024\u3068\u6b63\u89e3\u5024\u306e\u5dee\u306e\u4e8c\u4e57\u3092\u5229\u7528\u3067\u304d\u308b\u3002<\/p>\n<p>\u5168\u30c7\u30fc\u30bf\u3092\u4f7f\u3063\u305f\u5b66\u7fd2\u306e\u76ee\u7684\u95a2\u6570\u3092\u3001\u6b21\u306e\u3088\u3046\u306b\u5b9a\u7fa9\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\mathcal L(\\theta)<br \/>\n=<br \/>\n\\frac1n\\sum_{i\\in\\mathcal D}\\ell_i(\\theta)<br \/>\n+<br \/>\n\\frac\\lambda2\\|\\theta\\|_2^2<br \/>\n\\]<\/p>\n<p>\u7b2c\u4e00\u9805\u306f\u5168\u5b66\u7fd2\u30c7\u30fc\u30bf\u306b\u5bfe\u3059\u308b\u5e73\u5747\u640d\u5931\u3067\u3042\u308b\u3002\u7b2c\u4e8c\u9805\u306f\u6b63\u5247\u5316\u9805\u3067\u3042\u308a\u3001\\(\\|\\theta\\|_2^2\\) \u306f\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5404\u6210\u5206\u3092\u4e8c\u4e57\u3057\u3066\u5408\u8a08\u3057\u305f\u5024\u3092\u8868\u3059\u3002\\(\\lambda>0\\) \u306f\u6b63\u5247\u5316\u306e\u5927\u304d\u3055\u3092\u8abf\u6574\u3059\u308b\u4fc2\u6570\u3067\u3042\u308b\u3002\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u7d76\u5bfe\u5024\u304c\u5927\u304d\u304f\u306a\u308b\u307b\u3069\u7b2c\u4e8c\u9805\u3082\u5897\u52a0\u3059\u308b\u305f\u3081\u3001\u5b66\u7fd2\u306f\u30c7\u30fc\u30bf\u3078\u306e\u9069\u5408\u3068\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5927\u304d\u3055\u3092\u540c\u6642\u306b\u8003\u616e\u3059\u308b\u3002<\/p>\n<p>\u5168\u30c7\u30fc\u30bf\u3067\u76ee\u7684\u95a2\u6570\u3092\u6700\u5c0f\u5316\u3057\u305f\u89e3\u3092 \\(\\theta^\\star\\) \u3068\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\theta^\\star<br \/>\n=<br \/>\n\\arg\\min_\\theta\\mathcal L(\\theta)<br \/>\n\\]<\/p>\n<p>\u3053\u306e \\(\\theta^\\star\\) \u304c\u5fd8\u5374\u51e6\u7406\u306e\u51fa\u767a\u70b9\u3068\u306a\u308b\u3002\u5143\u306e\u5b66\u7fd2\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3082\u4fdd\u6301\u5bfe\u8c61\u3082\u540c\u3058\u76ee\u7684\u95a2\u6570\u306e\u4e2d\u3067\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u6c7a\u5b9a\u306b\u95a2\u4e0e\u3057\u3066\u3044\u308b\u3002\u305d\u306e\u305f\u3081\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u53d6\u308a\u9664\u304f\u3053\u3068\u306f\u3001\u5b66\u7fd2\u6e08\u307f\u30e2\u30c7\u30eb\u304b\u3089\u5bfe\u5fdc\u3059\u308b\u56de\u7b54\u3060\u3051\u3092\u6d88\u3059\u64cd\u4f5c\u3068\u306f\u7570\u306a\u308b\u3002\u76ee\u7684\u95a2\u6570\u306b\u542b\u307e\u308c\u308b\u30c7\u30fc\u30bf\u306e\u96c6\u5408\u304c\u5909\u308f\u308a\u3001\u305d\u308c\u306b\u5fdc\u3058\u3066\u6700\u9069\u306a\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3082\u5909\u5316\u3059\u308b\u3068\u3044\u3046\u554f\u984c\u3067\u3042\u308b\u3002<\/p>\n<h3>2.2 \u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3092\u6bd4\u8f03\u57fa\u6e96\u306b\u3059\u308b<\/h3>\n<p>\u5fd8\u5374\u5bfe\u8c61\u3092\u6700\u521d\u304b\u3089\u5b66\u7fd2\u306b\u4f7f\u7528\u3057\u306a\u304b\u3063\u305f\u5834\u5408\u3092\u8003\u3048\u308b\u3002\u4fdd\u6301\u5bfe\u8c61 \\(\\mathcal D_r\\) \u306e\u307f\u3092\u4f7f\u3046\u76ee\u7684\u95a2\u6570\u3092 \\(\\mathcal R(\\theta)\\) \u3068\u3057\u3001\u305d\u306e\u6700\u5c0f\u89e3\u3092 \\(\\theta_r^\\star\\) \u3068\u5b9a\u7fa9\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\mathcal R(\\theta)<br \/>\n=<br \/>\n\\frac1n\\sum_{i\\in\\mathcal D_r}\\ell_i(\\theta)<br \/>\n+<br \/>\n\\frac\\lambda2\\|\\theta\\|_2^2,<br \/>\n\\qquad<br \/>\n\\theta_r^\\star<br \/>\n=<br \/>\n\\arg\\min_\\theta\\mathcal R(\\theta)<br \/>\n\\]<\/p>\n<p>\\(\\theta_r^\\star\\) \u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u305f\u30c7\u30fc\u30bf\u3067\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u306e\u57fa\u6e96\u3068\u306a\u308b\u3002\u5143\u30e2\u30c7\u30eb\u306e \\(\\theta^\\star\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u3092\u542b\u3080\u5168\u30c7\u30fc\u30bf\u304b\u3089\u5f97\u3089\u308c\u305f\u89e3\u3067\u3042\u308a\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e \\(\\theta_r^\\star\\) \u306f\u4fdd\u6301\u5bfe\u8c61\u3060\u3051\u304b\u3089\u5f97\u3089\u308c\u305f\u89e3\u3067\u3042\u308b\u3002\u5fd8\u5374\u51e6\u7406\u306b\u3088\u3063\u3066\u66f4\u65b0\u3055\u308c\u305f\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092 \\(\\theta_u\\) \u3068\u3059\u308b\u3068\u3001\u4e09\u3064\u306e\u30e2\u30c7\u30eb\u306f\u5b66\u7fd2\u306b\u5229\u7528\u3057\u305f\u60c5\u5831\u3068\u5f79\u5272\u306b\u3088\u3063\u3066\u533a\u5225\u3067\u304d\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u30e2\u30c7\u30eb<\/th>\n<th>\u5b66\u7fd2\u307e\u305f\u306f\u66f4\u65b0\u306b\u4f7f\u7528\u3059\u308b\u60c5\u5831<\/th>\n<th>\u5fd8\u5374\u8a55\u4fa1\u306b\u304a\u3051\u308b\u5f79\u5272<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>\u5143\u30e2\u30c7\u30eb \\(\\theta^\\star\\)<\/td>\n<td>\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u3092\u542b\u3080\u5168\u5b66\u7fd2\u30c7\u30fc\u30bf\u304b\u3089\u5f97\u3089\u308c\u308b\u3002<\/td>\n<td>\u5fd8\u5374\u51e6\u7406\u3092\u958b\u59cb\u3059\u308b\u524d\u306e\u72b6\u614b\u3092\u8868\u3059\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb \\(\\theta_r^\\star\\)<\/td>\n<td>\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u305f\u4fdd\u6301\u30c7\u30fc\u30bf\u304b\u3089\u5b66\u7fd2\u3057\u305f\u89e3\u3067\u3042\u308b\u3002<\/td>\n<td>\u5bfe\u8c61\u30c7\u30fc\u30bf\u3092\u5b66\u7fd2\u306b\u4f7f\u7528\u3057\u306a\u304b\u3063\u305f\u5834\u5408\u306e\u6bd4\u8f03\u57fa\u6e96\u3068\u306a\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb \\(\\theta_u\\)<\/td>\n<td>\u5143\u30e2\u30c7\u30eb\u306b\u5fd8\u5374\u30a2\u30eb\u30b4\u30ea\u30ba\u30e0\u3092\u9069\u7528\u3057\u3066\u5f97\u3089\u308c\u308b\u3002<\/td>\n<td>\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u306b\u3088\u3063\u3066\u5fd8\u5374\u7d50\u679c\u3092\u8a55\u4fa1\u3059\u308b\u5bfe\u8c61\u3068\u306a\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u76ee\u7684\u95a2\u6570 \\(\\mathcal R(\\theta)\\) \u306e\u5206\u6bcd\u3092\u3001\u4fdd\u6301\u5bfe\u8c61\u6570 \\(n-m\\) \u3067\u306f\u306a\u304f\u5168\u30c7\u30fc\u30bf\u6570 \\(n\\) \u306b\u3057\u3066\u3044\u308b\u70b9\u306b\u3082\u610f\u5473\u304c\u3042\u308b\u3002\u5168\u30c7\u30fc\u30bf\u3092\u4f7f\u3046\u5834\u5408\u3068\u4fdd\u6301\u5bfe\u8c61\u3060\u3051\u3092\u4f7f\u3046\u5834\u5408\u3067\u6b63\u898f\u5316\u3092\u305d\u308d\u3048\u308b\u3068\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u5bc4\u4e0e\u3092\u53d6\u308a\u9664\u3044\u305f\u3053\u3068\u306b\u3088\u308b\u76ee\u7684\u95a2\u6570\u306e\u5909\u5316\u3092\u540c\u3058\u5c3a\u5ea6\u3067\u8868\u305b\u308b\u3002\u7279\u306b\u3001\u5fd8\u5374\u5bfe\u8c61\u306b\u5bfe\u5fdc\u3059\u308b\u9805\u3092\u52a0\u6e1b\u3059\u308b\u6700\u9069\u5316\u3084\u3001\u305d\u306e\u66f2\u7387\u3092\u884c\u5217\u3068\u3057\u3066\u8868\u3059\u5834\u5408\u306b\u3001\u4fc2\u6570\u306e\u5bfe\u5fdc\u304c\u660e\u78ba\u306b\u306a\u308b\u3002<\/p>\n<p>\u4fdd\u6301\u5bfe\u8c61\u6570 \\(n-m\\) \u3067\u6b63\u898f\u5316\u3057\u305f\u76ee\u7684\u95a2\u6570\u3092\u4f7f\u3046\u5834\u5408\u306b\u3082\u3001\u6b63\u5247\u5316\u4fc2\u6570\u3092\u9069\u5207\u306b\u5909\u63db\u3059\u308c\u3070\u540c\u3058\u6700\u5c0f\u89e3\u304c\u5f97\u3089\u308c\u308b\u3002\u5177\u4f53\u7684\u306b\u306f\u3001\u5143\u306e\u76ee\u7684\u95a2\u6570\u5168\u4f53\u3092 \\(n\/(n-m)\\) \u500d\u3059\u308b\u3068\u3001\u6b21\u306e\u5f0f\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\frac{n}{n-m}\\mathcal R(\\theta)<br \/>\n=<br \/>\n\\frac1{n-m}<br \/>\n\\sum_{i\\in\\mathcal D_r}\\ell_i(\\theta)<br \/>\n+<br \/>\n\\frac{\\lambda_r}{2}\\|\\theta\\|_2^2<br \/>\n\\]<\/p>\n<p>\\[<br \/>\n\\lambda_r=\\frac{n}{n-m}\\lambda<br \/>\n\\]<\/p>\n<p>\u76ee\u7684\u95a2\u6570\u5168\u4f53\u306b\u6b63\u306e\u5b9a\u6570\u3092\u639b\u3051\u3066\u3082\u6700\u5c0f\u89e3\u306f\u5909\u308f\u3089\u306a\u3044\u305f\u3081\u3001\u3053\u306e\u6b63\u5247\u5316\u4fc2\u6570\u306e\u5909\u63db\u306b\u3088\u3063\u3066\u4e8c\u3064\u306e\u5b9a\u7fa9\u306f\u540c\u3058\u6700\u5c0f\u89e3\u3092\u6301\u3064\u3002\u4e00\u65b9\u3001\u5206\u6bcd\u3060\u3051\u3092 \\(n-m\\) \u306b\u5909\u66f4\u3057\u3066 \\(\\lambda\\) \u3092\u56fa\u5b9a\u3059\u308b\u3068\u3001\u640d\u5931\u9805\u3068\u6b63\u5247\u5316\u9805\u306e\u76f8\u5bfe\u7684\u306a\u5927\u304d\u3055\u304c\u5909\u308f\u308b\u305f\u3081\u3001\u4e00\u822c\u306b\u306f\u6700\u5c0f\u89e3\u3082\u5909\u5316\u3059\u308b\u3002\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3092\u6bd4\u8f03\u57fa\u6e96\u3068\u3057\u3066\u4f7f\u7528\u3059\u308b\u969b\u306b\u306f\u3001\u30c7\u30fc\u30bf\u96c6\u5408\u3060\u3051\u3067\u306a\u304f\u3001\u640d\u5931\u306e\u6b63\u898f\u5316\u3068\u6b63\u5247\u5316\u6761\u4ef6\u3082\u5b9a\u7fa9\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u51e6\u7406\u5f8c\u306e \\(\\theta_u\\) \u3068\u518d\u5b66\u7fd2\u57fa\u6e96\u306e \\(\\theta_r^\\star\\) \u3092\u6bd4\u8f03\u3059\u308b\u3068\u304d\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5dee\u3060\u3051\u3067\u30e2\u30c7\u30eb\u306e\u632f\u308b\u821e\u3044\u3092\u8a55\u4fa1\u3059\u308b\u3053\u3068\u306b\u306f\u9650\u754c\u304c\u3042\u308b\u3002\u540c\u3058\u95a2\u6570\u3092\u8868\u3059\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u7d44\u304c\u8907\u6570\u5b58\u5728\u3059\u308b\u30e2\u30c7\u30eb\u3067\u306f\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u304c\u7570\u306a\u3063\u3066\u3044\u3066\u3082\u51fa\u529b\u306f\u4e00\u81f4\u3057\u5f97\u308b\u3002\u9006\u306b\u3001\u5165\u529b\u306b\u5bfe\u3059\u308b\u51fa\u529b\u306e\u611f\u5ea6\u304c\u5927\u304d\u3044\u65b9\u5411\u3078\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u304c\u5909\u5316\u3059\u308c\u3070\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u9593\u306e\u8ddd\u96e2\u304c\u5c0f\u3055\u304f\u3066\u3082\u4e88\u6e2c\u5024\u306e\u5dee\u304c\u5927\u304d\u304f\u306a\u308b\u5834\u5408\u304c\u3042\u308b\u3002<\/p>\n<p>\u3055\u3089\u306b\u3001\u6df1\u5c64\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u306e\u5fd8\u5374\u7814\u7a76\u3067\u306f\u3001\u8868\u9762\u7684\u306a\u56de\u7b54\u3092\u6291\u5236\u3057\u3066\u3082\u3001\u91cd\u307f\u306e\u4e2d\u306b\u5bfe\u8c61\u60c5\u5831\u3092\u5229\u7528\u3067\u304d\u308b\u72b6\u614b\u304c\u6b8b\u308a\u5f97\u308b\u3053\u3068\u304c\u6307\u6458\u3055\u308c\u3066\u3044\u308b<a href=\"#ref6\">[6]<\/a>\u3002\u89b3\u6e2c\u3055\u308c\u305f\u56de\u7b54\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u72b6\u614b\u3001\u5b66\u7fd2\u6e08\u307f\u60c5\u5831\u306e\u6b8b\u5b58\u306f\u3001\u305d\u308c\u305e\u308c\u7570\u306a\u308b\u8a55\u4fa1\u5bfe\u8c61\u3067\u3042\u308b\u3002\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u6bd4\u8f03\u3092\u51fa\u529b\u7a7a\u9593\u3067\u884c\u3048\u3070\u3001\u5c11\u306a\u304f\u3068\u3082\u6307\u5b9a\u3055\u308c\u305f\u5165\u529b\u306b\u5bfe\u3057\u3066\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u304c\u3069\u306e\u7a0b\u5ea6\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u540c\u3058\u632f\u308b\u821e\u3044\u3092\u3059\u308b\u304b\u3092\u76f4\u63a5\u6e2c\u5b9a\u3067\u304d\u308b\u3002<\/p>\n<h3>2.3 \u51fa\u529b\u7a7a\u9593\u3067\u306e\u5dee\u3092\u5b9a\u7fa9\u3059\u308b<\/h3>\n<p>\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u3092\u6bd4\u8f03\u3059\u308b\u305f\u3081\u306b\u3001\u8a55\u4fa1\u5bfe\u8c61\u3068\u306a\u308b\u5165\u529b\u3092\u884c\u5217 \\(X_a\\) \u3067\u8868\u3059\u3002\u6dfb\u5b57 \\(a\\) \u306f\u8a55\u4fa1\u3059\u308b\u30c7\u30fc\u30bf\u96c6\u5408\u3092\u6307\u5b9a\u3059\u308b\u3082\u306e\u3067\u3042\u308a\u3001\u5fd8\u5374\u5bfe\u8c61\u306a\u3089 \\(a=f\\)\u3001\u4fdd\u6301\u5bfe\u8c61\u306a\u3089 \\(a=r\\) \u3068\u3059\u308b\u3002\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u304c \\(\\theta\\) \u306e\u3068\u304d\u3001\u8a55\u4fa1\u96c6\u5408 \\(X_a\\) \u306b\u5bfe\u3059\u308b\u51fa\u529b\u3092 \\(f_\\theta(X_a)\\) \u3068\u66f8\u304f\u3002<\/p>\n<p>\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u3068\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u5dee\u3092\u3001\u6b21\u306e\u3088\u3046\u306b\u5b9a\u7fa9\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_a<br \/>\n=<br \/>\nf_{\\theta_u}(X_a)<br \/>\n&#8211;<br \/>\nf_{\\theta_r^\\star}(X_a)<br \/>\n\\]<\/p>\n<p>\\(\\Delta_a\\) \u306f\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u3092\u5bfe\u5fdc\u3059\u308b\u6210\u5206\u3054\u3068\u306b\u5f15\u3044\u305f\u3082\u306e\u3067\u3042\u308b\u3002\u56de\u5e30\u30e2\u30c7\u30eb\u306a\u3089\u4e88\u6e2c\u5024\u306e\u5dee\u3001\u5206\u985e\u30e2\u30c7\u30eb\u306a\u3089\u30af\u30e9\u30b9\u3054\u3068\u306e\u51fa\u529b\u5f97\u70b9\u3084\u4e88\u6e2c\u78ba\u7387\u306e\u5dee\u3068\u3057\u3066\u5b9a\u7fa9\u3067\u304d\u308b\u3002\u3069\u306e\u51fa\u529b\u8868\u73fe\u3092\u6bd4\u8f03\u3059\u308b\u304b\u306b\u3088\u3063\u3066\u6570\u5024\u306e\u610f\u5473\u304c\u5909\u308f\u308b\u305f\u3081\u3001\u8a55\u4fa1\u3067\u306f\u4e88\u6e2c\u5024\u3001\u51fa\u529b\u5f97\u70b9\u3001\u78ba\u7387\u5206\u5e03\u306e\u3044\u305a\u308c\u3092\u5bfe\u8c61\u3068\u3059\u308b\u304b\u3092\u56fa\u5b9a\u3059\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306b\u3064\u3044\u3066\u306f\u3001\u305d\u308c\u305e\u308c\u6b21\u306e\u5f0f\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_f<br \/>\n=<br \/>\nf_{\\theta_u}(X_f)<br \/>\n&#8211;<br \/>\nf_{\\theta_r^\\star}(X_f)<br \/>\n\\]<\/p>\n<p>\\[<br \/>\n\\Delta_r<br \/>\n=<br \/>\nf_{\\theta_u}(X_r)<br \/>\n&#8211;<br \/>\nf_{\\theta_r^\\star}(X_r)<br \/>\n\\]<\/p>\n<p>\\(\\Delta_f\\) \u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u5165\u529b\u306b\u5bfe\u3057\u3066\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u3069\u308c\u307b\u3069\u7570\u306a\u308b\u51fa\u529b\u3092\u8fd4\u3059\u304b\u3092\u8868\u3059\u3002\\(\\Delta_r\\) \u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u5165\u529b\u306b\u5bfe\u3059\u308b\u51fa\u529b\u306e\u9055\u3044\u3092\u8868\u3059\u3002\u524d\u8005\u306f\u5fd8\u5374\u5bfe\u8c61\u3092\u5b66\u7fd2\u304b\u3089\u9664\u3044\u305f\u5834\u5408\u306e\u632f\u308b\u821e\u3044\u3078\u306e\u63a5\u8fd1\u3092\u6e2c\u308a\u3001\u5f8c\u8005\u306f\u5fd8\u5374\u51e6\u7406\u306b\u3088\u3063\u3066\u4fdd\u6301\u5bfe\u8c61\u3078\u751f\u3058\u305f\u5909\u66f4\u3092\u518d\u5b66\u7fd2\u57fa\u6e96\u3068\u6bd4\u8f03\u3059\u308b\u3002\u3044\u305a\u308c\u3082\u5dee\u304c 0 \u306a\u3089\u3001\u6307\u5b9a\u3055\u308c\u305f\u5165\u529b\u306b\u3064\u3044\u3066\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u304c\u4e00\u81f4\u3059\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\\(\\Delta_f\\) \u3068 \\(\\Delta_r\\) \u306f\u4e00\u822c\u306b\u8907\u6570\u306e\u6210\u5206\u3092\u6301\u3064\u305f\u3081\u3001\u305d\u306e\u307e\u307e\u3067\u306f\u7570\u306a\u308b\u30e2\u30c7\u30eb\u3084\u5fd8\u5374\u624b\u6cd5\u3092\u6570\u5024\u3067\u6bd4\u8f03\u3057\u306b\u304f\u3044\u3002\u305d\u3053\u3067\u3001\u51fa\u529b\u5dee\u306e\u5404\u6210\u5206\u3092\u4e8c\u4e57\u3057\u3001\u5e73\u5747\u3057\u3066\u304b\u3089\u5e73\u65b9\u6839\u3092\u53d6\u308b\u5e73\u65b9\u6839\u5e73\u5747\u4e8c\u4e57\u3092\u5229\u7528\u3067\u304d\u308b\u3002\u51fa\u529b\u5dee\u306e\u30b9\u30ab\u30e9\u30fc\u6210\u5206\u6570\u3092 \\(N_a\\) \u3068\u3059\u308b\u3068\u3001\u6b21\u306e\u3088\u3046\u306b\u5b9a\u7fa9\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\mathrm{RMS}_a<br \/>\n=<br \/>\n\\sqrt{<br \/>\n\\frac1{N_a}<br \/>\n\\sum_{j=1}^{N_a}(\\Delta_{a,j})^2<br \/>\n}<br \/>\n=<br \/>\n\\frac{\\|\\Delta_a\\|_2}{\\sqrt{N_a}}<br \/>\n\\]<\/p>\n<p>\\(\\Delta_{a,j}\\) \u306f\u51fa\u529b\u5dee\u306e \\(j\\) \u756a\u76ee\u306e\u6210\u5206\u3067\u3042\u308b\u3002\u4f8b\u3048\u3070\u3001100 \u4ef6\u306e\u5165\u529b\u306b\u3064\u3044\u3066\u305d\u308c\u305e\u308c\u4e00\u3064\u306e\u56de\u5e30\u4e88\u6e2c\u5024\u3092\u6bd4\u8f03\u3059\u308b\u306a\u3089\u3001\\(N_a=100\\) \u3068\u306a\u308b\u3002\u5404\u5165\u529b\u3067 10 \u30af\u30e9\u30b9\u306e\u78ba\u7387\u3092\u6bd4\u8f03\u3059\u308b\u306a\u3089\u3001\u5168\u6210\u5206\u3092\u307e\u3068\u3081\u3066\u8a55\u4fa1\u3059\u308b\u5834\u5408\u306f \\(N_a=1000\\) \u3068\u306a\u308b\u3002\u5e73\u65b9\u6839\u5e73\u5747\u4e8c\u4e57\u306f\u3001\u5dee\u306e\u7b26\u53f7\u304c\u6253\u3061\u6d88\u3057\u5408\u3046\u3053\u3068\u3092\u907f\u3051\u306a\u304c\u3089\u3001\u51fa\u529b\u6210\u5206\u5f53\u305f\u308a\u306e\u5dee\u306e\u5927\u304d\u3055\u3092\u8868\u3059\u3002<\/p>\n<p>\u8a55\u4fa1\u96c6\u5408\u3068\u51fa\u529b\u6210\u5206\u306e\u5b9a\u7fa9\u304c\u540c\u3058\u3067\u3042\u308c\u3070\u3001\u5e73\u65b9\u6839\u5e73\u5747\u4e8c\u4e57\u304c\u5c0f\u3055\u3044\u30e2\u30c7\u30eb\u307b\u3069\u3001\u305d\u306e\u8a55\u4fa1\u96c6\u5408\u306b\u3064\u3044\u3066\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u304c\u5c0f\u3055\u3044\u3002\u4f8b\u3048\u3070\u3001\u5fd8\u5374\u5bfe\u8c61\u3067\u306e \\(\\mathrm{RMS}_f\\) \u304c\u5c0f\u3055\u304f\u3066\u3082\u3001\u4fdd\u6301\u5bfe\u8c61\u3067\u306e \\(\\mathrm{RMS}_r\\) \u304c\u5927\u304d\u3044\u5834\u5408\u3001\u5fd8\u5374\u5bfe\u8c61\u3067\u306f\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306b\u8fd1\u3044\u51fa\u529b\u3092\u8fd4\u3059\u4e00\u65b9\u3001\u4fdd\u6301\u3059\u3079\u304d\u4e88\u6e2c\u306b\u306f\u76f8\u5bfe\u7684\u306b\u5927\u304d\u306a\u5dee\u304c\u751f\u3058\u3066\u3044\u308b\u3002\u3053\u306e\u4e8c\u3064\u3092\u5206\u3051\u3066\u8a55\u4fa1\u3059\u308b\u3053\u3068\u3067\u3001\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u5909\u5316\u3068\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u526f\u4f5c\u7528\u3092\u533a\u5225\u3067\u304d\u308b\u3002<\/p>\n<p>\u51fa\u529b\u304c\u78ba\u7387\u5206\u5e03\u3067\u3042\u308b\u5834\u5408\u306f\u3001KL \u30c0\u30a4\u30d0\u30fc\u30b8\u30a7\u30f3\u30b9\u3092\u4f7f\u3063\u3066\u5206\u5e03\u306e\u9055\u3044\u3092\u6e2c\u308b\u65b9\u6cd5\u3082\u3042\u308b\u3002\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304c\u8fd4\u3059\u78ba\u7387\u5206\u5e03\u3092 \\(p_r\\)\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u304c\u8fd4\u3059\u78ba\u7387\u5206\u5e03\u3092 \\(p_u\\) \u3068\u3059\u308b\u3068\u3001\u96e2\u6563\u7684\u306a\u51fa\u529b\u306b\u3064\u3044\u3066\u6b21\u306e\u3088\u3046\u306b\u5b9a\u7fa9\u3067\u304d\u308b\u3002<\/p>\n<p>\\[<br \/>\nD_{\\mathrm{KL}}(p_r\\|p_u)<br \/>\n=<br \/>\n\\sum_k p_r(k)<br \/>\n\\log\\frac{p_r(k)}{p_u(k)}<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5024\u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u78ba\u7387\u5206\u5e03\u3092\u57fa\u6e96\u306b\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u78ba\u7387\u5206\u5e03\u3068\u306e\u5dee\u3092\u8a55\u4fa1\u3059\u308b\u3082\u306e\u3067\u3042\u308b\u3002KL \u30c0\u30a4\u30d0\u30fc\u30b8\u30a7\u30f3\u30b9\u306f\u4e00\u822c\u306b\u5bfe\u79f0\u3067\u306f\u306a\u304f\u3001\u4e8c\u3064\u306e\u5206\u5e03\u3092\u5165\u308c\u66ff\u3048\u308b\u3068\u5024\u304c\u5909\u308f\u308b\u3002\u307e\u305f\u3001\u57fa\u6e96\u5206\u5e03\u3067\u6b63\u306e\u78ba\u7387\u3092\u6301\u3064\u6210\u5206\u306b\u5bfe\u3057\u3066\u6bd4\u8f03\u5148\u306e\u78ba\u7387\u304c 0 \u306b\u306a\u308b\u5834\u5408\u3001\u5024\u306f\u7121\u9650\u5927\u3068\u306a\u308b\u3002\u5e73\u65b9\u6839\u5e73\u5747\u4e8c\u4e57\u3068 KL \u30c0\u30a4\u30d0\u30fc\u30b8\u30a7\u30f3\u30b9\u306f\u7570\u306a\u308b\u6027\u8cea\u3092\u6e2c\u308b\u305f\u3081\u3001\u8a55\u4fa1\u5024\u306e\u5927\u5c0f\u3092\u76f8\u4e92\u306b\u7f6e\u304d\u63db\u3048\u3066\u89e3\u91c8\u3059\u308b\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002<\/p>\n<p>\u51fa\u529b\u5dee\u306e\u8a55\u4fa1\u3067\u306f\u3001\u6bd4\u8f03\u3059\u308b\u30e2\u30c7\u30eb\u3001\u5165\u529b\u96c6\u5408\u3001\u51fa\u529b\u6210\u5206\u3001\u6e2c\u5ea6\u3092\u305d\u308d\u3048\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u7279\u5b9a\u306e\u8a55\u4fa1\u96c6\u5408\u3067 \\(\\Delta_a\\) \u304c\u5c0f\u3055\u3044\u3068\u3044\u3046\u7d50\u679c\u306f\u3001\u305d\u306e\u96c6\u5408\u3067\u89b3\u6e2c\u3055\u308c\u305f\u632f\u308b\u821e\u3044\u304c\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306b\u8fd1\u3044\u3053\u3068\u3092\u793a\u3059\u3002\u4e00\u65b9\u3001\u8a55\u4fa1\u306b\u542b\u307e\u308c\u306a\u3044\u5165\u529b\u3067\u306e\u632f\u308b\u821e\u3044\u3084\u3001\u30e2\u30c7\u30eb\u5185\u90e8\u306b\u4fdd\u6301\u3055\u308c\u3066\u3044\u308b\u60c5\u5831\u306e\u72b6\u614b\u306b\u3064\u3044\u3066\u306f\u3001\u5225\u306e\u691c\u8a3c\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<h3>2.4 \u518d\u5b66\u7fd2\u57fa\u6e96\u306e\u6210\u7acb\u6761\u4ef6<\/h3>\n<p>\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3092\u6bd4\u8f03\u57fa\u6e96\u306b\u3059\u308b\u969b\u306b\u306f\u3001\u305d\u306e\u57fa\u6e96\u304c\u3069\u306e\u3088\u3046\u306a\u6761\u4ef6\u3067\u5b9a\u307e\u308b\u304b\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u7dda\u5f62\u56de\u5e30\u3067\u4e8c\u4e57\u640d\u5931\u3092\u4f7f\u7528\u3057\u3001\u6b63\u306e L2 \u6b63\u5247\u5316\u4fc2\u6570\u3092\u8a2d\u3051\u305f\u5834\u5408\u3001\u76ee\u7684\u95a2\u6570\u306e\u30d8\u30c3\u30bb\u884c\u5217\u306f\u6b63\u5b9a\u5024\u3068\u306a\u308b\u3002\u30d8\u30c3\u30bb\u884c\u5217\u306f\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u5909\u5316\u3055\u305b\u305f\u3068\u304d\u306b\u640d\u5931\u95a2\u6570\u306e\u52fe\u914d\u304c\u3069\u306e\u3088\u3046\u306b\u5909\u308f\u308b\u304b\u3092\u8868\u3059\u884c\u5217\u3067\u3042\u308b\u3002\u6b63\u5b9a\u5024\u6027\u304c\u6210\u7acb\u3059\u308c\u3070\u76ee\u7684\u95a2\u6570\u306f\u53b3\u5bc6\u306b\u51f8\u3068\u306a\u308a\u3001\u6700\u5c0f\u89e3\u304c\u4e00\u610f\u306b\u5b9a\u307e\u308b\u3002<\/p>\n<p>\u4e00\u65b9\u3001\u975e\u51f8\u306e\u6df1\u5c64\u5b66\u7fd2\u30e2\u30c7\u30eb\u3067\u306f\u3001\u76ee\u7684\u95a2\u6570\u306b\u8907\u6570\u306e\u505c\u7559\u89e3\u304c\u5b58\u5728\u3057\u5f97\u308b\u3002\u505c\u7559\u89e3\u3068\u306f\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306b\u3064\u3044\u3066\u306e\u52fe\u914d\u304c 0 \u306b\u306a\u308b\u89e3\u3067\u3042\u308a\u3001\u975e\u51f8\u306a\u76ee\u7684\u95a2\u6570\u3067\u306f\u5fc5\u305a\u3057\u3082\u5927\u57df\u7684\u306a\u6700\u5c0f\u89e3\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u540c\u3058\u4fdd\u6301\u30c7\u30fc\u30bf\u3092\u4f7f\u3063\u3066\u518d\u5b66\u7fd2\u3057\u3066\u3082\u3001\u521d\u671f\u5024\u3001\u5b66\u7fd2\u30c7\u30fc\u30bf\u306e\u6295\u5165\u9806\u5e8f\u3001\u6700\u9069\u5316\u30a2\u30eb\u30b4\u30ea\u30ba\u30e0\u306e\u8a2d\u5b9a\u3001\u4e71\u6570\u306b\u3088\u308b\u5909\u52d5\u306a\u3069\u306b\u3088\u3063\u3066\u3001\u5230\u9054\u3059\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3084\u51fa\u529b\u304c\u7570\u306a\u308b\u5834\u5408\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u9055\u3044\u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u306b\u3082\u53cd\u6620\u3055\u308c\u308b\u3002\u4f8b\u3048\u3070\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u3092\u56fa\u5b9a\u3057\u3066\u3044\u3066\u3082\u3001\u7570\u306a\u308b\u521d\u671f\u5024\u304b\u3089\u518d\u5b66\u7fd2\u3057\u305f\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u304c\u7570\u306a\u308b\u51fa\u529b\u3092\u8fd4\u305b\u3070\u3001\u3069\u3061\u3089\u3092\u53c2\u7167\u5148\u306b\u9078\u3076\u304b\u306b\u3088\u3063\u3066 \\(\\Delta_a\\) \u306e\u5024\u304c\u5909\u308f\u308b\u3002\u5358\u4e00\u306e\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3092\u57fa\u6e96\u3068\u3059\u308b\u8a55\u4fa1\u3067\u306f\u3001\u9078\u629e\u3057\u305f\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306b\u5bfe\u3059\u308b\u8fd1\u3055\u3092\u6e2c\u5b9a\u3057\u3066\u3044\u308b\u3053\u3068\u306b\u306a\u308b\u3002\u8907\u6570\u306e\u518d\u5b66\u7fd2\u7d50\u679c\u3092\u57fa\u6e96\u306b\u8a55\u4fa1\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u305d\u306e\u5206\u5e03\u3084\u3070\u3089\u3064\u304d\u3082\u533a\u5225\u3057\u3066\u6271\u3046\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u591a\u6bb5\u968e\u3067\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u306b\u3064\u3044\u3066\u306f\u3001\u5b66\u7fd2\u7d4c\u8def\u304c\u5fd8\u5374\u7d50\u679c\u3078\u5f71\u97ff\u3059\u308b\u3053\u3068\u304c\u7406\u8ad6\u30fb\u5b9f\u9a13\u306e\u4e21\u9762\u304b\u3089\u5831\u544a\u3055\u308c\u3066\u3044\u308b<a href=\"#ref7\">[7]<\/a>\u3002\u540c\u3058\u6700\u7d42\u7684\u306a\u5b66\u7fd2\u30c7\u30fc\u30bf\u96c6\u5408\u3092\u60f3\u5b9a\u3057\u3066\u3082\u3001\u3069\u306e\u6bb5\u968e\u3067\u5bfe\u8c61\u30c7\u30fc\u30bf\u3092\u4f7f\u7528\u3057\u305f\u304b\u3001\u3069\u306e\u3088\u3046\u306a\u66f4\u65b0\u3092\u7d4c\u3066\u73fe\u5728\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3078\u5230\u9054\u3057\u305f\u304b\u306b\u3088\u3063\u3066\u3001\u5fd8\u5374\u64cd\u4f5c\u3068\u518d\u5b66\u7fd2\u7d50\u679c\u306e\u95a2\u4fc2\u304c\u5909\u5316\u3057\u5f97\u308b\u3002\u6700\u7d42\u7684\u306a\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3084\u5358\u4e00\u306e\u640d\u5931\u5024\u3060\u3051\u3067\u306f\u3001\u3053\u306e\u5b66\u7fd2\u7d4c\u8def\u306e\u9055\u3044\u3092\u8868\u73fe\u3057\u304d\u308c\u306a\u3044\u3002<\/p>\n<p>\u7dda\u5f62\u56de\u5e30\u306e\u3088\u3046\u306b\u518d\u5b66\u7fd2\u89e3\u3092\u4e00\u610f\u306b\u5b9a\u3081\u3089\u308c\u308b\u6761\u4ef6\u3067\u306f\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u3068\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u5dee\u3092\u660e\u78ba\u306a\u57fa\u6e96\u3067\u89e3\u6790\u3067\u304d\u308b\u3002\u3053\u306e\u5834\u5408\u3001\u76ee\u7684\u95a2\u6570\u306e\u66f2\u7387\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u3001\u4fdd\u6301\u5bfe\u8c61\u3068\u306e\u7279\u5fb4\u306e\u91cd\u306a\u308a\u3092\u4f7f\u3063\u3066\u3001\u51fa\u529b\u5dee\u304c\u3069\u306e\u3088\u3046\u306b\u751f\u3058\u308b\u304b\u3092\u5c0e\u51fa\u3067\u304d\u308b\u3002\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u3067\u306f\u3001\u305d\u306e\u95a2\u4fc2\u3092\u518d\u5b66\u7fd2\u89e3\u306e\u8fd1\u508d\u3067\u5c40\u6240\u7684\u306b\u8fd1\u4f3c\u3059\u308b\u3053\u3068\u306b\u306a\u308b\u3002\u518d\u5b66\u7fd2\u57fa\u6e96\u306e\u5b9a\u7fa9\u3068\u6210\u7acb\u6761\u4ef6\u3092\u660e\u78ba\u306b\u3059\u308b\u3053\u3068\u3067\u3001\u6570\u5f0f\u304b\u3089\u53b3\u5bc6\u306b\u5c0e\u3051\u308b\u7d50\u679c\u3068\u3001\u5b9f\u9a13\u306b\u3088\u3063\u3066\u59a5\u5f53\u6027\u3092\u78ba\u8a8d\u3059\u3079\u304d\u7d50\u679c\u306e\u5883\u754c\u304c\u5b9a\u307e\u308b\u3002<\/p>\n<hr>\n<h2>3. \u5fd8\u5374\u640d\u5931\u3092\u5897\u3084\u3057\u3066\u3082\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306b\u306f\u4e00\u81f4\u3057\u306a\u3044<\/h2>\n<h3>3.1 \u4fdd\u6301\u640d\u5931\u3068\u5fd8\u5374\u640d\u5931\u3092\u5206\u3051\u308b<\/h3>\n<p>\u5fd8\u5374\u51e6\u7406\u3067\u306f\u3001\u4fdd\u6301\u3059\u3079\u304d\u30c7\u30fc\u30bf\u3078\u306e\u4e88\u6e2c\u3092\u7dad\u6301\u3057\u306a\u304c\u3089\u3001\u5fd8\u5374\u5bfe\u8c61\u304c\u30e2\u30c7\u30eb\u306b\u4e0e\u3048\u305f\u5f71\u97ff\u3092\u53d6\u308a\u9664\u304f\u3053\u3068\u304c\u6c42\u3081\u3089\u308c\u308b\u3002\u3057\u304b\u3057\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u4e88\u6e2c\u3092\u5909\u5316\u3055\u305b\u308b\u64cd\u4f5c\u3068\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u3066\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u3078\u8fd1\u3065\u3051\u308b\u64cd\u4f5c\u306f\u3001\u6700\u9069\u5316\u306e\u76ee\u7684\u304c\u7570\u306a\u308b\u3002\u3053\u306e\u9055\u3044\u3092\u8abf\u3079\u308b\u305f\u3081\u306b\u3001\u5b66\u7fd2\u6642\u306e\u640d\u5931\u3092\u4fdd\u6301\u5bfe\u8c61\u3068\u5fd8\u5374\u5bfe\u8c61\u306b\u5206\u3051\u308b\u3002<\/p>\n<p>\u4fdd\u6301\u5bfe\u8c61\u306b\u5bfe\u3059\u308b\u640d\u5931\u3068\u6b63\u5247\u5316\u9805\u3092\u307e\u3068\u3081\u305f \\(\\mathcal R(\\theta)\\) \u306f\u524d\u7ae0\u3067\u5b9a\u7fa9\u3057\u305f\u3002\u5fd8\u5374\u5bfe\u8c61\u306b\u5bfe\u3059\u308b\u640d\u5931\u3092 \\(\\mathcal F(\\theta)\\) \u3068\u3059\u308b\u3068\u3001\u5168\u30c7\u30fc\u30bf\u3092\u4f7f\u3063\u305f\u76ee\u7684\u95a2\u6570\u306f\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\mathcal F(\\theta)<br \/>\n=<br \/>\n\\frac1n\\sum_{j\\in\\mathcal D_f}\\ell_j(\\theta),<br \/>\n\\qquad<br \/>\n\\mathcal L(\\theta)<br \/>\n=<br \/>\n\\mathcal R(\\theta)+\\mathcal F(\\theta)<br \/>\n\\]<\/p>\n<p>\\(\\mathcal R(\\theta)\\) \u306f\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u4e88\u6e2c\u8aa4\u5dee\u3068\u6b63\u5247\u5316\u306b\u3088\u308b\u5236\u7d04\u3092\u8868\u3057\u3001\\(\\mathcal F(\\theta)\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u4e88\u6e2c\u8aa4\u5dee\u3092\u8868\u3059\u3002\u5143\u30e2\u30c7\u30eb\u306e\u5b66\u7fd2\u3067\u306f\u4e21\u8005\u306e\u548c\u3092\u6700\u5c0f\u5316\u3059\u308b\u305f\u3081\u3001\u4fdd\u6301\u5bfe\u8c61\u3068\u5fd8\u5374\u5bfe\u8c61\u306e\u60c5\u5831\u304c\u3068\u3082\u306b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u6c7a\u5b9a\u3078\u53cd\u6620\u3055\u308c\u308b\u3002\u4e00\u65b9\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u305f\u518d\u5b66\u7fd2\u3067\u306f \\(\\mathcal R(\\theta)\\) \u3060\u3051\u3092\u6700\u5c0f\u5316\u3059\u308b\u3002\u305d\u306e\u6700\u5c0f\u89e3\u304c \\(\\theta_r^\\star\\) \u3067\u3042\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u5927\u304d\u304f\u3059\u308b\u66f4\u65b0\u3092\u8003\u3048\u308b\u3002\u5206\u985e\u30e2\u30c7\u30eb\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u89e3\u30af\u30e9\u30b9\u306b\u4e0e\u3048\u308b\u78ba\u7387\u304c\u4f4e\u4e0b\u3059\u308b\u3068\u3001\u4e00\u822c\u306b\u305d\u306e\u5165\u529b\u306e\u4ea4\u5dee\u30a8\u30f3\u30c8\u30ed\u30d4\u30fc\u640d\u5931\u306f\u5897\u52a0\u3059\u308b\u3002\u66f4\u65b0\u306b\u3088\u3063\u3066\u4e88\u6e2c\u304c\u5225\u306e\u30af\u30e9\u30b9\u3078\u5909\u308f\u308c\u3070\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u3082\u4f4e\u4e0b\u3059\u308b\u3002\u3057\u304b\u3057\u3001\u640d\u5931\u3092\u5897\u52a0\u3055\u305b\u308b\u65b9\u5411\u306f\u3001\u5bfe\u8c61\u30c7\u30fc\u30bf\u3092\u4f7f\u308f\u305a\u306b\u518d\u5b66\u7fd2\u3057\u305f\u5834\u5408\u306e\u51fa\u529b\u3078\u8fd1\u3065\u304f\u65b9\u5411\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3082\u540c\u3058\u5165\u529b\u306b\u5bfe\u3057\u3066\u6b63\u89e3\u3092\u8fd4\u3059\u5834\u5408\u304c\u3042\u308a\u3001\u305d\u306e\u3068\u304d\u6b63\u89e3\u78ba\u7387\u3092\u3055\u3089\u306b\u4f4e\u4e0b\u3055\u305b\u308b\u64cd\u4f5c\u306f\u3001\u304b\u3048\u3063\u3066\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u4e88\u6e2c\u304b\u3089\u96e2\u308c\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u307e\u305f\u3001\u640d\u5931\u306f\u5165\u529b\u3054\u3068\u306e\u4e88\u6e2c\u7d50\u679c\u3092\u96c6\u7d04\u3057\u305f\u5024\u3067\u3042\u308b\u3002\u7570\u306a\u308b\u5165\u529b\u3067\u751f\u3058\u305f\u640d\u5931\u306e\u5897\u6e1b\u304c\u5408\u8a08\u3055\u308c\u308b\u305f\u3081\u3001\u540c\u3058\u640d\u5931\u5024\u3092\u6301\u3064\u30e2\u30c7\u30eb\u3067\u3042\u3063\u3066\u3082\u3001\u500b\u3005\u306e\u5165\u529b\u306b\u5bfe\u3059\u308b\u51fa\u529b\u306f\u7570\u306a\u308a\u5f97\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3060\u3051\u3092\u89b3\u6e2c\u3057\u3066\u3082\u3001\u3069\u306e\u5165\u529b\u3067\u3069\u306e\u3088\u3046\u306a\u4e88\u6e2c\u306e\u5909\u5316\u304c\u751f\u3058\u305f\u304b\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u304c\u3069\u308c\u307b\u3069\u3042\u3063\u305f\u304b\u306f\u7279\u5b9a\u3067\u304d\u306a\u3044\u3002<\/p>\n<p>Zhao\u3001Amiri\u3001Magdon-Ismail \u306b\u3088\u308b\u7814\u7a76\u300cLoss is Not Behavior\u300d\u306f\u3001\u3053\u306e\u9055\u3044\u3092\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u3068\u3057\u3066\u5206\u6790\u3057\u3001\u7dda\u5f62\u56de\u5e30\u3067\u306f\u9589\u5f62\u5f0f\u3001\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u3067\u306f\u5c40\u6240\u8fd1\u4f3c\u306b\u3088\u3063\u3066\u8868\u3057\u3066\u3044\u308b<a href=\"#ref8\">[8]<\/a>\u3002\u8a55\u4fa1\u5bfe\u8c61\u3092\u640d\u5931\u95a2\u6570\u304b\u3089\u51fa\u529b\u7a7a\u9593\u3078\u79fb\u3059\u3053\u3068\u3067\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u304c\u518d\u5b66\u7fd2\u57fa\u6e96\u304b\u3089\u3069\u306e\u7a0b\u5ea6\u96e2\u308c\u3066\u3044\u308b\u304b\u3092\u3001\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u53cc\u65b9\u306b\u3064\u3044\u3066\u5b9a\u91cf\u5316\u3067\u304d\u308b\u3002<\/p>\n<h3>3.2 \u52fe\u914d\u5dee\u3092\u7528\u3044\u305f\u5fd8\u5374\u306e\u505c\u7559\u6761\u4ef6<\/h3>\n<p>GradDiff \u3068\u547c\u3070\u308c\u308b\u65b9\u5f0f\u3067\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u3092\u6e1b\u3089\u3059\u65b9\u5411\u3068\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u5897\u3084\u3059\u65b9\u5411\u3092\u4e00\u3064\u306e\u76ee\u7684\u95a2\u6570\u306b\u7d44\u307f\u8fbc\u3080\u3002\u5fd8\u5374\u5074\u306e\u5bc4\u4e0e\u3092\u8abf\u6574\u3059\u308b\u4fc2\u6570\u3092 \\(\\rho>0\\) \u3068\u3059\u308b\u3068\u3001\u76ee\u7684\u95a2\u6570\u306f \\(\\mathcal R(\\theta)-\\rho\\mathcal F(\\theta)\\) \u3068\u306a\u308b\u3002\u6700\u5c0f\u89e3\u304c\u5b58\u5728\u3059\u308b\u6761\u4ef6\u3067\u306f\u3001GradDiff \u306b\u3088\u308b\u89e3\u3092\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\theta_\\rho<br \/>\n=<br \/>\n\\arg\\min_\\theta<br \/>\n\\left\\{<br \/>\n\\mathcal R(\\theta)-\\rho\\mathcal F(\\theta)<br \/>\n\\right\\}<br \/>\n\\]<\/p>\n<p>\u7b2c\u4e00\u9805\u306e \\(\\mathcal R(\\theta)\\) \u306f\u4fdd\u6301\u5bfe\u8c61\u306e\u4e88\u6e2c\u8aa4\u5dee\u3092\u5c0f\u3055\u304f\u3059\u308b\u65b9\u5411\u306b\u4f5c\u7528\u3059\u308b\u3002\u7b2c\u4e8c\u9805\u306b\u306f\u8ca0\u306e\u7b26\u53f7\u304c\u3042\u308b\u305f\u3081\u3001\u76ee\u7684\u95a2\u6570\u3092\u6700\u5c0f\u5316\u3059\u308b\u3068\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931 \\(\\mathcal F(\\theta)\\) \u3092\u5897\u3084\u3059\u65b9\u5411\u306b\u3082\u66f4\u65b0\u304c\u751f\u3058\u308b\u3002\\(\\rho\\) \u3092\u5927\u304d\u304f\u3059\u308b\u3068\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u5897\u52a0\u3055\u305b\u308b\u9805\u306e\u76f8\u5bfe\u7684\u306a\u5bc4\u4e0e\u304c\u5927\u304d\u304f\u306a\u308b\u3002\u305f\u3060\u3057\u3001\u76ee\u7684\u95a2\u6570\u306e\u51f8\u6027\u3084\u4e0b\u9650\u306e\u6709\u7121\u306b\u3088\u3063\u3066\u306f\u5927\u57df\u7684\u306a\u6700\u5c0f\u89e3\u304c\u5b58\u5728\u3057\u306a\u3044\u305f\u3081\u3001\u6700\u9069\u5316\u306b\u3088\u3063\u3066\u5230\u9054\u3059\u308b\u505c\u7559\u70b9\u3068\u5927\u57df\u7684\u306a\u6700\u5c0f\u89e3\u306f\u533a\u5225\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068 GradDiff \u306e\u9055\u3044\u3092\u3001\u52fe\u914d\u304b\u3089\u78ba\u8a8d\u3059\u308b\u3002\\(\\nabla\\) \u306f\u5404\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306b\u95a2\u3059\u308b\u504f\u5fae\u5206\u3092\u4e26\u3079\u305f\u30d9\u30af\u30c8\u30eb\u3067\u3042\u308a\u3001\u640d\u5931\u95a2\u6570\u304c\u6700\u3082\u5897\u52a0\u3059\u308b\u5c40\u6240\u7684\u306a\u65b9\u5411\u3092\u793a\u3059\u3002\u5fae\u5206\u53ef\u80fd\u306a\u76ee\u7684\u95a2\u6570\u306e\u5185\u90e8\u306b\u3042\u308b\u5c40\u6240\u7684\u306a\u6700\u5c0f\u70b9\u3067\u306f\u3001\u52fe\u914d\u304c\u96f6\u306b\u306a\u308b\u3002\u3053\u306e\u6761\u4ef6\u3092\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068 GradDiff \u306b\u9069\u7528\u3059\u308b\u3068\u3001\u6b21\u306e\u4e8c\u3064\u306e\u5f0f\u304c\u5f97\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\nabla\\mathcal R(\\theta_r^\\star)=0,<br \/>\n\\qquad<br \/>\n\\nabla\\mathcal R(\\theta_\\rho)<br \/>\n&#8211;<br \/>\n\\rho\\nabla\\mathcal F(\\theta_\\rho)=0<br \/>\n\\]<\/p>\n<p>\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u505c\u7559\u6761\u4ef6\u306b\u306f\u5fd8\u5374\u640d\u5931\u306e\u52fe\u914d\u304c\u542b\u307e\u308c\u306a\u3044\u3002\u4e00\u65b9\u3001GradDiff \u306e\u505c\u7559\u6761\u4ef6\u306b\u306f \\(-\\rho\\nabla\\mathcal F(\\theta_\\rho)\\) \u304c\u542b\u307e\u308c\u308b\u3002\u3053\u306e\u9055\u3044\u306b\u3088\u3063\u3066\u3001\u4e21\u8005\u304c\u540c\u3058\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306b\u5230\u9054\u3059\u308b\u305f\u3081\u306e\u6761\u4ef6\u3082\u5909\u308f\u308b\u3002<\/p>\n<p>\\(\\rho=0\\) \u306a\u3089 GradDiff \u306e\u76ee\u7684\u95a2\u6570\u306f \\(\\mathcal R(\\theta)\\) \u306b\u4e00\u81f4\u3057\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u540c\u3058\u6700\u9069\u5316\u554f\u984c\u306b\u306a\u308b\u3002\u3057\u304b\u3057\u3001\\(\\rho>0\\) \u3067\u3001\u518d\u5b66\u7fd2\u89e3\u306b\u304a\u3051\u308b\u5fd8\u5374\u640d\u5931\u306e\u52fe\u914d\u304c\u96f6\u3067\u306a\u3044\u5834\u5408\u3001\u518d\u5b66\u7fd2\u89e3\u3092 GradDiff \u306e\u505c\u7559\u6761\u4ef6\u3078\u4ee3\u5165\u3059\u308b\u3068\u6b21\u306e\u95a2\u4fc2\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\n&#038;\\nabla\\mathcal R(\\theta_r^\\star)<br \/>\n-\\rho\\nabla\\mathcal F(\\theta_r^\\star)\\\\<br \/>\n&#038;\\qquad<br \/>\n=-\\rho\\nabla\\mathcal F(\\theta_r^\\star)<br \/>\n\\ne 0<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\u3064\u307e\u308a\u3001\\(\\nabla\\mathcal F(\\theta_r^\\star)\\ne0\\) \u3068\u3044\u3046\u6761\u4ef6\u306e\u4e0b\u3067\u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306f GradDiff \u306e\u505c\u7559\u70b9\u306b\u306a\u3089\u306a\u3044\u3002GradDiff \u304c\u5fd8\u5374\u640d\u5931\u3092\u5897\u52a0\u3055\u305b\u308b\u9805\u3092\u6301\u3064\u9650\u308a\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3092\u6700\u9069\u89e3\u3068\u3059\u308b\u76ee\u7684\u95a2\u6570\u3068\u306f\u7570\u306a\u308b\u65b9\u5411\u3078\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u5909\u5316\u3055\u305b\u3088\u3046\u3068\u3059\u308b\u3002<\/p>\n<p>\u3053\u306e\u9055\u3044\u306f\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u304c\u4e00\u3064\u3060\u3051\u306e\u7c21\u5358\u306a\u4f8b\u3067\u3082\u78ba\u8a8d\u3067\u304d\u308b\u3002\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u3092 \\(\\mathcal R(\\theta)=\\theta^2\/2\\)\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092 \\(\\mathcal F(\\theta)=(\\theta-1)^2\/2\\) \u3068\u3059\u308b\u3002\u3053\u306e\u5834\u5408\u3001\u4fdd\u6301\u5bfe\u8c61\u3060\u3051\u3092\u6700\u5c0f\u5316\u3057\u305f\u518d\u5b66\u7fd2\u89e3\u306f \\(\\theta_r^\\star=0\\) \u3067\u3042\u308b\u3002GradDiff \u306e\u76ee\u7684\u95a2\u6570\u306f\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\nJ_\\rho(\\theta)<br \/>\n&#038;=\\mathcal R(\\theta)-\\rho\\mathcal F(\\theta)\\\\<br \/>\n&#038;=\\frac12\\theta^2-\\frac\\rho2(\\theta-1)^2\\\\<br \/>\n&#038;=\\frac{1-\\rho}{2}\\theta^2+\\rho\\theta-\\frac\\rho2<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\\(0<\\rho<1\\) \u306a\u3089\u4e8c\u6b21\u9805\u306e\u4fc2\u6570\u304c\u6b63\u306a\u306e\u3067\u3001\u3053\u306e\u76ee\u7684\u95a2\u6570\u306f\u53b3\u5bc6\u306b\u51f8\u3068\u306a\u308a\u3001\u6700\u5c0f\u89e3\u304c\u4e00\u610f\u306b\u5b9a\u307e\u308b\u3002\u5fae\u5206\u3057\u3066\u96f6\u3068\u7f6e\u304f\u3068\u3001\u6b21\u306e\u89e3\u304c\u5f97\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\frac{dJ_\\rho}{d\\theta}<br \/>\n=(1-\\rho)\\theta+\\rho=0<br \/>\n\\]<\/p>\n<p>\\[<br \/>\n\\theta_\\rho=-\\frac{\\rho}{1-\\rho}<br \/>\n\\]<\/p>\n<p>\u5fd8\u5374\u4fc2\u6570 \\(\\rho\\) \u3092\u5897\u3084\u3057\u305f\u3068\u304d\u306e\u7d50\u679c\u3092\u6bd4\u8f03\u3059\u308b\u3068\u3001\u4fdd\u6301\u5bfe\u8c61\u3060\u3051\u3092\u6700\u5c0f\u5316\u3057\u305f\u89e3\u304b\u3089\u96e2\u308c\u3066\u3044\u304f\u69d8\u5b50\u304c\u5206\u304b\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u5fd8\u5374\u4fc2\u6570 \\(\\rho\\)<\/th>\n<th>GradDiff \u306e\u6700\u5c0f\u89e3 \\(\\theta_\\rho\\)<\/th>\n<th>\u5fd8\u5374\u640d\u5931 \\(\\mathcal F(\\theta_\\rho)\\)<\/th>\n<th>\u518d\u5b66\u7fd2\u89e3\u304b\u3089\u306e\u8ddd\u96e2<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>\\(0\\)<\/td>\n<td>\\(0\\)<\/td>\n<td>\\(1\/2\\)<\/td>\n<td>\\(0\\)<\/td>\n<\/tr>\n<tr>\n<td>\\(1\/4\\)<\/td>\n<td>\\(-1\/3\\)<\/td>\n<td>\\(8\/9\\)<\/td>\n<td>\\(1\/3\\)<\/td>\n<\/tr>\n<tr>\n<td>\\(1\/2\\)<\/td>\n<td>\\(-1\\)<\/td>\n<td>\\(2\\)<\/td>\n<td>\\(1\\)<\/td>\n<\/tr>\n<tr>\n<td>\\(3\/4\\)<\/td>\n<td>\\(-3\\)<\/td>\n<td>\\(8\\)<\/td>\n<td>\\(3\\)<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u3053\u306e\u4f8b\u3067\u306f\u3001\u5fd8\u5374\u4fc2\u6570\u3092\u5897\u3084\u3059\u307b\u3069\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u306f\u5927\u304d\u304f\u306a\u308b\u304c\u3001\u540c\u6642\u306b\u518d\u5b66\u7fd2\u89e3\u304b\u3089\u306e\u8ddd\u96e2\u3082\u5897\u52a0\u3059\u308b\u3002\u4f8b\u3048\u3070 \\(\\rho=1\/2\\) \u3067\u306f\u5fd8\u5374\u640d\u5931\u304c 2 \u307e\u3067\u5897\u3048\u308b\u4e00\u65b9\u3001\u518d\u5b66\u7fd2\u89e3\u304b\u3089\u306e\u8ddd\u96e2\u306f 1 \u306b\u306a\u308b\u3002\u5fd8\u5374\u640d\u5931\u306e\u5897\u52a0\u3068\u518d\u5b66\u7fd2\u89e3\u3078\u306e\u63a5\u8fd1\u304c\u3001\u7570\u306a\u308b\u6700\u9069\u5316\u4e0a\u306e\u6027\u8cea\u3067\u3042\u308b\u3053\u3068\u3092\u5177\u4f53\u7684\u306b\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/p>\n<p>\u3055\u3089\u306b \\(\\rho\\) \u304c 1 \u306b\u8fd1\u3065\u304f\u3068\u3001\\(\\theta_\\rho=-\\rho\/(1-\\rho)\\) \u306e\u7d76\u5bfe\u5024\u306f\u767a\u6563\u3059\u308b\u3002\\(\\rho=1\\) \u3067\u306f\u4e8c\u6b21\u9805\u304c\u6d88\u3048\u3066\u76ee\u7684\u95a2\u6570\u306f\u4e0b\u306b\u6709\u754c\u3067\u306a\u304f\u306a\u308a\u3001\\(\\rho>1\\) \u3067\u3082\u4e8c\u6b21\u9805\u306e\u4fc2\u6570\u304c\u8ca0\u306b\u306a\u308b\u305f\u3081\u5927\u57df\u7684\u306a\u6700\u5c0f\u89e3\u306f\u5b58\u5728\u3057\u306a\u3044\u3002\u3053\u306e\u4e00\u6b21\u5143\u306e\u4f8b\u306f\u3001\u5fd8\u5374\u4fc2\u6570\u3092\u5897\u52a0\u3055\u305b\u308b\u3053\u3068\u304c\u3001\u518d\u5b66\u7fd2\u89e3\u3068\u306e\u8ddd\u96e2\u3060\u3051\u3067\u306a\u304f\u6700\u9069\u5316\u554f\u984c\u306e\u5b89\u5b9a\u6027\u306b\u3082\u95a2\u308f\u308b\u3053\u3068\u3092\u793a\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\u4e00\u822c\u306e\u591a\u6b21\u5143\u30e2\u30c7\u30eb\u3067\u306f\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u5316\u306f\u5fd8\u5374\u640d\u5931\u306e\u52fe\u914d\u3060\u3051\u3067\u306f\u6c7a\u307e\u3089\u306a\u3044\u3002\u518d\u5b66\u7fd2\u89e3\u306e\u8fd1\u508d\u3067\u76ee\u7684\u95a2\u6570\u3092\u8fd1\u4f3c\u3059\u308b\u3068\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u304c\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u5316\u306b\u5bfe\u3057\u3066\u3069\u306e\u3088\u3046\u306a\u66f2\u7387\u3092\u6301\u3064\u304b\u3082\u95a2\u4fc2\u3059\u308b\u3002\u4fdd\u6301\u640d\u5931\u306e\u30d8\u30c3\u30bb\u884c\u5217\u3092 \\(H_{\\mathcal R}=\\nabla^2\\mathcal R(\\theta_r^\\star)\\) \u3068\u3057\u3001\u3053\u308c\u304c\u6b63\u5b9a\u5024\u3067\u3001\u5341\u5206\u6ed1\u3089\u304b\u306a\u76ee\u7684\u95a2\u6570\u3068\u5c0f\u3055\u3044 \\(\\rho\\) \u3092\u4eee\u5b9a\u3059\u308b\u3068\u3001\u505c\u7559\u6761\u4ef6\u306e\u5c40\u6240\u5c55\u958b\u304b\u3089\u6b21\u306e\u4e00\u6b21\u8fd1\u4f3c\u304c\u5f97\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\theta_\\rho-\\theta_r^\\star<br \/>\n\\approx<br \/>\n\\rho H_{\\mathcal R}^{-1}<br \/>\n\\nabla\\mathcal F(\\theta_r^\\star)<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5f0f\u306e\u53f3\u8fba\u306b\u306f\u3001\u5fd8\u5374\u640d\u5931\u306e\u52fe\u914d\u306b\u52a0\u3048\u3066\u3001\u4fdd\u6301\u640d\u5931\u306e\u66f2\u7387\u306e\u9006\u884c\u5217\u304c\u542b\u307e\u308c\u3066\u3044\u308b\u3002\u5fd8\u5374\u640d\u5931\u306e\u52fe\u914d\u304c\u540c\u3058\u5927\u304d\u3055\u3067\u3082\u3001\u4fdd\u6301\u640d\u5931\u306e\u66f2\u7387\u304c\u5c0f\u3055\u3044\u65b9\u5411\u3067\u306f\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u304c\u5927\u304d\u304f\u5909\u5316\u3057\u3084\u3059\u3044\u3002\u9006\u306b\u66f2\u7387\u304c\u5927\u304d\u3044\u65b9\u5411\u3067\u306f\u3001\u540c\u3058\u66f4\u65b0\u306e\u4f5c\u7528\u306b\u3088\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u4f4d\u304c\u6291\u3048\u3089\u308c\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u5f71\u97ff\u3092\u8abf\u3079\u308b\u306b\u306f\u3001\u5fd8\u5374\u52fe\u914d\u306e\u5927\u304d\u3055\u3060\u3051\u3067\u306a\u304f\u3001\u305d\u308c\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u95a2\u6570\u306b\u5bfe\u3057\u3066\u3069\u306e\u65b9\u5411\u3092\u5411\u3044\u3066\u3044\u308b\u304b\u304c\u95a2\u308f\u308b\u3002<\/p>\n<h3>3.3 \u4fdd\u6301\u5bfe\u8c61\u3068\u5fd8\u5374\u5bfe\u8c61\u306e\u4f9d\u5b58\u6027<\/h3>\n<p>\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306f\u3001\u5b66\u7fd2\u6642\u306b\u5171\u901a\u3059\u308b\u7279\u5fb4\u3084\u5224\u65ad\u5883\u754c\u3092\u5229\u7528\u3059\u308b\u3002\u4f8b\u3048\u3070\u3001\u753b\u50cf\u5206\u985e\u5668\u3067\u7279\u5b9a\u306e\u30af\u30e9\u30b9\u3092\u5fd8\u5374\u3055\u305b\u308b\u5834\u5408\u3001\u305d\u306e\u30af\u30e9\u30b9\u306e\u8b58\u5225\u306b\u4f7f\u7528\u3057\u3066\u3044\u305f\u8f2a\u90ed\u3001\u8272\u3001\u5f62\u72b6\u306a\u3069\u306e\u7279\u5fb4\u304c\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u5206\u985e\u306b\u3082\u5229\u7528\u3055\u308c\u3066\u3044\u308b\u3053\u3068\u304c\u3042\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u4e88\u6e2c\u3092\u5909\u3048\u308b\u305f\u3081\u306b\u5171\u6709\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u66f4\u65b0\u3059\u308b\u3068\u3001\u540c\u3058\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u5229\u7528\u3059\u308b\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u306b\u3082\u5909\u5316\u304c\u53ca\u3076\u3002<\/p>\n<p>\u3053\u306e\u5f71\u97ff\u306f\u3001\u5165\u529b\u3054\u3068\u306e\u51fa\u529b\u304c\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u5316\u306b\u5bfe\u3057\u3066\u3069\u306e\u7a0b\u5ea6\u654f\u611f\u304b\u306b\u3088\u3063\u3066\u7570\u306a\u308b\u3002\u5165\u529b \\(x\\) \u306b\u5bfe\u3059\u308b\u30e2\u30c7\u30eb\u51fa\u529b\u3092 \\(f_\\theta(x)\\) \u3068\u3057\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u5316\u3092 \\(\\delta\\theta\\) \u3068\u3059\u308b\u3002\u5fae\u5206\u53ef\u80fd\u306a\u30e2\u30c7\u30eb\u306b\u3064\u3044\u3066\u3001\u5909\u5316\u304c\u5341\u5206\u5c0f\u3055\u3044\u5834\u5408\u306b\u306f\u3001\u51fa\u529b\u306e\u5909\u5316\u3092\u4e00\u6b21\u8fd1\u4f3c\u306b\u3088\u3063\u3066\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\nf_{\\theta_r^\\star+\\delta\\theta}(x)<br \/>\n&#8211;<br \/>\nf_{\\theta_r^\\star}(x)<br \/>\n\\approx<br \/>\nJ_x\\delta\\theta<br \/>\n\\]<\/p>\n<p>\\(J_x\\) \u306f\u5165\u529b \\(x\\) \u306b\u304a\u3051\u308b\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306b\u95a2\u3059\u308b\u51fa\u529b\u306e\u30e4\u30b3\u30d3\u884c\u5217\u3067\u3042\u308b\u3002\u51fa\u529b\u304c\u4e00\u3064\u306e\u6570\u5024\u306a\u3089\u3001\u5404\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u5316\u306b\u5bfe\u3059\u308b\u51fa\u529b\u306e\u611f\u5ea6\u3092\u4e26\u3079\u305f\u884c\u30d9\u30af\u30c8\u30eb\u306b\u306a\u308b\u3002\u51fa\u529b\u304c\u8907\u6570\u306e\u6210\u5206\u3092\u6301\u3064\u5834\u5408\u306b\u306f\u3001\u305d\u308c\u305e\u308c\u306e\u51fa\u529b\u6210\u5206\u306b\u3064\u3044\u3066\u306e\u504f\u5fae\u5206\u3092\u4e26\u3079\u305f\u884c\u5217\u306b\u306a\u308b\u3002<\/p>\n<p>\u3053\u306e\u5f0f\u304b\u3089\u3001\u540c\u3058\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u66f4\u65b0\u3067\u3082\u3001\u5165\u529b\u306b\u3088\u3063\u3066\u51fa\u529b\u306e\u5909\u5316\u304c\u7570\u306a\u308b\u3053\u3068\u304c\u5206\u304b\u308b\u3002\u66f4\u65b0\u65b9\u5411 \\(\\delta\\theta\\) \u304c\u3001\u3042\u308b\u5165\u529b\u306e\u51fa\u529b\u306b\u5bfe\u3057\u3066\u611f\u5ea6\u306e\u9ad8\u3044\u65b9\u5411\u3068\u4e00\u81f4\u3059\u308c\u3070\u3001\u305d\u306e\u5165\u529b\u306e\u4e88\u6e2c\u306f\u5909\u5316\u3059\u308b\u3002\u4e00\u65b9\u3001\u305d\u306e\u5165\u529b\u306e\u51fa\u529b\u304c\u66f4\u65b0\u65b9\u5411\u306b\u5bfe\u3057\u3066\u611f\u5ea6\u3092\u6301\u305f\u306a\u3051\u308c\u3070\u3001\u4e00\u6b21\u8fd1\u4f3c\u3067\u306e\u5909\u5316\u306f\u96f6\u306b\u306a\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u304c\u4f3c\u305f\u7279\u5fb4\u3092\u5229\u7528\u3057\u3066\u3044\u308b\u5834\u5408\u306b\u306f\u3001\u305d\u308c\u305e\u308c\u306e\u51fa\u529b\u304c\u540c\u3058\u66f4\u65b0\u65b9\u5411\u306b\u53cd\u5fdc\u3057\u3001\u5fd8\u5374\u51e6\u7406\u306e\u5f71\u97ff\u304c\u4fdd\u6301\u5bfe\u8c61\u3078\u4f1d\u308f\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u5148\u307b\u3069\u306e GradDiff \u306e\u5c40\u6240\u8fd1\u4f3c\u3092\u4ee3\u5165\u3059\u308b\u3068\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u5165\u529b \\(x_r\\) \u306b\u5bfe\u3059\u308b\u51fa\u529b\u5909\u5316\u306f\u3001\u6b21\u306e\u3088\u3046\u306b\u8fd1\u4f3c\u3067\u304d\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\n&#038;f_{\\theta_\\rho}(x_r)<br \/>\n-f_{\\theta_r^\\star}(x_r)\\\\<br \/>\n&#038;\\qquad\\approx<br \/>\n\\rho J_{x_r}H_{\\mathcal R}^{-1}<br \/>\n\\nabla\\mathcal F(\\theta_r^\\star)<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\u53f3\u8fba\u306e \\(\\nabla\\mathcal F(\\theta_r^\\star)\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u304c\u4e0e\u3048\u308b\u66f4\u65b0\u65b9\u5411\u3001\\(H_{\\mathcal R}^{-1}\\) \u306f\u4fdd\u6301\u640d\u5931\u306e\u66f2\u7387\u3092\u8003\u616e\u3057\u305f\u5909\u4f4d\u3001\\(J_{x_r}\\) \u306f\u305d\u306e\u5909\u4f4d\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u3078\u53ca\u307c\u3059\u5f71\u97ff\u3092\u8868\u3059\u3002\u5fd8\u5374\u5bfe\u8c61\u306b\u7531\u6765\u3059\u308b\u52fe\u914d\u304c\u3001\u4fdd\u6301\u640d\u5931\u306e\u66f2\u7387\u3092\u4ecb\u3057\u3066\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u4f4d\u3068\u306a\u308a\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u611f\u5ea6\u306b\u3088\u3063\u3066\u5b9f\u969b\u306e\u4e88\u6e2c\u5909\u5316\u3078\u5909\u63db\u3055\u308c\u308b\u3068\u3044\u3046\u95a2\u4fc2\u3067\u3042\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u306e\u52fe\u914d\u304c\u5927\u304d\u304f\u3066\u3082\u3001\u305d\u306e\u65b9\u5411\u306b\u5bfe\u3059\u308b\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u611f\u5ea6\u304c\u5c0f\u3055\u3051\u308c\u3070\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u4e88\u6e2c\u5909\u5316\u306f\u5c0f\u3055\u304f\u306a\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u53cd\u5bfe\u306b\u3001\u5fd8\u5374\u52fe\u914d\u306e\u5927\u304d\u3055\u304c\u540c\u7a0b\u5ea6\u3067\u3042\u3063\u3066\u3082\u3001\u4fdd\u6301\u5bfe\u8c61\u304c\u9ad8\u3044\u611f\u5ea6\u3092\u6301\u3064\u65b9\u5411\u3078\u5909\u4f4d\u304c\u751f\u3058\u308c\u3070\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u306f\u5927\u304d\u304f\u306a\u308a\u5f97\u308b\u3002\u640d\u5931\u306e\u5024\u3060\u3051\u3067\u306f\u3001\u52fe\u914d\u306e\u65b9\u5411\u3001\u66f2\u7387\u306b\u3088\u308b\u5909\u63db\u3001\u5165\u529b\u3054\u3068\u306e\u51fa\u529b\u611f\u5ea6\u3092\u533a\u5225\u3067\u304d\u306a\u3044\u3002<\/p>\n<p>\u52fe\u914d\u4e0a\u6607\u578b\u306e\u5fd8\u5374\u304c\u3001\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u7d71\u8a08\u7684\u4f9d\u5b58\u306b\u3088\u3063\u3066\u671f\u5f85\u3057\u305f\u7d50\u679c\u3092\u5f97\u3089\u308c\u306a\u304f\u306a\u308b\u554f\u984c\u3082\u5831\u544a\u3055\u308c\u3066\u3044\u308b<a href=\"#ref9\">[9]<\/a>\u3002\u4e21\u8005\u304c\u5171\u901a\u3059\u308b\u7279\u5fb4\u3092\u5229\u7528\u3059\u308b\u5834\u5408\u3001\u5fd8\u5374\u5bfe\u8c61\u3060\u3051\u306e\u4e88\u6e2c\u3092\u5909\u66f4\u3059\u308b\u305f\u3081\u306e\u66f4\u65b0\u304c\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u4e88\u6e2c\u306b\u3082\u4f5c\u7528\u3059\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u304c\u5897\u52a0\u3057\u3066\u3044\u3066\u3082\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u3092\u7dad\u6301\u3067\u304d\u308b\u3068\u306f\u9650\u3089\u305a\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u3092\u6e2c\u308b\u3053\u3068\u3067\u521d\u3081\u3066\u3001\u305d\u306e\u526f\u4f5c\u7528\u3092\u5b9a\u91cf\u7684\u306b\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/p>\n<p>\u7dda\u5f62\u56de\u5e30\u3067\u306f\u3001\u5165\u529b\u306b\u5bfe\u3059\u308b\u51fa\u529b\u306e\u611f\u5ea6\u304c\u7279\u5fb4\u30d9\u30af\u30c8\u30eb\u305d\u306e\u3082\u306e\u306b\u306a\u308b\u3002\u305d\u306e\u305f\u3081\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u884c\u5217\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u7279\u5fb4\u884c\u5217\u3001\u4fdd\u6301\u640d\u5931\u306e\u66f2\u7387\u3092\u7d44\u307f\u5408\u308f\u305b\u308c\u3070\u3001\u5fd8\u5374\u5bfe\u8c61\u5185\u90e8\u3067\u306e\u5f71\u97ff\u3068\u4fdd\u6301\u5bfe\u8c61\u3078\u4f1d\u308f\u308b\u5f71\u97ff\u3092\u5225\u3005\u306e\u884c\u5217\u3068\u3057\u3066\u8868\u305b\u308b\u3002\u52fe\u914d\u5dee\u306b\u3088\u3063\u3066\u751f\u3058\u305f\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3092\u3001\u3053\u306e\u4e8c\u3064\u306e\u884c\u5217\u3092\u901a\u3057\u3066\u51fa\u529b\u5dee\u3078\u5909\u63db\u3059\u308b\u3053\u3068\u3067\u3001\u5fd8\u5374\u640d\u5931\u306e\u5897\u52a0\u3068\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304b\u3089\u306e\u4e56\u96e2\u3092\u7d50\u3073\u4ed8\u3051\u308b\u69cb\u9020\u304c\u660e\u78ba\u306b\u306a\u308b\u3002<\/p>\n<hr>\n<h2>4. \u5fd8\u5374\u30c7\u30fc\u30bf\u306e\u5f71\u97ff\u306f\u4e8c\u3064\u306e\u884c\u5217\u3067\u8868\u305b\u308b<\/h2>\n<h3>4.1 \u7dda\u5f62\u56de\u5e30\u306e\u66f2\u7387\u3092\u5b9a\u7fa9\u3059\u308b<\/h3>\n<p>\u5fd8\u5374\u51e6\u7406\u306b\u3088\u3063\u3066\u751f\u3058\u308b\u51fa\u529b\u5dee\u3092\u5177\u4f53\u7684\u306b\u6c42\u3081\u308b\u305f\u3081\u306b\u3001\u7dda\u5f62\u56de\u5e30\u30e2\u30c7\u30eb\u3092\u8003\u3048\u308b\u3002\u7dda\u5f62\u56de\u5e30\u3067\u306f\u3001\u5165\u529b\u306e\u5404\u7279\u5fb4\u306b\u5bfe\u5fdc\u3059\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u639b\u3051\u5408\u308f\u305b\u3001\u305d\u306e\u548c\u3092\u4e88\u6e2c\u5024\u3068\u3059\u308b\u3002\u5165\u529b\u3092 \\(d\\) \u6b21\u5143\u306e\u30d9\u30af\u30c8\u30eb \\(x\\in\\mathbb R^d\\)\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092 \\(\\theta\\in\\mathbb R^d\\) \u3068\u3059\u308b\u3068\u3001\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u306f\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\nf_\\theta(x)=x^\\top\\theta<br \/>\n\\]<\/p>\n<p>\\(x^\\top\\) \u306f\u5165\u529b\u30d9\u30af\u30c8\u30eb\u3092\u8ee2\u7f6e\u3057\u305f\u3082\u306e\u3067\u3042\u308b\u3002\u4f8b\u3048\u3070\u3001\u5165\u529b\u304c\u4e8c\u3064\u306e\u7279\u5fb4 \\(x_1,x_2\\) \u3092\u6301\u3064\u5834\u5408\u3001\u4e88\u6e2c\u5024\u306f \\(x_1\\theta_1+x_2\\theta_2\\) \u3068\u306a\u308b\u3002\u5404\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306f\u5bfe\u5fdc\u3059\u308b\u7279\u5fb4\u304c\u4e88\u6e2c\u306b\u5bc4\u4e0e\u3059\u308b\u5927\u304d\u3055\u3092\u6c7a\u3081\u308b\u305f\u3081\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u66f4\u65b0\u306f\u3001\u305d\u306e\u7279\u5fb4\u3092\u5171\u6709\u3059\u308b\u8907\u6570\u306e\u5165\u529b\u306e\u4e88\u6e2c\u5024\u3092\u540c\u6642\u306b\u5909\u5316\u3055\u305b\u308b\u3002<\/p>\n<p>\u640d\u5931\u306b\u306f\u3001\u4e88\u6e2c\u5024\u3068\u6b63\u89e3\u5024\u306e\u5dee\u3092\u4e8c\u4e57\u3059\u308b\u4e8c\u4e57\u640d\u5931\u3092\u4f7f\u7528\u3059\u308b\u3002\u6b63\u89e3\u5024\u3092 \\(y\\) \u3068\u3059\u308b\u3068\u3001\u30c7\u30fc\u30bf 1 \u4ef6\u306b\u5bfe\u3059\u308b\u640d\u5931\u306f\u6b21\u306e\u3068\u304a\u308a\u3067\u3042\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\ell(\\theta,x,y)<br \/>\n=<br \/>\n\\frac12(x^\\top\\theta-y)^2<br \/>\n\\]<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u306e\u5165\u529b\u3092\u884c\u3054\u3068\u306b\u4e26\u3079\u305f\u7279\u5fb4\u884c\u5217\u3092 \\(X_f\\in\\mathbb R^{m\\times d}\\)\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u7279\u5fb4\u884c\u5217\u3092 \\(X_r\\in\\mathbb R^{(n-m)\\times d}\\) \u3068\u3059\u308b\u3002\u305d\u308c\u305e\u308c\u306e\u6b63\u89e3\u5024\u3092\u307e\u3068\u3081\u305f\u30d9\u30af\u30c8\u30eb\u3092 \\(y_f\\)\u3001\\(y_r\\) \u3068\u66f8\u304f\u3002\u4fdd\u6301\u5bfe\u8c61\u3060\u3051\u3092\u4f7f\u3063\u305f\u76ee\u7684\u95a2\u6570\u306f\u3001\u6b21\u306e\u5f62\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\mathcal R(\\theta)<br \/>\n=<br \/>\n\\frac1{2n}\\|X_r\\theta-y_r\\|_2^2<br \/>\n+<br \/>\n\\frac\\lambda2\\|\\theta\\|_2^2<br \/>\n\\]<\/p>\n<p>\u7b2c\u4e00\u9805\u306f\u4fdd\u6301\u5bfe\u8c61\u306e\u4e88\u6e2c\u8aa4\u5dee\u3092\u4e8c\u4e57\u3057\u3066\u5408\u8a08\u3057\u305f\u5024\u3067\u3042\u308a\u3001\u7b2c\u4e8c\u9805\u306f L2 \u6b63\u5247\u5316\u3067\u3042\u308b\u3002\u5206\u6bcd\u306e \\(n\\) \u306f\u5143\u306e\u5168\u5b66\u7fd2\u30c7\u30fc\u30bf\u6570\u3067\u3042\u308a\u3001\u4fdd\u6301\u5bfe\u8c61\u3060\u3051\u3092\u4f7f\u7528\u3059\u308b\u5834\u5408\u3082\u6b63\u898f\u5316\u3092\u5909\u3048\u306a\u3044\u3002\u3053\u306e\u5b9a\u7fa9\u306b\u3088\u308a\u3001\u5168\u30c7\u30fc\u30bf\u306e\u76ee\u7684\u95a2\u6570\u304b\u3089\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u53d6\u308a\u9664\u3044\u305f\u5834\u5408\u306e\u95a2\u4fc2\u3092\u540c\u3058\u5c3a\u5ea6\u3067\u8868\u305b\u308b\u3002<\/p>\n<p>\u76ee\u7684\u95a2\u6570\u3092\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3067\u4e00\u968e\u5fae\u5206\u3059\u308b\u3068\u3001\u52fe\u914d\u306f\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\nabla\\mathcal R(\\theta)<br \/>\n=<br \/>\n\\frac1nX_r^\\top(X_r\\theta-y_r)<br \/>\n+<br \/>\n\\lambda\\theta<br \/>\n\\]<\/p>\n<p>\u3055\u3089\u306b\u4e8c\u968e\u5fae\u5206\u3059\u308b\u3068\u3001\u30d8\u30c3\u30bb\u884c\u5217\u304c\u5f97\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\nH_r<br \/>\n=<br \/>\n\\nabla^2\\mathcal R(\\theta)<br \/>\n=<br \/>\n\\frac1nX_r^\\top X_r+\\lambda I_d<br \/>\n\\]<\/p>\n<p>\u30d8\u30c3\u30bb\u884c\u5217\u306f\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u5909\u5316\u3055\u305b\u305f\u3068\u304d\u306b\u640d\u5931\u306e\u52fe\u914d\u304c\u3069\u306e\u3088\u3046\u306b\u5909\u5316\u3059\u308b\u304b\u3092\u8868\u3059\u3002\u3053\u3053\u3067 \\(I_d\\) \u306f\u5bfe\u89d2\u6210\u5206\u304c 1\u3001\u305d\u308c\u4ee5\u5916\u304c 0 \u306e \\(d\\) \u6b21\u5358\u4f4d\u884c\u5217\u3067\u3042\u308b\u3002\u7dda\u5f62\u56de\u5e30\u306e\u4e8c\u4e57\u640d\u5931\u3067\u306f\u30d8\u30c3\u30bb\u884c\u5217\u304c\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc \\(\\theta\\) \u306b\u4f9d\u5b58\u3057\u306a\u3044\u305f\u3081\u3001\u540c\u3058 \\(H_r\\) \u3092\u4f7f\u3063\u3066\u7570\u306a\u308b\u30e2\u30c7\u30eb\u306e\u52fe\u914d\u306e\u5dee\u3092\u53b3\u5bc6\u306b\u6c42\u3081\u3089\u308c\u308b\u3002<\/p>\n<p>\\(H_r\\) \u306f\u4fdd\u6301\u5bfe\u8c61\u306e\u7279\u5fb4\u304c\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u7a7a\u9593\u306e\u5404\u65b9\u5411\u3092\u3069\u306e\u7a0b\u5ea6\u5236\u7d04\u3057\u3066\u3044\u308b\u304b\u3092\u8868\u3059\u3002\u3042\u308b\u65b9\u5411\u3078\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u52d5\u304b\u3057\u305f\u3068\u304d\u306b\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u304c\u5927\u304d\u304f\u5909\u5316\u3059\u308b\u306a\u3089\u3001\u305d\u306e\u65b9\u5411\u306e\u66f2\u7387\u306f\u5927\u304d\u3044\u3002\u640d\u5931\u304c\u6bd4\u8f03\u7684\u5909\u5316\u3057\u306b\u304f\u3044\u65b9\u5411\u3067\u306f\u66f2\u7387\u304c\u5c0f\u3055\u3044\u3002\u540c\u3058\u5927\u304d\u3055\u306e\u5fd8\u5374\u52fe\u914d\u3067\u3082\u3001\u3069\u306e\u65b9\u5411\u3078\u4f5c\u7528\u3059\u308b\u304b\u306b\u3088\u3063\u3066\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u4f4d\u306f\u7570\u306a\u308b\u3002<\/p>\n<p>\u6b63\u5247\u5316\u4fc2\u6570 \\(\\lambda>0\\) \u306e\u4e0b\u3067\u306f\u3001\u4efb\u610f\u306e\u96f6\u3067\u306a\u3044\u30d9\u30af\u30c8\u30eb \\(v\\in\\mathbb R^d\\) \u306b\u3064\u3044\u3066\u3001\u6b21\u306e\u95a2\u4fc2\u304c\u6210\u7acb\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\nv^\\top H_rv<br \/>\n&#038;=<br \/>\n\\frac1n v^\\top X_r^\\top X_rv<br \/>\n+\\lambda v^\\top v\\\\<br \/>\n&#038;=<br \/>\n\\frac1n\\|X_rv\\|_2^2<br \/>\n+\\lambda\\|v\\|_2^2\\\\<br \/>\n&#038;>0<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\u7b2c\u4e00\u9805\u306f\u4e8c\u4e57\u548c\u306a\u306e\u3067\u975e\u8ca0\u3067\u3042\u308a\u3001\u7b2c\u4e8c\u9805\u306f \\(\\lambda>0\\) \u304b\u3064 \\(v\\ne0\\) \u306a\u3089\u6b63\u3067\u3042\u308b\u3002\u3053\u306e\u6027\u8cea\u3092\u6b63\u5b9a\u5024\u6027\u3068\u3044\u3046\u3002\\(H_r\\) \u304c\u6b63\u5b9a\u5024\u3067\u3042\u308b\u3053\u3068\u304b\u3089\u9006\u884c\u5217 \\(H_r^{-1}\\) \u304c\u5b58\u5728\u3057\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u3092\u6700\u5c0f\u5316\u3059\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3082\u4e00\u610f\u306b\u5b9a\u307e\u308b\u3002<\/p>\n<p>\u9006\u884c\u5217 \\(H_r^{-1}\\) \u306f\u3001\u5fd8\u5374\u52fe\u914d\u304b\u3089\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u4f4d\u3092\u6c42\u3081\u308b\u3068\u304d\u306b\u73fe\u308c\u308b\u3002\u66f2\u7387\u306e\u5927\u304d\u3044\u65b9\u5411\u3067\u306f\u5909\u4f4d\u304c\u6291\u3048\u3089\u308c\u3001\u66f2\u7387\u306e\u5c0f\u3055\u3044\u65b9\u5411\u3067\u306f\u540c\u3058\u52fe\u914d\u306b\u5bfe\u3059\u308b\u5909\u4f4d\u304c\u5927\u304d\u304f\u306a\u308a\u5f97\u308b\u3002\u30c7\u30fc\u30bf\u70b9\u304c\u5b66\u7fd2\u6e08\u307f\u30e2\u30c7\u30eb\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u3092\u52fe\u914d\u3068\u30d8\u30c3\u30bb\u884c\u5217\u304b\u3089\u8ffd\u8de1\u3059\u308b\u8003\u3048\u65b9\u306f\u3001\u5f71\u97ff\u95a2\u6570\u306b\u3088\u308b\u5206\u6790\u3067\u3082\u4f7f\u7528\u3055\u308c\u308b<a href=\"#ref10\">[10]<\/a>\u3002\u5fd8\u5374\u51e6\u7406\u3067\u306f\u3001\u3053\u306e\u95a2\u4fc2\u3092\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u3078\u7d50\u3073\u4ed8\u3051\u308b\u3002<\/p>\n<h3>4.2 \u518d\u5b66\u7fd2\u524d\u5f8c\u306e\u5fd8\u5374\u6b8b\u5dee\u3092\u3064\u306a\u3050<\/h3>\n<p>\u6b8b\u5dee\u306f\u3001\u30e2\u30c7\u30eb\u306e\u4e88\u6e2c\u5024\u304b\u3089\u6b63\u89e3\u5024\u3092\u5f15\u3044\u305f\u3082\u306e\u3067\u3042\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306b\u3064\u3044\u3066\u3001\u5168\u30c7\u30fc\u30bf\u304b\u3089\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u306e\u6b8b\u5dee\u3092 \\(e_f^+\\)\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u3066\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u306e\u6b8b\u5dee\u3092 \\(e_f^-\\) \u3068\u533a\u5225\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\ne_f^+<br \/>\n=<br \/>\nX_f\\theta^\\star-y_f,<br \/>\n\\qquad<br \/>\ne_f^-<br \/>\n=<br \/>\nX_f\\theta_r^\\star-y_f<br \/>\n\\]<\/p>\n<p>\\(e_f^+\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u3082\u5b66\u7fd2\u306b\u4f7f\u7528\u3057\u305f\u30e2\u30c7\u30eb\u306e\u6b8b\u5dee\u3067\u3042\u308a\u3001\\(e_f^-\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u3092\u5b66\u7fd2\u306b\u4f7f\u7528\u3057\u306a\u304b\u3063\u305f\u30e2\u30c7\u30eb\u306e\u6b8b\u5dee\u3067\u3042\u308b\u3002\u3069\u3061\u3089\u3082\u540c\u3058\u5fd8\u5374\u5bfe\u8c61\u306e\u5165\u529b\u3068\u6b63\u89e3\u5024\u3092\u4f7f\u3063\u3066\u8a08\u7b97\u3059\u308b\u304c\u3001\u4e88\u6e2c\u3092\u751f\u6210\u3059\u308b\u30e2\u30c7\u30eb\u304c\u7570\u306a\u308b\u3002\u5168\u30c7\u30fc\u30bf\u306e\u5b66\u7fd2\u306b\u3088\u3063\u3066\u5bfe\u8c61\u30c7\u30fc\u30bf\u3078\u306e\u4e88\u6e2c\u304c\u6539\u5584\u3057\u3066\u3044\u305f\u5834\u5408\u3001\u305d\u306e\u60c5\u5831\u3092\u9664\u304f\u3053\u3068\u3067\u6b8b\u5dee\u304c\u5909\u5316\u3059\u308b\u3002<\/p>\n<p>\u3053\u306e\u4e8c\u3064\u306e\u6b8b\u5dee\u306e\u95a2\u4fc2\u306f\u3001\u76ee\u7684\u95a2\u6570\u306e\u505c\u7559\u6761\u4ef6\u304b\u3089\u5c0e\u3051\u308b\u3002\u5143\u30e2\u30c7\u30eb\u306f\u5168\u30c7\u30fc\u30bf\u306e\u640d\u5931\u3092\u6700\u5c0f\u5316\u3057\u3066\u3044\u308b\u305f\u3081\u3001\u52fe\u914d\u304c\u96f6\u306b\u306a\u308b\u6761\u4ef6\u306f\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\nabla\\mathcal R(\\theta^\\star)<br \/>\n+<br \/>\n\\frac1nX_f^\\top e_f^+<br \/>\n=<br \/>\n0<br \/>\n\\]<\/p>\n<p>\u4e00\u65b9\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306f\u4fdd\u6301\u5bfe\u8c61\u3060\u3051\u306e\u76ee\u7684\u95a2\u6570\u3092\u6700\u5c0f\u5316\u3057\u3066\u3044\u308b\u306e\u3067\u3001\u6b21\u306e\u6761\u4ef6\u3092\u6e80\u305f\u3059\u3002<\/p>\n<p>\\[<br \/>\n\\nabla\\mathcal R(\\theta_r^\\star)=0<br \/>\n\\]<\/p>\n<p>\u4e21\u8005\u306e\u9055\u3044\u306f\u3001\u5143\u30e2\u30c7\u30eb\u306e\u505c\u7559\u6761\u4ef6\u306b\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u304b\u3089\u751f\u3058\u308b\u52fe\u914d\u304c\u542b\u307e\u308c\u3066\u3044\u308b\u3053\u3068\u3067\u3042\u308b\u3002\u4fdd\u6301\u5bfe\u8c61\u306e\u76ee\u7684\u95a2\u6570\u306f\u4e8c\u6b21\u95a2\u6570\u3067\u3042\u308a\u3001\u52fe\u914d\u306e\u5dee\u3092\u30d8\u30c3\u30bb\u884c\u5217\u3067\u53b3\u5bc6\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\nabla\\mathcal R(\\theta_r^\\star)<br \/>\n&#8211;<br \/>\n\\nabla\\mathcal R(\\theta^\\star)<br \/>\n=<br \/>\nH_r(\\theta_r^\\star-\\theta^\\star)<br \/>\n\\]<\/p>\n<p>\u3053\u308c\u306b\u4e8c\u3064\u306e\u505c\u7559\u6761\u4ef6\u3092\u4ee3\u5165\u3059\u308b\u3068\u3001\u518d\u5b66\u7fd2\u306b\u3088\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u306f\u6b21\u306e\u95a2\u4fc2\u3092\u6e80\u305f\u3059\u3002<\/p>\n<p>\\[<br \/>\nH_r(\\theta_r^\\star-\\theta^\\star)<br \/>\n=<br \/>\n\\frac1nX_f^\\top e_f^+<br \/>\n\\]<\/p>\n<p>\u53f3\u8fba\u306e \\(X_f^\\top e_f^+\\) \u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u3068\u6b8b\u5dee\u304b\u3089\u69cb\u6210\u3055\u308c\u308b\u30d9\u30af\u30c8\u30eb\u3067\u3042\u308b\u3002\u3053\u306e\u30d9\u30af\u30c8\u30eb\u304c\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u5b66\u7fd2\u306b\u542b\u3081\u305f\u3053\u3068\u306b\u3088\u308b\u52fe\u914d\u306e\u5bc4\u4e0e\u3092\u8868\u3057\u3066\u3044\u308b\u3002\u5de6\u8fba\u306b\u306f\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u3068\u3001\u518d\u5b66\u7fd2\u306b\u3088\u3063\u3066\u751f\u3058\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u304c\u73fe\u308c\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u5f71\u97ff\u3092\u53d6\u308a\u9664\u3044\u305f\u3068\u304d\u306e\u5909\u4f4d\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u3060\u3051\u3067\u306a\u304f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u306b\u3082\u4f9d\u5b58\u3059\u308b\u3002<\/p>\n<p>\\(H_r\\) \u306f\u6b63\u5b9a\u5024\u306a\u306e\u3067\u3001\u5de6\u304b\u3089\u9006\u884c\u5217\u3092\u639b\u3051\u308b\u3053\u3068\u3067\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3092\u89e3\u3051\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\theta_r^\\star-\\theta^\\star<br \/>\n=<br \/>\n\\frac1nH_r^{-1}X_f^\\top e_f^+<br \/>\n\\]<\/p>\n<p>\u6b8b\u5dee\u306e\u5b9a\u7fa9\u304b\u3089\u3001\u518d\u5b66\u7fd2\u524d\u5f8c\u306e\u6b8b\u5dee\u306e\u5dee\u306f \\(X_f(\\theta_r^\\star-\\theta^\\star)\\) \u3067\u3042\u308b\u3002\u3053\u306e\u95a2\u4fc2\u306b\u5148\u307b\u3069\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3092\u4ee3\u5165\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\ne_f^- -e_f^+<br \/>\n&#038;=<br \/>\nX_f(\\theta_r^\\star-\\theta^\\star)\\\\<br \/>\n&#038;=<br \/>\n\\frac1nX_fH_r^{-1}X_f^\\top e_f^+<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5f0f\u3067\u306f\u3001\u5143\u30e2\u30c7\u30eb\u306e\u5fd8\u5374\u5bfe\u8c61\u6b8b\u5dee \\(e_f^+\\) \u304c\u3001\u7279\u5fb4\u884c\u5217 \\(X_f\\) \u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387 \\(H_r\\) \u3092\u901a\u3058\u3066\u518d\u5b66\u7fd2\u5f8c\u306e\u6b8b\u5dee\u3078\u5909\u63db\u3055\u308c\u308b\u3002\u5909\u63db\u3092\u6c7a\u3081\u308b\u306e\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u5165\u529b\u7279\u5fb4\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u306b\u5bfe\u3057\u3066\u3069\u306e\u3088\u3046\u306a\u95a2\u4fc2\u3092\u6301\u3064\u304b\u3068\u3044\u3046\u69cb\u9020\u3067\u3042\u308b\u3002<\/p>\n<p>\u4f8b\u3048\u3070\u3001\u5fd8\u5374\u5bfe\u8c61\u306b\u56fa\u6709\u306e\u7279\u5fb4\u65b9\u5411\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u306b\u3088\u3063\u3066\u5341\u5206\u5236\u7d04\u3055\u308c\u3066\u3044\u306a\u3051\u308c\u3070\u3001\u305d\u306e\u65b9\u5411\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306f\u6bd4\u8f03\u7684\u5927\u304d\u304f\u5909\u5316\u3057\u5f97\u308b\u3002\u4e00\u65b9\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u304c\u5927\u304d\u306a\u66f2\u7387\u3092\u6301\u3064\u65b9\u5411\u3067\u306f\u3001\u540c\u3058\u5fd8\u5374\u52fe\u914d\u306b\u5bfe\u3059\u308b\u5909\u4f4d\u304c\u6291\u3048\u3089\u308c\u308b\u3002\u3053\u306e\u9055\u3044\u304c\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u306b\u3082\u53cd\u6620\u3055\u308c\u308b\u3002<\/p>\n<h3>4.3 \u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u3068\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8<\/h3>\n<p>\u518d\u5b66\u7fd2\u524d\u5f8c\u306e\u6b8b\u5dee\u3092\u7d50\u3076\u5f0f\u306b\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u884c\u5217\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u884c\u5217\u304c\u73fe\u308c\u305f\u3002\u3053\u306e\u884c\u5217\u3092\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u3068\u547c\u3076\u3002\u307e\u305f\u3001\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u66f4\u65b0\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u3078\u3069\u306e\u3088\u3046\u306b\u4f1d\u308f\u308b\u304b\u3092\u8868\u3059\u305f\u3081\u306b\u3001\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u3092\u5b9a\u7fa9\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\nK_{ff}<br \/>\n=<br \/>\nX_fH_r^{-1}X_f^\\top<br \/>\n\\]<\/p>\n<p>\\[<br \/>\nK_{rf}<br \/>\n=<br \/>\nX_rH_r^{-1}X_f^\\top<br \/>\n\\]<\/p>\n<p>\\(K_{ff}\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u540c\u58eb\u306e\u95a2\u4fc2\u3092\u8868\u3059 \\(m\\times m\\) \u884c\u5217\u3067\u3042\u308b\u3002\u884c\u3068\u5217\u306f\u305d\u308c\u305e\u308c\u5fd8\u5374\u5bfe\u8c61\u306e\u30c7\u30fc\u30bf\u306b\u5bfe\u5fdc\u3057\u3066\u3044\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u5404\u7279\u5fb4\u30d9\u30af\u30c8\u30eb\u3092 \\(x_{f,i}\\) \u3068\u3059\u308b\u3068\u3001\u305d\u306e \\((i,j)\\) \u6210\u5206\u306f\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n(K_{ff})_{ij}<br \/>\n=<br \/>\nx_{f,i}^\\top H_r^{-1}x_{f,j}<br \/>\n\\]<\/p>\n<p>\u5bfe\u89d2\u6210\u5206\u306f\u3001\u540c\u3058\u5fd8\u5374\u30c7\u30fc\u30bf\u306e\u7279\u5fb4\u30d9\u30af\u30c8\u30eb\u3092\u4e21\u5074\u306b\u7f6e\u3044\u305f\u91cf\u3067\u3042\u308b\u3002\u3053\u308c\u306f\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u3092\u8003\u616e\u3057\u305f\u7279\u5fb4\u65b9\u5411\u306e\u5927\u304d\u3055\u3092\u8868\u3059\u3002\u975e\u5bfe\u89d2\u6210\u5206\u306f\u3001\u7570\u306a\u308b\u5fd8\u5374\u30c7\u30fc\u30bf\u306e\u7279\u5fb4\u65b9\u5411\u304c\u3001\u540c\u3058\u66f2\u7387\u306e\u5c3a\u5ea6\u3067\u3069\u306e\u3088\u3046\u306b\u91cd\u306a\u3063\u3066\u3044\u308b\u304b\u3092\u8868\u3059\u3002\u901a\u5e38\u306e\u5185\u7a4d\u3068\u7570\u306a\u308a\u3001\\(H_r^{-1}\\) \u304c\u9593\u306b\u5165\u308b\u305f\u3081\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u304c\u3069\u306e\u65b9\u5411\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u5316\u3092\u8a31\u5bb9\u3057\u3084\u3059\u3044\u304b\u304c\u53cd\u6620\u3055\u308c\u308b\u3002<\/p>\n<p>\\(K_{rf}\\) \u306f\u4fdd\u6301\u5bfe\u8c61\u3068\u5fd8\u5374\u5bfe\u8c61\u306e\u95a2\u4fc2\u3092\u8868\u3059 \\((n-m)\\times m\\) \u884c\u5217\u3067\u3042\u308b\u3002\u4fdd\u6301\u5bfe\u8c61\u306e\u7279\u5fb4\u30d9\u30af\u30c8\u30eb\u3092 \\(x_{r,i}\\) \u3068\u3059\u308b\u3068\u3001\u6210\u5206\u306f\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n(K_{rf})_{ij}<br \/>\n=<br \/>\nx_{r,i}^\\top H_r^{-1}x_{f,j}<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5024\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u65b9\u5411\u306b\u6cbf\u3063\u3066\u751f\u3058\u305f\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u304c\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u5165\u529b\u306b\u5bfe\u3057\u3066\u3069\u306e\u3088\u3046\u306a\u51fa\u529b\u5909\u5316\u3092\u751f\u3080\u304b\u3092\u6c7a\u3081\u308b\u3002\u5024\u304c\u6b63\u306e\u5834\u5408\u3068\u8ca0\u306e\u5834\u5408\u3067\u306f\u3001\u540c\u3058\u6b8b\u5dee\u306b\u5bfe\u3059\u308b\u51fa\u529b\u5909\u5316\u306e\u65b9\u5411\u304c\u7570\u306a\u308a\u3001\u8907\u6570\u306e\u5fd8\u5374\u5bfe\u8c61\u304b\u3089\u306e\u5bc4\u4e0e\u304c\u6253\u3061\u6d88\u3057\u5408\u3046\u3053\u3068\u3082\u3042\u308b\u3002\u305d\u306e\u305f\u3081\u3001\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u5404\u6210\u5206\u306e\u7d76\u5bfe\u5024\u3060\u3051\u3067\u6700\u7d42\u7684\u306a\u51fa\u529b\u5dee\u3092\u5224\u65ad\u3059\u308b\u3053\u3068\u306f\u3067\u304d\u305a\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u30d9\u30af\u30c8\u30eb\u3068\u306e\u7a4d\u3092\u8003\u3048\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u884c\u5217<\/th>\n<th>\u6b21\u5143<\/th>\n<th>\u8868\u3059\u95a2\u4fc2<\/th>\n<th>\u51fa\u529b\u5dee\u306b\u304a\u3051\u308b\u5f79\u5272<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8 \\(K_{ff}\\)<\/td>\n<td>\\(m\\times m\\)<\/td>\n<td>\u5fd8\u5374\u5bfe\u8c61\u540c\u58eb\u306e\u7279\u5fb4\u65b9\u5411\u306e\u95a2\u4fc2\u3092\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u3092\u8003\u616e\u3057\u3066\u8868\u3059\u3002<\/td>\n<td>\u5fd8\u5374\u5bfe\u8c61\u306b\u7531\u6765\u3059\u308b\u6b8b\u5dee\u306e\u5897\u5e45\u3068\u3001\u5fd8\u5374\u5bfe\u8c61\u81ea\u8eab\u306e\u51fa\u529b\u5909\u5316\u3092\u6c7a\u3081\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8 \\(K_{rf}\\)<\/td>\n<td>\\((n-m)\\times m\\)<\/td>\n<td>\u4fdd\u6301\u5bfe\u8c61\u3068\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u65b9\u5411\u306e\u95a2\u4fc2\u3092\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u3092\u8003\u616e\u3057\u3066\u8868\u3059\u3002<\/td>\n<td>\u5fd8\u5374\u5bfe\u8c61\u306b\u7531\u6765\u3059\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u304c\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u3078\u4f1d\u308f\u308b\u7a0b\u5ea6\u3092\u6c7a\u3081\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u3092\u7528\u3044\u308b\u3068\u3001\u524d\u7bc0\u3067\u5c0e\u3044\u305f\u518d\u5b66\u7fd2\u524d\u5f8c\u306e\u6b8b\u5dee\u306e\u95a2\u4fc2\u306f\u7c21\u6f54\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\ne_f^-<br \/>\n=<br \/>\n\\left(I_m+\\frac1nK_{ff}\\right)e_f^+<br \/>\n\\]<\/p>\n<p>\\(I_m\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u6570 \\(m\\) \u306b\u5bfe\u5fdc\u3059\u308b\u5358\u4f4d\u884c\u5217\u3067\u3042\u308b\u3002\u3053\u306e\u5f0f\u306f\u3001\u5143\u30e2\u30c7\u30eb\u306e\u5fd8\u5374\u5bfe\u8c61\u6b8b\u5dee\u306b\u5bfe\u3057\u3066\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306b\u57fa\u3065\u304f\u5909\u63db\u3092\u52a0\u3048\u308b\u3053\u3068\u3067\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u6b8b\u5dee\u304c\u5f97\u3089\u308c\u308b\u3053\u3068\u3092\u8868\u3057\u3066\u3044\u308b\u3002\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306f\u5bfe\u79f0\u306a\u534a\u6b63\u5b9a\u5024\u884c\u5217\u3067\u3042\u308a\u3001\u4efb\u610f\u306e\u30d9\u30af\u30c8\u30eb \\(z\\in\\mathbb R^m\\) \u306b\u3064\u3044\u3066\u6b21\u306e\u95a2\u4fc2\u304c\u6210\u7acb\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\nz^\\top K_{ff}z<br \/>\n=<br \/>\n(X_f^\\top z)^\\top<br \/>\nH_r^{-1}<br \/>\n(X_f^\\top z)<br \/>\n\\geq0<br \/>\n\\]<\/p>\n<p>\\(H_r^{-1}\\) \u304c\u6b63\u5b9a\u5024\u3067\u3042\u308b\u305f\u3081\u3001\u53f3\u8fba\u306f\u975e\u8ca0\u3068\u306a\u308b\u3002\u3053\u306e\u6027\u8cea\u304b\u3089 \\(I_m+K_{ff}\/n\\) \u306e\u56fa\u6709\u5024\u306f\u3059\u3079\u3066 1 \u4ee5\u4e0a\u3068\u306a\u308a\u3001\u9006\u884c\u5217\u304c\u5b58\u5728\u3059\u308b\u3002\u3057\u305f\u304c\u3063\u3066\u3001\u6b8b\u5dee\u306e\u95a2\u4fc2\u3092\u9006\u5411\u304d\u306b\u89e3\u304f\u3053\u3068\u3082\u3067\u304d\u308b\u3002<\/p>\n<p>\\[<br \/>\ne_f^+<br \/>\n=<br \/>\n\\left(I_m+\\frac1nK_{ff}\\right)^{-1}e_f^-<br \/>\n\\]<\/p>\n<p>\\(e_f^+\\) \u306f\u5168\u30c7\u30fc\u30bf\u5b66\u7fd2\u6e08\u307f\u30e2\u30c7\u30eb\u306e\u4e88\u6e2c\u3068\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u89e3\u5024\u304b\u3089\u8a08\u7b97\u3067\u304d\u308b\u3002\u4e00\u65b9\u3001\\(e_f^-\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u3066\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u306e\u6b8b\u5dee\u3067\u3042\u308b\u3002\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u3092\u7528\u3044\u305f\u5909\u63db\u5f0f\u306f\u4e21\u8005\u3092\u6570\u5b66\u7684\u306b\u7d50\u3073\u4ed8\u3051\u308b\u304c\u3001\u5b9f\u969b\u306b\u8a08\u7b97\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u7279\u5fb4\u884c\u5217\u3084\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u306b\u30a2\u30af\u30bb\u30b9\u3067\u304d\u308b\u304b\u3068\u3044\u3046\u6761\u4ef6\u304c\u95a2\u308f\u308b\u3002\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3092\u76f4\u63a5\u4f5c\u6210\u305b\u305a\u306b\u8a55\u4fa1\u91cf\u3092\u63a8\u5b9a\u3059\u308b\u5834\u5408\u3082\u3001\u3053\u306e\u60c5\u5831\u306e\u5229\u7528\u53ef\u80fd\u6027\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u3068\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u5f79\u5272\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u3092\u8003\u3048\u308b\u3068\u660e\u78ba\u306b\u306a\u308b\u3002\u5fd8\u5374\u51e6\u7406\u306b\u3088\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3092 \\(\\delta\\theta\\) \u3068\u3059\u308b\u3068\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u5909\u5316\u306f \\(X_r\\delta\\theta\\)\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u5909\u5316\u306f \\(X_f\\delta\\theta\\) \u3067\u3042\u308b\u3002\u3069\u3061\u3089\u3082\u540c\u3058\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u304b\u3089\u751f\u3058\u308b\u304c\u3001\u5165\u529b\u7279\u5fb4\u3092\u8868\u3059\u884c\u5217\u304c\u7570\u306a\u308b\u305f\u3081\u3001\u51fa\u529b\u5909\u5316\u306e\u5927\u304d\u3055\u3068\u65b9\u5411\u306f\u4e00\u81f4\u3057\u306a\u3044\u3002<\/p>\n<p>\u4f8b\u3048\u3070\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u65b9\u5411\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u7279\u5fb4\u65b9\u5411\u304c\u3001\\(H_r^{-1}\\) \u3092\u4ecb\u3057\u305f\u5185\u7a4d\u3067\u76f4\u4ea4\u3057\u3066\u3044\u308c\u3070\u3001\u5bfe\u5fdc\u3059\u308b\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u6210\u5206\u306f\u96f6\u306b\u306a\u308b\u3002\u305d\u306e\u5834\u5408\u3001\u305d\u306e\u5fd8\u5374\u65b9\u5411\u304b\u3089\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u4e00\u6b21\u7684\u306a\u51fa\u529b\u5909\u5316\u306f\u751f\u3058\u306a\u3044\u3002\u4e00\u65b9\u3001\u4e21\u8005\u304c\u540c\u3058\u7279\u5fb4\u65b9\u5411\u306b\u4f9d\u5b58\u3057\u3066\u3044\u308c\u3070\u3001\u5fd8\u5374\u5bfe\u8c61\u306b\u7531\u6765\u3059\u308b\u66f4\u65b0\u304c\u4fdd\u6301\u5bfe\u8c61\u306b\u3082\u4f5c\u7528\u3059\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u4f9d\u5b58\u95a2\u4fc2\u3092\u3001\u5358\u306a\u308b\u30c7\u30fc\u30bf\u6570\u3084\u5206\u985e\u30e9\u30d9\u30eb\u306e\u4e00\u81f4\u3067\u306f\u306a\u304f\u3001\u7279\u5fb4\u65b9\u5411\u3068\u66f2\u7387\u306e\u95a2\u4fc2\u3068\u3057\u3066\u8868\u305b\u308b\u70b9\u306b\u3001\u3053\u306e\u4e8c\u3064\u306e\u884c\u5217\u3092\u5c0e\u5165\u3059\u308b\u610f\u5473\u304c\u3042\u308b\u3002<\/p>\n<h3>4.4 GradDiff \u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3092\u89e3\u304f<\/h3>\n<p>GradDiff \u306b\u3088\u308b\u5fd8\u5374\u3067\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u3092\u6e1b\u3089\u3057\u306a\u304c\u3089\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u5897\u3084\u3059\u3002\u7dda\u5f62\u56de\u5e30\u3067\u306f\u4e21\u8005\u306e\u52fe\u914d\u3092\u7279\u5fb4\u884c\u5217\u3067\u8868\u305b\u308b\u305f\u3081\u3001GradDiff \u306b\u3088\u3063\u3066\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304b\u3089\u3069\u308c\u3060\u3051\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u304c\u5909\u4f4d\u3059\u308b\u304b\u3092\u53b3\u5bc6\u306b\u6c42\u3081\u3089\u308c\u308b\u3002<\/p>\n<p>\u4fdd\u6301\u5bfe\u8c61\u306e\u52fe\u914d\u3068\u5fd8\u5374\u5bfe\u8c61\u306e\u52fe\u914d\u306f\u3001\u305d\u308c\u305e\u308c\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\nabla\\mathcal R(\\theta)<br \/>\n=<br \/>\nH_r\\theta-\\frac1nX_r^\\top y_r<br \/>\n\\]<\/p>\n<p>\\[<br \/>\n\\nabla\\mathcal F(\\theta)<br \/>\n=<br \/>\n\\frac1nX_f^\\top(X_f\\theta-y_f)<br \/>\n\\]<\/p>\n<p>GradDiff \u306e\u505c\u7559\u6761\u4ef6\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u52fe\u914d\u304b\u3089\u5fd8\u5374\u5bfe\u8c61\u306e\u52fe\u914d\u306b\u4fc2\u6570 \\(\\rho>0\\) \u3092\u639b\u3051\u305f\u3082\u306e\u3092\u5f15\u304d\u3001\u305d\u306e\u7d50\u679c\u3092\u96f6\u3068\u3059\u308b\u6761\u4ef6\u3067\u3042\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\nabla\\mathcal R(\\theta_\\rho)<br \/>\n&#8211;<br \/>\n\\rho\\nabla\\mathcal F(\\theta_\\rho)<br \/>\n=<br \/>\n0<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5f0f\u306b\u5148\u307b\u3069\u306e\u52fe\u914d\u3092\u4ee3\u5165\u3059\u308b\u3068\u3001\u6b21\u306e\u95a2\u4fc2\u304c\u5f97\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\nH_r\\theta_\\rho<br \/>\n-\\frac1nX_r^\\top y_r<br \/>\n-\\frac\\rho nX_f^\\top(X_f\\theta_\\rho-y_f)<br \/>\n=<br \/>\n0<br \/>\n\\]<\/p>\n<p>\u4e00\u65b9\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306f\u4fdd\u6301\u5bfe\u8c61\u306e\u76ee\u7684\u95a2\u6570\u3092\u6700\u5c0f\u5316\u3059\u308b\u305f\u3081\u3001\u6b21\u306e\u505c\u7559\u6761\u4ef6\u3092\u6e80\u305f\u3059\u3002<\/p>\n<p>\\[<br \/>\nH_r\\theta_r^\\star<br \/>\n-\\frac1nX_r^\\top y_r<br \/>\n=<br \/>\n0<br \/>\n\\]<\/p>\n<p>\u4e8c\u3064\u306e\u5f0f\u3092\u5dee\u3057\u5f15\u304f\u3068\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u6b63\u89e3\u5024 \\(y_r\\) \u306b\u95a2\u3059\u308b\u9805\u304c\u6d88\u3048\u308b\u3002\u6b8b\u308b\u306e\u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304b\u3089\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3068\u3001\u5fd8\u5374\u5bfe\u8c61\u306b\u5bfe\u3059\u308b\u6b8b\u5dee\u306e\u95a2\u4fc2\u3067\u3042\u308b\u3002<\/p>\n<p>\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3092 \\(\\delta\\theta=\\theta_\\rho-\\theta_r^\\star\\) \u3068\u5b9a\u7fa9\u3059\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u4e88\u6e2c\u5024\u306f\u3001\\(\\theta_\\rho=\\theta_r^\\star+\\delta\\theta\\) \u3092\u7528\u3044\u3066\u6b21\u306e\u3088\u3046\u306b\u5206\u89e3\u3067\u304d\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\nX_f\\theta_\\rho-y_f<br \/>\n&#038;=<br \/>\nX_f(\\theta_r^\\star+\\delta\\theta)-y_f\\\\<br \/>\n&#038;=<br \/>\ne_f^-+X_f\\delta\\theta<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u95a2\u4fc2\u3092\u505c\u7559\u6761\u4ef6\u306e\u5dee\u3078\u4ee3\u5165\u3059\u308b\u3068\u3001\u6b21\u306e\u5f0f\u304c\u5f97\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\nH_r\\delta\\theta<br \/>\n=<br \/>\n\\frac\\rho nX_f^\\top<br \/>\n(e_f^-+X_f\\delta\\theta)<br \/>\n\\]<\/p>\n<p>\u53f3\u8fba\u306e \\(X_f\\delta\\theta\\) \u306f\u3001\u5fd8\u5374\u51e6\u7406\u306b\u3088\u3063\u3066\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u81ea\u4f53\u304c\u5909\u5316\u3059\u308b\u3053\u3068\u3092\u8868\u3057\u3066\u3044\u308b\u3002\u5fd8\u5374\u640d\u5931\u306e\u52fe\u914d\u306f\u66f4\u65b0\u5f8c\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3067\u8a55\u4fa1\u3055\u308c\u308b\u305f\u3081\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u6b8b\u5dee \\(e_f^-\\) \u3060\u3051\u3092\u4f7f\u3063\u3066\u5909\u4f4d\u3092\u6c7a\u5b9a\u3059\u308b\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002\u66f4\u65b0\u306b\u3088\u3063\u3066\u751f\u3058\u305f\u51fa\u529b\u5909\u5316\u304c\u3001\u3055\u3089\u306b\u5fd8\u5374\u640d\u5931\u306e\u52fe\u914d\u3078\u53cd\u6620\u3055\u308c\u308b\u95a2\u4fc2\u306b\u306a\u3063\u3066\u3044\u308b\u3002<\/p>\n<p>\\(\\delta\\theta\\) \u3092\u542b\u3080\u9805\u3092\u5de6\u8fba\u306b\u307e\u3068\u3081\u308b\u3068\u3001\u6b21\u306e\u7dda\u5f62\u65b9\u7a0b\u5f0f\u3068\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\left(<br \/>\nH_r-\\frac\\rho nX_f^\\top X_f<br \/>\n\\right)\\delta\\theta<br \/>\n=<br \/>\n\\frac\\rho nX_f^\\top e_f^-<br \/>\n\\]<\/p>\n<p>\u5de6\u8fba\u306e\u884c\u5217\u3092 \\(M_\\rho\\) \u3068\u5b9a\u7fa9\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\nM_\\rho<br \/>\n=<br \/>\nH_r-\\frac\\rho nX_f^\\top X_f<br \/>\n\\]<\/p>\n<p>\\(H_r\\) \u306f\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u304c\u6301\u3064\u66f2\u7387\u3067\u3042\u308a\u3001\\(X_f^\\top X_f\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u304b\u3089\u751f\u3058\u308b\u66f2\u7387\u3067\u3042\u308b\u3002GradDiff \u3067\u306f\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u8ca0\u306e\u7b26\u53f7\u3067\u76ee\u7684\u95a2\u6570\u306b\u52a0\u3048\u308b\u305f\u3081\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u66f2\u7387\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u304b\u3089\u5dee\u3057\u5f15\u304b\u308c\u308b\u3002\u5fd8\u5374\u4fc2\u6570 \\(\\rho\\) \u304c\u5927\u304d\u304f\u306a\u308b\u3068\u3001\u3053\u306e\u5dee\u3057\u5f15\u304d\u306e\u5f71\u97ff\u3082\u5897\u52a0\u3059\u308b\u3002<\/p>\n<p>\\(M_\\rho\\) \u304c\u6b63\u5b9a\u5024\u3067\u3042\u308c\u3070\u3001GradDiff \u306e\u76ee\u7684\u95a2\u6570\u306f\u53b3\u5bc6\u306b\u51f8\u3068\u306a\u308a\u3001\u6700\u5c0f\u89e3\u304c\u4e00\u610f\u306b\u5b9a\u307e\u308b\u3002\u307e\u305f\u3001\\(M_\\rho^{-1}\\) \u304c\u5b58\u5728\u3059\u308b\u305f\u3081\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u306f\u6b21\u306e\u3088\u3046\u306b\u6c42\u3081\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\delta\\theta<br \/>\n=<br \/>\n\\frac\\rho n<br \/>\n\\left(<br \/>\nH_r-\\frac\\rho nX_f^\\top X_f<br \/>\n\\right)^{-1}<br \/>\nX_f^\\top e_f^-<br \/>\n\\]<\/p>\n<p>\u53f3\u8fba\u306e \\(X_f^\\top e_f^-\\) \u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u304b\u3089\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u7a7a\u9593\u3078\u623b\u3055\u308c\u305f\u52fe\u914d\u65b9\u5411\u3067\u3042\u308b\u3002\u9006\u884c\u5217\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u3068\u5fd8\u5374\u5bfe\u8c61\u306e\u66f2\u7387\u306e\u5dee\u3092\u8003\u616e\u3057\u3066\u3001\u305d\u306e\u65b9\u5411\u304c\u3069\u306e\u7a0b\u5ea6\u306e\u5909\u4f4d\u306b\u306a\u308b\u304b\u3092\u6c7a\u3081\u308b\u3002\u4fc2\u6570 \\(\\rho\/n\\) \u306f\u5fd8\u5374\u640d\u5931\u306e\u76f8\u5bfe\u7684\u306a\u5bc4\u4e0e\u3092\u8868\u3059\u3002<\/p>\n<p>\u3053\u306e\u5f0f\u304b\u3089\u3001GradDiff \u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u306f\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u3060\u3051\u3067\u6c7a\u307e\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3053\u3068\u304c\u5206\u304b\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u304c\u3069\u306e\u65b9\u5411\u3078\u52fe\u914d\u3092\u4f5c\u308a\u3001\u305d\u306e\u65b9\u5411\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u306b\u3088\u3063\u3066\u3069\u306e\u7a0b\u5ea6\u5236\u7d04\u3055\u308c\u308b\u304b\u304c\u3001\u6700\u7d42\u7684\u306a\u5909\u4f4d\u3092\u6c7a\u5b9a\u3059\u308b\u3002\u3055\u3089\u306b\u3001\u3053\u306e\u5909\u4f4d\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u3078\u3069\u306e\u3088\u3046\u306b\u4f1d\u308f\u308b\u304b\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u7279\u5fb4\u884c\u5217\u3092\u639b\u3051\u5408\u308f\u305b\u308b\u3053\u3068\u3067\u6c42\u3081\u3089\u308c\u308b\u3002<\/p>\n<h3>4.5 \u51fa\u529b\u5dee\u306e\u9589\u5f62\u5f0f<\/h3>\n<p>GradDiff \u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u304c\u6c42\u307e\u3063\u305f\u306e\u3067\u3001\u8a55\u4fa1\u96c6\u5408\u306b\u5bfe\u3059\u308b\u51fa\u529b\u5dee\u3092\u8a08\u7b97\u3059\u308b\u3002\u7dda\u5f62\u56de\u5e30\u3067\u306f \\(f_\\theta(X_a)=X_a\\theta\\) \u3067\u3042\u308b\u305f\u3081\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304b\u3089\u306e\u51fa\u529b\u5dee\u306f\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\n\\Delta_a<br \/>\n&#038;=<br \/>\nf_{\\theta_\\rho}(X_a)<br \/>\n-f_{\\theta_r^\\star}(X_a)\\\\<br \/>\n&#038;=<br \/>\nX_a(\\theta_\\rho-\\theta_r^\\star)\\\\<br \/>\n&#038;=<br \/>\nX_a\\delta\\theta<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\u6dfb\u5b57 \\(a\\) \u306f\u8a55\u4fa1\u5bfe\u8c61\u306e\u30c7\u30fc\u30bf\u96c6\u5408\u3092\u793a\u3059\u3002\u5fd8\u5374\u5bfe\u8c61\u3067\u306f \\(a=f\\)\u3001\u4fdd\u6301\u5bfe\u8c61\u3067\u306f \\(a=r\\) \u3067\u3042\u308b\u3002\u51fa\u529b\u5dee\u3092\u76f4\u63a5\u8a08\u7b97\u3059\u308b\u306b\u306f\u3001\u5148\u307b\u3069\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u306e\u5f0f\u306b \\(X_a\\) \u3092\u639b\u3051\u308c\u3070\u3088\u3044\u3002\u3057\u304b\u3057\u3001\u305d\u306e\u307e\u307e\u3067\u306f \\(d\\) \u6b21\u5143\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u7a7a\u9593\u306b\u304a\u3051\u308b\u9006\u884c\u5217\u304c\u6b8b\u308b\u305f\u3081\u3001\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u95a2\u4fc2\u304c\u8aad\u307f\u53d6\u308a\u306b\u304f\u3044\u3002<\/p>\n<p>\u305d\u3053\u3067\u3001\u4efb\u610f\u306e\u8a55\u4fa1\u96c6\u5408 \\(X_a\\) \u3068\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u884c\u5217\u3092\u7d50\u3076\u884c\u5217\u3092\u5b9a\u7fa9\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\nK_{af}<br \/>\n=<br \/>\nX_aH_r^{-1}X_f^\\top<br \/>\n\\]<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u3092\u8a55\u4fa1\u3059\u308b\u5834\u5408\u306f \\(K_{af}=K_{ff}\\)\u3001\u4fdd\u6301\u5bfe\u8c61\u3092\u8a55\u4fa1\u3059\u308b\u5834\u5408\u306f \\(K_{af}=K_{rf}\\) \u3068\u306a\u308b\u3002\u3053\u306e\u5b9a\u7fa9\u306b\u3088\u3063\u3066\u3001\u540c\u3058\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u304c\u7570\u306a\u308b\u8a55\u4fa1\u96c6\u5408\u306e\u51fa\u529b\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u3092\u3001\u5171\u901a\u3057\u305f\u5f62\u3067\u8868\u305b\u308b\u3002<\/p>\n<p>\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u306e\u5f0f\u306b\u3042\u308b\u9006\u884c\u5217\u3092\u6574\u7406\u3059\u308b\u3002\u307e\u305a\u3001\\(M_\\rho\\) \u306e\u5b9a\u7fa9\u3092\u7528\u3044\u308b\u3068\u3001\u6b21\u306e\u95a2\u4fc2\u304c\u6210\u7acb\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\nM_\\rho H_r^{-1}X_f^\\top<br \/>\n&#038;=<br \/>\n\\left(<br \/>\nH_r-\\frac\\rho nX_f^\\top X_f<br \/>\n\\right)<br \/>\nH_r^{-1}X_f^\\top\\\\<br \/>\n&#038;=<br \/>\nX_f^\\top<br \/>\n-\\frac\\rho nX_f^\\top<br \/>\nX_fH_r^{-1}X_f^\\top\\\\<br \/>\n&#038;=<br \/>\nX_f^\\top<br \/>\n\\left(<br \/>\nI_m-\\frac\\rho nK_{ff}<br \/>\n\\right)<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5f0f\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u884c\u5217\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u9805\u304c\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8 \\(K_{ff}\\) \u306b\u7f6e\u304d\u63db\u308f\u3063\u3066\u3044\u308b\u3002\\(M_\\rho\\) \u3068 \\(I_m-\\rho K_{ff}\/n\\) \u304c\u3068\u3082\u306b\u53ef\u9006\u3067\u3042\u308b\u6761\u4ef6\u3067\u306f\u3001\u5de6\u53f3\u304b\u3089\u9006\u884c\u5217\u3092\u4f5c\u7528\u3055\u305b\u308b\u3053\u3068\u3067\u3001\u6b21\u306e\u6052\u7b49\u5f0f\u3092\u5f97\u308b\u3002<\/p>\n<p>\\[<br \/>\nM_\\rho^{-1}X_f^\\top<br \/>\n=<br \/>\nH_r^{-1}X_f^\\top<br \/>\n\\left(<br \/>\nI_m-\\frac\\rho nK_{ff}<br \/>\n\\right)^{-1}<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u6052\u7b49\u5f0f\u3092\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u306b\u4ee3\u5165\u3059\u308b\u3068\u3001\u6b21\u306e\u5f62\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\delta\\theta<br \/>\n=<br \/>\n\\frac\\rho n<br \/>\nH_r^{-1}X_f^\\top<br \/>\n\\left(<br \/>\nI_m-\\frac\\rho nK_{ff}<br \/>\n\\right)^{-1}<br \/>\ne_f^-<br \/>\n\\]<\/p>\n<p>\u8a55\u4fa1\u96c6\u5408\u306e\u51fa\u529b\u5dee\u306f \\(\\Delta_a=X_a\\delta\\theta\\) \u306a\u306e\u3067\u3001\u5de6\u304b\u3089 \\(X_a\\) \u3092\u639b\u3051\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\n\\Delta_a<br \/>\n&#038;=<br \/>\n\\frac\\rho n<br \/>\nX_aH_r^{-1}X_f^\\top<br \/>\n\\left(<br \/>\nI_m-\\frac\\rho nK_{ff}<br \/>\n\\right)^{-1}<br \/>\ne_f^-\\\\<br \/>\n&#038;=<br \/>\n\\frac\\rho n<br \/>\nK_{af}<br \/>\n\\left(<br \/>\nI_m-\\frac\\rho nK_{ff}<br \/>\n\\right)^{-1}<br \/>\ne_f^-<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\u3053\u308c\u306b\u3088\u308a\u3001GradDiff \u306b\u3088\u308b\u4efb\u610f\u306e\u8a55\u4fa1\u96c6\u5408\u306e\u51fa\u529b\u5dee\u3092\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u5fd8\u5374\u5bfe\u8c61\u6b8b\u5dee\u3068\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u306b\u3088\u3063\u3066\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\boxed{\\displaystyle<br \/>\n\\Delta_a<br \/>\n=<br \/>\n\\frac\\rho n<br \/>\nK_{af}<br \/>\n\\left(<br \/>\nI_m-\\frac\\rho nK_{ff}<br \/>\n\\right)^{-1}<br \/>\ne_f^-<br \/>\n}<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5f0f\u306f\u53f3\u304b\u3089\u9806\u306b\u8aad\u3080\u3068\u610f\u5473\u304c\u660e\u78ba\u306b\u306a\u308b\u3002\u6700\u3082\u53f3\u306e \\(e_f^-\\) \u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304c\u5fd8\u5374\u5bfe\u8c61\u306b\u3064\u3044\u3066\u6301\u3064\u6b8b\u5dee\u3067\u3042\u308b\u3002\u305d\u306e\u5de6\u306e\u9006\u884c\u5217\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u5185\u90e8\u306e\u7279\u5fb4\u95a2\u4fc2\u3068\u5fd8\u5374\u4fc2\u6570\u306b\u3088\u3063\u3066\u6b8b\u5dee\u304c\u3069\u306e\u3088\u3046\u306b\u5897\u5e45\u3055\u308c\u308b\u304b\u3092\u8868\u3059\u3002\u3055\u3089\u306b \\(K_{af}\\) \u304c\u3001\u305d\u306e\u5909\u5316\u3092\u8a55\u4fa1\u5bfe\u8c61\u306e\u51fa\u529b\u3078\u4f1d\u3048\u308b\u3002\u6700\u5f8c\u306b \\(\\rho\/n\\) \u304c\u5fd8\u5374\u9805\u306e\u5bc4\u4e0e\u3092\u6c7a\u3081\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u81ea\u8eab\u306e\u51fa\u529b\u5dee\u3092\u6c42\u3081\u308b\u5834\u5408\u306f\u3001\\(a=f\\) \u3092\u4ee3\u5165\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_f<br \/>\n=<br \/>\n\\frac\\rho n<br \/>\nK_{ff}<br \/>\n\\left(<br \/>\nI_m-\\frac\\rho nK_{ff}<br \/>\n\\right)^{-1}<br \/>\ne_f^-<br \/>\n\\]<\/p>\n<p>\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u3092\u6c42\u3081\u308b\u5834\u5408\u306f\u3001\\(a=r\\) \u3092\u4ee3\u5165\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_r<br \/>\n=<br \/>\n\\frac\\rho n<br \/>\nK_{rf}<br \/>\n\\left(<br \/>\nI_m-\\frac\\rho nK_{ff}<br \/>\n\\right)^{-1}<br \/>\ne_f^-<br \/>\n\\]<\/p>\n<p>\u4e8c\u3064\u306e\u5f0f\u306f\u3001\u6b8b\u5dee \\(e_f^-\\) \u3068\u5897\u5e45\u9805 \\((I_m-\\rho K_{ff}\/n)^{-1}\\) \u3092\u5171\u6709\u3057\u3066\u3044\u308b\u3002\u7570\u306a\u308b\u306e\u306f\u3001\u6700\u7d42\u7684\u306b\u3069\u306e\u8a55\u4fa1\u5bfe\u8c61\u3078\u5909\u5316\u3092\u4f1d\u3048\u308b\u304b\u3092\u6c7a\u3081\u308b\u884c\u5217\u3067\u3042\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3067\u306f\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8 \\(K_{ff}\\) \u304c\u4f5c\u7528\u3057\u3001\u4fdd\u6301\u5bfe\u8c61\u3067\u306f\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8 \\(K_{rf}\\) \u304c\u4f5c\u7528\u3059\u308b\u3002<\/p>\n<p>\u3053\u306e\u9055\u3044\u306b\u3088\u308a\u3001\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u51fa\u529b\u5909\u5316\u304c\u5927\u304d\u3044\u5834\u5408\u3067\u3082\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u540c\u3058\u5927\u304d\u3055\u306e\u5909\u5316\u304c\u751f\u3058\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u304c\u5c0f\u3055\u3044\u65b9\u5411\u306b\u6b8b\u5dee\u304c\u96c6\u4e2d\u3057\u3066\u3044\u308c\u3070\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u304c\u5909\u5316\u3057\u3066\u3082\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u306f\u5c0f\u3055\u304f\u306a\u308a\u5f97\u308b\u3002\u9006\u306b\u3001\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u304c\u5171\u6709\u3059\u308b\u7279\u5fb4\u65b9\u5411\u306b\u6b8b\u5dee\u304c\u5b58\u5728\u3057\u3001\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u304c\u305d\u306e\u65b9\u5411\u306b\u5927\u304d\u306a\u4f5c\u7528\u3092\u6301\u3064\u5834\u5408\u306b\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u5909\u66f4\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u4e88\u6e2c\u3078\u4f1d\u308f\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u3084\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u884c\u5217\u30ce\u30eb\u30e0\u3060\u3051\u304b\u3089\u3001\u500b\u3005\u306e\u30e2\u30c7\u30eb\u306e\u5b9f\u969b\u306e\u51fa\u529b\u5dee\u304c\u6c7a\u307e\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002\u6b8b\u5dee\u30d9\u30af\u30c8\u30eb\u304c\u3069\u306e\u56fa\u6709\u65b9\u5411\u306b\u5206\u5e03\u3059\u308b\u304b\u3001\u5404\u65b9\u5411\u3067\u5897\u5e45\u304c\u3069\u306e\u7a0b\u5ea6\u751f\u3058\u308b\u304b\u3001\u8a55\u4fa1\u5bfe\u8c61\u3078\u306e\u5bc4\u4e0e\u304c\u3069\u306e\u3088\u3046\u306b\u5408\u6210\u3055\u308c\u308b\u304b\u306b\u3088\u3063\u3066\u7d50\u679c\u304c\u5909\u308f\u308b\u3002\u540c\u3058\u5927\u304d\u3055\u306e\u6b8b\u5dee\u3092\u6301\u3064\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u3067\u3082\u3001\u6b8b\u5dee\u306e\u65b9\u5411\u304c\u7570\u306a\u308c\u3070\u51fa\u529b\u5dee\u306f\u7570\u306a\u308a\u5f97\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u4fc2\u6570 \\(\\rho\\) \u304c\u5341\u5206\u5c0f\u3055\u304f\u3001\u9006\u884c\u5217\u3092\u5c55\u958b\u3067\u304d\u308b\u6761\u4ef6\u3067\u306f\u3001\u6b21\u306e\u8fd1\u4f3c\u3082\u5f97\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\left(<br \/>\nI_m-\\frac\\rho nK_{ff}<br \/>\n\\right)^{-1}<br \/>\n=<br \/>\nI_m+\\frac\\rho nK_{ff}<br \/>\n+O(\\rho^2)<br \/>\n\\]<\/p>\n<p>\u3053\u308c\u3092\u51fa\u529b\u5dee\u306e\u5f0f\u306b\u4ee3\u5165\u3059\u308b\u3068\u3001\u4e00\u6b21\u306e\u9805\u306f\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_f<br \/>\n=<br \/>\n\\frac\\rho nK_{ff}e_f^-<br \/>\n+O(\\rho^2)<br \/>\n\\]<\/p>\n<p>\\[<br \/>\n\\Delta_r<br \/>\n=<br \/>\n\\frac\\rho nK_{rf}e_f^-<br \/>\n+O(\\rho^2)<br \/>\n\\]<\/p>\n<p>\u3053\u3053\u3067 \\(O(\\rho^2)\\) \u306f\u3001\\(\\rho\\) \u3092 0 \u306b\u8fd1\u3065\u3051\u305f\u3068\u304d\u306b\u4e8c\u6b21\u4ee5\u4e0a\u306e\u5927\u304d\u3055\u3067\u6e1b\u5c11\u3059\u308b\u9805\u3092\u307e\u3068\u3081\u305f\u3082\u306e\u3067\u3042\u308b\u3002\u4e00\u6b21\u8fd1\u4f3c\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u306b\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u307e\u305f\u306f\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u3092\u4f5c\u7528\u3055\u305b\u305f\u7d50\u679c\u304c\u3001\u305d\u306e\u307e\u307e\u51fa\u529b\u5909\u5316\u306e\u4e3b\u8981\u9805\u3068\u306a\u308b\u3002\u5fd8\u5374\u4fc2\u6570\u304c\u5927\u304d\u304f\u306a\u308b\u3068\u9ad8\u6b21\u306e\u5bc4\u4e0e\u3082\u5897\u3048\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306b\u3088\u308b\u5897\u5e45\u3092\u7121\u8996\u3067\u304d\u306a\u304f\u306a\u308b\u3002<\/p>\n<p>\u3053\u306e\u9589\u5f62\u5f0f\u306f\u3001\u7dda\u5f62\u56de\u5e30\u3001\u4e8c\u4e57\u640d\u5931\u3001L2 \u6b63\u5247\u5316\u3001\u304a\u3088\u3073 GradDiff \u306e\u76ee\u7684\u95a2\u6570\u304c\u6b63\u5b9a\u5024\u306e\u30d8\u30c3\u30bb\u884c\u5217\u3092\u6301\u3064\u6761\u4ef6\u306e\u4e0b\u3067\u53b3\u5bc6\u306b\u6210\u7acb\u3059\u308b\u3002\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u3067\u306f\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u5316\u306b\u4f34\u3063\u3066\u51fa\u529b\u306e\u611f\u5ea6\u3084\u66f2\u7387\u3082\u5909\u5316\u3059\u308b\u305f\u3081\u3001\u540c\u3058\u69cb\u9020\u3092\u5c40\u6240\u7684\u306a\u8fd1\u4f3c\u3068\u3057\u3066\u6271\u3046\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u640d\u5931\u306e\u5927\u304d\u3055\u3060\u3051\u3067\u306f\u3001\u3053\u308c\u3089\u306e\u884c\u5217\u304c\u8868\u3059\u7279\u5fb4\u65b9\u5411\u306e\u95a2\u4fc2\u3092\u7279\u5b9a\u3067\u304d\u306a\u3044\u3002\u5fd8\u5374\u51e6\u7406\u306b\u3088\u308b\u51fa\u529b\u5dee\u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u6b8b\u5dee\u3001\u5fd8\u5374\u5bfe\u8c61\u5185\u90e8\u306e\u5897\u5e45\u3001\u4fdd\u6301\u5bfe\u8c61\u3068\u306e\u4ea4\u5dee\u95a2\u4fc2\u3001\u5fd8\u5374\u4fc2\u6570\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u4e88\u6e2c\u3092\u5909\u3048\u308b\u3053\u3068\u3068\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u526f\u4f5c\u7528\u3092\u6291\u3048\u308b\u3053\u3068\u304c\u7570\u306a\u308b\u6761\u4ef6\u306b\u306a\u308b\u7406\u7531\u306f\u3001\u3053\u306e\u4e8c\u3064\u306e\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u306e\u4f5c\u7528\u306e\u9055\u3044\u3068\u3057\u3066\u8aac\u660e\u3067\u304d\u308b\u3002<\/p>\n<hr>\n<h2>5. \u5fd8\u5374\u3092\u9032\u3081\u308b\u307b\u3069\u51fa\u529b\u5dee\u304c\u5897\u5e45\u3059\u308b\u6761\u4ef6\u304c\u3042\u308b<\/h2>\n<h3>5.1 \u6b63\u5b9a\u5024\u6027\u3068\u5fd8\u5374\u4fc2\u6570<\/h3>\n<p>GradDiff \u306b\u3088\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3092\u6c42\u3081\u308b\u969b\u306b\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u304b\u3089\u5fd8\u5374\u5bfe\u8c61\u306e\u5bc4\u4e0e\u3092\u5dee\u3057\u5f15\u3044\u305f\u884c\u5217\u306e\u9006\u884c\u5217\u3092\u4f7f\u7528\u3057\u305f\u3002\u3053\u306e\u884c\u5217\u3092 \\(M_\\rho\\) \u3068\u3059\u308b\u3068\u3001\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\nM_\\rho<br \/>\n=<br \/>\nH_r-\\frac{\\rho}{n}X_f^\\top X_f<br \/>\n\\]<\/p>\n<p>\\(H_r\\) \u306f\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u304c\u6301\u3064\u66f2\u7387\u3067\u3042\u308a\u3001\\(X_f^\\top X_f\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u304b\u3089\u751f\u3058\u308b\u66f2\u7387\u3067\u3042\u308b\u3002\u5fd8\u5374\u4fc2\u6570 \\(\\rho>0\\) \u3092\u5927\u304d\u304f\u3059\u308b\u3068\u3001\u5f8c\u8005\u3092\u5dee\u3057\u5f15\u304f\u91cf\u304c\u5897\u52a0\u3059\u308b\u3002\u305d\u306e\u7d50\u679c\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u306b\u3088\u3063\u3066\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u5316\u304c\u5236\u7d04\u3055\u308c\u3066\u3044\u305f\u65b9\u5411\u3067\u3082\u3001GradDiff \u306e\u76ee\u7684\u95a2\u6570\u306e\u66f2\u7387\u304c\u5c0f\u3055\u304f\u306a\u308b\u5834\u5408\u304c\u3042\u308b\u3002<\/p>\n<p>\u4e8c\u6b21\u95a2\u6570\u3092\u6700\u5c0f\u5316\u3059\u308b\u5834\u5408\u3001\u30d8\u30c3\u30bb\u884c\u5217\u304c\u6b63\u5b9a\u5024\u3067\u3042\u308c\u3070\u6700\u5c0f\u89e3\u306f\u4e00\u610f\u306b\u5b9a\u307e\u308b\u3002\\(M_\\rho\\) \u304c\u6b63\u5b9a\u5024\u3067\u3042\u308b\u6761\u4ef6\u3092\u8abf\u3079\u308c\u3070\u3001GradDiff \u306e\u76ee\u7684\u95a2\u6570\u304c\u5b89\u5b9a\u3057\u305f\u6700\u5c0f\u89e3\u3092\u6301\u3064\u7bc4\u56f2\u3092\u6c42\u3081\u3089\u308c\u308b\u3002<\/p>\n<p>\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u884c\u5217 \\(H_r\\) \u306f\u6b63\u5b9a\u5024\u306a\u306e\u3067\u3001\u5e73\u65b9\u6839\u884c\u5217 \\(H_r^{1\/2}\\) \u3068\u305d\u306e\u9006\u884c\u5217\u304c\u5b58\u5728\u3059\u308b\u3002\\(M_\\rho\\) \u3092\u6b21\u306e\u3088\u3046\u306b\u5206\u89e3\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\nM_\\rho<br \/>\n&#038;=<br \/>\nH_r^{1\/2}<br \/>\n\\left(<br \/>\nI_d-\\frac{\\rho}{n}<br \/>\nH_r^{-1\/2}X_f^\\top X_fH_r^{-1\/2}<br \/>\n\\right)<br \/>\nH_r^{1\/2}<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\\(H_r^{1\/2}\\) \u306f\u3001\u305d\u308c\u81ea\u8eab\u3092\u639b\u3051\u308b\u3068 \\(H_r\\) \u306b\u306a\u308b\u5bfe\u79f0\u6b63\u5b9a\u5024\u884c\u5217\u3067\u3042\u308b\u3002\u3053\u306e\u5206\u89e3\u306b\u3088\u308a\u3001\\(M_\\rho\\) \u306e\u6b63\u5b9a\u5024\u6027\u306f\u3001\u4e2d\u592e\u306e\u884c\u5217\u304c\u6b63\u5b9a\u5024\u304b\u3069\u3046\u304b\u3067\u5224\u5b9a\u3067\u304d\u308b\u3002<\/p>\n<p>\u4e2d\u592e\u306b\u73fe\u308c\u308b \\(H_r^{-1\/2}X_f^\\top X_fH_r^{-1\/2}\\) \u306f\u534a\u6b63\u5b9a\u5024\u884c\u5217\u3067\u3042\u308b\u3002\u305d\u306e\u6700\u5927\u56fa\u6709\u5024\u304c\u5341\u5206\u5c0f\u3055\u3051\u308c\u3070\u3001\u5358\u4f4d\u884c\u5217\u304b\u3089 \\(\\rho\/n\\) \u500d\u3057\u305f\u5024\u3092\u5dee\u3057\u5f15\u3044\u3066\u3082\u3001\u3059\u3079\u3066\u306e\u56fa\u6709\u5024\u304c\u6b63\u306b\u4fdd\u305f\u308c\u308b\u3002<\/p>\n<p>\u524d\u7ae0\u3067\u5b9a\u7fa9\u3057\u305f\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306f\u3001\u6b21\u306e\u884c\u5217\u3067\u3042\u3063\u305f\u3002<\/p>\n<p>\\[<br \/>\nK_{ff}=X_fH_r^{-1}X_f^\\top<br \/>\n\\]<\/p>\n<p>\\(A=X_fH_r^{-1\/2}\\) \u3068\u7f6e\u304f\u3068\u3001\u4e2d\u592e\u306e\u66f2\u7387\u306b\u95a2\u3059\u308b\u884c\u5217\u306f \\(A^\\top A\\)\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306f \\(AA^\\top\\) \u3068\u306a\u308b\u3002\\(A^\\top A\\) \u3068 \\(AA^\\top\\) \u306f\u96f6\u3067\u306a\u3044\u56fa\u6709\u5024\u3092\u5171\u6709\u3059\u308b\u305f\u3081\u3001\u6700\u5927\u56fa\u6709\u5024\u3082\u4e00\u81f4\u3059\u308b\u3002\u3057\u305f\u304c\u3063\u3066\u3001\\(M_\\rho\\) \u304c\u6b63\u5b9a\u5024\u3067\u3042\u308b\u6761\u4ef6\u306f\u3001\u6b21\u306e\u4e0d\u7b49\u5f0f\u3068\u540c\u5024\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\boxed{<br \/>\n\\frac{\\rho}{n}\\lambda_{\\max}(K_{ff})<1\n}\n\\]\n\n\n\n<p>\\(\\lambda_{\\max}(K_{ff})\\) \u306f\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u306e\u6700\u5927\u56fa\u6709\u5024\u3067\u3042\u308b\u3002\u56fa\u6709\u5024\u306f\u3001\u884c\u5217\u306e\u4f5c\u7528\u306b\u3088\u3063\u3066\u65b9\u5411\u3092\u5909\u3048\u305a\u306b\u4f55\u500d\u306b\u62e1\u5927\u307e\u305f\u306f\u7e2e\u5c0f\u3055\u308c\u308b\u304b\u3092\u8868\u3059\u3002\\(K_{ff}\\) \u306f\u534a\u6b63\u5b9a\u5024\u306a\u306e\u3067\u3001\u305d\u306e\u56fa\u6709\u5024\u306f\u3059\u3079\u3066\u975e\u8ca0\u3067\u3042\u308b\u3002\u6700\u5927\u56fa\u6709\u5024\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u304b\u3089\u6c7a\u307e\u308b\u3001\u6700\u3082\u5927\u304d\u306a\u4f5c\u7528\u3092\u53d7\u3051\u308b\u65b9\u5411\u306e\u500d\u7387\u3092\u8868\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\\(\\lambda_{\\max}(K_{ff})>0\\) \u306e\u5834\u5408\u3001\u6b63\u5b9a\u5024\u6761\u4ef6\u306f\u5fd8\u5374\u4fc2\u6570\u306e\u4e0a\u9650\u3068\u3057\u3066\u3082\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\n0<\\rho<\n\\frac{n}{\\lambda_{\\max}(K_{ff})}\n\\]\n\n\n\n<p>\u3053\u306e\u6761\u4ef6\u306e\u4e0b\u3067\u306f\u3001GradDiff \u306e\u76ee\u7684\u95a2\u6570\u306f\u53b3\u5bc6\u306b\u51f8\u3067\u3042\u308a\u3001\u524d\u7ae0\u3067\u5c0e\u3044\u305f\u9589\u5f62\u5f0f\u306b\u3088\u3063\u3066\u4e00\u610f\u306e\u6700\u5c0f\u89e3\u3092\u6c42\u3081\u3089\u308c\u308b\u3002\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u6700\u5927\u56fa\u6709\u5024\u304c\u5927\u304d\u3044\u307b\u3069\u3001\u8a31\u5bb9\u3055\u308c\u308b\u5fd8\u5374\u4fc2\u6570\u306e\u4e0a\u9650\u306f\u5c0f\u3055\u304f\u306a\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u306b\u5bfe\u3057\u3066\u5927\u304d\u306a\u5909\u4f4d\u3092\u751f\u3058\u3084\u3059\u3044\u65b9\u5411\u3092\u6301\u3064\u5834\u5408\u3001\u540c\u3058\u5fd8\u5374\u4fc2\u6570\u3067\u3082\u6b63\u5b9a\u5024\u6761\u4ef6\u306e\u5883\u754c\u3078\u8fd1\u3065\u304d\u3084\u3059\u304f\u306a\u308b\u3002<\/p>\n<p>\u3053\u306e\u5883\u754c\u304c\u51fa\u529b\u5dee\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u306f\u3001\u524d\u7ae0\u306e\u5f0f\u306b\u542b\u307e\u308c\u308b\u9006\u884c\u5217\u304b\u3089\u8aad\u307f\u53d6\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\left(<br \/>\nI_m-\\frac{\\rho}{n}K_{ff}<br \/>\n\\right)^{-1}<br \/>\n\\]<\/p>\n<p>\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u56fa\u6709\u5024\u3092 \\(\\lambda_i\\) \u3068\u3059\u308b\u3068\u3001\u305d\u306e\u56fa\u6709\u65b9\u5411\u306b\u304a\u3051\u308b\u9006\u884c\u5217\u306e\u500d\u7387\u306f\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\ng_i(\\rho)<br \/>\n=<br \/>\n\\frac{1}{1-\\frac{\\rho}{n}\\lambda_i}<br \/>\n\\]<\/p>\n<p>\\(\\lambda_i>0\\) \u306e\u65b9\u5411\u3067\u306f\u3001\\(\\rho\\) \u306e\u5897\u52a0\u3068\u3068\u3082\u306b\u5206\u6bcd\u304c\u5c0f\u3055\u304f\u306a\u308a\u3001\u500d\u7387\u304c\u5927\u304d\u304f\u306a\u308b\u3002\u7279\u306b\u6700\u5927\u56fa\u6709\u5024\u306b\u5bfe\u5fdc\u3059\u308b\u65b9\u5411\u3067\u306f\u3001\\(\\rho\\lambda_{\\max}(K_{ff})\/n\\) \u304c 1 \u306b\u8fd1\u3065\u304f\u3068\u500d\u7387\u304c\u767a\u6563\u3059\u308b\u3002\u305f\u3060\u3057\u3001\u5b9f\u969b\u306e\u51fa\u529b\u5dee\u306b\u305d\u306e\u65b9\u5411\u306e\u5897\u5e45\u304c\u73fe\u308c\u308b\u306b\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u304c\u5bfe\u5fdc\u3059\u308b\u56fa\u6709\u65b9\u5411\u306e\u6210\u5206\u3092\u6301\u3063\u3066\u3044\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u6b63\u5b9a\u5024\u6761\u4ef6\u306e\u5883\u754c\u306b\u9054\u3059\u308b\u3068\u3001\\(M_\\rho\\) \u306f\u7279\u7570\u884c\u5217\u3068\u306a\u308a\u3001\u4e00\u610f\u306e\u6700\u5c0f\u89e3\u3092\u4e0e\u3048\u308b\u9006\u884c\u5217\u3092\u4f7f\u7528\u3067\u304d\u306a\u304f\u306a\u308b\u3002\u5883\u754c\u3092\u8d8a\u3048\u308b\u3068 \\(M_\\rho\\) \u306f\u8ca0\u306e\u56fa\u6709\u5024\u3092\u6301\u3064\u305f\u3081\u3001\u7dda\u5f62\u4e8c\u4e57\u640d\u5931\u306b\u3088\u308b GradDiff \u306e\u4e8c\u6b21\u76ee\u7684\u95a2\u6570\u306f\u4e0b\u306b\u6709\u754c\u3067\u306a\u304f\u306a\u308b\u3002\u5fd8\u5374\u4fc2\u6570\u3092\u5927\u304d\u304f\u3059\u308b\u64cd\u4f5c\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u5897\u3084\u3059\u65b9\u5411\u306e\u5bc4\u4e0e\u3060\u3051\u3067\u306a\u304f\u3001\u76ee\u7684\u95a2\u6570\u305d\u306e\u3082\u306e\u306e\u5b89\u5b9a\u6027\u3082\u5909\u5316\u3055\u305b\u308b\u3002<\/p>\n<p>\u3053\u306e\u6b63\u5b9a\u5024\u6761\u4ef6\u306f\u3001\u7dda\u5f62\u4e8c\u4e57\u640d\u5931\u306e GradDiff \u306b\u304a\u3051\u308b\u6700\u5c0f\u89e3\u306e\u5b58\u5728\u3068\u4e00\u610f\u6027\u3092\u5224\u5b9a\u3059\u308b\u6761\u4ef6\u3067\u3042\u308b\u3002\u5fd8\u5374\u51e6\u7406\u306b\u3088\u3063\u3066\u671b\u307e\u3057\u3044\u4e88\u6e2c\u6027\u80fd\u304c\u5f97\u3089\u308c\u308b\u3053\u3068\u3084\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u304c\u5341\u5206\u5c0f\u3055\u3044\u3053\u3068\u307e\u3067\u4fdd\u8a3c\u3059\u308b\u6761\u4ef6\u3067\u306f\u306a\u3044\u3002\u6700\u9069\u5316\u554f\u984c\u304c\u5b89\u5b9a\u3057\u305f\u89e3\u3092\u6301\u3064\u3053\u3068\u3068\u3001\u305d\u306e\u89e3\u304c\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u306b\u8fd1\u3044\u3053\u3068\u306f\u3001\u5225\u3005\u306b\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<h3>5.2 \u51fa\u529b\u5dee\u306e\u4e0a\u754c\u3092\u6c42\u3081\u308b<\/h3>\n<p>\u6b63\u5b9a\u5024\u6761\u4ef6\u304c\u6210\u7acb\u3059\u308b\u5834\u5408\u3001GradDiff \u306e\u51fa\u529b\u5dee\u306f\u524d\u7ae0\u3067\u5c0e\u3044\u305f\u9589\u5f62\u5f0f\u306b\u3088\u3063\u3066\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_a<br \/>\n=<br \/>\n\\frac{\\rho}{n}<br \/>\nK_{af}<br \/>\n\\left(<br \/>\nI_m-\\frac{\\rho}{n}K_{ff}<br \/>\n\\right)^{-1}<br \/>\ne_f^-<br \/>\n\\]<\/p>\n<p>\u3053\u3053\u3067 \\(e_f^-\\) \u306f\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u5fd8\u5374\u5bfe\u8c61\u6b8b\u5dee\u3001\\(K_{ff}\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u5185\u90e8\u306e\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u3001\\(K_{af}\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u304b\u3089\u8a55\u4fa1\u96c6\u5408\u3078\u306e\u5f71\u97ff\u3092\u8868\u3059\u884c\u5217\u3067\u3042\u308b\u3002\u3053\u306e\u5f0f\u304b\u3089\u3001\u51fa\u529b\u5dee\u306e\u5927\u304d\u3055\u306b\u5bfe\u3059\u308b\u4e0a\u754c\u3092\u5c0e\u3051\u308b\u3002<\/p>\n<p>\u30d9\u30af\u30c8\u30eb\u306e\u30e6\u30fc\u30af\u30ea\u30c3\u30c9\u30ce\u30eb\u30e0 \\(\\|v\\|_2\\) \u306f\u3001\u6210\u5206\u306e\u4e8c\u4e57\u548c\u306e\u5e73\u65b9\u6839\u3067\u3042\u308b\u3002\u884c\u5217\u306e\u30b9\u30da\u30af\u30c8\u30eb\u30ce\u30eb\u30e0 \\(\\|A\\|_2\\) \u306f\u3001\u9577\u3055 1 \u306e\u30d9\u30af\u30c8\u30eb\u306b\u884c\u5217\u3092\u4f5c\u7528\u3055\u305b\u305f\u3068\u304d\u306e\u51fa\u529b\u306e\u9577\u3055\u306e\u6700\u5927\u5024\u3092\u8868\u3059\u3002\u3057\u305f\u304c\u3063\u3066\u3001\u4efb\u610f\u306e\u30d9\u30af\u30c8\u30eb \\(v\\) \u306b\u3064\u3044\u3066\u3001\u6b21\u306e\u95a2\u4fc2\u304c\u6210\u7acb\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\|Av\\|_2<br \/>\n\\leq<br \/>\n\\|A\\|_2\\|v\\|_2<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u95a2\u4fc2\u3092\u51fa\u529b\u5dee\u306e\u9589\u5f62\u5f0f\u306b\u9069\u7528\u3059\u308b\u3068\u3001\u884c\u5217\u306e\u4f5c\u7528\u3092\u305d\u308c\u305e\u308c\u306e\u6700\u5927\u500d\u7387\u3067\u8a55\u4fa1\u3067\u304d\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\n\\|\\Delta_a\\|_2<br \/>\n&#038;\\leq<br \/>\n\\frac{\\rho}{n}<br \/>\n\\|K_{af}\\|_2<br \/>\n\\left\\|<br \/>\n\\left(<br \/>\nI_m-\\frac{\\rho}{n}K_{ff}<br \/>\n\\right)^{-1}<br \/>\n\\right\\|_2<br \/>\n\\|e_f^-\\|_2<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306f\u5bfe\u79f0\u306a\u534a\u6b63\u5b9a\u5024\u884c\u5217\u3067\u3042\u308a\u3001\u6b63\u5b9a\u5024\u6761\u4ef6\u306e\u4e0b\u3067\u306f\u9006\u884c\u5217\u306e\u56fa\u6709\u5024\u3082\u3059\u3079\u3066\u6b63\u306b\u306a\u308b\u3002\u9006\u884c\u5217\u306e\u6700\u5927\u56fa\u6709\u5024\u306f\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u6700\u5927\u56fa\u6709\u5024\u306b\u5bfe\u5fdc\u3059\u308b\u65b9\u5411\u3067\u5f97\u3089\u308c\u308b\u305f\u3081\u3001\u6b21\u306e\u7b49\u5f0f\u304c\u6210\u7acb\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\left\\|<br \/>\n\\left(<br \/>\nI_m-\\frac{\\rho}{n}K_{ff}<br \/>\n\\right)^{-1}<br \/>\n\\right\\|_2<br \/>\n=<br \/>\n\\frac{1}{<br \/>\n1-\\frac{\\rho}{n}\\lambda_{\\max}(K_{ff})<br \/>\n}<br \/>\n\\]<\/p>\n<p>\u3053\u308c\u3092\u5148\u307b\u3069\u306e\u30ce\u30eb\u30e0\u306e\u4e0d\u7b49\u5f0f\u306b\u4ee3\u5165\u3059\u308b\u3068\u3001\u51fa\u529b\u5dee\u306e\u4e0a\u754c\u304c\u5f97\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\boxed{<br \/>\n\\|\\Delta_a\\|_2<br \/>\n\\leq<br \/>\n\\frac{\\rho}{n}<br \/>\n\\frac{<br \/>\n\\|K_{af}\\|_2\\,\\|e_f^-\\|_2<br \/>\n}{<br \/>\n1-\\frac{\\rho}{n}\\lambda_{\\max}(K_{ff})<br \/>\n}<br \/>\n}<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u4e0a\u754c\u306b\u306f\u3001\u51fa\u529b\u5dee\u3092\u6c7a\u3081\u308b\u4e09\u3064\u306e\u8981\u7d20\u304c\u73fe\u308c\u3066\u3044\u308b\u3002\u7b2c\u4e00\u306f \\(\\|e_f^-\\|_2\\) \u3067\u3042\u308a\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304c\u5fd8\u5374\u5bfe\u8c61\u306b\u3064\u3044\u3066\u6301\u3064\u6b8b\u5dee\u306e\u5927\u304d\u3055\u3067\u3042\u308b\u3002\u7b2c\u4e8c\u306f \\(\\|K_{af}\\|_2\\) \u3067\u3042\u308a\u3001\u5fd8\u5374\u5bfe\u8c61\u306b\u7531\u6765\u3059\u308b\u5909\u5316\u304c\u8a55\u4fa1\u96c6\u5408\u3078\u4f1d\u308f\u308b\u6700\u5927\u500d\u7387\u3092\u8868\u3059\u3002\u7b2c\u4e09\u306f\u5206\u6bcd\u306e \\(1-\\rho\\lambda_{\\max}(K_{ff})\/n\\) \u3067\u3042\u308a\u3001\u5fd8\u5374\u5bfe\u8c61\u5185\u90e8\u306e\u5897\u5e45\u304c\u6b63\u5b9a\u5024\u6761\u4ef6\u306e\u5883\u754c\u3078\u3069\u308c\u307b\u3069\u8fd1\u3065\u3044\u3066\u3044\u308b\u304b\u3092\u8868\u3059\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u3092\u8a55\u4fa1\u3059\u308b\u5834\u5408\u306f \\(K_{af}=K_{ff}\\)\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u3092\u8a55\u4fa1\u3059\u308b\u5834\u5408\u306f \\(K_{af}=K_{rf}\\) \u3068\u306a\u308b\u3002\u305d\u308c\u305e\u308c\u306e\u4e0a\u754c\u306f\u6b21\u306e\u3088\u3046\u306b\u66f8\u3051\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\|\\Delta_f\\|_2<br \/>\n\\leq<br \/>\n\\frac{\\rho}{n}<br \/>\n\\frac{<br \/>\n\\|K_{ff}\\|_2\\,\\|e_f^-\\|_2<br \/>\n}{<br \/>\n1-\\frac{\\rho}{n}\\lambda_{\\max}(K_{ff})<br \/>\n}<br \/>\n\\]<\/p>\n<p>\\[<br \/>\n\\|\\Delta_r\\|_2<br \/>\n\\leq<br \/>\n\\frac{\\rho}{n}<br \/>\n\\frac{<br \/>\n\\|K_{rf}\\|_2\\,\\|e_f^-\\|_2<br \/>\n}{<br \/>\n1-\\frac{\\rho}{n}\\lambda_{\\max}(K_{ff})<br \/>\n}<br \/>\n\\]<\/p>\n<p>\u4e8c\u3064\u306e\u4e0a\u754c\u306f\u540c\u3058\u6b8b\u5dee\u3068\u5897\u5e45\u9805\u3092\u5171\u6709\u3057\u3066\u3044\u308b\u304c\u3001\u8a55\u4fa1\u5bfe\u8c61\u3078\u5909\u5316\u3092\u4f1d\u3048\u308b\u884c\u5217\u304c\u7570\u306a\u308b\u3002\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u51fa\u529b\u5dee\u306e\u4e0a\u754c\u306b\u306f\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8 \\(K_{rf}\\) \u304c\u73fe\u308c\u308b\u305f\u3081\u3001\u5fd8\u5374\u5bfe\u8c61\u3067\u306e\u5909\u5316\u304c\u4fdd\u6301\u5bfe\u8c61\u3078\u3069\u306e\u7a0b\u5ea6\u4f1d\u308f\u308a\u5f97\u308b\u304b\u3092\u3001\u30c7\u30fc\u30bf\u9593\u306e\u7279\u5fb4\u95a2\u4fc2\u304b\u3089\u8a55\u4fa1\u3067\u304d\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\u4e0a\u754c\u306f\u5b9f\u969b\u306e\u51fa\u529b\u5dee\u305d\u306e\u3082\u306e\u3067\u306f\u306a\u3044\u3002\u4e0a\u754c\u306e\u5c0e\u51fa\u3067\u306f\u3001\u884c\u5217\u304c\u30d9\u30af\u30c8\u30eb\u3092\u6700\u3082\u5927\u304d\u304f\u62e1\u5927\u3059\u308b\u5834\u5408\u3092\u57fa\u6e96\u306b\u3057\u3066\u3044\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee \\(e_f^-\\) \u304c\u6700\u5927\u56fa\u6709\u5024\u306b\u5bfe\u5fdc\u3059\u308b\u65b9\u5411\u3068\u7570\u306a\u308b\u5411\u304d\u3092\u6301\u3064\u5834\u5408\u3001\u5b9f\u969b\u306e\u5897\u5e45\u306f\u4e0a\u754c\u3088\u308a\u5c0f\u3055\u304f\u306a\u308b\u3002\u307e\u305f\u3001\u8907\u6570\u306e\u65b9\u5411\u304b\u3089\u4fdd\u6301\u5bfe\u8c61\u3078\u4f1d\u308f\u308b\u5909\u5316\u304c\u6253\u3061\u6d88\u3057\u5408\u3048\u3070\u3001\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u30ce\u30eb\u30e0\u304c\u5927\u304d\u304f\u3066\u3082\u3001\u6700\u7d42\u7684\u306a\u51fa\u529b\u5dee\u306f\u5c0f\u3055\u304f\u306a\u308a\u5f97\u308b\u3002<\/p>\n<p>\u3053\u306e\u9055\u3044\u306f\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u56fa\u6709\u65b9\u5411\u3078\u6b8b\u5dee\u3092\u5206\u89e3\u3059\u308b\u3068\u660e\u78ba\u306b\u306a\u308b\u3002\\(K_{ff}\\) \u306e\u5358\u4f4d\u56fa\u6709\u30d9\u30af\u30c8\u30eb\u3092 \\(u_i\\)\u3001\u5bfe\u5fdc\u3059\u308b\u56fa\u6709\u5024\u3092 \\(\\lambda_i\\) \u3068\u3057\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u3092\u6b21\u306e\u3088\u3046\u306b\u8868\u3059\u3002<\/p>\n<p>\\[<br \/>\ne_f^-=\\sum_i c_i u_i<br \/>\n\\]<\/p>\n<p>\\(c_i\\) \u306f\u6b8b\u5dee\u304c\u5404\u56fa\u6709\u65b9\u5411\u306b\u6301\u3064\u6210\u5206\u3067\u3042\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u306f\u3001\u56fa\u6709\u65b9\u5411\u3054\u3068\u306b\u6b21\u306e\u5f62\u3078\u5206\u89e3\u3067\u304d\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_f<br \/>\n=<br \/>\n\\sum_i<br \/>\n\\frac{<br \/>\n\\frac{\\rho}{n}\\lambda_i<br \/>\n}{<br \/>\n1-\\frac{\\rho}{n}\\lambda_i<br \/>\n}<br \/>\nc_i u_i<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5f0f\u3067\u306f\u3001\u5404\u56fa\u6709\u65b9\u5411\u306e\u6b8b\u5dee\u304c\u3001\u305d\u306e\u65b9\u5411\u306e\u56fa\u6709\u5024\u306b\u5fdc\u3058\u3066\u5897\u5e45\u3055\u308c\u308b\u3002\u6b63\u5b9a\u5024\u6761\u4ef6\u304c\u6210\u7acb\u3059\u308b\u7bc4\u56f2\u3067\u306f\u3001\u6b63\u306e\u56fa\u6709\u5024\u306b\u5bfe\u5fdc\u3059\u308b\u5897\u5e45\u4fc2\u6570\u306f \\(\\rho\\) \u306e\u5897\u52a0\u3068\u3068\u3082\u306b\u5927\u304d\u304f\u306a\u308b\u3002\u305d\u306e\u305f\u3081\u3001\u56fa\u5b9a\u3055\u308c\u305f\u6b8b\u5dee \\(e_f^-\\) \u306b\u5bfe\u3059\u308b\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u306e\u30ce\u30eb\u30e0\u306f\u3001\\(\\rho\\) \u306e\u5897\u52a0\u306b\u5bfe\u3057\u3066\u975e\u6e1b\u5c11\u3068\u306a\u308b\u3002\u4e00\u65b9\u3001\u56fa\u6709\u5024\u304c\u96f6\u306e\u65b9\u5411\u3067\u306f\u4fc2\u6570\u3082\u96f6\u3067\u3042\u308a\u3001\u305d\u306e\u65b9\u5411\u306e\u6b8b\u5dee\u306f\u51fa\u529b\u5dee\u3078\u5bc4\u4e0e\u3057\u306a\u3044\u3002<\/p>\n<p>\u4fdd\u6301\u5bfe\u8c61\u3067\u306f\u3001\u540c\u3058\u56fa\u6709\u65b9\u5411\u306b\u5bfe\u3057\u3066\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u304c\u3055\u3089\u306b\u4f5c\u7528\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_r<br \/>\n=<br \/>\n\\sum_i<br \/>\n\\frac{\\frac{\\rho}{n}}{<br \/>\n1-\\frac{\\rho}{n}\\lambda_i<br \/>\n}<br \/>\nc_i K_{rf}u_i<br \/>\n\\]<\/p>\n<p>\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u51fa\u529b\u5dee\u306f\u3001\u5404\u56fa\u6709\u65b9\u5411\u306e\u5897\u5e45\u306b\u52a0\u3048\u3066\u3001\\(K_{rf}u_i\\) \u304c\u3069\u306e\u65b9\u5411\u3092\u5411\u304f\u304b\u306b\u4f9d\u5b58\u3059\u308b\u3002\u7570\u306a\u308b\u56fa\u6709\u65b9\u5411\u304b\u3089\u306e\u5bc4\u4e0e\u304c\u540c\u3058\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u6210\u5206\u3078\u4f5c\u7528\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u5897\u5e45\u3068\u6253\u3061\u6d88\u3057\u306e\u4e21\u65b9\u304c\u8d77\u3053\u308a\u5f97\u308b\u3002\u305d\u306e\u305f\u3081\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u306e\u30ce\u30eb\u30e0\u304c\u5fd8\u5374\u4fc2\u6570\u306b\u5bfe\u3057\u3066\u5fc5\u305a\u5358\u8abf\u306b\u5897\u52a0\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002<\/p>\n<p>\u4e0a\u754c\u304c\u5927\u304d\u304f\u306a\u308b\u3053\u3068\u306f\u3001\u5927\u304d\u306a\u51fa\u529b\u5dee\u304c\u751f\u3058\u5f97\u308b\u6761\u4ef6\u3092\u793a\u3059\u3002\u4e00\u65b9\u3001\u5b9f\u969b\u306e\u51fa\u529b\u5dee\u3092\u78ba\u5b9a\u3059\u308b\u306b\u306f\u3001\u6b8b\u5dee\u306e\u5927\u304d\u3055\u3060\u3051\u3067\u306a\u304f\u3001\u305d\u306e\u65b9\u5411\u3068\u5404\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u306e\u4f5c\u7528\u3092\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u6700\u5927\u56fa\u6709\u5024\u306b\u3088\u308b\u5b89\u5b9a\u6027\u306e\u8a55\u4fa1\u3068\u3001\u5b9f\u969b\u306e\u8a55\u4fa1\u96c6\u5408\u306b\u304a\u3051\u308b\u51fa\u529b\u5dee\u306e\u6e2c\u5b9a\u306f\u3001\u4e92\u3044\u306b\u88dc\u5b8c\u3059\u308b\u95a2\u4fc2\u306b\u3042\u308b\u3002<\/p>\n<h3>5.3 \u5fd8\u5374\u624b\u6cd5\u306f\u6b8b\u5dee\u3078\u306e\u91cd\u307f\u3068\u4f1d\u64ad\u7d4c\u8def\u3092\u5909\u3048\u308b<\/h3>\n<p>GradDiff \u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u306b\u5171\u901a\u306e\u4fc2\u6570 \\(\\rho\\) \u3092\u4e0e\u3048\u308b\u3002\u3057\u304b\u3057\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u30c7\u30fc\u30bf\u306f\u3001\u305d\u308c\u305e\u308c\u7570\u306a\u308b\u6b8b\u5dee\u3001\u7279\u5fb4\u65b9\u5411\u3001\u4fdd\u6301\u5bfe\u8c61\u3068\u306e\u95a2\u4fc2\u3092\u6301\u3063\u3066\u3044\u308b\u3002\u3059\u3079\u3066\u306e\u30c7\u30fc\u30bf\u306b\u540c\u3058\u4fc2\u6570\u3092\u4e0e\u3048\u308b\u3068\u3001\u3059\u3067\u306b\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u4e88\u6e2c\u304c\u5927\u304d\u304f\u5909\u5316\u3057\u305f\u5165\u529b\u306b\u3082\u3001\u5f15\u304d\u7d9a\u304d\u640d\u5931\u3092\u5897\u52a0\u3055\u305b\u308b\u66f4\u65b0\u304c\u4f5c\u7528\u3059\u308b\u5834\u5408\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u554f\u984c\u306b\u5bfe\u3057\u3066\u3001\u5fd8\u5374\u30c7\u30fc\u30bf\u3054\u3068\u306e\u66f4\u65b0\u91cf\u3092\u8abf\u6574\u3059\u308b\u65b9\u6cd5\u304c\u63d0\u6848\u3055\u308c\u3066\u3044\u308b\u3002NPO \u306f\u5fd8\u5374\u5bfe\u8c61\u306b\u5bfe\u3059\u308b\u8ca0\u306e\u9078\u597d\u3092\u5229\u7528\u3057\u3001\u5358\u7d14\u306a\u52fe\u914d\u4e0a\u6607\u306b\u3088\u308b\u904e\u5ea6\u306a\u30e2\u30c7\u30eb\u52a3\u5316\u3092\u6291\u3048\u308b\u3053\u3068\u3092\u76ee\u7684\u3068\u3059\u308b\u624b\u6cd5\u3067\u3042\u308b<a href=\"#ref11\">[11]<\/a>\u3002SimNPO \u306f\u3001\u5143\u30e2\u30c7\u30eb\u3092\u53c2\u7167\u3059\u308b\u3053\u3068\u306b\u3088\u3063\u3066\u751f\u3058\u308b\u91cd\u307f\u4ed8\u3051\u306e\u504f\u308a\u3092\u907f\u3051\u308b\u8a2d\u8a08\u3092\u63a1\u7528\u3057\u3066\u3044\u308b<a href=\"#ref12\">[12]<\/a>\u3002<\/p>\n<p>\u3053\u308c\u3089\u306e\u65b9\u6cd5\u3092\u6570\u7406\u7684\u306b\u7406\u89e3\u3059\u308b\u305f\u3081\u306b\u3001\u307e\u305a\u5404\u5fd8\u5374\u30c7\u30fc\u30bf\u306b\u7570\u306a\u308b\u91cd\u307f\u3092\u4e0e\u3048\u305f\u4e8c\u4e57\u640d\u5931\u306e\u5c40\u6240\u30e2\u30c7\u30eb\u3092\u8003\u3048\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u30c7\u30fc\u30bf\u6570\u3092 \\(m\\) \u3068\u3057\u3001\u5404\u30c7\u30fc\u30bf\u306e\u91cd\u307f\u3092\u5bfe\u89d2\u6210\u5206\u306b\u6301\u3064\u884c\u5217\u3092 \\(W\\in\\mathbb R^{m\\times m}\\) \u3068\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\nW=<br \/>\n\\begin{pmatrix}<br \/>\nw_1 &#038; 0 &#038; \\cdots &#038; 0\\\\<br \/>\n0 &#038; w_2 &#038; \\cdots &#038; 0\\\\<br \/>\n\\vdots &#038; \\vdots &#038; \\ddots &#038; \\vdots\\\\<br \/>\n0 &#038; 0 &#038; \\cdots &#038; w_m<br \/>\n\\end{pmatrix}<br \/>\n\\]<\/p>\n<p>\\(w_i\\geq0\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u306e\u30c7\u30fc\u30bf \\(i\\) \u306b\u4e0e\u3048\u308b\u91cd\u307f\u3067\u3042\u308b\u3002\u3059\u3079\u3066\u306e\u91cd\u307f\u304c 1 \u306a\u3089 \\(W=I_m\\) \u3068\u306a\u308a\u3001\u901a\u5e38\u306e GradDiff \u306e\u5fd8\u5374\u9805\u3068\u540c\u3058\u5f62\u306b\u306a\u308b\u3002\u4e00\u65b9\u3001\u91cd\u307f\u3092\u5909\u3048\u308b\u3068\u3001\u5404\u30c7\u30fc\u30bf\u306e\u6b8b\u5dee\u304c\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u66f4\u65b0\u3078\u4e0e\u3048\u308b\u5bc4\u4e0e\u3082\u5909\u308f\u308b\u3002<\/p>\n<p>\u91cd\u307f\u3092\u56fa\u5b9a\u3057\u305f\u4e8c\u4e57\u640d\u5931\u306b\u3088\u308b\u5c40\u6240\u30e2\u30c7\u30eb\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u6b21\u306e\u3088\u3046\u306b\u5b9a\u7fa9\u3067\u304d\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\mathcal F_W(\\theta)<br \/>\n=<br \/>\n\\frac1{2n}<br \/>\n(X_f\\theta-y_f)^\\top<br \/>\nW<br \/>\n(X_f\\theta-y_f)<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u76ee\u7684\u95a2\u6570\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u5404\u6b8b\u5dee\u306e\u4e8c\u4e57\u306b\u91cd\u307f\u3092\u639b\u3051\u3066\u304b\u3089\u5408\u8a08\u3059\u308b\u3002\u52fe\u914d\u306f\u6b21\u306e\u5f62\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\nabla\\mathcal F_W(\\theta)<br \/>\n=<br \/>\n\\frac1n<br \/>\nX_f^\\top W(X_f\\theta-y_f)<br \/>\n\\]<\/p>\n<p>\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u304b\u3089 \\(\\rho\\mathcal F_W(\\theta)\\) \u3092\u5f15\u304f\u76ee\u7684\u95a2\u6570\u3092\u8003\u3048\u308b\u3068\u3001\u518d\u5b66\u7fd2\u57fa\u6e96\u304b\u3089\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d \\(\\delta\\theta_W\\) \u306f\u6b21\u306e\u65b9\u7a0b\u5f0f\u3092\u6e80\u305f\u3059\u3002<\/p>\n<p>\\[<br \/>\n\\left(<br \/>\nH_r-\\frac{\\rho}{n}X_f^\\top WX_f<br \/>\n\\right)\\delta\\theta_W<br \/>\n=<br \/>\n\\frac{\\rho}{n}X_f^\\top We_f^-<br \/>\n\\]<\/p>\n<p>\u5de6\u8fba\u306b\u306f\u3001\u91cd\u307f\u4ed8\u3051\u3055\u308c\u305f\u5fd8\u5374\u5bfe\u8c61\u306e\u66f2\u7387\u304c\u73fe\u308c\u308b\u3002\u53f3\u8fba\u306b\u306f\u3001\u5404\u5fd8\u5374\u30c7\u30fc\u30bf\u306e\u6b8b\u5dee\u3078\u91cd\u307f\u3092\u639b\u3051\u305f\u30d9\u30af\u30c8\u30eb\u304c\u73fe\u308c\u308b\u3002\u91cd\u307f\u306f\u5fd8\u5374\u52fe\u914d\u306e\u5927\u304d\u3055\u3060\u3051\u3067\u306a\u304f\u3001\u76ee\u7684\u95a2\u6570\u306e\u66f2\u7387\u306b\u3082\u5f71\u97ff\u3059\u308b\u305f\u3081\u3001\u51fa\u529b\u5dee\u306e\u8a55\u4fa1\u3067\u306f\u4e21\u65b9\u306e\u4f5c\u7528\u3092\u8003\u616e\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u5bfe\u5fdc\u3059\u308b\u884c\u5217\u304c\u6b63\u5b9a\u5024\u3067\u9006\u884c\u5217\u3092\u6301\u3064\u5834\u5408\u3001\u524d\u7ae0\u3068\u540c\u3058\u5909\u5f62\u306b\u3088\u3063\u3066\u3001\u8a55\u4fa1\u96c6\u5408\u306b\u5bfe\u3059\u308b\u51fa\u529b\u5dee\u306f\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_a^{(W)}<br \/>\n=<br \/>\n\\frac{\\rho}{n}<br \/>\nK_{af}<br \/>\n\\left(<br \/>\nI_m-\\frac{\\rho}{n}WK_{ff}<br \/>\n\\right)^{-1}<br \/>\nWe_f^-<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5f0f\u306f\u3001\u91cd\u307f\u3092\u56fa\u5b9a\u3057\u305f\u4e8c\u4e57\u640d\u5931\u30e2\u30c7\u30eb\u306b\u5bfe\u3057\u3066\u53b3\u5bc6\u306b\u6210\u7acb\u3059\u308b\u3002NPO \u3084 SimNPO \u306e\u5b9f\u969b\u306e\u76ee\u7684\u95a2\u6570\u3092\u5c40\u6240\u7684\u306a\u91cd\u307f\u4ed8\u304d\u4e8c\u4e57\u640d\u5931\u3067\u8fd1\u4f3c\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u8fd1\u4f3c\u5f0f\u3068\u3057\u3066\u89e3\u91c8\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u5b9f\u969b\u306e NPO \u3084 SimNPO \u3067\u306f\u3001\u4e88\u6e2c\u78ba\u7387\u3084\u5b66\u7fd2\u72b6\u614b\u306b\u3088\u3063\u3066\u52fe\u914d\u306e\u91cd\u307f\u304c\u5909\u5316\u3059\u308b\u305f\u3081\u3001\u305d\u306e\u4f9d\u5b58\u95a2\u4fc2\u304c\u66f2\u7387\u306b\u3082\u5f71\u97ff\u3059\u308b\u3002\u56fa\u5b9a\u91cd\u307f\u306e\u5f0f\u3060\u3051\u3067\u3001\u5b66\u7fd2\u4e2d\u306b\u5909\u5316\u3059\u308b\u91cd\u307f\u3084\u975e\u7dda\u5f62\u306a\u76ee\u7684\u95a2\u6570\u306e\u5168\u904e\u7a0b\u3092\u53b3\u5bc6\u306b\u8868\u3059\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002<\/p>\n<p>\u56fa\u5b9a\u91cd\u307f\u30e2\u30c7\u30eb\u306e\u5f0f\u3067\u306f\u3001\\(We_f^-\\) \u304c\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u306b\u5bfe\u3059\u308b\u9078\u5225\u3092\u8868\u3059\u3002\u4e00\u65b9\u3001\\(K_{af}\\) \u306f\u9078\u5225\u5f8c\u306e\u5909\u5316\u304c\u3069\u306e\u8a55\u4fa1\u96c6\u5408\u3078\u4f1d\u308f\u308b\u304b\u3092\u6c7a\u3081\u308b\u3002\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u3068\u91cd\u307f\u884c\u5217\u3092\u542b\u3080\u9006\u884c\u5217\u306f\u3001\u9078\u5225\u3055\u308c\u305f\u6b8b\u5dee\u304c\u5fd8\u5374\u5bfe\u8c61\u5185\u90e8\u3067\u3069\u306e\u3088\u3046\u306b\u5897\u5e45\u3055\u308c\u308b\u304b\u3092\u8868\u3059\u3002\u91cd\u307f\u3092\u5909\u3048\u308b\u3053\u3068\u3068\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u4f1d\u64ad\u7d4c\u8def\u3092\u5909\u3048\u308b\u3053\u3068\u306f\u3001\u6570\u7406\u7684\u306b\u306f\u7570\u306a\u308b\u64cd\u4f5c\u3067\u3042\u308b\u3002<\/p>\n<p>\u5c04\u5f71\u578b\u306e\u5fd8\u5374\u624b\u6cd5\u3067\u306f\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u66f4\u65b0\u3092\u7279\u5b9a\u306e\u90e8\u5206\u7a7a\u9593\u306b\u5236\u9650\u3059\u308b\u3002\u4f8b\u3048\u3070\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u306b\u95a2\u4fc2\u3059\u308b\u66f4\u65b0\u65b9\u5411\u3092\u6291\u3048\u308b\u3053\u3068\u3067\u3001\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u5909\u66f4\u304c\u4fdd\u6301\u5bfe\u8c61\u3078\u4f1d\u308f\u308b\u3053\u3068\u3092\u5236\u9650\u3059\u308b\u3002\u3053\u306e\u5834\u5408\u3001\u66f4\u65b0\u65b9\u5411\u306b\u5c04\u5f71\u304c\u4f5c\u7528\u3059\u308b\u305f\u3081\u3001\u51fa\u529b\u5dee\u3092\u6c7a\u3081\u308b\u884c\u5217\u305d\u306e\u3082\u306e\u304c\u5909\u5316\u3059\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306b\u5bfe\u3059\u308b\u66f4\u65b0\u91cf\u3092\u8abf\u6574\u3059\u308b\u91cd\u307f\u4ed8\u3051\u3068\u3001\u66f4\u65b0\u304c\u4f5c\u7528\u3059\u308b\u65b9\u5411\u3092\u5236\u9650\u3059\u308b\u5c04\u5f71\u3067\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u526f\u4f5c\u7528\u3092\u6291\u3048\u308b\u4ed5\u7d44\u307f\u304c\u7570\u306a\u308b\u3002<\/p>\n<p>Newton \u578b\u306e\u65b9\u6cd5\u3067\u306f\u3001\u52fe\u914d\u3068\u66f2\u7387\u304b\u3089\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3092\u6c42\u3081\u308b\u3002\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u304c\u53b3\u5bc6\u306a\u4e8c\u6b21\u95a2\u6570\u3067\u3042\u308a\u3001\u305d\u306e\u66f2\u7387\u884c\u5217\u3092\u6b63\u78ba\u306b\u5229\u7528\u3067\u304d\u308b\u5834\u5408\u306b\u306f\u3001\u518d\u5b66\u7fd2\u89e3\u3078\u306e\u5909\u4f4d\u3092\u53b3\u5bc6\u306b\u8a08\u7b97\u3067\u304d\u308b\u3002\u4e00\u65b9\u3001\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u3067\u306f\u3001\u66f2\u7387\u3092\u5c40\u6240\u7684\u306b\u8fd1\u4f3c\u3059\u308b\u305f\u3081\u3001\u8fd1\u4f3c\u306e\u7cbe\u5ea6\u3001\u66f2\u7387\u884c\u5217\u306e\u8a08\u7b97\u65b9\u6cd5\u3001\u66f4\u65b0\u5f8c\u306e\u30e2\u30c7\u30eb\u304c\u8fd1\u4f3c\u70b9\u304b\u3089\u3069\u306e\u7a0b\u5ea6\u96e2\u308c\u308b\u304b\u306b\u3088\u3063\u3066\u7d50\u679c\u304c\u5909\u308f\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u7279\u5fb4\u65b9\u5411\u306e\u95a2\u4fc2\u304c\u3001\u6700\u9069\u5316\u306e\u5b89\u5b9a\u6027\u306b\u5f71\u97ff\u3059\u308b\u3053\u3068\u306f\u7dda\u5f62\u5b89\u5b9a\u6027\u306e\u7814\u7a76\u3067\u3082\u793a\u3055\u308c\u3066\u3044\u308b<a href=\"#ref13\">[13]<\/a>\u3002\u610f\u5473\u7684\u306b\u95a2\u9023\u3059\u308b\u4fdd\u6301\u30c7\u30fc\u30bf\u306e\u6027\u80fd\u3092\u7dad\u6301\u3057\u306a\u304c\u3089\u5fd8\u5374\u3059\u308b\u65b9\u6cd5\u3084\u3001Woodbury \u306e\u6052\u7b49\u5f0f\u3092\u5229\u7528\u3057\u305f Newton \u578b\u306e\u66f4\u65b0\u3082\u63d0\u6848\u3055\u308c\u3066\u3044\u308b<a href=\"#ref14\">[14]<\/a><a href=\"#ref15\">[15]<\/a>\u3002<\/p>\n<p>\u3053\u308c\u3089\u306e\u624b\u6cd5\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u5909\u66f4\u3092\u3069\u306e\u3088\u3046\u306b\u6c7a\u3081\u308b\u304b\u3001\u305d\u306e\u5909\u66f4\u304c\u4fdd\u6301\u5bfe\u8c61\u3078\u3069\u306e\u3088\u3046\u306b\u4f1d\u308f\u308b\u304b\u3068\u3044\u3046\u4e8c\u3064\u306e\u89b3\u70b9\u304b\u3089\u6bd4\u8f03\u3067\u304d\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u65b9\u6cd5<\/th>\n<th>\u5fd8\u5374\u65b9\u5411\u3092\u6c7a\u3081\u308b\u8981\u7d20<\/th>\n<th>\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304b\u3089\u306e\u51fa\u529b\u5dee\u3092\u5de6\u53f3\u3059\u308b\u3082\u306e<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>GradDiff<\/td>\n<td>\u4fdd\u6301\u640d\u5931\u3068\u5fd8\u5374\u640d\u5931\u306e\u52fe\u914d\u5dee\u3092\u4f7f\u3046\u3002<\/td>\n<td>\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306b\u3088\u308b\u6b8b\u5dee\u306e\u5897\u5e45\u3068\u3001\u8a55\u4fa1\u96c6\u5408\u3078\u306e\u4f1d\u64ad\u884c\u5217\u304c\u4f5c\u7528\u3059\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>NPO\u30fbSimNPO<\/td>\n<td>\u5fd8\u5374\u30c7\u30fc\u30bf\u306b\u5bfe\u3059\u308b\u4e88\u6e2c\u72b6\u614b\u306b\u5fdc\u3058\u3066\u3001\u66f4\u65b0\u306e\u91cd\u307f\u3092\u5909\u3048\u308b\u3002<\/td>\n<td>\u91cd\u307f\u4ed8\u3051\u3055\u308c\u305f\u6b8b\u5dee\u3001\u5b66\u7fd2\u4e2d\u306b\u5909\u5316\u3059\u308b\u66f2\u7387\u3001\u8a55\u4fa1\u96c6\u5408\u3078\u306e\u4f1d\u64ad\u95a2\u4fc2\u304c\u4f5c\u7528\u3059\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u5c04\u5f71\u578b<\/td>\n<td>\u4fdd\u6301\u30c7\u30fc\u30bf\u306b\u95a2\u4fc2\u3059\u308b\u66f4\u65b0\u65b9\u5411\u3092\u5236\u9650\u3059\u308b\u3002<\/td>\n<td>\u5c04\u5f71\u3055\u308c\u305f\u66f4\u65b0\u65b9\u5411\u3068\u8a55\u4fa1\u96c6\u5408\u306e\u51fa\u529b\u611f\u5ea6\u306b\u3088\u3063\u3066\u3001\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u5909\u5316\u304c\u5206\u304b\u308c\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>Newton \u578b<\/td>\n<td>\u52fe\u914d\u3068\u66f2\u7387\u304b\u3089\u518d\u5b66\u7fd2\u89e3\u3078\u306e\u5909\u4f4d\u3092\u63a8\u5b9a\u3059\u308b\u3002<\/td>\n<td>\u4e8c\u6b21\u8fd1\u4f3c\u306e\u7cbe\u5ea6\u3001\u66f2\u7387\u884c\u5217\u306e\u8a08\u7b97\u6761\u4ef6\u3001\u66f4\u65b0\u5f8c\u306e\u51fa\u529b\u611f\u5ea6\u306b\u4f9d\u5b58\u3059\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u624b\u6cd5\u3054\u3068\u306e\u9055\u3044\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u3069\u308c\u307b\u3069\u5897\u52a0\u3055\u305b\u305f\u304b\u3060\u3051\u3067\u306f\u628a\u63e1\u3067\u304d\u306a\u3044\u3002\u91cd\u307f\u4ed8\u3051\u306f\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u3054\u3068\u306e\u5bc4\u4e0e\u3092\u5909\u3048\u3001\u5c04\u5f71\u306f\u66f4\u65b0\u304c\u4f5c\u7528\u3059\u308b\u65b9\u5411\u3092\u5909\u3048\u3001Newton \u578b\u306e\u65b9\u6cd5\u306f\u66f2\u7387\u3092\u5229\u7528\u3057\u3066\u518d\u5b66\u7fd2\u89e3\u3078\u306e\u5909\u4f4d\u3092\u6c42\u3081\u308b\u3002\u3044\u305a\u308c\u3082\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u66f4\u65b0\u3092\u901a\u3058\u3066\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u3092\u5909\u3048\u308b\u304c\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u3092\u6c7a\u3081\u308b\u69cb\u9020\u306f\u7570\u306a\u308b\u3002<\/p>\n<h3>5.4 \u5fd8\u5374\u4fc2\u6570\u3068\u4fdd\u6301\u6027\u80fd\u3092\u540c\u6642\u306b\u78ba\u8a8d\u3059\u308b<\/h3>\n<p>GradDiff \u306e\u5fd8\u5374\u4fc2\u6570 \\(\\rho\\) \u3092\u5927\u304d\u304f\u3059\u308b\u3068\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u5897\u52a0\u3055\u305b\u308b\u9805\u306e\u76f8\u5bfe\u7684\u306a\u5bc4\u4e0e\u304c\u5897\u3048\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u6b63\u7b54\u7387\u304c\u4f4e\u4e0b\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u4e88\u6e2c\u3092\u5909\u5316\u3055\u305b\u308b\u3068\u3044\u3046\u610f\u5473\u3067\u51e6\u7406\u304c\u9032\u3093\u3060\u3088\u3046\u306b\u898b\u3048\u308b\u3002\u3057\u304b\u3057\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u3068\u306f\u7570\u306a\u308b\u6761\u4ef6\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002<\/p>\n<p>\u7dda\u5f62\u56de\u5e30\u306e\u9589\u5f62\u5f0f\u3067\u306f\u3001\u5fd8\u5374\u4fc2\u6570\u306e\u5897\u52a0\u306b\u3088\u3063\u3066\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u56fa\u6709\u65b9\u5411\u3054\u3068\u306e\u5897\u5e45\u304c\u5927\u304d\u304f\u306a\u308b\u3002\u6b63\u5b9a\u5024\u6761\u4ef6\u306e\u5883\u754c\u306b\u8fd1\u3065\u304f\u3068\u3001\u6700\u5927\u56fa\u6709\u5024\u306b\u5bfe\u5fdc\u3059\u308b\u65b9\u5411\u3067\u306f\u975e\u5e38\u306b\u5927\u304d\u306a\u5909\u4f4d\u304c\u751f\u3058\u5f97\u308b\u3002\u305d\u306e\u5909\u4f4d\u306f\u3001\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8 \\(K_{rf}\\) \u3092\u4ecb\u3057\u3066\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u306b\u3082\u4f1d\u308f\u308b\u3002<\/p>\n<p>\u4f8b\u3048\u3070\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u304c\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u5927\u304d\u306a\u56fa\u6709\u5024\u306b\u5bfe\u5fdc\u3059\u308b\u65b9\u5411\u3078\u96c6\u4e2d\u3057\u3066\u3044\u308b\u5834\u5408\u3001\u5fd8\u5374\u4fc2\u6570\u306e\u5897\u52a0\u306b\u3088\u3063\u3066\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u304c\u6025\u901f\u306b\u62e1\u5927\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u3055\u3089\u306b\u3001\u305d\u306e\u65b9\u5411\u306b\u5bfe\u3059\u308b\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u4f5c\u7528\u3082\u5927\u304d\u3051\u308c\u3070\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u3082\u518d\u5b66\u7fd2\u57fa\u6e96\u304b\u3089\u96e2\u308c\u308b\u3002\u4e00\u65b9\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u4ea4\u5dee\u4f5c\u7528\u304c\u5c0f\u3055\u3044\u65b9\u5411\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u304c\u5909\u5316\u3057\u3066\u3082\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u306f\u5c0f\u3055\u304f\u306a\u308a\u5f97\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u51e6\u7406\u306e\u8a55\u4fa1\u306b\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306b\u3064\u3044\u3066\u7570\u306a\u308b\u6e2c\u5b9a\u5024\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3067\u306f\u3001\u6b63\u7b54\u7387\u3084\u640d\u5931\u306e\u5909\u5316\u306b\u52a0\u3048\u3066\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u3092\u6e2c\u308b\u3002\u4fdd\u6301\u5bfe\u8c61\u3067\u306f\u3001\u4e88\u6e2c\u6027\u80fd\u3068\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u3092\u78ba\u8a8d\u3059\u308b\u3002\u3055\u3089\u306b\u3001GradDiff \u306e\u3088\u3046\u306b\u66f2\u7387\u306b\u3088\u308b\u5b89\u5b9a\u6027\u3092\u89e3\u6790\u3067\u304d\u308b\u65b9\u6cd5\u3067\u306f\u3001\u6b63\u5b9a\u5024\u6761\u4ef6\u3092\u6e80\u305f\u3057\u3066\u3044\u308b\u304b\u3082\u78ba\u8a8d\u3059\u308b\u3002<\/p>\n<p>\u3053\u306e\u95a2\u4fc2\u3092\u6574\u7406\u3059\u308b\u3068\u3001\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u5909\u5316\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u3001\u6700\u9069\u5316\u306e\u5b89\u5b9a\u6027\u306f\u3001\u305d\u308c\u305e\u308c\u7570\u306a\u308b\u5224\u5b9a\u6761\u4ef6\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\n&#038;\\text{\u5fd8\u5374\u5bfe\u8c61\u306e\u8a55\u4fa1}<br \/>\n&#038;&#038;:\\quad \\mathrm{RMS}_f,\\ \\text{\u6b63\u7b54\u7387\u30fb\u640d\u5931}\\\\<br \/>\n&#038;\\text{\u4fdd\u6301\u5bfe\u8c61\u306e\u8a55\u4fa1}<br \/>\n&#038;&#038;:\\quad \\mathrm{RMS}_r,\\ \\text{\u4e88\u6e2c\u6027\u80fd}\\\\<br \/>\n&#038;\\text{\u5b89\u5b9a\u6027\u306e\u8a55\u4fa1}<br \/>\n&#038;&#038;:\\quad<br \/>\n\\frac{\\rho}{n}\\lambda_{\\max}(K_{ff})<1\n\\end{aligned}\n\\]\n\n\n\n<p>\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u3060\u3051\u3092\u505c\u6b62\u6761\u4ef6\u306b\u3059\u308b\u3068\u3001\u6b63\u7b54\u7387\u304c\u3059\u3067\u306b\u4f4e\u4e0b\u3057\u305f\u5f8c\u3082\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304b\u3089\u306e\u51fa\u529b\u5dee\u304c\u5897\u52a0\u3057\u3066\u3044\u308b\u53ef\u80fd\u6027\u3092\u898b\u843d\u3068\u3059\u3002\u4fdd\u6301\u5bfe\u8c61\u306e\u4e88\u6e2c\u6027\u80fd\u3060\u3051\u3092\u8ffd\u52a0\u3057\u3066\u3082\u3001\u4e88\u6e2c\u5024\u304c\u5909\u5316\u3057\u3066\u3044\u308b\u306e\u306b\u6b63\u8aa4\u5224\u5b9a\u304c\u7dad\u6301\u3055\u308c\u3066\u3044\u308b\u5834\u5408\u306b\u306f\u3001\u305d\u306e\u5dee\u3092\u5341\u5206\u306b\u8a55\u4fa1\u3067\u304d\u306a\u3044\u3002\u6b63\u7b54\u7387\u3001\u51fa\u529b\u5dee\u3001\u5b89\u5b9a\u6027\u3092\u5206\u3051\u308b\u3053\u3068\u3067\u3001\u305d\u308c\u305e\u308c\u306e\u8a55\u4fa1\u5024\u304c\u3069\u306e\u6761\u4ef6\u306e\u9054\u6210\u3092\u793a\u3057\u3066\u3044\u308b\u304b\u304c\u660e\u78ba\u306b\u306a\u308b\u3002<\/p>\n<p>\u307e\u305f\u3001\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u8a55\u4fa1\u3092\u5358\u4e00\u306e\u6570\u5024\u3078\u7d71\u5408\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u91cd\u307f\u4ed8\u3051\u306b\u3088\u3063\u3066\u7570\u306a\u308b\u76ee\u7684\u306e\u9593\u306b\u4ea4\u63db\u95a2\u4fc2\u304c\u751f\u3058\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u6b63\u7b54\u7387\u4f4e\u4e0b\u3092\u512a\u5148\u3059\u308c\u3070\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u304c\u5897\u52a0\u3059\u308b\u5834\u5408\u304c\u3042\u308a\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u7dad\u6301\u3092\u512a\u5148\u3059\u308c\u3070\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u5909\u66f4\u304c\u5236\u9650\u3055\u308c\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u3057\u305f\u304c\u3063\u3066\u3001\u505c\u6b62\u6761\u4ef6\u3092\u5b9a\u3081\u308b\u969b\u306b\u306f\u3001\u5404\u8a55\u4fa1\u5024\u306b\u8a31\u5bb9\u3055\u308c\u308b\u7bc4\u56f2\u3092\u500b\u5225\u306b\u6307\u5b9a\u3059\u308b\u3053\u3068\u304c\u3001\u51e6\u7406\u7d50\u679c\u306e\u610f\u5473\u3092\u660e\u78ba\u306b\u3059\u308b\u3002<\/p>\n<p>\u7dda\u5f62\u4e8c\u4e57\u640d\u5931\u306e GradDiff \u3067\u306f\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u56fa\u6709\u5024\u3068\u5fd8\u5374\u4fc2\u6570\u304b\u3089\u6700\u9069\u5316\u306e\u5b89\u5b9a\u6761\u4ef6\u3092\u53b3\u5bc6\u306b\u6c42\u3081\u3089\u308c\u308b\u3002\u51fa\u529b\u5dee\u306e\u9589\u5f62\u5f0f\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u304c\u3069\u306e\u65b9\u5411\u3067\u5897\u5e45\u3055\u308c\u3001\u305d\u306e\u5909\u5316\u304c\u4fdd\u6301\u5bfe\u8c61\u3078\u3069\u306e\u3088\u3046\u306b\u4f1d\u308f\u308b\u304b\u3092\u8868\u3057\u3066\u3044\u308b\u3002\u5fd8\u5374\u51e6\u7406\u306e\u7d50\u679c\u3092\u5224\u65ad\u3059\u308b\u969b\u306b\u306f\u3001\u640d\u5931\u306e\u5897\u52a0\u91cf\u3060\u3051\u3067\u306a\u304f\u3001\u518d\u5b66\u7fd2\u57fa\u6e96\u304b\u3089\u306e\u51fa\u529b\u5dee\u3068\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u3092\u540c\u6642\u306b\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<hr>\n<h2>6. \u7dda\u5f62\u30e2\u30c7\u30eb\u306e\u7406\u8ad6\u306f\u975e\u7dda\u5f62 AI \u306b\u3069\u3053\u307e\u3067\u9069\u7528\u3067\u304d\u308b\u304b<\/h2>\n<h3>6.1 \u518d\u5b66\u7fd2\u89e3\u306e\u8fd1\u508d\u3067\u5c40\u6240\u7dda\u5f62\u5316\u3059\u308b<\/h3>\n<p>\u7dda\u5f62\u56de\u5e30\u3067\u306f\u3001\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u304c\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u4e00\u6b21\u95a2\u6570\u3067\u3042\u308a\u3001\u4e8c\u4e57\u640d\u5931\u306e\u30d8\u30c3\u30bb\u884c\u5217\u3082\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306b\u4f9d\u5b58\u3057\u306a\u3044\u3002\u305d\u306e\u305f\u3081\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u3068\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u304b\u3089\u3001GradDiff \u306b\u3088\u308b\u51fa\u529b\u5dee\u3092\u53b3\u5bc6\u306b\u6c42\u3081\u3089\u308c\u305f\u3002\u4e00\u65b9\u3001\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u3067\u306f\u3001\u8907\u6570\u306e\u5c64\u3067\u91cd\u307f\u4ed8\u304d\u548c\u3068\u975e\u7dda\u5f62\u306a\u5909\u63db\u3092\u7e70\u308a\u8fd4\u3059\u305f\u3081\u3001\u51fa\u529b\u306f\u4e00\u822c\u306b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u975e\u7dda\u5f62\u95a2\u6570\u3068\u306a\u308b\u3002\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u66f4\u65b0\u3059\u308b\u3068\u3001\u4e88\u6e2c\u5024\u3060\u3051\u3067\u306a\u304f\u3001\u305d\u306e\u5f8c\u306e\u66f4\u65b0\u306b\u5bfe\u3059\u308b\u51fa\u529b\u306e\u611f\u5ea6\u3082\u5909\u5316\u3059\u308b\u3002<\/p>\n<p>\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u3067\u3082\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u5316\u304c\u5341\u5206\u5c0f\u3055\u3044\u7bc4\u56f2\u3067\u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u8fd1\u508d\u3067\u51fa\u529b\u3092\u4e00\u6b21\u8fd1\u4f3c\u3067\u304d\u308b\u3002\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u3092 \\(f(\\theta,x)\\)\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092 \\(\\theta_r^\\star\\)\u3001\u305d\u3053\u304b\u3089\u306e\u5909\u4f4d\u3092 \\(\\delta\\theta\\) \u3068\u3059\u308b\u3002\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306b\u3064\u3044\u3066\u5fae\u5206\u53ef\u80fd\u306a\u51fa\u529b\u95a2\u6570\u3092 Taylor \u5c55\u958b\u3059\u308b\u3068\u3001\u6b21\u306e\u95a2\u4fc2\u304c\u5f97\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\begin{aligned}<br \/>\nf(\\theta_r^\\star+\\delta\\theta,x)<br \/>\n&#038;=<br \/>\nf(\\theta_r^\\star,x)<br \/>\n+<br \/>\nJ_x^-\\delta\\theta<br \/>\n+<br \/>\nR_x(\\delta\\theta)<br \/>\n\\end{aligned}<br \/>\n\\]<\/p>\n<p>\\(J_x^-\\) \u306f\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc \\(\\theta_r^\\star\\) \u3067\u8a55\u4fa1\u3057\u305f\u51fa\u529b\u306e\u30e4\u30b3\u30d3\u884c\u5217\u3067\u3042\u308b\u3002\\(R_x(\\delta\\theta)\\) \u306f\u4e00\u6b21\u8fd1\u4f3c\u3067\u8868\u73fe\u3067\u304d\u306a\u3044\u9ad8\u6b21\u306e\u9805\u3092\u307e\u3068\u3081\u305f\u5270\u4f59\u3067\u3042\u308b\u3002\u51fa\u529b\u95a2\u6570\u304c\u8fd1\u508d\u3067\u4e8c\u968e\u9023\u7d9a\u5fae\u5206\u53ef\u80fd\u3067\u3001\u305d\u306e\u4e8c\u968e\u5fae\u5206\u304c\u6709\u754c\u306a\u3089\u3001\u5909\u4f4d\u304c\u5341\u5206\u5c0f\u3055\u3044\u7bc4\u56f2\u3067\u5270\u4f59\u306f\u5909\u4f4d\u306e\u4e8c\u4e57\u306e\u5927\u304d\u3055\u306b\u6291\u3048\u3089\u308c\u308b\u3002<\/p>\n<p>\u9ad8\u6b21\u306e\u9805\u3092\u7701\u7565\u3059\u308b\u3068\u3001\u51fa\u529b\u5dee\u306f\u6b21\u306e\u3088\u3046\u306b\u8fd1\u4f3c\u3067\u304d\u308b\u3002<\/p>\n<p>\\[<br \/>\nf(\\theta_r^\\star+\\delta\\theta,x)<br \/>\n&#8211;<br \/>\nf(\\theta_r^\\star,x)<br \/>\n\\approx<br \/>\nJ_x^-\\delta\\theta<br \/>\n\\]<\/p>\n<p>\u30e4\u30b3\u30d3\u884c\u5217\u306f\u3001\u5404\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u5c11\u3057\u52d5\u304b\u3057\u305f\u3068\u304d\u306b\u51fa\u529b\u304c\u3069\u306e\u7a0b\u5ea6\u5909\u5316\u3059\u308b\u304b\u3092\u4e26\u3079\u305f\u3082\u306e\u3067\u3042\u308b\u3002\u4f8b\u3048\u3070\u3001\u51fa\u529b\u304c\u4e00\u3064\u306e\u6570\u5024\u3067\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u304c \\(\\theta_1,\\theta_2\\) \u306e\u4e8c\u3064\u3067\u3042\u308b\u5834\u5408\u3001\u30e4\u30b3\u30d3\u884c\u5217\u306f\u6b21\u306e\u884c\u30d9\u30af\u30c8\u30eb\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\nJ_x^-=<br \/>\n\\begin{pmatrix}<br \/>\n\\frac{\\partial f}{\\partial\\theta_1} &#038;<br \/>\n\\frac{\\partial f}{\\partial\\theta_2}<br \/>\n\\end{pmatrix}_{\\theta=\\theta_r^\\star}<br \/>\n\\]<\/p>\n<p>\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u4f4d\u3092 \\(\\delta\\theta=(\\delta\\theta_1,\\delta\\theta_2)^\\top\\) \u3068\u3059\u308b\u3068\u3001\u4e00\u6b21\u8fd1\u4f3c\u306b\u3088\u308b\u51fa\u529b\u5909\u5316\u306f\u3001\u5404\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u5316\u91cf\u306b\u5bfe\u5fdc\u3059\u308b\u611f\u5ea6\u3092\u639b\u3051\u5408\u308f\u305b\u305f\u548c\u3068\u306a\u308b\u3002\u3057\u305f\u304c\u3063\u3066\u3001\u540c\u3058\u5927\u304d\u3055\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3067\u3082\u3001\u51fa\u529b\u611f\u5ea6\u306e\u5927\u304d\u3044\u65b9\u5411\u3078\u79fb\u52d5\u3059\u308c\u3070\u4e88\u6e2c\u5024\u306e\u5909\u5316\u306f\u5927\u304d\u304f\u306a\u308b\u3002<\/p>\n<p>\u51fa\u529b\u304c \\(c\\) \u500b\u306e\u6210\u5206\u3092\u6301\u3061\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u6570\u304c \\(d\\) \u500b\u3067\u3042\u308b\u5834\u5408\u3001\u5404\u5165\u529b\u306e\u30e4\u30b3\u30d3\u884c\u5217\u306f \\(c\\times d\\) \u884c\u5217\u3068\u306a\u308b\u3002\u4f8b\u3048\u3070 10 \u30af\u30e9\u30b9\u306e\u5206\u985e\u5668\u306a\u3089\u3001\u5404\u30af\u30e9\u30b9\u306e\u51fa\u529b\u5f97\u70b9\u306b\u3064\u3044\u3066\u3001\u3059\u3079\u3066\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306b\u5bfe\u3059\u308b\u611f\u5ea6\u3092\u8a08\u7b97\u3059\u308b\u3002\u8907\u6570\u306e\u5165\u529b\u306b\u3064\u3044\u3066\u30e4\u30b3\u30d3\u884c\u5217\u3092\u7e26\u306b\u4e26\u3079\u308c\u3070\u3001\u8a55\u4fa1\u96c6\u5408\u5168\u4f53\u306e\u51fa\u529b\u5909\u5316\u3092\u4e00\u3064\u306e\u884c\u5217\u7a4d\u3067\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\nJ_a^-=<br \/>\n\\begin{pmatrix}<br \/>\nJ_{a,1}^-\\\\<br \/>\nJ_{a,2}^-\\\\<br \/>\n\\vdots\\\\<br \/>\nJ_{a,|A|}^-<br \/>\n\\end{pmatrix}<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u884c\u5217\u3092\u7528\u3044\u308b\u3068\u3001\u8a55\u4fa1\u96c6\u5408 \\(A\\) \u306b\u3064\u3044\u3066\u306e\u51fa\u529b\u5dee\u306f\u6b21\u306e\u3088\u3046\u306b\u8fd1\u4f3c\u3055\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_a<br \/>\n=<br \/>\nf(\\theta_r^\\star+\\delta\\theta,X_a)<br \/>\n&#8211;<br \/>\nf(\\theta_r^\\star,X_a)<br \/>\n\\approx<br \/>\nJ_a^-\\delta\\theta<br \/>\n\\]<\/p>\n<p>\u7dda\u5f62\u56de\u5e30\u3067\u306f\u3001\u51fa\u529b\u306e\u30e4\u30b3\u30d3\u884c\u5217\u304c\u5165\u529b\u306e\u7279\u5fb4\u884c\u5217 \\(X_a\\) \u305d\u306e\u3082\u306e\u306b\u306a\u308b\u3002\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u3067\u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u8fd1\u508d\u306b\u9650\u3063\u3066\u3001\u30e4\u30b3\u30d3\u884c\u5217 \\(J_a^-\\) \u304c\u7279\u5fb4\u884c\u5217\u306b\u5bfe\u5fdc\u3059\u308b\u5f79\u5272\u3092\u6301\u3064\u3002\u305f\u3060\u3057\u3001\u30e4\u30b3\u30d3\u884c\u5217\u306f\u8a55\u4fa1\u3059\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u4f4d\u7f6e\u306b\u3088\u3063\u3066\u5909\u5316\u3059\u308b\u305f\u3081\u3001\u7dda\u5f62\u56de\u5e30\u306e\u3088\u3046\u306b\u4efb\u610f\u306e\u5909\u4f4d\u306b\u5bfe\u3057\u3066\u540c\u3058\u884c\u5217\u3092\u4f7f\u7528\u3067\u304d\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>\u3053\u306e\u9055\u3044\u306f\u3001\u51fa\u529b\u304c\u975e\u7dda\u5f62\u306a\u4e00\u5909\u6570\u95a2\u6570\u3067\u3042\u308b\u5834\u5408\u306b\u3082\u78ba\u8a8d\u3067\u304d\u308b\u3002\u4f8b\u3048\u3070 \\(f(\\theta)=\\theta^2\\) \u3092 \\(\\theta=1\\) \u306e\u8fd1\u508d\u3067\u8003\u3048\u308b\u3068\u3001\u5fae\u5206\u4fc2\u6570\u306f 2 \u306a\u306e\u3067\u3001\u4e00\u6b21\u8fd1\u4f3c\u306f \\(f(1+\\delta\\theta)-f(1)\\approx2\\delta\\theta\\) \u3068\u306a\u308b\u3002\u3057\u304b\u3057\u3001\u5b9f\u969b\u306e\u5dee\u306f \\(2\\delta\\theta+(\\delta\\theta)^2\\) \u3067\u3042\u308a\u3001\u5909\u4f4d\u306e\u4e8c\u4e57\u306b\u76f8\u5f53\u3059\u308b\u9805\u304c\u6b8b\u308b\u3002\u5909\u4f4d\u304c\u5c0f\u3055\u3044\u7bc4\u56f2\u3067\u306f\u4e00\u6b21\u8fd1\u4f3c\u304c\u6210\u7acb\u3057\u3084\u3059\u3044\u304c\u3001\u5927\u304d\u306a\u5909\u4f4d\u3067\u306f\u7701\u7565\u3057\u305f\u9805\u306e\u5f71\u97ff\u304c\u5897\u52a0\u3059\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u51e6\u7406\u3067\u306f\u3001\u66f4\u65b0\u306b\u3088\u3063\u3066\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u304b\u3089\u3069\u308c\u3060\u3051\u96e2\u308c\u308b\u304b\u304c\u5c40\u6240\u8fd1\u4f3c\u306e\u59a5\u5f53\u6027\u3092\u6c7a\u3081\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u5897\u3084\u3059\u305f\u3081\u306b\u5927\u304d\u306a\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u304c\u751f\u3058\u305f\u5834\u5408\u3001\u518d\u5b66\u7fd2\u89e3\u3067\u8a08\u7b97\u3057\u305f\u30e4\u30b3\u30d3\u884c\u5217\u304c\u66f4\u65b0\u5f8c\u306e\u51fa\u529b\u5909\u5316\u3092\u5341\u5206\u306b\u8868\u305b\u306a\u3044\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u7dda\u5f62\u56de\u5e30\u3067\u53b3\u5bc6\u306b\u6c42\u3081\u3089\u308c\u305f\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u3092\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u3078\u62e1\u5f35\u3059\u308b\u306b\u306f\u3001\u3053\u306e\u51fa\u529b\u306e\u5c40\u6240\u7dda\u5f62\u5316\u306b\u52a0\u3048\u3066\u3001\u640d\u5931\u95a2\u6570\u306e\u66f2\u7387\u3082\u8fd1\u4f3c\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<h3>6.2 \u4e00\u822c\u5316 Gauss\u2013Newton \u8fd1\u4f3c\u306b\u3088\u308b\u66f2\u7387<\/h3>\n<p>\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u3067\u306f\u3001\u640d\u5931\u95a2\u6570\u306e\u52fe\u914d\u3092\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306b\u95a2\u3059\u308b\u5909\u5316\u3068\u3001\u30e2\u30c7\u30eb\u51fa\u529b\u306b\u95a2\u3059\u308b\u5909\u5316\u306b\u5206\u3051\u3066\u8003\u3048\u308b\u3053\u3068\u304c\u3067\u304d\u308b\u3002\u5165\u529b \\(x_j\\) \u306b\u5bfe\u3059\u308b\u51fa\u529b\u3092 \\(z=f(\\theta,x_j)\\)\u3001\u6b63\u89e3\u3092 \\(y_j\\) \u3068\u3059\u308b\u3002\u640d\u5931\u95a2\u6570 \\(\\ell(z,y_j)\\) \u306f\u3001\u307e\u305a\u30e2\u30c7\u30eb\u306e\u51fa\u529b \\(z\\) \u3092\u53d7\u3051\u53d6\u308a\u3001\u305d\u306e\u51fa\u529b\u3068\u6b63\u89e3\u306e\u95a2\u4fc2\u304b\u3089\u640d\u5931\u3092\u8a08\u7b97\u3059\u308b\u3002<\/p>\n<p>\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc \\(\\theta_r^\\star\\) \u306b\u304a\u3044\u3066\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u5404\u30c7\u30fc\u30bf \\(j\\) \u306b\u3064\u3044\u3066\u3001\u6b21\u306e\u4e09\u3064\u306e\u91cf\u3092\u5b9a\u7fa9\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\nJ_j^-=<br \/>\n\\nabla_\\theta f(\\theta_r^\\star,x_j)<br \/>\n\\]<\/p>\n<p>\\[<br \/>\n\\delta_j^-=<br \/>\n\\nabla_z\\ell(z,y_j)<br \/>\n\\big|_{z=f(\\theta_r^\\star,x_j)}<br \/>\n\\]<\/p>\n<p>\\[<br \/>\nB_j^-=<br \/>\n\\nabla_z^2\\ell(z,y_j)<br \/>\n\\big|_{z=f(\\theta_r^\\star,x_j)}<br \/>\n\\]<\/p>\n<p>\\(J_j^-\\) \u306f\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u66f4\u304c\u51fa\u529b\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u3092\u8868\u3059\u30e4\u30b3\u30d3\u884c\u5217\u3067\u3042\u308b\u3002\\(\\delta_j^-\\) \u306f\u3001\u30e2\u30c7\u30eb\u51fa\u529b\u3092\u5909\u5316\u3055\u305b\u305f\u3068\u304d\u306b\u640d\u5931\u304c\u3069\u306e\u65b9\u5411\u3078\u5909\u308f\u308b\u304b\u3092\u8868\u3059\u52fe\u914d\u3067\u3042\u308b\u3002\\(B_j^-\\) \u306f\u3001\u305d\u306e\u51fa\u529b\u52fe\u914d\u304c\u51fa\u529b\u306e\u5909\u5316\u306b\u3088\u3063\u3066\u3069\u306e\u7a0b\u5ea6\u5909\u308f\u308b\u304b\u3092\u8868\u3059\u4e8c\u968e\u5fae\u5206\u884c\u5217\u3067\u3042\u308b\u3002<\/p>\n<p>\u7dda\u5f62\u56de\u5e30\u306e\u4e8c\u4e57\u640d\u5931\u3067\u306f\u3001\u51fa\u529b\u52fe\u914d\u306f\u4e88\u6e2c\u5024\u304b\u3089\u6b63\u89e3\u5024\u3092\u5f15\u3044\u305f\u6b8b\u5dee\u306b\u4e00\u81f4\u3057\u3001\u51fa\u529b\u306b\u95a2\u3059\u308b\u4e8c\u968e\u5fae\u5206\u306f 1 \u306b\u306a\u308b\u3002\u4e00\u65b9\u3001\u5206\u985e\u30e2\u30c7\u30eb\u306e\u4ea4\u5dee\u30a8\u30f3\u30c8\u30ed\u30d4\u30fc\u640d\u5931\u3067\u306f\u3001\u51fa\u529b\u5f97\u70b9\u306b\u5bfe\u3059\u308b\u52fe\u914d\u306f\u4e88\u6e2c\u78ba\u7387\u3068\u6b63\u89e3\u30e9\u30d9\u30eb\u306e\u95a2\u4fc2\u306b\u3088\u3063\u3066\u6c7a\u307e\u308a\u3001\u4e8c\u968e\u5fae\u5206\u3082\u4e88\u6e2c\u78ba\u7387\u306b\u4f9d\u5b58\u3059\u308b\u3002\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u3067\u306f\u3001\u6b8b\u5dee\u306b\u76f8\u5f53\u3059\u308b\u60c5\u5831\u3068\u3001\u640d\u5931\u306e\u66f2\u7387\u306b\u76f8\u5f53\u3059\u308b\u60c5\u5831\u3092\u5206\u3051\u3066\u8868\u3059\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u306e\u30c7\u30fc\u30bf\u6570\u3092 \\(m\\)\u3001\u51fa\u529b\u6b21\u5143\u3092 \\(c\\) \u3068\u3059\u308b\u3068\u3001\u5404\u30c7\u30fc\u30bf\u306e\u91cf\u3092\u307e\u3068\u3081\u305f\u884c\u5217\u3068\u30d9\u30af\u30c8\u30eb\u306f\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\nJ_f^-\\in\\mathbb R^{mc\\times d},<br \/>\n\\qquad<br \/>\n\\delta_f^-\\in\\mathbb R^{mc},<br \/>\n\\qquad<br \/>\nB_f^-\\in\\mathbb R^{mc\\times mc}<br \/>\n\\]<\/p>\n<p>\\(J_f^-\\) \u306f\u5404\u5165\u529b\u306e\u30e4\u30b3\u30d3\u884c\u5217\u3092\u7e26\u306b\u4e26\u3079\u305f\u3082\u306e\u3001\\(\\delta_f^-\\) \u306f\u51fa\u529b\u52fe\u914d\u3092\u7e26\u306b\u4e26\u3079\u305f\u3082\u306e\u3067\u3042\u308b\u3002\\(B_f^-\\) \u306f\u5404\u5165\u529b\u306e\u51fa\u529b\u306b\u95a2\u3059\u308b\u4e8c\u968e\u5fae\u5206\u884c\u5217\u3092\u5bfe\u89d2\u30d6\u30ed\u30c3\u30af\u3068\u3057\u3066\u4e26\u3079\u305f\u884c\u5217\u3067\u3042\u308a\u3001\u7570\u306a\u308b\u5165\u529b\u306e\u51fa\u529b\u6210\u5206\u9593\u306b\u76f4\u63a5\u306e\u4e8c\u968e\u5fae\u5206\u3092\u6301\u305f\u306a\u3044\u69cb\u9020\u306b\u306a\u308b\u3002<\/p>\n<p>\u3053\u308c\u3089\u306e\u91cf\u3092\u4f7f\u3046\u3068\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u306e\u52fe\u914d\u306f\u9023\u9396\u5f8b\u306b\u3088\u3063\u3066\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\nabla\\mathcal F(\\theta_r^\\star)<br \/>\n=<br \/>\n\\frac1n(J_f^-)^\\top\\delta_f^-<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5f0f\u3067\u306f\u3001\u51fa\u529b\u7a7a\u9593\u3067\u5b9a\u7fa9\u3055\u308c\u305f\u640d\u5931\u306e\u52fe\u914d \\(\\delta_f^-\\) \u304c\u3001\u30e4\u30b3\u30d3\u884c\u5217\u306e\u8ee2\u7f6e\u306b\u3088\u3063\u3066\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u7a7a\u9593\u3078\u5909\u63db\u3055\u308c\u308b\u3002\u51fa\u529b\u306e\u8aa4\u5dee\u304c\u3069\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u66f4\u65b0\u65b9\u5411\u3092\u4f5c\u308b\u304b\u306f\u3001\u30e4\u30b3\u30d3\u884c\u5217\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002<\/p>\n<p>\u3055\u3089\u306b\u66f2\u7387\u3092\u8003\u3048\u308b\u3002\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u306e\u640d\u5931\u3092\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3067\u4e8c\u968e\u5fae\u5206\u3059\u308b\u3068\u3001\u51fa\u529b\u306b\u95a2\u3059\u308b\u640d\u5931\u306e\u4e8c\u968e\u5fae\u5206\u3092\u30e4\u30b3\u30d3\u884c\u5217\u3067\u5909\u63db\u3057\u305f\u9805\u306b\u52a0\u3048\u3066\u3001\u30e2\u30c7\u30eb\u51fa\u529b\u305d\u306e\u3082\u306e\u306e\u4e8c\u968e\u5fae\u5206\u306b\u7531\u6765\u3059\u308b\u9805\u304c\u73fe\u308c\u308b\u3002\u4e00\u822c\u5316 Gauss\u2013Newton\uff08GGN\uff09\u8fd1\u4f3c\u306f\u3001\u51fa\u529b\u306e\u4e8c\u968e\u5fae\u5206\u306b\u7531\u6765\u3059\u308b\u9805\u3092\u7701\u304d\u3001\u640d\u5931\u306e\u51fa\u529b\u7a7a\u9593\u3067\u306e\u66f2\u7387\u3092\u30e4\u30b3\u30d3\u884c\u5217\u306b\u3088\u3063\u3066\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u7a7a\u9593\u3078\u5199\u3059\u65b9\u6cd5\u3067\u3042\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u306b\u95a2\u3059\u308b GGN \u66f2\u7387\u306f\u3001\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\nH_{f,\\mathrm G}^-=<br \/>\n\\frac1n(J_f^-)^\\top B_f^-J_f^-<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u884c\u5217\u306f\u3001\u7dda\u5f62\u56de\u5e30\u306b\u304a\u3051\u308b \\(X_f^\\top X_f\/n\\) \u306b\u5bfe\u5fdc\u3059\u308b\u5f79\u5272\u3092\u6301\u3064\u3002\u7dda\u5f62\u56de\u5e30\u306e\u4e8c\u4e57\u640d\u5931\u3067\u306f \\(J_f^-=X_f\\)\u3001\\(B_f^-=I_m\\) \u3068\u306a\u308b\u305f\u3081\u3001\u4e21\u8005\u306f\u4e00\u81f4\u3059\u308b\u3002\u4e00\u65b9\u3001\u4e00\u822c\u306e\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u3067\u306f\u3001\u51fa\u529b\u306b\u5bfe\u3059\u308b\u640d\u5931\u306e\u66f2\u7387\u3068\u3001\u51fa\u529b\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u611f\u5ea6\u304c\u540c\u6642\u306b\u53cd\u6620\u3055\u308c\u308b\u3002<\/p>\n<p>\u4fdd\u6301\u5bfe\u8c61\u306e\u5c40\u6240\u66f2\u7387\u3092 \\(H_r^-\\) \u3068\u3059\u308b\u3002\u3053\u308c\u306f\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u8fd1\u508d\u306b\u304a\u3044\u3066\u4f7f\u7528\u3059\u308b\u6b63\u5b9a\u5024\u306e\u66f2\u7387\u884c\u5217\u3067\u3042\u308a\u3001\u53b3\u5bc6\u306a Taylor \u5c55\u958b\u3067\u306f\u4fdd\u6301\u76ee\u7684\u95a2\u6570\u306e\u30d8\u30c3\u30bb\u884c\u5217\u3001GGN \u8fd1\u4f3c\u3092\u7528\u3044\u308b\u5834\u5408\u306b\u306f\u4fdd\u6301\u5bfe\u8c61\u306e GGN \u66f2\u7387\u306b\u5bfe\u5fdc\u3059\u308b\u3002\u6b63\u5b9a\u5024\u6027\u3092\u6e80\u305f\u3059\u3053\u3068\u3067\u9006\u884c\u5217 \\((H_r^-)^{-1}\\) \u304c\u5b58\u5728\u3057\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u4f4d\u3092\u6c42\u3081\u3089\u308c\u308b\u3002<\/p>\n<p>\u7dda\u5f62\u56de\u5e30\u306e\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u3068\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u306b\u5bfe\u5fdc\u3059\u308b\u884c\u5217\u3092\u3001\u30e4\u30b3\u30d3\u884c\u5217\u3068\u5c40\u6240\u66f2\u7387\u304b\u3089\u5b9a\u7fa9\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\nK_{af}^{\\mathrm{NL}}<br \/>\n=<br \/>\nJ_a^-(H_r^-)^{-1}(J_f^-)^\\top<br \/>\n\\]<\/p>\n<p>\\[<br \/>\nK_{ff}^{\\mathrm{NL}}<br \/>\n=<br \/>\nJ_f^-(H_r^-)^{-1}(J_f^-)^\\top<br \/>\n\\]<\/p>\n<p>\u4e0a\u4ed8\u304d\u306e \\(\\mathrm{NL}\\) \u306f\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u306e\u5c40\u6240\u8fd1\u4f3c\u306b\u3088\u308b\u91cf\u3092\u533a\u5225\u3059\u308b\u305f\u3081\u306e\u8a18\u53f7\u3067\u3042\u308b\u3002\\(K_{ff}^{\\mathrm{NL}}\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u611f\u5ea6\u540c\u58eb\u306e\u95a2\u4fc2\u3092\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u3092\u4ecb\u3057\u3066\u8868\u3059\u3002\\(K_{af}^{\\mathrm{NL}}\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u306b\u7531\u6765\u3059\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u66f4\u65b0\u304c\u3001\u8a55\u4fa1\u96c6\u5408 \\(A\\) \u306e\u51fa\u529b\u3078\u3069\u306e\u3088\u3046\u306b\u4f5c\u7528\u3059\u308b\u304b\u3092\u8868\u3059\u3002<\/p>\n<p>GradDiff \u306e\u76ee\u7684\u95a2\u6570\u3067\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u304b\u3089\u5fd8\u5374\u5bfe\u8c61\u306e\u66f2\u7387\u3092\u4fc2\u6570 \\(\\rho\\) \u3067\u5dee\u3057\u5f15\u304f\u3002\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u306e\u5c40\u6240\u8fd1\u4f3c\u3067\u4f7f\u7528\u3059\u308b\u884c\u5217\u3092\u3001\u6b21\u306e\u3088\u3046\u306b\u5b9a\u7fa9\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\nM_\\rho^-=<br \/>\nH_r^&#8211;\\rho H_{f,\\mathrm G}^-<br \/>\n\\]<\/p>\n<p>\\(M_\\rho^-\\) \u304c\u6b63\u5b9a\u5024\u3067\u3042\u308a\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u8fd1\u508d\u3067\u505c\u7559\u6761\u4ef6\u3092 Taylor \u5c55\u958b\u3067\u304d\u308b\u5834\u5408\u3001GradDiff \u306b\u3088\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u306e\u5c40\u6240\u7684\u306a\u4e88\u6e2c\u5024\u306f\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\widehat{\\delta\\theta}<br \/>\n=<br \/>\n\\rho(M_\\rho^-)^{-1}<br \/>\n\\nabla\\mathcal F(\\theta_r^\\star)<br \/>\n\\]<\/p>\n<p>\u53f3\u8fba\u306e\u5fd8\u5374\u640d\u5931\u306e\u52fe\u914d\u306b \\((J_f^-)^\\top\\delta_f^-\/n\\) \u3092\u4ee3\u5165\u3057\u3001\u7dda\u5f62\u56de\u5e30\u306e\u5834\u5408\u3068\u540c\u3058\u9006\u884c\u5217\u306e\u6052\u7b49\u5f0f\u3092\u7528\u3044\u308b\u3068\u3001\u6b21\u306e\u5f62\u306b\u6574\u7406\u3067\u304d\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\widehat{\\delta\\theta}<br \/>\n=<br \/>\n\\frac\\rho n<br \/>\n(H_r^-)^{-1}(J_f^-)^\\top<br \/>\n\\left(<br \/>\nI_{mc}<br \/>\n&#8211;<br \/>\n\\frac\\rho n B_f^-K_{ff}^{\\mathrm{NL}}<br \/>\n\\right)^{-1}<br \/>\n\\delta_f^-<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5f0f\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u52fe\u914d\u304c\u3001\u51fa\u529b\u7a7a\u9593\u3067\u306e\u66f2\u7387\u3068\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306b\u3088\u3063\u3066\u8abf\u6574\u3055\u308c\u3001\u305d\u306e\u5f8c\u306b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u7a7a\u9593\u3078\u5909\u63db\u3055\u308c\u308b\u3002\u7dda\u5f62\u56de\u5e30\u306e\u5f0f\u306b\u73fe\u308c\u305f\u5fd8\u5374\u5bfe\u8c61\u6b8b\u5dee \\(e_f^-\\) \u306b\u5bfe\u5fdc\u3059\u308b\u306e\u306f\u3001\u4e00\u822c\u306e\u640d\u5931\u95a2\u6570\u3067\u306f\u51fa\u529b\u52fe\u914d \\(\\delta_f^-\\) \u3067\u3042\u308b\u3002\u307e\u305f\u3001\u5897\u5e45\u9805\u306b\u306f\u51fa\u529b\u7a7a\u9593\u3067\u306e\u640d\u5931\u66f2\u7387 \\(B_f^-\\) \u304c\u52a0\u308f\u308b\u3002<\/p>\n<p>\u8a55\u4fa1\u96c6\u5408\u306b\u5bfe\u3059\u308b\u51fa\u529b\u5dee\u306e\u4e88\u6e2c\u5024\u306f\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3078\u8a55\u4fa1\u96c6\u5408\u306e\u30e4\u30b3\u30d3\u884c\u5217\u3092\u4f5c\u7528\u3055\u305b\u308b\u3053\u3068\u3067\u6c42\u3081\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\widehat{\\Delta}_a<br \/>\n=<br \/>\nJ_a^-\\widehat{\\delta\\theta}<br \/>\n\\]<\/p>\n<p>\u5148\u307b\u3069\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3092\u4ee3\u5165\u3059\u308b\u3068\u3001\u6b21\u306e\u5c40\u6240\u8fd1\u4f3c\u5f0f\u304c\u5f97\u3089\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\boxed{<br \/>\n\\widehat{\\Delta}_a<br \/>\n=<br \/>\n\\frac\\rho n<br \/>\nK_{af}^{\\mathrm{NL}}<br \/>\n\\left(<br \/>\nI_{mc}<br \/>\n&#8211;<br \/>\n\\frac\\rho n B_f^-K_{ff}^{\\mathrm{NL}}<br \/>\n\\right)^{-1}<br \/>\n\\delta_f^-<br \/>\n}<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5f0f\u306f\u3001\u7dda\u5f62\u56de\u5e30\u3067\u5f97\u3089\u308c\u305f\u51fa\u529b\u5dee\u306e\u9589\u5f62\u5f0f\u306b\u5bfe\u5fdc\u3057\u3066\u3044\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u52fe\u914d \\(\\delta_f^-\\) \u304c\u5909\u5316\u306e\u51fa\u767a\u70b9\u3068\u306a\u308a\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u3068\u51fa\u529b\u66f2\u7387\u3092\u542b\u3080\u9006\u884c\u5217\u304c\u305d\u306e\u5f71\u97ff\u3092\u8abf\u6574\u3057\u3001\u8a55\u4fa1\u96c6\u5408\u3078\u306e\u4f1d\u64ad\u884c\u5217 \\(K_{af}^{\\mathrm{NL}}\\) \u304c\u51fa\u529b\u5dee\u3078\u5909\u63db\u3059\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\u3053\u3053\u3067\u306e \\(\\widehat{\\Delta}_a\\) \u306f\u5c40\u6240\u7684\u306a\u4e88\u6e2c\u5024\u3067\u3042\u308b\u3002\u5b9f\u969b\u306e\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u304c\u518d\u5b66\u7fd2\u57fa\u6e96\u304b\u3089\u5927\u304d\u304f\u96e2\u308c\u305f\u5834\u5408\u3084\u3001\u9014\u4e2d\u3067\u66f2\u7387\u3068\u51fa\u529b\u611f\u5ea6\u304c\u5927\u304d\u304f\u5909\u5316\u3057\u305f\u5834\u5408\u306b\u306f\u3001\u4e88\u6e2c\u5024\u3068\u5b9f\u6e2c\u5024\u306e\u5dee\u304c\u5897\u52a0\u3057\u5f97\u308b\u3002\u307e\u305f\u3001\u9006\u884c\u5217\u304c\u6570\u5024\u7684\u306b\u4e0d\u5b89\u5b9a\u306b\u306a\u308b\u6761\u4ef6\u3067\u306f\u3001\u5c40\u6240\u7684\u306a\u8aa4\u5dee\u3082\u5897\u5e45\u3055\u308c\u308b\u3002<\/p>\n<p>\u3053\u306e\u95a2\u4fc2\u306b\u3088\u3063\u3066\u3001\u7dda\u5f62\u56de\u5e30\u306e\u53b3\u5bc6\u306a\u5f0f\u3068\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u306e\u5c40\u6240\u8fd1\u4f3c\u306f\u5171\u901a\u3059\u308b\u69cb\u9020\u3092\u6301\u3064\u4e00\u65b9\u3001\u6210\u7acb\u3059\u308b\u4fdd\u8a3c\u306e\u7bc4\u56f2\u304c\u7570\u306a\u308b\u3053\u3068\u304c\u5206\u304b\u308b\u3002\u7dda\u5f62\u56de\u5e30\u3067\u306f\u7279\u5fb4\u884c\u5217\u3068\u66f2\u7387\u304c\u56fa\u5b9a\u3055\u308c\u3001\u6761\u4ef6\u3092\u6e80\u305f\u3059\u6700\u5c0f\u89e3\u306e\u51fa\u529b\u5dee\u3092\u53b3\u5bc6\u306b\u8a08\u7b97\u3067\u304d\u308b\u3002\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u3067\u306f\u3001\u518d\u5b66\u7fd2\u89e3\u306e\u8fd1\u508d\u3067\u8a08\u7b97\u3057\u305f\u30e4\u30b3\u30d3\u884c\u5217\u3068\u66f2\u7387\u306b\u3088\u3063\u3066\u3001\u5fd8\u5374\u51e6\u7406\u306b\u4f34\u3046\u51fa\u529b\u5909\u5316\u3092\u8fd1\u4f3c\u7684\u306b\u4e88\u6e2c\u3059\u308b\u3002<\/p>\n<h3>6.3 \u8fd1\u4f3c\u8aa4\u5dee\u3068\u6700\u9069\u5316\u7d4c\u8def<\/h3>\n<p>\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u306e\u5c40\u6240\u8fd1\u4f3c\u306b\u306f\u3001\u4e3b\u306b\u4e09\u3064\u306e\u8aa4\u5dee\u304c\u95a2\u308f\u308b\u3002\u7b2c\u4e00\u306f\u51fa\u529b\u95a2\u6570\u3092\u4e00\u6b21\u8fd1\u4f3c\u3059\u308b\u3053\u3068\u306b\u3088\u308b\u8aa4\u5dee\u3001\u7b2c\u4e8c\u306f\u640d\u5931\u95a2\u6570\u306e\u66f2\u7387\u3092\u8fd1\u4f3c\u3059\u308b\u3053\u3068\u306b\u3088\u308b\u8aa4\u5dee\u3001\u7b2c\u4e09\u306f\u7406\u8ad6\u4e0a\u306e\u505c\u7559\u70b9\u3068\u5b9f\u969b\u306e\u6700\u9069\u5316\u306b\u3088\u308b\u5230\u9054\u70b9\u306e\u9055\u3044\u3067\u3042\u308b\u3002\u305d\u308c\u305e\u308c\u767a\u751f\u3059\u308b\u7406\u7531\u304c\u7570\u306a\u308b\u305f\u3081\u3001\u5c40\u6240\u8fd1\u4f3c\u306e\u7cbe\u5ea6\u3092\u8a55\u4fa1\u3059\u308b\u969b\u306b\u306f\u533a\u5225\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u51fa\u529b\u95a2\u6570\u306e\u5c40\u6240\u7dda\u5f62\u5316\u3067\u306f\u3001Taylor \u5c55\u958b\u306e\u9ad8\u6b21\u306e\u9805\u304c\u7701\u7565\u3055\u308c\u308b\u3002\u51fa\u529b\u306e\u4e8c\u968e\u5fae\u5206\u304c\u8fd1\u508d\u3067\u6709\u754c\u3067\u3042\u308c\u3070\u3001\u518d\u5b66\u7fd2\u89e3\u304b\u3089\u306e\u5909\u4f4d \\(\\delta\\theta\\) \u306b\u5bfe\u3059\u308b\u5270\u4f59\u306f\u3001\u5909\u4f4d\u306e\u4e8c\u4e57\u306e\u5927\u304d\u3055\u3067\u8a55\u4fa1\u3067\u304d\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\|R_x(\\delta\\theta)\\|_2<br \/>\n\\leq<br \/>\nC_x\\|\\delta\\theta\\|_2^2<br \/>\n\\]<\/p>\n<p>\\(C_x\\) \u306f\u8a55\u4fa1\u3059\u308b\u5165\u529b\u3068\u8fd1\u508d\u306e\u4e8c\u968e\u5fae\u5206\u306e\u4e0a\u754c\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u5b9a\u6570\u3067\u3042\u308b\u3002\u3053\u306e\u5f0f\u306f\u3001\u5909\u4f4d\u304c\u5341\u5206\u5c0f\u3055\u3051\u308c\u3070\u4e00\u6b21\u8fd1\u4f3c\u306e\u8aa4\u5dee\u304c\u4e8c\u6b21\u306e\u5927\u304d\u3055\u306b\u6291\u3048\u3089\u308c\u308b\u3053\u3068\u3092\u8868\u3059\u3002\u53cd\u5bfe\u306b\u3001\u5fd8\u5374\u51e6\u7406\u306b\u3088\u3063\u3066\u5927\u304d\u306a\u5909\u4f4d\u304c\u751f\u3058\u308b\u5834\u5408\u306b\u306f\u3001\u518d\u5b66\u7fd2\u89e3\u3067\u8a08\u7b97\u3057\u305f\u30e4\u30b3\u30d3\u884c\u5217\u306b\u3088\u308b\u4e88\u6e2c\u304c\u5b9f\u969b\u306e\u51fa\u529b\u5909\u5316\u3068\u4e56\u96e2\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u66f2\u7387\u306e\u8fd1\u4f3c\u3067\u306f\u3001\u53b3\u5bc6\u306a\u30d8\u30c3\u30bb\u884c\u5217\u3068 GGN \u66f2\u7387\u306e\u5dee\u304c\u554f\u984c\u306b\u306a\u308b\u3002\u51fa\u529b\u304c\u975e\u7dda\u5f62\u306a\u5834\u5408\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306b\u95a2\u3059\u308b\u640d\u5931\u306e\u30d8\u30c3\u30bb\u884c\u5217\u306b\u306f\u3001\u51fa\u529b\u306e\u30e4\u30b3\u30d3\u884c\u5217\u3092\u4f7f\u3063\u3066\u8868\u305b\u308b\u9805\u306b\u52a0\u3048\u3066\u3001\u51fa\u529b\u306e\u4e8c\u968e\u5fae\u5206\u3068\u640d\u5931\u306e\u51fa\u529b\u52fe\u914d\u3092\u542b\u3080\u9805\u304c\u73fe\u308c\u308b\u3002GGN \u8fd1\u4f3c\u3067\u306f\u5f8c\u8005\u3092\u7701\u304f\u305f\u3081\u3001\u4e21\u8005\u304c\u4e00\u81f4\u3057\u306a\u3044\u5834\u5408\u306b\u306f\u66f2\u7387\u8fd1\u4f3c\u306e\u8aa4\u5dee\u304c\u751f\u3058\u308b\u3002<\/p>\n<p>\u3053\u306e\u8aa4\u5dee\u306f\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u4f4d\u3092\u6c42\u3081\u308b\u9006\u884c\u5217\u306b\u3082\u5f71\u97ff\u3059\u308b\u3002\u5c40\u6240\u7684\u306a\u66f2\u7387\u884c\u5217\u304c\u5c0f\u3055\u306a\u56fa\u6709\u5024\u3092\u6301\u3064\u5834\u5408\u3001\u66f2\u7387\u306e\u8fd1\u4f3c\u8aa4\u5dee\u304c\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u306e\u63a8\u5b9a\u306b\u5927\u304d\u304f\u53cd\u6620\u3055\u308c\u5f97\u308b\u3002\u4e2d\u5fc3\u8ad6\u6587\u3067\u306f\u3001\u53b3\u5bc6\u306a\u30d8\u30c3\u30bb\u884c\u5217\u3092\u4f7f\u3063\u305f\u5c40\u6240\u5c55\u958b\u306e\u8aa4\u5dee\u306b\u306f\u5909\u4f4d\u306e\u4e8c\u4e57\u306b\u5bfe\u5fdc\u3059\u308b\u9805\u304c\u73fe\u308c\u3001GGN \u3078\u7f6e\u304d\u63db\u3048\u305f\u5834\u5408\u306b\u306f\u66f2\u7387\u8fd1\u4f3c\u306b\u7531\u6765\u3059\u308b\u4e00\u6b21\u306e\u8aa4\u5dee\u9805\u304c\u52a0\u308f\u308b\u3053\u3068\u3092\u793a\u3057\u3066\u3044\u308b<a href=\"#ref8\">[8]<\/a>\u3002<\/p>\n<p>\u7b2c\u4e09\u306e\u8aa4\u5dee\u306f\u3001\u5b9f\u969b\u306e\u6700\u9069\u5316\u904e\u7a0b\u304b\u3089\u751f\u3058\u308b\u3002\u7406\u8ad6\u5f0f\u3067\u306f\u3001\u518d\u5b66\u7fd2\u89e3 \\(\\theta_r^\\star\\) \u306e\u8fd1\u508d\u306b\u5b58\u5728\u3059\u308b GradDiff \u306e\u505c\u7559\u70b9\u3092\u5bfe\u8c61\u3068\u3057\u3066\u3044\u308b\u3002\u3057\u304b\u3057\u3001\u5b9f\u969b\u306e\u5fd8\u5374\u51e6\u7406\u3067\u306f\u5143\u30e2\u30c7\u30eb \\(\\theta^\\star\\) \u3092\u521d\u671f\u5024\u3068\u3057\u3001\u6709\u9650\u56de\u306e\u66f4\u65b0\u306b\u3088\u3063\u3066\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u5909\u66f4\u3059\u308b\u3053\u3068\u304c\u591a\u3044\u3002\u52fe\u914d\u306e\u8a08\u7b97\u306b\u4f7f\u7528\u3059\u308b\u30c7\u30fc\u30bf\u306e\u9078\u629e\u3001\u5b66\u7fd2\u7387\u3001\u66f4\u65b0\u56de\u6570\u3001\u6700\u9069\u5316\u30a2\u30eb\u30b4\u30ea\u30ba\u30e0\u306e\u5185\u90e8\u72b6\u614b\u306b\u3088\u3063\u3066\u3001\u5230\u9054\u3059\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u304c\u5909\u5316\u3059\u308b\u3002<\/p>\n<p>\u975e\u51f8\u306a\u76ee\u7684\u95a2\u6570\u3067\u306f\u3001\u7570\u306a\u308b\u521d\u671f\u5024\u304b\u3089\u7570\u306a\u308b\u505c\u7559\u70b9\u3078\u5230\u9054\u3059\u308b\u3053\u3068\u3082\u3042\u308b\u3002\u518d\u5b66\u7fd2\u89e3\u306e\u8fd1\u508d\u304b\u3089\u9023\u7d9a\u7684\u306b\u8ffd\u8de1\u3057\u305f\u505c\u7559\u70b9\u3068\u3001\u5143\u30e2\u30c7\u30eb\u304b\u3089\u901a\u5e38\u306e\u5fd8\u5374\u51e6\u7406\u3092\u958b\u59cb\u3057\u3066\u5230\u9054\u3057\u305f\u505c\u7559\u70b9\u304c\u4e00\u81f4\u3059\u308b\u4fdd\u8a3c\u306f\u306a\u3044\u3002\u5c40\u6240\u8fd1\u4f3c\u5f0f\u306f\u3001\u518d\u5b66\u7fd2\u89e3\u3092\u901a\u308b\u505c\u7559\u70b9\u306e\u679d\u306b\u5bfe\u3059\u308b\u5909\u5316\u3092\u4e88\u6e2c\u3059\u308b\u3082\u306e\u3067\u3042\u308a\u3001\u4efb\u610f\u306e\u521d\u671f\u5024\u304b\u3089\u5b9f\u884c\u3057\u305f\u5fd8\u5374\u51e6\u7406\u306e\u5230\u9054\u70b9\u307e\u3067\u53b3\u5bc6\u306b\u4e88\u6e2c\u3059\u308b\u3082\u306e\u3067\u306f\u306a\u3044\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u8aa4\u5dee\u306e\u7a2e\u985e<\/th>\n<th>\u767a\u751f\u3059\u308b\u7406\u7531<\/th>\n<th>\u8a55\u4fa1\u306b\u5fc5\u8981\u306a\u6761\u4ef6<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>\u51fa\u529b\u306e\u5c40\u6240\u7dda\u5f62\u5316\u8aa4\u5dee<\/td>\n<td>\u30e4\u30b3\u30d3\u884c\u5217\u306b\u3088\u308b\u4e00\u6b21\u8fd1\u4f3c\u3067\u306f\u3001\u51fa\u529b\u95a2\u6570\u306e\u4e8c\u6b21\u4ee5\u4e0a\u306e\u5909\u5316\u304c\u7701\u7565\u3055\u308c\u308b\u3002<\/td>\n<td>\u518d\u5b66\u7fd2\u89e3\u304b\u3089\u306e\u5909\u4f4d\u304c\u5c0f\u3055\u304f\u3001\u8fd1\u508d\u3067\u51fa\u529b\u306e\u9ad8\u6b21\u5fae\u5206\u304c\u5236\u5fa1\u3055\u308c\u3066\u3044\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u66f2\u7387\u8fd1\u4f3c\u8aa4\u5dee<\/td>\n<td>GGN \u8fd1\u4f3c\u3067\u306f\u3001\u30e2\u30c7\u30eb\u51fa\u529b\u306e\u4e8c\u968e\u5fae\u5206\u306b\u7531\u6765\u3059\u308b\u9805\u304c\u7701\u7565\u3055\u308c\u308b\u3002<\/td>\n<td>\u8fd1\u4f3c\u66f2\u7387\u3068\u53b3\u5bc6\u306a\u66f2\u7387\u306e\u5dee\u3001\u304a\u3088\u3073\u9006\u884c\u5217\u306e\u6761\u4ef6\u6570\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u6700\u9069\u5316\u7d4c\u8def\u306b\u3088\u308b\u5dee<\/td>\n<td>\u521d\u671f\u5024\u3084\u66f4\u65b0\u624b\u9806\u306b\u3088\u3063\u3066\u3001\u5c40\u6240\u8fd1\u4f3c\u304c\u5bfe\u8c61\u3068\u3059\u308b\u505c\u7559\u70b9\u3068\u306f\u7570\u306a\u308b\u72b6\u614b\u3078\u5230\u9054\u3059\u308b\u5834\u5408\u304c\u3042\u308b\u3002<\/td>\n<td>\u6bd4\u8f03\u5bfe\u8c61\u306e\u505c\u7559\u70b9\u3001\u521d\u671f\u5024\u3001\u66f4\u65b0\u6761\u4ef6\u3001\u518d\u5b66\u7fd2\u57fa\u6e96\u304b\u3089\u306e\u8ddd\u96e2\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u3053\u308c\u3089\u306e\u6761\u4ef6\u304b\u3089\u3001\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u306b\u5bfe\u3059\u308b\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u306f\u3001\u5fd8\u5374\u306e\u51fa\u529b\u5dee\u3092\u53b3\u5bc6\u306b\u4fdd\u8a3c\u3059\u308b\u91cf\u3068\u3044\u3046\u3088\u308a\u3001\u518d\u5b66\u7fd2\u89e3\u306e\u8fd1\u508d\u3067\u5909\u5316\u304c\u4f1d\u308f\u308b\u65b9\u5411\u3092\u8a3a\u65ad\u3059\u308b\u91cf\u3068\u3057\u3066\u89e3\u91c8\u3067\u304d\u308b\u3002\u5c40\u6240\u8fd1\u4f3c\u306b\u3088\u308b\u4e88\u6e2c\u304c\u5b9f\u969b\u306e\u5909\u5316\u3068\u3069\u306e\u7a0b\u5ea6\u4e00\u81f4\u3059\u308b\u304b\u306f\u3001\u8a55\u4fa1\u3057\u305f\u30e2\u30c7\u30eb\u3068\u6700\u9069\u5316\u6761\u4ef6\u306e\u4e0b\u3067\u691c\u8a3c\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<h3>6.4 \u5fd8\u5374\u5bfe\u8c61\u306e\u4f5c\u308a\u65b9\u3067\u51fa\u529b\u5dee\u304c\u5909\u308f\u308b<\/h3>\n<p>\u5fd8\u5374\u5bfe\u8c61\u306e\u9078\u3073\u65b9\u306b\u3088\u3063\u3066\u3001\u6b8b\u5dee\u306e\u5206\u5e03\u3068\u7279\u5fb4\u65b9\u5411\u306e\u95a2\u4fc2\u306f\u5909\u5316\u3059\u308b\u3002\u7121\u4f5c\u70ba\u306b\u62bd\u51fa\u3057\u305f\u30c7\u30fc\u30bf\u3092\u5fd8\u5374\u3059\u308b\u5834\u5408\u3068\u3001\u7279\u5b9a\u306e\u5206\u985e\u30af\u30e9\u30b9\u306b\u5c5e\u3059\u308b\u30c7\u30fc\u30bf\u3092\u307e\u3068\u3081\u3066\u5fd8\u5374\u3059\u308b\u5834\u5408\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u304c\u5171\u6709\u3059\u308b\u7279\u5fb4\u3084\u3001\u4fdd\u6301\u5bfe\u8c61\u3068\u306e\u95a2\u4fc2\u304c\u7570\u306a\u308b\u3002\u305d\u306e\u9055\u3044\u306f\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u3001\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u6b8b\u5dee\u306b\u53cd\u6620\u3055\u308c\u308b\u3002<\/p>\n<p>\u4e2d\u5fc3\u8ad6\u6587\u3067\u306f\u3001\u624b\u66f8\u304d\u6570\u5b57\u753b\u50cf\u306e\u5206\u985e\u30c7\u30fc\u30bf\u30bb\u30c3\u30c8\u3067\u3042\u308b MNIST \u3092\u4f7f\u7528\u3057\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u7121\u4f5c\u70ba\u306b\u9078\u3076\u6761\u4ef6\u3068\u3001\u7279\u5b9a\u30af\u30e9\u30b9\u306e\u30c7\u30fc\u30bf\u3092\u307e\u3068\u3081\u3066\u5fd8\u5374\u3059\u308b\u6761\u4ef6\u3092\u6bd4\u8f03\u3057\u3066\u3044\u308b\u3002\u5b9f\u9a13\u3067\u306f 4,000 \u4ef6\u306e\u5b66\u7fd2\u30c7\u30fc\u30bf\u304b\u3089\u5fd8\u5374\u5bfe\u8c61\u3092\u69cb\u6210\u3057\u3001\u7121\u4f5c\u70ba\u5fd8\u5374\u3067\u306f 200 \u4ef6\u3092\u62bd\u51fa\u3057\u305f\u3002\u30af\u30e9\u30b9\u5fd8\u5374\u3067\u306f\u4e00\u3064\u306e\u6570\u5b57\u30af\u30e9\u30b9\u306b\u5c5e\u3059\u308b\u30c7\u30fc\u30bf\u3092\u5fd8\u5374\u5bfe\u8c61\u3068\u3057\u3001\u305d\u306e\u4ef6\u6570\u306f\u62bd\u51fa\u3057\u305f\u5b66\u7fd2\u96c6\u5408\u306b\u542b\u307e\u308c\u308b\u30af\u30e9\u30b9\u306e\u4ef6\u6570\u306b\u3088\u3063\u3066\u7570\u306a\u308b\u3002<\/p>\n<p>\u3053\u306e\u6bd4\u8f03\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u30c7\u30fc\u30bf\u6570\u3060\u3051\u3067\u306a\u304f\u3001\u5bfe\u8c61\u30c7\u30fc\u30bf\u304c\u5171\u6709\u3059\u308b\u7279\u5fb4\u65b9\u5411\u3082\u5909\u5316\u3059\u308b\u3002\u7121\u4f5c\u70ba\u5fd8\u5374\u3067\u306f\u8907\u6570\u306e\u30af\u30e9\u30b9\u304b\u3089\u30c7\u30fc\u30bf\u304c\u9078\u3070\u308c\u308b\u305f\u3081\u3001\u7279\u5fb4\u65b9\u5411\u304c\u6bd4\u8f03\u7684\u5206\u6563\u3059\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u4e00\u65b9\u3001\u30af\u30e9\u30b9\u5fd8\u5374\u3067\u306f\u540c\u3058\u5206\u985e\u30e9\u30d9\u30eb\u306b\u5c5e\u3059\u308b\u5165\u529b\u304c\u96c6\u307e\u308b\u305f\u3081\u3001\u540c\u3058\u5224\u65ad\u5883\u754c\u3084\u7279\u5fb4\u306b\u95a2\u4fc2\u3059\u308b\u66f4\u65b0\u304c\u96c6\u4e2d\u3057\u5f97\u308b\u3002\u3069\u3061\u3089\u306e\u6761\u4ef6\u3067\u51fa\u529b\u5dee\u304c\u5927\u304d\u304f\u306a\u308b\u304b\u306f\u3001\u6b8b\u5dee\u3068\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u306e\u4e21\u65b9\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002<\/p>\n<p>\u30af\u30e9\u30b9\u5fd8\u5374\u6761\u4ef6\u3067\u306f\u3001GradDiff\u3001NPO\u3001SimNPO\u3001ProjGD \u306e\u5fd8\u5374\u5bfe\u8c61\u6b63\u7b54\u7387\u306f\u3059\u3079\u3066 0% \u3060\u3063\u305f\u3002\u3057\u304b\u3057\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u3066\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u306b\u306f\u5927\u304d\u306a\u9055\u3044\u304c\u3042\u3063\u305f\u3002\u8ad6\u6587\u3067\u306f\u3001\u5206\u985e\u78ba\u7387\u3078\u5909\u63db\u3059\u308b\u524d\u306e\u51fa\u529b\u5f97\u70b9\u3067\u3042\u308b logit \u3092\u6bd4\u8f03\u3057\u3001\u305d\u306e\u6210\u5206\u3054\u3068\u306e\u5e73\u65b9\u6839\u5e73\u5747\u4e8c\u4e57\u5dee\u3092\u5831\u544a\u3057\u3066\u3044\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u65b9\u6cd5<\/th>\n<th>\u30af\u30e9\u30b9\u5fd8\u5374\u6642\u306e\u5fd8\u5374\u5bfe\u8c61\u6b63\u7b54\u7387<\/th>\n<th>\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b RMS \u5dee<\/th>\n<th>\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b RMS \u5dee<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>GradDiff<\/td>\n<td>0%<\/td>\n<td>0.038 \u00b1 0.037<\/td>\n<td>0.031 \u00b1 0.029<\/td>\n<\/tr>\n<tr>\n<td>NPO<\/td>\n<td>0%<\/td>\n<td>0.032 \u00b1 0.032<\/td>\n<td>0.025 \u00b1 0.022<\/td>\n<\/tr>\n<tr>\n<td>SimNPO<\/td>\n<td>0%<\/td>\n<td>0.009 \u00b1 0.011<\/td>\n<td>0.009 \u00b1 0.011<\/td>\n<\/tr>\n<tr>\n<td>ProjGD<\/td>\n<td>0%<\/td>\n<td>0.509 \u00b1 0.065<\/td>\n<td>0.440 \u00b1 0.034<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u6570\u5024\u306f\u30af\u30e9\u30b9\u5fd8\u5374\u6761\u4ef6\u306b\u304a\u3051\u308b\u5e73\u5747\u5024\u3068\u6a19\u6e96\u504f\u5dee\u3067\u3042\u308a\u3001\u51fa\u529b RMS \u5dee\u306f\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3092\u57fa\u6e96\u3068\u3057\u305f logit \u306e\u5dee\u3092\u8868\u3059\u3002\u4f8b\u3048\u3070 SimNPO \u3068 ProjGD \u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u304c\u3068\u3082\u306b 0% \u3060\u3063\u305f\u306b\u3082\u304b\u304b\u308f\u3089\u305a\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b RMS \u5dee\u306f\u305d\u308c\u305e\u308c 0.009 \u3068 0.509 \u3060\u3063\u305f\u3002\u8868\u793a\u3055\u308c\u305f\u5e73\u5747\u5024\u306e\u6bd4\u306f\u7d04 57 \u500d\u3067\u3042\u308b\u3002<\/p>\n<p>\u4e21\u624b\u6cd5\u306f\u5fd8\u5374\u5bfe\u8c61\u3092\u3059\u3079\u3066\u8aa4\u5206\u985e\u3059\u308b\u3068\u3044\u3046\u540c\u3058\u7d50\u679c\u306b\u5230\u9054\u3057\u3066\u3044\u308b\u304c\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3078\u306e\u51fa\u529b\u306e\u8fd1\u3055\u306f\u5927\u304d\u304f\u7570\u306a\u308b\u3002\u3055\u3089\u306b\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b RMS \u5dee\u3082 SimNPO \u3067\u306f 0.009\u3001ProjGD \u3067\u306f 0.440 \u3067\u3042\u308a\u3001\u5fd8\u5374\u5bfe\u8c61\u306b\u5bfe\u3059\u308b\u5909\u66f4\u304c\u4fdd\u6301\u5bfe\u8c61\u3078\u4f1d\u308f\u308b\u7a0b\u5ea6\u306b\u3082\u5dee\u304c\u3042\u308b\u3002\u6b63\u7b54\u7387\u306f\u5206\u985e\u7d50\u679c\u3060\u3051\u3092\u8a55\u4fa1\u3059\u308b\u4e00\u65b9\u3001\u51fa\u529b RMS \u5dee\u306f\u6b63\u8aa4\u304c\u540c\u3058\u5165\u529b\u306b\u304a\u3051\u308b\u4e88\u6e2c\u72b6\u614b\u306e\u9055\u3044\u3082\u53cd\u6620\u3059\u308b\u3002<\/p>\n<p>\u8ad6\u6587\u3067\u306f\u3001\u3053\u308c\u3089\u3092\u542b\u3080\u53cd\u5fa9\u66f4\u65b0\u578b\u306e 4 \u624b\u6cd5\u306b\u3064\u3044\u3066\u3001\u30af\u30e9\u30b9\u5fd8\u5374\u6642\u306e\u5fd8\u5374\u5bfe\u8c61\u306e\u4ea4\u5dee\u30a8\u30f3\u30c8\u30ed\u30d4\u30fc\u640d\u5931\u3082 4.368\uff5e4.404 \u306e\u7bc4\u56f2\u306b\u53ce\u307e\u3063\u3066\u3044\u305f\u3068\u5831\u544a\u3057\u3066\u3044\u308b\u3002\u640d\u5931\u304c\u8fd1\u3044\u6761\u4ef6\u3067\u3082\u3001\u51fa\u529b RMS \u5dee\u306b\u306f\u5927\u304d\u306a\u9055\u3044\u304c\u751f\u3058\u3066\u3044\u308b\u3002\u640d\u5931\u95a2\u6570\u3092\u96c6\u7d04\u3057\u305f\u6570\u5024\u306f\u3001\u5404\u5165\u529b\u3078\u306e\u66f4\u65b0\u304c\u3069\u306e\u65b9\u5411\u306b\u4f5c\u7528\u3057\u305f\u304b\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u304c\u3069\u3053\u306b\u6b8b\u3063\u305f\u304b\u3092\u4e00\u610f\u306b\u8868\u3057\u3066\u3044\u306a\u3044\u3002<\/p>\n<p>SimNPO \u306e\u51fa\u529b\u5dee\u304c\u5c0f\u3055\u304b\u3063\u305f\u7406\u7531\u306b\u3064\u3044\u3066\u3001\u8ad6\u6587\u3067\u306f\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u306b\u5fdc\u3058\u305f\u91cd\u307f\u4ed8\u3051\u306e\u98fd\u548c\u3092\u5831\u544a\u3057\u3066\u3044\u308b\u3002\u30af\u30e9\u30b9\u5fd8\u5374\u6761\u4ef6\u3067\u306f\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u5fd8\u5374\u5bfe\u8c61\u640d\u5931\u304c\u5927\u304d\u304f\u3001\u8a2d\u5b9a\u3055\u308c\u305f\u91cd\u307f\u304c\u307b\u307c\u96f6\u306b\u8fd1\u3065\u3044\u305f\u3002\u305d\u306e\u7d50\u679c\u3001\u5fd8\u5374\u640d\u5931\u3092\u5897\u52a0\u3055\u305b\u308b\u9805\u306e\u5bc4\u4e0e\u304c\u5c0f\u3055\u304f\u306a\u308a\u3001\u66f4\u65b0\u5f8c\u306e\u30e2\u30c7\u30eb\u304c\u518d\u5b66\u7fd2\u57fa\u6e96\u306e\u8fd1\u304f\u306b\u3068\u3069\u307e\u3063\u305f\u3002\u5fd8\u5374\u51e6\u7406\u3092\u7a4d\u6975\u7684\u306b\u9032\u3081\u305f\u304b\u3089\u51fa\u529b\u5dee\u304c\u5c0f\u3055\u304f\u306a\u3063\u305f\u3068\u3044\u3046\u89e3\u91c8\u3068\u306f\u7570\u306a\u308b\u3002<\/p>\n<p>\u3053\u306e\u5b9f\u9a13\u3067\u306f\u3001SimNPO \u306e\u91cd\u307f\u4ed8\u3051\u304c\u7279\u5b9a\u306e\u6761\u4ef6\u3067\u307b\u307c\u96f6\u3078\u98fd\u548c\u3057\u305f\u3053\u3068\u304c\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u306e\u5c0f\u3055\u3055\u306b\u95a2\u4fc2\u3057\u3066\u3044\u308b\u3002\u3057\u305f\u304c\u3063\u3066\u3001SimNPO \u306e\u6570\u5024\u304c\u5c0f\u3055\u3044\u3068\u3044\u3046\u4e8b\u5b9f\u3060\u3051\u304b\u3089\u3001\u3059\u3079\u3066\u306e\u5fd8\u5374\u8ab2\u984c\u3067\u512a\u308c\u305f\u65b9\u6cd5\u3067\u3042\u308b\u3068\u306f\u5224\u65ad\u3067\u304d\u306a\u3044\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u4f5c\u308a\u65b9\u3001\u640d\u5931\u306e\u521d\u671f\u72b6\u614b\u3001\u91cd\u307f\u4ed8\u3051\u306e\u8a2d\u5b9a\u304c\u5909\u308f\u308c\u3070\u3001\u540c\u3058\u624b\u6cd5\u3067\u3082\u7570\u306a\u308b\u66f4\u65b0\u304c\u751f\u3058\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u306e\u9078\u3073\u65b9\u306b\u3088\u308b\u69cb\u9020\u306e\u9055\u3044\u306f\u3001\u6b8b\u5dee\u3068\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u306e\u6bd4\u8f03\u304b\u3089\u3082\u78ba\u8a8d\u3067\u304d\u308b\u3002\u8ad6\u6587\u3067\u306f\u3001\u7121\u4f5c\u70ba\u5fd8\u5374\u304b\u3089\u30af\u30e9\u30b9\u5fd8\u5374\u3078\u5909\u66f4\u3057\u305f\u5834\u5408\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u5fd8\u5374\u5bfe\u8c61\u6b8b\u5dee\u306e\u30ce\u30eb\u30e0\u304c\u7d04 4.59 \u500d\u306b\u306a\u3063\u305f\u3002\u4e00\u65b9\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u6700\u5927\u56fa\u6709\u5024\u306e\u63a8\u5b9a\u5024\u306f\u7d04 1.57 \u500d\u3001\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u306e Frobenius \u30ce\u30eb\u30e0\u306f\u7d04 1.32 \u500d\u3060\u3063\u305f\u3002<\/p>\n<p>Frobenius \u30ce\u30eb\u30e0\u306f\u884c\u5217\u306e\u5168\u6210\u5206\u3092\u4e8c\u4e57\u3057\u3066\u5408\u8a08\u3057\u3001\u305d\u306e\u5e73\u65b9\u6839\u3092\u53d6\u3063\u305f\u5024\u3067\u3042\u308b\u3002\u6700\u5927\u56fa\u6709\u5024\u306f\u6700\u3082\u5927\u304d\u306a\u5897\u5e45\u65b9\u5411\u3092\u8868\u3059\u306e\u306b\u5bfe\u3057\u3001Frobenius \u30ce\u30eb\u30e0\u306f\u884c\u5217\u5168\u4f53\u306e\u6210\u5206\u306e\u5927\u304d\u3055\u3092\u96c6\u7d04\u3059\u308b\u3002\u3057\u305f\u304c\u3063\u3066\u3001\u3053\u308c\u3089\u306e\u5897\u52a0\u7387\u3092\u540c\u3058\u8a55\u4fa1\u91cf\u306e\u5909\u5316\u3068\u3057\u3066\u6271\u3046\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002\u305d\u308c\u305e\u308c\u3001\u6b8b\u5dee\u306e\u5927\u304d\u3055\u3001\u5fd8\u5374\u5bfe\u8c61\u5185\u90e8\u306e\u5897\u5e45\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u4f1d\u64ad\u3068\u3044\u3046\u7570\u306a\u308b\u6027\u8cea\u3092\u6e2c\u5b9a\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\u3053\u306e\u6bd4\u8f03\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u69cb\u6210\u3092\u5909\u3048\u305f\u3053\u3068\u306b\u3088\u308b\u6b8b\u5dee\u30ce\u30eb\u30e0\u306e\u5909\u5316\u304c\u3001\u4e8c\u3064\u306e\u30ec\u30d0\u30ec\u30c3\u30b8\u6307\u6a19\u306e\u5909\u5316\u3088\u308a\u5927\u304d\u304b\u3063\u305f\u3002\u51fa\u529b\u5dee\u306e\u9589\u5f62\u5f0f\u3067\u306f\u3001\u6b8b\u5dee\u3068\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u304c\u639b\u3051\u5408\u308f\u3055\u308c\u308b\u305f\u3081\u3001\u6b8b\u5dee\u304c\u5897\u52a0\u3057\u305f\u5206\u3060\u3051\u51fa\u529b\u5dee\u304c\u540c\u3058\u6bd4\u7387\u3067\u5897\u52a0\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u5404\u65b9\u5411\u306e\u5897\u5e45\u3068\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u4f1d\u64ad\u304c\u3001\u6b8b\u5dee\u306e\u65b9\u5411\u306b\u5fdc\u3058\u3066\u4f5c\u7528\u3059\u308b\u305f\u3081\u3067\u3042\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u3001\u4ea4\u5dee\u30a8\u30f3\u30c8\u30ed\u30d4\u30fc\u640d\u5931\u3001\u51fa\u529b RMS \u5dee\u3001\u6b8b\u5dee\u30ce\u30eb\u30e0\u3001\u30ec\u30d0\u30ec\u30c3\u30b8\u6307\u6a19\u306f\u3001\u305d\u308c\u305e\u308c\u7570\u306a\u308b\u60c5\u5831\u3092\u4e0e\u3048\u308b\u3002\u7279\u306b\u3001\u6b63\u7b54\u7387\u3068\u640d\u5931\u304c\u8fd1\u3044\u5834\u5408\u3067\u3082\u51fa\u529b\u5dee\u304c\u7570\u306a\u308b\u3068\u3044\u3046\u89b3\u6e2c\u306f\u3001\u5fd8\u5374\u51e6\u7406\u306e\u7d50\u679c\u3092\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u7a7a\u9593\u3067\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u6027\u3092\u5177\u4f53\u7684\u306b\u793a\u3057\u3066\u3044\u308b\u3002<\/p>\n<h3>6.5 CIFAR-10 \u3068\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u3067\u306e\u691c\u8a3c<\/h3>\n<p>MNIST \u3067\u78ba\u8a8d\u3057\u305f\u95a2\u4fc2\u304c\u3001\u7570\u306a\u308b\u7279\u5fb4\u8868\u73fe\u3084\u30e2\u30c7\u30eb\u898f\u6a21\u3067\u3082\u6210\u7acb\u3059\u308b\u304b\u3092\u8a55\u4fa1\u3059\u308b\u306b\u306f\u3001\u5c40\u6240\u8fd1\u4f3c\u306b\u3088\u308b\u4e88\u6e2c\u3068\u5b9f\u969b\u306e\u51fa\u529b\u5dee\u3092\u6bd4\u8f03\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u4e2d\u5fc3\u8ad6\u6587\u3067\u306f\u3001CIFAR-10 \u306e\u753b\u50cf\u5206\u985e\u30e2\u30c7\u30eb\u3068\u3001TOFU \u3092\u7528\u3044\u305f\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u306e\u5fd8\u5374\u5b9f\u9a13\u306b\u3088\u3063\u3066\u3001\u30ec\u30d0\u30ec\u30c3\u30b8\u69cb\u9020\u306e\u8a3a\u65ad\u80fd\u529b\u3092\u691c\u8a3c\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>CIFAR-10 \u3067\u306f\u3001\u4e8b\u524d\u5b66\u7fd2\u6e08\u307f ResNet-18 \u306e\u7279\u5fb4\u62bd\u51fa\u90e8\u5206\u3092\u56fa\u5b9a\u3057\u3001\u305d\u306e\u51fa\u529b\u306b\u63a5\u7d9a\u3057\u305f 2 \u5c64\u306e\u5206\u985e\u5668\u3092\u5fd8\u5374\u51e6\u7406\u306e\u5bfe\u8c61\u3068\u3057\u305f\u3002\u7279\u5fb4\u62bd\u51fa\u5668\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306f\u66f4\u65b0\u305b\u305a\u3001512 \u6b21\u5143\u306e\u7279\u5fb4\u3092\u5165\u529b\u3068\u3059\u308b\u5206\u985e\u5668\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3092\u5909\u66f4\u3059\u308b\u69cb\u6210\u3067\u3042\u308b\u3002\u3057\u305f\u304c\u3063\u3066\u3001\u753b\u50cf\u5206\u985e\u30e2\u30c7\u30eb\u5168\u4f53\u3092\u66f4\u65b0\u3059\u308b\u5834\u5408\u3068\u6bd4\u3079\u3001\u5fd8\u5374\u51e6\u7406\u306b\u3088\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u5316\u306e\u5bfe\u8c61\u304c\u9650\u5b9a\u3055\u308c\u3066\u3044\u308b\u3002<\/p>\n<p>\u5c40\u6240\u8fd1\u4f3c\u306e\u691c\u8a3c\u3067\u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u8fd1\u508d\u304b\u3089\u505c\u7559\u70b9\u3092\u8ffd\u8de1\u3057\u3001\u7406\u8ad6\u5f0f\u306b\u3088\u308b\u51fa\u529b\u5dee\u306e\u4e88\u6e2c\u65b9\u5411\u3068\u3001\u5b9f\u969b\u306b\u89b3\u6e2c\u3055\u308c\u305f logit \u306e\u51fa\u529b\u5dee\u3092\u6bd4\u8f03\u3057\u3066\u3044\u308b\u3002\u6bd4\u8f03\u306b\u306f Pearson \u76f8\u95a2\u4fc2\u6570\u304c\u4f7f\u308f\u308c\u30011 \u306b\u8fd1\u3044\u307b\u3069\u4e88\u6e2c\u3057\u305f\u6210\u5206\u3054\u3068\u306e\u5909\u5316\u3068\u5b9f\u6e2c\u3057\u305f\u5909\u5316\u304c\u540c\u3058\u7dda\u5f62\u95a2\u4fc2\u306b\u6cbf\u3063\u3066\u3044\u308b\u3053\u3068\u3092\u8868\u3059\u3002<\/p>\n<p>CIFAR-10 \u306e\u7121\u4f5c\u70ba\u5fd8\u5374\u6761\u4ef6\u3067\u306f\u3001GradDiff \u306e\u5fd8\u5374\u5bfe\u8c61\u306b\u5bfe\u3059\u308b\u4e88\u6e2c\u3068\u5b9f\u6e2c\u306e Pearson \u76f8\u95a2\u306f 0.89 \u00b1 0.03\u3001\u4fdd\u6301\u5bfe\u8c61\u3067\u306f 0.82 \u00b1 0.05 \u3060\u3063\u305f\u3002\u30af\u30e9\u30b9\u5fd8\u5374\u6761\u4ef6\u3067\u306f\u3001\u305d\u308c\u305e\u308c 0.97 \u00b1 0.01\u30010.87 \u00b1 0.09 \u3060\u3063\u305f\u3002\u3053\u308c\u3089\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u3092\u7528\u3044\u305f\u30ec\u30d0\u30ec\u30c3\u30b8\u69cb\u9020\u306b\u3088\u308b\u4e88\u6e2c\u5024\u3067\u3042\u308b\u3002<\/p>\n<p>\u6bd4\u8f03\u5bfe\u8c61\u3068\u3057\u3066\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u3092\u4f7f\u308f\u305a\u306b\u901a\u5e38\u306e\u5185\u7a4d\u69cb\u9020\u3092\u5229\u7528\u3057\u305f\u5834\u5408\u3001CIFAR-10 \u306e\u7121\u4f5c\u70ba\u5fd8\u5374\u6761\u4ef6\u3067\u306e Pearson \u76f8\u95a2\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3067 0.74 \u00b1 0.04\u3001\u4fdd\u6301\u5bfe\u8c61\u3067 0.63 \u00b1 0.06 \u3060\u3063\u305f\u3002\u30af\u30e9\u30b9\u5fd8\u5374\u6761\u4ef6\u3067\u3082\u3001\u5bfe\u5fdc\u3059\u308b\u5024\u306f 0.94 \u00b1 0.02\u30010.74 \u00b1 0.07 \u3068\u306a\u3063\u305f\u3002\u8a55\u4fa1\u3055\u308c\u305f\u6761\u4ef6\u3067\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u3092\u53d6\u308a\u5165\u308c\u305f\u65b9\u304c\u3001\u51fa\u529b\u5dee\u306e\u65b9\u5411\u3068\u9ad8\u3044\u76f8\u95a2\u3092\u793a\u3057\u305f\u3002<\/p>\n<p>\u3053\u306e\u7d50\u679c\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u3092\u901a\u5e38\u306e\u5185\u7a4d\u3060\u3051\u3067\u6bd4\u8f03\u3059\u308b\u3088\u308a\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u640d\u5931\u304c\u3069\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u65b9\u5411\u3092\u5236\u7d04\u3057\u3066\u3044\u308b\u304b\u3092\u8003\u616e\u3057\u305f\u65b9\u304c\u3001\u5c40\u6240\u7684\u306a\u51fa\u529b\u5909\u5316\u306e\u65b9\u5411\u3092\u8aac\u660e\u3057\u3084\u3059\u3044\u3053\u3068\u3092\u793a\u3057\u3066\u3044\u308b\u3002\u305f\u3060\u3057\u3001Pearson \u76f8\u95a2\u306f\u5909\u5316\u306e\u65b9\u5411\u3084\u6210\u5206\u9593\u306e\u7dda\u5f62\u95a2\u4fc2\u3092\u8a55\u4fa1\u3059\u308b\u6307\u6a19\u3067\u3042\u308a\u3001\u51fa\u529b\u5dee\u306e\u5927\u304d\u3055\u304c\u6b63\u78ba\u306b\u4e88\u6e2c\u3055\u308c\u305f\u3053\u3068\u3092\u610f\u5473\u3057\u306a\u3044\u3002\u307e\u305f\u3001\u691c\u8a3c\u5bfe\u8c61\u306e\u505c\u7559\u70b9\u306f\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u8fd1\u508d\u306b\u9650\u5b9a\u3055\u308c\u3066\u3044\u308b\u305f\u3081\u3001\u5927\u304d\u306a\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u5909\u4f4d\u3092\u4f34\u3046\u5fd8\u5374\u51e6\u7406\u3078\u540c\u3058\u7cbe\u5ea6\u3092\u4e00\u822c\u5316\u3059\u308b\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002<\/p>\n<p>\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u3067\u306f\u3001\u8a55\u4fa1\u5bfe\u8c61\u305d\u306e\u3082\u306e\u304c\u7570\u306a\u308b\u3002\u8a00\u8a9e\u30e2\u30c7\u30eb\u306f\u6b21\u306b\u751f\u6210\u3059\u308b\u30c8\u30fc\u30af\u30f3\u306e\u78ba\u7387\u5206\u5e03\u3092\u51fa\u529b\u3059\u308b\u305f\u3081\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u60c5\u5831\u3092\u3069\u306e\u7a0b\u5ea6\u751f\u6210\u3057\u3084\u3059\u3044\u304b\u3001\u5bfe\u8c61\u60c5\u5831\u3092\u542b\u3080\u56de\u7b54\u306e\u78ba\u7387\u304c\u3069\u306e\u3088\u3046\u306b\u5909\u5316\u3057\u305f\u304b\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u56de\u7b54\u306b\u3069\u306e\u7a0b\u5ea6\u5f71\u97ff\u3057\u305f\u304b\u3092\u6e2c\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u8a00\u8a9e\u30e2\u30c7\u30eb\u306e\u5fd8\u5374\u8a55\u4fa1\u306b\u306f\u3001\u67b6\u7a7a\u306e\u8457\u8005\u306b\u3064\u3044\u3066\u306e\u60c5\u5831\u3092\u5b66\u7fd2\u30fb\u5fd8\u5374\u3055\u305b\u308b TOFU \u304c\u4f7f\u7528\u3055\u308c\u3066\u3044\u308b<a href=\"#ref16\">[16]<\/a>\u3002\u67b6\u7a7a\u306e\u4eba\u7269\u306b\u95a2\u3059\u308b\u60c5\u5831\u3092\u5fd8\u5374\u5bfe\u8c61\u3068\u3057\u3066\u7528\u610f\u3059\u308b\u3053\u3068\u3067\u3001\u5b66\u7fd2\u3057\u305f\u60c5\u5831\u3092\u53d6\u308a\u9664\u304f\u64cd\u4f5c\u3068\u3001\u6b8b\u3059\u3079\u304d\u60c5\u5831\u3078\u306e\u5f71\u97ff\u3092\u3001\u6bd4\u8f03\u53ef\u80fd\u306a\u6761\u4ef6\u3067\u8a55\u4fa1\u3067\u304d\u308b\u3002<\/p>\n<p>\u4e2d\u5fc3\u8ad6\u6587\u3067\u306f\u3001Llama-3.2-1B-Instruct \u3092\u5bfe\u8c61\u306b\u3001\u5fd8\u5374\u51e6\u7406\u3092\u958b\u59cb\u3059\u308b\u524d\u306b\u8a08\u7b97\u3057\u305f\u30ec\u30d0\u30ec\u30c3\u30b8\u306b\u57fa\u3065\u304f\u6307\u6a19\u304c\u3001\u51e6\u7406\u5f8c\u306e\u51fa\u529b\u5909\u5316\u3092\u3069\u306e\u7a0b\u5ea6\u4e88\u6e2c\u3067\u304d\u308b\u304b\u3092\u8abf\u3079\u3066\u3044\u308b\u3002\u3053\u3053\u3067\u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u8fd1\u508d\u3067\u53b3\u5bc6\u306b\u8a08\u7b97\u3059\u308b\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u306e\u4ee3\u308f\u308a\u306b\u3001\u5143\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u3067\u8a08\u7b97\u3067\u304d\u308b\u52fe\u914d\u3068\u8fd1\u4f3c\u66f2\u7387\u3092\u4f7f\u7528\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\u8a55\u4fa1\u3067\u306f\u3001\u5143\u30e2\u30c7\u30eb\u3067\u8a08\u7b97\u3057\u305f\u5404\u30c7\u30fc\u30bf\u306e\u52fe\u914d\u3092\u3001\u66f2\u7387\u884c\u5217\u306e\u8fd1\u4f3c\u9006\u884c\u5217\u3092\u4ecb\u3057\u3066\u6bd4\u8f03\u3059\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306b\u3064\u3044\u3066\u306f\u81ea\u5df1\u5f71\u97ff\u306b\u5bfe\u5fdc\u3059\u308b\u5f97\u70b9\u3092\u3001\u4fdd\u6301\u5bfe\u8c61\u306b\u3064\u3044\u3066\u306f\u5fd8\u5374\u5bfe\u8c61\u306e\u52fe\u914d\u3068\u306e\u4ea4\u5dee\u5f71\u97ff\u3092\u96c6\u7d04\u3057\u305f\u5f97\u70b9\u3092\u8a08\u7b97\u3059\u308b\u3002\u3053\u308c\u306b\u3088\u308a\u3001\u5b9f\u969b\u306b\u5fd8\u5374\u51e6\u7406\u3092\u5b9f\u884c\u3059\u308b\u524d\u306b\u3001\u3069\u306e\u30c7\u30fc\u30bf\u306e\u51fa\u529b\u304c\u5927\u304d\u304f\u5909\u5316\u3057\u3084\u3059\u3044\u304b\u3092\u9806\u4f4d\u3068\u3057\u3066\u4e88\u6e2c\u3059\u308b\u3002<\/p>\n<p>\u5f97\u70b9\u306e\u59a5\u5f53\u6027\u3092\u8abf\u3079\u308b\u305f\u3081\u306b\u3001\u5404\u30c7\u30fc\u30bf\u306e\u5b9f\u969b\u306e\u8ca0\u306e\u5bfe\u6570\u5c24\u5ea6\u306e\u5909\u5316\u3092\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u6bd4\u8f03\u3067\u6e2c\u5b9a\u3057\u3001\u4e88\u6e2c\u3057\u305f\u9806\u4f4d\u3068\u5b9f\u6e2c\u3057\u305f\u9806\u4f4d\u306e Spearman \u9806\u4f4d\u76f8\u95a2\u3092\u6c42\u3081\u3066\u3044\u308b\u3002Spearman \u9806\u4f4d\u76f8\u95a2\u306f\u3001\u4e88\u6e2c\u3057\u305f\u6570\u5024\u306e\u7d76\u5bfe\u7684\u306a\u5927\u304d\u3055\u3067\u306f\u306a\u304f\u3001\u30c7\u30fc\u30bf\u3092\u4e26\u3079\u305f\u9806\u5e8f\u304c\u3069\u306e\u7a0b\u5ea6\u4e00\u81f4\u3057\u3066\u3044\u308b\u304b\u3092\u6e2c\u308b\u6307\u6a19\u3067\u3042\u308b\u30021 \u306b\u8fd1\u3051\u308c\u3070\u9806\u4f4d\u304c\u4e00\u81f4\u3057\u30010 \u306b\u8fd1\u3051\u308c\u3070\u5358\u8abf\u306a\u9806\u4f4d\u95a2\u4fc2\u304c\u307b\u3068\u3093\u3069\u8a8d\u3081\u3089\u308c\u306a\u3044\u3002<\/p>\n<p>3 \u7a2e\u306e\u5fd8\u5374\u624b\u6cd5\u3068 3 \u500b\u306e\u4e71\u6570\u7a2e\u306b\u3088\u308b\u8a55\u4fa1\u3067\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u306b\u95a2\u3059\u308b\u9806\u4f4d\u76f8\u95a2\u306f 0.26\uff5e0.49 \u306e\u7bc4\u56f2\u3060\u3063\u305f\u3002\u5fd8\u5374\u5bfe\u8c61\u306b\u95a2\u3059\u308b\u9806\u4f4d\u76f8\u95a2\u306f\u3001\u6b63\u306e\u95a2\u4fc2\u304c\u78ba\u8a8d\u3055\u308c\u305f\u6761\u4ef6\u3067 0.14\uff5e0.29 \u306e\u7bc4\u56f2\u3060\u3063\u305f\u3002\u4e00\u65b9\u3001NPO \u306e\u4e00\u90e8\u306e\u5fd8\u5374\u6761\u4ef6\u3067\u306f\u3001\u76f8\u95a2\u304c\u7121\u4f5c\u70ba\u306a\u9806\u4f4d\u4ed8\u3051\u304b\u3089\u6709\u610f\u306b\u7570\u306a\u308b\u3068\u306f\u8a8d\u3081\u3089\u308c\u306a\u304b\u3063\u305f\u3002<\/p>\n<p>\u4fdd\u6301\u5bfe\u8c61\u306b\u3064\u3044\u3066\u306f\u3001\u30ec\u30d0\u30ec\u30c3\u30b8\u306b\u57fa\u3065\u304f\u5f97\u70b9\u304c\u9ad8\u3044\u30c7\u30fc\u30bf\u307b\u3069\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306b\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u8ca0\u306e\u5bfe\u6570\u5c24\u5ea6\u306e\u5dee\u304c\u5927\u304d\u304f\u306a\u308b\u50be\u5411\u304c\u78ba\u8a8d\u3055\u308c\u305f\u3002\u3053\u308c\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u6ce2\u53ca\u3059\u308b\u5909\u66f4\u3092\u3001\u5fd8\u5374\u51e6\u7406\u306e\u524d\u306b\u4e00\u5b9a\u7a0b\u5ea6\u4e88\u6e2c\u3067\u304d\u308b\u3053\u3068\u3092\u793a\u3057\u3066\u3044\u308b\u3002\u305f\u3060\u3057\u3001\u9806\u4f4d\u76f8\u95a2\u306f\u6700\u5927\u3067\u3082 0.49 \u3067\u3042\u308a\u3001\u5404\u5165\u529b\u3067\u751f\u3058\u308b\u51fa\u529b\u5dee\u306e\u5927\u304d\u3055\u3092\u7cbe\u5bc6\u306b\u6c42\u3081\u3089\u308c\u308b\u6c34\u6e96\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>\u307e\u305f\u3001\u3053\u308c\u3089\u306e\u5f97\u70b9\u306f\u3001\u5143\u30e2\u30c7\u30eb\u3067\u306e\u30c7\u30fc\u30bf\u3054\u3068\u306e\u640d\u5931\u3084\u52fe\u914d\u30ce\u30eb\u30e0\u3068\u3044\u3063\u305f\u6bd4\u8f03\u7684\u5358\u7d14\u306a\u6307\u6a19\u306b\u5bfe\u3057\u3066\u3001\u660e\u78ba\u306b\u4e00\u8cab\u3057\u305f\u512a\u4f4d\u6027\u3092\u793a\u3057\u305f\u308f\u3051\u3067\u306f\u306a\u3044\u3002\u30ec\u30d0\u30ec\u30c3\u30b8\u69cb\u9020\u306b\u306f\u51fa\u529b\u5909\u5316\u306e\u9806\u4f4d\u306b\u95a2\u3059\u308b\u60c5\u5831\u304c\u542b\u307e\u308c\u3066\u3044\u308b\u304c\u3001\u305d\u306e\u60c5\u5831\u304c\u8ffd\u52a0\u306e\u66f2\u7387\u8a08\u7b97\u306b\u898b\u5408\u3046\u6539\u5584\u3092\u5e38\u306b\u4e0e\u3048\u308b\u304b\u306f\u3001\u8a55\u4fa1\u6761\u4ef6\u306b\u3088\u3063\u3066\u7570\u306a\u308b\u3002<\/p>\n<p>\u3053\u306e\u5b9f\u9a13\u3067\u306f\u3001\u66f2\u7387\u3092\u8fd1\u4f3c\u3059\u308b\u7bc4\u56f2\u3082\u5236\u9650\u3055\u308c\u3066\u3044\u308b\u3002\u8a00\u8a9e\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306b\u5bfe\u3059\u308b\u53b3\u5bc6\u306a\u30d8\u30c3\u30bb\u884c\u5217\u3092\u8a08\u7b97\u3059\u308b\u4ee3\u308f\u308a\u306b\u3001LoRA \u306b\u3088\u308b\u4f4e\u30e9\u30f3\u30af\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u8868\u73fe\u3068\u8fd1\u4f3c\u66f2\u7387\u3092\u5229\u7528\u3057\u3066\u3044\u308b\u3002\u3055\u3089\u306b\u3001\u5fd8\u5374\u51e6\u7406\u306f\u6709\u9650\u56de\u306e\u66f4\u65b0\u3067\u7d42\u4e86\u3057\u3066\u304a\u308a\u3001\u5c40\u6240\u7406\u8ad6\u304c\u5bfe\u8c61\u3068\u3059\u308b\u505c\u7559\u70b9\u3078\u306e\u5230\u9054\u304c\u4fdd\u8a3c\u3055\u308c\u3066\u3044\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002\u3057\u305f\u304c\u3063\u3066\u3001\u5f97\u3089\u308c\u305f\u9806\u4f4d\u76f8\u95a2\u3092\u3001\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u306b\u304a\u3051\u308b\u9589\u5f62\u5f0f\u306e\u7cbe\u5ea6\u306e\u76f4\u63a5\u7684\u306a\u691c\u8a3c\u3068\u307f\u306a\u3059\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002<\/p>\n<p>\u8a00\u8a9e\u30e2\u30c7\u30eb\u306e\u5fd8\u5374\u3067\u306f\u3001\u5bfe\u8c61\u30c7\u30fc\u30bf\u306e\u6b63\u7b54\u7387\u3001\u8ca0\u306e\u5bfe\u6570\u5c24\u5ea6\u3001\u51fa\u529b\u5206\u5e03\u306e\u5dee\u3001\u60c5\u5831\u306e\u518d\u62bd\u51fa\u53ef\u80fd\u6027\u306a\u3069\u3001\u8907\u6570\u306e\u8a55\u4fa1\u6307\u6a19\u304c\u5229\u7528\u3055\u308c\u3066\u3044\u308b\u3002\u3053\u308c\u3089\u3092\u5171\u901a\u6761\u4ef6\u3067\u6bd4\u8f03\u3059\u308b\u7814\u7a76\u3082\u9032\u3081\u3089\u308c\u3066\u3044\u308b<a href=\"#ref17\">[17]<\/a>\u3002\u540c\u3058\u5fd8\u5374\u51e6\u7406\u3067\u3042\u3063\u3066\u3082\u3001\u8a55\u4fa1\u3059\u308b\u51fa\u529b\u3084\u6e2c\u5ea6\u304c\u7570\u306a\u308c\u3070\u3001\u9054\u6210\u3057\u305f\u3068\u5224\u65ad\u3067\u304d\u308b\u6027\u8cea\u3082\u5909\u308f\u308b\u3002<\/p>\n<p>\u7dda\u5f62\u56de\u5e30\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u3068\u4e8c\u3064\u306e\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u304b\u3089\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u3092\u53b3\u5bc6\u306b\u6c42\u3081\u3089\u308c\u308b\u3002CIFAR-10 \u306e\u5c40\u6240\u7684\u306a\u691c\u8a3c\u3067\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u3092\u4f7f\u3063\u305f\u8fd1\u4f3c\u304c\u51fa\u529b\u5dee\u306e\u65b9\u5411\u3092\u6bd4\u8f03\u7684\u3088\u304f\u8aac\u660e\u3057\u305f\u3002\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u3067\u306f\u3001\u540c\u3058\u8003\u3048\u65b9\u304b\u3089\u69cb\u6210\u3057\u305f\u4e8b\u524d\u8a3a\u65ad\u6307\u6a19\u304c\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306b\u5909\u5316\u3057\u3084\u3059\u3044\u30c7\u30fc\u30bf\u306e\u9806\u4f4d\u306b\u3064\u3044\u3066\u4e00\u5b9a\u306e\u60c5\u5831\u3092\u4e0e\u3048\u305f\u3002<\/p>\n<p>\u3053\u308c\u3089\u306e\u7d50\u679c\u306f\u3001\u7406\u8ad6\u4e0a\u306e\u4fdd\u8a3c\u306e\u7bc4\u56f2\u3092\u6bb5\u968e\u7684\u306b\u533a\u5225\u3059\u308b\u5fc5\u8981\u6027\u3092\u793a\u3057\u3066\u3044\u308b\u3002\u7dda\u5f62\u30e2\u30c7\u30eb\u306e\u53b3\u5bc6\u5f0f\u306f\u3001\u76ee\u7684\u95a2\u6570\u3068\u6b63\u5b9a\u5024\u6761\u4ef6\u3092\u6e80\u305f\u3059\u5834\u5408\u306e\u51fa\u529b\u5dee\u3092\u6c7a\u5b9a\u3059\u308b\u3002\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u306e\u5c40\u6240\u8fd1\u4f3c\u306f\u3001\u518d\u5b66\u7fd2\u89e3\u306e\u8fd1\u508d\u306b\u304a\u3051\u308b\u51fa\u529b\u5909\u5316\u306e\u65b9\u5411\u3068\u5927\u304d\u3055\u3092\u63a8\u5b9a\u3059\u308b\u3002\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u306e\u4e8b\u524d\u8a3a\u65ad\u3067\u306f\u3001\u3055\u3089\u306b\u9650\u5b9a\u3055\u308c\u305f\u66f2\u7387\u60c5\u5831\u3092\u4f7f\u3044\u3001\u5909\u5316\u3057\u3084\u3059\u3044\u5165\u529b\u306e\u9806\u4f4d\u3092\u8a55\u4fa1\u3059\u308b\u3002\u305d\u308c\u305e\u308c\u4f55\u3092\u4e88\u6e2c\u3057\u3001\u3069\u306e\u6761\u4ef6\u3067\u4e00\u81f4\u304c\u78ba\u8a8d\u3055\u308c\u305f\u304b\u3092\u5206\u3051\u308b\u3053\u3068\u3067\u3001\u6570\u7406\u30e2\u30c7\u30eb\u306e\u9069\u7528\u53ef\u80fd\u6027\u3092\u8a55\u4fa1\u3067\u304d\u308b\u3002<\/p>\n<hr>\n<h2>7. \u5fd8\u5374\u306e\u9054\u6210\u3068\u60c5\u5831\u524a\u9664\u306e\u4fdd\u8a3c\u306f\u5206\u3051\u3066\u8003\u3048\u308b<\/h2>\n<h3>7.1 \u51fa\u529b\u306e\u8fd1\u3055\u3068\u5185\u90e8\u60c5\u5831\u306e\u6b8b\u5b58<\/h3>\n<p>\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u3068\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u5dee\u304c\u5c0f\u3055\u3044\u5834\u5408\u3001\u6307\u5b9a\u3057\u305f\u8a55\u4fa1\u5165\u529b\u306b\u3064\u3044\u3066\u4e21\u8005\u306e\u632f\u308b\u821e\u3044\u304c\u8fd1\u3044\u3053\u3068\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002\u4f8b\u3048\u3070\u3001\u5fd8\u5374\u5bfe\u8c61\u3067\u306e\u51fa\u529b RMS \u5dee\u304c\u5c0f\u3055\u3051\u308c\u3070\u3001\u305d\u306e\u8a55\u4fa1\u96c6\u5408\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u3066\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u3068\u8fd1\u3044\u4e88\u6e2c\u5024\u3092\u8fd4\u3057\u3066\u3044\u308b\u3002\u3057\u304b\u3057\u3001\u3053\u306e\u7d50\u679c\u304c\u6210\u7acb\u3059\u308b\u7bc4\u56f2\u306f\u3001\u51fa\u529b\u5dee\u3092\u6e2c\u5b9a\u3057\u305f\u5165\u529b\u96c6\u5408\u3068\u8a55\u4fa1\u65b9\u6cd5\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002<\/p>\n<p>\u8a55\u4fa1\u5bfe\u8c61\u306e\u5165\u529b\u96c6\u5408\u3092 \\(X_a\\)\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u3092 \\(f_{\\theta_u}\\)\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3092 \\(f_{\\theta_r^\\star}\\) \u3068\u3059\u308b\u3068\u3001\u51fa\u529b\u5dee\u306f\u6b21\u306e\u3088\u3046\u306b\u5b9a\u7fa9\u3057\u305f\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_a<br \/>\n=<br \/>\nf_{\\theta_u}(X_a)<br \/>\n&#8211;<br \/>\nf_{\\theta_r^\\star}(X_a)<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5dee\u304c\u96f6\u3067\u3042\u308c\u3070\u3001\u8a55\u4fa1\u96c6\u5408 \\(X_a\\) \u306b\u542b\u307e\u308c\u308b\u5165\u529b\u306b\u3064\u3044\u3066\u3001\u4e21\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u306f\u4e00\u81f4\u3059\u308b\u3002\u4e00\u65b9\u3001\u8a55\u4fa1\u96c6\u5408\u306b\u542b\u307e\u308c\u306a\u3044\u5165\u529b\u306b\u3064\u3044\u3066\u306f\u3001\u3053\u306e\u7b49\u5f0f\u304b\u3089\u51fa\u529b\u306e\u4e00\u81f4\u3092\u5c0e\u304f\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002\u5b66\u7fd2\u6e08\u307f\u30e2\u30c7\u30eb\u306e\u5165\u529b\u7a7a\u9593\u306f\u4e00\u822c\u306b\u975e\u5e38\u306b\u5927\u304d\u304f\u3001\u6709\u9650\u500b\u306e\u5165\u529b\u306b\u5bfe\u3059\u308b\u4e00\u81f4\u304b\u3089\u3001\u3059\u3079\u3066\u306e\u5165\u529b\u306b\u5bfe\u3059\u308b\u4e00\u81f4\u3092\u7d50\u8ad6\u3065\u3051\u308b\u306b\u306f\u8ffd\u52a0\u306e\u6761\u4ef6\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<p>\u4f8b\u3048\u3070\u3001\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u304c\u901a\u5e38\u306e\u8cea\u554f\u306b\u5bfe\u3057\u3066\u540c\u3058\u56de\u7b54\u3092\u8fd4\u3057\u3066\u3044\u3066\u3082\u3001\u8cea\u554f\u306e\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f\u5834\u5408\u306b\u306f\u7570\u306a\u308b\u56de\u7b54\u3092\u8fd4\u3059\u3053\u3068\u304c\u3042\u308b\u3002\u6587\u7ae0\u751f\u6210\u30e2\u30c7\u30eb\u3067\u306f\u3001\u540c\u3058\u5185\u5bb9\u3092\u5225\u306e\u8a00\u8449\u3067\u5c0b\u306d\u308b\u3001\u56de\u7b54\u306e\u4e00\u90e8\u3092\u4e0e\u3048\u3066\u7d9a\u304d\u3092\u751f\u6210\u3055\u305b\u308b\u3001\u8907\u6570\u306e\u60c5\u5831\u3092\u7d44\u307f\u5408\u308f\u305b\u3066\u8cea\u554f\u3059\u308b\u306a\u3069\u3001\u5165\u529b\u306e\u69cb\u6210\u306b\u3088\u3063\u3066\u7570\u306a\u308b\u51fa\u529b\u304c\u751f\u3058\u5f97\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u60c5\u5831\u304c\u7279\u5b9a\u306e\u8cea\u554f\u3067\u306f\u51fa\u529b\u3055\u308c\u306a\u304f\u306a\u3063\u3066\u3044\u3066\u3082\u3001\u5225\u306e\u5165\u529b\u306b\u3088\u3063\u3066\u518d\u3073\u51fa\u529b\u3055\u308c\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u9055\u3044\u306f\u3001\u8a55\u4fa1\u96c6\u5408\u4e0a\u3067\u306e\u5e73\u5747\u7684\u306a\u51fa\u529b\u5dee\u3068\u3001\u5165\u529b\u7a7a\u9593\u5168\u4f53\u3067\u306e\u51fa\u529b\u5dee\u3092\u533a\u5225\u3059\u308b\u3068\u660e\u78ba\u306b\u306a\u308b\u3002\u8a55\u4fa1\u5bfe\u8c61\u306e\u5165\u529b\u5206\u5e03\u3092 \\(P_{\\mathrm{eval}}\\)\u3001\u975e\u8ca0\u306e\u51fa\u529b\u5dee\u6e2c\u5ea6\u3092 \\(d\\) \u3068\u3059\u308b\u3068\u3001\u5e73\u5747\u7684\u306a\u51fa\u529b\u5dee\u306f\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\nE_{\\mathrm{eval}}<br \/>\n=<br \/>\n\\mathbb E_{x\\sim P_{\\mathrm{eval}}}<br \/>\n\\left[<br \/>\nd\\left(<br \/>\nf_{\\theta_u}(x),<br \/>\nf_{\\theta_r^\\star}(x)<br \/>\n\\right)<br \/>\n\\right]<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5024\u306f\u3001\u8a55\u4fa1\u5206\u5e03\u304b\u3089\u5165\u529b\u3092\u62bd\u51fa\u3057\u305f\u3068\u304d\u306b\u3001\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u304c\u5e73\u5747\u3057\u3066\u3069\u308c\u3060\u3051\u7570\u306a\u308b\u304b\u3092\u8868\u3059\u3002\u4e00\u65b9\u3001\u5165\u529b\u7a7a\u9593 \\(\\mathcal X\\) \u5168\u4f53\u306b\u304a\u3051\u308b\u6700\u5927\u306e\u51fa\u529b\u5dee\u3092\u8003\u3048\u308b\u5834\u5408\u306f\u3001\u6b21\u306e\u91cf\u304c\u5bfe\u5fdc\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\nE_{\\max}<br \/>\n=<br \/>\n\\sup_{x\\in\\mathcal X}<br \/>\nd\\left(<br \/>\nf_{\\theta_u}(x),<br \/>\nf_{\\theta_r^\\star}(x)<br \/>\n\\right)<br \/>\n\\]<\/p>\n<p>\\(\\sup\\) \u306f\u3001\u5bfe\u8c61\u3068\u306a\u308b\u5165\u529b\u5168\u4f53\u3067\u306e\u51fa\u529b\u5dee\u306e\u4e0a\u9650\u3092\u8868\u3059\u3002\u5e73\u5747\u7684\u306a\u51fa\u529b\u5dee\u304c\u5c0f\u3055\u304f\u3066\u3082\u3001\u4e00\u90e8\u306e\u5165\u529b\u3067\u5927\u304d\u306a\u5dee\u304c\u751f\u3058\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u7279\u306b\u3001\u8a55\u4fa1\u5206\u5e03\u3067\u307b\u3068\u3093\u3069\u73fe\u308c\u306a\u3044\u5165\u529b\u3084\u3001\u610f\u56f3\u7684\u306b\u69cb\u6210\u3055\u308c\u305f\u5165\u529b\u306b\u5bfe\u3057\u3066\u306f\u3001\u901a\u5e38\u306e\u8a55\u4fa1\u3067\u89b3\u6e2c\u3055\u308c\u308b\u51fa\u529b\u5dee\u3068\u7570\u306a\u308b\u7d50\u679c\u304c\u751f\u3058\u5f97\u308b\u3002\u6709\u9650\u306e\u8a55\u4fa1\u96c6\u5408\u3067\u6e2c\u5b9a\u3057\u305f RMS \u5dee\u306f\u3001\u305d\u306e\u96c6\u5408\u306b\u304a\u3051\u308b\u51fa\u529b\u5dee\u3092\u96c6\u7d04\u3057\u305f\u5024\u3067\u3042\u308a\u3001\u5165\u529b\u7a7a\u9593\u5168\u4f53\u3067\u306e\u6700\u5927\u5dee\u3092\u4fdd\u8a3c\u3059\u308b\u91cf\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>\u3055\u3089\u306b\u3001\u51fa\u529b\u306e\u4e00\u81f4\u3068\u30e2\u30c7\u30eb\u5185\u90e8\u306e\u60c5\u5831\u306e\u72b6\u614b\u3082\u7570\u306a\u308b\u3002\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u3067\u306f\u3001\u5b66\u7fd2\u30c7\u30fc\u30bf\u304b\u3089\u5f97\u3089\u308c\u305f\u60c5\u5831\u304c\u591a\u6570\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306b\u5206\u6563\u3057\u3066\u8868\u73fe\u3055\u308c\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u7279\u5b9a\u306e\u56de\u7b54\u3092\u751f\u6210\u3059\u308b\u78ba\u7387\u3092\u4f4e\u4e0b\u3055\u305b\u308b\u66f4\u65b0\u306b\u3088\u3063\u3066\u3001\u901a\u5e38\u306e\u5165\u529b\u3067\u306f\u5bfe\u8c61\u60c5\u5831\u3092\u53d6\u308a\u51fa\u3057\u306b\u304f\u304f\u306a\u3063\u3066\u3044\u3066\u3082\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5225\u306e\u7d44\u5408\u305b\u3084\u8ffd\u52a0\u306e\u66f4\u65b0\u306b\u3088\u3063\u3066\u3001\u305d\u306e\u60c5\u5831\u3092\u518d\u3073\u5229\u7528\u3067\u304d\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u5b9f\u969b\u306b\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u8a00\u8a9e\u30e2\u30c7\u30eb\u3078\u8ffd\u52a0\u5b66\u7fd2\u3092\u884c\u3046\u3053\u3068\u3067\u3001\u8868\u9762\u4e0a\u306f\u5229\u7528\u3067\u304d\u306a\u304f\u306a\u3063\u305f\u60c5\u5831\u304c\u518d\u3073\u53d6\u308a\u51fa\u305b\u308b\u3088\u3046\u306b\u306a\u308b\u4f8b\u304c\u5831\u544a\u3055\u308c\u3066\u3044\u308b<a href=\"#ref18\">[18]<\/a>\u3002\u3053\u306e\u7d50\u679c\u306f\u3001\u5fd8\u5374\u51e6\u7406\u306b\u3088\u3063\u3066\u901a\u5e38\u306e\u56de\u7b54\u304c\u6291\u5236\u3055\u308c\u305f\u3053\u3068\u3068\u3001\u5b66\u7fd2\u6e08\u307f\u306e\u91cd\u307f\u306b\u6b8b\u308b\u60c5\u5831\u304c\u9664\u53bb\u3055\u308c\u305f\u3053\u3068\u3092\u533a\u5225\u3059\u308b\u5fc5\u8981\u6027\u3092\u793a\u3057\u3066\u3044\u308b\u3002\u305f\u3060\u3057\u3001\u8ffd\u52a0\u5b66\u7fd2\u306b\u3088\u308b\u60c5\u5831\u306e\u518d\u51fa\u73fe\u304c\u3001\u3059\u3079\u3066\u306e\u5834\u5408\u306b\u5143\u306e\u8a18\u61b6\u306e\u6b8b\u5b58\u3060\u3051\u304b\u3089\u751f\u3058\u305f\u3068\u65ad\u5b9a\u3059\u308b\u3053\u3068\u3082\u3067\u304d\u306a\u3044\u3002\u8ffd\u52a0\u5b66\u7fd2\u306e\u30c7\u30fc\u30bf\u3084\u66f4\u65b0\u6761\u4ef6\u304c\u7d50\u679c\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u3092\u542b\u3081\u3066\u5224\u65ad\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u3053\u306b\u306f\u3001\u51fa\u529b\u7a7a\u9593\u3067\u306e\u6bd4\u8f03\u306b\u3088\u3063\u3066\u78ba\u8a8d\u3067\u304d\u308b\u6027\u8cea\u3068\u3001\u30e2\u30c7\u30eb\u5185\u90e8\u306b\u95a2\u3059\u308b\u4fdd\u8a3c\u306e\u5883\u754c\u304c\u3042\u308b\u3002\u51fa\u529b\u5dee\u304c\u5c0f\u3055\u3044\u3068\u3044\u3046\u7d50\u679c\u306f\u3001\u5b9a\u7fa9\u3057\u305f\u5165\u529b\u96c6\u5408\u3068\u6e2c\u5ea6\u306b\u304a\u3044\u3066\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u304c\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306b\u8fd1\u3044\u3053\u3068\u3092\u793a\u3059\u3002\u4e00\u65b9\u3001\u5bfe\u8c61\u60c5\u5831\u304c\u5185\u90e8\u72b6\u614b\u304b\u3089\u5b8c\u5168\u306b\u9664\u53bb\u3055\u308c\u305f\u304b\u3001\u8ffd\u52a0\u5b66\u7fd2\u306b\u3088\u3063\u3066\u518d\u3073\u5229\u7528\u53ef\u80fd\u306b\u306a\u308b\u304b\u3001\u653b\u6483\u7684\u306a\u5165\u529b\u3067\u3082\u60c5\u5831\u3092\u51fa\u529b\u3057\u306a\u3044\u304b\u306f\u3001\u305d\u308c\u305e\u308c\u8ffd\u52a0\u306e\u8a55\u4fa1\u3092\u5fc5\u8981\u3068\u3059\u308b\u3002<\/p>\n<p>\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u306f\u3001\u5fd8\u5374\u51e6\u7406\u306e\u7d50\u679c\u3092\u6bd4\u8f03\u3059\u308b\u305f\u3081\u306e\u6e2c\u5b9a\u53ef\u80fd\u306a\u57fa\u6e96\u3067\u3042\u308b\u3002\u305d\u306e\u5024\u306e\u610f\u5473\u3092\u6b63\u78ba\u306b\u8aad\u3080\u306b\u306f\u3001\u8a55\u4fa1\u5bfe\u8c61\u306e\u5165\u529b\u5206\u5e03\u3001\u51fa\u529b\u5dee\u306e\u6e2c\u5ea6\u3001\u6bd4\u8f03\u57fa\u6e96\u3068\u306a\u308b\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3001\u8ffd\u52a0\u64cd\u4f5c\u306b\u5bfe\u3059\u308b\u30e2\u30c7\u30eb\u306e\u632f\u308b\u821e\u3044\u3092\u533a\u5225\u3059\u308b\u3053\u3068\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<h3>7.2 \u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u3092\u540c\u6642\u306b\u76e3\u67fb\u3059\u308b<\/h3>\n<p>\u5fd8\u5374\u51e6\u7406\u306e\u8a55\u4fa1\u3067\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u5909\u5316\u3068\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u3092\u5206\u3051\u3066\u8a18\u9332\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u3060\u3051\u3092\u6e2c\u5b9a\u3059\u308b\u3068\u3001\u5bfe\u8c61\u60c5\u5831\u306b\u95a2\u3059\u308b\u4e88\u6e2c\u304c\u5909\u5316\u3057\u305f\u3053\u3068\u306f\u78ba\u8a8d\u3067\u304d\u308b\u304c\u3001\u305d\u306e\u66f4\u65b0\u304c\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3078\u306e\u63a5\u8fd1\u306b\u3064\u306a\u304c\u3063\u305f\u304b\u306f\u5224\u5b9a\u3067\u304d\u306a\u3044\u3002\u307e\u305f\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u3060\u3051\u3067\u306f\u3001\u6b63\u8aa4\u5224\u5b9a\u3092\u5909\u3048\u306a\u3044\u7bc4\u56f2\u3067\u751f\u3058\u305f\u51fa\u529b\u5206\u5e03\u306e\u5909\u5316\u3092\u898b\u843d\u3068\u3059\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u3092\u3001\u305d\u308c\u305e\u308c \\(\\Delta_f\\)\u3001\\(\\Delta_r\\) \u3068\u3059\u308b\u3002\u3053\u308c\u3089\u306f\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u3068\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u3092\u3001\u540c\u3058\u5165\u529b\u306b\u3064\u3044\u3066\u6bd4\u8f03\u3057\u305f\u7d50\u679c\u3067\u3042\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_f<br \/>\n=<br \/>\nf_{\\theta_u}(X_f)<br \/>\n&#8211;<br \/>\nf_{\\theta_r^\\star}(X_f)<br \/>\n\\]<\/p>\n<p>\\[<br \/>\n\\Delta_r<br \/>\n=<br \/>\nf_{\\theta_u}(X_r)<br \/>\n&#8211;<br \/>\nf_{\\theta_r^\\star}(X_r)<br \/>\n\\]<\/p>\n<p>\\(\\Delta_f\\) \u306f\u5fd8\u5374\u5bfe\u8c61\u3092\u4f7f\u308f\u305a\u306b\u518d\u5b66\u7fd2\u3057\u305f\u5834\u5408\u306e\u632f\u308b\u821e\u3044\u3078\u306e\u63a5\u8fd1\u3092\u6e2c\u308b\u3002\\(\\Delta_r\\) \u306f\u4fdd\u6301\u3059\u3079\u304d\u30c7\u30fc\u30bf\u306b\u5bfe\u3057\u3066\u3001\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u304c\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u3069\u308c\u3060\u3051\u7570\u306a\u308b\u51fa\u529b\u3092\u8fd4\u3059\u304b\u3092\u6e2c\u308b\u3002\u3053\u306e\u4e8c\u3064\u306e\u5dee\u3092\u5225\u3005\u306b\u8a55\u4fa1\u3059\u308b\u3053\u3068\u3067\u3001\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u5909\u66f4\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u4e88\u6e2c\u3078\u6ce2\u53ca\u3057\u305f\u7a0b\u5ea6\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/p>\n<p>\u7dda\u5f62 GradDiff \u306e\u5834\u5408\u3001\u4e8c\u3064\u306e\u51fa\u529b\u5dee\u306f\u6b21\u306e\u9589\u5f62\u5f0f\u3067\u8868\u3055\u308c\u305f\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_f<br \/>\n=<br \/>\n\\frac{\\rho}{n}<br \/>\nK_{ff}<br \/>\n\\left(<br \/>\nI_m-\\frac{\\rho}{n}K_{ff}<br \/>\n\\right)^{-1}<br \/>\ne_f^-<br \/>\n\\]<\/p>\n<p>\\[<br \/>\n\\Delta_r<br \/>\n=<br \/>\n\\frac{\\rho}{n}<br \/>\nK_{rf}<br \/>\n\\left(<br \/>\nI_m-\\frac{\\rho}{n}K_{ff}<br \/>\n\\right)^{-1}<br \/>\ne_f^-<br \/>\n\\]<\/p>\n<p>\u4e21\u8005\u306f\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee \\(e_f^-\\) \u3068\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306b\u3088\u308b\u5897\u5e45\u9805\u3092\u5171\u6709\u3057\u3066\u3044\u308b\u304c\u3001\u6700\u7d42\u7684\u306b\u51fa\u529b\u3078\u4f5c\u7528\u3059\u308b\u884c\u5217\u304c\u7570\u306a\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u3067\u306f\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8 \\(K_{ff}\\)\u3001\u4fdd\u6301\u5bfe\u8c61\u3067\u306f\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8 \\(K_{rf}\\) \u304c\u4f5c\u7528\u3059\u308b\u305f\u3081\u3001\u5fd8\u5374\u5bfe\u8c61\u3067\u306e\u51fa\u529b\u5909\u5316\u3068\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u526f\u4f5c\u7528\u306f\u540c\u3058\u5927\u304d\u3055\u306b\u306a\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002<\/p>\n<p>\u4f8b\u3048\u3070\u3001\u5fd8\u5374\u5bfe\u8c61\u3068\u4fdd\u6301\u5bfe\u8c61\u304c\u5171\u901a\u3059\u308b\u7279\u5fb4\u65b9\u5411\u306b\u4f9d\u5b58\u3057\u3066\u3044\u308b\u5834\u5408\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u306b\u7531\u6765\u3059\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u66f4\u65b0\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u4e88\u6e2c\u306b\u3082\u4f1d\u308f\u308b\u3002\u53cd\u5bfe\u306b\u3001\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8\u304c\u6b8b\u5dee\u306e\u65b9\u5411\u306b\u5bfe\u3057\u3066\u5c0f\u3055\u306a\u4f5c\u7528\u3092\u6301\u3064\u5834\u5408\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u3092\u5909\u5316\u3055\u305b\u3066\u3082\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u306f\u5c0f\u3055\u304f\u306a\u308a\u5f97\u308b\u3002\u3053\u306e\u95a2\u4fc2\u306f\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u3092\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u3060\u3051\u304b\u3089\u4e88\u6e2c\u3067\u304d\u306a\u3044\u7406\u7531\u3092\u6570\u7406\u7684\u306b\u8aac\u660e\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\u76e3\u67fb\u3067\u306f\u3001\u6b63\u7b54\u7387\u3001\u640d\u5931\u3001\u51fa\u529b\u5dee\u3092\u305d\u308c\u305e\u308c\u306e\u5f79\u5272\u306b\u5fdc\u3058\u3066\u4f7f\u7528\u3059\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u306f\u3001\u6307\u5b9a\u3057\u305f\u30c7\u30fc\u30bf\u3067\u6b63\u3057\u3044\u56de\u7b54\u3092\u8fd4\u3059\u5272\u5408\u3092\u793a\u3059\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b RMS \u5dee\u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u4e88\u6e2c\u306e\u8fd1\u3055\u3092\u793a\u3059\u3002\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b RMS \u5dee\u306f\u3001\u4fdd\u6301\u3059\u3079\u304d\u30c7\u30fc\u30bf\u306b\u5bfe\u3057\u3066\u751f\u3058\u305f\u4e88\u6e2c\u306e\u5909\u66f4\u3092\u793a\u3059\u3002\u3055\u3089\u306b\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u3084\u640d\u5931\u3092\u4f75\u7528\u3059\u308b\u3053\u3068\u3067\u3001\u51fa\u529b\u5206\u5e03\u306e\u5909\u5316\u304c\u4e88\u6e2c\u6027\u80fd\u306b\u3069\u306e\u3088\u3046\u306a\u5f71\u97ff\u3092\u4e0e\u3048\u305f\u304b\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/p>\n<p>\u3053\u308c\u3089\u306e\u8a55\u4fa1\u5024\u306f\u3001\u540c\u4e00\u306e\u8a55\u4fa1\u96c6\u5408\u3001\u51fa\u529b\u306e\u5b9a\u7fa9\u3001\u6bd4\u8f03\u57fa\u6e96\u3001\u5fd8\u5374\u51e6\u7406\u306e\u6761\u4ef6\u3092\u660e\u793a\u3057\u305f\u4e0a\u3067\u8a18\u9332\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u4f8b\u3048\u3070\u3001\u5206\u985e\u78ba\u7387\u306e RMS \u5dee\u3068\u3001\u5206\u985e\u524d\u306e\u51fa\u529b\u5f97\u70b9\u3067\u3042\u308b logit \u306e RMS \u5dee\u306f\u3001\u7570\u306a\u308b\u91cf\u3092\u6e2c\u5b9a\u3057\u3066\u3044\u308b\u3002\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u306e\u4f5c\u6210\u6761\u4ef6\u304c\u7570\u306a\u308c\u3070\u3001\u540c\u3058\u5fd8\u5374\u51e6\u7406\u5f8c\u306e\u30e2\u30c7\u30eb\u306b\u5bfe\u3057\u3066\u3082\u51fa\u529b\u5dee\u306f\u5909\u308f\u308b\u3002\u8a55\u4fa1\u5024\u3092\u6bd4\u8f03\u3059\u308b\u969b\u306b\u306f\u3001\u6570\u5024\u306e\u5927\u5c0f\u3060\u3051\u3067\u306a\u304f\u3001\u4f55\u3092\u6e2c\u5b9a\u3057\u305f\u5024\u304b\u3092\u305d\u308d\u3048\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u5916\u90e8\u304b\u3089\u5bfe\u8c61\u60c5\u5831\u3092\u53d6\u308a\u51fa\u3059\u64cd\u4f5c\u307e\u3067\u8a55\u4fa1\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u901a\u5e38\u306e\u5165\u529b\u3068\u306f\u7570\u306a\u308b\u8cea\u554f\u5f62\u5f0f\u3084\u8ffd\u52a0\u5b66\u7fd2\u306b\u3088\u308b\u518d\u62bd\u51fa\u3082\u8abf\u3079\u308b\u3002\u8907\u6570\u306e\u8a55\u4fa1\u65b9\u6cd5\u3092\u4f75\u7528\u3057\u305f\u7814\u7a76\u3067\u306f\u3001\u5358\u4e00\u306e\u5fd8\u5374\u6307\u6a19\u3067\u9ad8\u3044\u8a55\u4fa1\u3092\u5f97\u305f\u30e2\u30c7\u30eb\u306b\u3064\u3044\u3066\u3082\u3001\u77e5\u8b58\u306e\u62bd\u51fa\u3084\u95a2\u9023\u9818\u57df\u3078\u306e\u526f\u4f5c\u7528\u304c\u78ba\u8a8d\u3055\u308c\u3066\u3044\u308b<a href=\"#ref19\">[19]<\/a>\u3002\u901a\u5e38\u306e\u56de\u7b54\u30c6\u30b9\u30c8\u3067\u89b3\u6e2c\u3055\u308c\u305f\u5fd8\u5374\u6027\u80fd\u3068\u3001\u7570\u306a\u308b\u5165\u529b\u6761\u4ef6\u3067\u306e\u9811\u5065\u6027\u3092\u5206\u3051\u308b\u3053\u3068\u3067\u3001\u8a55\u4fa1\u7d50\u679c\u306e\u9069\u7528\u7bc4\u56f2\u304c\u660e\u78ba\u306b\u306a\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u78ba\u8a8d\u5bfe\u8c61<\/th>\n<th>\u6210\u7acb\u3057\u305f\u5834\u5408\u306b\u8a00\u3048\u308b\u3053\u3068<\/th>\n<th>\u8ffd\u52a0\u3067\u5fc5\u8981\u306a\u6761\u4ef6<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u4f4e\u4e0b<\/td>\n<td>\u6307\u5b9a\u3055\u308c\u305f\u30c7\u30fc\u30bf\u3067\u6b63\u7b54\u3067\u304d\u308b\u5272\u5408\u304c\u4f4e\u4e0b\u3057\u305f\u3002<\/td>\n<td>\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u3068\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u3092\u5225\u3005\u306b\u6e2c\u5b9a\u3059\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u306e\u7e2e\u5c0f<\/td>\n<td>\u6307\u5b9a\u3055\u308c\u305f\u5165\u529b\u3067\u518d\u5b66\u7fd2\u57fa\u6e96\u306e\u51fa\u529b\u306b\u8fd1\u3065\u3044\u305f\u3002<\/td>\n<td>\u5165\u529b\u5206\u5e03\u306e\u5909\u66f4\u3084\u518d\u62bd\u51fa\u306b\u5bfe\u3059\u308b\u8a55\u4fa1\u3092\u884c\u3046\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u306e\u7e2e\u5c0f<\/td>\n<td>\u4fdd\u6301\u5bfe\u8c61\u3067\u518d\u5b66\u7fd2\u57fa\u6e96\u3068\u8fd1\u3044\u51fa\u529b\u3092\u793a\u3057\u305f\u3002<\/td>\n<td>\u4fdd\u6301\u5bfe\u8c61\u306b\u542b\u3081\u306a\u304b\u3063\u305f\u5165\u529b\u3067\u306e\u6027\u80fd\u3092\u78ba\u8a8d\u3059\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u524a\u9664\u30fb\u79d8\u533f\u306b\u95a2\u3059\u308b\u4fdd\u8a3c<\/td>\n<td>\u5b9a\u7fa9\u3055\u308c\u305f\u4fdd\u8a3c\u6761\u4ef6\u3068\u8105\u5a01\u30e2\u30c7\u30eb\u306b\u5f93\u3046\u8a55\u4fa1\u304c\u6210\u7acb\u3057\u305f\u3002<\/td>\n<td>\u5b66\u7fd2\u624b\u9806\u306e\u76e3\u67fb\u3084\u5f62\u5f0f\u7684\u306a\u4fdd\u8a3c\u304c\u5fc5\u8981\u306a\u5834\u5408\u3001\u305d\u306e\u6761\u4ef6\u3092\u5225\u9014\u691c\u8a3c\u3059\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u3053\u306e\u8868\u306e\u5404\u9805\u76ee\u306f\u3001\u5fd8\u5374\u51e6\u7406\u306b\u5bfe\u3059\u308b\u7570\u306a\u308b\u554f\u3044\u3078\u5bfe\u5fdc\u3057\u3066\u3044\u308b\u3002\u6b63\u7b54\u7387\u306e\u4f4e\u4e0b\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u3078\u306e\u4e88\u6e2c\u304c\u3069\u308c\u3060\u3051\u5909\u5316\u3057\u305f\u304b\u3092\u793a\u3059\u3002\u51fa\u529b\u5dee\u306e\u7e2e\u5c0f\u306f\u3001\u5bfe\u8c61\u30c7\u30fc\u30bf\u3092\u4f7f\u7528\u305b\u305a\u306b\u518d\u5b66\u7fd2\u3057\u305f\u5834\u5408\u306e\u632f\u308b\u821e\u3044\u3078\u3069\u308c\u3060\u3051\u8fd1\u3065\u3044\u305f\u304b\u3092\u793a\u3059\u3002\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u5f71\u97ff\u306f\u3001\u305d\u306e\u904e\u7a0b\u3067\u6b8b\u3059\u3079\u304d\u4e88\u6e2c\u306b\u3069\u308c\u3060\u3051\u5909\u5316\u304c\u751f\u3058\u305f\u304b\u3092\u793a\u3059\u3002\u524a\u9664\u30fb\u79d8\u533f\u306b\u95a2\u3059\u308b\u4fdd\u8a3c\u306f\u3001\u89b3\u6e2c\u3055\u308c\u305f\u51fa\u529b\u306e\u8fd1\u3055\u3092\u8d8a\u3048\u3066\u3001\u3069\u306e\u6761\u4ef6\u307e\u3067\u5bfe\u8c61\u60c5\u5831\u306e\u5229\u7528\u53ef\u80fd\u6027\u3092\u5236\u9650\u3067\u304d\u308b\u304b\u3092\u5b9a\u3081\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u51e6\u7406\u3092\u505c\u6b62\u3059\u308b\u6761\u4ef6\u3082\u3001\u8981\u6c42\u3055\u308c\u308b\u9054\u6210\u6c34\u6e96\u306b\u5fdc\u3058\u3066\u5909\u308f\u308b\u3002\u4f8b\u3048\u3070\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u304c\u6240\u5b9a\u306e\u5024\u307e\u3067\u4f4e\u4e0b\u3057\u305f\u6642\u70b9\u3067\u505c\u6b62\u3059\u308b\u65b9\u6cd5\u3067\u306f\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u304c\u8a31\u5bb9\u7bc4\u56f2\u306b\u53ce\u307e\u3063\u3066\u3044\u308b\u304b\u3092\u5225\u9014\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u307e\u305f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u3092\u3055\u3089\u306b\u7e2e\u5c0f\u3055\u305b\u3088\u3046\u3068\u3057\u3066\u66f4\u65b0\u3092\u7d9a\u3051\u305f\u7d50\u679c\u3001\u4fdd\u6301\u5bfe\u8c61\u306e\u51fa\u529b\u5dee\u304c\u5897\u52a0\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u3069\u3061\u3089\u306e\u6761\u4ef6\u3092\u512a\u5148\u3059\u308b\u304b\u3068\u3044\u3046\u5224\u65ad\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<p>\u7dda\u5f62\u56de\u5e30\u306e GradDiff \u3067\u306f\u3001\u5fd8\u5374\u4fc2\u6570 \\(\\rho\\) \u3068\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306e\u6700\u5927\u56fa\u6709\u5024\u304b\u3089\u3001\u76ee\u7684\u95a2\u6570\u306e\u6b63\u5b9a\u5024\u6027\u3092\u5224\u5b9a\u3067\u304d\u308b\u3002\u3057\u304b\u3057\u3001\u6b63\u5b9a\u5024\u6027\u306f\u6700\u5c0f\u89e3\u306e\u4e00\u610f\u6027\u3068\u5b89\u5b9a\u6027\u306b\u95a2\u3059\u308b\u6761\u4ef6\u3067\u3042\u308a\u3001\u305d\u306e\u89e3\u304c\u8981\u6c42\u3055\u308c\u308b\u5fd8\u5374\u6027\u80fd\u3084\u4fdd\u6301\u6027\u80fd\u3092\u6e80\u305f\u3059\u3053\u3068\u307e\u3067\u4fdd\u8a3c\u3059\u308b\u3082\u306e\u3067\u306f\u306a\u3044\u3002\u6700\u9069\u5316\u306e\u6210\u7acb\u6761\u4ef6\u3068\u3001\u51fa\u529b\u306b\u95a2\u3059\u308b\u9054\u6210\u6761\u4ef6\u3092\u5206\u3051\u3066\u8a55\u4fa1\u3059\u308b\u3053\u3068\u3067\u3001\u5fd8\u5374\u51e6\u7406\u306e\u7d50\u679c\u3092\u3088\u308a\u6b63\u78ba\u306b\u5224\u65ad\u3067\u304d\u308b\u3002<\/p>\n<h3>7.3 \u5fd8\u5374\u306e\u6210\u5426\u3092\u4fdd\u8a3c\u7bc4\u56f2\u304b\u3089\u5224\u65ad\u3059\u308b<\/h3>\n<p>\u5fd8\u5374\u3057\u305f\u80fd\u529b\u3092\u5f15\u304d\u51fa\u305d\u3046\u3068\u3059\u308b\u653b\u6483\u7684\u306a\u8a55\u4fa1\u3067\u306f\u3001\u901a\u5e38\u306e\u56de\u7b54\u30c6\u30b9\u30c8\u304b\u3089\u4e88\u60f3\u3055\u308c\u308b\u3088\u308a\u591a\u304f\u306e\u80fd\u529b\u304c\u518d\u3073\u5229\u7528\u53ef\u80fd\u306b\u306a\u308b\u5834\u5408\u304c\u5831\u544a\u3055\u308c\u3066\u3044\u308b<a href=\"#ref20\">[20]<\/a>\u3002\u3053\u306e\u7d50\u679c\u306f\u3001\u901a\u5e38\u306e\u5165\u529b\u306b\u5bfe\u3059\u308b\u56de\u7b54\u306e\u6291\u5236\u3068\u3001\u7570\u306a\u308b\u5165\u529b\u6761\u4ef6\u306b\u304a\u3051\u308b\u5bfe\u8c61\u60c5\u5831\u306e\u5229\u7528\u53ef\u80fd\u6027\u3092\u533a\u5225\u3059\u308b\u5fc5\u8981\u6027\u3092\u793a\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u51e6\u7406\u306b\u3088\u3063\u3066\u9054\u6210\u3057\u305f\u3044\u6027\u8cea\u304c\u3001\u7279\u5b9a\u306e\u56de\u7b54\u3092\u751f\u6210\u3057\u306b\u304f\u304f\u3059\u308b\u3053\u3068\u306a\u306e\u304b\u3001\u5bfe\u8c61\u30c7\u30fc\u30bf\u3092\u9664\u3044\u3066\u518d\u5b66\u7fd2\u3057\u305f\u30e2\u30c7\u30eb\u306e\u632f\u308b\u821e\u3044\u306b\u8fd1\u3065\u3051\u308b\u3053\u3068\u306a\u306e\u304b\u3001\u5185\u90e8\u306b\u6b8b\u308b\u60c5\u5831\u306e\u5229\u7528\u53ef\u80fd\u6027\u3092\u5236\u9650\u3059\u308b\u3053\u3068\u306a\u306e\u304b\u306b\u3088\u3063\u3066\u3001\u8a55\u4fa1\u65b9\u6cd5\u306f\u5909\u308f\u308b\u3002\u901a\u5e38\u306e\u56de\u7b54\u3092\u6291\u5236\u3059\u308b\u3053\u3068\u304c\u76ee\u7684\u306a\u3089\u3001\u5bfe\u8c61\u60c5\u5831\u3092\u542b\u3080\u56de\u7b54\u306e\u983b\u5ea6\u3084\u78ba\u7387\u3092\u8a55\u4fa1\u3067\u304d\u308b\u3002\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u632f\u308b\u821e\u3044\u306e\u4e00\u81f4\u3092\u76ee\u7684\u3068\u3059\u308b\u306a\u3089\u3001\u6307\u5b9a\u3057\u305f\u5165\u529b\u96c6\u5408\u306b\u5bfe\u3059\u308b\u51fa\u529b\u5dee\u3092\u6e2c\u5b9a\u3059\u308b\u3002\u60c5\u5831\u306e\u524a\u9664\u306b\u3064\u3044\u3066\u4fdd\u8a3c\u304c\u6c42\u3081\u3089\u308c\u308b\u5834\u5408\u306b\u306f\u3001\u4fdd\u8a3c\u306e\u5b9a\u7fa9\u306b\u5fdc\u3058\u305f\u5f62\u5f0f\u7684\u306a\u6761\u4ef6\u3084\u3001\u5b66\u7fd2\u30fb\u524a\u9664\u624b\u9806\u306b\u95a2\u3059\u308b\u8a3c\u62e0\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<p>\u7dda\u5f62\u56de\u5e30\u3067\u5c0e\u3044\u305f\u4e8c\u3064\u306e\u51fa\u529b\u5dee\u306f\u3001\u5fd8\u5374\u51e6\u7406\u306b\u3088\u308b\u5909\u66f4\u304c\u3069\u306e\u3088\u3046\u306b\u751f\u3058\u308b\u304b\u3092\u5177\u4f53\u7684\u306b\u8aac\u660e\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_f<br \/>\n=<br \/>\n\\frac{\\rho}{n}<br \/>\nK_{ff}<br \/>\n\\left(<br \/>\nI_m-\\frac{\\rho}{n}K_{ff}<br \/>\n\\right)^{-1}<br \/>\ne_f^-<br \/>\n\\]<\/p>\n<p>\\[<br \/>\n\\Delta_r<br \/>\n=<br \/>\n\\frac{\\rho}{n}<br \/>\nK_{rf}<br \/>\n\\left(<br \/>\nI_m-\\frac{\\rho}{n}K_{ff}<br \/>\n\\right)^{-1}<br \/>\ne_f^-<br \/>\n\\]<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u5185\u90e8\u306e\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8 \\(K_{ff}\\) \u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u304c\u3069\u306e\u65b9\u5411\u3067\u5897\u5e45\u3055\u308c\u308b\u304b\u3092\u6c7a\u3081\u308b\u3002\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u4ea4\u5dee\u30ec\u30d0\u30ec\u30c3\u30b8 \\(K_{rf}\\) \u306f\u3001\u305d\u306e\u5909\u66f4\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u4e88\u6e2c\u3078\u3069\u306e\u3088\u3046\u306b\u4f1d\u308f\u308b\u304b\u3092\u6c7a\u3081\u308b\u3002\u540c\u3058\u5fd8\u5374\u640d\u5931\u3084\u6b63\u7b54\u7387\u3067\u3042\u3063\u3066\u3082\u3001\u6b8b\u5dee\u306e\u65b9\u5411\u3068\u4e8c\u3064\u306e\u30ec\u30d0\u30ec\u30c3\u30b8\u884c\u5217\u306e\u4f5c\u7528\u304c\u7570\u306a\u308c\u3070\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u306f\u7570\u306a\u308b\u3002<\/p>\n<p>\u3055\u3089\u306b\u3001GradDiff \u306e\u76ee\u7684\u95a2\u6570\u304c\u6b63\u5b9a\u5024\u3068\u306a\u308b\u6761\u4ef6\u306f\u3001\u6b21\u306e\u4e0d\u7b49\u5f0f\u306b\u3088\u3063\u3066\u8868\u3055\u308c\u305f\u3002<\/p>\n<p>\\[<br \/>\n\\frac{\\rho}{n}\\lambda_{\\max}(K_{ff})<1\n\\]\n\n\n\n<p>\u3053\u306e\u6761\u4ef6\u306f\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u7279\u5fb4\u304c\u4fdd\u6301\u5bfe\u8c61\u306e\u66f2\u7387\u306b\u5bfe\u3057\u3066\u3069\u306e\u7a0b\u5ea6\u306e\u4f5c\u7528\u3092\u6301\u3064\u304b\u306b\u3088\u3063\u3066\u3001\u8a31\u5bb9\u3055\u308c\u308b\u5fd8\u5374\u4fc2\u6570\u306e\u7bc4\u56f2\u304c\u6c7a\u307e\u308b\u3053\u3068\u3092\u793a\u3057\u3066\u3044\u308b\u3002\u5fd8\u5374\u4fc2\u6570\u3092\u5897\u52a0\u3055\u305b\u308b\u3068\u3001\u7279\u5b9a\u306e\u56fa\u6709\u65b9\u5411\u3067\u6b8b\u5dee\u306e\u5897\u5e45\u304c\u5927\u304d\u304f\u306a\u308a\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u304c\u62e1\u5927\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u5fd8\u5374\u5bfe\u8c61\u306e\u640d\u5931\u3092\u5897\u3084\u3059\u66f4\u65b0\u304c\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3078\u306e\u63a5\u8fd1\u3068\u4e00\u81f4\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u7406\u7531\u306f\u3001\u3053\u306e\u66f2\u7387\u3068\u30c7\u30fc\u30bf\u9593\u306e\u76f8\u4e92\u4f5c\u7528\u304b\u3089\u5c0e\u304b\u308c\u308b\u3002<\/p>\n<p>\u975e\u7dda\u5f62\u30e2\u30c7\u30eb\u3067\u306f\u3001\u518d\u5b66\u7fd2\u89e3\u306e\u8fd1\u508d\u3067\u30e4\u30b3\u30d3\u884c\u5217\u3068\u5c40\u6240\u66f2\u7387\u3092\u4f7f\u3044\u3001\u5bfe\u5fdc\u3059\u308b\u51fa\u529b\u5dee\u3092\u8fd1\u4f3c\u7684\u306b\u8868\u305b\u308b\u3002\u3057\u304b\u3057\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u30fc\u306e\u5909\u4f4d\u304c\u5927\u304d\u304f\u306a\u308b\u3068\u51fa\u529b\u306e\u9ad8\u6b21\u306e\u5909\u5316\u304c\u5f71\u97ff\u3057\u3001\u66f2\u7387\u8fd1\u4f3c\u3084\u6700\u9069\u5316\u7d4c\u8def\u306b\u3088\u308b\u8aa4\u5dee\u3082\u52a0\u308f\u308b\u3002\u7dda\u5f62\u56de\u5e30\u3067\u306e\u53b3\u5bc6\u306a\u95a2\u4fc2\u3092\u3001\u305d\u306e\u307e\u307e\u4efb\u610f\u306e\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u306b\u5bfe\u3059\u308b\u4fdd\u8a3c\u3068\u3057\u3066\u9069\u7528\u3059\u308b\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002\u5b9f\u969b\u306e\u30e2\u30c7\u30eb\u3067\u306f\u3001\u5c40\u6240\u8fd1\u4f3c\u306b\u3088\u308b\u4e88\u6e2c\u3068\u89b3\u6e2c\u3055\u308c\u305f\u51fa\u529b\u5dee\u3092\u7167\u5408\u3057\u3001\u3069\u306e\u7bc4\u56f2\u3067\u8fd1\u4f3c\u304c\u6210\u7acb\u3057\u3066\u3044\u308b\u304b\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>MNIST \u306e\u5b9f\u9a13\u3067\u306f\u3001\u8907\u6570\u306e\u5fd8\u5374\u624b\u6cd5\u304c\u540c\u3058 0% \u306e\u5fd8\u5374\u5bfe\u8c61\u6b63\u7b54\u7387\u3092\u793a\u3057\u305f\u306b\u3082\u304b\u304b\u308f\u3089\u305a\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b RMS \u5dee\u306b\u306f\u5927\u304d\u306a\u9055\u3044\u304c\u89b3\u6e2c\u3055\u308c\u305f\u3002\u3053\u306e\u7d50\u679c\u306f\u3001\u6b63\u7b54\u7387\u304c\u540c\u3058\u3067\u3082\u3001\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3078\u306e\u51fa\u529b\u306e\u8fd1\u3055\u306f\u7570\u306a\u308a\u5f97\u308b\u3053\u3068\u3092\u5177\u4f53\u7684\u306b\u793a\u3057\u3066\u3044\u308b\u3002\u7dda\u5f62\u56de\u5e30\u306e\u5f0f\u306f\u3001\u305d\u306e\u9055\u3044\u3092\u751f\u3080\u8981\u56e0\u3068\u3057\u3066\u3001\u5fd8\u5374\u5bfe\u8c61\u306e\u6b8b\u5dee\u3001\u81ea\u5df1\u30ec\u30d0\u30ec\u30c3\u30b8\u306b\u3088\u308b\u5897\u5e45\u3001\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u4ea4\u5dee\u4f5c\u7528\u3092\u660e\u78ba\u306b\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\u5fd8\u5374\u5bfe\u8c61\u306e\u6b63\u7b54\u7387\u306f\u3001\u6307\u5b9a\u3055\u308c\u305f\u5165\u529b\u3067\u6b63\u3057\u3044\u56de\u7b54\u3092\u8fd4\u3059\u5272\u5408\u3092\u6e2c\u308b\u3002\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u306f\u3001\u5bfe\u8c61\u30c7\u30fc\u30bf\u3092\u4f7f\u7528\u3057\u306a\u304b\u3063\u305f\u5834\u5408\u306e\u632f\u308b\u821e\u3044\u3078\u306e\u63a5\u8fd1\u3092\u6e2c\u308b\u3002\u4fdd\u6301\u5bfe\u8c61\u3078\u306e\u51fa\u529b\u5dee\u306f\u3001\u5fd8\u5374\u51e6\u7406\u306b\u3088\u3063\u3066\u6b8b\u3059\u3079\u304d\u4e88\u6e2c\u306b\u751f\u3058\u305f\u5909\u66f4\u3092\u6e2c\u308b\u3002\u60c5\u5831\u524a\u9664\u306e\u4fdd\u8a3c\u306f\u3001\u3053\u308c\u3089\u306e\u6e2c\u5b9a\u5024\u306b\u52a0\u3048\u3066\u3001\u5bfe\u8c61\u60c5\u5831\u306e\u5229\u7528\u53ef\u80fd\u6027\u3084\u524a\u9664\u624b\u9806\u306b\u3064\u3044\u3066\u8981\u6c42\u3055\u308c\u305f\u6761\u4ef6\u304c\u6210\u7acb\u3059\u308b\u304b\u3092\u5224\u65ad\u3059\u308b\u3002<\/p>\n<p>AI \u306e\u5fd8\u5374\u306f\u3001\u5bfe\u8c61\u60c5\u5831\u3078\u306e\u56de\u7b54\u6027\u80fd\u3092\u5909\u5316\u3055\u305b\u308b\u3060\u3051\u3067\u5b8c\u4e86\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u5fd8\u5374\u5bfe\u8c61\u3092\u9664\u3044\u305f\u518d\u5b66\u7fd2\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u5dee\u3068\u3001\u4fdd\u6301\u3059\u3079\u304d\u30c7\u30fc\u30bf\u3078\u306e\u6ce2\u53ca\u3092\u5206\u3051\u3066\u6e2c\u308b\u3053\u3068\u3067\u3001\u5fd8\u5374\u51e6\u7406\u304c\u3069\u306e\u72b6\u614b\u3078\u5230\u9054\u3057\u305f\u304b\u3092\u8a55\u4fa1\u3067\u304d\u308b\u3002\u60c5\u5831\u306e\u518d\u62bd\u51fa\u3084\u524a\u9664\u5c65\u6b74\u307e\u3067\u4fdd\u8a3c\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u5834\u5408\u306b\u306f\u3001\u305d\u306e\u8981\u6c42\u306b\u5bfe\u5fdc\u3057\u305f\u691c\u8a3c\u6761\u4ef6\u304c\u52a0\u308f\u308b\u3002\u5fd8\u5374\u306e\u6210\u5426\u306f\u3001\u4f55\u3092\u9664\u53bb\u3057\u3001\u4f55\u3092\u4fdd\u6301\u3057\u3001\u3069\u306e\u5165\u529b\u3068\u4fdd\u8a3c\u6761\u4ef6\u3067\u78ba\u8a8d\u3057\u305f\u304b\u306b\u3088\u3063\u3066\u5b9a\u307e\u308b\u3002<\/p>\n<hr>\n<h2>\u53c2\u8003\u6587\u732e<\/h2>\n<ol>\n<li id=\"ref1\">id774, \u8a55\u4fa1\u5024\u306f\u6e2c\u308a\u65b9\u306b\u3088\u3063\u3066\u9806\u4f4d\u307e\u3067\u5909\u308f\u308a\u5f97\u308b\uff082026-10-23\uff09. <a href=\"https:\/\/blog.id774.net\/entry\/2026\/10\/23\/5748\/\">https:\/\/blog.id774.net\/entry\/2026\/10\/23\/5748\/<\/a><\/li>\n<li id=\"ref2\">id774, AI \u306f\u6b63\u3057\u3055\u3067\u306f\u306a\u304f\u3001\u8a55\u4fa1\u306e\u901a\u308a\u65b9\u3092\u5b66\u3076\u3053\u3068\u304c\u3042\u308b\uff082026-09-05\uff09. <a href=\"https:\/\/blog.id774.net\/entry\/2026\/09\/05\/5490\/\">https:\/\/blog.id774.net\/entry\/2026\/09\/05\/5490\/<\/a><\/li>\n<li id=\"ref3\">Cao, Y., Yang, J., Towards Making Systems Forget with Machine Unlearning (2015). <a href=\"https:\/\/doi.org\/10.1109\/SP.2015.35\">https:\/\/doi.org\/10.1109\/SP.2015.35<\/a><\/li>\n<li id=\"ref4\">Guo, C. et al., Certified Data Removal from Machine Learning Models (2019-11-08). <a href=\"https:\/\/arxiv.org\/abs\/1911.03030\">https:\/\/arxiv.org\/abs\/1911.03030<\/a><\/li>\n<li id=\"ref5\">Thudi, A. et al., On the Necessity of Auditable Algorithmic Definitions for Machine Unlearning (2022-08). <a href=\"https:\/\/www.usenix.org\/conference\/usenixsecurity22\/presentation\/thudi\">https:\/\/www.usenix.org\/conference\/usenixsecurity22\/presentation\/thudi<\/a><\/li>\n<li id=\"ref6\">Golatkar, A. et al., Eternal Sunshine of the Spotless Net: Selective Forgetting in Deep Networks (2019-11-12). <a href=\"https:\/\/arxiv.org\/abs\/1911.04933\">https:\/\/arxiv.org\/abs\/1911.04933<\/a><\/li>\n<li id=\"ref7\">Yu, J. et al., On the Impossibility of Retrain Equivalence in Machine Unlearning (2025-10-18). <a href=\"https:\/\/arxiv.org\/abs\/2510.16629\">https:\/\/arxiv.org\/abs\/2510.16629<\/a><\/li>\n<li id=\"ref8\">Zhao, X., Amiri, M. M., Magdon-Ismail, M., Loss is Not Behavior: A Unified Output-Space Analysis of Gradient-Based Machine Unlearning (2026-10-28). <a href=\"https:\/\/arxiv.org\/abs\/2610.38784v1\">https:\/\/arxiv.org\/abs\/2610.38784v1<\/a><\/li>\n<li id=\"ref9\">Mavrothalassitis, I. et al., Ascent Fails to Forget (2025-09-30). <a href=\"https:\/\/arxiv.org\/abs\/2509.26427\">https:\/\/arxiv.org\/abs\/2509.26427<\/a><\/li>\n<li id=\"ref10\">Koh, P. W., Liang, P., Understanding Black-box Predictions via Influence Functions (2017). <a href=\"https:\/\/proceedings.mlr.press\/v70\/koh17a.html\">https:\/\/proceedings.mlr.press\/v70\/koh17a.html<\/a><\/li>\n<li id=\"ref11\">Zhang, R. et al., Negative Preference Optimization: From Catastrophic Collapse to Effective Unlearning (2024-04-08). <a href=\"https:\/\/arxiv.org\/abs\/2404.05868\">https:\/\/arxiv.org\/abs\/2404.05868<\/a><\/li>\n<li id=\"ref12\">Fan, C. et al., Simplicity Prevails: Rethinking Negative Preference Optimization for LLM Unlearning (2024-10-09). <a href=\"https:\/\/arxiv.org\/abs\/2410.07163\">https:\/\/arxiv.org\/abs\/2410.07163<\/a><\/li>\n<li id=\"ref13\">Chang, W.-K., Khanna, R., Why Some Models Resist Unlearning: A Linear Stability Perspective (2026-02-03). <a href=\"https:\/\/arxiv.org\/abs\/2602.02986\">https:\/\/arxiv.org\/abs\/2602.02986<\/a><\/li>\n<li id=\"ref14\">Cheng, J. et al., Machine Unlearning under Retain-Forget Entanglement (2026-03-27). <a href=\"https:\/\/arxiv.org\/abs\/2603.26569\">https:\/\/arxiv.org\/abs\/2603.26569<\/a><\/li>\n<li id=\"ref15\">Zhao, X. et al., WIN-U: Woodbury-Informed Newton-Unlearning as a retain-free Machine Unlearning Framework (2026-04-15). <a href=\"https:\/\/arxiv.org\/abs\/2604.13438\">https:\/\/arxiv.org\/abs\/2604.13438<\/a><\/li>\n<li id=\"ref16\">Maini, P. et al., TOFU: A Task of Fictitious Unlearning for LLMs (2024-01-11). <a href=\"https:\/\/arxiv.org\/abs\/2401.06121\">https:\/\/arxiv.org\/abs\/2401.06121<\/a><\/li>\n<li id=\"ref17\">Dorna, V. et al., OpenUnlearning: Accelerating LLM Unlearning via Unified Benchmarking of Methods and Metrics (2025-06-14). <a href=\"https:\/\/arxiv.org\/abs\/2506.12618\">https:\/\/arxiv.org\/abs\/2506.12618<\/a><\/li>\n<li id=\"ref18\">Deeb, A., Roger, F., Do Unlearning Methods Remove Information from Language Model Weights? (2024-10-11). <a href=\"https:\/\/arxiv.org\/abs\/2410.08827\">https:\/\/arxiv.org\/abs\/2410.08827<\/a><\/li>\n<li id=\"ref19\">Lynch, A. et al., Eight Methods to Evaluate Robust Unlearning in LLMs (2024-02-26). <a href=\"https:\/\/arxiv.org\/abs\/2402.16835\">https:\/\/arxiv.org\/abs\/2402.16835<\/a><\/li>\n<li id=\"ref20\">\u0141ucki, J. et al., An Adversarial Perspective on Machine Unlearning for AI Safety (2024-09-26). <a href=\"https:\/\/arxiv.org\/abs\/2409.18025\">https:\/\/arxiv.org\/abs\/2409.18025<\/a><\/li>\n<\/ol>\n","protected":false},"excerpt":{"rendered":"<p>\u5b66\u7fd2\u6e08\u307f\u306e AI \u306b\u3001\u3042\u308b\u30c7\u30fc\u30bf\u3092\u5fd8\u308c\u3055\u305b\u305f\u3068\u3059\u308b\u3002\u305d\u306e\u30c7\u30fc\u30bf\u306b\u3064\u3044\u3066\u6b63\u3057\u3044\u56de\u7b54\u3092\u8fd4\u305b\u306a\u304f\u306a\u308c\u3070\u3001\u5fd8\u5374\u306b\u6210\u529f\u3057\u305f\u3068\u8a00\u3048\u308b\u3060\u308d\u3046\u304b\u3002\u5206\u985e\u5668\u306a\u3089\u6b63\u7b54\u7387\u304c\u4f4e\u4e0b\u3057\u3001\u6587\u7ae0\u751f\u6210\u30e2\u30c7\u30eb\u306a\u3089\u5bfe\u8c61\u306e\u60c5\u5831\u3092\u542b\u3080\u56de\u7b54\u304c\u6e1b\u308b\u3002\u3053\u306e\u5909\u5316\u306f\u89b3\u6e2c\u3067\u304d &#8230; <a title=\"\u5fd8\u5374\u306f\u3001\u518d\u5b66\u7fd2\u3068\u306e\u5dee\u3068\u4fdd\u6301\u30c7\u30fc\u30bf\u3078\u306e\u5f71\u97ff\u3067\u6e2c\u308b\" class=\"read-more\" href=\"https:\/\/blog.id774.net\/entry\/2026\/11\/05\/5838\/\" aria-label=\"\u5fd8\u5374\u306f\u3001\u518d\u5b66\u7fd2\u3068\u306e\u5dee\u3068\u4fdd\u6301\u30c7\u30fc\u30bf\u3078\u306e\u5f71\u97ff\u3067\u6e2c\u308b \u306b\u3064\u3044\u3066\u3055\u3089\u306b\u8aad\u3080\">\u7d9a\u304d\u3092\u8aad\u3080<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[26,24],"tags":[],"class_list":["post-5838","post","type-post","status-publish","format-standard","hentry","category-math","category-science"],"_links":{"self":[{"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/posts\/5838","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/comments?post=5838"}],"version-history":[{"count":2,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/posts\/5838\/revisions"}],"predecessor-version":[{"id":5846,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/posts\/5838\/revisions\/5846"}],"wp:attachment":[{"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/media?parent=5838"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/categories?post=5838"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/tags?post=5838"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}