{"id":5828,"date":"2026-11-02T00:03:19","date_gmt":"2026-11-01T15:03:19","guid":{"rendered":"https:\/\/blog.id774.net\/entry\/?p=5828"},"modified":"2026-11-01T14:03:21","modified_gmt":"2026-11-01T05:03:21","slug":"engram-%e3%81%ae%e3%83%90%e3%82%a4%e3%83%88%e4%b8%80%e8%87%b4%e3%81%a0%e3%81%91%e3%81%a7%e3%81%af%e5%9b%9e%e7%ad%94%e5%93%81%e8%b3%aa%e3%82%92%e8%a8%bc%e6%98%8e%e3%81%a7%e3%81%8d%e3%81%aa%e3%81%84","status":"publish","type":"post","link":"https:\/\/blog.id774.net\/entry\/2026\/11\/02\/5828\/","title":{"rendered":"Engram \u306e\u30d0\u30a4\u30c8\u4e00\u81f4\u3060\u3051\u3067\u306f\u56de\u7b54\u54c1\u8cea\u3092\u8a3c\u660e\u3067\u304d\u306a\u3044"},"content":{"rendered":"<p>AI \u306e\u30e2\u30c7\u30eb\u3092\u5c0f\u3055\u304f\u3059\u308b\u969b\u306b\u306f\u3001\u3059\u3079\u3066\u306e\u91cd\u307f\u3092\u540c\u3058\u7cbe\u5ea6\u3067\u4fdd\u5b58\u3059\u308b\u5fc5\u8981\u306f\u306a\u3044\u3002\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u306b\u306f\u3001\u5165\u529b\u3055\u308c\u305f\u60c5\u5831\u3092\u5909\u63db\u3059\u308b\u8a08\u7b97\u7528\u306e\u91cd\u307f\u3068\u3001\u5165\u529b\u306b\u5fdc\u3058\u3066\u5fc5\u8981\u306a\u5024\u3092\u53d6\u308a\u51fa\u3059\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304c\u542b\u307e\u308c\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u524d\u8005\u3092\u4f4e\u30d3\u30c3\u30c8\u5316\u3057\u3066\u4fdd\u5b58\u5bb9\u91cf\u3092\u524a\u6e1b\u3057\u3001\u5f8c\u8005\u3092\u5143\u306e\u6570\u5024\u7cbe\u5ea6\u3067\u4fdd\u6301\u3059\u308c\u3070\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u5bb9\u91cf\u3092\u6291\u3048\u306a\u304c\u3089\u3001\u4e00\u90e8\u306e\u60c5\u5831\u306b\u3064\u3044\u3066\u306f\u91cf\u5b50\u5316\u306b\u3088\u308b\u6570\u5024\u306e\u5909\u5316\u3092\u907f\u3051\u3089\u308c\u308b\u3002\u305f\u3060\u3057\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u6b63\u78ba\u306b\u4fdd\u5b58\u3067\u304d\u305f\u3053\u3068\u3068\u3001\u305d\u306e\u60c5\u5831\u3092\u5229\u7528\u3057\u305f\u30e2\u30c7\u30eb\u304c\u5143\u3068\u540c\u3058\u56de\u7b54\u3092\u751f\u6210\u3059\u308b\u3053\u3068\u306f\u3001\u7570\u306a\u308b\u6761\u4ef6\u306b\u3088\u3063\u3066\u6210\u7acb\u3059\u308b\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001\u8f9e\u66f8\u306e\u5185\u5bb9\u3092\u4e00\u5b57\u4e00\u53e5\u5909\u3048\u305a\u306b\u4fdd\u5b58\u3057\u3066\u3082\u3001\u8f9e\u66f8\u3092\u53c2\u7167\u3059\u308b\u30d7\u30ed\u30b0\u30e9\u30e0\u304c\u8a9e\u306e\u9078\u629e\u65b9\u6cd5\u3092\u5909\u66f4\u3059\u308c\u3070\u3001\u540c\u3058\u8cea\u554f\u306b\u5bfe\u3057\u3066\u7570\u306a\u308b\u7b54\u3048\u304c\u8fd4\u3055\u308c\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u8f9e\u66f8\u306e\u5185\u5bb9\u304c\u6b63\u3057\u3044\u3053\u3068\u306f\u3001\u8a9e\u306e\u691c\u7d22\u7d50\u679c\u304c\u5143\u3068\u4e00\u81f4\u3059\u308b\u305f\u3081\u306e\u6761\u4ef6\u306e\u4e00\u3064\u306b\u306a\u308b\u3002\u3057\u304b\u3057\u3001\u691c\u7d22\u3057\u305f\u8a9e\u3092\u3069\u306e\u3088\u3046\u306a\u6587\u8108\u3067\u63a1\u7528\u3057\u3001\u8907\u6570\u306e\u5019\u88dc\u304b\u3089\u4f55\u3092\u9078\u3073\u3001\u6700\u7d42\u7684\u306b\u3069\u306e\u3088\u3046\u306a\u6587\u7ae0\u3092\u69cb\u6210\u3059\u308b\u304b\u306f\u3001\u8f9e\u66f8\u3092\u5229\u7528\u3059\u308b\u5074\u306e\u51e6\u7406\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002\u4fdd\u5b58\u3055\u308c\u305f\u60c5\u5831\u3068\u3001\u305d\u306e\u60c5\u5831\u304b\u3089\u751f\u6210\u3055\u308c\u308b\u7d50\u679c\u306e\u9593\u306b\u306f\u3001\u53c2\u7167\u3001\u5909\u63db\u3001\u9078\u629e\u3068\u3044\u3046\u8907\u6570\u306e\u51e6\u7406\u304c\u5b58\u5728\u3059\u308b\u3002<\/p>\n<p>\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u3067\u306f\u3001\u3053\u306e\u95a2\u4fc2\u304c\u6570\u5024\u8a08\u7b97\u3068\u3057\u3066\u73fe\u308c\u308b\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304b\u3089\u53d6\u5f97\u3057\u305f\u5024\u304c\u5143\u30e2\u30c7\u30eb\u3068\u5b8c\u5168\u306b\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\u305d\u306e\u5024\u3092\u53d7\u3051\u53d6\u308b\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u306e\u91cd\u307f\u304c\u91cf\u5b50\u5316\u3055\u308c\u3066\u3044\u308c\u3070\u3001\u9014\u4e2d\u306e\u8a08\u7b97\u7d50\u679c\u306f\u5909\u5316\u3057\u5f97\u308b\u3002\u305d\u306e\u5909\u5316\u304c\u5f8c\u7d9a\u306e\u5c64\u3078\u4f1d\u308f\u308b\u3068\u3001\u6b21\u306b\u751f\u6210\u3059\u308b\u5358\u8a9e\u3084\u6587\u5b57\u306e\u5019\u88dc\u306b\u5272\u308a\u5f53\u3066\u3089\u308c\u308b\u78ba\u7387\u3082\u5909\u308f\u308b\u3002\u6700\u3082\u78ba\u7387\u304c\u9ad8\u3044\u5019\u88dc\u304c\u5165\u308c\u66ff\u308f\u308c\u3070\u3001\u51fa\u529b\u3055\u308c\u308b\u6587\u7ae0\u305d\u306e\u3082\u306e\u304c\u5909\u5316\u3059\u308b\u3002\u4e00\u65b9\u3001\u9014\u4e2d\u306e\u6570\u5024\u304c\u5909\u5316\u3057\u3066\u3082\u3001\u6700\u7d42\u7684\u306a\u5019\u88dc\u306e\u9806\u4f4d\u3084\u56de\u7b54\u54c1\u8cea\u304c\u7dad\u6301\u3055\u308c\u308b\u5834\u5408\u3082\u3042\u308b\u3002\u6570\u5024\u306e\u4e00\u81f4\u3001\u51fa\u529b\u306e\u4e00\u81f4\u3001\u56de\u7b54\u54c1\u8cea\u306e\u7dad\u6301\u306f\u3001\u305d\u308c\u305e\u308c\u5225\u306e\u8a55\u4fa1\u5bfe\u8c61\u3067\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u69cb\u9020\u3092\u5177\u4f53\u7684\u306b\u793a\u3059\u306e\u304c\u3001DeepSeek-V4.1-Flash-1017 \u306e\u6d3e\u751f\u30e2\u30c7\u30eb\u3067\u3042\u308b\u3002\u3053\u306e\u30e2\u30c7\u30eb\u3067\u306f\u3001\u4e3b\u306a\u8a08\u7b97\u3092\u62c5\u3046 Backbone \u306b\u4f4e\u30d3\u30c3\u30c8\u91cf\u5b50\u5316\u3092\u9069\u7528\u3057\u3001\u5165\u529b\u306b\u5fdc\u3058\u3066\u8a18\u61b6\u30c6\u30fc\u30d6\u30eb\u3092\u53c2\u7167\u3059\u308b Engram \u306b\u306f\u5143\u306e MXFP8 \u7cbe\u5ea6\u306e\u5024\u3092\u7d44\u307f\u5408\u308f\u305b\u3066\u3044\u308b\u3002\u516c\u958b\u3055\u308c\u305f\u6d3e\u751f\u7248\u306b\u306f\u3001Backbone \u306e\u62d2\u5426\u95a2\u9023\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f\u3082\u306e\u3082\u542b\u307e\u308c\u308b\u3002\u3064\u307e\u308a\u3001\u5143\u30e2\u30c7\u30eb\u304b\u3089\u5909\u66f4\u3055\u308c\u305f\u90e8\u5206\u3068\u5143\u306e\u5024\u3092\u7dad\u6301\u3057\u305f\u90e8\u5206\u304c\u6df7\u5728\u3057\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u51fa\u529b\u306b\u306f\u8907\u6570\u306e\u5909\u66f4\u304c\u95a2\u4fc2\u3059\u308b\u69cb\u6210\u306b\u306a\u3063\u3066\u3044\u308b\u3002<\/p>\n<p>\u516c\u958b\u8005\u306f\u3001Engram \u306e\u5024\u3092\u5143\u30e2\u30c7\u30eb\u304b\u3089\u30d0\u30a4\u30c8\u5358\u4f4d\u3067\u5f15\u304d\u7d99\u3044\u3060\u3053\u3068\u3092\u691c\u8a3c\u3057\u3001\u5909\u63db\u51e6\u7406\u306e\u6b63\u5e38\u7d42\u4e86\u3068\u7c21\u5358\u306a\u63a8\u8ad6\u306e\u52d5\u4f5c\u78ba\u8a8d\u3092\u8a18\u9332\u3057\u3066\u3044\u308b\u3002\u30d0\u30a4\u30c8\u4e00\u81f4\u306f\u3001\u6bd4\u8f03\u5bfe\u8c61\u3068\u306a\u3063\u305f\u4fdd\u5b58\u5024\u304c\u5143\u306e\u5024\u3068\u4e00\u81f4\u3059\u308b\u3053\u3068\u3092\u793a\u3059\u3002\u63a8\u8ad6\u306e\u52d5\u4f5c\u78ba\u8a8d\u306f\u3001\u6307\u5b9a\u3055\u308c\u305f\u5b9f\u884c\u74b0\u5883\u3068\u5165\u529b\u6761\u4ef6\u3067\u751f\u6210\u51e6\u7406\u304c\u6210\u7acb\u3057\u305f\u3053\u3068\u3092\u793a\u3059\u3002\u3053\u308c\u3089\u306e\u7d50\u679c\u306b\u306f\u305d\u308c\u305e\u308c\u660e\u78ba\u306a\u610f\u5473\u304c\u3042\u308b\u304c\u3001\u6570\u5b66\u7684\u63a8\u8ad6\u3001\u77e5\u8b58\u554f\u984c\u3001\u9577\u6587\u8aad\u89e3\u3001\u591a\u8a00\u8a9e\u5fdc\u7b54\u306a\u3069\u3067\u5143\u30e2\u30c7\u30eb\u3068\u540c\u3058\u54c1\u8cea\u304c\u7dad\u6301\u3055\u308c\u305f\u304b\u3069\u3046\u304b\u306f\u3001\u5bfe\u8c61\u3068\u306a\u308b\u80fd\u529b\u3092\u6e2c\u5b9a\u3059\u308b\u8ffd\u52a0\u306e\u6bd4\u8f03\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<p>\u30e2\u30c7\u30eb\u306e\u4e00\u90e8\u3092\u5143\u306e\u7cbe\u5ea6\u3067\u4fdd\u5b58\u3067\u304d\u305f\u3053\u3068\u306f\u3001\u56de\u7b54\u54c1\u8cea\u304c\u7dad\u6301\u3055\u308c\u305f\u3053\u3068\u3092\u610f\u5473\u3057\u306a\u3044\u3002\u4fdd\u5b58\u5185\u5bb9\u306e\u4e00\u81f4\u3001\u63a8\u8ad6\u51e6\u7406\u306e\u6210\u7acb\u3001\u56de\u7b54\u54c1\u8cea\u306e\u7dad\u6301\u3092\u5206\u3051\u3001\u305d\u308c\u305e\u308c\u306e\u691c\u8a3c\u7d50\u679c\u304c\u3069\u306e\u6027\u8cea\u3092\u76f4\u63a5\u793a\u3057\u3066\u3044\u308b\u304b\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u7279\u306b\u3001\u4f4e\u30d3\u30c3\u30c8\u5316\u3055\u308c\u305f Backbone \u3068\u9ad8\u7cbe\u5ea6\u306e Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u69cb\u6210\u3067\u306f\u3001\u4fdd\u5b58\u3057\u305f\u5024\u306e\u6b63\u78ba\u6027\u3068\u3001\u305d\u306e\u5024\u3092\u5229\u7528\u3059\u308b\u8a08\u7b97\u306e\u6b63\u78ba\u6027\u3092\u533a\u5225\u3059\u308b\u3053\u3068\u304c\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u6027\u80fd\u3092\u5224\u65ad\u3059\u308b\u6761\u4ef6\u306b\u306a\u308b\u3002<\/p>\n<hr>\n<h2>1. \u60c5\u5831\u3092\u6b63\u78ba\u306b\u4fdd\u5b58\u3057\u3066\u3082\u7d50\u679c\u304c\u4e00\u81f4\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044<\/h2>\n<p>\u4e8c\u3064\u306e\u30d7\u30ed\u30b0\u30e9\u30e0\u304c\u540c\u3058\u6570\u5024\u30c7\u30fc\u30bf\u3092\u8aad\u307f\u8fbc\u3080\u5834\u5408\u3092\u8003\u3048\u308b\u3002\u5143\u306e\u30c7\u30fc\u30bf\u3068\u8aad\u307f\u8fbc\u3093\u3060\u30c7\u30fc\u30bf\u306e\u30d0\u30a4\u30c8\u5217\u304c\u5b8c\u5168\u306b\u4e00\u81f4\u3059\u308c\u3070\u3001\u6bd4\u8f03\u5bfe\u8c61\u3068\u306a\u3063\u305f\u7bc4\u56f2\u306b\u3064\u3044\u3066\u306f\u3001\u4fdd\u5b58\u5024\u304c\u5909\u66f4\u3055\u308c\u3066\u3044\u306a\u3044\u3053\u3068\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u540c\u3058\u6d6e\u52d5\u5c0f\u6570\u70b9\u6570\u3092\u8aad\u307f\u8fbc\u307f\u3001\u4e00\u65b9\u306e\u30d7\u30ed\u30b0\u30e9\u30e0\u306f\u5143\u306e\u7cbe\u5ea6\u3067\u8a08\u7b97\u3057\u3001\u3082\u3046\u4e00\u65b9\u306f\u9014\u4e2d\u306e\u6f14\u7b97\u3092\u4f4e\u7cbe\u5ea6\u3067\u51e6\u7406\u3059\u308b\u5834\u5408\u3001\u5165\u529b\u30c7\u30fc\u30bf\u304c\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u6700\u7d42\u7d50\u679c\u306b\u306f\u5dee\u304c\u751f\u3058\u5f97\u308b\u3002\u6700\u521d\u306e\u30c7\u30fc\u30bf\u304c\u540c\u4e00\u3067\u3042\u308b\u3053\u3068\u306f\u3001\u5f8c\u7d9a\u306e\u6f14\u7b97\u304c\u540c\u4e00\u3067\u3042\u308b\u3053\u3068\u307e\u3067\u4fdd\u8a3c\u3059\u308b\u6761\u4ef6\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>\u3053\u306e\u5dee\u304c\u751f\u3058\u308b\u76f4\u63a5\u7684\u306a\u539f\u56e0\u306f\u3001\u6570\u5024\u6f14\u7b97\u306e\u9014\u4e2d\u3067\u6271\u3048\u308b\u5024\u306e\u7bc4\u56f2\u3084\u7cbe\u5ea6\u304c\u5909\u5316\u3059\u308b\u3053\u3068\u3067\u3042\u308b\u3002\u6d6e\u52d5\u5c0f\u6570\u70b9\u6f14\u7b97\u3067\u306f\u3001\u8a08\u7b97\u7d50\u679c\u3092\u6709\u9650\u500b\u306e\u8868\u73fe\u53ef\u80fd\u306a\u6570\u5024\u3078\u4e38\u3081\u308b\u305f\u3081\u3001\u540c\u3058\u5165\u529b\u304b\u3089\u51fa\u767a\u3057\u3066\u3082\u3001\u6f14\u7b97\u7cbe\u5ea6\u3084\u8a08\u7b97\u9806\u5e8f\u304c\u7570\u306a\u308c\u3070\u4e2d\u9593\u7d50\u679c\u304c\u5909\u5316\u3059\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u3055\u3089\u306b\u3001\u305d\u306e\u4e2d\u9593\u7d50\u679c\u3092\u5f8c\u7d9a\u306e\u8a08\u7b97\u3078\u6e21\u3059\u3068\u3001\u6570\u5024\u306e\u5dee\u304c\u7d2f\u7a4d\u3057\u305f\u308a\u3001\u6761\u4ef6\u5206\u5c90\u3084\u5019\u88dc\u9078\u629e\u306e\u7d50\u679c\u3092\u5909\u3048\u305f\u308a\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u6700\u7d42\u7684\u306a\u51fa\u529b\u306e\u9055\u3044\u306f\u3001\u4fdd\u5b58\u30c7\u30fc\u30bf\u306e\u5909\u5316\u3060\u3051\u3067\u306a\u304f\u3001\u4fdd\u5b58\u5f8c\u306b\u5b9f\u884c\u3055\u308c\u308b\u8a08\u7b97\u7d4c\u8def\u304b\u3089\u3082\u751f\u3058\u308b\u3002<\/p>\n<p>\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u3067\u306f\u3001\u5165\u529b\u3055\u308c\u305f\u6587\u7ae0\u304c\u8907\u6570\u306e\u51e6\u7406\u3092\u901a\u3058\u3066\u51fa\u529b\u3078\u5909\u63db\u3055\u308c\u308b\u3002\u6700\u521d\u306b\u5165\u529b\u6587\u3092\u30c8\u30fc\u30af\u30f3\u3068\u547c\u3070\u308c\u308b\u51e6\u7406\u5358\u4f4d\u3078\u5206\u5272\u3057\u3001\u305d\u308c\u305e\u308c\u3092\u6570\u5024\u8868\u73fe\u3078\u5909\u63db\u3059\u308b\u3002\u305d\u306e\u6570\u5024\u8868\u73fe\u304c\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u306e\u5c64\u3092\u901a\u904e\u3057\u3001\u5404\u5c64\u3067\u91cd\u307f\u3068\u306e\u6f14\u7b97\u3084\u975e\u7dda\u5f62\u5909\u63db\u3092\u53d7\u3051\u308b\u3002\u6700\u5f8c\u306b\u3001\u6b21\u306b\u751f\u6210\u3059\u308b\u30c8\u30fc\u30af\u30f3\u306e\u5019\u88dc\u3054\u3068\u306b\u30b9\u30b3\u30a2\u304c\u8a08\u7b97\u3055\u308c\u3001\u305d\u306e\u30b9\u30b3\u30a2\u3092\u3082\u3068\u306b\u51fa\u529b\u304c\u9078\u629e\u3055\u308c\u308b\u3002\u30e2\u30c7\u30eb\u306e\u4e00\u90e8\u306b\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304c\u5b58\u5728\u3059\u308b\u5834\u5408\u3001\u53d6\u308a\u51fa\u3055\u308c\u305f\u5024\u3082\u3053\u306e\u8a08\u7b97\u7d4c\u8def\u306b\u7d44\u307f\u8fbc\u307e\u308c\u308b\u3002<\/p>\n<p>\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304b\u3089\u53d6\u308a\u51fa\u3057\u305f\u5024\u304c\u5b8c\u5168\u306b\u4e00\u81f4\u3057\u3066\u3044\u308b\u5834\u5408\u3067\u3082\u3001\u305d\u306e\u5024\u3092\u53d7\u3051\u53d6\u308b\u5f8c\u7d9a\u306e\u8a08\u7b97\u304c\u5909\u66f4\u3055\u308c\u3066\u3044\u308c\u3070\u3001\u6700\u7d42\u7684\u306a\u30b9\u30b3\u30a2\u304c\u4e00\u81f4\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u305f\u3068\u3048\u3070\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304b\u3089\u5f97\u305f\u6570\u5024\u304c\u540c\u4e00\u3067\u3082\u3001\u305d\u306e\u6570\u5024\u3068\u7d44\u307f\u5408\u308f\u305b\u308b Backbone \u306e\u91cd\u307f\u304c\u91cf\u5b50\u5316\u306b\u3088\u3063\u3066\u5909\u5316\u3057\u3066\u3044\u308c\u3070\u3001\u5c64\u306e\u51fa\u529b\u306b\u5dee\u304c\u751f\u3058\u308b\u3002\u3055\u3089\u306b\u3001\u6b21\u306e\u5c64\u304c\u305d\u306e\u5dee\u3092\u53d7\u3051\u53d6\u308b\u3053\u3068\u3067\u3001\u5f8c\u7d9a\u306e\u6f14\u7b97\u7d50\u679c\u3082\u5909\u5316\u3057\u5f97\u308b\u3002\u53c2\u7167\u5024\u306e\u4fdd\u5b58\u7cbe\u5ea6\u3068\u3001\u305d\u306e\u5024\u3092\u5229\u7528\u3057\u305f\u8a08\u7b97\u7d50\u679c\u306e\u7cbe\u5ea6\u304c\u5206\u304b\u308c\u308b\u306e\u306f\u3001\u3053\u306e\u3088\u3046\u306b\u53c2\u7167\u51e6\u7406\u3068\u6f14\u7b97\u51e6\u7406\u304c\u7570\u306a\u308b\u69cb\u6210\u8981\u7d20\u306b\u3088\u3063\u3066\u5b9f\u884c\u3055\u308c\u308b\u305f\u3081\u3067\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u95a2\u4fc2\u3092\u6570\u5f0f\u3067\u8868\u3059\u305f\u3081\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306b\u4fdd\u5b58\u3055\u308c\u305f\u5024\u3092 \\(D\\)\u3001\u6f14\u7b97\u306b\u7528\u3044\u308b Backbone \u306e\u91cd\u307f\u3092 \\(W\\)\u3001\u5165\u529b\u3092 \\(x\\)\u3001\u63a8\u8ad6\u6642\u306e\u5b9f\u884c\u6761\u4ef6\u3092 \\(c\\) \u3068\u3059\u308b\u3002\u5b9f\u884c\u6761\u4ef6\u306b\u306f\u3001\u6570\u5024\u6f14\u7b97\u306e\u65b9\u6cd5\u3001\u30c8\u30fc\u30af\u30f3\u306e\u9078\u629e\u65b9\u6cd5\u306a\u3069\u304c\u542b\u307e\u308c\u308b\u3002\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u3092 \\(y\\)\u3001\u5165\u529b\u3068\u30e2\u30c7\u30eb\u306e\u69cb\u6210\u8981\u7d20\u304b\u3089\u51fa\u529b\u3092\u751f\u6210\u3059\u308b\u51e6\u7406\u3092 \\(F\\) \u3068\u3059\u308c\u3070\u3001\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\ny=F(x;D,W,c)<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u5f0f\u306f\u3001\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u304c\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5024\u3060\u3051\u3067\u6c7a\u307e\u308b\u306e\u3067\u306f\u306a\u304f\u3001\u5165\u529b\u3001Backbone \u306e\u91cd\u307f\u3001\u5b9f\u884c\u6761\u4ef6\u306b\u3082\u4f9d\u5b58\u3059\u308b\u3053\u3068\u3092\u8868\u3057\u3066\u3044\u308b\u3002\\(D\\) \u304c\u5143\u30e2\u30c7\u30eb\u3068\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\\(W\\) \u3084 \\(c\\) \u304c\u7570\u306a\u308c\u3070\u3001\u51fa\u529b \\(y\\) \u306b\u306f\u5909\u5316\u304c\u751f\u3058\u5f97\u308b\u3002\u3053\u3053\u3067\u306e \\(F\\) \u306f\u3001\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u306e\u6f14\u7b97\u3060\u3051\u3067\u306a\u304f\u3001\u53c2\u7167\u3057\u305f\u60c5\u5831\u306e\u7d71\u5408\u3084\u6700\u7d42\u7684\u306a\u30c8\u30fc\u30af\u30f3\u306e\u9078\u629e\u307e\u3067\u3092\u542b\u3080\u51e6\u7406\u3068\u3057\u3066\u5b9a\u7fa9\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\u5143\u30e2\u30c7\u30eb\u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3068 Backbone \u306e\u91cd\u307f\u3092 \\(D_0\\)\u3001\\(W_0\\)\u3001\u5909\u66f4\u5f8c\u306e\u5024\u3092 \\(D_1\\)\u3001\\(W_1\\) \u3068\u3059\u308b\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u30d0\u30a4\u30c8\u4e00\u81f4\u306b\u3088\u3063\u3066 \\(D_0=D_1\\) \u304c\u78ba\u8a8d\u3055\u308c\u3001\u5165\u529b\u3068\u5b9f\u884c\u6761\u4ef6\u3082\u540c\u4e00\u3067\u3042\u3063\u305f\u3068\u3057\u3066\u3082\u3001Backbone \u306e\u91cd\u307f\u304c \\(W_0\\) \u304b\u3089 \\(W_1\\) \u3078\u5909\u66f4\u3055\u308c\u3066\u3044\u308c\u3070\u3001\u6b21\u306e\u51fa\u529b\u306e\u4e00\u81f4\u306f\u8ffd\u52a0\u306e\u691c\u8a3c\u3092\u5fc5\u8981\u3068\u3059\u308b\u3002<\/p>\n<p>\\[<br \/>\nF(x;D_0,W_0,c)<br \/>\n\\overset{?}{=}<br \/>\nF(x;D_1,W_1,c)<br \/>\n\\]<\/p>\n<p>\u3053\u306e\u7b49\u5f0f\u306e\u5de6\u8fba\u306f\u5143\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u3001\u53f3\u8fba\u306f\u5909\u66f4\u5f8c\u306e\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u3092\u8868\u3059\u3002\u7b49\u53f7\u306e\u4e0a\u306e\u7591\u554f\u7b26\u306f\u3001\u4e21\u8005\u306e\u4e00\u81f4\u304c\u672a\u78ba\u8a8d\u3067\u3042\u308b\u3053\u3068\u3092\u610f\u5473\u3059\u308b\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5024\u304c\u7b49\u3057\u3044\u3068\u3044\u3046\u6761\u4ef6\u306f\u3001\u4e21\u8fba\u306b\u542b\u307e\u308c\u308b\u4e00\u3064\u306e\u5909\u6570\u306b\u3064\u3044\u3066\u306e\u4e00\u81f4\u3092\u793a\u3059\u3002\u3057\u304b\u3057\u3001Backbone \u306e\u91cd\u307f\u307e\u3067\u4e00\u81f4\u3057\u3066\u3044\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u305f\u3081\u3001\u4e8c\u3064\u306e\u51fa\u529b\u306e\u95a2\u4fc2\u306f\u305d\u308c\u305e\u308c\u306e\u8a08\u7b97\u7d50\u679c\u3092\u8abf\u3079\u3066\u5224\u65ad\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u6570\u5024\u306e\u308f\u305a\u304b\u306a\u5909\u5316\u304c\u51fa\u529b\u306b\u5f71\u97ff\u3059\u308b\u5834\u5408\u3092\u3001\u6b21\u30c8\u30fc\u30af\u30f3\u306e\u9078\u629e\u3067\u8003\u3048\u308b\u3002\u3042\u308b\u5165\u529b\u306b\u5bfe\u3057\u3066\u5019\u88dc A \u3068\u5019\u88dc B \u306e\u30b9\u30b3\u30a2\u304c\u305d\u308c\u305e\u308c 2.001 \u3068 2.000 \u3067\u3042\u308c\u3070\u3001\u6700\u5927\u30b9\u30b3\u30a2\u3092\u9078\u3076\u65b9\u5f0f\u3067\u306f\u5019\u88dc A \u304c\u9078\u629e\u3055\u308c\u308b\u3002\u3053\u3053\u3067 Backbone \u306e\u6f14\u7b97\u7d50\u679c\u304c\u5909\u5316\u3057\u3001\u5019\u88dc A \u306e\u30b9\u30b3\u30a2\u3060\u3051\u304c 1.999 \u306b\u306a\u308c\u3070\u3001\u5019\u88dc B \u304c\u9078\u629e\u3055\u308c\u308b\u3002\u3053\u306e\u6570\u5024\u306f\u4ed5\u7d44\u307f\u3092\u8aac\u660e\u3059\u308b\u305f\u3081\u306e\u4eee\u5b9a\u3067\u3042\u308a\u3001\u7279\u5b9a\u306e\u30e2\u30c7\u30eb\u3067\u6e2c\u5b9a\u3055\u308c\u305f\u5024\u3067\u306f\u306a\u3044\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5185\u5bb9\u3092\u4e00\u5207\u5909\u66f4\u3057\u306a\u304f\u3066\u3082\u3001\u5f8c\u7d9a\u306e\u6f14\u7b97\u306b\u3088\u3063\u3066\u5019\u88dc\u306e\u9806\u4f4d\u304c\u9006\u8ee2\u3059\u308b\u53ef\u80fd\u6027\u3092\u793a\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\u4e00\u65b9\u3001\u6f14\u7b97\u7d50\u679c\u306b\u5dee\u304c\u751f\u3058\u3066\u3082\u3001\u5019\u88dc\u306e\u9806\u4f4d\u304c\u5909\u308f\u3089\u306a\u3051\u308c\u3070\u540c\u3058\u30c8\u30fc\u30af\u30f3\u304c\u9078\u629e\u3055\u308c\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u5019\u88dc A \u306e\u30b9\u30b3\u30a2\u304c 2.001 \u304b\u3089 2.0005 \u3078\u5909\u5316\u3057\u3066\u3082\u3001\u5019\u88dc B \u306e\u30b9\u30b3\u30a2\u304c 2.000 \u306e\u307e\u307e\u3067\u3042\u308c\u3070\u3001\u6700\u5927\u30b9\u30b3\u30a2\u3092\u9078\u629e\u3059\u308b\u7d50\u679c\u306f\u5909\u308f\u3089\u306a\u3044\u3002\u6570\u5024\u306e\u5dee\u304c\u751f\u3058\u305f\u3053\u3068\u3068\u3001\u5b9f\u969b\u306b\u51fa\u529b\u304c\u5909\u5316\u3057\u305f\u3053\u3068\u306f\u533a\u5225\u3067\u304d\u308b\u3002\u3055\u3089\u306b\u3001\u30c8\u30fc\u30af\u30f3\u306e\u9078\u629e\u304c\u78ba\u7387\u7684\u306b\u884c\u308f\u308c\u308b\u5834\u5408\u306b\u306f\u3001\u540c\u3058\u5019\u88dc\u5206\u5e03\u304b\u3089\u7570\u306a\u308b\u30c8\u30fc\u30af\u30f3\u304c\u9078\u3070\u308c\u308b\u3053\u3068\u3082\u3042\u308b\u3002\u51fa\u529b\u5dee\u3092\u30e2\u30c7\u30eb\u306e\u6539\u5909\u306b\u3088\u308b\u5f71\u97ff\u3068\u3057\u3066\u8a55\u4fa1\u3059\u308b\u306b\u306f\u3001\u5165\u529b\u3001\u8a08\u7b97\u7cbe\u5ea6\u3001\u9078\u629e\u65b9\u5f0f\u3001\u4e71\u6570\u306e\u6761\u4ef6\u3092\u63c3\u3048\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u51fa\u529b\u3055\u308c\u305f\u6587\u5b57\u5217\u306e\u4e00\u81f4\u3068\u56de\u7b54\u54c1\u8cea\u306e\u7dad\u6301\u306b\u3082\u9055\u3044\u304c\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u3042\u308b\u5730\u7406\u7684\u306a\u8cea\u554f\u306b\u5bfe\u3057\u3066\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u304c\u3068\u3082\u306b\u6b63\u3057\u3044\u90fd\u5e02\u540d\u3092\u8fd4\u3057\u305f\u5834\u5408\u3001\u305d\u306e\u8cea\u554f\u306b\u3064\u3044\u3066\u6b63\u7b54\u304c\u5f97\u3089\u308c\u305f\u3053\u3068\u306f\u78ba\u8a8d\u3067\u304d\u308b\u3002\u3057\u304b\u3057\u3001\u540c\u3058\u6587\u5b57\u5217\u304c\u51fa\u529b\u3055\u308c\u305f\u3068\u3044\u3046\u4e8b\u5b9f\u3060\u3051\u3067\u306f\u3001\u4e21\u30e2\u30c7\u30eb\u306e\u5185\u90e8\u8a08\u7b97\u304c\u540c\u4e00\u3060\u3063\u305f\u3053\u3068\u3084\u3001\u5225\u306e\u8cea\u554f\u3067\u3082\u6b63\u7b54\u7387\u304c\u4e00\u81f4\u3059\u308b\u3053\u3068\u307e\u3067\u306f\u5206\u304b\u3089\u306a\u3044\u3002\u53cd\u5bfe\u306b\u3001\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u304c\u7570\u306a\u308b\u8a00\u3044\u56de\u3057\u3067\u540c\u3058\u6b63\u3057\u3044\u5185\u5bb9\u3092\u56de\u7b54\u3057\u305f\u5834\u5408\u3001\u6587\u5b57\u5217\u304c\u7570\u306a\u3063\u3066\u3044\u3066\u3082\u56de\u7b54\u54c1\u8cea\u304c\u7dad\u6301\u3055\u308c\u3066\u3044\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u51fa\u529b\u306e\u4e00\u81f4\u7387\u3068\u56de\u7b54\u306e\u6b63\u78ba\u6027\u306f\u3001\u7570\u306a\u308b\u6307\u6a19\u3068\u3057\u3066\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u4fdd\u5b58\u5024\u3001\u8a08\u7b97\u51e6\u7406\u3001\u51fa\u529b\u3001\u56de\u7b54\u54c1\u8cea\u306e\u95a2\u4fc2\u3092\u6574\u7406\u3059\u308b\u3068\u3001\u305d\u308c\u305e\u308c\u306e\u691c\u8a3c\u306b\u5bfe\u5fdc\u3059\u308b\u8a3c\u62e0\u306e\u7bc4\u56f2\u304c\u660e\u78ba\u306b\u306a\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u691c\u8a3c\u5bfe\u8c61<\/th>\n<th>\u78ba\u8a8d\u3059\u308b\u5185\u5bb9<\/th>\n<th>\u691c\u8a3c\u306b\u3088\u3063\u3066\u76f4\u63a5\u8a00\u3048\u308b\u3053\u3068<\/th>\n<th>\u8ffd\u52a0\u3067\u5fc5\u8981\u306a\u78ba\u8a8d<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>\u4fdd\u5b58\u5024\u306e\u4e00\u81f4<\/td>\n<td>\u5143\u306e\u91cd\u307f\u3068\u4fdd\u5b58\u5f8c\u306e\u91cd\u307f\u3092\u30d0\u30a4\u30c8\u5358\u4f4d\u3067\u6bd4\u8f03\u3059\u308b\u3002<\/td>\n<td>\u6bd4\u8f03\u5bfe\u8c61\u3068\u306a\u3063\u305f\u91cd\u307f\u306e\u5024\u304c\u4e00\u81f4\u3057\u3066\u3044\u308b\u3002<\/td>\n<td>\u53c2\u7167\u51e6\u7406\u3068\u5f8c\u7d9a\u306e\u6f14\u7b97\u304c\u5143\u30e2\u30c7\u30eb\u3068\u540c\u3058\u7d50\u679c\u3092\u751f\u6210\u3059\u308b\u304b\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u63a8\u8ad6\u51e6\u7406\u306e\u6210\u7acb<\/td>\n<td>\u30e2\u30c7\u30eb\u3092\u8aad\u307f\u8fbc\u307f\u3001\u6307\u5b9a\u3057\u305f\u5165\u529b\u306b\u5bfe\u3057\u3066\u751f\u6210\u51e6\u7406\u3092\u5b9f\u884c\u3059\u308b\u3002<\/td>\n<td>\u6307\u5b9a\u3057\u305f\u5b9f\u884c\u74b0\u5883\u3068\u5165\u529b\u6761\u4ef6\u3067\u63a8\u8ad6\u51e6\u7406\u304c\u5b8c\u4e86\u3057\u305f\u3002<\/td>\n<td>\u7570\u306a\u308b\u5165\u529b\u3084\u6587\u8108\u9577\u3067\u3082\u6b63\u5e38\u306b\u52d5\u4f5c\u3057\u3001\u671f\u5f85\u3059\u308b\u7d50\u679c\u304c\u5f97\u3089\u308c\u308b\u304b\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u51fa\u529b\u306e\u4e00\u81f4<\/td>\n<td>\u5165\u529b\u3068\u5b9f\u884c\u6761\u4ef6\u3092\u63c3\u3048\u3001\u5143\u30e2\u30c7\u30eb\u3068\u5909\u66f4\u5f8c\u306e\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u3092\u6bd4\u8f03\u3059\u308b\u3002<\/td>\n<td>\u6bd4\u8f03\u3057\u305f\u6761\u4ef6\u306b\u304a\u3051\u308b\u51fa\u529b\u306e\u4e00\u81f4\u307e\u305f\u306f\u5dee\u7570\u304c\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/td>\n<td>\u7570\u306a\u308b\u8868\u73fe\u3067\u3082\u540c\u7b49\u306e\u6b63\u78ba\u6027\u3092\u6301\u3064\u5834\u5408\u3092\u542b\u3081\u3001\u56de\u7b54\u5185\u5bb9\u3092\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u56de\u7b54\u54c1\u8cea\u306e\u7dad\u6301<\/td>\n<td>\u77e5\u8b58\u554f\u984c\u3001\u63a8\u8ad6\u554f\u984c\u3001\u30b3\u30fc\u30c9\u751f\u6210\u306a\u3069\u306b\u3064\u3044\u3066\u540c\u4e00\u6761\u4ef6\u3067\u8a55\u4fa1\u3059\u308b\u3002<\/td>\n<td>\u8a55\u4fa1\u3057\u305f\u8ab2\u984c\u3068\u6307\u6a19\u306b\u3064\u3044\u3066\u3001\u5143\u30e2\u30c7\u30eb\u3068\u306e\u6027\u80fd\u5dee\u3092\u6e2c\u5b9a\u3067\u304d\u308b\u3002<\/td>\n<td>\u8a55\u4fa1\u5bfe\u8c61\u5916\u306e\u80fd\u529b\u3001\u5165\u529b\u5206\u5e03\u3001\u5b9f\u884c\u74b0\u5883\u3078\u7d50\u679c\u3092\u9069\u7528\u3067\u304d\u308b\u7bc4\u56f2\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u8868\u306e\u5404\u884c\u306f\u3001\u540c\u3058\u30e2\u30c7\u30eb\u306b\u5bfe\u3057\u3066\u5b9f\u65bd\u3067\u304d\u308b\u691c\u8a3c\u3067\u3042\u3063\u3066\u3082\u3001\u76f4\u63a5\u8a55\u4fa1\u3059\u308b\u5bfe\u8c61\u304c\u7570\u306a\u308b\u3053\u3068\u3092\u793a\u3057\u3066\u3044\u308b\u3002\u4fdd\u5b58\u5024\u306e\u6bd4\u8f03\u306f\u3001\u30c7\u30fc\u30bf\u306e\u5909\u5316\u3092\u8abf\u3079\u308b\u305f\u3081\u306e\u691c\u8a3c\u3067\u3042\u308b\u3002\u63a8\u8ad6\u51e6\u7406\u306e\u5b9f\u884c\u306f\u3001\u8aad\u307f\u8fbc\u307f\u304b\u3089\u751f\u6210\u307e\u3067\u306e\u7d4c\u8def\u304c\u6307\u5b9a\u6761\u4ef6\u3067\u6210\u7acb\u3059\u308b\u3053\u3068\u3092\u8abf\u3079\u308b\u3002\u51fa\u529b\u306e\u6bd4\u8f03\u306f\u3001\u51e6\u7406\u7d50\u679c\u3068\u3057\u3066\u4f55\u304c\u5909\u5316\u3057\u305f\u304b\u3092\u6e2c\u5b9a\u3059\u308b\u3002\u56de\u7b54\u54c1\u8cea\u306e\u8a55\u4fa1\u3067\u306f\u3001\u6b63\u7b54\u7387\u3084\u554f\u984c\u89e3\u6c7a\u306e\u6210\u529f\u7387\u306a\u3069\u3001\u5185\u5bb9\u306b\u5bfe\u5fdc\u3059\u308b\u6307\u6a19\u3092\u7528\u3044\u3066\u5143\u30e2\u30c7\u30eb\u3068\u306e\u5dee\u3092\u5224\u65ad\u3059\u308b\u3002\u3053\u306e\u533a\u5225\u306b\u3088\u3063\u3066\u3001\u3042\u308b\u691c\u8a3c\u306e\u6210\u529f\u3092\u5225\u306e\u6027\u8cea\u306e\u8a3c\u660e\u3068\u3057\u3066\u6271\u3046\u3053\u3068\u3092\u907f\u3051\u3089\u308c\u308b\u3002<\/p>\n<p>\u7279\u306b\u3001\u30e2\u30c7\u30eb\u306e\u4e00\u90e8\u5206\u3060\u3051\u3092\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u6301\u3057\u305f\u5834\u5408\u306b\u306f\u3001\u691c\u8a3c\u306e\u5bfe\u8c61\u7bc4\u56f2\u3092\u660e\u793a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002Engram \u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304c\u5143\u30e2\u30c7\u30eb\u3068\u30d0\u30a4\u30c8\u5358\u4f4d\u3067\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\u305d\u306e\u4e8b\u5b9f\u304c\u76f4\u63a5\u4fdd\u8a3c\u3059\u308b\u306e\u306f\u6bd4\u8f03\u5bfe\u8c61\u3068\u306a\u3063\u305f Engram \u306e\u4fdd\u5b58\u5024\u3067\u3042\u308b\u3002Backbone \u306e\u91cf\u5b50\u5316\u306b\u3088\u3063\u3066\u5909\u5316\u3057\u305f\u6570\u5024\u3084\u3001\u4e21\u8005\u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u6f14\u7b97\u7d50\u679c\u306f\u3001\u305d\u306e\u6bd4\u8f03\u306e\u5bfe\u8c61\u306b\u542b\u307e\u308c\u306a\u3044\u3002\u9ad8\u7cbe\u5ea6\u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u5229\u7528\u3059\u308b\u8a2d\u8a08\u306f\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u81ea\u4f53\u306b\u91cf\u5b50\u5316\u8aa4\u5dee\u3092\u5c0e\u5165\u3057\u306a\u3044\u3068\u3044\u3046\u5229\u70b9\u3092\u6301\u3064\u304c\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u3067\u3069\u306e\u3088\u3046\u306a\u8aa4\u5dee\u304c\u6b8b\u308b\u304b\u306f\u5f8c\u7d9a\u306e\u8a08\u7b97\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002<\/p>\n<p>\u307e\u305f\u3001\u5143\u30e2\u30c7\u30eb\u3068\u540c\u3058\u56de\u7b54\u304c\u5f97\u3089\u308c\u305f\u5834\u5408\u306b\u3082\u3001\u5909\u66f4\u5f8c\u306e\u30e2\u30c7\u30eb\u304c\u3042\u3089\u3086\u308b\u5165\u529b\u3067\u540c\u7b49\u306e\u80fd\u529b\u3092\u6301\u3064\u3068\u3044\u3046\u7d50\u8ad6\u306b\u306f\u8ffd\u52a0\u306e\u8a3c\u62e0\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u77ed\u3044\u4e8b\u5b9f\u8cea\u554f\u3078\u306e\u56de\u7b54\u304c\u4e00\u81f4\u3057\u305f\u3068\u3057\u3066\u3082\u3001\u8907\u6570\u306e\u60c5\u5831\u3092\u7d44\u307f\u5408\u308f\u305b\u308b\u63a8\u8ad6\u3067\u306f\u3001\u9014\u4e2d\u306e\u6570\u5024\u5dee\u304c\u5224\u65ad\u7d50\u679c\u3078\u5f71\u97ff\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u9577\u6587\u8108\u3067\u306f\u53c2\u7167\u3055\u308c\u308b\u60c5\u5831\u3084\u6f14\u7b97\u306e\u56de\u6570\u304c\u5909\u308f\u308a\u3001\u30b3\u30fc\u30c9\u751f\u6210\u3067\u306f\u4e00\u3064\u306e\u30c8\u30fc\u30af\u30f3\u306e\u9055\u3044\u304c\u69cb\u6587\u3084\u5b9f\u884c\u7d50\u679c\u3092\u5909\u3048\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u3069\u306e\u80fd\u529b\u304c\u7dad\u6301\u3055\u308c\u3066\u3044\u308b\u304b\u3092\u5224\u65ad\u3059\u308b\u306b\u306f\u3001\u5165\u529b\u306e\u7a2e\u985e\u3068\u8a55\u4fa1\u6307\u6a19\u3092\u5bfe\u5fdc\u3055\u305b\u305f\u6bd4\u8f03\u304c\u5fc5\u8981\u3067\u3042\u308b\u3002<\/p>\n<p>\u60c5\u5831\u3092\u6b63\u78ba\u306b\u4fdd\u5b58\u3059\u308b\u3053\u3068\u306b\u306f\u3001\u660e\u78ba\u306a\u6280\u8853\u7684\u610f\u7fa9\u304c\u3042\u308b\u3002\u5143\u306e\u5024\u3092\u4fdd\u6301\u3059\u308b\u3053\u3068\u3067\u3001\u305d\u306e\u90e8\u5206\u306e\u91cf\u5b50\u5316\u306b\u7531\u6765\u3059\u308b\u6570\u5024\u8aa4\u5dee\u3092\u56de\u907f\u3067\u304d\u3001\u5909\u66f4\u5f8c\u306e\u30e2\u30c7\u30eb\u3092\u8a55\u4fa1\u3059\u308b\u969b\u306b\u3082\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5024\u304c\u5909\u5316\u3057\u305f\u53ef\u80fd\u6027\u3092\u691c\u8a0e\u5bfe\u8c61\u304b\u3089\u9664\u5916\u3067\u304d\u308b\u3002\u305f\u3060\u3057\u3001\u6b8b\u308b\u6f14\u7b97\u90e8\u5206\u304c\u5909\u66f4\u3055\u308c\u3066\u3044\u308b\u5834\u5408\u3001\u6700\u7d42\u51fa\u529b\u306b\u5dee\u304c\u751f\u3058\u308b\u53ef\u80fd\u6027\u306f\u6b8b\u308b\u3002\u4f4e\u30d3\u30c3\u30c8\u5316\u3057\u305f Backbone \u3068\u9ad8\u7cbe\u5ea6\u306e Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u308b\u69cb\u6210\u3067\u306f\u3001\u4fdd\u5b58\u5024\u306e\u4e00\u81f4\u306b\u3088\u3063\u3066\u56fa\u5b9a\u3055\u308c\u305f\u6761\u4ef6\u3068\u3001\u8a08\u7b97\u7d50\u679c\u306e\u6bd4\u8f03\u306b\u3088\u3063\u3066\u521d\u3081\u3066\u78ba\u5b9a\u3059\u308b\u6761\u4ef6\u3092\u5206\u96e2\u3059\u308b\u3053\u3068\u304c\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u80fd\u529b\u3092\u691c\u8a3c\u3059\u308b\u51fa\u767a\u70b9\u3068\u306a\u308b\u3002<\/p>\n<hr>\n<h2>2. \u91cf\u5b50\u5316\u306b\u3088\u3063\u3066\u4f55\u304c\u5909\u308f\u308b\u306e\u304b<\/h2>\n<p>\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u306e\u91cd\u307f\u306f\u3001\u5b66\u7fd2\u3092\u901a\u3058\u3066\u8abf\u6574\u3055\u308c\u305f\u591a\u6570\u306e\u6570\u5024\u3067\u3042\u308a\u3001\u5165\u529b\u3055\u308c\u305f\u60c5\u5831\u3092\u3069\u306e\u3088\u3046\u306b\u5909\u63db\u3059\u308b\u304b\u3092\u6c7a\u3081\u3066\u3044\u308b\u3002\u4e00\u822c\u7684\u306a\u6d6e\u52d5\u5c0f\u6570\u70b9\u8868\u73fe\u3067\u306f\u3001\u305d\u308c\u305e\u308c\u306e\u91cd\u307f\u306b\u4e00\u5b9a\u306e\u30d3\u30c3\u30c8\u6570\u3092\u4f7f\u7528\u3059\u308b\u3002\u91cf\u5b50\u5316\u306f\u3001\u3053\u306e\u6570\u5024\u8868\u73fe\u3092\u3088\u308a\u5c11\u306a\u3044\u30d3\u30c3\u30c8\u6570\u3078\u5909\u63db\u3057\u3001\u9650\u3089\u308c\u305f\u7a2e\u985e\u306e\u4ee3\u8868\u5024\u306b\u3088\u3063\u3066\u91cd\u307f\u3092\u4fdd\u5b58\u3059\u308b\u6280\u8853\u3067\u3042\u308b\u3002\u91cd\u307f\u3092\u4fdd\u5b58\u3059\u308b\u305f\u3081\u306b\u5fc5\u8981\u306a\u5bb9\u91cf\u3092\u524a\u6e1b\u3067\u304d\u308b\u4e00\u65b9\u3001\u5143\u306e\u5024\u3092\u8868\u73fe\u3067\u304d\u308b\u7bc4\u56f2\u3084\u7cbe\u5ea6\u304c\u5909\u5316\u3059\u308b\u305f\u3081\u3001\u5f8c\u7d9a\u306e\u8a08\u7b97\u306b\u3082\u5f71\u97ff\u304c\u751f\u3058\u5f97\u308b\u3002<\/p>\n<p>\u91cf\u5b50\u5316\u306b\u3088\u3063\u3066\u5931\u308f\u308c\u308b\u60c5\u5831\u306f\u3001\u5143\u306e\u6570\u5024\u3069\u3046\u3057\u3092\u533a\u5225\u3059\u308b\u305f\u3081\u306b\u5fc5\u8981\u306a\u7cbe\u5ea6\u3067\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u30010.49 \u3068 0.51 \u3068\u3044\u3046\u4e8c\u3064\u306e\u91cd\u307f\u304c\u3042\u3063\u3066\u3082\u3001\u91cf\u5b50\u5316\u5f8c\u306b\u4f7f\u7528\u3067\u304d\u308b\u4ee3\u8868\u5024\u304c 0 \u3068 1 \u3060\u3051\u3067\u3042\u308c\u3070\u3001\u6700\u3082\u8fd1\u3044\u5024\u3078\u4e38\u3081\u308b\u65b9\u5f0f\u3067\u306f\u3001\u305d\u308c\u305e\u308c 0 \u3068 1 \u306b\u5bfe\u5fdc\u3059\u308b\u3002\u3053\u306e\u5834\u5408\u3001\u5143\u306e\u4e8c\u3064\u306e\u5024\u306e\u5dee\u306f 0.02 \u3067\u3042\u3063\u305f\u306e\u306b\u5bfe\u3057\u3001\u91cf\u5b50\u5316\u5f8c\u306e\u5024\u306e\u5dee\u306f 1 \u306b\u306a\u308b\u3002\u9006\u306b\u3001\u7570\u306a\u308b\u5024\u304c\u540c\u3058\u4ee3\u8868\u5024\u3078\u5bfe\u5fdc\u3057\u3001\u5143\u306e\u5dee\u304c\u5931\u308f\u308c\u308b\u5834\u5408\u3082\u3042\u308b\u3002\u65e2\u7a3f\u3067\u306f\u3001\u91cf\u5b50\u5316\u306b\u3088\u3063\u3066\u5931\u308f\u308c\u308b\u60c5\u5831\u3092\u3001\u5143\u306e\u5024\u3069\u3046\u3057\u306e\u533a\u5225\u3068\u3044\u3046\u89b3\u70b9\u304b\u3089\u6574\u7406\u3057\u305f<a href=\"#ref1\">[1]<\/a>\u3002<\/p>\n<p>\u4ee3\u8868\u5024\u306e\u9078\u3073\u65b9\u306b\u3088\u3063\u3066\u3001\u4fdd\u5b58\u3055\u308c\u308b\u5024\u3068\u5143\u306e\u5024\u306e\u5dee\u306f\u5909\u5316\u3059\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u540c\u3058 2 \u30d3\u30c3\u30c8\u3067\u4fdd\u5b58\u3059\u308b\u5834\u5408\u3067\u3082\u3001\u56db\u3064\u306e\u4ee3\u8868\u5024\u3092\u4e00\u5b9a\u9593\u9694\u306b\u914d\u7f6e\u3059\u308b\u65b9\u6cd5\u3068\u3001\u5143\u306e\u91cd\u307f\u306e\u5206\u5e03\u306b\u5408\u308f\u305b\u3066\u914d\u7f6e\u3059\u308b\u65b9\u6cd5\u3067\u306f\u3001\u91cf\u5b50\u5316\u8aa4\u5dee\u304c\u7570\u306a\u308b\u3002\u91cd\u307f\u304c\u7279\u5b9a\u306e\u7bc4\u56f2\u3078\u96c6\u4e2d\u3057\u3066\u3044\u308c\u3070\u3001\u305d\u306e\u7bc4\u56f2\u3092\u7d30\u304b\u304f\u8868\u73fe\u3059\u308b\u3053\u3068\u3067\u5e73\u5747\u7684\u306a\u8aa4\u5dee\u3092\u6e1b\u3089\u305b\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u4e00\u65b9\u3001\u5e83\u3044\u7bc4\u56f2\u306b\u5206\u5e03\u3059\u308b\u91cd\u307f\u3084\u3001\u5c11\u6570\u306e\u6975\u7aef\u306a\u5024\u3092\u542b\u3080\u91cd\u307f\u3067\u306f\u3001\u540c\u3058\u4ee3\u8868\u5024\u306e\u914d\u7f6e\u304c\u9069\u5207\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u91cf\u5b50\u5316\u5f8c\u306e\u6570\u5024\u7cbe\u5ea6\u306f\u3001\u4f7f\u7528\u3059\u308b\u30d3\u30c3\u30c8\u6570\u306b\u52a0\u3048\u3001\u4ee3\u8868\u5024\u306e\u914d\u7f6e\u3068\u5143\u306e\u91cd\u307f\u306e\u5206\u5e03\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002<\/p>\n<p>\u5143\u306e\u91cd\u307f\u3092 \\(W\\)\u3001\u91cf\u5b50\u5316\u3057\u305f\u5024\u3092\u6f14\u7b97\u306b\u4f7f\u3048\u308b\u5f62\u3078\u623b\u3057\u305f\u91cd\u307f\u3092 \\(\\widehat{W}\\)\u3001\u4e21\u8005\u306e\u5dee\u3092 \\(\\Delta W\\) \u3068\u3059\u308b\u3068\u3001\u6b21\u306e\u95a2\u4fc2\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\widehat{W}=W+\\Delta W<br \/>\n\\]<\/p>\n<p>\u3053\u3053\u3067 \\(W\\) \u306f\u5143\u30e2\u30c7\u30eb\u306e\u91cd\u307f\u3001\\(\\widehat{W}\\) \u306f\u91cf\u5b50\u5316\u5f8c\u306b\u518d\u69cb\u6210\u3055\u308c\u305f\u91cd\u307f\u3001\\(\\Delta W\\) \u306f\u305d\u306e\u5dee\u3092\u8868\u3059\u3002\u91cd\u307f\u304c\u884c\u5217\u3068\u3057\u3066\u8868\u73fe\u3055\u308c\u308b\u5834\u5408\u3001\\(\\Delta W\\) \u3082\u540c\u3058\u5927\u304d\u3055\u306e\u884c\u5217\u3068\u306a\u308a\u3001\u305d\u308c\u305e\u308c\u306e\u8981\u7d20\u306b\u91cf\u5b50\u5316\u306b\u3088\u308b\u6570\u5024\u306e\u5909\u5316\u304c\u8a18\u9332\u3055\u308c\u308b\u3002\u3053\u306e\u5f0f\u306f\u3001\u91cf\u5b50\u5316\u3092\u5143\u306e\u91cd\u307f\u306b\u5bfe\u3059\u308b\u6570\u5024\u7684\u306a\u5909\u66f4\u3068\u3057\u3066\u8868\u3057\u305f\u3082\u306e\u3067\u3042\u308b\u3002\u91cf\u5b50\u5316\u5f8c\u306e\u5024\u304c\u5143\u306e\u5024\u3078\u8fd1\u3044\u307b\u3069\u3001\u91cd\u307f\u305d\u306e\u3082\u306e\u306e\u8fd1\u4f3c\u8aa4\u5dee\u306f\u5c0f\u3055\u304f\u306a\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\u91cd\u307f\u306e\u8fd1\u4f3c\u8aa4\u5dee\u3068\u3001\u305d\u306e\u91cd\u307f\u3092\u5229\u7528\u3057\u305f\u8a08\u7b97\u7d50\u679c\u306e\u8aa4\u5dee\u306f\u7570\u306a\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u5165\u529b\u30d9\u30af\u30c8\u30eb\u3092 \\(x\\)\u3001\u91cd\u307f\u884c\u5217\u3068\u306e\u7a4d\u306b\u3088\u3063\u3066\u5f97\u3089\u308c\u308b\u5024\u3092 \\(z\\) \u3068\u3059\u308b\u3068\u3001\u5143\u306e\u8a08\u7b97\u306f \\(z=Wx\\) \u3067\u8868\u3055\u308c\u308b\u3002\u91cf\u5b50\u5316\u5f8c\u306e\u91cd\u307f\u3092\u4f7f\u3044\u3001\u540c\u3058\u5165\u529b\u306b\u5bfe\u3057\u3066\u540c\u3058\u884c\u5217\u7a4d\u3092\u8a08\u7b97\u3059\u308b\u5834\u5408\u3001\u5143\u306e\u7d50\u679c\u3068\u306e\u5dee\u306f\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta z=\\widehat{W}x-Wx=\\Delta W x<br \/>\n\\]<\/p>\n<p>\\(\\Delta z\\) \u306f\u884c\u5217\u7a4d\u306e\u51fa\u529b\u306b\u751f\u3058\u308b\u5dee\u3067\u3042\u308b\u3002\u3053\u306e\u5f0f\u3067\u306f\u3001\u91cf\u5b50\u5316\u8aa4\u5dee \\(\\Delta W\\) \u304c\u5165\u529b \\(x\\) \u3068\u7d44\u307f\u5408\u308f\u3055\u308c\u3066\u521d\u3081\u3066\u3001\u8a08\u7b97\u7d50\u679c\u3078\u306e\u5f71\u97ff\u304c\u6c7a\u307e\u308b\u3002\u540c\u3058\u91cd\u307f\u306e\u8aa4\u5dee\u3067\u3042\u3063\u3066\u3082\u3001\u5165\u529b\u306e\u5024\u304c\u5909\u308f\u308c\u3070\u3001\u51fa\u529b\u306e\u5dee\u3082\u5909\u5316\u3059\u308b\u3002\u3042\u308b\u5165\u529b\u3067\u306f\u8aa4\u5dee\u306e\u5f71\u97ff\u304c\u76f8\u6bba\u3055\u308c\u3001\u5225\u306e\u5165\u529b\u3067\u306f\u8907\u6570\u306e\u8aa4\u5dee\u304c\u540c\u3058\u65b9\u5411\u3078\u52a0\u7b97\u3055\u308c\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u91cd\u307f\u306e\u8fd1\u4f3c\u7cbe\u5ea6\u3092\u8a55\u4fa1\u3059\u308b\u3060\u3051\u3067\u306f\u3001\u5b9f\u969b\u306e\u5165\u529b\u306b\u5bfe\u3059\u308b\u51fa\u529b\u8aa4\u5dee\u3092\u4e00\u610f\u306b\u6c7a\u3081\u3089\u308c\u306a\u3044\u7406\u7531\u306f\u3001\u3053\u306e\u5165\u529b\u4f9d\u5b58\u6027\u306b\u3042\u308b\u3002<\/p>\n<p>\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u3067\u306f\u3001\u884c\u5217\u7a4d\u306e\u7d50\u679c\u304c\u3055\u3089\u306b\u5225\u306e\u5c64\u3078\u6e21\u3055\u308c\u3001\u6ce8\u610f\u6a5f\u69cb\u3084\u975e\u7dda\u5f62\u5909\u63db\u306a\u3069\u3092\u901a\u3058\u3066\u51e6\u7406\u3055\u308c\u308b\u3002\u3042\u308b\u5c64\u3067\u751f\u3058\u305f\u6570\u5024\u306e\u5dee\u306f\u3001\u5f8c\u7d9a\u306e\u5c64\u3067\u7e2e\u5c0f\u3059\u308b\u5834\u5408\u3082\u3042\u308c\u3070\u3001\u5225\u306e\u65b9\u5411\u3078\u5909\u63db\u3055\u308c\u3066\u6700\u7d42\u7684\u306a\u30c8\u30fc\u30af\u30f3\u306e\u9078\u629e\u3078\u5f71\u97ff\u3059\u308b\u5834\u5408\u3082\u3042\u308b\u3002\u7279\u306b\u3001\u8907\u6570\u306e\u5019\u88dc\u306e\u30b9\u30b3\u30a2\u304c\u8fd1\u3044\u3068\u304d\u306b\u306f\u3001\u5c0f\u3055\u306a\u6570\u5024\u5dee\u306b\u3088\u3063\u3066\u5019\u88dc\u306e\u9806\u4f4d\u304c\u5909\u5316\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u65e2\u7a3f\u3067\u306f\u3001\u540c\u3058\u5927\u304d\u3055\u306e\u91cf\u5b50\u5316\u8aa4\u5dee\u3067\u3042\u3063\u3066\u3082\u3001\u8aa4\u5dee\u304c\u751f\u3058\u308b\u4f4d\u7f6e\u3001\u5f8c\u7d9a\u306e\u8a08\u7b97\u3067\u5f71\u97ff\u304c\u6b8b\u308b\u671f\u9593\u3001\u8aa4\u5dee\u306e\u65b9\u5411\u306b\u3088\u3063\u3066\u6700\u7d42\u51fa\u529b\u3078\u306e\u5f71\u97ff\u304c\u7570\u306a\u308b\u3053\u3068\u3092\u691c\u8a0e\u3057\u305f<a href=\"#ref2\">[2]<\/a>\u3002<\/p>\n<p>\u3053\u306e\u6027\u8cea\u3092\u8003\u616e\u3059\u308b\u3068\u3001\u91cf\u5b50\u5316\u306e\u8a2d\u8a08\u306b\u306f\u5c11\u306a\u304f\u3068\u3082\u4e8c\u3064\u306e\u7570\u306a\u308b\u6700\u9069\u5316\u554f\u984c\u304c\u3042\u308b\u3002\u4e00\u3064\u306f\u3001\u9650\u3089\u308c\u305f\u30d3\u30c3\u30c8\u6570\u306e\u4e2d\u3067\u3001\u305d\u308c\u305e\u308c\u306e\u91cd\u307f\u3092\u3069\u306e\u4ee3\u8868\u5024\u3078\u5bfe\u5fdc\u3055\u305b\u308b\u304b\u3068\u3044\u3046\u554f\u984c\u3067\u3042\u308b\u3002\u3082\u3046\u4e00\u3064\u306f\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u3067\u4f7f\u7528\u3067\u304d\u308b\u4fdd\u5b58\u5bb9\u91cf\u304c\u6c7a\u307e\u3063\u3066\u3044\u308b\u3068\u304d\u3001\u3069\u306e\u91cd\u307f\u7fa4\u3078\u4f55\u30d3\u30c3\u30c8\u3092\u5272\u308a\u5f53\u3066\u308b\u304b\u3068\u3044\u3046\u554f\u984c\u3067\u3042\u308b\u3002\u524d\u8005\u306f\u56fa\u5b9a\u3055\u308c\u305f\u6570\u5024\u8868\u73fe\u306e\u4e2d\u3067\u8fd1\u4f3c\u7cbe\u5ea6\u3092\u6539\u5584\u3059\u308b\u64cd\u4f5c\u3067\u3042\u308a\u3001\u5f8c\u8005\u306f\u7570\u306a\u308b\u6570\u5024\u8868\u73fe\u306e\u7d44\u307f\u5408\u308f\u305b\u3092\u9078\u629e\u3059\u308b\u64cd\u4f5c\u3067\u3042\u308b\u3002<\/p>\n<h3>2.1 \u4ee3\u8868\u5024\u306e\u9078\u629e\u3092\u6700\u9069\u5316\u3059\u308b GSQ<\/h3>\n<p>GSQ\uff08Gumbel-Softmax Quantization\uff09\u306f\u3001\u4f4e\u30d3\u30c3\u30c8\u306e\u30b9\u30ab\u30e9\u30fc\u91cf\u5b50\u5316\u306b\u304a\u3044\u3066\u3001\u5404\u91cd\u307f\u3092\u3069\u306e\u91cf\u5b50\u5316\u5024\u3078\u5bfe\u5fdc\u3055\u305b\u308b\u304b\u3092\u6700\u9069\u5316\u3059\u308b\u624b\u6cd5\u3067\u3042\u308b\u3002\u901a\u5e38\u306e\u4e38\u3081\u51e6\u7406\u3067\u306f\u3001\u3042\u3089\u304b\u3058\u3081\u6c7a\u3081\u305f\u4ee3\u8868\u5024\u306e\u4e2d\u304b\u3089\u8fd1\u3044\u5024\u3092\u9078\u629e\u3059\u308b\u3002\u3053\u308c\u306b\u5bfe\u3057\u3066 GSQ \u306f\u3001Gumbel-Softmax \u3068\u547c\u3070\u308c\u308b\u9023\u7d9a\u7684\u306a\u8fd1\u4f3c\u3092\u5229\u7528\u3057\u3001\u96e2\u6563\u7684\u306a\u5019\u88dc\u306e\u9078\u629e\u3092\u52fe\u914d\u306b\u57fa\u3065\u304f\u6700\u9069\u5316\u3067\u6271\u3048\u308b\u3088\u3046\u306b\u3059\u308b\u3002\u3055\u3089\u306b\u3001\u91cd\u307f\u3092\u30b0\u30eb\u30fc\u30d7\u306b\u5206\u3051\u3001\u305d\u308c\u305e\u308c\u306e\u30b0\u30eb\u30fc\u30d7\u3067\u4f7f\u7528\u3059\u308b\u30b9\u30b1\u30fc\u30eb\u3082\u6700\u9069\u5316\u3059\u308b<a href=\"#ref3\">[3]<\/a>\u3002<\/p>\n<p>\u30b9\u30b1\u30fc\u30eb\u306f\u3001\u91cf\u5b50\u5316\u3067\u4f7f\u7528\u3059\u308b\u6570\u5024\u306e\u9593\u9694\u3084\u7bc4\u56f2\u3092\u8abf\u6574\u3059\u308b\u305f\u3081\u306e\u5024\u3067\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u540c\u3058\u6574\u6570\u306e\u4ee3\u8868\u5024\u3092\u4f7f\u7528\u3057\u3066\u3082\u3001\u30b9\u30b1\u30fc\u30eb\u3092\u5909\u66f4\u3059\u308c\u3070\u3001\u5143\u306e\u6d6e\u52d5\u5c0f\u6570\u70b9\u6570\u3068\u3057\u3066\u8868\u73fe\u3067\u304d\u308b\u5024\u306e\u7bc4\u56f2\u304c\u5909\u308f\u308b\u3002\u5404\u30b0\u30eb\u30fc\u30d7\u306e\u91cd\u307f\u306e\u5206\u5e03\u306b\u5408\u308f\u305b\u3066\u30b9\u30b1\u30fc\u30eb\u3092\u9078\u629e\u3059\u308c\u3070\u3001\u5e83\u3044\u7bc4\u56f2\u306b\u5206\u5e03\u3059\u308b\u91cd\u307f\u3068\u72ed\u3044\u7bc4\u56f2\u306b\u96c6\u4e2d\u3059\u308b\u91cd\u307f\u3092\u3001\u540c\u3058\u56fa\u5b9a\u9593\u9694\u3067\u6271\u3046\u5834\u5408\u3088\u308a\u9069\u5207\u306b\u8fd1\u4f3c\u3067\u304d\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002GSQ \u3067\u306f\u3001\u3053\u306e\u30b9\u30b1\u30fc\u30eb\u306e\u8abf\u6574\u3068\u3001\u5404\u91cd\u307f\u3092\u3069\u306e\u5019\u88dc\u3078\u5272\u308a\u5f53\u3066\u308b\u304b\u3068\u3044\u3046\u9078\u629e\u3092\u7d44\u307f\u5408\u308f\u305b\u3066\u6700\u9069\u5316\u3059\u308b\u3002<\/p>\n<p>GSQ \u306e\u7279\u5fb4\u306f\u3001\u91cf\u5b50\u5316\u5f8c\u306e\u5024\u3092\u901a\u5e38\u306e\u30b9\u30ab\u30e9\u30fc\u91cf\u5b50\u5316\u3068\u3057\u3066\u8868\u73fe\u3067\u304d\u308b\u70b9\u306b\u3082\u3042\u308b\u3002\u8907\u6570\u306e\u91cd\u307f\u3092\u307e\u3068\u3081\u3066\u8907\u96d1\u306a\u7b26\u53f7\u3078\u5909\u63db\u3059\u308b\u65b9\u5f0f\u3067\u306f\u3001\u5fa9\u53f7\u3084\u6f14\u7b97\u306e\u305f\u3081\u306b\u5c02\u7528\u306e\u5b9f\u88c5\u304c\u5fc5\u8981\u306b\u306a\u308b\u5834\u5408\u304c\u3042\u308b\u3002GSQ \u306f\u3001\u65e2\u5b58\u306e\u30b9\u30ab\u30e9\u30fc\u91cf\u5b50\u5316\u306e\u5f62\u5f0f\u306b\u5bfe\u5fdc\u3055\u305b\u306a\u304c\u3089\u7cbe\u5ea6\u3092\u6539\u5584\u3059\u308b\u3053\u3068\u3092\u76ee\u6307\u3057\u3066\u3044\u308b\u3002\u8ad6\u6587\u3067\u306f\u30012 \u30d3\u30c3\u30c8\u304a\u3088\u3073 3 \u30d3\u30c3\u30c8\u306e\u91cf\u5b50\u5316\u3001\u65e2\u5b58\u306e GGUF \u5f62\u5f0f\u306e\u91cd\u307f\u3078\u306e\u9069\u7528\u3001\u5927\u898f\u6a21\u306a\u5c02\u9580\u5bb6\u6df7\u5408\u30e2\u30c7\u30eb\u3078\u306e\u9069\u7528\u306a\u3069\u304c\u5831\u544a\u3055\u308c\u3066\u3044\u308b<a href=\"#ref3\">[3]<\/a>\u3002<\/p>\n<p>\u3053\u306e\u65b9\u6cd5\u3067\u8abf\u6574\u3055\u308c\u308b\u306e\u306f\u3001\u9650\u3089\u308c\u305f\u4ee3\u8868\u5024\u306b\u3088\u3063\u3066\u5143\u306e\u91cd\u307f\u3092\u3069\u306e\u3088\u3046\u306b\u8fd1\u4f3c\u3059\u308b\u304b\u3067\u3042\u308b\u3002\u6570\u5024\u8868\u73fe\u306e\u5236\u7d04\u5185\u3067\u8fd1\u4f3c\u3092\u6539\u5584\u3059\u308b\u3053\u3068\u306b\u306f\u610f\u5473\u304c\u3042\u308b\u304c\u3001\u305d\u306e\u52b9\u679c\u304c\u6700\u7d42\u7684\u306a\u56de\u7b54\u54c1\u8cea\u3078\u3069\u306e\u7a0b\u5ea6\u53cd\u6620\u3055\u308c\u308b\u304b\u306f\u3001\u91cf\u5b50\u5316\u5f8c\u306e\u30e2\u30c7\u30eb\u3092\u5b9f\u969b\u306b\u8a55\u4fa1\u3059\u308b\u3053\u3068\u3067\u5224\u65ad\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<h3>2.2 \u7cbe\u5ea6\u306e\u914d\u5206\u3092\u6700\u9069\u5316\u3059\u308b RCO<\/h3>\n<p>RCO\uff08Riemannian Constrained Optimization\uff09\u306f\u3001\u7dcf\u5bb9\u91cf\u306e\u5236\u7d04\u3092\u6e80\u305f\u3057\u306a\u304c\u3089\u3001\u91cd\u307f\u7fa4\u3054\u3068\u306b\u7570\u306a\u308b\u5727\u7e2e\u65b9\u6cd5\u3092\u5272\u308a\u5f53\u3066\u308b\u305f\u3081\u306e\u6700\u9069\u5316\u624b\u6cd5\u3067\u3042\u308b\u3002\u3042\u308b\u91cd\u307f\u7fa4\u3067\u306f 2 \u30d3\u30c3\u30c8\u306e\u91cf\u5b50\u5316\u3092\u63a1\u7528\u3057\u3001\u5225\u306e\u91cd\u307f\u7fa4\u3067\u306f 3 \u30d3\u30c3\u30c8\u3084 4 \u30d3\u30c3\u30c8\u3092\u4f7f\u7528\u3059\u308b\u3088\u3046\u306a\u7d44\u307f\u5408\u308f\u305b\u3092\u8003\u3048\u308b\u3002\u3059\u3079\u3066\u306e\u91cd\u307f\u3092\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u5b58\u3059\u308c\u3070\u5bb9\u91cf\u304c\u5897\u52a0\u3059\u308b\u4e00\u65b9\u3001\u3059\u3079\u3066\u3092\u4e00\u5f8b\u306b\u4f4e\u30d3\u30c3\u30c8\u5316\u3059\u308c\u3070\u3001\u6570\u5024\u8aa4\u5dee\u306b\u654f\u611f\u306a\u90e8\u5206\u307e\u3067\u540c\u3058\u7cbe\u5ea6\u3067\u51e6\u7406\u3059\u308b\u3053\u3068\u306b\u306a\u308b\u3002\u5bb9\u91cf\u306e\u4e0a\u9650\u304c\u3042\u308b\u5834\u5408\u306b\u306f\u3001\u3069\u306e\u90e8\u5206\u3078\u8ffd\u52a0\u306e\u30d3\u30c3\u30c8\u6570\u3092\u5272\u308a\u5f53\u3066\u308b\u304b\u304c\u8a2d\u8a08\u4e0a\u306e\u9078\u629e\u306b\u306a\u308b\u3002<\/p>\n<p>\u3053\u306e\u554f\u984c\u3092\u6570\u5f0f\u3067\u8868\u3059\u305f\u3081\u3001\u30e2\u30c7\u30eb\u306e\u91cd\u307f\u3092 \\(n\\) \u500b\u306e\u30b0\u30eb\u30fc\u30d7\u3078\u5206\u5272\u3057\u3001\u30b0\u30eb\u30fc\u30d7 \\(i\\) \u306b\u5272\u308a\u5f53\u3066\u308b\u91cf\u5b50\u5316\u5f62\u5f0f\u3092 \\(q_i\\) \u3068\u3059\u308b\u3002\u5404\u5f62\u5f0f\u3092\u63a1\u7528\u3057\u305f\u5834\u5408\u306e\u4fdd\u5b58\u5bb9\u91cf\u3092 \\(s_i(q_i)\\)\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u640d\u5931\u3092 \\(L(q_1,\\ldots,q_n)\\)\u3001\u4f7f\u7528\u3067\u304d\u308b\u7dcf\u5bb9\u91cf\u306e\u4e0a\u9650\u3092 \\(B\\) \u3068\u7f6e\u304f\u3002\u6700\u9069\u5316\u306e\u76ee\u7684\u306f\u3001\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\min_{q_1,\\ldots,q_n} L(q_1,\\ldots,q_n)<br \/>\n\\quad<br \/>\n\\text{subject to}<br \/>\n\\quad<br \/>\n\\sum_{i=1}^{n}s_i(q_i)\\leq B<br \/>\n\\]<\/p>\n<p>\u5de6\u5074\u306f\u3001\u5404\u91cd\u307f\u7fa4\u3078\u306e\u91cf\u5b50\u5316\u5f62\u5f0f\u306e\u5272\u308a\u5f53\u3066\u3092\u5909\u3048\u306a\u304c\u3089\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u640d\u5931\u3092\u5c0f\u3055\u304f\u3059\u308b\u76ee\u7684\u3092\u8868\u3059\u3002\u53f3\u5074\u306f\u3001\u305d\u308c\u305e\u308c\u306e\u91cd\u307f\u7fa4\u304c\u4f7f\u7528\u3059\u308b\u5bb9\u91cf\u306e\u5408\u8a08\u3092\u3001\u4e0a\u9650 \\(B\\) \u4ee5\u4e0b\u306b\u53ce\u3081\u308b\u5236\u7d04\u3067\u3042\u308b\u3002\u3053\u3053\u3067\u306e\u640d\u5931 \\(L\\) \u306f\u3001\u500b\u3005\u306e\u91cd\u307f\u306e\u6570\u5024\u5dee\u3092\u5358\u7d14\u306b\u5408\u8a08\u3057\u305f\u3082\u306e\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u3042\u308b\u30b0\u30eb\u30fc\u30d7\u306e\u91cf\u5b50\u5316\u8aa4\u5dee\u304c\u5225\u306e\u30b0\u30eb\u30fc\u30d7\u306e\u6f14\u7b97\u3068\u7d44\u307f\u5408\u308f\u3055\u308c\u3066\u51fa\u529b\u3078\u5f71\u97ff\u3059\u308b\u305f\u3081\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u640d\u5931\u306f\u5404\u30b0\u30eb\u30fc\u30d7\u3078\u306e\u5272\u308a\u5f53\u3066\u306b\u4f9d\u5b58\u3059\u308b\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001\u4e8c\u3064\u306e\u91cd\u307f\u7fa4 A \u3068 B \u304c\u3042\u308a\u3001\u7247\u65b9\u3060\u3051\u3092\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u5b58\u3067\u304d\u308b\u5bb9\u91cf\u304c\u4e0e\u3048\u3089\u308c\u3066\u3044\u308b\u3068\u3059\u308b\u3002A \u306e\u6570\u5024\u8aa4\u5dee\u304c\u6bd4\u8f03\u7684\u5927\u304d\u304f\u3066\u3082\u3001\u6700\u7d42\u51fa\u529b\u3078\u306e\u5f71\u97ff\u304c\u5c0f\u3055\u3044\u5834\u5408\u304c\u3042\u308b\u3002\u4e00\u65b9\u3001B \u306e\u6570\u5024\u8aa4\u5dee\u304c\u5c0f\u3055\u304f\u3066\u3082\u3001\u305d\u306e\u8aa4\u5dee\u304c\u5f8c\u7d9a\u306e\u6f14\u7b97\u3067\u5897\u5e45\u3055\u308c\u3001\u30e2\u30c7\u30eb\u306e\u640d\u5931\u3092\u5897\u52a0\u3055\u305b\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u3053\u306e\u6761\u4ef6\u3067\u306f\u3001\u91cd\u307f\u306e\u6570\u5024\u8aa4\u5dee\u3060\u3051\u3092\u6bd4\u8f03\u3057\u3066 A \u3078\u8ffd\u52a0\u306e\u30d3\u30c3\u30c8\u6570\u3092\u5272\u308a\u5f53\u3066\u308b\u3068\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u640d\u5931\u3092\u6700\u5c0f\u5316\u3067\u304d\u306a\u3044\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u7cbe\u5ea6\u914d\u5206\u3067\u306f\u3001\u500b\u3005\u306e\u91cd\u307f\u7fa4\u306e\u8fd1\u4f3c\u8aa4\u5dee\u3060\u3051\u3067\u306a\u304f\u3001\u91cd\u307f\u7fa4\u3069\u3046\u3057\u306e\u95a2\u4fc2\u3092\u542b\u3080\u640d\u5931\u3092\u8003\u616e\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>RCO \u306f\u3001\u3053\u306e\u5272\u308a\u5f53\u3066\u554f\u984c\u3092\u9023\u7d9a\u7684\u306a\u6700\u9069\u5316\u3068\u3057\u3066\u6271\u3044\u3001\u5bb9\u91cf\u5236\u7d04\u3092\u4fdd\u3061\u306a\u304c\u3089\u640d\u5931\u3092\u6539\u5584\u3059\u308b\u65b9\u5411\u3092\u63a2\u7d22\u3059\u308b\u3002\u8ad6\u6587\u3067\u306f\u3001\u5236\u7d04\u3092\u6e80\u305f\u3059\u9023\u7d9a\u7684\u306a\u5272\u308a\u5f53\u3066\u306e\u63a2\u7d22\u3068\u3001\u6700\u7d42\u7684\u306b\u96e2\u6563\u7684\u306a\u9078\u629e\u3078\u5909\u63db\u3059\u308b\u51e6\u7406\u3092\u7d44\u307f\u5408\u308f\u305b\u3066\u3044\u308b\u3002\u9023\u7d9a\u7684\u306a\u63a2\u7d22\u3067\u306f\u671f\u5f85\u5bb9\u91cf\u306e\u5236\u7d04\u3092\u7dad\u6301\u3057\u3001\u96e2\u6563\u7684\u306a\u9078\u629e\u306b\u3064\u3044\u3066\u3082\u5bb9\u91cf\u5236\u7d04\u3092\u6e80\u305f\u3059\u3088\u3046\u306b\u51e6\u7406\u3059\u308b<a href=\"#ref4\">[4]<\/a>\u3002\u3053\u308c\u306b\u3088\u308a\u3001\u5bb9\u91cf\u306e\u8d85\u904e\u3092\u5f8c\u304b\u3089\u8abf\u6574\u3059\u308b\u65b9\u6cd5\u3068\u306f\u7570\u306a\u308a\u3001\u5bb9\u91cf\u5236\u7d04\u3092\u6700\u9069\u5316\u306e\u5185\u90e8\u3078\u7d44\u307f\u8fbc\u3081\u308b\u3002<\/p>\n<p>GSQ \u3068 RCO \u306e\u95a2\u4fc2\u3092\u6574\u7406\u3059\u308b\u3068\u3001\u4e21\u8005\u304c\u7570\u306a\u308b\u9078\u629e\u3092\u6700\u9069\u5316\u3057\u3066\u3044\u308b\u3053\u3068\u304c\u5206\u304b\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u6bd4\u8f03\u9805\u76ee<\/th>\n<th>GSQ<\/th>\n<th>RCO<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>\u4e3b\u306a\u6700\u9069\u5316\u5bfe\u8c61<\/td>\n<td>\u5404\u91cd\u307f\u306e\u91cf\u5b50\u5316\u5024\u3078\u306e\u5272\u308a\u5f53\u3066\u3068\u3001\u30b0\u30eb\u30fc\u30d7\u3054\u3068\u306e\u30b9\u30b1\u30fc\u30eb\u3092\u6700\u9069\u5316\u3059\u308b\u3002<\/td>\n<td>\u91cd\u307f\u7fa4\u3054\u3068\u306e\u5727\u7e2e\u5f62\u5f0f\u306e\u5272\u308a\u5f53\u3066\u3092\u3001\u7dcf\u5bb9\u91cf\u306e\u5236\u7d04\u4e0b\u3067\u6700\u9069\u5316\u3059\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u4e0e\u3048\u3089\u308c\u308b\u5236\u7d04<\/td>\n<td>\u63a1\u7528\u3059\u308b\u91cf\u5b50\u5316\u5f62\u5f0f\u3067\u8868\u73fe\u3067\u304d\u308b\u5019\u88dc\u5024\u306e\u6570\u3084\u914d\u7f6e\u306b\u5236\u7d04\u304c\u3042\u308b\u3002<\/td>\n<td>\u9078\u629e\u3059\u308b\u5727\u7e2e\u5f62\u5f0f\u306e\u7d44\u307f\u5408\u308f\u305b\u306b\u3088\u3063\u3066\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u4fdd\u5b58\u5bb9\u91cf\u304c\u5909\u5316\u3059\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u6700\u9069\u5316\u306e\u65b9\u6cd5<\/td>\n<td>\u96e2\u6563\u7684\u306a\u5019\u88dc\u306e\u9078\u629e\u3092 Gumbel-Softmax \u306b\u3088\u3063\u3066\u8fd1\u4f3c\u3057\u3001\u52fe\u914d\u3092\u5229\u7528\u3057\u3066\u5272\u308a\u5f53\u3066\u3068\u30b9\u30b1\u30fc\u30eb\u3092\u8abf\u6574\u3059\u308b\u3002<\/td>\n<td>\u5bb9\u91cf\u5236\u7d04\u3092\u6e80\u305f\u3059\u9023\u7d9a\u7684\u306a\u63a2\u7d22\u3068\u3001\u5b9f\u884c\u53ef\u80fd\u306a\u96e2\u6563\u7684\u5272\u308a\u5f53\u3066\u3078\u306e\u5909\u63db\u3092\u7d44\u307f\u5408\u308f\u305b\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u6539\u5584\u3092\u76ee\u6307\u3059\u6027\u8cea<\/td>\n<td>\u4f4e\u30d3\u30c3\u30c8\u306e\u30b9\u30ab\u30e9\u30fc\u91cf\u5b50\u5316\u306b\u304a\u3044\u3066\u3001\u5143\u306e\u91cd\u307f\u3092\u8fd1\u4f3c\u3059\u308b\u7cbe\u5ea6\u3092\u6539\u5584\u3059\u308b\u3002<\/td>\n<td>\u9650\u3089\u308c\u305f\u7dcf\u5bb9\u91cf\u306e\u4e2d\u3067\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u640d\u5931\u3092\u5c0f\u3055\u304f\u3059\u308b\u5727\u7e2e\u5f62\u5f0f\u306e\u7d44\u307f\u5408\u308f\u305b\u3092\u6c42\u3081\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u8ffd\u52a0\u3067\u5fc5\u8981\u306a\u691c\u8a3c<\/td>\n<td>\u91cf\u5b50\u5316\u5f8c\u306e\u30e2\u30c7\u30eb\u3067\u3001\u5bfe\u8c61\u3068\u306a\u308b\u5165\u529b\u3084\u8ab2\u984c\u306b\u5bfe\u3059\u308b\u54c1\u8cea\u304c\u7dad\u6301\u3055\u308c\u308b\u304b\u3092\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<td>\u6c42\u3081\u305f\u5272\u308a\u5f53\u3066\u304c\u5bb9\u91cf\u5236\u7d04\u3092\u6e80\u305f\u3057\u3001\u5b9f\u969b\u306e\u30e2\u30c7\u30eb\u6027\u80fd\u3092\u3069\u306e\u7a0b\u5ea6\u7dad\u6301\u3067\u304d\u308b\u304b\u3092\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u3053\u306e\u4e8c\u3064\u306e\u624b\u6cd5\u306f\u3001\u540c\u3058\u91cf\u5b50\u5316\u3068\u3044\u3046\u64cd\u4f5c\u306e\u4e2d\u3067\u7570\u306a\u308b\u5f79\u5272\u3092\u62c5\u3063\u3066\u3044\u308b\u3002GSQ \u306f\u3001\u3042\u308b\u6570\u5024\u8868\u73fe\u3092\u63a1\u7528\u3059\u308b\u3068\u6c7a\u3081\u305f\u7bc4\u56f2\u3067\u3001\u5143\u306e\u91cd\u307f\u3092\u3069\u306e\u3088\u3046\u306b\u8fd1\u4f3c\u3059\u308b\u304b\u3092\u8abf\u6574\u3059\u308b\u3002RCO \u306f\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u5bb9\u91cf\u5236\u7d04\u306e\u4e0b\u3067\u3001\u3069\u306e\u91cd\u307f\u7fa4\u3078\u3069\u306e\u5727\u7e2e\u5f62\u5f0f\u3092\u5272\u308a\u5f53\u3066\u308b\u304b\u3092\u8abf\u6574\u3059\u308b\u3002\u524d\u8005\u306b\u3088\u3063\u3066\u5404\u91cf\u5b50\u5316\u5f62\u5f0f\u306e\u8fd1\u4f3c\u7cbe\u5ea6\u3092\u6539\u5584\u3057\u3001\u5f8c\u8005\u306b\u3088\u3063\u3066\u7cbe\u5ea6\u306e\u914d\u5206\u3092\u6700\u9069\u5316\u3059\u308b\u3053\u3068\u3067\u3001\u9650\u3089\u308c\u305f\u5bb9\u91cf\u3092\u7570\u306a\u308b\u91cd\u307f\u7fa4\u3078\u5272\u308a\u5f53\u3066\u308b\u8a2d\u8a08\u304c\u6210\u7acb\u3059\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\u4e21\u8005\u3092\u7d44\u307f\u5408\u308f\u305b\u3066\u5f97\u3089\u308c\u308b\u6700\u9069\u5316\u7d50\u679c\u306f\u3001\u63a1\u7528\u3057\u305f\u640d\u5931\u95a2\u6570\u3001\u8a55\u4fa1\u306b\u4f7f\u7528\u3059\u308b\u30c7\u30fc\u30bf\u3001\u91cf\u5b50\u5316\u5f62\u5f0f\u306e\u5019\u88dc\u3001\u5bb9\u91cf\u5236\u7d04\u306b\u4f9d\u5b58\u3059\u308b\u3002\u3042\u308b\u5165\u529b\u5206\u5e03\u3067\u640d\u5931\u3092\u5c0f\u3055\u304f\u3059\u308b\u5272\u308a\u5f53\u3066\u304c\u898b\u3064\u304b\u3063\u3066\u3082\u3001\u5225\u306e\u5165\u529b\u5206\u5e03\u3084\u8ab2\u984c\u3067\u540c\u3058\u6027\u80fd\u304c\u7dad\u6301\u3055\u308c\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u305f\u3068\u3048\u3070\u3001\u4e00\u822c\u7684\u306a\u6587\u7ae0\u3092\u4e2d\u5fc3\u3068\u3057\u305f\u30c7\u30fc\u30bf\u3067\u91cf\u5b50\u5316\u3092\u6700\u9069\u5316\u3057\u305f\u5834\u5408\u3001\u305d\u306e\u7d50\u679c\u304c\u6570\u5b66\u7684\u63a8\u8ad6\u3084\u30b3\u30fc\u30c9\u751f\u6210\u306e\u6027\u80fd\u3092\u540c\u3058\u5272\u5408\u3067\u7dad\u6301\u3059\u308b\u3053\u3068\u307e\u3067\u4fdd\u8a3c\u3059\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002\u5727\u7e2e\u6642\u306b\u4f7f\u7528\u3057\u305f\u8a55\u4fa1\u6761\u4ef6\u3068\u3001\u5b9f\u969b\u306b\u80fd\u529b\u3092\u5224\u5b9a\u3059\u308b\u6761\u4ef6\u3092\u5bfe\u5fdc\u3055\u305b\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u4f4e\u30d3\u30c3\u30c8\u91cf\u5b50\u5316\u306e\u6210\u679c\u3092\u8a55\u4fa1\u3059\u308b\u969b\u306b\u306f\u3001\u4fdd\u5b58\u5bb9\u91cf\u306e\u524a\u6e1b\u3001\u91cf\u5b50\u5316\u5f8c\u306e\u91cd\u307f\u306e\u8fd1\u4f3c\u7cbe\u5ea6\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u56de\u7b54\u54c1\u8cea\u3092\u5206\u3051\u3066\u78ba\u8a8d\u3067\u304d\u308b\u3002\u4fdd\u5b58\u5bb9\u91cf\u306f\u30d5\u30a1\u30a4\u30eb\u5f62\u5f0f\u3084\u5404\u91cf\u5b50\u5316\u5f62\u5f0f\u306e\u5272\u308a\u5f53\u3066\u304b\u3089\u8a08\u7b97\u3067\u304d\u308b\u3002\u91cd\u307f\u306e\u8fd1\u4f3c\u7cbe\u5ea6\u306f\u3001\u5143\u306e\u5024\u3068\u306e\u5dee\u3092\u6e2c\u5b9a\u3059\u308b\u3053\u3068\u3067\u8a55\u4fa1\u3067\u304d\u308b\u3002\u56de\u7b54\u54c1\u8cea\u306b\u3064\u3044\u3066\u306f\u3001\u91cf\u5b50\u5316\u5f8c\u306e\u30e2\u30c7\u30eb\u3078\u5b9f\u969b\u306b\u5165\u529b\u3092\u4e0e\u3048\u3001\u5143\u30e2\u30c7\u30eb\u3068\u306e\u6b63\u7b54\u7387\u3084\u8ab2\u984c\u306e\u6210\u529f\u7387\u3092\u6bd4\u8f03\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u5bb9\u91cf\u5236\u7d04\u3092\u6e80\u305f\u3059\u3053\u3068\u3068\u3001\u30e2\u30c7\u30eb\u306e\u80fd\u529b\u3092\u7dad\u6301\u3059\u308b\u3053\u3068\u306f\u3001\u540c\u3058\u5727\u7e2e\u624b\u6cd5\u306e\u8a55\u4fa1\u3067\u3042\u3063\u3066\u3082\u5225\u306e\u8a3c\u62e0\u306b\u3088\u3063\u3066\u78ba\u8a8d\u3055\u308c\u308b\u3002<\/p>\n<p>\u3053\u306e\u533a\u5225\u306f\u3001\u30e2\u30c7\u30eb\u5185\u306e\u4e00\u90e8\u306e\u91cd\u307f\u3092\u4f4e\u30d3\u30c3\u30c8\u5316\u3057\u3001\u5225\u306e\u90e8\u5206\u3092\u5143\u306e\u7cbe\u5ea6\u3067\u4fdd\u6301\u3059\u308b\u69cb\u6210\u306b\u3082\u9069\u7528\u3055\u308c\u308b\u3002\u9ad8\u7cbe\u5ea6\u3067\u6b8b\u3057\u305f\u90e8\u5206\u306b\u306f\u3001\u305d\u306e\u90e8\u5206\u306e\u91cf\u5b50\u5316\u306b\u3088\u308b\u6570\u5024\u8aa4\u5dee\u304c\u751f\u3058\u306a\u3044\u3002\u4e00\u65b9\u3001\u4f4e\u30d3\u30c3\u30c8\u5316\u3057\u305f\u90e8\u5206\u306b\u306f\u5143\u306e\u91cd\u307f\u3068\u306e\u5dee\u304c\u6b8b\u308a\u3001\u305d\u306e\u5dee\u304c\u5165\u529b\u3084\u5f8c\u7d9a\u306e\u6f14\u7b97\u3068\u7d44\u307f\u5408\u308f\u3055\u308c\u3066\u51fa\u529b\u3078\u5f71\u97ff\u3059\u308b\u3002\u3069\u306e\u90e8\u5206\u3078\u7cbe\u5ea6\u3092\u5272\u308a\u5f53\u3066\u308b\u304b\u3068\u3044\u3046\u8a2d\u8a08\u4e0a\u306e\u5224\u65ad\u3068\u3001\u5b9f\u969b\u306b\u3069\u306e\u80fd\u529b\u304c\u7dad\u6301\u3055\u308c\u305f\u304b\u3068\u3044\u3046\u8a55\u4fa1\u4e0a\u306e\u5224\u65ad\u3092\u5206\u96e2\u3059\u308b\u3053\u3068\u3067\u3001\u5727\u7e2e\u5f8c\u306e\u30e2\u30c7\u30eb\u306b\u3064\u3044\u3066\u6839\u62e0\u306e\u3042\u308b\u7d50\u8ad6\u3092\u5c0e\u3051\u308b\u3002<\/p>\n<hr>\n<h2>3. \u8a08\u7b97\u3059\u308b\u91cd\u307f\u3068\u53c2\u7167\u3059\u308b\u91cd\u307f\u306f\u5f79\u5272\u304c\u7570\u306a\u308b<\/h2>\n<p>\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u306b\u306f\u3001\u5165\u529b\u3055\u308c\u305f\u60c5\u5831\u3092\u5909\u63db\u3059\u308b\u305f\u3081\u306e\u91cd\u307f\u3068\u3001\u5165\u529b\u306b\u5bfe\u5fdc\u3059\u308b\u60c5\u5831\u3092\u53d6\u308a\u51fa\u3059\u305f\u3081\u306e\u91cd\u307f\u304c\u5b58\u5728\u3059\u308b\u3002\u524d\u8005\u306f\u884c\u5217\u6f14\u7b97\u306a\u3069\u306b\u4f7f\u7528\u3055\u308c\u3001\u5f8c\u8005\u306f\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304b\u3089\u5fc5\u8981\u306a\u5024\u3092\u9078\u629e\u3059\u308b\u51e6\u7406\u306b\u4f7f\u7528\u3055\u308c\u308b\u3002\u4e21\u8005\u306f\u540c\u3058\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u3067\u3042\u3063\u3066\u3082\u3001\u5b9f\u884c\u6642\u306b\u5fc5\u8981\u3068\u306a\u308b\u6f14\u7b97\u91cf\u3084\u30e1\u30e2\u30ea\u30fc\u30a2\u30af\u30bb\u30b9\u306e\u6027\u8cea\u304c\u7570\u306a\u308b\u3002\u3053\u306e\u9055\u3044\u306f\u3001\u3069\u306e\u91cd\u307f\u3092\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u5b58\u3059\u308b\u304b\u3068\u3044\u3046\u8a2d\u8a08\u3060\u3051\u3067\u306a\u304f\u3001\u3069\u306e\u8a18\u61b6\u88c5\u7f6e\u3078\u914d\u7f6e\u3057\u3001\u3069\u306e\u30bf\u30a4\u30df\u30f3\u30b0\u3067\u8aad\u307f\u51fa\u3059\u304b\u3068\u3044\u3046\u5b9f\u88c5\u6761\u4ef6\u306b\u3082\u95a2\u4fc2\u3059\u308b\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001\u884c\u5217\u6f14\u7b97\u3067\u306f\u5165\u529b\u30d9\u30af\u30c8\u30eb\u3068\u591a\u6570\u306e\u91cd\u307f\u3092\u7d44\u307f\u5408\u308f\u305b\u3066\u7d50\u679c\u3092\u8a08\u7b97\u3059\u308b\u3002\u4f7f\u7528\u3059\u308b\u91cd\u307f\u3092\u4f4e\u30d3\u30c3\u30c8\u5316\u3059\u308c\u3070\u3001\u4fdd\u5b58\u5bb9\u91cf\u306b\u52a0\u3048\u3066\u3001\u6f14\u7b97\u6642\u306b\u8ee2\u9001\u3059\u308b\u30c7\u30fc\u30bf\u91cf\u3092\u524a\u6e1b\u3067\u304d\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u4e00\u65b9\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3067\u306f\u3001\u5165\u529b\u304b\u3089\u6c7a\u307e\u308b\u4f4d\u7f6e\u3092\u6307\u5b9a\u3057\u3001\u305d\u306e\u4f4d\u7f6e\u306b\u4fdd\u5b58\u3055\u308c\u305f\u5024\u3092\u53d6\u5f97\u3059\u308b\u3002\u30c6\u30fc\u30d6\u30eb\u5168\u4f53\u306e\u5bb9\u91cf\u304c\u5927\u304d\u304f\u3066\u3082\u3001\u5404\u5165\u529b\u3067\u53c2\u7167\u3059\u308b\u9805\u76ee\u304c\u9650\u3089\u308c\u3066\u3044\u308c\u3070\u3001\u8aad\u307f\u51fa\u3059\u30c7\u30fc\u30bf\u91cf\u306f\u30c6\u30fc\u30d6\u30eb\u5168\u4f53\u306e\u5bb9\u91cf\u3088\u308a\u5c0f\u3055\u304f\u306a\u308b\u3002\u305f\u3060\u3057\u3001\u53c2\u7167\u3059\u308b\u4f4d\u7f6e\u304c\u5206\u6563\u3057\u3066\u3044\u308b\u5834\u5408\u306b\u306f\u3001\u9023\u7d9a\u3057\u305f\u30c7\u30fc\u30bf\u3092\u8aad\u307f\u51fa\u3059\u51e6\u7406\u3068\u306f\u7570\u306a\u308b\u30e1\u30e2\u30ea\u30fc\u30a2\u30af\u30bb\u30b9\u306e\u8ca0\u62c5\u304c\u751f\u3058\u308b\u3002<\/p>\n<p>\u65e2\u7a3f\u3067\u306f\u3001\u8a08\u7b97\u91cf\u3084\u6570\u5024\u7cbe\u5ea6\u306a\u3069\u306e\u8cc7\u6e90\u3092\u3001\u6027\u80fd\u3078\u306e\u5bc4\u4e0e\u304c\u5927\u304d\u3044\u90e8\u5206\u306b\u9078\u629e\u7684\u306b\u6b8b\u3059\u8a2d\u8a08\u3092\u8ad6\u3058\u305f<a href=\"#ref5\">[5]<\/a>\u3002\u307e\u305f\u3001\u4e09\u5024 LLM \u3092\u984c\u6750\u306b\u3001\u4fdd\u5b58\u5f62\u5f0f\u3092\u5727\u7e2e\u3057\u3066\u3082\u5fa9\u53f7\u3084\u5b9f\u884c\u306b\u5fc5\u8981\u306a\u51e6\u7406\u304c\u6b8b\u308a\u3001\u305d\u306e\u51e6\u7406\u3092\u3069\u3053\u3067\u5b9f\u884c\u3059\u308b\u304b\u306b\u3088\u3063\u3066\u6027\u80fd\u304c\u5909\u5316\u3059\u308b\u3053\u3068\u3092\u6574\u7406\u3057\u305f<a href=\"#ref6\">[6]<\/a>\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u5206\u96e2\u3059\u308b\u69cb\u6210\u306b\u3082\u3001\u4fdd\u5b58\u5bb9\u91cf\u3068\u5b9f\u884c\u6642\u306e\u51e6\u7406\u3092\u533a\u5225\u3059\u308b\u8003\u3048\u65b9\u304c\u9069\u7528\u3067\u304d\u308b\u3002\u305f\u3060\u3057\u3001\u3053\u3053\u3067\u306e\u9055\u3044\u306f\u5727\u7e2e\u30c7\u30fc\u30bf\u3092\u5fa9\u53f7\u3059\u308b\u5834\u6240\u3060\u3051\u3067\u306a\u304f\u3001\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u3092\u884c\u5217\u6f14\u7b97\u306b\u5229\u7528\u3059\u308b\u306e\u304b\u3001\u5165\u529b\u304b\u3089\u6c7a\u307e\u308b\u4f4d\u7f6e\u306e\u53c2\u7167\u306b\u5229\u7528\u3059\u308b\u306e\u304b\u3068\u3044\u3046\u51e6\u7406\u65b9\u5f0f\u305d\u306e\u3082\u306e\u306b\u3042\u308b\u3002<\/p>\n<h3>3.1 \u884c\u5217\u6f14\u7b97\u3068\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3067\u306f\u30c7\u30fc\u30bf\u306e\u4f7f\u3044\u65b9\u304c\u7570\u306a\u308b<\/h3>\n<p>\u4e00\u822c\u7684\u306a\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u306e\u7dda\u5f62\u5909\u63db\u3067\u306f\u3001\u5165\u529b\u30d9\u30af\u30c8\u30eb\u3068\u91cd\u307f\u884c\u5217\u306e\u7a4d\u3092\u8a08\u7b97\u3059\u308b\u3002\u5165\u529b\u304c\u5909\u308f\u308c\u3070\u6f14\u7b97\u7d50\u679c\u3082\u5909\u308f\u308b\u304c\u3001\u540c\u3058\u5c64\u306e\u8a08\u7b97\u3067\u306f\u591a\u6570\u306e\u91cd\u307f\u304c\u7e70\u308a\u8fd4\u3057\u5229\u7528\u3055\u308c\u308b\u3002\u3053\u3046\u3057\u305f\u51e6\u7406\u3067\u306f\u3001GPU \u306e\u6f14\u7b97\u6027\u80fd\u3068\u3001\u91cd\u307f\u3092\u6f14\u7b97\u88c5\u7f6e\u3078\u4f9b\u7d66\u3059\u308b\u30e1\u30e2\u30ea\u30fc\u5e2f\u57df\u304c\u5b9f\u884c\u6642\u9593\u3092\u5de6\u53f3\u3059\u308b\u3002\u91cd\u307f\u306e\u4fdd\u5b58\u5bb9\u91cf\u304c\u5927\u304d\u3044\u5834\u5408\u3001\u5fc5\u8981\u306a\u30c7\u30fc\u30bf\u3092\u6f14\u7b97\u306b\u9593\u306b\u5408\u3046\u901f\u5ea6\u3067\u8ee2\u9001\u3059\u308b\u3053\u3068\u304c\u5236\u7d04\u306b\u306a\u308b\u3002<\/p>\n<p>\u5c02\u9580\u5bb6\u6df7\u5408\u30e2\u30c7\u30eb\uff08Mixture of Experts\u3001MoE\uff09\u3067\u306f\u3001\u3053\u306e\u69cb\u9020\u306b\u6761\u4ef6\u4ed8\u304d\u306e\u8a08\u7b97\u304c\u52a0\u308f\u308b\u3002MoE \u306f\u8907\u6570\u306e\u5c02\u9580\u5bb6\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u3092\u6301\u3061\u3001\u5165\u529b\u306b\u5fdc\u3058\u3066\u4e00\u90e8\u306e\u5c02\u9580\u5bb6\u3092\u9078\u629e\u3059\u308b\u3002\u3059\u3079\u3066\u306e\u5c02\u9580\u5bb6\u3092\u5404\u30c8\u30fc\u30af\u30f3\u3067\u540c\u6642\u306b\u5b9f\u884c\u3059\u308b\u4ee3\u308f\u308a\u306b\u3001\u9078\u629e\u3055\u308c\u305f\u5c02\u9580\u5bb6\u306e\u91cd\u307f\u3092\u4f7f\u7528\u3059\u308b\u305f\u3081\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u6570\u3068\u3001\u500b\u3005\u306e\u30c8\u30fc\u30af\u30f3\u306e\u51e6\u7406\u3067\u5b9f\u969b\u306b\u4f7f\u7528\u3055\u308c\u308b\u30d1\u30e9\u30e1\u30fc\u30bf\u6570\u3092\u5206\u96e2\u3067\u304d\u308b\u3002\u305f\u3060\u3057\u3001\u3069\u306e\u5c02\u9580\u5bb6\u3092\u4f7f\u7528\u3059\u308b\u304b\u306f\u30e2\u30c7\u30eb\u5185\u90e8\u306e\u72b6\u614b\u306b\u3088\u3063\u3066\u6c7a\u307e\u308a\u3001\u9078\u629e\u3055\u308c\u305f\u5c02\u9580\u5bb6\u306b\u3064\u3044\u3066\u306f\u901a\u5e38\u306e\u884c\u5217\u6f14\u7b97\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<p>\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3067\u306f\u3001\u30c7\u30fc\u30bf\u306e\u53d6\u5f97\u65b9\u6cd5\u304c\u7570\u306a\u308b\u3002\u5165\u529b\u304b\u3089\u53c2\u7167\u4f4d\u7f6e\u3092\u8a08\u7b97\u3057\u3001\u305d\u306e\u4f4d\u7f6e\u306b\u5bfe\u5fdc\u3059\u308b\u884c\u3092\u53d6\u308a\u51fa\u3059\u305f\u3081\u3001\u30c6\u30fc\u30d6\u30eb\u5168\u4f53\u3092\u884c\u5217\u6f14\u7b97\u3078\u6295\u5165\u3059\u308b\u5fc5\u8981\u304c\u306a\u3044\u3002\u305f\u3068\u3048\u3070\u30011 \u5104\u884c\u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304c\u5b58\u5728\u3057\u3066\u3082\u3001\u3042\u308b\u5165\u529b\u3067\u53d6\u5f97\u3059\u308b\u884c\u304c\u6570\u5341\u884c\u306b\u9650\u3089\u308c\u308b\u306a\u3089\u3001\u305d\u306e\u5165\u529b\u306b\u5bfe\u3059\u308b\u53c2\u7167\u51e6\u7406\u306f\u6307\u5b9a\u3055\u308c\u305f\u884c\u306e\u53d6\u5f97\u3092\u4e2d\u5fc3\u306b\u69cb\u6210\u3067\u304d\u308b\u3002\u3082\u3061\u308d\u3093\u3001\u5b9f\u969b\u306e\u8aad\u307f\u51fa\u3057\u91cf\u306b\u306f\u884c\u306e\u9577\u3055\u3001\u30ad\u30e3\u30c3\u30b7\u30e5\u306e\u72b6\u614b\u3001\u30c7\u30fc\u30bf\u306e\u914d\u7f6e\u306a\u3069\u304c\u95a2\u4fc2\u3059\u308b\u304c\u3001\u5168\u884c\u3092\u4e00\u5ea6\u306b\u6f14\u7b97\u3078\u4f7f\u7528\u3059\u308b\u65b9\u6cd5\u3068\u306f\u7570\u306a\u308b\u3002<\/p>\n<p>\u3053\u306e\u9055\u3044\u306b\u3088\u3063\u3066\u3001\u30e2\u30c7\u30eb\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u6570\u3092\u5897\u3084\u3059\u3053\u3068\u3068\u3001\u5404\u30c8\u30fc\u30af\u30f3\u306e\u8a08\u7b97\u91cf\u3092\u5897\u3084\u3059\u3053\u3068\u306e\u95a2\u4fc2\u304c\u5909\u308f\u308b\u3002\u884c\u5217\u6f14\u7b97\u7528\u306e\u91cd\u307f\u3092\u8ffd\u52a0\u3059\u308c\u3070\u3001\u8ffd\u52a0\u3057\u305f\u91cd\u307f\u3092\u5229\u7528\u3059\u308b\u8a08\u7b97\u3084\u30c7\u30fc\u30bf\u8ee2\u9001\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002\u4e00\u65b9\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u884c\u6570\u3092\u5897\u3084\u3057\u3066\u3082\u3001\u5404\u5165\u529b\u3067\u53c2\u7167\u3059\u308b\u884c\u6570\u3092\u4e00\u5b9a\u306b\u4fdd\u3066\u308b\u306a\u3089\u3001\u53c2\u7167\u5bfe\u8c61\u5168\u4f53\u306e\u5bb9\u91cf\u3068\u4e00\u56de\u306e\u53c2\u7167\u3067\u53d6\u5f97\u3059\u308b\u30c7\u30fc\u30bf\u91cf\u3092\u5206\u96e2\u3067\u304d\u308b\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u5229\u7528\u3059\u308b\u8a2d\u8a08\u306f\u3001\u3053\u306e\u6027\u8cea\u306b\u3088\u3063\u3066\u5927\u898f\u6a21\u306a\u60c5\u5831\u306e\u4fdd\u5b58\u3068\u9078\u629e\u7684\u306a\u5229\u7528\u3092\u4e21\u7acb\u3055\u305b\u308b\u3002<\/p>\n<h3>3.2 Engram \u306f\u5165\u529b\u306e\u4e00\u90e8\u304b\u3089\u53c2\u7167\u4f4d\u7f6e\u3092\u6c7a\u5b9a\u3059\u308b<\/h3>\n<p>Engram \u306f\u3001\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u306b\u6761\u4ef6\u4ed8\u304d\u306e\u8a18\u61b6\u53c2\u7167\u3092\u7d44\u307f\u8fbc\u3080\u4ed5\u7d44\u307f\u3067\u3042\u308b\u3002\u5165\u529b\u3055\u308c\u305f\u30c8\u30fc\u30af\u30f3\u5217\u304b\u3089 n-gram \u3068\u547c\u3070\u308c\u308b\u9023\u7d9a\u3057\u305f\u30c8\u30fc\u30af\u30f3\u306e\u7d44\u307f\u5408\u308f\u305b\u3092\u53d6\u308a\u51fa\u3057\u3001\u305d\u306e\u7d44\u307f\u5408\u308f\u305b\u306b\u5bfe\u5fdc\u3059\u308b\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u3092\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304b\u3089\u53d6\u5f97\u3059\u308b\u3002\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u3068\u306f\u3001\u5165\u529b\u3055\u308c\u305f\u60c5\u5831\u3092\u5f8c\u7d9a\u306e\u6570\u5024\u8a08\u7b97\u3067\u6271\u3048\u308b\u3088\u3046\u306b\u8868\u73fe\u3057\u305f\u6570\u5024\u306e\u5217\u3067\u3042\u308b\u3002Engram \u306e\u5143\u7814\u7a76\u3067\u306f\u3001\u3053\u3046\u3057\u305f\u53c2\u7167\u6a5f\u69cb\u3092 Transformer \u306e\u8a08\u7b97\u51e6\u7406\u3068\u7d44\u307f\u5408\u308f\u305b\u308b\u3053\u3068\u3067\u3001\u8a18\u61b6\u5bb9\u91cf\u3092\u5897\u3084\u3059\u65b9\u6cd5\u304c\u63d0\u6848\u3055\u308c\u3066\u3044\u308b<a href=\"#ref7\">[7]<\/a>\u3002<\/p>\n<p>n-gram \u306f\u3001\u9023\u7d9a\u3059\u308b n \u500b\u306e\u30c8\u30fc\u30af\u30f3\u3092\u4e00\u3064\u306e\u7d44\u307f\u5408\u308f\u305b\u3068\u3057\u3066\u6271\u3046\u65b9\u6cd5\u3067\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u5165\u529b\u304c A\u3001B\u3001C\u3001D \u3068\u3044\u3046\u56db\u3064\u306e\u30c8\u30fc\u30af\u30f3\u304b\u3089\u69cb\u6210\u3055\u308c\u308b\u5834\u5408\u30012-gram \u306b\u306f A-B\u3001B-C\u3001C-D \u304c\u542b\u307e\u308c\u30013-gram \u306b\u306f A-B-C\u3001B-C-D \u304c\u542b\u307e\u308c\u308b\u3002\u3053\u3053\u3067\u306e\u30c8\u30fc\u30af\u30f3\u306f\u3001\u5fc5\u305a\u3057\u3082\u81ea\u7136\u8a00\u8a9e\u306e\u5358\u8a9e\u3068\u4e00\u81f4\u3059\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002\u30e2\u30c7\u30eb\u306e\u30c8\u30fc\u30af\u30f3\u5206\u5272\u65b9\u5f0f\u306b\u3088\u3063\u3066\u306f\u3001\u5358\u8a9e\u306e\u4e00\u90e8\u5206\u3084\u8a18\u53f7\u3082\u30c8\u30fc\u30af\u30f3\u3068\u306a\u308b\u3002Engram \u306f\u3001\u3053\u306e\u3088\u3046\u306a\u30c8\u30fc\u30af\u30f3\u306e\u4e26\u3073\u3092\u53c2\u7167\u4f4d\u7f6e\u3092\u6c7a\u3081\u308b\u305f\u3081\u306e\u624b\u639b\u304b\u308a\u3068\u3057\u3066\u5229\u7528\u3059\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\u53ef\u80fd\u306a n-gram \u306e\u7d44\u307f\u5408\u308f\u305b\u3092\u3059\u3079\u3066\u500b\u5225\u306e\u884c\u3068\u3057\u3066\u4fdd\u5b58\u3059\u308b\u3068\u3001\u30c8\u30fc\u30af\u30f3\u306e\u7a2e\u985e\u304c\u5897\u3048\u308b\u306b\u3064\u308c\u3066\u5fc5\u8981\u306a\u30c6\u30fc\u30d6\u30eb\u306e\u898f\u6a21\u304c\u6025\u901f\u306b\u62e1\u5927\u3059\u308b\u3002Engram \u3067\u306f\u3001\u3053\u306e\u554f\u984c\u306b\u5bfe\u3057\u3066\u30cf\u30c3\u30b7\u30e5\u95a2\u6570\u3092\u5229\u7528\u3059\u308b\u3002\u30cf\u30c3\u30b7\u30e5\u95a2\u6570\u306f\u3001\u5165\u529b\u3055\u308c\u305f\u30c8\u30fc\u30af\u30f3\u306e\u7d44\u307f\u5408\u308f\u305b\u304b\u3089\u3001\u4e00\u5b9a\u306e\u7bc4\u56f2\u306b\u53ce\u307e\u308b\u6574\u6570\u5024\u3092\u8a08\u7b97\u3059\u308b\u4ed5\u7d44\u307f\u3067\u3042\u308b\u3002\u8a08\u7b97\u3055\u308c\u305f\u6574\u6570\u5024\u3092\u53c2\u7167\u4f4d\u7f6e\u3068\u3057\u3066\u4f7f\u7528\u3059\u308c\u3070\u3001\u53ef\u80fd\u306a\u7d44\u307f\u5408\u308f\u305b\u306e\u6570\u3092\u76f4\u63a5\u30c6\u30fc\u30d6\u30eb\u306e\u884c\u6570\u3078\u5bfe\u5fdc\u3055\u305b\u305a\u306b\u6e08\u3080\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001\u3042\u308b 2-gram \u304b\u3089\u53c2\u7167\u4f4d\u7f6e 120 \u304c\u8a08\u7b97\u3055\u308c\u308c\u3070\u3001\u5bfe\u5fdc\u3059\u308b\u30c6\u30fc\u30d6\u30eb\u306e 120 \u756a\u76ee\u306e\u884c\u3092\u53d6\u5f97\u3059\u308b\u3002\u5225\u306e 2-gram \u304b\u3089\u4f4d\u7f6e 850 \u304c\u8a08\u7b97\u3055\u308c\u308c\u3070\u3001\u305d\u306e\u884c\u3092\u53d6\u5f97\u3059\u308b\u3002\u3053\u3053\u3067\u306f\u3001\u3069\u306e\u4f4d\u7f6e\u3092\u53c2\u7167\u3059\u308b\u304b\u304c\u5165\u529b\u306e\u30c8\u30fc\u30af\u30f3\u5217\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u305f\u3081\u3001\u53c2\u7167\u5bfe\u8c61\u3092\u6c7a\u5b9a\u3059\u308b\u305f\u3081\u306b\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u5168\u4f53\u306e\u6f14\u7b97\u7d50\u679c\u3092\u5f85\u3064\u5fc5\u8981\u304c\u306a\u3044\u3002Engram \u306e\u5143\u7814\u7a76\u3067\u306f\u3001\u53c2\u7167\u4f4d\u7f6e\u3092\u6c7a\u5b9a\u3067\u304d\u308b\u6027\u8cea\u3092\u5229\u7528\u3057\u3001\u5fc5\u8981\u306a\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u3092\u4e8b\u524d\u306b\u8aad\u307f\u51fa\u3059\u65b9\u6cd5\u3082\u691c\u8a0e\u3055\u308c\u3066\u3044\u308b<a href=\"#ref7\">[7]<\/a>\u3002<\/p>\n<p>\u30cf\u30c3\u30b7\u30e5\u95a2\u6570\u306b\u306f\u3001\u7570\u306a\u308b\u5165\u529b\u304c\u540c\u3058\u53c2\u7167\u4f4d\u7f6e\u3078\u5bfe\u5fdc\u3059\u308b\u885d\u7a81\u3068\u3044\u3046\u6027\u8cea\u304c\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u7570\u306a\u308b\u4e8c\u3064\u306e n-gram \u304c\u540c\u3058\u6574\u6570\u5024\u3078\u5909\u63db\u3055\u308c\u308c\u3070\u3001\u540c\u3058\u30c6\u30fc\u30d6\u30eb\u306e\u884c\u3092\u53c2\u7167\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002Engram \u3067\u306f\u3001\u8907\u6570\u306e\u30cf\u30c3\u30b7\u30e5\u8a08\u7b97\u3092\u7d44\u307f\u5408\u308f\u305b\u308b\u3053\u3068\u3067\u3001\u3053\u306e\u885d\u7a81\u304c\u60c5\u5831\u8868\u73fe\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u3092\u6291\u3048\u308b\u8a2d\u8a08\u3092\u63a1\u7528\u3057\u3066\u3044\u308b\u3002\u307e\u305f\u3001\u30c8\u30fc\u30af\u30f3\u8868\u8a18\u306e\u6b63\u898f\u5316\u306b\u3088\u3063\u3066\u3001\u8868\u8a18\u4e0a\u306e\u9055\u3044\u3092\u6301\u3064\u30c8\u30fc\u30af\u30f3\u3092\u5171\u901a\u306e\u8b58\u5225\u5b50\u3078\u5bfe\u5fdc\u3055\u305b\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u5229\u7528\u3059\u308b\u969b\u306e\u91cd\u8907\u3092\u6e1b\u3089\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\u3053\u306e\u4ed5\u7d44\u307f\u3067\u53d6\u5f97\u3055\u308c\u308b\u5024\u306f\u3001\u5165\u529b\u306e n-gram \u304b\u3089\u6c7a\u307e\u308b\u53c2\u7167\u7d50\u679c\u3067\u3042\u308b\u3002\u540c\u3058\u6b63\u898f\u5316\u898f\u5247\u3068\u30cf\u30c3\u30b7\u30e5\u95a2\u6570\u3092\u4f7f\u7528\u3057\u3001\u540c\u3058\u30c8\u30fc\u30af\u30f3\u5217\u3092\u5165\u529b\u3059\u308c\u3070\u3001\u540c\u3058\u53c2\u7167\u4f4d\u7f6e\u304c\u5f97\u3089\u308c\u308b\u3002\u4e00\u65b9\u3001\u53d6\u5f97\u3055\u308c\u305f\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u304c\u3001\u6700\u7d42\u7684\u306a\u56de\u7b54\u3067\u3069\u306e\u3088\u3046\u306b\u5229\u7528\u3055\u308c\u308b\u304b\u306f\u5225\u306e\u51e6\u7406\u3067\u6c7a\u307e\u308b\u3002Engram \u306b\u306f\u3001\u53d6\u5f97\u3057\u305f\u60c5\u5831\u3092\u305d\u306e\u307e\u307e\u51fa\u529b\u3078\u5909\u63db\u3059\u308b\u306e\u3067\u306f\u306a\u304f\u3001\u30e2\u30c7\u30eb\u5185\u90e8\u306e\u72b6\u614b\u3068\u7d44\u307f\u5408\u308f\u305b\u3066\u5229\u7528\u3059\u308b\u6a5f\u69cb\u304c\u542b\u307e\u308c\u3066\u3044\u308b\u3002<\/p>\n<h3>3.3 \u53c2\u7167\u3057\u305f\u60c5\u5831\u306f\u30e2\u30c7\u30eb\u5185\u90e8\u306e\u72b6\u614b\u3068\u7d44\u307f\u5408\u308f\u3055\u308c\u308b<\/h3>\n<p>Engram \u304c\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304b\u3089\u53d6\u308a\u51fa\u3059\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u306f\u3001\u5165\u529b\u306e\u5c40\u6240\u7684\u306a\u4e26\u3073\u306b\u57fa\u3065\u304f\u60c5\u5831\u3067\u3042\u308b\u3002\u540c\u3058 n-gram \u304b\u3089\u540c\u3058\u53c2\u7167\u4f4d\u7f6e\u304c\u5f97\u3089\u308c\u308b\u5834\u5408\u3001\u305d\u306e\u53c2\u7167\u4f4d\u7f6e\u306b\u4fdd\u5b58\u3055\u308c\u305f\u5024\u3082\u540c\u3058\u306b\u306a\u308b\u3002\u3057\u304b\u3057\u3001\u540c\u3058\u6587\u5b57\u5217\u3084\u5358\u8a9e\u306e\u4e26\u3073\u3067\u3042\u3063\u3066\u3082\u3001\u5468\u56f2\u306e\u6587\u8108\u306b\u3088\u3063\u3066\u610f\u5473\u3084\u5f79\u5272\u304c\u5909\u308f\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5024\u3060\u3051\u3067\u6700\u7d42\u7684\u306a\u610f\u5473\u3092\u6c7a\u5b9a\u3059\u308b\u3068\u3001\u6587\u8108\u306b\u3088\u308b\u9055\u3044\u3092\u5341\u5206\u306b\u53cd\u6620\u3067\u304d\u306a\u3044\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u305f\u3081\u3001Engram \u3067\u306f\u53c2\u7167\u3057\u305f\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u3092\u3001Transformer \u304c\u8a08\u7b97\u3057\u305f\u73fe\u5728\u306e\u5185\u90e8\u72b6\u614b\u3068\u7d44\u307f\u5408\u308f\u305b\u308b\u3002\u5143\u7814\u7a76\u3067\u306f\u3001\u6587\u8108\u306b\u5fdc\u3058\u3066\u53c2\u7167\u60c5\u5831\u306e\u5bc4\u4e0e\u3092\u8abf\u6574\u3059\u308b\u30b2\u30fc\u30c8\u6a5f\u69cb\u304c\u63a1\u7528\u3055\u308c\u3066\u3044\u308b\u3002\u30b2\u30fc\u30c8\u306f\u3001\u53d6\u5f97\u3057\u305f\u60c5\u5831\u3092\u5f8c\u7d9a\u306e\u8a08\u7b97\u3078\u3069\u306e\u7a0b\u5ea6\u53cd\u6620\u3059\u308b\u304b\u3092\u6c7a\u3081\u308b\u6570\u5024\u7684\u306a\u8abf\u6574\u6a5f\u69cb\u3067\u3042\u308b\u3002\u5165\u529b\u306e\u6587\u8108\u3068\u53c2\u7167\u3057\u305f\u60c5\u5831\u306e\u5bfe\u5fdc\u304c\u9069\u5207\u3067\u3042\u308c\u3070\u3001\u305d\u306e\u60c5\u5831\u3092\u8a08\u7b97\u3078\u53cd\u6620\u3057\u3001\u5bfe\u5fdc\u304c\u5c0f\u3055\u3044\u5834\u5408\u306b\u306f\u5bc4\u4e0e\u3092\u6291\u3048\u308b\u65b9\u5411\u306b\u50cd\u304f\u3002<\/p>\n<p>\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304b\u3089\u53d6\u5f97\u3057\u305f\u30d9\u30af\u30c8\u30eb\u3092 \\(e\\)\u3001\u6587\u8108\u306b\u57fa\u3065\u3044\u3066\u8a08\u7b97\u3055\u308c\u305f\u30b2\u30fc\u30c8\u306e\u5024\u3092 \\(\\alpha\\)\u3001\u53c2\u7167\u3057\u305f\u30d9\u30af\u30c8\u30eb\u3092\u5909\u63db\u3059\u308b\u91cd\u307f\u884c\u5217\u3092 \\(W_V\\) \u3068\u3059\u308b\u3068\u3001\u30b2\u30fc\u30c8\u3092\u901a\u904e\u3057\u305f\u60c5\u5831\u306e\u4e00\u90e8\u306f\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\nu=\\alpha W_V e<br \/>\n\\]<\/p>\n<p>\u3053\u3053\u3067 \\(e\\) \u306f\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306b\u4fdd\u5b58\u3055\u308c\u305f\u60c5\u5831\u3001\\(W_V e\\) \u306f\u305d\u306e\u60c5\u5831\u3092\u5f8c\u7d9a\u306e\u8a08\u7b97\u3067\u5229\u7528\u3067\u304d\u308b\u5f62\u3078\u5909\u63db\u3057\u305f\u5024\u3001\\(\\alpha\\) \u306f\u6587\u8108\u306b\u5fdc\u3058\u3066\u5bc4\u4e0e\u3092\u8abf\u6574\u3059\u308b\u4fc2\u6570\u3067\u3042\u308b\u3002\u3053\u306e\u5f0f\u306f Engram \u306e\u30b2\u30fc\u30c8\u51e6\u7406\u3092\u5358\u7d14\u5316\u3057\u3066\u8868\u3057\u305f\u3082\u306e\u3067\u3042\u308a\u3001\u5b9f\u969b\u306e\u5b9f\u88c5\u306b\u306f\u6b63\u898f\u5316\u3084\u8ffd\u52a0\u306e\u5909\u63db\u51e6\u7406\u3082\u542b\u307e\u308c\u308b\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5024\u304c\u540c\u4e00\u3067\u3082\u3001\u5909\u63db\u306b\u4f7f\u3046 \\(W_V\\) \u3084\u30b2\u30fc\u30c8\u306e\u5024 \\(\\alpha\\) \u304c\u5909\u5316\u3059\u308c\u3070\u3001\u5f8c\u7d9a\u306e\u8a08\u7b97\u3078\u6e21\u3055\u308c\u308b \\(u\\) \u306f\u5909\u5316\u3059\u308b\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001\u5143\u30e2\u30c7\u30eb\u3068\u91cf\u5b50\u5316\u30e2\u30c7\u30eb\u3067\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5024 \\(e\\) \u304c\u5b8c\u5168\u306b\u4e00\u81f4\u3057\u3066\u3044\u308b\u5834\u5408\u3092\u8003\u3048\u308b\u3002Backbone \u306e\u91cd\u307f\u304c\u91cf\u5b50\u5316\u3055\u308c\u3066\u3044\u308c\u3070\u3001\u6587\u8108\u3092\u8868\u3059\u5185\u90e8\u72b6\u614b\u3084\u30b2\u30fc\u30c8\u306e\u8a08\u7b97\u7d50\u679c\u304c\u5909\u5316\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u3055\u3089\u306b\u3001\u53c2\u7167\u30d9\u30af\u30c8\u30eb\u3092\u5909\u63db\u3059\u308b\u91cd\u307f\u306b\u91cf\u5b50\u5316\u8aa4\u5dee\u304c\u542b\u307e\u308c\u3066\u3044\u308c\u3070\u3001\u540c\u3058 \\(e\\) \u3092\u5165\u529b\u3057\u3066\u3082\u5909\u63db\u5f8c\u306e\u5024\u306b\u5dee\u304c\u751f\u3058\u5f97\u308b\u3002\u3053\u306e\u5dee\u306f\u5f8c\u7d9a\u306e\u5c64\u3078\u6e21\u3055\u308c\u3001\u6ce8\u610f\u6a5f\u69cb\u3084\u5c02\u9580\u5bb6\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u306e\u6f14\u7b97\u3092\u7d4c\u3066\u3001\u6700\u7d42\u7684\u306a\u30c8\u30fc\u30af\u30f3\u306e\u5019\u88dc\u30b9\u30b3\u30a2\u3078\u5f71\u97ff\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>Engram \u306e\u5143\u7814\u7a76\u3067\u306f\u3001\u30b2\u30fc\u30c8\u6a5f\u69cb\u306b\u52a0\u3048\u3066\u3001\u77ed\u3044\u7bc4\u56f2\u306e\u30c8\u30fc\u30af\u30f3\u9593\u306e\u95a2\u4fc2\u3092\u51e6\u7406\u3059\u308b\u7573\u307f\u8fbc\u307f\u6f14\u7b97\u3082\u7d44\u307f\u8fbc\u307e\u308c\u3066\u3044\u308b\u3002\u53d6\u5f97\u3057\u305f\u60c5\u5831\u3092\u6587\u8108\u306b\u5fdc\u3058\u3066\u8abf\u6574\u3057\u3001\u5f8c\u7d9a\u306e\u30cb\u30e5\u30fc\u30e9\u30eb\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u3078\u7d71\u5408\u3059\u308b\u3053\u3068\u3067\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u5358\u72ec\u306e\u691c\u7d22\u7d50\u679c\u3068\u3057\u3066\u5229\u7528\u3059\u308b\u306e\u3067\u306f\u306a\u304f\u3001\u30e2\u30c7\u30eb\u5185\u90e8\u306e\u8a08\u7b97\u306b\u53c2\u52a0\u3055\u305b\u308b\u69cb\u6210\u306b\u306a\u3063\u3066\u3044\u308b\u3002\u3053\u306e\u63a5\u7d9a\u306b\u3088\u3063\u3066\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u4fdd\u5b58\u7cbe\u5ea6\u3068\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u51fa\u529b\u7cbe\u5ea6\u3092\u5206\u3051\u3066\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u751f\u3058\u308b\u3002<\/p>\n<p>DeepSeek-V4.1-Flash \u306f\u3001\u3053\u306e\u3088\u3046\u306a Engram \u306e\u53c2\u7167\u6a5f\u69cb\u3092\u53d6\u308a\u5165\u308c\u305f\u30e2\u30c7\u30eb\u7cfb\u5217\u3067\u3042\u308b\u3002\u6280\u8853\u5831\u544a\u3067\u306f\u3001\u5927\u898f\u6a21\u306a\u5c02\u9580\u5bb6\u6df7\u5408\u30e2\u30c7\u30eb\u306e\u69cb\u6210\u306b\u52a0\u3048\u3001\u8a18\u61b6\u53c2\u7167\u3068\u8a08\u7b97\u51e6\u7406\u3092\u7d44\u307f\u5408\u308f\u305b\u308b\u8a2d\u8a08\u304c\u793a\u3055\u308c\u3066\u3044\u308b<a href=\"#ref8\">[8]<\/a>\u30021017 \u66f4\u65b0\u7248\u306e\u516c\u958b\u30e2\u30c7\u30eb\u3067\u306f\u3001\u57fa\u76e4\u3068\u306a\u308b\u91cd\u307f\u3068 Engram \u306e\u69cb\u6210\u3092\u78ba\u8a8d\u3067\u304d\u308b<a href=\"#ref9\">[9]<\/a>\u3002\u3055\u3089\u306b\u3001\u516c\u958b\u3055\u308c\u305f Engram \u306e\u5b9f\u88c5\u306b\u306f\u3001\u30c8\u30fc\u30af\u30f3\u8b58\u5225\u5b50\u306e\u6b63\u898f\u5316\u3001\u30cf\u30c3\u30b7\u30e5\u8a08\u7b97\u3001\u53c2\u7167\u4f4d\u7f6e\u306e\u6c7a\u5b9a\u306b\u5fc5\u8981\u306a\u51e6\u7406\u304c\u542b\u307e\u308c\u3066\u3044\u308b<a href=\"#ref10\">[10]<\/a>\u3002<\/p>\n<h3>3.4 \u53c2\u7167\u4f4d\u7f6e\u3092\u4e8b\u524d\u306b\u6c7a\u3081\u3089\u308c\u308b\u3053\u3068\u304c\u30e1\u30e2\u30ea\u30fc\u914d\u7f6e\u3092\u5909\u3048\u308b<\/h3>\n<p>Engram \u306e\u53c2\u7167\u51e6\u7406\u306b\u306f\u3001\u5b9f\u884c\u6642\u306e\u30e1\u30e2\u30ea\u30fc\u914d\u7f6e\u306b\u3082\u95a2\u4fc2\u3059\u308b\u7279\u5fb4\u304c\u3042\u308b\u3002\u53c2\u7167\u4f4d\u7f6e\u304c\u5165\u529b\u30c8\u30fc\u30af\u30f3\u5217\u304b\u3089\u6c7a\u307e\u308b\u305f\u3081\u3001\u5fc5\u8981\u306a\u884c\u3092\u30e2\u30c7\u30eb\u5185\u90e8\u306e\u6f14\u7b97\u304c\u305d\u306e\u4f4d\u7f6e\u3078\u5230\u9054\u3059\u308b\u524d\u306b\u53d6\u5f97\u3067\u304d\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u3042\u308b\u5c64\u3067 Engram \u306e\u53c2\u7167\u7d50\u679c\u304c\u5fc5\u8981\u306b\u306a\u308b\u3053\u3068\u304c\u5206\u304b\u3063\u3066\u3044\u308c\u3070\u3001\u305d\u308c\u4ee5\u524d\u306e\u5c64\u304c\u8a08\u7b97\u3092\u5b9f\u884c\u3057\u3066\u3044\u308b\u9593\u306b\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304b\u3089\u8a72\u5f53\u3059\u308b\u884c\u3092\u8aad\u307f\u51fa\u3059\u51e6\u7406\u3092\u958b\u59cb\u3067\u304d\u308b\u3002\u8a08\u7b97\u3068\u30c7\u30fc\u30bf\u8ee2\u9001\u3092\u6642\u9593\u7684\u306b\u91cd\u306d\u308b\u3053\u3068\u3067\u3001\u53c2\u7167\u5f85\u3061\u306b\u3088\u308b\u505c\u6b62\u6642\u9593\u3092\u6e1b\u3089\u3059\u8a2d\u8a08\u304c\u53ef\u80fd\u306b\u306a\u308b\u3002<\/p>\n<p>\u3053\u306e\u6027\u8cea\u306f\u3001GPU \u306e\u9ad8\u901f\u306a\u30e1\u30e2\u30ea\u30fc\u3078\u3059\u3079\u3066\u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u914d\u7f6e\u3059\u308b\u5834\u5408\u3068\u3001\u5fc5\u8981\u306a\u884c\u3060\u3051\u3092 CPU \u5074\u306e\u30e1\u30e2\u30ea\u30fc\u304b\u3089\u8ee2\u9001\u3059\u308b\u5834\u5408\u306e\u9055\u3044\u306b\u3064\u306a\u304c\u308b\u3002GPU \u306e\u30e1\u30e2\u30ea\u30fc\u306b\u5168\u4f53\u3092\u4fdd\u6301\u3059\u308c\u3070\u3001\u53c2\u7167\u306b\u5fc5\u8981\u306a\u30c7\u30fc\u30bf\u3092\u9ad8\u901f\u306b\u53d6\u5f97\u3067\u304d\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u4e00\u65b9\u3001\u5927\u898f\u6a21\u306a Engram \u30c6\u30fc\u30d6\u30eb\u304c\u6f14\u7b97\u7528\u306e\u91cd\u307f\u3068\u30e1\u30e2\u30ea\u30fc\u5bb9\u91cf\u3092\u596a\u3044\u5408\u3046\u3002CPU \u5074\u306e\u30e1\u30e2\u30ea\u30fc\u3078\u914d\u7f6e\u3059\u308c\u3070 GPU \u306e\u30e1\u30e2\u30ea\u30fc\u4f7f\u7528\u91cf\u3092\u6291\u3048\u3089\u308c\u308b\u304c\u3001\u5fc5\u8981\u306a\u884c\u3092 PCIe \u306a\u3069\u306e\u63a5\u7d9a\u7d4c\u8def\u3092\u901a\u3058\u3066\u8ee2\u9001\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u8ee2\u9001\u91cf\u3068\u8ee2\u9001\u6642\u9593\u304c\u8a08\u7b97\u51e6\u7406\u306b\u9593\u306b\u5408\u3046\u304b\u3069\u3046\u304b\u304c\u3001\u5b9f\u884c\u6027\u80fd\u3092\u5de6\u53f3\u3059\u308b\u3002<\/p>\n<p>Engram \u306e\u5143\u7814\u7a76\u3067\u306f\u3001\u63a8\u8ad6\u6642\u306b CPU \u5074\u306e\u30e1\u30e2\u30ea\u30fc\u3078\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u914d\u7f6e\u3057\u3001\u5fc5\u8981\u306a\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u3092\u4e8b\u524d\u306b\u53d6\u5f97\u3057\u3066 GPU \u3078\u8ee2\u9001\u3059\u308b\u65b9\u6cd5\u304c\u691c\u8a0e\u3055\u308c\u3066\u3044\u308b<a href=\"#ref7\">[7]<\/a>\u3002\u53c2\u7167\u4f4d\u7f6e\u304c\u5165\u529b\u304b\u3089\u78ba\u5b9a\u3059\u308b\u305f\u3081\u3001\u5f8c\u7d9a\u306e\u5c64\u3067\u5fc5\u8981\u3068\u306a\u308b\u30c7\u30fc\u30bf\u3092\u524d\u3082\u3063\u3066\u6e96\u5099\u3067\u304d\u308b\u3002\u4e00\u65b9\u3001\u30e2\u30c7\u30eb\u5185\u306e\u65e9\u3044\u5c64\u3078 Engram \u3092\u914d\u7f6e\u3059\u308b\u3068\u3001\u53c2\u7167\u7d50\u679c\u3092\u5229\u7528\u3059\u308b\u307e\u3067\u306b\u5b9f\u884c\u3067\u304d\u308b\u8a08\u7b97\u304c\u5c11\u306a\u304f\u306a\u308a\u3001\u8ee2\u9001\u6642\u9593\u3092\u96a0\u3059\u4f59\u5730\u3082\u5c0f\u3055\u304f\u306a\u308b\u3002\u53c2\u7167\u60c5\u5831\u3092\u65e9\u3044\u6bb5\u968e\u3067\u5229\u7528\u3057\u305f\u3044\u3068\u3044\u3046\u30e2\u30c7\u30eb\u5074\u306e\u6761\u4ef6\u3068\u3001\u30c7\u30fc\u30bf\u8ee2\u9001\u3092\u8a08\u7b97\u3068\u91cd\u306d\u305f\u3044\u3068\u3044\u3046\u5b9f\u884c\u74b0\u5883\u5074\u306e\u6761\u4ef6\u304c\u3001\u914d\u7f6e\u4f4d\u7f6e\u306e\u9078\u629e\u306b\u5f71\u97ff\u3059\u308b\u3002<\/p>\n<p>\u3055\u3089\u306b\u3001\u53c2\u7167\u983b\u5ea6\u306b\u3088\u3063\u3066\u4fdd\u5b58\u5834\u6240\u3092\u5909\u3048\u308b\u65b9\u6cd5\u3082\u8003\u3048\u3089\u308c\u308b\u3002\u81ea\u7136\u8a00\u8a9e\u306e\u30c8\u30fc\u30af\u30f3\u306e\u7d44\u307f\u5408\u308f\u305b\u306b\u306f\u3001\u983b\u7e41\u306b\u51fa\u73fe\u3059\u308b\u3082\u306e\u3068\u3001\u307e\u308c\u306b\u3057\u304b\u51fa\u73fe\u3057\u306a\u3044\u3082\u306e\u304c\u3042\u308b\u3002\u983b\u7e41\u306b\u53c2\u7167\u3055\u308c\u308b\u884c\u3092 GPU \u306e\u30e1\u30e2\u30ea\u30fc\u3084 CPU \u5074\u306e\u30e1\u30e2\u30ea\u30fc\u3078\u4fdd\u6301\u3057\u3001\u53c2\u7167\u983b\u5ea6\u304c\u4f4e\u3044\u884c\u3092 SSD \u306a\u3069\u306e\u5927\u5bb9\u91cf\u30b9\u30c8\u30ec\u30fc\u30b8\u3078\u914d\u7f6e\u3059\u308c\u3070\u3001\u9ad8\u901f\u306a\u30e1\u30e2\u30ea\u30fc\u306e\u4f7f\u7528\u91cf\u3092\u524a\u6e1b\u3067\u304d\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u305f\u3060\u3057\u3001SSD \u304b\u3089\u8aad\u307f\u51fa\u3059\u5834\u5408\u306b\u306f\u3001\u30a2\u30af\u30bb\u30b9\u9045\u5ef6\u3084\u8aad\u307f\u51fa\u3057\u5358\u4f4d\u3001\u30ad\u30e3\u30c3\u30b7\u30e5\u306e\u547d\u4e2d\u7387\u304c\u6027\u80fd\u306b\u5f71\u97ff\u3059\u308b\u3002\u5143\u7814\u7a76\u3067\u793a\u3055\u308c\u305f CPU \u5074\u30e1\u30e2\u30ea\u30fc\u304b\u3089\u306e\u4e8b\u524d\u8ee2\u9001\u3068\u3001SSD \u3092\u542b\u3080\u591a\u6bb5\u968e\u306e\u4fdd\u5b58\u69cb\u6210\u306f\u3001\u5fc5\u8981\u3068\u306a\u308b\u5b9f\u884c\u6761\u4ef6\u3092\u533a\u5225\u3057\u3066\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u540c\u3058\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3067\u3082\u3001\u3069\u306e\u5834\u6240\u3078\u4fdd\u5b58\u3059\u308b\u304b\u306b\u3088\u3063\u3066\u3001\u5fc5\u8981\u306a\u30e1\u30e2\u30ea\u30fc\u5bb9\u91cf\u3001\u30c7\u30fc\u30bf\u8ee2\u9001\u91cf\u3001\u53c2\u7167\u5f85\u3061\u6642\u9593\u304c\u5909\u5316\u3059\u308b\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u6301\u3059\u308b\u3068\u4fdd\u5b58\u5bb9\u91cf\u306f\u5897\u52a0\u3059\u308b\u304c\u3001\u6bce\u56de\u53c2\u7167\u3059\u308b\u884c\u304c\u9650\u5b9a\u3055\u308c\u308b\u69cb\u9020\u3067\u3042\u308c\u3070\u3001\u30c6\u30fc\u30d6\u30eb\u5168\u4f53\u306e\u5bb9\u91cf\u304c\u305d\u306e\u307e\u307e\u4e00\u56de\u306e\u63a8\u8ad6\u3067\u8ee2\u9001\u3059\u308b\u5bb9\u91cf\u306b\u306a\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002\u4e00\u65b9\u3001\u5fc5\u8981\u306a\u884c\u3092\u53d6\u5f97\u3059\u308b\u51e6\u7406\u304c\u9045\u3051\u308c\u3070\u3001\u6f14\u7b97\u7528\u306e\u91cd\u307f\u3092\u4f4e\u30d3\u30c3\u30c8\u5316\u3057\u3066\u3082\u3001\u53c2\u7167\u5f85\u3061\u306b\u3088\u3063\u3066\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u51e6\u7406\u6642\u9593\u304c\u5897\u52a0\u3059\u308b\u5834\u5408\u304c\u3042\u308b\u3002<\/p>\n<p>\u8a08\u7b97\u7528\u306e\u91cd\u307f\u3068\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u9055\u3044\u3092\u3001\u4fdd\u5b58\u3068\u5b9f\u884c\u306e\u4e21\u9762\u304b\u3089\u6574\u7406\u3059\u308b\u3068\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u6bd4\u8f03\u9805\u76ee<\/th>\n<th>\u6f14\u7b97\u7528\u306e\u91cd\u307f<\/th>\n<th>Engram \u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb<\/th>\n<th>\u8a2d\u8a08\u30fb\u8a55\u4fa1\u3078\u306e\u5f71\u97ff<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>\u4e3b\u306a\u7528\u9014<\/td>\n<td>\u5165\u529b\u3055\u308c\u305f\u6570\u5024\u3068\u91cd\u307f\u3092\u7d44\u307f\u5408\u308f\u305b\u3001\u884c\u5217\u6f14\u7b97\u306a\u3069\u306b\u3088\u3063\u3066\u5185\u90e8\u72b6\u614b\u3092\u5909\u63db\u3059\u308b\u3002<\/td>\n<td>\u5165\u529b\u30c8\u30fc\u30af\u30f3\u5217\u304b\u3089\u6c7a\u307e\u308b\u53c2\u7167\u4f4d\u7f6e\u306b\u5bfe\u5fdc\u3057\u305f\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u3092\u53d6\u5f97\u3059\u308b\u3002<\/td>\n<td>\u540c\u3058\u30d1\u30e9\u30e1\u30fc\u30bf\u6570\u3067\u3082\u3001\u8a08\u7b97\u91cf\u3068\u30c7\u30fc\u30bf\u53d6\u5f97\u306e\u65b9\u6cd5\u304c\u7570\u306a\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u4f7f\u7528\u3059\u308b\u91cd\u307f\u306e\u7bc4\u56f2<\/td>\n<td>\u901a\u5e38\u306e\u7dda\u5f62\u5909\u63db\u3067\u306f\u591a\u6570\u306e\u91cd\u307f\u3092\u5229\u7528\u3057\u3001MoE \u3067\u306f\u9078\u629e\u3055\u308c\u305f\u5c02\u9580\u5bb6\u306e\u91cd\u307f\u3092\u5229\u7528\u3059\u308b\u3002<\/td>\n<td>\u5165\u529b\u304b\u3089\u6c7a\u5b9a\u3055\u308c\u305f\u53c2\u7167\u4f4d\u7f6e\u306b\u5bfe\u5fdc\u3059\u308b\u4e00\u90e8\u306e\u884c\u3092\u5229\u7528\u3059\u308b\u3002<\/td>\n<td>\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u5bb9\u91cf\u3068\u3001\u4e00\u56de\u306e\u5165\u529b\u3067\u4f7f\u7528\u3059\u308b\u30c7\u30fc\u30bf\u91cf\u3092\u533a\u5225\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u53c2\u7167\u5bfe\u8c61\u306e\u6c7a\u5b9a\u65b9\u6cd5<\/td>\n<td>\u8a08\u7b97\u3059\u308b\u5c64\u3084\u3001MoE \u306e\u5834\u5408\u306f\u30e2\u30c7\u30eb\u5185\u90e8\u306e\u72b6\u614b\u306b\u57fa\u3065\u304f\u5c02\u9580\u5bb6\u9078\u629e\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002<\/td>\n<td>\u5165\u529b\u30c8\u30fc\u30af\u30f3\u5217\u306e\u6b63\u898f\u5316\u3068 n-gram \u306e\u30cf\u30c3\u30b7\u30e5\u8a08\u7b97\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002<\/td>\n<td>Engram \u3067\u306f\u53c2\u7167\u4f4d\u7f6e\u3092\u4e8b\u524d\u306b\u8a08\u7b97\u3057\u3001\u8aad\u307f\u51fa\u3057\u3068\u6f14\u7b97\u3092\u91cd\u306d\u3089\u308c\u308b\u5834\u5408\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u6301\u3059\u308b\u52b9\u679c<\/td>\n<td>\u91cd\u307f\u306e\u91cf\u5b50\u5316\u306b\u7531\u6765\u3059\u308b\u6570\u5024\u5dee\u3092\u907f\u3051\u3089\u308c\u308b\u304c\u3001\u4fdd\u5b58\u5bb9\u91cf\u3084\u8ee2\u9001\u91cf\u304c\u5897\u52a0\u3059\u308b\u3002<\/td>\n<td>\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5024\u306b\u91cf\u5b50\u5316\u8aa4\u5dee\u3092\u5c0e\u5165\u305b\u305a\u306b\u4fdd\u5b58\u3067\u304d\u308b\u304c\u3001\u30c6\u30fc\u30d6\u30eb\u5168\u4f53\u306e\u5bb9\u91cf\u304c\u5897\u52a0\u3059\u308b\u3002<\/td>\n<td>\u3069\u306e\u90e8\u5206\u306e\u8aa4\u5dee\u3092\u56de\u907f\u3059\u308b\u304b\u3068\u3001\u5897\u52a0\u3059\u308b\u8cc7\u6e90\u8981\u6c42\u3092\u5bfe\u5fdc\u3055\u305b\u3066\u5224\u65ad\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u5b9f\u884c\u6642\u306e\u5236\u7d04<\/td>\n<td>\u6f14\u7b97\u6027\u80fd\u3001\u30e1\u30e2\u30ea\u30fc\u5e2f\u57df\u3001\u91cd\u307f\u306e\u914d\u7f6e\u3001\u4f4e\u30d3\u30c3\u30c8\u6f14\u7b97\u3078\u306e\u5bfe\u5fdc\u306a\u3069\u306b\u4f9d\u5b58\u3059\u308b\u3002<\/td>\n<td>\u53c2\u7167\u4f4d\u7f6e\u306e\u5206\u5e03\u3001\u30ad\u30e3\u30c3\u30b7\u30e5\u306e\u547d\u4e2d\u7387\u3001\u8aad\u307f\u51fa\u3057\u9045\u5ef6\u3001\u30c7\u30fc\u30bf\u8ee2\u9001\u91cf\u306a\u3069\u306b\u4f9d\u5b58\u3059\u308b\u3002<\/td>\n<td>\u4fdd\u5b58\u5bb9\u91cf\u306e\u524a\u6e1b\u7387\u3060\u3051\u3067\u306f\u63a8\u8ad6\u901f\u5ea6\u3092\u5224\u65ad\u3067\u304d\u306a\u3044\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u51fa\u529b\u3078\u306e\u5f71\u97ff<\/td>\n<td>\u91cd\u307f\u306e\u5909\u66f4\u304c\u5185\u90e8\u72b6\u614b\u306e\u8a08\u7b97\u7d50\u679c\u3092\u5909\u3048\u3001\u5f8c\u7d9a\u306e\u5c64\u3084\u30c8\u30fc\u30af\u30f3\u9078\u629e\u3078\u5f71\u97ff\u3059\u308b\u5834\u5408\u304c\u3042\u308b\u3002<\/td>\n<td>\u53d6\u5f97\u3057\u305f\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u304c\u5185\u90e8\u72b6\u614b\u3068\u7d71\u5408\u3055\u308c\u3001\u5f8c\u7d9a\u306e\u6f14\u7b97\u3078\u5f71\u97ff\u3059\u308b\u3002<\/td>\n<td>\u53c2\u7167\u5024\u306e\u4e00\u81f4\u3068\u6700\u7d42\u51fa\u529b\u306e\u4e00\u81f4\u3092\u3001\u305d\u308c\u305e\u308c\u72ec\u7acb\u3057\u305f\u6761\u4ef6\u3067\u691c\u8a3c\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u3053\u306e\u6bd4\u8f03\u304b\u3089\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u4fdd\u5b58\u5bb9\u91cf\u3092\u524a\u6e1b\u3059\u308b\u65b9\u6cd5\u3068\u3001\u5b9f\u884c\u6642\u306b\u5fc5\u8981\u306a\u8cc7\u6e90\u3092\u524a\u6e1b\u3059\u308b\u65b9\u6cd5\u304c\u5fc5\u305a\u3057\u3082\u4e00\u81f4\u3057\u306a\u3044\u3053\u3068\u304c\u5206\u304b\u308b\u3002\u6f14\u7b97\u7528\u306e\u91cd\u307f\u3092\u4f4e\u30d3\u30c3\u30c8\u5316\u3059\u308c\u3070\u3001\u6570\u5024\u8868\u73fe\u306e\u5909\u66f4\u306b\u3088\u308b\u8aa4\u5dee\u3068\u5f15\u304d\u63db\u3048\u306b\u3001\u4fdd\u5b58\u5bb9\u91cf\u3084\u8ee2\u9001\u91cf\u3092\u524a\u6e1b\u3067\u304d\u308b\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u6301\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u305d\u306e\u90e8\u5206\u306e\u91cf\u5b50\u5316\u8aa4\u5dee\u3092\u907f\u3051\u3089\u308c\u308b\u304c\u3001\u4fdd\u5b58\u5bb9\u91cf\u306e\u5897\u52a0\u3068\u5fc5\u8981\u306a\u884c\u3092\u8aad\u307f\u51fa\u3059\u51e6\u7406\u3092\u5f15\u304d\u53d7\u3051\u308b\u3053\u3068\u306b\u306a\u308b\u3002\u4e21\u8005\u306e\u7d44\u307f\u5408\u308f\u305b\u306b\u3088\u3063\u3066\u3001\u4fdd\u5b58\u7cbe\u5ea6\u3001\u30e1\u30e2\u30ea\u30fc\u914d\u7f6e\u3001\u8ee2\u9001\u91cf\u3001\u6f14\u7b97\u7d50\u679c\u304c\u7570\u306a\u308b\u6761\u4ef6\u3067\u6c7a\u307e\u308b\u69cb\u6210\u304c\u6210\u7acb\u3059\u308b\u3002<\/p>\n<p>\u3053\u3053\u3067\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5024\u3092\u5143\u306e\u7cbe\u5ea6\u3067\u4fdd\u6301\u3057\u305f\u3068\u3044\u3046\u4e8b\u5b9f\u304c\u4fdd\u8a3c\u3059\u308b\u7bc4\u56f2\u3092\u8003\u3048\u308b\u3002\u5143\u30e2\u30c7\u30eb\u3068\u5909\u66f4\u5f8c\u306e\u30e2\u30c7\u30eb\u3067\u3001Engram \u306e\u30c6\u30fc\u30d6\u30eb\u304c\u540c\u3058\u5024\u3092\u4fdd\u6301\u3057\u3001\u540c\u3058\u5165\u529b\u304b\u3089\u540c\u3058\u53c2\u7167\u4f4d\u7f6e\u3092\u8a08\u7b97\u3067\u304d\u308c\u3070\u3001\u53d6\u5f97\u3055\u308c\u308b\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u306e\u5024\u3082\u4e00\u81f4\u3059\u308b\u3002\u3057\u304b\u3057\u3001\u305d\u306e\u30d9\u30af\u30c8\u30eb\u3092\u5185\u90e8\u72b6\u614b\u3078\u7d44\u307f\u8fbc\u3080\u969b\u306b\u306f\u3001\u5909\u63db\u7528\u306e\u91cd\u307f\u3084\u30b2\u30fc\u30c8\u6a5f\u69cb\u306a\u3069\u306e\u6f14\u7b97\u304c\u52a0\u308f\u308b\u3002Backbone \u306e\u91cd\u307f\u304c\u4f4e\u30d3\u30c3\u30c8\u5316\u3055\u308c\u3066\u3044\u308c\u3070\u3001\u305d\u306e\u90e8\u5206\u306e\u8a08\u7b97\u7d50\u679c\u306b\u306f\u5143\u30e2\u30c7\u30eb\u3068\u306e\u5dee\u304c\u751f\u3058\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u4e00\u81f4\u306f\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u8a08\u7b97\u7d4c\u8def\u306e\u3046\u3061\u3001\u4fdd\u5b58\u5024\u3068\u5bfe\u5fdc\u3059\u308b\u53c2\u7167\u51e6\u7406\u306b\u3064\u3044\u3066\u306e\u4e00\u81f4\u3092\u78ba\u8a8d\u3059\u308b\u6761\u4ef6\u306b\u306a\u308b\u3002<\/p>\n<p>\u307e\u305f\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306b\u91cf\u5b50\u5316\u8aa4\u5dee\u304c\u751f\u3058\u306a\u3044\u3053\u3068\u306f\u3001\u305d\u306e\u60c5\u5831\u304c\u5fc5\u305a\u6b63\u3057\u3044\u56de\u7b54\u3078\u5bc4\u4e0e\u3059\u308b\u3053\u3068\u3068\u540c\u7fa9\u3067\u306f\u306a\u3044\u3002\u53c2\u7167\u4f4d\u7f6e\u304c\u30cf\u30c3\u30b7\u30e5\u8a08\u7b97\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u305f\u3081\u3001\u7570\u306a\u308b n-gram \u304c\u540c\u3058\u884c\u3078\u5bfe\u5fdc\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308a\u3001\u53d6\u5f97\u3057\u305f\u60c5\u5831\u3092\u5229\u7528\u3059\u308b\u969b\u306b\u306f\u6587\u8108\u306b\u5fdc\u3058\u305f\u8abf\u6574\u3082\u884c\u308f\u308c\u308b\u3002\u5143\u306e\u30c6\u30fc\u30d6\u30eb\u3092\u6b63\u78ba\u306b\u4fdd\u5b58\u3059\u308c\u3070\u3001\u30c6\u30fc\u30d6\u30eb\u306e\u6570\u5024\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f\u5f71\u97ff\u306f\u9664\u5916\u3067\u304d\u308b\u3002\u4e00\u65b9\u3001\u30cf\u30c3\u30b7\u30e5\u306b\u3088\u308b\u53c2\u7167\u306e\u6027\u8cea\u3084\u3001\u6587\u8108\u306b\u5fdc\u3058\u305f\u60c5\u5831\u306e\u7d71\u5408\u306f\u3001\u305d\u306e\u307e\u307e\u6b8b\u308b\u3002\u4fdd\u5b58\u7cbe\u5ea6\u3092\u7dad\u6301\u3057\u305f\u90e8\u5206\u3068\u3001\u5f15\u304d\u7d9a\u304d\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u51fa\u529b\u3078\u5f71\u97ff\u3059\u308b\u90e8\u5206\u3092\u533a\u5225\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u6f14\u7b97\u7528\u306e Backbone \u3092\u4f4e\u30d3\u30c3\u30c8\u5316\u3057\u3001Engram \u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3060\u3051\u3092\u5143\u306e\u7cbe\u5ea6\u3067\u4fdd\u6301\u3059\u308b\u8a2d\u8a08\u306f\u3001\u30d1\u30e9\u30e1\u30fc\u30bf\u306e\u5229\u7528\u65b9\u6cd5\u304c\u7570\u306a\u308b\u3053\u3068\u3092\u5229\u7528\u3057\u3066\u3044\u308b\u3002\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u5168\u4f53\u3092\u6bce\u56de\u306e\u884c\u5217\u6f14\u7b97\u3078\u4f7f\u7528\u3059\u308b\u5fc5\u8981\u304c\u306a\u3044\u305f\u3081\u3001\u9ad8\u7cbe\u5ea6\u306e\u5024\u3092\u6b8b\u3059\u3053\u3068\u3068\u3001\u3059\u3079\u3066\u306e\u6f14\u7b97\u7528\u91cd\u307f\u3092\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u6301\u3059\u308b\u3053\u3068\u306b\u306f\u7570\u306a\u308b\u8cc7\u6e90\u8981\u6c42\u304c\u751f\u3058\u308b\u3002\u3057\u304b\u3057\u3001\u53c2\u7167\u3057\u305f\u5024\u306f\u6700\u7d42\u7684\u306b Backbone \u306e\u8a08\u7b97\u7d4c\u8def\u3078\u7d44\u307f\u8fbc\u307e\u308c\u308b\u3002\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u5b58\u3055\u308c\u305f\u60c5\u5831\u304c\u3001\u305d\u306e\u5f8c\u306e\u4f4e\u30d3\u30c3\u30c8\u6f14\u7b97\u3092\u7d4c\u3066\u3069\u306e\u3088\u3046\u306a\u7d50\u679c\u306b\u306a\u308b\u304b\u306f\u3001\u5143\u30e2\u30c7\u30eb\u3068\u306e\u51fa\u529b\u6bd4\u8f03\u306b\u3088\u3063\u3066\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u3088\u3046\u306b\u3001Engram \u306e\u4fdd\u5b58\u5024\u304c\u4e00\u81f4\u3057\u3066\u3044\u308b\u3053\u3068\u306f\u3001\u30e2\u30c7\u30eb\u306e\u4e00\u90e8\u5206\u306b\u3064\u3044\u3066\u5143\u306e\u6570\u5024\u60c5\u5831\u304c\u4fdd\u6301\u3055\u308c\u3066\u3044\u308b\u3068\u3044\u3046\u660e\u78ba\u306a\u8a3c\u62e0\u306b\u306a\u308b\u3002\u4e00\u65b9\u3001\u305d\u306e\u60c5\u5831\u304c\u6700\u7d42\u7684\u306a\u56de\u7b54\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u306f\u3001\u53c2\u7167\u4f4d\u7f6e\u306e\u6c7a\u5b9a\u3001\u6587\u8108\u306b\u5fdc\u3058\u305f\u7d71\u5408\u3001\u5f8c\u7d9a\u306e\u6f14\u7b97\u3001\u30c8\u30fc\u30af\u30f3\u9078\u629e\u3068\u3044\u3046\u51e6\u7406\u306e\u7d50\u679c\u3068\u3057\u3066\u73fe\u308c\u308b\u3002\u4fdd\u5b58\u7cbe\u5ea6\u3092\u9ad8\u304f\u3059\u308b\u8a2d\u8a08\u306e\u610f\u5473\u306f\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u91cf\u5b50\u5316\u8aa4\u5dee\u3092\u56de\u907f\u3067\u304d\u308b\u70b9\u306b\u3042\u308b\u3002\u305d\u306e\u8a2d\u8a08\u304c\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u80fd\u529b\u3092\u3069\u306e\u7a0b\u5ea6\u7dad\u6301\u3059\u308b\u304b\u306f\u3001\u540c\u3058 Backbone \u306b\u7570\u306a\u308b\u7cbe\u5ea6\u306e Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u6bd4\u8f03\u306a\u3069\u3001\u5909\u66f4\u8981\u56e0\u3092\u5206\u96e2\u3057\u305f\u5b9f\u6e2c\u306b\u3088\u3063\u3066\u5224\u65ad\u3067\u304d\u308b\u3002<\/p>\n<hr>\n<h2>4. \u9ad8\u7cbe\u5ea6\u306e Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u30e2\u30c7\u30eb\u306e\u69cb\u6210<\/h2>\n<p>DeepSeek-V4.1-Flash-1017 \u306e\u6d3e\u751f\u30e2\u30c7\u30eb\u306b\u306f\u3001\u6f14\u7b97\u7528\u306e Backbone \u3092\u4f4e\u30d3\u30c3\u30c8\u5316\u3057\u305f\u69cb\u6210\u3068\u3001\u305d\u306e Backbone \u306b\u5143\u306e\u7cbe\u5ea6\u306e Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u69cb\u6210\u304c\u5b58\u5728\u3059\u308b\u3002\u4e21\u8005\u306e\u9055\u3044\u3092\u8abf\u3079\u308b\u3053\u3068\u3067\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u6570\u5024\u7cbe\u5ea6\u3092\u5909\u66f4\u3057\u305f\u5834\u5408\u306b\u3001\u4fdd\u5b58\u5bb9\u91cf\u3068\u30e2\u30c7\u30eb\u306e\u52d5\u4f5c\u304c\u3069\u306e\u3088\u3046\u306b\u5909\u5316\u3059\u308b\u304b\u3092\u691c\u8a0e\u3067\u304d\u308b\u3002\u305f\u3060\u3057\u3001\u4eca\u56de\u306e\u6d3e\u751f\u30e2\u30c7\u30eb\u306b\u306f\u3001\u91cf\u5b50\u5316\u3068 Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u306b\u52a0\u3048\u3066\u3001\u5fdc\u7b54\u62d2\u5426\u306b\u95a2\u4fc2\u3059\u308b\u5185\u90e8\u8868\u73fe\u306e\u5909\u66f4\u3082\u542b\u307e\u308c\u3066\u3044\u308b\u3002\u30e2\u30c7\u30eb\u306e\u6027\u80fd\u3092\u6bd4\u8f03\u3059\u308b\u969b\u306b\u306f\u3001\u3069\u306e\u5909\u66f4\u304c\u3069\u306e\u6bb5\u968e\u3067\u52a0\u3048\u3089\u308c\u305f\u304b\u3092\u7279\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u5143\u30e2\u30c7\u30eb\u306e DeepSeek-V4.1-Flash-1017 \u306f\u3001\u7d04 7632 \u5104\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u3092\u6301\u3064\u5927\u898f\u6a21\u306a\u5c02\u9580\u5bb6\u6df7\u5408\u30e2\u30c7\u30eb\u3067\u3042\u308b\u3002\u30e2\u30c7\u30eb\u5168\u4f53\u306b\u306f Transformer \u306e\u6f14\u7b97\u7528\u306e\u91cd\u307f\u3068 Engram \u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304c\u542b\u307e\u308c\u3001\u305d\u308c\u305e\u308c\u7570\u306a\u308b\u6570\u5024\u8868\u73fe\u3067\u4fdd\u5b58\u3055\u308c\u3066\u3044\u308b\u3002ISTA-DASLab \u306f\u3001\u3053\u306e\u69cb\u6210\u3092\u5229\u7528\u3057\u3066 Backbone \u3092 GSQ-RCO \u306b\u3088\u3063\u3066\u91cf\u5b50\u5316\u3057\u3001Engram \u3092\u5225\u306e\u5171\u6709\u30d5\u30a1\u30a4\u30eb\u3068\u3057\u3066\u4fdd\u6301\u3059\u308b GGUF \u5f62\u5f0f\u306e\u30e2\u30c7\u30eb\u3092\u516c\u958b\u3057\u305f<a href=\"#ref11\">[11]<\/a>\u3002GGUF \u306f\u3001\u30e2\u30c7\u30eb\u306e\u91cd\u307f\u3084\u69cb\u6210\u60c5\u5831\u3092\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u304c\u8aad\u307f\u8fbc\u3081\u308b\u5f62\u3067\u4fdd\u5b58\u3059\u308b\u30d5\u30a1\u30a4\u30eb\u5f62\u5f0f\u3067\u3042\u308a\u3001\u8907\u6570\u306e\u91cf\u5b50\u5316\u5f62\u5f0f\u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u91cd\u307f\u3082\u683c\u7d0d\u3067\u304d\u308b\u3002<\/p>\n<h3>4.1 ISTA-DASLab \u306b\u3088\u308b Backbone \u306e\u4f4e\u30d3\u30c3\u30c8\u91cf\u5b50\u5316<\/h3>\n<p>ISTA-DASLab \u306e\u516c\u958b\u30e2\u30c7\u30eb\u3067\u306f\u3001GSQ \u3068 RCO \u3092\u7d44\u307f\u5408\u308f\u305b\u3001\u91cd\u307f\u3054\u3068\u306e\u91cf\u5b50\u5316\u5f62\u5f0f\u3092\u7dcf\u5bb9\u91cf\u306e\u5236\u7d04\u4e0b\u3067\u5272\u308a\u5f53\u3066\u3066\u3044\u308b\u3002GSQ \u306f\u5404\u91cf\u5b50\u5316\u5f62\u5f0f\u3067\u5143\u306e\u91cd\u307f\u3092\u8fd1\u4f3c\u3059\u308b\u65b9\u6cd5\u3092\u6700\u9069\u5316\u3057\u3001RCO \u306f\u3069\u306e\u91cd\u307f\u3078\u3069\u306e\u5f62\u5f0f\u3092\u5272\u308a\u5f53\u3066\u308b\u304b\u3092\u6700\u9069\u5316\u3059\u308b\u3002\u3053\u306e\u305f\u3081\u3001\u30e2\u30c7\u30eb\u540d\u306b IQ2_XXS \u3068\u542b\u307e\u308c\u3066\u3044\u3066\u3082\u3001\u3059\u3079\u3066\u306e\u91cd\u307f\u304c\u4e00\u5f8b\u306b 2 \u30d3\u30c3\u30c8\u3067\u4fdd\u5b58\u3055\u308c\u3066\u3044\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002IQ2_XXS \u306e\u69cb\u6210\u3067\u306f\u3001Transformer \u306e\u91cd\u307f\u306b\u3064\u3044\u3066\u3001\u5e73\u5747\u7684\u306a\u4fdd\u5b58\u30d3\u30c3\u30c8\u6570\u304c\u91cd\u307f\u5f53\u305f\u308a 2.00 \u30d3\u30c3\u30c8\u3068\u306a\u308b\u3088\u3046\u306b\u3001\u8907\u6570\u306e\u91cf\u5b50\u5316\u5f62\u5f0f\u304c\u7d44\u307f\u5408\u308f\u3055\u308c\u3066\u3044\u308b\u3002<\/p>\n<p>\u3053\u306e\u5e73\u5747\u5024\u306f\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u3059\u3079\u3066\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u306b\u9069\u7528\u3055\u308c\u308b\u6570\u5024\u3067\u306f\u306a\u3044\u3002ISTA-DASLab \u306e\u8aac\u660e\u3067\u306f\u3001\u91cf\u5b50\u5316\u5f62\u5f0f\u306e\u5272\u308a\u5f53\u3066\u3092\u6700\u9069\u5316\u3059\u308b\u5bfe\u8c61\u306f\u3001\u7d04 5519 \u5104\u306e Transformer \u306e\u91cd\u307f\u3067\u3042\u308b\u3002\u4e00\u65b9\u3001Engram \u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306b\u306f\u7d04 1966 \u5104\u306e\u30d1\u30e9\u30e1\u30fc\u30bf\u304c\u3042\u308a\u3001IQ4_NL \u3068\u3044\u3046\u56fa\u5b9a\u3055\u308c\u305f\u91cf\u5b50\u5316\u5f62\u5f0f\u3067\u4fdd\u5b58\u3055\u308c\u308b\u3002IQ4_NL \u306f\u3001\u516c\u79f0\u4e0a\u306e 4 \u30d3\u30c3\u30c8\u91cf\u5b50\u5316\u306b\u95a2\u9023\u3059\u308b\u5f62\u5f0f\u3060\u304c\u3001\u4fdd\u5b58\u306b\u5fc5\u8981\u306a\u88dc\u52a9\u60c5\u5831\u3092\u542b\u3081\u305f\u5e73\u5747\u30d3\u30c3\u30c8\u6570\u306f\u91cd\u307f\u5f53\u305f\u308a 4.50 \u30d3\u30c3\u30c8\u3067\u3042\u308b\u3002\u3057\u305f\u304c\u3063\u3066\u3001Backbone \u306e\u5e73\u5747\u30d3\u30c3\u30c8\u6570\u3068 Engram \u306e\u4fdd\u5b58\u7cbe\u5ea6\u3092\u533a\u5225\u3057\u3066\u5bb9\u91cf\u3092\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>ISTA-DASLab \u304c\u516c\u958b\u3057\u305f IQ2_XXS \u306e\u69cb\u6210\u3067\u306f\u3001Backbone \u306e\u4fdd\u5b58\u5bb9\u91cf\u306f 138.24 GB\u3001Engram \u306e\u5171\u6709\u30d5\u30a1\u30a4\u30eb\u306f 110.60 GB\u3001\u5408\u8a08\u306f 248.84 GB \u3067\u3042\u308b<a href=\"#ref11\">[11]<\/a>\u3002\u3053\u306e GB \u306f 10 \u5104\u30d0\u30a4\u30c8\u3092\u5358\u4f4d\u3068\u3059\u308b\u5341\u9032\u8868\u8a18\u3067\u3042\u308a\u30011024 \u306e\u7d2f\u4e57\u3067\u8a08\u7b97\u3059\u308b GiB \u3068\u306f\u7570\u306a\u308b\u3002\u307e\u305f\u3001\u3053\u306e\u5408\u8a08\u306f\u5bfe\u8c61\u3068\u306a\u308b GGUF \u30d5\u30a1\u30a4\u30eb\u306e\u4fdd\u5b58\u5bb9\u91cf\u3067\u3042\u308a\u3001\u63a8\u8ad6\u6642\u306b\u5fc5\u8981\u306a RAM \u3084 VRAM \u306e\u7dcf\u91cf\u3092\u76f4\u63a5\u793a\u3059\u3082\u306e\u3067\u306f\u306a\u3044\u3002\u5b9f\u884c\u6642\u306b\u306f\u3001\u91cd\u307f\u306e\u914d\u7f6e\u3001\u4f5c\u696d\u9818\u57df\u3001\u30ad\u30e3\u30c3\u30b7\u30e5\u3001\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u306e\u5b9f\u88c5\u306b\u3088\u3063\u3066\u30e1\u30e2\u30ea\u30fc\u4f7f\u7528\u91cf\u304c\u5909\u5316\u3059\u308b\u3002<\/p>\n<p>Backbone \u3068 Engram \u3092\u5206\u96e2\u3057\u3066\u3044\u308b\u3053\u3068\u306b\u306f\u3001\u4fdd\u5b58\u3068\u5b9f\u884c\u306e\u4e21\u9762\u3067\u610f\u5473\u304c\u3042\u308b\u3002Backbone \u306f\u591a\u6570\u306e\u91cd\u307f\u3092\u6f14\u7b97\u3078\u4f9b\u7d66\u3059\u308b\u305f\u3081\u3001\u91cf\u5b50\u5316\u306b\u3088\u3063\u3066\u5bb9\u91cf\u3068\u8ee2\u9001\u91cf\u3092\u524a\u6e1b\u3059\u308b\u52b9\u679c\u304c\u671f\u5f85\u3067\u304d\u308b\u3002\u4e00\u65b9\u3001Engram \u306f\u5165\u529b\u304b\u3089\u6c7a\u307e\u308b\u53c2\u7167\u4f4d\u7f6e\u306b\u5bfe\u5fdc\u3057\u305f\u884c\u3092\u8aad\u307f\u51fa\u3059\u305f\u3081\u3001\u30c6\u30fc\u30d6\u30eb\u5168\u4f53\u3092\u5404\u30c8\u30fc\u30af\u30f3\u306e\u884c\u5217\u6f14\u7b97\u3078\u6295\u5165\u3059\u308b\u5fc5\u8981\u304c\u306a\u3044\u3002ISTA-DASLab \u306f\u3001\u3053\u306e\u9055\u3044\u3092\u5229\u7528\u3057\u3001\u3059\u3079\u3066\u306e\u91cf\u5b50\u5316\u69cb\u6210\u3067\u5171\u901a\u306e IQ4_NL Engram \u30d5\u30a1\u30a4\u30eb\u3092\u4f7f\u7528\u3057\u3066\u3044\u308b\u3002Backbone \u306e\u91cf\u5b50\u5316\u5f62\u5f0f\u3092\u5909\u66f4\u3057\u3066\u3082\u3001Engram \u306e\u4fdd\u5b58\u5f62\u5f0f\u3092\u5909\u3048\u305a\u306b\u6bd4\u8f03\u3067\u304d\u308b\u69cb\u6210\u3067\u3042\u308b\u3002<\/p>\n<p>ISTA-DASLab \u304c\u516c\u958b\u3057\u305f\u8a55\u4fa1\u7d50\u679c\u3067\u306f\u3001IQ2_XXS \u306e\u69cb\u6210\u304c AIME25\u3001GPQA-Diamond\u3001LiveCodeBench v6 \u306e\u4e09\u3064\u306e\u30d9\u30f3\u30c1\u30de\u30fc\u30af\u306b\u3064\u3044\u3066\u3001\u63b2\u8f09\u3055\u308c\u305f\u5143\u30e2\u30c7\u30eb\u3068\u540c\u3058\u30b9\u30b3\u30a2\u3092\u8a18\u9332\u3057\u3066\u3044\u308b<a href=\"#ref11\">[11]<\/a>\u3002\u3053\u308c\u306f\u540c\u7814\u7a76\u5ba4\u304c\u63a1\u7528\u3057\u305f\u8a55\u4fa1\u6761\u4ef6\u3067\u3001\u4e21\u30e2\u30c7\u30eb\u306e\u96c6\u8a08\u5f97\u70b9\u304c\u4e00\u81f4\u3057\u305f\u3053\u3068\u3092\u793a\u3059\u3002\u305f\u3060\u3057\u3001\u3053\u306e\u8a55\u4fa1\u306f IQ4_NL Engram \u3092\u4f7f\u7528\u3057\u305f\u69cb\u6210\u306b\u5bfe\u3059\u308b\u7d50\u679c\u3067\u3042\u308b\u3002Engram \u3092\u5225\u306e\u6570\u5024\u5f62\u5f0f\u3078\u7f6e\u304d\u63db\u3048\u305f\u5834\u5408\u306e\u6027\u80fd\u306b\u3064\u3044\u3066\u306f\u3001\u305d\u306e\u5909\u66f4\u5f8c\u306e\u30e2\u30c7\u30eb\u3092\u5bfe\u8c61\u3068\u3057\u305f\u6bd4\u8f03\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<h3>4.2 Abiray \u306b\u3088\u308b\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4<\/h3>\n<p>Abiray \u306f\u3001ISTA-DASLab \u306e IQ2_XXS \u69cb\u6210\u3092\u57fa\u306b\u3001\u5fdc\u7b54\u62d2\u5426\u306b\u95a2\u4fc2\u3059\u308b\u5185\u90e8\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f\u6d3e\u751f\u7248\u3092\u516c\u958b\u3057\u3066\u3044\u308b<a href=\"#ref12\">[12]<\/a>\u3002\u5177\u4f53\u7684\u306b\u306f\u3001AtomicChat \u304c\u516c\u958b\u3057\u305f\u82f1\u8a9e\u30fb\u30ed\u30b7\u30a2\u8a9e\u306e\u62d2\u5426\u65b9\u5411\u3092\u5229\u7528\u3057\u3001GSQ-RCO \u91cf\u5b50\u5316\u6e08\u307f Backbone \u306e\u91cd\u307f\u3092\u5909\u66f4\u3057\u3066\u3044\u308b\u3002\u3053\u306e\u5909\u66f4\u306b\u306f Abliteration \u3068\u547c\u3070\u308c\u308b\u624b\u6cd5\u304c\u5229\u7528\u3055\u308c\u3066\u3044\u308b\u3002Abliteration \u306f\u3001\u30e2\u30c7\u30eb\u306e\u5185\u90e8\u72b6\u614b\u306b\u304a\u3044\u3066\u5fdc\u7b54\u62d2\u5426\u3068\u95a2\u4fc2\u3059\u308b\u65b9\u5411\u3092\u7279\u5b9a\u3057\u3001\u305d\u306e\u65b9\u5411\u3078\u306e\u5bc4\u4e0e\u3092\u6291\u3048\u308b\u3053\u3068\u3067\u3001\u7279\u5b9a\u306e\u5165\u529b\u306b\u5bfe\u3059\u308b\u62d2\u5426\u6319\u52d5\u3092\u5909\u66f4\u3059\u308b\u65b9\u6cd5\u3067\u3042\u308b\u3002\u5143\u30e2\u30c7\u30eb\u306e\u91cf\u5b50\u5316\u7cbe\u5ea6\u3092\u8abf\u6574\u3059\u308b\u64cd\u4f5c\u3068\u306f\u7570\u306a\u308a\u3001\u30e2\u30c7\u30eb\u304c\u3069\u306e\u3088\u3046\u306a\u5fdc\u7b54\u3092\u9078\u3073\u3084\u3059\u3044\u304b\u3068\u3044\u3046\u5185\u90e8\u8868\u73fe\u3078\u4ecb\u5165\u3059\u308b\u3002<\/p>\n<p>\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u3067\u306f\u3001\u5185\u90e8\u72b6\u614b\u304c\u591a\u6570\u306e\u6570\u5024\u304b\u3089\u306a\u308b\u30d9\u30af\u30c8\u30eb\u3068\u3057\u3066\u8868\u73fe\u3055\u308c\u308b\u3002\u305d\u306e\u30d9\u30af\u30c8\u30eb\u306e\u7279\u5b9a\u65b9\u5411\u304c\u5fdc\u7b54\u62d2\u5426\u3068\u95a2\u4fc2\u3057\u3066\u3044\u308c\u3070\u3001\u305d\u306e\u65b9\u5411\u306e\u6210\u5206\u3092\u5909\u66f4\u3059\u308b\u3053\u3068\u3067\u3001\u30e2\u30c7\u30eb\u306e\u5fdc\u7b54\u50be\u5411\u304c\u5909\u5316\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u3042\u308b\u5165\u529b\u306b\u5bfe\u3057\u3066\u901a\u5e38\u306f\u62d2\u5426\u3059\u308b\u5fdc\u7b54\u3092\u751f\u6210\u3059\u308b\u30e2\u30c7\u30eb\u3067\u3082\u3001\u62d2\u5426\u306b\u95a2\u4fc2\u3059\u308b\u5185\u90e8\u8868\u73fe\u3092\u6291\u5236\u3059\u308b\u3068\u3001\u56de\u7b54\u3092\u751f\u6210\u3059\u308b\u65b9\u5411\u3078\u6319\u52d5\u304c\u5909\u308f\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u305f\u3060\u3057\u3001\u5185\u90e8\u8868\u73fe\u306f\u8907\u6570\u306e\u6a5f\u80fd\u306b\u5229\u7528\u3055\u308c\u308b\u305f\u3081\u3001\u7279\u5b9a\u65b9\u5411\u306e\u64cd\u4f5c\u304c\u62d2\u5426\u6319\u52d5\u3060\u3051\u306b\u5f71\u97ff\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002<\/p>\n<p>Abiray \u306e\u30e2\u30c7\u30eb\u30ab\u30fc\u30c9\u306b\u3088\u308c\u3070\u3001\u3053\u306e\u6d3e\u751f\u7248\u3067\u306f\u82f1\u8a9e\u3068\u30ed\u30b7\u30a2\u8a9e\u306b\u95a2\u4fc2\u3059\u308b\u62d2\u5426\u65b9\u5411\u3092\u5229\u7528\u3057\u300186 \u500b\u306e\u91cd\u307f\u30c6\u30f3\u30bd\u30eb\u306b\u5909\u66f4\u3092\u52a0\u3048\u3066\u3044\u308b\u3002\u305d\u306e\u5185\u8a33\u306f\u3001\u5bc6\u306a\u6f14\u7b97\u90e8\u5206\u306b\u95a2\u4fc2\u3059\u308b 80 \u500b\u306e\u30c6\u30f3\u30bd\u30eb\u3068\u3001\u5c02\u9580\u5bb6\u30cd\u30c3\u30c8\u30ef\u30fc\u30af\u306b\u95a2\u4fc2\u3059\u308b 6 \u500b\u306e\u30c6\u30f3\u30bd\u30eb\u3067\u3042\u308b\u3002\u4e00\u65b9\u3001\u7279\u5b9a\u306e 1 \u30d3\u30c3\u30c8\u91cf\u5b50\u5316\u6e08\u307f\u5c02\u9580\u5bb6\u306e\u91cd\u307f\u7fa4\u3084\u3001Engram \u306e\u53c2\u7167\u60c5\u5831\u3092\u5909\u63db\u3059\u308b\u4e00\u90e8\u306e\u91cd\u307f\u306f\u5909\u66f4\u305b\u305a\u306b\u7dad\u6301\u3057\u3066\u3044\u308b\u3002Abiray \u306f\u3001\u5909\u66f4\u3057\u305f\u91cd\u307f\u3092 GGUF \u30d5\u30a1\u30a4\u30eb\u3078\u76f4\u63a5\u7d44\u307f\u8fbc\u3093\u3067\u3044\u308b\u305f\u3081\u3001\u63a8\u8ad6\u6642\u306b\u8ffd\u52a0\u306e LoRA \u30a2\u30c0\u30d7\u30bf\u30fc\u3092\u8aad\u307f\u8fbc\u3080\u5fc5\u8981\u304c\u306a\u3044\u69cb\u6210\u3068\u3057\u3066\u516c\u958b\u3057\u3066\u3044\u308b<a href=\"#ref12\">[12]<\/a>\u3002<\/p>\n<p>\u5909\u66f4\u5f8c\u306e Backbone \u306e\u4fdd\u5b58\u5bb9\u91cf\u306f\u7d04 138.58 GB \u3067\u3042\u308a\u3001ISTA-DASLab \u306e 138.24 GB \u304b\u3089\u7d04 0.34 GB \u5897\u52a0\u3057\u3066\u3044\u308b\u3002\u5bb9\u91cf\u306e\u5897\u52a0\u306f Backbone \u5168\u4f53\u306e\u7d04 0.25% \u306b\u76f8\u5f53\u3059\u308b\u3002\u5143\u306e IQ4_NL Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u5834\u5408\u3001\u30e2\u30c7\u30eb\u306e\u4fdd\u5b58\u5bb9\u91cf\u306f\u7d04 249.18 GB \u306b\u306a\u308b\u3002\u3053\u306e\u5897\u52a0\u91cf\u306f\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u306b\u4f34\u3046\u4fdd\u5b58\u5f62\u5f0f\u3068\u91cd\u307f\u306e\u69cb\u6210\u306e\u5dee\u3092\u793a\u3059\u3082\u306e\u3067\u3042\u308a\u3001\u62d2\u5426\u6319\u52d5\u306e\u5909\u5316\u91cf\u3084\u56de\u7b54\u54c1\u8cea\u306e\u5909\u5316\u91cf\u3092\u8868\u3059\u6570\u5024\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>Abiray \u306f\u3001\u5909\u66f4\u5f8c\u306e\u91cd\u307f\u306b\u3064\u3044\u3066\u6574\u5408\u6027\u3092\u78ba\u8a8d\u3059\u308b\u3068\u3068\u3082\u306b\u3001\u901a\u5e38\u306e\u5165\u529b\u306b\u5bfe\u3059\u308b\u51fa\u529b\u5206\u5e03\u306e\u5909\u5316\u3082\u5831\u544a\u3057\u3066\u3044\u308b\u3002\u30e2\u30c7\u30eb\u30ab\u30fc\u30c9\u306b\u306f\u3001\u5909\u66f4\u524d\u5f8c\u306e\u51fa\u529b\u5206\u5e03\u306e KL \u30c0\u30a4\u30d0\u30fc\u30b8\u30a7\u30f3\u30b9\u306e\u5e73\u5747\u5024\u304c 0.000002 nat\u3001\u6700\u3082\u9ad8\u3044\u30b9\u30b3\u30a2\u3092\u6301\u3064\u30c8\u30fc\u30af\u30f3\u306e\u4e00\u81f4\u7387\u304c 97.0%\u3001\u4e0a\u4f4d 5 \u5019\u88dc\u306e\u4e00\u81f4\u7387\u304c 100.0% \u3068\u8a18\u8f09\u3055\u308c\u3066\u3044\u308b<a href=\"#ref12\">[12]<\/a>\u3002KL \u30c0\u30a4\u30d0\u30fc\u30b8\u30a7\u30f3\u30b9\u306f\u4e8c\u3064\u306e\u78ba\u7387\u5206\u5e03\u306e\u9055\u3044\u3092\u6e2c\u308b\u6307\u6a19\u3067\u3042\u308a\u3001\u3053\u306e\u5024\u304c\u5c0f\u3055\u3044\u3053\u3068\u306f\u3001\u8a55\u4fa1\u3057\u305f\u5165\u529b\u6761\u4ef6\u3067\u51fa\u529b\u5206\u5e03\u306e\u5909\u5316\u304c\u5c0f\u3055\u304b\u3063\u305f\u3053\u3068\u3092\u793a\u3059\u3002\u305f\u3060\u3057\u3001\u5206\u5e03\u306e\u8fd1\u3055\u306f\u3001\u3042\u3089\u3086\u308b\u5165\u529b\u306b\u5bfe\u3059\u308b\u56de\u7b54\u54c1\u8cea\u306e\u4e00\u81f4\u3092\u4fdd\u8a3c\u3059\u308b\u3082\u306e\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001\u901a\u5e38\u306e\u4e8b\u5b9f\u8cea\u554f\u306b\u5bfe\u3057\u3066\u51fa\u529b\u5206\u5e03\u304c\u307b\u307c\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\u62d2\u5426\u6319\u52d5\u3092\u5f15\u304d\u8d77\u3053\u3059\u5165\u529b\u3067\u306f\u5909\u66f4\u306e\u52b9\u679c\u304c\u5927\u304d\u304f\u306a\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u307e\u305f\u3001\u6700\u521d\u306e\u30c8\u30fc\u30af\u30f3\u306e\u5019\u88dc\u304c\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\u8907\u6570\u30c8\u30fc\u30af\u30f3\u3092\u751f\u6210\u3057\u305f\u5f8c\u306e\u6587\u7ae0\u5168\u4f53\u304c\u4e00\u81f4\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u6700\u521d\u306b\u9078\u3070\u308c\u305f\u30c8\u30fc\u30af\u30f3\u304c\u540c\u3058\u3067\u3082\u3001\u305d\u306e\u5f8c\u306e\u5185\u90e8\u72b6\u614b\u3084\u5019\u88dc\u5206\u5e03\u306b\u5dee\u304c\u84c4\u7a4d\u3059\u308b\u5834\u5408\u304c\u3042\u308b\u3002Abiray \u306e\u5831\u544a\u5024\u306f\u3001\u516c\u958b\u8005\u304c\u5b9f\u65bd\u3057\u305f\u8a55\u4fa1\u6761\u4ef6\u306b\u304a\u3051\u308b\u5909\u66f4\u524d\u5f8c\u306e\u8fd1\u3055\u3092\u793a\u3059\u8a3c\u62e0\u3068\u3057\u3066\u6271\u3046\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u6d3e\u751f\u7248\u306e\u8a55\u4fa1\u3067\u306f\u3001\u91cf\u5b50\u5316\u6e08\u307f\u30e2\u30c7\u30eb\u306e\u80fd\u529b\u304c\u3069\u306e\u7a0b\u5ea6\u7dad\u6301\u3055\u308c\u305f\u304b\u3068\u3044\u3046\u554f\u984c\u3068\u3001\u5fdc\u7b54\u62d2\u5426\u304c\u3069\u306e\u7a0b\u5ea6\u5909\u5316\u3057\u305f\u304b\u3068\u3044\u3046\u554f\u984c\u304c\u5206\u304b\u308c\u308b\u3002\u524d\u8005\u3067\u306f\u6570\u5b66\u7684\u63a8\u8ad6\u3001\u77e5\u8b58\u554f\u984c\u3001\u30b3\u30fc\u30c9\u751f\u6210\u306a\u3069\u306e\u80fd\u529b\u3092\u6bd4\u8f03\u3059\u308b\u3002\u5f8c\u8005\u3067\u306f\u3001\u62d2\u5426\u304c\u671f\u5f85\u3055\u308c\u308b\u5165\u529b\u3084\u3001\u901a\u5e38\u306e\u56de\u7b54\u304c\u671f\u5f85\u3055\u308c\u308b\u5165\u529b\u3092\u7528\u3044\u3066\u3001\u62d2\u5426\u7387\u3084\u5fdc\u7b54\u5185\u5bb9\u3092\u6e2c\u5b9a\u3059\u308b\u3002\u62d2\u5426\u7387\u304c\u5909\u5316\u3057\u3066\u3082\u3001\u901a\u5e38\u306e\u80fd\u529b\u304c\u540c\u3058\u5272\u5408\u3067\u5909\u5316\u3059\u308b\u3068\u306f\u9650\u3089\u305a\u3001\u4e21\u8005\u306e\u8a55\u4fa1\u306b\u306f\u7570\u306a\u308b\u5165\u529b\u3068\u6307\u6a19\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<h3>4.3 Starw1 \u306b\u3088\u308b Engram \u306e\u9ad8\u7cbe\u5ea6\u5316<\/h3>\n<p>Starw1 \u306f\u3001Abiray \u304c\u516c\u958b\u3057\u305f\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u6e08\u307f Backbone \u3092\u7dad\u6301\u3057\u3001Engram \u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u5143\u30e2\u30c7\u30eb\u7531\u6765\u306e MXFP8 \u5f62\u5f0f\u3078\u5dee\u3057\u66ff\u3048\u305f\u6d3e\u751f\u7248\u3092\u516c\u958b\u3057\u3066\u3044\u308b<a href=\"#ref13\">[13]<\/a>\u3002\u5909\u66f4\u306e\u5bfe\u8c61\u306f Engram \u306e\u4fdd\u5b58\u7cbe\u5ea6\u3067\u3042\u308a\u3001Abiray \u306e Backbone \u306b\u5bfe\u3057\u3066\u8ffd\u52a0\u306e\u91cf\u5b50\u5316\u3084\u62d2\u5426\u65b9\u5411\u306e\u5909\u66f4\u3092\u884c\u3046\u69cb\u6210\u3068\u3057\u3066\u306f\u8aac\u660e\u3055\u308c\u3066\u3044\u306a\u3044\u3002\u3053\u306e\u305f\u3081\u3001Abiray \u7248\u3068 Starw1 \u7248\u306f\u3001\u540c\u3058\u5909\u66f4\u6e08\u307f Backbone \u3092\u4f7f\u7528\u3057\u306a\u304c\u3089\u3001Engram \u306e\u6570\u5024\u8868\u73fe\u304c\u7570\u306a\u308b\u7d44\u307f\u5408\u308f\u305b\u306b\u306a\u308b\u3002<\/p>\n<p>MXFP8 \u306f\u30018 \u30d3\u30c3\u30c8\u306e\u6d6e\u52d5\u5c0f\u6570\u70b9\u5024\u3068\u3001\u8907\u6570\u306e\u5024\u3067\u5171\u6709\u3059\u308b\u30b9\u30b1\u30fc\u30eb\u3092\u7d44\u307f\u5408\u308f\u305b\u308b\u6570\u5024\u8868\u73fe\u3067\u3042\u308b\u3002Starw1 \u306e\u30e2\u30c7\u30eb\u30ab\u30fc\u30c9\u3067\u306f\u3001\u5143\u30e2\u30c7\u30eb\u306e FP8 E4M3 \u5f62\u5f0f\u306e\u5024\u3068\u300132 \u500b\u306e\u5024\u3054\u3068\u306b\u5171\u6709\u3055\u308c\u308b E8M0 \u5f62\u5f0f\u306e\u30b9\u30b1\u30fc\u30eb\u3092\u5f15\u304d\u7d99\u3044\u3060\u3068\u8aac\u660e\u3057\u3066\u3044\u308b\u3002E4M3 \u306f\u6307\u6570\u90e8 4 \u30d3\u30c3\u30c8\u3068\u4eee\u6570\u90e8 3 \u30d3\u30c3\u30c8\u3092\u6301\u3064\u6d6e\u52d5\u5c0f\u6570\u70b9\u5f62\u5f0f\u3067\u3042\u308a\u3001E8M0 \u306f\u30b9\u30b1\u30fc\u30eb\u306e\u6307\u6570\u3092\u8868\u73fe\u3059\u308b\u305f\u3081\u306e\u5f62\u5f0f\u3067\u3042\u308b\u3002\u5143\u306e\u6570\u5024\u8868\u73fe\u3092\u7dad\u6301\u3059\u308b\u306b\u306f\u30018 \u30d3\u30c3\u30c8\u306e\u5024\u3060\u3051\u3067\u306a\u304f\u3001\u305d\u308c\u3089\u306e\u5024\u3092\u89e3\u91c8\u3059\u308b\u305f\u3081\u306e\u30b9\u30b1\u30fc\u30eb\u3082\u6b63\u3057\u304f\u4fdd\u5b58\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>Starw1 \u306f\u3001\u5143\u30e2\u30c7\u30eb\u306e Engram \u306e\u5024\u3068\u30b9\u30b1\u30fc\u30eb\u3092\u3001GGUF \u306e MXFP8 \u5f62\u5f0f\u3078\u30b3\u30d4\u30fc\u3057\u305f\u3068\u5831\u544a\u3057\u3066\u3044\u308b\u3002\u516c\u958b\u3055\u308c\u305f\u8aac\u660e\u306b\u3088\u308c\u3070\u3001\u5bfe\u8c61\u3068\u306a\u308b\u7d04 7 \u5104 6800 \u4e07\u884c\u306b\u3064\u3044\u3066\u3001\u5143\u306e\u5024\u3068\u306e\u30d0\u30a4\u30c8\u5358\u4f4d\u306e\u4e00\u81f4\u3092\u78ba\u8a8d\u3057\u3066\u3044\u308b<a href=\"#ref13\">[13]<\/a>\u3002\u3053\u306e\u6bd4\u8f03\u304c\u6210\u529f\u3057\u3066\u3044\u308c\u3070\u3001\u5bfe\u8c61\u3068\u3057\u305f\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u4fdd\u5b58\u5024\u304c\u5143\u30e2\u30c7\u30eb\u7531\u6765\u306e\u5024\u3068\u4e00\u81f4\u3059\u308b\u3053\u3068\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002\u3053\u3053\u3067\u306e\u30d0\u30a4\u30c8\u4e00\u81f4\u306f\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u30d5\u30a1\u30a4\u30eb\u304c\u540c\u4e00\u3067\u3042\u308b\u3068\u3044\u3046\u610f\u5473\u3067\u306f\u306a\u304f\u3001\u5143\u30e2\u30c7\u30eb\u304b\u3089\u53d6\u308a\u51fa\u3057\u305f Engram \u306e\u5024\u3068\u30b9\u30b1\u30fc\u30eb\u306b\u3064\u3044\u3066\u3001\u6bd4\u8f03\u5bfe\u8c61\u3068\u306a\u3063\u305f\u30c7\u30fc\u30bf\u304c\u4e00\u81f4\u3059\u308b\u3068\u3044\u3046\u610f\u5473\u3067\u3042\u308b\u3002<\/p>\n<p>\u5143\u306e\u6570\u5024\u8868\u73fe\u3092\u4fdd\u6301\u3057\u305f\u7d50\u679c\u3001Engram \u306e\u30d5\u30a1\u30a4\u30eb\u5bb9\u91cf\u306f\u7d04 202.8 GB \u306b\u306a\u3063\u3066\u3044\u308b\u3002ISTA-DASLab \u304c\u516c\u958b\u3057\u305f IQ4_NL Engram \u306f 110.60 GB \u3067\u3042\u308b\u305f\u3081\u3001Starw1 \u306e MXFP8 Engram \u306f\u7d04 92.2 GB \u5927\u304d\u3044\u3002\u5bb9\u91cf\u6bd4\u3067\u306f\u7d04 1.83 \u500d\u3068\u306a\u308b\u3002\u3053\u306e\u5897\u52a0\u306f\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5404\u5024\u3092\u4f4e\u30d3\u30c3\u30c8\u306e\u4ee3\u8868\u5024\u3078\u5909\u63db\u3059\u308b\u4ee3\u308f\u308a\u306b\u3001\u5143\u306e\u6d6e\u52d5\u5c0f\u6570\u70b9\u8868\u73fe\u3068\u30b9\u30b1\u30fc\u30eb\u3092\u7dad\u6301\u3059\u308b\u3053\u3068\u3067\u751f\u3058\u308b\u4fdd\u5b58\u4e0a\u306e\u8ca0\u62c5\u3067\u3042\u308b\u3002<\/p>\n<p>\u4e00\u65b9\u3001Starw1 \u306e Backbone \u306f Abiray \u7248\u3068\u540c\u3058\u7d04 138.58 GB \u3067\u3042\u308b\u3002\u3053\u308c\u306b MXFP8 Engram \u306e\u7d04 202.8 GB \u3092\u7d44\u307f\u5408\u308f\u305b\u308b\u3068\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u4fdd\u5b58\u5bb9\u91cf\u306f\u7d04 341.4 GB \u306b\u306a\u308b\u3002Abiray \u7248\u306b IQ4_NL Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u7d04 249.18 GB \u306e\u69cb\u6210\u3068\u6bd4\u8f03\u3059\u308b\u3068\u3001\u5dee\u306f\u7d04 92.2 GB \u3067\u3042\u308a\u3001Engram \u306e\u4fdd\u5b58\u5f62\u5f0f\u306e\u5909\u66f4\u306b\u3088\u308b\u5bb9\u91cf\u5897\u52a0\u3068\u4e00\u81f4\u3059\u308b\u3002Backbone \u306e\u4fdd\u5b58\u5bb9\u91cf\u3092\u56fa\u5b9a\u3057\u3066\u3044\u308b\u305f\u3081\u3001\u3053\u306e\u4e8c\u3064\u306e\u69cb\u6210\u306e\u5bb9\u91cf\u5dee\u3092 Engram \u306e\u5909\u66f4\u3078\u5bfe\u5fdc\u3055\u305b\u308b\u3053\u3068\u304c\u3067\u304d\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\u4fdd\u5b58\u5bb9\u91cf\u304c\u7d04 92.2 GB \u5897\u3048\u305f\u3053\u3068\u306f\u3001\u63a8\u8ad6\u6642\u306b\u5e38\u6642\u4f7f\u7528\u3059\u308b GPU \u30e1\u30e2\u30ea\u30fc\u304c\u540c\u3058\u3060\u3051\u5897\u3048\u308b\u3053\u3068\u3092\u610f\u5473\u3057\u306a\u3044\u3002Engram \u306f\u5165\u529b\u306b\u5fdc\u3058\u3066\u5fc5\u8981\u306a\u884c\u3092\u53c2\u7167\u3059\u308b\u69cb\u9020\u3067\u3042\u308a\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092 CPU \u5074\u306e\u30e1\u30e2\u30ea\u30fc\u3084\u30b9\u30c8\u30ec\u30fc\u30b8\u3078\u914d\u7f6e\u3059\u308b\u5b9f\u88c5\u3082\u8003\u3048\u3089\u308c\u308b\u3002\u5b9f\u969b\u306e\u30e1\u30e2\u30ea\u30fc\u8981\u6c42\u3068\u51e6\u7406\u6642\u9593\u306f\u3001\u53c2\u7167\u3059\u308b\u884c\u306e\u6570\u3001\u30ad\u30e3\u30c3\u30b7\u30e5\u306e\u72b6\u614b\u3001\u30c7\u30fc\u30bf\u8ee2\u9001\u306e\u65b9\u6cd5\u3001\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u304c MXFP8 \u3092\u3069\u306e\u3088\u3046\u306b\u51e6\u7406\u3059\u308b\u304b\u306b\u3088\u3063\u3066\u5909\u5316\u3059\u308b\u3002\u4fdd\u5b58\u5bb9\u91cf\u306e\u5897\u52a0\u3068\u5b9f\u884c\u6642\u306e\u8cc7\u6e90\u8981\u6c42\u306f\u3001\u5225\u3005\u306b\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<h3>4.4 \u4e09\u3064\u306e\u516c\u958b\u69cb\u6210\u3067\u5909\u66f4\u3055\u308c\u305f\u90e8\u5206\u3092\u6bd4\u8f03\u3059\u308b<\/h3>\n<p>ISTA-DASLab\u3001Abiray\u3001Starw1 \u306e\u4e09\u3064\u306e\u69cb\u6210\u3092\u6bd4\u8f03\u3059\u308b\u3068\u3001\u5909\u66f4\u3055\u308c\u305f\u5bfe\u8c61\u3068\u7dad\u6301\u3055\u308c\u305f\u5bfe\u8c61\u3092\u533a\u5225\u3067\u304d\u308b\u3002ISTA-DASLab \u306f\u91cf\u5b50\u5316\u6e08\u307f\u30e2\u30c7\u30eb\u3092\u516c\u958b\u3057\u3001Abiray \u306f\u305d\u306e Backbone \u306e\u62d2\u5426\u95a2\u9023\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f\u3002Starw1 \u306f Abiray \u306e Backbone \u3092\u4f7f\u7528\u3057\u3001Engram \u306e\u4fdd\u5b58\u7cbe\u5ea6\u3092\u5143\u306e MXFP8 \u3078\u5909\u66f4\u3057\u3066\u3044\u308b\u3002\u3053\u308c\u3089\u306f\u4e00\u3064\u306e\u30e2\u30c7\u30eb\u306b\u5bfe\u3057\u3066\u7570\u306a\u308b\u7a2e\u985e\u306e\u5909\u66f4\u3092\u9806\u756a\u306b\u9069\u7528\u3057\u305f\u69cb\u6210\u3067\u3042\u308a\u3001\u5404\u5909\u66f4\u304c\u6700\u7d42\u7d50\u679c\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u3092\u8003\u3048\u308b\u305f\u3081\u306e\u6bd4\u8f03\u5bfe\u8c61\u306b\u306a\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u69cb\u6210<\/th>\n<th>Backbone<\/th>\n<th>Engram<\/th>\n<th>\u6bd4\u8f03\u3067\u8aad\u307f\u53d6\u308c\u308b\u3053\u3068<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>ISTA-DASLab IQ2_XXS<\/td>\n<td>GSQ-RCO \u306b\u3088\u308b\u4f4e\u30d3\u30c3\u30c8\u91cf\u5b50\u5316\u6e08\u307f\u3002\u4fdd\u5b58\u5bb9\u91cf\u306f 138.24 GB\u3002<\/td>\n<td>IQ4_NL\u3001110.60 GB\u3002<\/td>\n<td>\u91cf\u5b50\u5316\u6e08\u307f Backbone \u3068 IQ4_NL Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u57fa\u6e96\u69cb\u6210\u3067\u3042\u308a\u3001\u5408\u8a08\u5bb9\u91cf\u306f 248.84 GB \u3067\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>Abiray \u6d3e\u751f\u7248<\/td>\n<td>ISTA-DASLab \u306e\u91cf\u5b50\u5316\u6e08\u307f Backbone \u3092\u57fa\u306b\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f\u91cd\u307f\u3092\u542b\u3080\u3002\u4fdd\u5b58\u5bb9\u91cf\u306f\u7d04 138.58 GB\u3002<\/td>\n<td>ISTA-DASLab \u306e IQ4_NL \u7248\u3092\u5229\u7528\u3059\u308b\u3002<\/td>\n<td>Engram \u306e\u4fdd\u5b58\u5f62\u5f0f\u3092\u7dad\u6301\u3057\u3001Backbone \u306e\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u304c\u8ffd\u52a0\u3055\u308c\u305f\u6761\u4ef6\u3067\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>Starw1 \u6d3e\u751f\u7248<\/td>\n<td>Abiray \u306e\u5909\u66f4\u6e08\u307f Backbone \u3092\u7dad\u6301\u3059\u308b\u3002\u4fdd\u5b58\u5bb9\u91cf\u306f\u7d04 138.58 GB\u3002<\/td>\n<td>\u5143\u30e2\u30c7\u30eb\u7531\u6765\u306e MXFP8\u3001\u7d04 202.8 GB\u3002<\/td>\n<td>\u540c\u3058\u5909\u66f4\u6e08\u307f Backbone \u306b\u5bfe\u3057\u3066 Engram \u306e\u7cbe\u5ea6\u304c\u7570\u306a\u308b\u6761\u4ef6\u3067\u3042\u308a\u3001\u5408\u8a08\u5bb9\u91cf\u306f\u7d04 341.4 GB \u3067\u3042\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>ISTA-DASLab \u3068 Abiray \u3092\u6bd4\u8f03\u3059\u308b\u3068\u3001Engram \u306e\u4fdd\u5b58\u5f62\u5f0f\u3092\u56fa\u5b9a\u3057\u305f\u307e\u307e\u3001Backbone \u306e\u4e00\u90e8\u304c\u5909\u66f4\u3055\u308c\u305f\u6761\u4ef6\u3092\u8003\u3048\u3089\u308c\u308b\u3002\u3053\u306e\u6bd4\u8f03\u3067\u51fa\u529b\u304c\u5909\u5316\u3057\u305f\u5834\u5408\u3001\u30e2\u30c7\u30eb\u306e\u69cb\u6210\u4e0a\u306e\u5dee\u306f Backbone \u306b\u5b58\u5728\u3059\u308b\u3002\u305f\u3060\u3057\u3001\u91cf\u5b50\u5316\u6e08\u307f\u91cd\u307f\u3078\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u3092\u52a0\u3048\u3066\u3044\u308b\u305f\u3081\u3001\u89b3\u6e2c\u3055\u308c\u308b\u5909\u5316\u304c\u62d2\u5426\u6319\u52d5\u306b\u9650\u5b9a\u3055\u308c\u308b\u304b\u3069\u3046\u304b\u306f\u5b9f\u6e2c\u306b\u3088\u3063\u3066\u5224\u65ad\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u901a\u5e38\u306e\u8cea\u554f\u306b\u5bfe\u3059\u308b\u56de\u7b54\u7cbe\u5ea6\u3001\u51fa\u529b\u5206\u5e03\u3001\u62d2\u5426\u304c\u671f\u5f85\u3055\u308c\u308b\u5165\u529b\u3067\u306e\u6319\u52d5\u3092\u5206\u3051\u3066\u6bd4\u8f03\u3059\u308b\u3053\u3068\u3067\u3001\u5909\u66f4\u306e\u5f71\u97ff\u7bc4\u56f2\u3092\u8abf\u3079\u3089\u308c\u308b\u3002<\/p>\n<p>Abiray \u3068 Starw1 \u3092\u6bd4\u8f03\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u540c\u3058\u62d2\u5426\u5909\u66f4\u6e08\u307f Backbone \u3092\u4f7f\u7528\u3057\u306a\u304c\u3089\u3001Engram \u306e\u4fdd\u5b58\u5f62\u5f0f\u3060\u3051\u304c IQ4_NL \u3068 MXFP8 \u3067\u7570\u306a\u308b\u3002\u3053\u306e\u6761\u4ef6\u3067\u306f\u3001\u540c\u3058\u5165\u529b\u3001\u540c\u3058\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u3001\u540c\u3058\u30c8\u30fc\u30af\u30f3\u9078\u629e\u65b9\u5f0f\u3092\u4f7f\u7528\u3059\u308c\u3070\u3001Engram \u306e\u6570\u5024\u7cbe\u5ea6\u306e\u9055\u3044\u304c\u6700\u7d42\u51fa\u529b\u3078\u3069\u306e\u3088\u3046\u306b\u5f71\u97ff\u3059\u308b\u304b\u3092\u8abf\u3079\u3089\u308c\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u5143\u306e IQ4_NL Engram \u3067\u306f\u8aa4\u7b54\u3057\u305f\u8cea\u554f\u304c MXFP8 Engram \u3067\u6b63\u7b54\u306b\u306a\u308b\u5834\u5408\u3001\u305d\u306e\u8cea\u554f\u306b\u3064\u3044\u3066\u9ad8\u7cbe\u5ea6\u5316\u306b\u3088\u308b\u6539\u5584\u304c\u89b3\u6e2c\u3055\u308c\u305f\u3053\u3068\u306b\u306a\u308b\u3002\u53cd\u5bfe\u306b\u3001\u56de\u7b54\u304c\u5909\u5316\u3057\u306a\u3044\u5834\u5408\u3084\u3001MXFP8 \u7248\u3067\u8aa4\u7b54\u304c\u5897\u3048\u308b\u5834\u5408\u3082\u3001\u540c\u3058\u6bd4\u8f03\u306e\u7d50\u679c\u3068\u3057\u3066\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u3055\u3089\u306b\u3001\u5143\u30e2\u30c7\u30eb\u3068 Starw1 \u7248\u3092\u76f4\u63a5\u6bd4\u8f03\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u5909\u66f4\u8981\u56e0\u304c\u8907\u6570\u5b58\u5728\u3059\u308b\u3002\u5143\u30e2\u30c7\u30eb\u304b\u3089\u306e\u4e3b\u306a\u5909\u66f4\u306f\u3001Backbone \u306e\u4f4e\u30d3\u30c3\u30c8\u91cf\u5b50\u5316\u3068\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u3067\u3042\u308b\u3002Engram \u306f GGUF \u5f62\u5f0f\u3078\u683c\u7d0d\u3055\u308c\u3066\u3044\u308b\u304c\u3001\u5143\u30e2\u30c7\u30eb\u7531\u6765\u306e\u5024\u3068\u30b9\u30b1\u30fc\u30eb\u3092\u7dad\u6301\u3057\u3066\u3044\u308b\u3002\u3053\u306e\u305f\u3081\u3001\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u306e\u56de\u7b54\u304c\u4e00\u81f4\u3057\u305f\u5834\u5408\u3082\u3001\u5dee\u304c\u751f\u3058\u305f\u5834\u5408\u3082\u3001\u305d\u306e\u7d50\u679c\u3060\u3051\u304b\u3089 Engram \u306e\u9ad8\u7cbe\u5ea6\u5316\u306e\u52b9\u679c\u3092\u72ec\u7acb\u306b\u7279\u5b9a\u3059\u308b\u3053\u3068\u306f\u96e3\u3057\u3044\u3002<\/p>\n<p>\u9ad8\u7cbe\u5ea6 Engram \u306e\u5bc4\u4e0e\u3092\u8abf\u3079\u308b\u306b\u306f\u3001Backbone \u3092\u56fa\u5b9a\u3057\u305f\u6bd4\u8f03\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u306e\u5bc4\u4e0e\u3092\u8abf\u3079\u308b\u306b\u306f\u3001Engram \u306e\u7cbe\u5ea6\u3092\u56fa\u5b9a\u3057\u305f\u6bd4\u8f03\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002\u4e21\u8005\u306e\u5909\u66f4\u304c\u4e92\u3044\u306b\u5f71\u97ff\u3059\u308b\u53ef\u80fd\u6027\u307e\u3067\u691c\u8a0e\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u901a\u5e38\u306e Backbone \u3068\u5909\u66f4\u6e08\u307f Backbone \u306e\u305d\u308c\u305e\u308c\u306b\u3001IQ4_NL \u3068 MXFP8 \u306e Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u6761\u4ef6\u3092\u7528\u610f\u3059\u308b\u3053\u3068\u3067\u3001\u5909\u66f4\u8981\u56e0\u3092\u5206\u96e2\u3057\u305f\u8a55\u4fa1\u3092\u8a2d\u8a08\u3067\u304d\u308b\u3002<\/p>\n<p>\u3053\u3053\u3067\u6ce8\u610f\u3059\u3079\u304d\u306a\u306e\u306f\u3001\u516c\u958b\u3055\u308c\u3066\u3044\u308b\u69cb\u6210\u306e\u9055\u3044\u3092\u6574\u7406\u3059\u308b\u3053\u3068\u3068\u3001\u305d\u306e\u9055\u3044\u306b\u3088\u308b\u6027\u80fd\u5909\u5316\u3092\u5b9f\u6e2c\u3057\u305f\u3053\u3068\u306f\u5225\u3067\u3042\u308b\u3068\u3044\u3046\u70b9\u3067\u3042\u308b\u3002\u4e09\u3064\u306e\u516c\u958b\u30e2\u30c7\u30eb\u306e\u5bb9\u91cf\u3084\u91cd\u307f\u306e\u69cb\u6210\u3092\u78ba\u8a8d\u3059\u308c\u3070\u3001\u3069\u306e\u90e8\u5206\u304c\u5909\u66f4\u3055\u308c\u305f\u304b\u3092\u7279\u5b9a\u3067\u304d\u308b\u3002\u4e00\u65b9\u3001\u30e2\u30c7\u30eb\u306e\u80fd\u529b\u304c\u3069\u306e\u7a0b\u5ea6\u7dad\u6301\u3055\u308c\u305f\u304b\u3092\u5224\u65ad\u3059\u308b\u306b\u306f\u3001\u6bd4\u8f03\u5bfe\u8c61\u3092\u56fa\u5b9a\u3057\u305f\u3046\u3048\u3067\u3001\u540c\u3058\u8ab2\u984c\u3068\u8a55\u4fa1\u6761\u4ef6\u306b\u57fa\u3065\u304f\u6e2c\u5b9a\u7d50\u679c\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002\u30e2\u30c7\u30eb\u30ab\u30fc\u30c9\u306b\u8a18\u8f09\u3055\u308c\u305f\u5225\u3005\u306e\u8a55\u4fa1\u7d50\u679c\u3092\u6bd4\u8f03\u3059\u308b\u5834\u5408\u3082\u3001\u5165\u529b\u3001\u5b9f\u884c\u6761\u4ef6\u3001\u8a55\u4fa1\u65b9\u6cd5\u304c\u4e00\u81f4\u3057\u3066\u3044\u308b\u304b\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<h3>4.5 \u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u3068\u80fd\u529b\u7dad\u6301\u306e\u95a2\u4fc2<\/h3>\n<p>Abiray \u304c\u63a1\u7528\u3057\u305f Abliteration \u306e\u8003\u3048\u65b9\u306b\u306f\u3001Arditi \u3089\u304c\u767a\u8868\u3057\u305f\u62d2\u5426\u65b9\u5411\u306e\u7814\u7a76\u304c\u95a2\u4fc2\u3057\u3066\u3044\u308b\u3002Arditi \u3089\u306f\u3001\u6700\u5927 72B \u30d1\u30e9\u30e1\u30fc\u30bf\u306e 13 \u7a2e\u985e\u306e\u516c\u958b\u30c1\u30e3\u30c3\u30c8\u30e2\u30c7\u30eb\u3092\u5bfe\u8c61\u306b\u3001\u5fdc\u7b54\u62d2\u5426\u304c\u7279\u5b9a\u306e\u4e00\u6b21\u5143\u65b9\u5411\u3068\u95a2\u4fc2\u3057\u3066\u3044\u308b\u3053\u3068\u3092\u5b9f\u9a13\u7684\u306b\u793a\u3057\u305f<a href=\"#ref14\">[14]<\/a>\u3002\u3053\u306e\u7814\u7a76\u3067\u306f\u3001\u5185\u90e8\u72b6\u614b\u304b\u3089\u62d2\u5426\u306b\u95a2\u4fc2\u3059\u308b\u65b9\u5411\u3092\u53d6\u308a\u9664\u304f\u3068\u6709\u5bb3\u306a\u4f9d\u983c\u3078\u306e\u62d2\u5426\u304c\u6291\u5236\u3055\u308c\u3001\u53cd\u5bfe\u306b\u305d\u306e\u65b9\u5411\u3092\u52a0\u3048\u308b\u3068\u901a\u5e38\u306e\u4f9d\u983c\u3067\u3082\u62d2\u5426\u304c\u751f\u3058\u3084\u3059\u304f\u306a\u308b\u3053\u3068\u304c\u5831\u544a\u3055\u308c\u3066\u3044\u308b\u3002<\/p>\n<p>\u3053\u306e\u7d50\u679c\u306f\u3001\u30e2\u30c7\u30eb\u5185\u90e8\u306e\u7279\u5b9a\u65b9\u5411\u3092\u64cd\u4f5c\u3059\u308b\u3053\u3068\u3067\u3001\u5fdc\u7b54\u65b9\u91dd\u306b\u95a2\u4fc2\u3059\u308b\u6319\u52d5\u3092\u5909\u66f4\u3067\u304d\u308b\u53ef\u80fd\u6027\u3092\u793a\u3057\u3066\u3044\u308b\u3002\u305f\u3060\u3057\u3001\u5143\u7814\u7a76\u306e\u5bfe\u8c61\u306f\u7279\u5b9a\u306e\u30e2\u30c7\u30eb\u7fa4\u3067\u3042\u308a\u3001DeepSeek-V4.1-Flash-1017 \u306e\u3088\u3046\u306a\u7d04 7632 \u5104\u30d1\u30e9\u30e1\u30fc\u30bf\u306e\u5c02\u9580\u5bb6\u6df7\u5408\u30e2\u30c7\u30eb\u3092\u76f4\u63a5\u8a55\u4fa1\u3057\u305f\u3082\u306e\u3067\u306f\u306a\u3044\u3002\u307e\u305f\u3001\u62d2\u5426\u306b\u95a2\u4fc2\u3059\u308b\u65b9\u5411\u3092\u5909\u66f4\u3059\u308b\u64cd\u4f5c\u304c\u3001\u3059\u3079\u3066\u306e\u5165\u529b\u3067\u307b\u304b\u306e\u80fd\u529b\u3078\u5f71\u97ff\u3057\u306a\u3044\u3068\u3044\u3046\u4fdd\u8a3c\u3082\u542b\u307e\u308c\u3066\u3044\u306a\u3044\u3002Abiray \u306e\u5b9f\u88c5\u304c\u3069\u306e\u7bc4\u56f2\u3067\u62d2\u5426\u6319\u52d5\u3092\u5909\u66f4\u3057\u3001\u901a\u5e38\u306e\u56de\u7b54\u54c1\u8cea\u3078\u3069\u306e\u7a0b\u5ea6\u5f71\u97ff\u3057\u305f\u304b\u306f\u3001\u305d\u306e\u6d3e\u751f\u7248\u306b\u5bfe\u3059\u308b\u8a55\u4fa1\u7d50\u679c\u306b\u3088\u3063\u3066\u5224\u65ad\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001\u62d2\u5426\u304c\u671f\u5f85\u3055\u308c\u308b\u5165\u529b\u306b\u5bfe\u3057\u3066\u56de\u7b54\u3059\u308b\u5272\u5408\u304c\u5897\u52a0\u3057\u305f\u5834\u5408\u3001\u62d2\u5426\u6319\u52d5\u306e\u5909\u66f4\u304c\u751f\u3058\u305f\u3053\u3068\u306f\u78ba\u8a8d\u3067\u304d\u308b\u3002\u3057\u304b\u3057\u3001\u305d\u306e\u56de\u7b54\u304c\u6b63\u78ba\u3067\u3042\u308b\u304b\u3001\u5185\u5bb9\u306b\u8aa4\u308a\u304c\u5897\u3048\u305f\u304b\u3001\u901a\u5e38\u306e\u8cea\u554f\u306b\u5bfe\u3059\u308b\u6b63\u7b54\u7387\u304c\u7dad\u6301\u3055\u308c\u305f\u304b\u306f\u3001\u5225\u306e\u6307\u6a19\u3067\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u62d2\u5426\u7387\u306f\u30e2\u30c7\u30eb\u304c\u56de\u7b54\u3092\u907f\u3051\u308b\u983b\u5ea6\u3092\u6e2c\u308b\u6307\u6a19\u3067\u3042\u308a\u3001\u56de\u7b54\u54c1\u8cea\u306f\u751f\u6210\u3055\u308c\u305f\u5185\u5bb9\u306e\u6b63\u78ba\u6027\u3084\u8ab2\u984c\u9054\u6210\u5ea6\u3092\u6e2c\u308b\u6307\u6a19\u3067\u3042\u308b\u3002\u4e21\u8005\u306e\u5024\u304c\u5909\u5316\u3059\u308b\u539f\u56e0\u3082\u4e00\u81f4\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002<\/p>\n<p>Starw1 \u306e\u6d3e\u751f\u7248\u3067\u306f\u3001\u3053\u306e\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u3092\u542b\u3080 Backbone \u304c\u305d\u306e\u307e\u307e\u4f7f\u7528\u3055\u308c\u3066\u3044\u308b\u3002\u3057\u305f\u304c\u3063\u3066\u3001Engram \u3092 MXFP8 \u306b\u5909\u66f4\u3057\u305f\u52b9\u679c\u3092\u8abf\u3079\u308b\u5834\u5408\u306b\u306f\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u304c\u5171\u901a\u3057\u3066\u542b\u307e\u308c\u308b Abiray \u7248\u3092\u6bd4\u8f03\u5bfe\u8c61\u3068\u3059\u308b\u3053\u3068\u306b\u610f\u5473\u304c\u3042\u308b\u3002\u4e21\u8005\u306e Backbone \u304c\u540c\u4e00\u3067\u3042\u308b\u3068\u3044\u3046\u6761\u4ef6\u3092\u7dad\u6301\u3059\u308c\u3070\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u306b\u3088\u308b\u5dee\u3092\u56fa\u5b9a\u3057\u305f\u72b6\u614b\u3067 Engram \u306e\u7cbe\u5ea6\u3092\u6bd4\u8f03\u3067\u304d\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001Backbone \u304c\u540c\u4e00\u3067\u3082\u3001Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u3063\u3066\u5185\u90e8\u72b6\u614b\u304c\u5909\u5316\u3059\u308c\u3070\u3001\u62d2\u5426\u306b\u95a2\u4fc2\u3059\u308b\u65b9\u5411\u3078\u306e\u5bc4\u4e0e\u307e\u3067\u5909\u308f\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002Engram \u304b\u3089\u53d6\u5f97\u3057\u305f\u60c5\u5831\u306f Backbone \u306e\u8a08\u7b97\u3078\u7d71\u5408\u3055\u308c\u308b\u305f\u3081\u3001\u53c2\u7167\u5024\u306e\u5dee\u304c\u5f8c\u7d9a\u306e\u5185\u90e8\u72b6\u614b\u3078\u5f71\u97ff\u3059\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u3053\u306e\u610f\u5473\u3067\u3001\u4fdd\u5b58\u5f62\u5f0f\u306e\u5909\u66f4\u3068\u5fdc\u7b54\u6319\u52d5\u306e\u5909\u66f4\u3092\u69cb\u6210\u4e0a\u306e\u64cd\u4f5c\u3068\u3057\u3066\u5206\u96e2\u3067\u304d\u3066\u3082\u3001\u305d\u308c\u305e\u308c\u304c\u6700\u7d42\u51fa\u529b\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u304c\u5b8c\u5168\u306b\u72ec\u7acb\u3057\u3066\u3044\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u500b\u3005\u306e\u5909\u66f4\u306e\u52b9\u679c\u3068\u3001\u5909\u66f4\u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u5834\u5408\u306e\u52b9\u679c\u3092\u533a\u5225\u3057\u3066\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u307e\u305f\u3001\u30e2\u30c7\u30eb\u306e\u540d\u79f0\u306b\u542b\u307e\u308c\u308b Uncensored \u3068\u3044\u3046\u8868\u73fe\u306f\u3001\u516c\u958b\u8005\u304c\u610f\u56f3\u3057\u305f\u5fdc\u7b54\u6319\u52d5\u3092\u793a\u3059\u540d\u79f0\u3067\u3042\u308b\u3002\u5b9f\u969b\u306e\u62d2\u5426\u7387\u306f\u3001\u5165\u529b\u306e\u8a00\u8a9e\u3001\u4f9d\u983c\u5185\u5bb9\u3001\u63a8\u8ad6\u6642\u306e\u6307\u793a\u3001\u5b9f\u884c\u6761\u4ef6\u306b\u3088\u3063\u3066\u5909\u5316\u3057\u5f97\u308b\u3002\u62d2\u5426\u95a2\u9023\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f\u3068\u3044\u3046\u5b9f\u88c5\u4e0a\u306e\u4e8b\u5b9f\u3068\u3001\u3042\u3089\u3086\u308b\u5165\u529b\u3067\u62d2\u5426\u304c\u767a\u751f\u3057\u306a\u304f\u306a\u308b\u3068\u3044\u3046\u6027\u8cea\u306f\u3001\u7570\u306a\u308b\u4e3b\u5f35\u3068\u3057\u3066\u6271\u3046\u5fc5\u8981\u304c\u3042\u308b\u3002\u5f8c\u8005\u3092\u78ba\u8a8d\u3059\u308b\u306b\u306f\u3001\u5bfe\u8c61\u3068\u3059\u308b\u5165\u529b\u5206\u5e03\u3092\u5b9a\u7fa9\u3057\u3001\u5909\u66f4\u524d\u5f8c\u306e\u62d2\u5426\u7387\u3068\u5fdc\u7b54\u5185\u5bb9\u3092\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u3053\u307e\u3067\u306e\u69cb\u6210\u3092\u6574\u7406\u3059\u308b\u3068\u3001ISTA-DASLab \u304c\u884c\u3063\u305f\u91cf\u5b50\u5316\u3001Abiray \u304c\u884c\u3063\u305f\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u3001Starw1 \u304c\u884c\u3063\u305f Engram \u306e\u9ad8\u7cbe\u5ea6\u5316\u306f\u3001\u305d\u308c\u305e\u308c\u7570\u306a\u308b\u5bfe\u8c61\u3078\u4f5c\u7528\u3059\u308b\u64cd\u4f5c\u3067\u3042\u308b\u3002\u91cf\u5b50\u5316\u306f\u4fdd\u5b58\u3059\u308b\u6570\u5024\u8868\u73fe\u3092\u5909\u66f4\u3057\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u306f Backbone \u306e\u5185\u90e8\u8868\u73fe\u3078\u4ecb\u5165\u3057\u3001Engram \u306e\u9ad8\u7cbe\u5ea6\u5316\u306f\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5143\u306e\u5024\u3092\u4fdd\u6301\u3059\u308b\u3002\u3053\u308c\u3089\u306e\u64cd\u4f5c\u306f\u540c\u3058\u30e2\u30c7\u30eb\u3078\u7d44\u307f\u8fbc\u307e\u308c\u3066\u3044\u308b\u304c\u3001\u5b9f\u88c5\u4e0a\u306e\u76ee\u7684\u3068\u691c\u8a3c\u3059\u3079\u304d\u6027\u8cea\u306f\u4e00\u81f4\u3057\u306a\u3044\u3002<\/p>\n<p>Starw1 \u306e\u69cb\u6210\u306b\u3064\u3044\u3066\u76f4\u63a5\u78ba\u8a8d\u3067\u304d\u308b\u306e\u306f\u3001\u516c\u958b\u3055\u308c\u305f\u8aac\u660e\u3068\u691c\u8a3c\u8a18\u9332\u306b\u57fa\u3065\u304f Backbone \u306e\u7531\u6765\u3001Engram \u306e\u4fdd\u5b58\u5f62\u5f0f\u3001\u30d5\u30a1\u30a4\u30eb\u5bb9\u91cf\u3001\u5143\u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3068\u306e\u4e00\u81f4\u3067\u3042\u308b\u3002\u7d04 92.2 GB \u306e\u5bb9\u91cf\u3092\u8ffd\u52a0\u3057\u3066 Engram \u306e\u5143\u306e\u7cbe\u5ea6\u3092\u7dad\u6301\u3059\u308b\u8a2d\u8a08\u306b\u306f\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u81ea\u4f53\u306e\u91cf\u5b50\u5316\u8aa4\u5dee\u3092\u56de\u907f\u3059\u308b\u3068\u3044\u3046\u660e\u78ba\u306a\u610f\u5473\u304c\u3042\u308b\u3002\u4e00\u65b9\u3001\u305d\u306e\u8ffd\u52a0\u5bb9\u91cf\u306b\u3088\u3063\u3066\u56de\u7b54\u54c1\u8cea\u304c\u3069\u308c\u3060\u3051\u6539\u5584\u3059\u308b\u304b\u3001\u63a8\u8ad6\u901f\u5ea6\u3084\u30e1\u30e2\u30ea\u30fc\u4f7f\u7528\u91cf\u304c\u3069\u306e\u7a0b\u5ea6\u5909\u5316\u3059\u308b\u304b\u306f\u3001\u5bfe\u8c61\u3068\u306a\u308b\u30e2\u30c7\u30eb\u3092\u540c\u3058\u6761\u4ef6\u3067\u5b9f\u884c\u3057\u305f\u6bd4\u8f03\u7d50\u679c\u306b\u3088\u3063\u3066\u5224\u65ad\u3055\u308c\u308b\u3002<\/p>\n<p>\u30e2\u30c7\u30eb\u306e\u4e00\u90e8\u5206\u3092\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u6301\u3057\u305f\u3053\u3068\u306f\u3001\u305d\u306e\u90e8\u5206\u306e\u6570\u5024\u60c5\u5831\u304c\u5143\u306e\u72b6\u614b\u3067\u4fdd\u5b58\u3055\u308c\u3066\u3044\u308b\u3053\u3068\u3092\u793a\u3059\u3002\u3057\u304b\u3057\u3001\u6700\u7d42\u7684\u306a\u56de\u7b54\u306f\u3001\u53c2\u7167\u3057\u305f\u60c5\u5831\u3092\u91cf\u5b50\u5316\u6e08\u307f Backbone \u306e\u6f14\u7b97\u3078\u7d44\u307f\u8fbc\u307f\u3001\u8907\u6570\u306e\u5c64\u3092\u7d4c\u3066\u751f\u6210\u3055\u308c\u308b\u3002\u3055\u3089\u306b\u3001\u3053\u306e\u6d3e\u751f\u7248\u3067\u306f\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306b\u3082\u5909\u66f4\u304c\u52a0\u3048\u3089\u308c\u3066\u3044\u308b\u3002\u4fdd\u5b58\u3055\u308c\u305f Engram \u306e\u4e00\u81f4\u3001Backbone \u306e\u5909\u66f4\u5185\u5bb9\u3001\u63a8\u8ad6\u6642\u306e\u8a08\u7b97\u7d50\u679c\u3092\u305d\u308c\u305e\u308c\u5206\u96e2\u3059\u308b\u3053\u3068\u3067\u3001\u516c\u958b\u3055\u308c\u305f\u30e2\u30c7\u30eb\u306e\u69cb\u6210\u304b\u3089\u76f4\u63a5\u78ba\u8a8d\u3067\u304d\u308b\u4e8b\u5b9f\u3068\u3001\u5b9f\u6e2c\u306b\u3088\u3063\u3066\u78ba\u304b\u3081\u308b\u3079\u304d\u6027\u80fd\u4e0a\u306e\u6027\u8cea\u3092\u533a\u5225\u3067\u304d\u308b\u3002<\/p>\n<hr>\n<h2>5. \u30d0\u30a4\u30c8\u4e00\u81f4\u3068\u63a8\u8ad6\u6210\u529f\u306f\u4f55\u3092\u8a3c\u660e\u3059\u308b\u306e\u304b<\/h2>\n<p>\u30e2\u30c7\u30eb\u306e\u91cd\u307f\u3092\u5225\u306e\u4fdd\u5b58\u5f62\u5f0f\u3078\u5909\u63db\u3057\u305f\u5834\u5408\u3001\u305d\u306e\u5909\u63db\u304c\u6b63\u3057\u304f\u884c\u308f\u308c\u305f\u304b\u3092\u78ba\u8a8d\u3059\u308b\u65b9\u6cd5\u306f\u3044\u304f\u3064\u304b\u3042\u308b\u3002\u5143\u306e\u30c7\u30fc\u30bf\u3068\u5909\u63db\u5f8c\u306e\u30c7\u30fc\u30bf\u3092\u6bd4\u8f03\u3059\u308b\u65b9\u6cd5\u3001\u5909\u63db\u3055\u308c\u305f\u30d5\u30a1\u30a4\u30eb\u3092\u8aad\u307f\u8fbc\u3081\u308b\u304b\u78ba\u8a8d\u3059\u308b\u65b9\u6cd5\u3001\u5b9f\u969b\u306b\u63a8\u8ad6\u3092\u5b9f\u884c\u3057\u3066\u51fa\u529b\u304c\u5f97\u3089\u308c\u308b\u304b\u78ba\u8a8d\u3059\u308b\u65b9\u6cd5\u3067\u3042\u308b\u3002\u3053\u308c\u3089\u306f\u4e00\u9023\u306e\u691c\u8a3c\u3068\u3057\u3066\u5b9f\u65bd\u3067\u304d\u308b\u304c\u3001\u305d\u308c\u305e\u308c\u304c\u76f4\u63a5\u78ba\u8a8d\u3059\u308b\u5bfe\u8c61\u306f\u7570\u306a\u308b\u3002\u5143\u306e\u5024\u3092\u6b63\u78ba\u306b\u4fdd\u5b58\u3067\u304d\u305f\u3053\u3068\u3001\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u304c\u30d5\u30a1\u30a4\u30eb\u3092\u51e6\u7406\u3067\u304d\u305f\u3053\u3068\u3001\u30e2\u30c7\u30eb\u304c\u671f\u5f85\u3059\u308b\u56de\u7b54\u3092\u751f\u6210\u3057\u305f\u3053\u3068\u306f\u3001\u7570\u306a\u308b\u6761\u4ef6\u306b\u3088\u3063\u3066\u6210\u7acb\u3059\u308b\u3002<\/p>\n<p>Starw1 \u304c\u516c\u958b\u3057\u305f verification.log \u306b\u306f\u3001DeepSeek-V4.1-Flash-1017 \u306e Engram \u3092\u5143\u306e MXFP8 \u7cbe\u5ea6\u3067\u4fdd\u6301\u3059\u308b\u305f\u3081\u306b\u5b9f\u65bd\u3057\u305f\u691c\u8a3c\u7d50\u679c\u304c\u8a18\u9332\u3055\u308c\u3066\u3044\u308b\u3002\u30ed\u30b0\u306b\u306f\u3001\u5143\u30e2\u30c7\u30eb\u306e\u5024\u3068\u5909\u63db\u5f8c\u306e\u5024\u306e\u6bd4\u8f03\u3001\u4e8c\u3064\u306e Engram \u5c64\u306e\u5bfe\u5fdc\u78ba\u8a8d\u3001Strata \u306b\u3088\u308b\u30d1\u30c3\u30ad\u30f3\u30b0\u51e6\u7406\u3001CPU \u306e\u53c2\u7167\u5b9f\u88c5\u3092\u4f7f\u7528\u3057\u305f\u751f\u6210\u8a66\u9a13\u304c\u542b\u307e\u308c\u308b<a href=\"#ref15\">[15]<\/a>\u3002\u3053\u306e\u8a18\u9332\u306b\u3088\u3063\u3066\u3001\u91cd\u307f\u306e\u4fdd\u5b58\u304b\u3089\u5b9f\u969b\u306e\u751f\u6210\u51e6\u7406\u307e\u3067\u306e\u5404\u6bb5\u968e\u306b\u3064\u3044\u3066\u3001\u516c\u958b\u8005\u304c\u4f55\u3092\u78ba\u8a8d\u3057\u305f\u304b\u3092\u5177\u4f53\u7684\u306b\u8abf\u3079\u3089\u308c\u308b\u3002<\/p>\n<p>\u691c\u8a3c\u3092\u884c\u3063\u305f\u5bfe\u8c61\u306f\u3001\u7d04 7632 \u5104\u30d1\u30e9\u30e1\u30fc\u30bf\u3092\u6301\u3064\u5143\u30e2\u30c7\u30eb\u5168\u4f53\u3067\u306f\u306a\u304f\u3001\u91cf\u5b50\u5316\u6e08\u307f Backbone \u3068\u7d44\u307f\u5408\u308f\u305b\u308b Engram \u306e\u4fdd\u5b58\u5024\u304a\u3088\u3073\u6307\u5b9a\u3055\u308c\u305f\u5b9f\u884c\u7d4c\u8def\u3067\u3042\u308b\u3002\u5143\u306e Engram \u3092\u4fdd\u6301\u3059\u308b\u3068\u3044\u3046\u76ee\u7684\u306b\u5bfe\u3057\u3066\u306f\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5024\u304c\u5909\u5316\u3057\u3066\u3044\u306a\u3044\u3053\u3068\u304c\u76f4\u63a5\u306e\u691c\u8a3c\u5bfe\u8c61\u306b\u306a\u308b\u3002\u4e00\u65b9\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u80fd\u529b\u306b\u3064\u3044\u3066\u5224\u65ad\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u91cf\u5b50\u5316\u3055\u308c\u305f Backbone \u306e\u6f14\u7b97\u7d50\u679c\u3084\u3001Engram \u304b\u3089\u53d6\u5f97\u3057\u305f\u5024\u304c\u5f8c\u7d9a\u306e\u8a08\u7b97\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u3082\u8a55\u4fa1\u5bfe\u8c61\u306b\u542b\u307e\u308c\u308b\u3002<\/p>\n<h3>5.1 \u30d0\u30a4\u30c8\u5358\u4f4d\u306e\u4e00\u81f4\u304c\u78ba\u8a8d\u3059\u308b\u4fdd\u5b58\u5185\u5bb9<\/h3>\n<p>\u30d0\u30a4\u30c8\u5358\u4f4d\u306e\u4e00\u81f4\u3068\u306f\u3001\u6bd4\u8f03\u3059\u308b\u4e8c\u3064\u306e\u30c7\u30fc\u30bf\u306b\u3064\u3044\u3066\u3001\u5bfe\u5fdc\u3059\u308b\u30d0\u30a4\u30c8\u5217\u304c\u540c\u4e00\u3067\u3042\u308b\u3053\u3068\u3092\u78ba\u8a8d\u3059\u308b\u691c\u8a3c\u3067\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u3042\u308b\u6d6e\u52d5\u5c0f\u6570\u70b9\u6570\u304c\u4fdd\u5b58\u3055\u308c\u3066\u3044\u308b\u5834\u5408\u3001\u305d\u306e\u6570\u5024\u3092\u8868\u73fe\u3059\u308b\u30d3\u30c3\u30c8\u5217\u304c\u5143\u306e\u30c7\u30fc\u30bf\u3068\u4e00\u81f4\u3057\u3066\u3044\u308c\u3070\u3001\u6bd4\u8f03\u5bfe\u8c61\u306e\u7bc4\u56f2\u306b\u3064\u3044\u3066\u6570\u5024\u8868\u73fe\u304c\u7dad\u6301\u3055\u308c\u305f\u3053\u3068\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002\u6570\u5024\u3092\u5225\u306e\u5f62\u5f0f\u3078\u5909\u63db\u3057\u3066\u304b\u3089\u518d\u69cb\u6210\u3059\u308b\u65b9\u6cd5\u3067\u306f\u3001\u5143\u306e\u6570\u5024\u306b\u8fd1\u3044\u5024\u304c\u5f97\u3089\u308c\u3066\u3082\u3001\u30d0\u30a4\u30c8\u5217\u307e\u3067\u4e00\u81f4\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u30d0\u30a4\u30c8\u4e00\u81f4\u306f\u3001\u3053\u306e\u8fd1\u4f3c\u306b\u3088\u308b\u4e00\u81f4\u3068\u3001\u5143\u306e\u8868\u73fe\u3092\u305d\u306e\u307e\u307e\u4fdd\u6301\u3059\u308b\u3053\u3068\u3092\u533a\u5225\u3059\u308b\u305f\u3081\u306b\u5229\u7528\u3067\u304d\u308b\u3002<\/p>\n<p>Starw1 \u306e Engram \u3067\u306f\u3001\u5143\u30e2\u30c7\u30eb\u306b\u542b\u307e\u308c\u308b FP8 E4M3 \u5f62\u5f0f\u306e\u5024\u3068\u300132 \u500b\u306e\u5024\u3054\u3068\u306b\u5171\u6709\u3055\u308c\u308b E8M0 \u5f62\u5f0f\u306e\u30b9\u30b1\u30fc\u30eb\u304c\u3001MXFP8 \u306e\u4fdd\u5b58\u5f62\u5f0f\u3078\u5f15\u304d\u7d99\u304c\u308c\u3066\u3044\u308b\u3002FP8 E4M3 \u306f 8 \u30d3\u30c3\u30c8\u306e\u6d6e\u52d5\u5c0f\u6570\u70b9\u5024\u3092\u8868\u3057\u3001E8M0 \u306f\u8907\u6570\u306e\u5024\u3092\u5171\u901a\u306e\u500d\u7387\u3067\u6271\u3046\u305f\u3081\u306e\u30b9\u30b1\u30fc\u30eb\u3092\u8868\u3059\u3002\u5b9f\u969b\u306b\u5229\u7528\u3055\u308c\u308b\u6570\u5024\u306f\u3001\u4fdd\u5b58\u3055\u308c\u305f\u5024\u3068\u5bfe\u5fdc\u3059\u308b\u30b9\u30b1\u30fc\u30eb\u306e\u7d44\u307f\u5408\u308f\u305b\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u305f\u3081\u3001\u5143\u306e\u6570\u5024\u8868\u73fe\u3092\u7dad\u6301\u3059\u308b\u306b\u306f\u4e21\u65b9\u306e\u60c5\u5831\u3092\u6b63\u3057\u304f\u4fdd\u6301\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001\u540c\u3058 FP8 \u306e\u30d3\u30c3\u30c8\u5217\u3092\u4fdd\u5b58\u3057\u3066\u3082\u3001\u5bfe\u5fdc\u3059\u308b\u30b9\u30b1\u30fc\u30eb\u304c\u5909\u5316\u3059\u308c\u3070\u3001\u5f8c\u7d9a\u306e\u6f14\u7b97\u3067\u89e3\u91c8\u3055\u308c\u308b\u5024\u306f\u5909\u308f\u308b\u3002\u53cd\u5bfe\u306b\u3001\u30b9\u30b1\u30fc\u30eb\u304c\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001FP8 \u306e\u5024\u304c\u7570\u306a\u308c\u3070\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304b\u3089\u5f97\u3089\u308c\u308b\u6570\u5024\u304c\u5909\u5316\u3059\u308b\u3002\u5143\u306e Engram \u3092\u6b63\u78ba\u306b\u4fdd\u6301\u3059\u308b\u3068\u3044\u3046\u6761\u4ef6\u306f\u3001\u500b\u3005\u306e\u5024\u3060\u3051\u3067\u306a\u304f\u3001\u305d\u306e\u5024\u3092\u89e3\u91c8\u3059\u308b\u305f\u3081\u306e\u30b9\u30b1\u30fc\u30eb\u3092\u542b\u3081\u3066\u6210\u7acb\u3059\u308b\u3002\u3053\u306e\u305f\u3081\u3001\u5358\u306b\u5909\u63db\u5f8c\u306e\u30d5\u30a1\u30a4\u30eb\u304c\u6307\u5b9a\u3055\u308c\u305f\u5bb9\u91cf\u3067\u751f\u6210\u3055\u308c\u305f\u3053\u3068\u3068\u3001\u5143\u306e\u6570\u5024\u60c5\u5831\u304c\u6b63\u78ba\u306b\u4fdd\u5b58\u3055\u308c\u305f\u3053\u3068\u306f\u3001\u7570\u306a\u308b\u78ba\u8a8d\u4e8b\u9805\u306b\u306a\u308b\u3002<\/p>\n<p>\u516c\u958b\u3055\u308c\u305f\u691c\u8a3c\u30ed\u30b0\u3067\u306f\u3001\u5143\u306e\u5024\u3068\u306e\u30d0\u30a4\u30c8\u6bd4\u8f03\u304c\u6210\u529f\u3057\u3001\u4e0d\u4e00\u81f4\u3068\u5224\u5b9a\u3055\u308c\u305f\u884c\u306f 0 \u4ef6\u3067\u3042\u3063\u305f\u3002\u307e\u305f\u3001\u4e8c\u3064\u306e Engram \u5c64\u306b\u3064\u3044\u3066\u3001\u5bfe\u5fdc\u3059\u308b\u5024\u304c\u6b63\u3057\u304f\u914d\u7f6e\u3055\u308c\u3066\u3044\u308b\u3053\u3068\u3092\u78ba\u8a8d\u3057\u305f\u8a18\u9332\u304c\u6b8b\u3055\u308c\u3066\u3044\u308b<a href=\"#ref15\">[15]<\/a>\u3002Starw1 \u306e\u30e2\u30c7\u30eb\u30ab\u30fc\u30c9\u3067\u306f\u3001\u7d04 7 \u5104 6800 \u4e07\u884c\u3092\u5bfe\u8c61\u306b\u30d0\u30a4\u30c8\u5358\u4f4d\u306e\u4e00\u81f4\u3092\u691c\u8a3c\u3057\u305f\u3068\u8aac\u660e\u3057\u3066\u3044\u308b\u3002\u3053\u306e\u7d50\u679c\u306f\u3001\u6bd4\u8f03\u51e6\u7406\u304c\u5bfe\u8c61\u3068\u3057\u305f Engram \u306e\u4fdd\u5b58\u5024\u306b\u3064\u3044\u3066\u3001\u5143\u30e2\u30c7\u30eb\u7531\u6765\u306e\u5024\u304c\u7dad\u6301\u3055\u308c\u3066\u3044\u308b\u3053\u3068\u3092\u652f\u6301\u3059\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\u30d0\u30a4\u30c8\u4e00\u81f4\u306b\u3088\u3063\u3066\u78ba\u8a8d\u3055\u308c\u308b\u306e\u306f\u3001\u6bd4\u8f03\u51e6\u7406\u3067\u6307\u5b9a\u3055\u308c\u305f\u5bfe\u5fdc\u95a2\u4fc2\u306b\u304a\u3051\u308b\u30c7\u30fc\u30bf\u306e\u540c\u4e00\u6027\u3067\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u5143\u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3068\u5909\u63db\u5f8c\u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5024\u304c\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\u63a8\u8ad6\u6642\u306b\u4f7f\u7528\u3059\u308b\u30cf\u30c3\u30b7\u30e5\u95a2\u6570\u3084\u53c2\u7167\u4f4d\u7f6e\u306e\u8a08\u7b97\u304c\u7570\u306a\u308c\u3070\u3001\u540c\u3058\u5165\u529b\u304b\u3089\u5225\u306e\u884c\u3092\u8aad\u307f\u51fa\u3059\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u307e\u305f\u3001\u53d6\u5f97\u3057\u305f\u5024\u3092\u5185\u90e8\u72b6\u614b\u3078\u7d44\u307f\u8fbc\u3080\u51e6\u7406\u304c\u7570\u306a\u308c\u3070\u3001\u540c\u3058\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u304b\u3089\u7570\u306a\u308b\u6f14\u7b97\u7d50\u679c\u304c\u751f\u3058\u5f97\u308b\u3002\u4fdd\u5b58\u5024\u306e\u4e00\u81f4\u306f\u3001\u53c2\u7167\u4f4d\u7f6e\u306e\u8a08\u7b97\u3084\u5f8c\u7d9a\u306e\u6f14\u7b97\u306e\u4e00\u81f4\u307e\u3067\u81ea\u52d5\u7684\u306b\u4fdd\u8a3c\u3059\u308b\u3082\u306e\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>\u3053\u306e\u95a2\u4fc2\u306f\u3001\u4fdd\u5b58\u30c7\u30fc\u30bf\u3068\u30c7\u30fc\u30bf\u3092\u5229\u7528\u3059\u308b\u51e6\u7406\u3092\u5206\u3051\u308b\u3068\u660e\u78ba\u306b\u306a\u308b\u3002\u5143\u306e Engram \u3068\u5909\u63db\u5f8c\u306e Engram \u3067\u5bfe\u5fdc\u3059\u308b\u884c\u306e\u5024\u304c\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\u3069\u306e\u884c\u3092\u53d6\u5f97\u3059\u308b\u304b\u306f\u5165\u529b\u306b\u57fa\u3065\u304f\u53c2\u7167\u51e6\u7406\u3067\u6c7a\u307e\u308a\u3001\u53d6\u5f97\u3055\u308c\u305f\u5024\u304c\u3069\u306e\u3088\u3046\u306a\u51fa\u529b\u3078\u5909\u63db\u3055\u308c\u308b\u304b\u306f Backbone \u306e\u6f14\u7b97\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002\u4eca\u56de\u306e\u30d0\u30a4\u30c8\u4e00\u81f4\u691c\u8a3c\u306f\u3001\u3053\u306e\u4e00\u9023\u306e\u51e6\u7406\u306e\u3046\u3061\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306b\u4fdd\u5b58\u3055\u308c\u305f\u5024\u306b\u3064\u3044\u3066\u306e\u8a3c\u62e0\u3067\u3042\u308b\u3002\u5143\u306e\u4fdd\u5b58\u5024\u304c\u7dad\u6301\u3055\u308c\u305f\u3053\u3068\u3092\u78ba\u8a8d\u3067\u304d\u308c\u3070\u3001\u5f8c\u7d9a\u306e\u51fa\u529b\u5dee\u3092\u8abf\u3079\u308b\u969b\u306b\u3001Engram \u306e\u4fdd\u5b58\u5024\u305d\u306e\u3082\u306e\u304c\u5909\u66f4\u3055\u308c\u305f\u3068\u3044\u3046\u8981\u56e0\u3092\u5207\u308a\u5206\u3051\u3089\u308c\u308b\u3002<\/p>\n<h3>5.2 \u30d1\u30c3\u30ad\u30f3\u30b0\u51e6\u7406\u306e\u6b63\u5e38\u7d42\u4e86\u304c\u78ba\u8a8d\u3059\u308b\u3053\u3068<\/h3>\n<p>\u5143\u306e Engram \u306e\u5024\u3092 GGUF \u5f62\u5f0f\u3078\u4fdd\u5b58\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u6570\u5024\u305d\u306e\u3082\u306e\u306e\u30b3\u30d4\u30fc\u306b\u52a0\u3048\u3066\u3001\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u304c\u8aad\u307f\u8fbc\u3081\u308b\u30c7\u30fc\u30bf\u914d\u7f6e\u3078\u5909\u63db\u3059\u308b\u51e6\u7406\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002GGUF \u306f\u3001\u30e2\u30c7\u30eb\u306e\u91cd\u307f\u3084\u69cb\u6210\u60c5\u5831\u3092\u307e\u3068\u3081\u308b\u30d5\u30a1\u30a4\u30eb\u5f62\u5f0f\u3067\u3042\u308a\u3001\u4fdd\u5b58\u3059\u308b\u6570\u5024\u306e\u7a2e\u985e\u3084\u30c6\u30f3\u30bd\u30eb\u306e\u914d\u7f6e\u306b\u95a2\u3059\u308b\u60c5\u5831\u3082\u542b\u3080\u3002\u5143\u306e\u5024\u3092\u6b63\u3057\u304f\u4fdd\u6301\u3057\u3066\u3044\u3066\u3082\u3001\u30d5\u30a1\u30a4\u30eb\u5185\u306e\u914d\u7f6e\u3084\u5f62\u5f0f\u306e\u6307\u5b9a\u304c\u5b9f\u884c\u5074\u306e\u671f\u5f85\u3068\u4e00\u81f4\u3057\u3066\u3044\u306a\u3051\u308c\u3070\u3001\u63a8\u8ad6\u51e6\u7406\u3067\u5229\u7528\u3067\u304d\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u884c\u304c\u5143\u306e\u9806\u5e8f\u304b\u3089\u5165\u308c\u66ff\u308f\u3063\u3066\u3044\u308b\u5834\u5408\u3001\u30d5\u30a1\u30a4\u30eb\u3092\u8aad\u307f\u8fbc\u3081\u3066\u3082\u3001\u540c\u3058\u53c2\u7167\u4f4d\u7f6e\u304b\u3089\u7570\u306a\u308b\u5024\u304c\u53d6\u5f97\u3055\u308c\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u307e\u305f\u3001\u6570\u5024\u306e\u5024\u3068\u30b9\u30b1\u30fc\u30eb\u306e\u5bfe\u5fdc\u95a2\u4fc2\u304c\u8aa4\u3063\u3066\u3044\u308c\u3070\u3001\u4fdd\u5b58\u3055\u308c\u305f\u30d0\u30a4\u30c8\u5217\u306e\u4e00\u90e8\u304c\u5143\u3068\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\u8aad\u307f\u51fa\u3057\u305f\u6570\u5024\u3092\u6b63\u3057\u304f\u89e3\u91c8\u3067\u304d\u306a\u3044\u3002\u30e2\u30c7\u30eb\u306e\u5909\u63db\u3067\u306f\u3001\u4fdd\u5b58\u5024\u306e\u6b63\u78ba\u6027\u306b\u52a0\u3048\u3066\u3001\u53c2\u7167\u4f4d\u7f6e\u3068\u4fdd\u5b58\u9818\u57df\u306e\u5bfe\u5fdc\u3001\u6570\u5024\u5f62\u5f0f\u306e\u6307\u5b9a\u3001\u5b9f\u884c\u6642\u306e\u8aad\u307f\u51fa\u3057\u65b9\u6cd5\u304c\u6574\u5408\u3057\u3066\u3044\u308b\u3053\u3068\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<p>Starw1 \u306e\u691c\u8a3c\u30ed\u30b0\u306b\u306f\u3001Strata \u306e\u30d1\u30c3\u30ad\u30f3\u30b0\u51e6\u7406\u304c\u7d42\u4e86\u30b3\u30fc\u30c9 0 \u3067\u5b8c\u4e86\u3057\u305f\u3053\u3068\u304c\u8a18\u9332\u3055\u308c\u3066\u3044\u308b<a href=\"#ref15\">[15]<\/a>\u3002\u7d42\u4e86\u30b3\u30fc\u30c9 0 \u306f\u3001\u901a\u5e38\u3001\u5b9f\u884c\u3057\u305f\u30d7\u30ed\u30b0\u30e9\u30e0\u304c\u6b63\u5e38\u7d42\u4e86\u3092\u5831\u544a\u3057\u305f\u3053\u3068\u3092\u610f\u5473\u3059\u308b\u3002\u3053\u306e\u8a18\u9332\u306f\u3001\u6307\u5b9a\u3055\u308c\u305f\u5165\u529b\u30d5\u30a1\u30a4\u30eb\u3068\u51e6\u7406\u6761\u4ef6\u306b\u5bfe\u3057\u3066\u3001\u30d1\u30c3\u30ad\u30f3\u30b0\u51e6\u7406\u304c\u30a8\u30e9\u30fc\u7d42\u4e86\u305b\u305a\u306b\u5b8c\u4e86\u3057\u305f\u3053\u3068\u3092\u793a\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\u691c\u8a3c\u30ed\u30b0\u306b\u306f\u3001engram_token_map.weight\u3001engram_primes.weight\u3001engram_offsets.weight\u3001engram_multipliers.weight \u306e 4 \u7a2e\u304c\u3001\u91cd\u307f\u3067\u306f\u306a\u3044\u30c7\u30fc\u30bf\u3068\u3057\u3066\u30d1\u30c3\u30ad\u30f3\u30b0\u5bfe\u8c61\u304b\u3089\u9664\u5916\u3055\u308c\u305f\u3053\u3068\u3082\u8a18\u9332\u3055\u308c\u3066\u3044\u308b<a href=\"#ref15\">[15]<\/a>\u3002\u3053\u308c\u3089\u306f\u30c8\u30fc\u30af\u30f3\u306e\u5bfe\u5fdc\u95a2\u4fc2\u3084\u53c2\u7167\u4f4d\u7f6e\u3092\u6c7a\u3081\u308b\u30cf\u30c3\u30b7\u30e5\u8a08\u7b97\u306b\u95a2\u4fc2\u3059\u308b\u60c5\u5831\u3067\u3042\u308b<a href=\"#ref10\">[10]<\/a>\u3002\u3053\u306e\u9664\u5916\u306f\u5f53\u8a72\u30d1\u30c3\u30ad\u30f3\u30b0\u5de5\u7a0b\u3067\u306e\u6271\u3044\u3067\u3042\u308a\u3001\u63a8\u8ad6\u6642\u306b\u53c2\u7167\u4f4d\u7f6e\u306e\u8a08\u7b97\u304c\u7701\u7565\u3055\u308c\u308b\u3053\u3068\u3092\u793a\u3055\u306a\u3044\u3002Engram \u306e\u5024\u3068\u30b9\u30b1\u30fc\u30eb\u304c\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\u53c2\u7167\u4f4d\u7f6e\u306e\u8a08\u7b97\u306b\u5fc5\u8981\u306a\u60c5\u5831\u304c\u63a8\u8ad6\u6642\u306b\u6b63\u3057\u304f\u5229\u7528\u3055\u308c\u308b\u3053\u3068\u306f\u5225\u306b\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u30d1\u30c3\u30ad\u30f3\u30b0\u51e6\u7406\u304c\u6b63\u5e38\u7d42\u4e86\u3057\u305f\u3053\u3068\u3068\u3001\u751f\u6210\u3055\u308c\u305f\u30d5\u30a1\u30a4\u30eb\u304c\u3042\u3089\u3086\u308b\u63a8\u8ad6\u74b0\u5883\u3067\u6b63\u3057\u304f\u52d5\u4f5c\u3059\u308b\u3053\u3068\u306f\u3001\u691c\u8a3c\u7bc4\u56f2\u304c\u7570\u306a\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u3042\u308b\u5b9f\u88c5\u3067\u6b63\u5e38\u306b\u5909\u63db\u3067\u304d\u305f\u30d5\u30a1\u30a4\u30eb\u3067\u3082\u3001\u5225\u306e\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u304c\u305d\u306e\u6570\u5024\u5f62\u5f0f\u306b\u5bfe\u5fdc\u3057\u3066\u3044\u306a\u3051\u308c\u3070\u8aad\u307f\u8fbc\u3081\u306a\u3044\u5834\u5408\u304c\u3042\u308b\u3002\u307e\u305f\u3001\u30d5\u30a1\u30a4\u30eb\u306e\u8aad\u307f\u8fbc\u307f\u306b\u6210\u529f\u3057\u3066\u3082\u3001\u53c2\u7167\u51e6\u7406\u3084\u6570\u5024\u6f14\u7b97\u306e\u5b9f\u88c5\u304c\u7570\u306a\u308c\u3070\u3001\u6700\u7d42\u7684\u306a\u8a08\u7b97\u7d50\u679c\u306b\u5dee\u304c\u751f\u3058\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u6b63\u5e38\u7d42\u4e86\u306f\u5909\u63db\u51e6\u7406\u306e\u5b9f\u884c\u7d50\u679c\u3092\u793a\u3057\u3001\u63a8\u8ad6\u6642\u306e\u6b63\u78ba\u6027\u306f\u5b9f\u884c\u5074\u306e\u51e6\u7406\u306b\u3088\u3063\u3066\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>Strata \u306f\u3001\u30e2\u30c7\u30eb\u306e\u91cd\u307f\u3092\u7570\u306a\u308b\u30e1\u30e2\u30ea\u30fc\u9818\u57df\u3078\u914d\u7f6e\u3057\u3001\u5fc5\u8981\u306a\u30c7\u30fc\u30bf\u3092\u8aad\u307f\u51fa\u3057\u306a\u304c\u3089\u63a8\u8ad6\u3092\u5b9f\u884c\u3059\u308b\u305f\u3081\u306e\u5b9f\u88c5\u3092\u516c\u958b\u3057\u3066\u3044\u308b\u3002DeepSeek-V4.1-Flash-1017 \u306e\u3088\u3046\u306a\u5927\u898f\u6a21\u30e2\u30c7\u30eb\u306b\u3064\u3044\u3066\u3082\u3001GPU \u306e\u30e1\u30e2\u30ea\u30fc\u306b\u53ce\u307e\u3089\u306a\u3044\u91cd\u307f\u3092 RAM \u3084 SSD \u304b\u3089\u6271\u3046\u69cb\u6210\u3092\u63d0\u4f9b\u3057\u3066\u3044\u308b<a href=\"#ref16\">[16]<\/a>\u3002\u3053\u306e\u5b9f\u88c5\u3067\u306f\u3001\u4fdd\u5b58\u3055\u308c\u305f\u30e2\u30c7\u30eb\u306e\u5f62\u5f0f\u3060\u3051\u3067\u306a\u304f\u3001\u91cd\u307f\u306e\u914d\u7f6e\u3001\u30c7\u30fc\u30bf\u8ee2\u9001\u3001\u53c2\u7167\u51e6\u7406\u306a\u3069\u304c\u5b9f\u884c\u6642\u306e\u6761\u4ef6\u306b\u306a\u308b\u3002<\/p>\n<p>\u4eca\u56de\u306e\u30d1\u30c3\u30ad\u30f3\u30b0\u51e6\u7406\u306f\u3001Starw1 \u306e Engram \u3092 Strata \u306e\u51e6\u7406\u7d4c\u8def\u3067\u6271\u3046\u305f\u3081\u306e\u78ba\u8a8d\u306b\u4f4d\u7f6e\u3065\u3051\u3089\u308c\u308b\u3002\u5143\u306e\u5024\u3068\u306e\u30d0\u30a4\u30c8\u4e00\u81f4\u304c\u4fdd\u5b58\u5185\u5bb9\u3092\u691c\u8a3c\u3059\u308b\u306e\u306b\u5bfe\u3057\u3001\u30d1\u30c3\u30ad\u30f3\u30b0\u51e6\u7406\u306e\u6b63\u5e38\u7d42\u4e86\u306f\u6307\u5b9a\u3055\u308c\u305f\u30d5\u30a1\u30a4\u30eb\u5909\u63db\u51e6\u7406\u304c\u5b8c\u4e86\u3057\u305f\u3053\u3068\u3092\u78ba\u8a8d\u3059\u308b\u3002\u3055\u3089\u306b\u3001\u5909\u63db\u5f8c\u306e\u30e2\u30c7\u30eb\u3092\u8aad\u307f\u8fbc\u3093\u3067\u63a8\u8ad6\u3092\u5b9f\u884c\u3059\u308b\u3053\u3068\u3067\u3001\u5b9f\u969b\u306e\u8aad\u307f\u51fa\u3057\u3068\u8a08\u7b97\u304c\u6210\u7acb\u3059\u308b\u304b\u3092\u8abf\u3079\u3089\u308c\u308b\u3002\u3053\u306e\u4e09\u3064\u306e\u6bb5\u968e\u3067\u306f\u3001\u540c\u3058 Engram \u3092\u5bfe\u8c61\u3068\u3057\u3066\u3044\u3066\u3082\u3001\u691c\u8a3c\u3057\u3066\u3044\u308b\u6027\u8cea\u304c\u7570\u306a\u308b\u3002<\/p>\n<h3>5.3 CPU \u306e\u53c2\u7167\u5b9f\u88c5\u306b\u3088\u308b\u751f\u6210\u8a66\u9a13<\/h3>\n<p>\u4fdd\u5b58\u5024\u3068\u30d5\u30a1\u30a4\u30eb\u5f62\u5f0f\u306e\u6574\u5408\u6027\u3092\u78ba\u8a8d\u3057\u305f\u5f8c\u3001\u5b9f\u969b\u306b\u63a8\u8ad6\u3092\u5b9f\u884c\u3059\u308b\u3053\u3068\u3067\u3001\u30e2\u30c7\u30eb\u3092\u8aad\u307f\u8fbc\u307f\u3001\u5165\u529b\u3092\u51e6\u7406\u3057\u3001\u51fa\u529b\u3092\u751f\u6210\u3059\u308b\u307e\u3067\u306e\u7d4c\u8def\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002\u63a8\u8ad6\u306e\u52d5\u4f5c\u78ba\u8a8d\u3067\u306f\u3001\u91cd\u307f\u306e\u8aad\u307f\u8fbc\u307f\u3001\u5165\u529b\u306e\u51e6\u7406\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304b\u3089\u306e\u5024\u306e\u53d6\u5f97\u3001Backbone \u306e\u6f14\u7b97\u3001\u6b21\u30c8\u30fc\u30af\u30f3\u306e\u9078\u629e\u3068\u3044\u3046\u8907\u6570\u306e\u51e6\u7406\u304c\u95a2\u4fc2\u3059\u308b\u3002\u6700\u7d42\u7684\u306b\u51fa\u529b\u304c\u5f97\u3089\u308c\u308c\u3070\u3001\u5c11\u306a\u304f\u3068\u3082\u305d\u306e\u5165\u529b\u3068\u5b9f\u884c\u6761\u4ef6\u306b\u304a\u3044\u3066\u3001\u751f\u6210\u306b\u5fc5\u8981\u306a\u51e6\u7406\u304c\u5b8c\u4e86\u3057\u305f\u3053\u3068\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/p>\n<p>Starw1 \u306e\u691c\u8a3c\u30ed\u30b0\u306b\u306f\u3001CPU \u306e\u53c2\u7167\u5b9f\u88c5\u3092\u4f7f\u7528\u3057\u3001\u30d5\u30e9\u30f3\u30b9\u306e\u9996\u90fd\u3092\u90fd\u5e02\u540d\u3060\u3051\u3067\u7b54\u3048\u308b\u3088\u3046\u6c42\u3081\u308b\u5165\u529b\u3092\u4e0e\u3048\u305f\u8a66\u9a13\u304c\u8a18\u9332\u3055\u308c\u3066\u3044\u308b\u3002\u901a\u5e38\u306e Backbone \u3068\u62d2\u5426\u95a2\u9023\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f Backbone \u306e\u4e21\u65b9\u3067\u3001\u751f\u6210\u7d50\u679c\u306f Paris \u3067\u3042\u3063\u305f<a href=\"#ref15\">[15]<\/a>\u3002\u3053\u306e\u7d50\u679c\u306f\u3001\u6307\u5b9a\u3055\u308c\u305f\u69cb\u6210\u304c\u7c21\u5358\u306a\u4e8b\u5b9f\u8cea\u554f\u306b\u5bfe\u3057\u3066\u6b21\u306e\u30c8\u30fc\u30af\u30f3\u3092\u8a08\u7b97\u3057\u3001\u671f\u5f85\u3055\u308c\u308b\u90fd\u5e02\u540d\u3092\u51fa\u529b\u3067\u304d\u305f\u3053\u3068\u3092\u793a\u3057\u3066\u3044\u308b\u3002<\/p>\n<p>\u3053\u306e\u8a66\u9a13\u304c\u6301\u3064\u610f\u5473\u3092\u8003\u3048\u308b\u306b\u306f\u3001\u6b63\u3057\u3044\u6587\u5b57\u5217\u304c\u51fa\u529b\u3055\u308c\u305f\u3068\u3044\u3046\u7d50\u679c\u3068\u3001\u305d\u306e\u6587\u5b57\u5217\u3092\u751f\u6210\u3059\u308b\u305f\u3081\u306b\u5b9f\u884c\u3055\u308c\u305f\u51e6\u7406\u3092\u533a\u5225\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002Paris \u304c\u751f\u6210\u3055\u308c\u305f\u3053\u3068\u306f\u3001\u305d\u306e\u5165\u529b\u306b\u5bfe\u3057\u3066\u9069\u5207\u306a\u5019\u88dc\u304c\u9078\u629e\u3055\u308c\u305f\u3053\u3068\u3092\u793a\u3059\u3002\u540c\u6642\u306b\u3001\u5165\u529b\u3092\u51e6\u7406\u3057\u3066\u5019\u88dc\u3092\u8a08\u7b97\u3059\u308b\u307e\u3067\u306e\u7d4c\u8def\u304c\u3001\u6307\u5b9a\u3055\u308c\u305f\u53c2\u7167\u5b9f\u88c5\u3067\u5b8c\u4e86\u3057\u305f\u3053\u3068\u3082\u78ba\u8a8d\u3067\u304d\u308b\u3002\u305f\u3060\u3057\u3001\u30c6\u30fc\u30d6\u30eb\u306e\u3059\u3079\u3066\u306e\u884c\u304c\u5b9f\u969b\u306b\u53c2\u7167\u3055\u308c\u305f\u308f\u3051\u3067\u306f\u306a\u304f\u3001\u30e2\u30c7\u30eb\u304c\u53d6\u308a\u5f97\u308b\u3059\u3079\u3066\u306e\u8a08\u7b97\u7d4c\u8def\u304c\u5b9f\u884c\u3055\u308c\u305f\u308f\u3051\u3067\u3082\u306a\u3044\u3002\u751f\u6210\u8a66\u9a13\u3067\u78ba\u8a8d\u3067\u304d\u308b\u7bc4\u56f2\u306f\u3001\u305d\u306e\u5165\u529b\u3067\u901a\u904e\u3057\u305f\u51e6\u7406\u306b\u9650\u5b9a\u3055\u308c\u308b\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001\u77ed\u3044\u5730\u7406\u7684\u306a\u8cea\u554f\u3067\u306f\u3001\u53c2\u7167\u3055\u308c\u308b\u30c8\u30fc\u30af\u30f3\u306e\u7d44\u307f\u5408\u308f\u305b\u3084\u3001\u5fc5\u8981\u3068\u306a\u308b\u6587\u8108\u306e\u9577\u3055\u304c\u9650\u3089\u308c\u3066\u3044\u308b\u3002\u9577\u3044\u6587\u7ae0\u3092\u5165\u529b\u3057\u305f\u5834\u5408\u306b\u306f\u3001\u7570\u306a\u308b n-gram \u304c\u53c2\u7167\u3055\u308c\u3001\u3088\u308a\u591a\u304f\u306e\u60c5\u5831\u304c\u5185\u90e8\u72b6\u614b\u3078\u7d44\u307f\u8fbc\u307e\u308c\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u307e\u305f\u3001\u8907\u6570\u306e\u6761\u4ef6\u3092\u7d44\u307f\u5408\u308f\u305b\u308b\u8cea\u554f\u3067\u306f\u3001\u6700\u521d\u306e\u30c8\u30fc\u30af\u30f3\u304c\u6b63\u3057\u304f\u751f\u6210\u3055\u308c\u3066\u3082\u3001\u5f8c\u7d9a\u306e\u751f\u6210\u3067\u8aa4\u3063\u305f\u5224\u65ad\u304c\u751f\u3058\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u5358\u4e00\u306e\u751f\u6210\u8a66\u9a13\u306f\u3001\u57fa\u672c\u7684\u306a\u5b9f\u884c\u7d4c\u8def\u306e\u78ba\u8a8d\u306b\u306f\u5229\u7528\u3067\u304d\u308b\u304c\u3001\u591a\u69d8\u306a\u5165\u529b\u306b\u5bfe\u3059\u308b\u56de\u7b54\u54c1\u8cea\u3092\u8a55\u4fa1\u3059\u308b\u306b\u306f\u3001\u5225\u306e\u8a66\u9a13\u6761\u4ef6\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<p>\u3055\u3089\u306b\u3001\u30ed\u30b0\u306b\u306f\u901a\u5e38\u306e Backbone \u3068\u62d2\u5426\u5909\u66f4\u5f8c\u306e Backbone \u304c\u540c\u3058 Paris \u3092\u6700\u4e0a\u4f4d\u5019\u88dc\u3068\u3057\u306a\u304c\u3089\u3001\u307b\u304b\u306e\u5019\u88dc\u306e\u5024\u306b\u306f\u5dee\u304c\u3042\u308b\u3053\u3068\u3082\u8a18\u9332\u3055\u308c\u3066\u3044\u308b<a href=\"#ref15\">[15]<\/a>\u3002\u3053\u308c\u306f\u3001\u6700\u7d42\u7684\u306b\u9078\u629e\u3055\u308c\u305f\u30c8\u30fc\u30af\u30f3\u304c\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\u51fa\u529b\u5019\u88dc\u306b\u5272\u308a\u5f53\u3066\u3089\u308c\u305f\u30b9\u30b3\u30a2\u3084\u78ba\u7387\u5206\u5e03\u307e\u3067\u4e00\u81f4\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3053\u3068\u3092\u793a\u3057\u3066\u3044\u308b\u3002\u305f\u3068\u3048\u3070\u3001Paris \u304c\u6700\u3082\u9ad8\u3044\u30b9\u30b3\u30a2\u3092\u6301\u3064\u72b6\u614b\u304c\u7dad\u6301\u3055\u308c\u3066\u3044\u308c\u3070\u3001\u307b\u304b\u306e\u5019\u88dc\u306e\u30b9\u30b3\u30a2\u304c\u5909\u5316\u3057\u3066\u3082\u3001\u6700\u5927\u30b9\u30b3\u30a2\u3092\u9078\u3076\u65b9\u5f0f\u3067\u306f\u540c\u3058\u6587\u5b57\u5217\u304c\u51fa\u529b\u3055\u308c\u308b\u3002<\/p>\n<p>\u5019\u88dc\u306e\u30b9\u30b3\u30a2\u306b\u5dee\u304c\u5b58\u5728\u3059\u308b\u5834\u5408\u3001\u305d\u306e\u5dee\u306f\u5f8c\u7d9a\u306e\u751f\u6210\u306b\u5f71\u97ff\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u78ba\u7387\u7684\u306a\u65b9\u6cd5\u3067\u30c8\u30fc\u30af\u30f3\u3092\u9078\u629e\u3059\u308b\u5834\u5408\u3001\u5019\u88dc\u306e\u78ba\u7387\u5206\u5e03\u304c\u5909\u5316\u3059\u308c\u3070\u3001\u540c\u3058\u5019\u88dc\u304c\u6700\u4e0a\u4f4d\u3067\u3042\u3063\u3066\u3082\u9078\u629e\u3055\u308c\u308b\u30c8\u30fc\u30af\u30f3\u306e\u78ba\u7387\u306f\u5909\u308f\u308b\u3002\u307e\u305f\u3001\u8907\u6570\u306e\u30c8\u30fc\u30af\u30f3\u3092\u751f\u6210\u3059\u308b\u969b\u306b\u306f\u3001\u76f4\u524d\u306b\u751f\u6210\u3055\u308c\u305f\u30c8\u30fc\u30af\u30f3\u304c\u6b21\u306e\u5165\u529b\u6761\u4ef6\u306e\u4e00\u90e8\u3068\u306a\u308b\u305f\u3081\u3001\u4e00\u5ea6\u9078\u629e\u304c\u5206\u304b\u308c\u308b\u3068\u5f8c\u7d9a\u306e\u6587\u7ae0\u306b\u3082\u5dee\u304c\u5e83\u304c\u308a\u5f97\u308b\u3002\u540c\u3058\u4e00\u8a9e\u3092\u751f\u6210\u3057\u305f\u3068\u3044\u3046\u7d50\u679c\u3068\u3001\u30e2\u30c7\u30eb\u306e\u51fa\u529b\u5206\u5e03\u3084\u9577\u6587\u751f\u6210\u306e\u6319\u52d5\u304c\u4e00\u81f4\u3059\u308b\u3053\u3068\u306f\u3001\u5225\u3005\u306b\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<h3>5.4 \u52d5\u4f5c\u78ba\u8a8d\u306b\u8981\u3057\u305f\u6642\u9593\u3068\u5b9f\u7528\u7684\u306a\u63a8\u8ad6\u901f\u5ea6<\/h3>\n<p>CPU \u306e\u53c2\u7167\u5b9f\u88c5\u306b\u3088\u308b\u751f\u6210\u8a66\u9a13\u3067\u306f\u3001\u8a08\u7b97\u304c\u5b8c\u4e86\u3057\u305f\u3053\u3068\u306b\u52a0\u3048\u3066\u3001\u51e6\u7406\u306b\u8981\u3057\u305f\u6642\u9593\u3082\u8a18\u9332\u3055\u308c\u3066\u3044\u308b\u3002\u516c\u958b\u30ed\u30b0\u306b\u8a18\u8f09\u3055\u308c\u305f\u751f\u6210\u30b9\u30c6\u30c3\u30d7\u306e\u6642\u9593\u306f\u3001\u901a\u5e38\u306e Backbone \u304c 7424 \u79d2\u3001\u62d2\u5426\u5909\u66f4\u5f8c\u306e Backbone \u304c 4286 \u79d2\u3067\u3042\u308b<a href=\"#ref15\">[15]<\/a>\u3002\u305d\u308c\u305e\u308c\u7d04 2 \u6642\u9593 4 \u5206\u3001\u7d04 1 \u6642\u9593 11 \u5206\u306b\u76f8\u5f53\u3059\u308b\u3002\u3053\u306e\u6642\u9593\u306f\u3001\u516c\u958b\u3055\u308c\u305f\u53c2\u7167\u5b9f\u88c5\u3067\u306e\u5b9f\u884c\u7d50\u679c\u3092\u793a\u3059\u3082\u306e\u3067\u3042\u308a\u3001GPU \u3092\u5229\u7528\u3057\u305f\u901a\u5e38\u306e\u63a8\u8ad6\u74b0\u5883\u306b\u304a\u3051\u308b\u751f\u6210\u901f\u5ea6\u3092\u8868\u3059\u6570\u5024\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>\u53c2\u7167\u5b9f\u88c5\u306f\u3001\u51e6\u7406\u306e\u6b63\u78ba\u6027\u3084\u5b9f\u88c5\u306e\u6574\u5408\u6027\u3092\u78ba\u8a8d\u3059\u308b\u305f\u3081\u306b\u4f7f\u7528\u3055\u308c\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001CPU \u3067\u6570\u5024\u6f14\u7b97\u3092\u9806\u756a\u306b\u5b9f\u884c\u3059\u308b\u69cb\u6210\u3067\u306f\u3001GPU \u306e\u4e26\u5217\u6f14\u7b97\u3084\u9ad8\u901f\u306a\u30e1\u30e2\u30ea\u30fc\u8ee2\u9001\u3092\u5229\u7528\u3059\u308b\u69cb\u6210\u3068\u6bd4\u3079\u3066\u3001\u51e6\u7406\u6642\u9593\u304c\u9577\u304f\u306a\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u307e\u305f\u3001\u4f4e\u30d3\u30c3\u30c8\u91cf\u5b50\u5316\u3055\u308c\u305f\u91cd\u307f\u3092\u6f14\u7b97\u306b\u5229\u7528\u3059\u308b\u306b\u306f\u3001\u4fdd\u5b58\u5f62\u5f0f\u306b\u5fdc\u3058\u305f\u6570\u5024\u306e\u5fa9\u53f7\u3084\u5c02\u7528\u306e\u6f14\u7b97\u51e6\u7406\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002\u53c2\u7167\u5b9f\u88c5\u304c\u305d\u308c\u3089\u306e\u51e6\u7406\u3092\u5358\u7d14\u306a\u65b9\u6cd5\u3067\u5b9f\u884c\u3059\u308b\u5834\u5408\u3001\u540c\u3058\u30e2\u30c7\u30eb\u3067\u3042\u3063\u3066\u3082\u6700\u9069\u5316\u3055\u308c\u305f\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u3068\u306f\u7570\u306a\u308b\u51e6\u7406\u6642\u9593\u306b\u306a\u308b\u3002<\/p>\n<p>\u4eca\u56de\u306e\u8a18\u9332\u304b\u3089\u3001\u901a\u5e38\u306e Backbone \u3068\u62d2\u5426\u5909\u66f4\u5f8c\u306e Backbone \u306e\u5b9f\u7528\u7684\u306a\u901f\u5ea6\u5dee\u3092\u5224\u65ad\u3059\u308b\u3053\u3068\u3082\u3067\u304d\u306a\u3044\u3002\u4e8c\u3064\u306e\u8a66\u9a13\u3067\u6642\u9593\u304c\u7570\u306a\u308b\u3068\u3044\u3046\u89b3\u6e2c\u7d50\u679c\u306f\u5b58\u5728\u3059\u308b\u304c\u3001\u305d\u306e\u539f\u56e0\u3092\u91cd\u307f\u306e\u5909\u66f4\u3078\u5e30\u5c5e\u3055\u305b\u308b\u306b\u306f\u3001\u4f7f\u7528\u3057\u305f\u8a08\u7b97\u8cc7\u6e90\u3001\u5b9f\u884c\u9806\u5e8f\u3001\u30ad\u30e3\u30c3\u30b7\u30e5\u306e\u72b6\u614b\u3001\u6e2c\u5b9a\u306e\u7e70\u308a\u8fd4\u3057\u306a\u3069\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u5358\u4e00\u306e\u5b9f\u884c\u6642\u9593\u306b\u306f\u3001\u30e2\u30c7\u30eb\u306e\u8a08\u7b97\u305d\u306e\u3082\u306e\u306b\u52a0\u3048\u3066\u3001\u30c7\u30fc\u30bf\u306e\u8aad\u307f\u8fbc\u307f\u3084\u5b9f\u884c\u74b0\u5883\u306e\u72b6\u614b\u306b\u3088\u308b\u5f71\u97ff\u304c\u542b\u307e\u308c\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u307e\u305f\u3001\u63a8\u8ad6\u901f\u5ea6\u3092\u8a55\u4fa1\u3059\u308b\u969b\u306b\u306f\u3001\u5165\u529b\u3092\u51e6\u7406\u3057\u3066\u6700\u521d\u306e\u30c8\u30fc\u30af\u30f3\u3092\u751f\u6210\u3059\u308b\u307e\u3067\u306e\u6642\u9593\u3068\u3001\u305d\u306e\u5f8c\u306b\u9023\u7d9a\u3057\u3066\u30c8\u30fc\u30af\u30f3\u3092\u751f\u6210\u3059\u308b\u901f\u5ea6\u3092\u533a\u5225\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u6700\u521d\u306e\u30c8\u30fc\u30af\u30f3\u3092\u751f\u6210\u3059\u308b\u969b\u306b\u306f\u3001\u30e2\u30c7\u30eb\u306e\u521d\u671f\u5316\u3084\u5165\u529b\u306e\u51e6\u7406\u3001\u5fc5\u8981\u306a\u91cd\u307f\u306e\u8aad\u307f\u8fbc\u307f\u306a\u3069\u304c\u95a2\u4fc2\u3059\u308b\u3002\u4e00\u65b9\u3001\u9023\u7d9a\u751f\u6210\u3067\u306f\u3001\u65e2\u306b\u8a08\u7b97\u3057\u305f\u72b6\u614b\u3092\u5229\u7528\u3057\u306a\u304c\u3089\u6b21\u306e\u30c8\u30fc\u30af\u30f3\u3092\u8a08\u7b97\u3059\u308b\u305f\u3081\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u8aad\u307f\u51fa\u3057\u3084\u30ad\u30e3\u30c3\u30b7\u30e5\u306e\u5229\u7528\u72b6\u6cc1\u304c\u5909\u5316\u3059\u308b\u3002\u5358\u4e00\u306e\u751f\u6210\u30b9\u30c6\u30c3\u30d7\u306b\u8981\u3057\u305f\u6642\u9593\u3060\u3051\u3067\u306f\u3001\u9577\u3044\u6587\u7ae0\u3092\u751f\u6210\u3059\u308b\u969b\u306e\u5e73\u5747\u7684\u306a\u51e6\u7406\u901f\u5ea6\u3092\u5224\u65ad\u3067\u304d\u306a\u3044\u3002<\/p>\n<p>\u7279\u306b\u3001Starw1 \u306e\u69cb\u6210\u3067\u306f\u7d04 202.8 GB \u306e Engram \u3092\u4fdd\u6301\u3057\u3066\u3044\u308b\u305f\u3081\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u3069\u3053\u306b\u914d\u7f6e\u3059\u308b\u304b\u304c\u5b9f\u884c\u6027\u80fd\u3078\u95a2\u4fc2\u3059\u308b\u3002\u5fc5\u8981\u306a\u884c\u3092\u9ad8\u901f\u306a\u30e1\u30e2\u30ea\u30fc\u304b\u3089\u53d6\u5f97\u3067\u304d\u308b\u5834\u5408\u3068\u3001SSD \u304b\u3089\u8aad\u307f\u51fa\u3059\u5834\u5408\u3067\u306f\u3001\u53c2\u7167\u5f85\u3061\u6642\u9593\u304c\u7570\u306a\u308b\u3002\u3055\u3089\u306b\u3001\u540c\u3058\u884c\u304c\u7e70\u308a\u8fd4\u3057\u53c2\u7167\u3055\u308c\u308b\u5834\u5408\u306b\u306f\u30ad\u30e3\u30c3\u30b7\u30e5\u306b\u3088\u3063\u3066\u8aad\u307f\u51fa\u3057\u3092\u6e1b\u3089\u305b\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u4e00\u65b9\u3001\u53c2\u7167\u3059\u308b\u884c\u304c\u5e83\u3044\u7bc4\u56f2\u3078\u5206\u6563\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u30b9\u30c8\u30ec\u30fc\u30b8\u3078\u306e\u30a2\u30af\u30bb\u30b9\u304c\u5897\u3048\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u4fdd\u5b58\u5bb9\u91cf\u304c\u5927\u304d\u3044\u3053\u3068\u3068\u3001\u5404\u30c8\u30fc\u30af\u30f3\u306e\u751f\u6210\u3067\u5fc5\u8981\u3068\u306a\u308b\u30c7\u30fc\u30bf\u8ee2\u9001\u91cf\u304c\u5927\u304d\u3044\u3053\u3068\u306f\u3001\u540c\u3058\u6761\u4ef6\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>Strata \u306f\u3001RAM \u3084 SSD \u3092\u5229\u7528\u3057\u3066\u5927\u898f\u6a21\u30e2\u30c7\u30eb\u306e\u63a8\u8ad6\u3092\u5b9f\u884c\u3059\u308b\u6a5f\u80fd\u3092\u516c\u958b\u3057\u3066\u3044\u308b<a href=\"#ref16\">[16]<\/a>\u3002\u3057\u304b\u3057\u3001\u53c2\u7167\u5b9f\u88c5\u306e\u52d5\u4f5c\u78ba\u8a8d\u304b\u3089\u3001Starw1 \u306e MXFP8 Engram \u3092\u4f7f\u7528\u3057\u305f\u69cb\u6210\u304c\u3001\u7279\u5b9a\u306e GPU \u3084\u30e1\u30e2\u30ea\u30fc\u5bb9\u91cf\u3067\u3069\u306e\u7a0b\u5ea6\u306e\u901f\u5ea6\u3092\u5b9f\u73fe\u3059\u308b\u304b\u307e\u3067\u306f\u78ba\u5b9a\u3057\u306a\u3044\u3002\u5b9f\u7528\u7684\u306a\u6027\u80fd\u3092\u5224\u65ad\u3059\u308b\u306b\u306f\u3001\u4f7f\u7528\u3059\u308b\u8a08\u7b97\u6a5f\u306e\u69cb\u6210\u3001\u91cd\u307f\u306e\u914d\u7f6e\u3001\u5165\u529b\u306e\u9577\u3055\u3001\u751f\u6210\u30c8\u30fc\u30af\u30f3\u6570\u3092\u660e\u793a\u3057\u305f\u3046\u3048\u3067\u3001\u521d\u56de\u751f\u6210\u307e\u3067\u306e\u6642\u9593\u3068\u9023\u7d9a\u751f\u6210\u306e\u901f\u5ea6\u3092\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<h3>5.5 \u516c\u958b\u3055\u308c\u305f\u691c\u8a3c\u7d50\u679c\u3068\u4fdd\u8a3c\u3067\u304d\u308b\u7bc4\u56f2<\/h3>\n<p>Starw1 \u306e\u516c\u958b\u8a18\u9332\u306b\u542b\u307e\u308c\u308b\u691c\u8a3c\u3092\u6574\u7406\u3059\u308b\u3068\u3001\u4fdd\u5b58\u5185\u5bb9\u306e\u4e00\u81f4\u3001\u30d5\u30a1\u30a4\u30eb\u5909\u63db\u306e\u5b8c\u4e86\u3001\u7279\u5b9a\u5165\u529b\u3067\u306e\u63a8\u8ad6\u6210\u529f\u3068\u3044\u3046\u4e09\u3064\u306e\u6bb5\u968e\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002\u3055\u3089\u306b\u3001\u63a8\u8ad6\u6642\u306e\u51fa\u529b\u5019\u88dc\u306e\u9055\u3044\u3084\u51e6\u7406\u6642\u9593\u306e\u8a18\u9332\u304b\u3089\u3001\u751f\u6210\u3055\u308c\u305f\u6587\u5b57\u5217\u306e\u4e00\u81f4\u3068\u5185\u90e8\u306e\u8a08\u7b97\u7d50\u679c\u306e\u4e00\u81f4\u3092\u533a\u5225\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3053\u3068\u3082\u5206\u304b\u308b\u3002\u3053\u308c\u3089\u306e\u4e8b\u5b9f\u3092\u4e00\u3064\u306e\u6210\u529f\u5224\u5b9a\u3078\u307e\u3068\u3081\u308b\u3068\u3001\u3069\u306e\u6027\u8cea\u304c\u5b9f\u969b\u306b\u691c\u8a3c\u3055\u308c\u305f\u304b\u304c\u4e0d\u660e\u78ba\u306b\u306a\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u691c\u8a3c\u5bfe\u8c61<\/th>\n<th>\u516c\u958b\u8a18\u9332\u3067\u78ba\u8a8d\u3067\u304d\u308b\u5185\u5bb9<\/th>\n<th>\u76f4\u63a5\u652f\u6301\u3055\u308c\u308b\u7d50\u8ad6<\/th>\n<th>\u8ffd\u52a0\u306e\u691c\u8a3c\u304c\u5fc5\u8981\u306a\u6027\u8cea<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>Engram \u306e\u4fdd\u5b58\u5185\u5bb9<\/td>\n<td>\u5143\u306e\u5024\u3068\u306e\u30d0\u30a4\u30c8\u4e00\u81f4\u304c PASS \u3068\u306a\u308a\u3001\u4e0d\u4e00\u81f4\u884c\u306f 0 \u4ef6\u3068\u8a18\u9332\u3055\u308c\u3066\u3044\u308b\u3002<\/td>\n<td>\u6bd4\u8f03\u5bfe\u8c61\u3068\u306a\u3063\u305f Engram \u306e\u5024\u304c\u5143\u30e2\u30c7\u30eb\u7531\u6765\u306e\u5024\u3068\u4e00\u81f4\u3057\u3066\u3044\u308b\u3002<\/td>\n<td>\u53c2\u7167\u4f4d\u7f6e\u306e\u8a08\u7b97\u3084\u5f8c\u7d9a\u306e\u6f14\u7b97\u306b\u3088\u3063\u3066\u3001\u5143\u30e2\u30c7\u30eb\u3068\u540c\u3058\u7d50\u679c\u304c\u5f97\u3089\u308c\u308b\u304b\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>Engram \u5c64\u306e\u5bfe\u5fdc<\/td>\n<td>\u4e8c\u3064\u306e Engram \u5c64\u306b\u3064\u3044\u3066\u3001\u5143\u306e\u30c7\u30fc\u30bf\u3068\u5909\u63db\u5f8c\u306e\u30c7\u30fc\u30bf\u306e\u5bfe\u5fdc\u3092\u78ba\u8a8d\u3057\u3066\u3044\u308b\u3002<\/td>\n<td>\u691c\u8a3c\u5bfe\u8c61\u3068\u306a\u3063\u305f\u5c64\u306e\u4fdd\u5b58\u5024\u3068\u914d\u7f6e\u306e\u5bfe\u5fdc\u304c\u78ba\u8a8d\u3055\u308c\u3066\u3044\u308b\u3002<\/td>\n<td>\u5b9f\u969b\u306e\u63a8\u8ad6\u3067\u5404\u5c64\u304c\u6b63\u3057\u3044\u53c2\u7167\u4f4d\u7f6e\u3092\u4f7f\u7528\u3057\u3001\u53d6\u5f97\u3057\u305f\u5024\u3092\u9069\u5207\u306b\u7d71\u5408\u3059\u308b\u304b\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u30e2\u30c7\u30eb\u306e\u5909\u63db<\/td>\n<td>Strata \u306e\u30d1\u30c3\u30ad\u30f3\u30b0\u51e6\u7406\u306f\u7d42\u4e86\u30b3\u30fc\u30c9 0 \u3067\u5b8c\u4e86\u3057\u305f\u3002<\/td>\n<td>\u6307\u5b9a\u3055\u308c\u305f\u5b9f\u88c5\u3068\u5165\u529b\u6761\u4ef6\u3067\u30d5\u30a1\u30a4\u30eb\u5909\u63db\u51e6\u7406\u304c\u6b63\u5e38\u7d42\u4e86\u3057\u305f\u3002<\/td>\n<td>\u751f\u6210\u3055\u308c\u305f\u30d5\u30a1\u30a4\u30eb\u306e\u52d5\u4f5c\u3084\u3001\u7570\u306a\u308b\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u3068\u306e\u4e92\u63db\u6027\u306f\u3001\u305d\u308c\u305e\u308c\u306e\u74b0\u5883\u3067\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u7c21\u5358\u306a\u6587\u7ae0\u751f\u6210<\/td>\n<td>\u901a\u5e38\u306e Backbone \u3068\u62d2\u5426\u5909\u66f4\u5f8c\u306e Backbone \u304c\u3001\u30d5\u30e9\u30f3\u30b9\u306e\u9996\u90fd\u3092\u7b54\u3048\u308b\u5165\u529b\u306b\u5bfe\u3057\u3066 Paris \u3092\u751f\u6210\u3057\u305f\u3002<\/td>\n<td>\u6307\u5b9a\u3057\u305f\u5165\u529b\u3068\u53c2\u7167\u5b9f\u88c5\u3067\u63a8\u8ad6\u51e6\u7406\u304c\u5b8c\u4e86\u3057\u3001\u671f\u5f85\u3059\u308b\u90fd\u5e02\u540d\u3092\u51fa\u529b\u3057\u305f\u3002<\/td>\n<td>\u591a\u69d8\u306a\u8cea\u554f\u3001\u9577\u6587\u3001\u30b3\u30fc\u30c9\u751f\u6210\u3001\u65e5\u672c\u8a9e\u306a\u3069\u306e\u54c1\u8cea\u306f\u3001\u5bfe\u5fdc\u3059\u308b\u8ab2\u984c\u306b\u3088\u3063\u3066\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u51fa\u529b\u5019\u88dc\u306e\u6bd4\u8f03<\/td>\n<td>\u6700\u4e0a\u4f4d\u5019\u88dc\u306f\u4e00\u81f4\u3057\u305f\u304c\u3001\u307b\u304b\u306e\u5019\u88dc\u306e\u5024\u306b\u306f\u5dee\u304c\u8a18\u9332\u3055\u308c\u3066\u3044\u308b\u3002<\/td>\n<td>\u540c\u3058\u30c8\u30fc\u30af\u30f3\u304c\u9078\u629e\u3055\u308c\u3066\u3082\u3001\u51fa\u529b\u5019\u88dc\u306e\u8a08\u7b97\u7d50\u679c\u304c\u7570\u306a\u308b\u5834\u5408\u304c\u3042\u308b\u3002<\/td>\n<td>\u8907\u6570\u30c8\u30fc\u30af\u30f3\u306e\u751f\u6210\u3084\u78ba\u7387\u7684\u306a\u9078\u629e\u3092\u542b\u3080\u6761\u4ef6\u3067\u3001\u51fa\u529b\u5206\u5e03\u3068\u56de\u7b54\u5185\u5bb9\u3092\u6bd4\u8f03\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u5b9f\u884c\u6027\u80fd<\/td>\n<td>CPU \u306e\u53c2\u7167\u5b9f\u88c5\u3067\u30017424 \u79d2\u3068 4286 \u79d2\u306e\u751f\u6210\u30b9\u30c6\u30c3\u30d7\u6642\u9593\u304c\u8a18\u9332\u3055\u308c\u3066\u3044\u308b\u3002<\/td>\n<td>\u305d\u308c\u305e\u308c\u306e\u8a66\u9a13\u304c\u6307\u5b9a\u3055\u308c\u305f\u53c2\u7167\u5b9f\u88c5\u3067\u5b8c\u4e86\u3057\u3001\u5b9f\u884c\u6642\u9593\u304c\u6e2c\u5b9a\u3055\u308c\u3066\u3044\u308b\u3002<\/td>\n<td>GPU \u5229\u7528\u6642\u306e\u901f\u5ea6\u3001\u30e1\u30e2\u30ea\u30fc\u4f7f\u7528\u91cf\u3001SSD \u53c2\u7167\u6642\u306e\u9045\u5ef6\u3001\u9023\u7d9a\u751f\u6210\u306e\u6027\u80fd\u306f\u5225\u9014\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u8868\u306e\u524d\u534a\u306f\u3001\u5143\u306e Engram \u306e\u6570\u5024\u3092\u6b63\u78ba\u306b\u4fdd\u6301\u3067\u304d\u305f\u304b\u3068\u3044\u3046\u554f\u984c\u306b\u5bfe\u5fdc\u3059\u308b\u3002\u30d0\u30a4\u30c8\u4e00\u81f4\u3068\u5c64\u306e\u5bfe\u5fdc\u78ba\u8a8d\u306b\u3088\u3063\u3066\u3001\u5143\u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u5f15\u304d\u7d99\u3050\u3068\u3044\u3046\u5909\u63db\u76ee\u7684\u306b\u5bfe\u3059\u308b\u8a3c\u62e0\u304c\u5f97\u3089\u308c\u3066\u3044\u308b\u3002\u30d1\u30c3\u30ad\u30f3\u30b0\u51e6\u7406\u306e\u6b63\u5e38\u7d42\u4e86\u306f\u3001\u305d\u306e\u4fdd\u5b58\u5024\u3092\u6307\u5b9a\u3055\u308c\u305f\u5b9f\u88c5\u304c\u6271\u3046\u305f\u3081\u306e\u30d5\u30a1\u30a4\u30eb\u5909\u63db\u304c\u5b8c\u4e86\u3057\u305f\u3053\u3068\u3092\u793a\u3059\u3002\u3055\u3089\u306b\u3001\u7c21\u5358\u306a\u751f\u6210\u8a66\u9a13\u306b\u3088\u3063\u3066\u3001\u5909\u63db\u5f8c\u306e\u69cb\u6210\u3092\u5229\u7528\u3057\u305f\u63a8\u8ad6\u51e6\u7406\u304c\u7279\u5b9a\u6761\u4ef6\u3067\u6210\u7acb\u3057\u305f\u3053\u3068\u304c\u78ba\u8a8d\u3055\u308c\u3066\u3044\u308b\u3002<\/p>\n<p>\u4e00\u65b9\u3001\u8868\u306e\u5f8c\u534a\u3067\u306f\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u632f\u308b\u821e\u3044\u3092\u8a55\u4fa1\u3059\u308b\u305f\u3081\u306b\u5fc5\u8981\u306a\u6761\u4ef6\u304c\u6b8b\u3055\u308c\u3066\u3044\u308b\u3002\u751f\u6210\u3055\u308c\u305f Paris \u3068\u3044\u3046\u6587\u5b57\u5217\u304c\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\u307b\u304b\u306e\u5019\u88dc\u306b\u5272\u308a\u5f53\u3066\u3089\u308c\u305f\u5024\u306b\u306f\u5dee\u304c\u3042\u308b\u3002\u3053\u308c\u306f\u3001\u5143\u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u4fdd\u6301\u3057\u305f\u30e2\u30c7\u30eb\u3067\u3082\u3001Backbone \u306e\u5909\u66f4\u306b\u3088\u3063\u3066\u51fa\u529b\u5019\u88dc\u306e\u8a08\u7b97\u7d50\u679c\u304c\u5909\u5316\u3057\u5f97\u308b\u3053\u3068\u3092\u5177\u4f53\u7684\u306b\u793a\u3057\u3066\u3044\u308b\u3002\u4fdd\u5b58\u5024\u306e\u4e00\u81f4\u306b\u3088\u3063\u3066\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u6570\u5024\u60c5\u5831\u3092\u56fa\u5b9a\u3067\u304d\u3066\u3082\u3001\u5f8c\u7d9a\u306e\u6f14\u7b97\u307e\u3067\u540c\u4e00\u306b\u306a\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>\u307e\u305f\u3001\u8a18\u9332\u3055\u308c\u305f\u5b9f\u884c\u6642\u9593\u304c\u6570\u5343\u79d2\u3067\u3042\u308b\u3053\u3068\u306f\u3001\u4eca\u56de\u306e CPU \u53c2\u7167\u5b9f\u88c5\u304c\u4e3b\u306b\u52d5\u4f5c\u78ba\u8a8d\u306e\u305f\u3081\u306b\u4f7f\u7528\u3055\u308c\u305f\u3053\u3068\u3092\u7406\u89e3\u3059\u308b\u3046\u3048\u3067\u610f\u5473\u304c\u3042\u308b\u3002\u751f\u6210\u51e6\u7406\u3092\u6700\u5f8c\u307e\u3067\u5b9f\u884c\u3067\u304d\u305f\u3068\u3044\u3046\u4e8b\u5b9f\u306f\u3001\u30d5\u30a1\u30a4\u30eb\u5909\u63db\u3068\u63a8\u8ad6\u7d4c\u8def\u306e\u6574\u5408\u6027\u3092\u78ba\u8a8d\u3059\u308b\u8a3c\u62e0\u306b\u306a\u308b\u3002\u3057\u304b\u3057\u3001\u5b9f\u7528\u7684\u306a\u63a8\u8ad6\u901f\u5ea6\u306e\u8a55\u4fa1\u306b\u306f\u3001\u6700\u9069\u5316\u3055\u308c\u305f\u5b9f\u884c\u30a8\u30f3\u30b8\u30f3\u3068\u5177\u4f53\u7684\u306a\u30cf\u30fc\u30c9\u30a6\u30a7\u30a2\u6761\u4ef6\u306b\u3088\u308b\u6e2c\u5b9a\u304c\u5fc5\u8981\u3067\u3042\u308b\u3002\u6b63\u5e38\u306b\u52d5\u4f5c\u3059\u308b\u3053\u3068\u3068\u3001\u5b9f\u7528\u7684\u306a\u6642\u9593\u3067\u51e6\u7406\u3067\u304d\u308b\u3053\u3068\u3092\u5206\u3051\u3066\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>Starw1 \u306e\u516c\u958b\u30ed\u30b0\u306f\u3001\u5143\u306e Engram \u3092\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u6301\u3059\u308b\u3068\u3044\u3046\u5b9f\u88c5\u4e0a\u306e\u76ee\u7684\u306b\u3064\u3044\u3066\u3001\u4fdd\u5b58\u5024\u306e\u4e00\u81f4\u304b\u3089\u7c21\u5358\u306a\u63a8\u8ad6\u306e\u6210\u7acb\u307e\u3067\u3092\u78ba\u8a8d\u3057\u305f\u8a18\u9332\u3067\u3042\u308b\u3002\u3053\u306e\u691c\u8a3c\u306b\u306f\u3001\u5143\u306e\u5024\u3092\u6b63\u78ba\u306b\u5f15\u304d\u7d99\u3044\u3060\u3053\u3068\u3092\u793a\u3059\u610f\u5473\u304c\u3042\u308b\u3002\u540c\u6642\u306b\u3001\u5143\u30e2\u30c7\u30eb\u3068\u306e\u56de\u7b54\u54c1\u8cea\u306e\u6bd4\u8f03\u3084\u3001\u9ad8\u7cbe\u5ea6 Engram \u306b\u3088\u308b\u6027\u80fd\u6539\u5584\u306e\u6e2c\u5b9a\u306b\u3064\u3044\u3066\u306f\u3001\u5225\u306e\u8a3c\u62e0\u304c\u5fc5\u8981\u3067\u3042\u308b\u3053\u3068\u3082\u660e\u78ba\u306b\u306a\u308b\u3002<\/p>\n<p>\u5143\u306e Engram \u3092\u30d0\u30a4\u30c8\u5358\u4f4d\u3067\u7dad\u6301\u3057\u305f\u3053\u3068\u306b\u3088\u308a\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u91cf\u5b50\u5316\u8aa4\u5dee\u3068\u3044\u3046\u4e00\u3064\u306e\u5909\u66f4\u8981\u56e0\u3092\u9664\u5916\u3067\u304d\u308b\u3002\u30d1\u30c3\u30ad\u30f3\u30b0\u3068\u751f\u6210\u8a66\u9a13\u306b\u3088\u3063\u3066\u3001\u4fdd\u5b58\u3057\u305f\u30c7\u30fc\u30bf\u3092\u6307\u5b9a\u3055\u308c\u305f\u51e6\u7406\u7d4c\u8def\u3067\u5229\u7528\u3067\u304d\u305f\u3053\u3068\u3082\u78ba\u8a8d\u3055\u308c\u3066\u3044\u308b\u3002\u3057\u304b\u3057\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u51fa\u529b\u306f\u3001\u53c2\u7167\u3057\u305f\u5024\u3068\u91cf\u5b50\u5316\u6e08\u307f Backbone \u306e\u6f14\u7b97\u304c\u7d44\u307f\u5408\u308f\u3055\u308c\u305f\u7d50\u679c\u3068\u3057\u3066\u751f\u6210\u3055\u308c\u308b\u3002\u4fdd\u5b58\u5024\u306e\u4e00\u81f4\u304b\u3089\u56de\u7b54\u54c1\u8cea\u306e\u7dad\u6301\u3078\u7d50\u8ad6\u3092\u9032\u3081\u308b\u306b\u306f\u3001\u3053\u306e\u8a08\u7b97\u7d50\u679c\u3092\u5143\u30e2\u30c7\u30eb\u3084\u6bd4\u8f03\u5bfe\u8c61\u306e\u91cf\u5b50\u5316\u30e2\u30c7\u30eb\u3068\u540c\u3058\u6761\u4ef6\u3067\u6e2c\u5b9a\u3057\u3001\u5b9f\u969b\u306e\u6027\u80fd\u5dee\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<hr>\n<h2>6. \u56de\u7b54\u54c1\u8cea\u306e\u7dad\u6301\u306b\u306f\u3069\u306e\u3088\u3046\u306a\u691c\u8a3c\u304c\u5fc5\u8981\u304b<\/h2>\n<p>\u5143\u306e\u7cbe\u5ea6\u3067 Engram \u3092\u4fdd\u5b58\u3067\u304d\u305f\u3053\u3068\u3068\u3001\u305d\u306e Engram \u3092\u5229\u7528\u3057\u305f\u30e2\u30c7\u30eb\u306e\u56de\u7b54\u54c1\u8cea\u304c\u7dad\u6301\u3055\u308c\u305f\u3053\u3068\u3092\u7d50\u3073\u3064\u3051\u308b\u306b\u306f\u3001\u6bd4\u8f03\u5bfe\u8c61\u3068\u8a55\u4fa1\u6761\u4ef6\u3092\u660e\u78ba\u306b\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002Starw1 \u306e\u6d3e\u751f\u7248\u3067\u306f\u3001Backbone \u3092\u4f4e\u30d3\u30c3\u30c8\u5316\u3057\u305f\u3046\u3048\u3067\u3001Engram \u306e\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u5143\u306e MXFP8 \u7cbe\u5ea6\u3067\u4fdd\u6301\u3057\u3066\u3044\u308b\u3002\u3053\u306e\u69cb\u6210\u306b\u3088\u308a\u3001Engram \u81ea\u4f53\u306e\u91cf\u5b50\u5316\u8aa4\u5dee\u3092\u56de\u907f\u3067\u304d\u308b\u3002\u4e00\u65b9\u3001\u6700\u7d42\u7684\u306a\u56de\u7b54\u306f\u3001\u53c2\u7167\u3057\u305f\u5024\u3092 Backbone \u306e\u6f14\u7b97\u3078\u7d44\u307f\u8fbc\u307f\u3001\u8907\u6570\u306e\u5c64\u3092\u901a\u3058\u3066\u751f\u6210\u3055\u308c\u308b\u305f\u3081\u3001Engram \u306e\u7cbe\u5ea6\u3092\u5909\u66f4\u3057\u305f\u52b9\u679c\u3092\u78ba\u8a8d\u3059\u308b\u306b\u306f\u3001\u5b9f\u969b\u306e\u51fa\u529b\u3092\u6bd4\u8f03\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u3055\u3089\u306b\u3001\u4eca\u56de\u306e\u6d3e\u751f\u30e2\u30c7\u30eb\u306b\u306f\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f Backbone \u304c\u4f7f\u7528\u3055\u308c\u3066\u3044\u308b\u3002\u5143\u30e2\u30c7\u30eb\u3068 Starw1 \u7248\u3092\u76f4\u63a5\u6bd4\u8f03\u3059\u308b\u3068\u3001Backbone \u306e\u91cf\u5b50\u5316\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u3001Engram \u306e\u7cbe\u5ea6\u3068\u3044\u3046\u8907\u6570\u306e\u6761\u4ef6\u304c\u7570\u306a\u308b\u3002\u89b3\u6e2c\u3055\u308c\u305f\u56de\u7b54\u306e\u5dee\u3092 Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u3078\u5e30\u5c5e\u3055\u305b\u308b\u306b\u306f\u3001\u5c11\u306a\u304f\u3068\u3082 Backbone \u306e\u6761\u4ef6\u3092\u56fa\u5b9a\u3057\u3001Engram \u306e\u4fdd\u5b58\u5f62\u5f0f\u3060\u3051\u3092\u5909\u66f4\u3057\u305f\u6bd4\u8f03\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002\u4fdd\u5b58\u5bb9\u91cf\u3084\u5b9f\u884c\u901f\u5ea6\u306b\u3064\u3044\u3066\u3082\u3001\u540c\u3058\u69cb\u6210\u3067\u6e2c\u5b9a\u3057\u305f\u6570\u5024\u3092\u7528\u3044\u306a\u3051\u308c\u3070\u3001\u7cbe\u5ea6\u3092\u7dad\u6301\u3059\u308b\u3053\u3068\u306b\u3088\u308b\u5229\u70b9\u3068\u8ca0\u62c5\u3092\u5bfe\u5fdc\u3055\u305b\u3089\u308c\u306a\u3044\u3002<\/p>\n<h3>6.1 \u4fdd\u5b58\u5bb9\u91cf\u306e\u5897\u52a0\u3068\u5b9f\u884c\u6027\u80fd\u3078\u306e\u5f71\u97ff<\/h3>\n<p>Engram \u3092\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u6301\u3059\u308b\u3068\u3001\u91cf\u5b50\u5316\u3055\u308c\u305f\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3088\u308a\u3082\u4fdd\u5b58\u5bb9\u91cf\u304c\u5897\u52a0\u3059\u308b\u3002ISTA-DASLab \u306e IQ4_NL Engram \u306f 110.60 GB \u3067\u3042\u308b\u306e\u306b\u5bfe\u3057\u3001Starw1 \u306e MXFP8 Engram \u306f\u7d04 202.8 GB \u3067\u3042\u308a\u3001\u5dee\u306f\u7d04 92.2 GB \u3068\u306a\u308b\u3002\u3053\u306e\u5897\u52a0\u5206\u306f\u3001\u30e2\u30c7\u30eb\u306e\u4fdd\u5b58\u3084\u914d\u5e03\u306b\u5fc5\u8981\u306a\u5bb9\u91cf\u3078\u76f4\u63a5\u53cd\u6620\u3055\u308c\u308b\u3002\u4e00\u65b9\u3001\u5b9f\u884c\u6642\u306e\u30e1\u30e2\u30ea\u30fc\u4f7f\u7528\u91cf\u3068\u51e6\u7406\u6642\u9593\u306f\u3001\u4fdd\u5b58\u3057\u305f\u30c7\u30fc\u30bf\u3092\u3069\u306e\u3088\u3046\u306b\u914d\u7f6e\u3057\u3001\u3069\u306e\u7bc4\u56f2\u3092\u8aad\u307f\u51fa\u3059\u304b\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002<\/p>\n<p>Engram \u306f\u3001\u5165\u529b\u3055\u308c\u305f\u30c8\u30fc\u30af\u30f3\u5217\u304b\u3089\u6c7a\u307e\u308b\u53c2\u7167\u4f4d\u7f6e\u306b\u5bfe\u5fdc\u3057\u305f\u884c\u3092\u53d6\u5f97\u3059\u308b\u69cb\u9020\u3067\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u7d04 202.8 GB \u306e\u30c6\u30fc\u30d6\u30eb\u3092\u4fdd\u6301\u3057\u3066\u3044\u3066\u3082\u3001\u3042\u308b\u5165\u529b\u3067\u5fc5\u8981\u3068\u306a\u308b\u884c\u304c\u9650\u3089\u308c\u3066\u3044\u308c\u3070\u3001\u6bce\u56de\u30c6\u30fc\u30d6\u30eb\u5168\u4f53\u3092\u8aad\u307f\u51fa\u3059\u5fc5\u8981\u306f\u306a\u3044\u3002\u5fc5\u8981\u306a\u884c\u3092 GPU \u306e\u30e1\u30e2\u30ea\u30fc\u3078\u4e8b\u524d\u306b\u914d\u7f6e\u3059\u308b\u65b9\u6cd5\u3001CPU \u5074\u306e\u30e1\u30e2\u30ea\u30fc\u304b\u3089\u8ee2\u9001\u3059\u308b\u65b9\u6cd5\u3001SSD \u4e0a\u306e\u30d5\u30a1\u30a4\u30eb\u3092\u5fc5\u8981\u306b\u5fdc\u3058\u3066\u8aad\u307f\u51fa\u3059\u65b9\u6cd5\u3067\u306f\u3001\u305d\u308c\u305e\u308c\u7570\u306a\u308b\u8cc7\u6e90\u8981\u6c42\u304c\u751f\u3058\u308b\u3002\u4fdd\u5b58\u5bb9\u91cf\u304c\u540c\u3058\u3067\u3082\u3001\u30e1\u30e2\u30ea\u30fc\u3078\u306e\u914d\u7f6e\u3068\u8aad\u307f\u51fa\u3057\u65b9\u6cd5\u306b\u3088\u3063\u3066\u5b9f\u884c\u6027\u80fd\u304c\u5909\u5316\u3059\u308b\u7406\u7531\u306f\u3001\u30c7\u30fc\u30bf\u8ee2\u9001\u3068\u6f14\u7b97\u306e\u5b9f\u884c\u6642\u9593\u304c\u7570\u306a\u308b\u305f\u3081\u3067\u3042\u308b\u3002<\/p>\n<p>\u6f14\u7b97\u7528\u306e\u91cd\u307f\u3067\u306f\u3001\u5fc5\u8981\u306a\u30c7\u30fc\u30bf\u3092\u6f14\u7b97\u88c5\u7f6e\u3078\u4f9b\u7d66\u3059\u308b\u901f\u5ea6\u304c\u6027\u80fd\u4e0a\u306e\u5236\u7d04\u306b\u306a\u308b\u5834\u5408\u304c\u3042\u308b\u3002GPU \u304c\u9ad8\u901f\u306b\u884c\u5217\u6f14\u7b97\u3092\u51e6\u7406\u3067\u304d\u3066\u3082\u3001\u6b21\u306e\u6f14\u7b97\u306b\u5fc5\u8981\u306a\u91cd\u307f\u304c\u30e1\u30e2\u30ea\u30fc\u304b\u3089\u5c4a\u304b\u306a\u3051\u308c\u3070\u3001\u6f14\u7b97\u88c5\u7f6e\u306f\u30c7\u30fc\u30bf\u3092\u5f85\u3064\u3053\u3068\u306b\u306a\u308b\u3002\u9006\u306b\u3001\u5fc5\u8981\u306a\u91cd\u307f\u3092\u5341\u5206\u306a\u901f\u5ea6\u3067\u4f9b\u7d66\u3067\u304d\u308b\u5834\u5408\u306b\u306f\u3001\u6f14\u7b97\u88c5\u7f6e\u81ea\u4f53\u306e\u8a08\u7b97\u80fd\u529b\u304c\u51e6\u7406\u901f\u5ea6\u306e\u4e0a\u9650\u306b\u306a\u308b\u3002\u3053\u306e\u95a2\u4fc2\u3092\u6574\u7406\u3059\u308b\u8003\u3048\u65b9\u3068\u3057\u3066\u3001Roofline \u30e2\u30c7\u30eb\u304c\u77e5\u3089\u308c\u3066\u3044\u308b<a href=\"#ref17\">[17]<\/a>\u3002<\/p>\n<p>Roofline \u30e2\u30c7\u30eb\u3067\u306f\u3001\u3042\u308b\u8a08\u7b97\u51e6\u7406\u304c\u9054\u6210\u3067\u304d\u308b\u6f14\u7b97\u6027\u80fd\u306e\u4e0a\u9650\u3092\u3001\u6f14\u7b97\u88c5\u7f6e\u306e\u6700\u5927\u6027\u80fd\u3068\u30e1\u30e2\u30ea\u30fc\u5e2f\u57df\u306e\u53cc\u65b9\u304b\u3089\u8a55\u4fa1\u3059\u308b\u3002\u6f14\u7b97\u88c5\u7f6e\u304c 1 \u79d2\u9593\u306b\u51e6\u7406\u3067\u304d\u308b\u6700\u5927\u6f14\u7b97\u56de\u6570\u3092 \\(P_{\\mathrm{peak}}\\)\u3001\u30e1\u30e2\u30ea\u30fc\u304c 1 \u79d2\u9593\u306b\u8ee2\u9001\u3067\u304d\u308b\u30c7\u30fc\u30bf\u91cf\u3092 \\(B_{\\mathrm{mem}}\\)\u3001\u30e1\u30e2\u30ea\u30fc\u304b\u3089\u8aad\u307f\u51fa\u3057\u305f 1 \u30d0\u30a4\u30c8\u5f53\u305f\u308a\u306e\u6f14\u7b97\u56de\u6570\u3092 \\(I\\) \u3068\u3059\u308b\u3068\u3001\u9054\u6210\u53ef\u80fd\u306a\u6f14\u7b97\u6027\u80fd \\(P\\) \u306e\u4e0a\u9650\u306f\u6b21\u306e\u3088\u3046\u306b\u8868\u3055\u308c\u308b\u3002<\/p>\n<p>\\[<br \/>\nP \\leq \\min\\left(P_{\\mathrm{peak}}, B_{\\mathrm{mem}}I\\right)<br \/>\n\\]<\/p>\n<p>\u53f3\u8fba\u306e\u7b2c\u4e00\u9805 \\(P_{\\mathrm{peak}}\\) \u306f\u3001\u6f14\u7b97\u88c5\u7f6e\u81ea\u4f53\u306e\u6700\u5927\u6027\u80fd\u3067\u3042\u308b\u3002\u7b2c\u4e8c\u9805 \\(B_{\\mathrm{mem}}I\\) \u306f\u3001\u30e1\u30e2\u30ea\u30fc\u304b\u3089\u4f9b\u7d66\u3067\u304d\u308b\u30c7\u30fc\u30bf\u91cf\u306b\u3088\u3063\u3066\u5236\u9650\u3055\u308c\u308b\u6f14\u7b97\u6027\u80fd\u3092\u8868\u3059\u3002\u305f\u3068\u3048\u3070\u3001\u6f14\u7b97\u88c5\u7f6e\u306e\u80fd\u529b\u304c\u5341\u5206\u306b\u5927\u304d\u304f\u3066\u3082\u3001\u30e1\u30e2\u30ea\u30fc\u5e2f\u57df\u3068\u30c7\u30fc\u30bf\u5229\u7528\u52b9\u7387\u306e\u7a4d\u304c\u5c0f\u3055\u3051\u308c\u3070\u3001\u51e6\u7406\u6027\u80fd\u306f\u30e1\u30e2\u30ea\u30fc\u304b\u3089\u306e\u30c7\u30fc\u30bf\u4f9b\u7d66\u306b\u3088\u3063\u3066\u5236\u7d04\u3055\u308c\u308b\u3002\u53cd\u5bfe\u306b\u3001\u30c7\u30fc\u30bf\u4f9b\u7d66\u304c\u5341\u5206\u3067\u3042\u308c\u3070\u3001\u6f14\u7b97\u88c5\u7f6e\u306e\u6700\u5927\u6027\u80fd\u304c\u4e0a\u9650\u306b\u306a\u308b\u3002\u3053\u306e\u5f0f\u306f\u6027\u80fd\u306e\u4e0a\u9650\u3092\u793a\u3059\u3082\u306e\u3067\u3042\u308a\u3001\u5b9f\u969b\u306e\u51e6\u7406\u6642\u9593\u3092\u305d\u306e\u307e\u307e\u8a08\u7b97\u3067\u304d\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>Engram \u306e\u3088\u3046\u306a\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3067\u306f\u3001\u3055\u3089\u306b\u8aad\u307f\u51fa\u3057\u9045\u5ef6\u3068\u30a2\u30af\u30bb\u30b9\u306e\u5c40\u6240\u6027\u304c\u95a2\u4fc2\u3059\u308b\u3002\u5c40\u6240\u6027\u3068\u306f\u3001\u77ed\u3044\u6642\u9593\u306b\u540c\u3058\u5834\u6240\u3084\u8fd1\u63a5\u3057\u305f\u5834\u6240\u306e\u30c7\u30fc\u30bf\u3092\u7e70\u308a\u8fd4\u3057\u5229\u7528\u3059\u308b\u6027\u8cea\u3067\u3042\u308b\u3002\u983b\u7e41\u306b\u53c2\u7167\u3055\u308c\u308b\u884c\u304c\u30ad\u30e3\u30c3\u30b7\u30e5\u306b\u4fdd\u6301\u3055\u308c\u3066\u3044\u308c\u3070\u3001\u6bce\u56de SSD \u3078\u30a2\u30af\u30bb\u30b9\u3059\u308b\u5fc5\u8981\u304c\u306a\u304f\u306a\u308b\u3002\u4e00\u65b9\u3001\u53c2\u7167\u4f4d\u7f6e\u304c\u5e83\u3044\u7bc4\u56f2\u306b\u5206\u6563\u3057\u3001\u5fc5\u8981\u306a\u884c\u304c\u30ad\u30e3\u30c3\u30b7\u30e5\u306b\u5b58\u5728\u3057\u306a\u3051\u308c\u3070\u3001\u30b9\u30c8\u30ec\u30fc\u30b8\u304b\u3089\u306e\u8aad\u307f\u51fa\u3057\u304c\u5897\u52a0\u3059\u308b\u3002\u5c11\u91cf\u306e\u30c7\u30fc\u30bf\u3092\u96e2\u308c\u305f\u4f4d\u7f6e\u304b\u3089\u7e70\u308a\u8fd4\u3057\u53d6\u5f97\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u7dcf\u8ee2\u9001\u91cf\u304c\u5c0f\u3055\u304f\u3066\u3082\u3001\u4e00\u56de\u3054\u3068\u306e\u8aad\u307f\u51fa\u3057\u9045\u5ef6\u304c\u51e6\u7406\u6642\u9593\u3078\u5f71\u97ff\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u5143\u306e Roofline \u30e2\u30c7\u30eb\u306f\u3001\u4e3b\u306b\u6f14\u7b97\u6027\u80fd\u3068\u30e1\u30e2\u30ea\u30fc\u5e2f\u57df\u304b\u3089\u8a08\u7b97\u51e6\u7406\u306e\u4e0a\u9650\u3092\u8a55\u4fa1\u3059\u308b\u3082\u306e\u3067\u3042\u308b\u3002SSD \u304b\u3089\u306e\u4e0d\u898f\u5247\u306a\u8aad\u307f\u51fa\u3057\u3084\u3001CPU \u3068 GPU \u306e\u9593\u306e\u30c7\u30fc\u30bf\u8ee2\u9001\u306b\u4f34\u3046\u5f85\u3061\u6642\u9593\u306f\u3001\u305d\u306e\u5f0f\u3060\u3051\u3067\u306f\u76f4\u63a5\u8a55\u4fa1\u3067\u304d\u306a\u3044\u3002Engram \u306e\u5b9f\u884c\u6027\u80fd\u3092\u8abf\u3079\u308b\u5834\u5408\u306b\u306f\u3001\u6f14\u7b97\u7528 Backbone \u306e\u51e6\u7406\u6642\u9593\u306b\u52a0\u3048\u3066\u3001\u53c2\u7167\u4f4d\u7f6e\u306e\u8a08\u7b97\u3001\u5fc5\u8981\u306a\u884c\u306e\u8aad\u307f\u51fa\u3057\u3001\u30ad\u30e3\u30c3\u30b7\u30e5\u306e\u547d\u4e2d\u72b6\u6cc1\u3001\u8ee2\u9001\u5f85\u3061\u6642\u9593\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u307e\u305f\u3001MXFP8 Engram \u3092\u4f7f\u7528\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u304c\u4fdd\u5b58\u3055\u308c\u305f\u5024\u3092\u3069\u306e\u6570\u5024\u7cbe\u5ea6\u3067\u6f14\u7b97\u3078\u6e21\u3059\u304b\u3082\u78ba\u8a8d\u5bfe\u8c61\u306b\u306a\u308b\u3002\u4fdd\u5b58\u30d5\u30a1\u30a4\u30eb\u306b\u5143\u306e MXFP8 \u306e\u5024\u304c\u542b\u307e\u308c\u3066\u3044\u3066\u3082\u3001\u5b9f\u884c\u6642\u306b\u5225\u306e\u6570\u5024\u5f62\u5f0f\u3078\u5909\u63db\u3057\u3066\u6f14\u7b97\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u305d\u306e\u5909\u63db\u51e6\u7406\u3068\u6f14\u7b97\u7cbe\u5ea6\u304c\u7d50\u679c\u306b\u5f71\u97ff\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u4fdd\u5b58\u5024\u306e\u30d0\u30a4\u30c8\u4e00\u81f4\u306f\u3001\u4fdd\u5b58\u5f62\u5f0f\u306b\u95a2\u3059\u308b\u691c\u8a3c\u3067\u3042\u308b\u3002\u5b9f\u884c\u6642\u306b\u53c2\u7167\u3055\u308c\u305f\u5024\u304c\u3069\u306e\u3088\u3046\u306b\u89e3\u91c8\u3055\u308c\u3001\u3069\u306e\u7cbe\u5ea6\u3067\u5f8c\u7d9a\u306e\u6f14\u7b97\u3078\u6e21\u3055\u308c\u305f\u304b\u306f\u3001\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u306e\u5b9f\u88c5\u306b\u3088\u3063\u3066\u6c7a\u307e\u308b\u3002<\/p>\n<p>\u3053\u3046\u3057\u305f\u9055\u3044\u3092\u542b\u3081\u3066\u8a55\u4fa1\u3059\u308b\u306b\u306f\u3001\u30e2\u30c7\u30eb\u306e\u30d5\u30a1\u30a4\u30eb\u5bb9\u91cf\u3060\u3051\u3067\u306a\u304f\u3001GPU \u306e\u30e1\u30e2\u30ea\u30fc\u4f7f\u7528\u91cf\u3001CPU \u5074\u306e\u30e1\u30e2\u30ea\u30fc\u4f7f\u7528\u91cf\u3001SSD \u306e\u8aad\u307f\u51fa\u3057\u91cf\u3001\u6700\u521d\u306e\u30c8\u30fc\u30af\u30f3\u3092\u751f\u6210\u3059\u308b\u307e\u3067\u306e\u6642\u9593\u3001\u9023\u7d9a\u751f\u6210\u6642\u306e\u30c8\u30fc\u30af\u30f3\u6570\u5f53\u305f\u308a\u306e\u51e6\u7406\u6642\u9593\u3092\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002Engram \u306e\u9ad8\u7cbe\u5ea6\u5316\u306b\u3088\u3063\u3066\u4fdd\u5b58\u5bb9\u91cf\u304c\u7d04 92.2 GB \u5897\u52a0\u3059\u308b\u3053\u3068\u306f\u78ba\u8a8d\u3067\u304d\u308b\u304c\u3001\u305d\u306e\u5897\u52a0\u304c\u5b9f\u884c\u901f\u5ea6\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u306f\u3001\u53c2\u7167\u65b9\u5f0f\u3068\u5b9f\u884c\u74b0\u5883\u306e\u6761\u4ef6\u3092\u63c3\u3048\u305f\u6e2c\u5b9a\u306b\u3088\u3063\u3066\u5224\u65ad\u3055\u308c\u308b\u3002<\/p>\n<h3>6.2 Engram \u306e\u7cbe\u5ea6\u3068 Backbone \u306e\u5909\u66f4\u3092\u5206\u96e2\u3059\u308b<\/h3>\n<p>\u9ad8\u7cbe\u5ea6 Engram \u304c\u56de\u7b54\u54c1\u8cea\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u3092\u6e2c\u5b9a\u3059\u308b\u306b\u306f\u3001\u6bd4\u8f03\u3059\u308b\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u306e\u9593\u3067\u3001\u3069\u306e\u6761\u4ef6\u304c\u7570\u306a\u308b\u304b\u3092\u7279\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u5143\u30e2\u30c7\u30eb\u3068 Starw1 \u7248\u3092\u6bd4\u8f03\u3059\u308b\u3060\u3051\u3067\u306f\u3001Backbone \u306e\u91cf\u5b50\u5316\u3068\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u3082\u542b\u307e\u308c\u308b\u305f\u3081\u3001\u51fa\u529b\u5dee\u306e\u539f\u56e0\u3092 Engram \u306e\u7cbe\u5ea6\u3078\u9650\u5b9a\u3067\u304d\u306a\u3044\u3002Engram \u306e\u6570\u5024\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f\u52b9\u679c\u3092\u8b58\u5225\u3059\u308b\u306b\u306f\u3001\u540c\u3058 Backbone \u306b\u5bfe\u3057\u3066 IQ4_NL \u3068 MXFP8 \u306e Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u3001\u305d\u308c\u4ee5\u5916\u306e\u6761\u4ef6\u3092\u63c3\u3048\u308b\u65b9\u6cd5\u304c\u8003\u3048\u3089\u308c\u308b\u3002<\/p>\n<p>\u3055\u3089\u306b\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u304c Engram \u306e\u7cbe\u5ea6\u306b\u3088\u308b\u5f71\u97ff\u3068\u3069\u306e\u3088\u3046\u306b\u95a2\u4fc2\u3059\u308b\u304b\u3092\u8abf\u3079\u308b\u5834\u5408\u306b\u306f\u3001Backbone \u306e\u7a2e\u985e\u3082\u6bd4\u8f03\u6761\u4ef6\u3068\u3057\u3066\u6271\u3046\u3053\u3068\u304c\u3067\u304d\u308b\u3002\u901a\u5e38\u306e GSQ-RCO Backbone \u3068\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f Backbone \u306e\u305d\u308c\u305e\u308c\u306b\u3001\u4e8c\u7a2e\u985e\u306e Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u308b\u3068\u3001\u6b21\u306e\u56db\u6761\u4ef6\u306b\u306a\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>Backbone<\/th>\n<th>IQ4_NL Engram<\/th>\n<th>MXFP8 Engram<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>\u901a\u5e38\u306e GSQ-RCO Backbone<\/td>\n<td>\u6761\u4ef6 A\u3002\u91cf\u5b50\u5316\u6e08\u307f Engram \u3092\u4f7f\u7528\u3059\u308b\u57fa\u6e96\u69cb\u6210\u3067\u3042\u308a\u3001ISTA-DASLab \u306e IQ2_XXS \u306b\u5bfe\u5fdc\u3059\u308b\u3002<\/td>\n<td>\u6761\u4ef6 B\u3002\u901a\u5e38\u306e Backbone \u3092\u56fa\u5b9a\u3057\u305f\u307e\u307e\u3001Engram \u306e\u4fdd\u5b58\u7cbe\u5ea6\u3092 MXFP8 \u306b\u5909\u66f4\u3059\u308b\u69cb\u6210\u3067\u3042\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u62d2\u5426\u95a2\u9023\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f Backbone<\/td>\n<td>\u6761\u4ef6 C\u3002Abiray \u306e\u5909\u66f4\u6e08\u307f Backbone \u3068 IQ4_NL Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u69cb\u6210\u3067\u3042\u308b\u3002<\/td>\n<td>\u6761\u4ef6 D\u3002Abiray \u306e\u5909\u66f4\u6e08\u307f Backbone \u3068 MXFP8 Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u305f Starw1 \u306e\u516c\u958b\u69cb\u6210\u306b\u5bfe\u5fdc\u3059\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u6bd4\u8f03\u3059\u308b Backbone \u306b\u306f\u540c\u3058\u91cd\u307f\u306e\u7248\u3092\u4f7f\u7528\u3057\u3001\u30e2\u30c7\u30eb\u306e\u30ea\u30d3\u30b8\u30e7\u30f3\u3001GGUF \u306e\u30d5\u30a1\u30a4\u30eb\u69cb\u9020\u3001\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u306e\u5bfe\u5fdc\u7248\u3092\u8a18\u9332\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002ISTA-DASLab \u306f 2026 \u5e74 10 \u6708 27 \u65e5\u306b GGUF \u306e\u914d\u7f6e\u3092\u66f4\u65b0\u3057\u3066\u304a\u308a\u3001\u540c\u3058\u30e2\u30c7\u30eb\u540d\u3067\u3082\u53d6\u5f97\u6642\u70b9\u306b\u3088\u3063\u3066\u30d5\u30a1\u30a4\u30eb\u69cb\u9020\u304c\u7570\u306a\u308b\u5834\u5408\u304c\u3042\u308b<a href=\"#ref11\">[11]<\/a>\u3002\u5f62\u5f0f\u306e\u5909\u63db\u304c\u5fc5\u8981\u306a\u5834\u5408\u306f\u3001\u5909\u63db\u524d\u5f8c\u3067\u6bd4\u8f03\u5bfe\u8c61\u306e\u91cd\u307f\u304c\u4e00\u81f4\u3057\u3066\u3044\u308b\u3053\u3068\u3092\u78ba\u8a8d\u3057\u3001Engram \u306e\u7cbe\u5ea6\u4ee5\u5916\u306e\u5dee\u3092\u5b9f\u9a13\u3078\u6301\u3061\u8fbc\u307e\u306a\u3044\u3088\u3046\u306b\u3059\u308b\u3002<\/p>\n<p>\u3053\u306e\u56db\u6761\u4ef6\u306f\u3001Engram \u306e\u7cbe\u5ea6\u3068\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u3092\u305d\u308c\u305e\u308c\u72ec\u7acb\u3057\u305f\u6bd4\u8f03\u8981\u56e0\u3068\u3057\u3066\u914d\u7f6e\u3057\u305f\u3082\u306e\u3067\u3042\u308b\u3002\u6761\u4ef6 A \u3068 B \u3092\u6bd4\u8f03\u3059\u308b\u3068\u3001\u901a\u5e38\u306e Backbone \u3092\u56fa\u5b9a\u3057\u305f\u72b6\u614b\u3067\u3001Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u308b\u5dee\u3092\u6e2c\u5b9a\u3067\u304d\u308b\u3002\u6761\u4ef6 C \u3068 D \u3092\u6bd4\u8f03\u3059\u308b\u3068\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u3092\u5909\u66f4\u3057\u305f Backbone \u3092\u56fa\u5b9a\u3057\u305f\u72b6\u614b\u3067\u3001\u540c\u3058\u304f Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u308b\u5dee\u3092\u6e2c\u5b9a\u3067\u304d\u308b\u3002\u3044\u305a\u308c\u306e\u5834\u5408\u3082\u3001Backbone \u3092\u540c\u4e00\u306b\u4fdd\u3064\u3053\u3068\u3067\u3001\u91cf\u5b50\u5316\u6e08\u307f\u306e\u6f14\u7b97\u7528\u91cd\u307f\u3084\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u9055\u3044\u3092\u6bd4\u8f03\u304b\u3089\u53d6\u308a\u9664\u3051\u308b\u3002<\/p>\n<p>\u4e00\u65b9\u3001\u6761\u4ef6 A \u3068 C \u3092\u6bd4\u8f03\u3059\u308b\u3068\u3001IQ4_NL Engram \u3092\u56fa\u5b9a\u3057\u305f\u72b6\u614b\u3067\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u306b\u3088\u308b\u5dee\u3092\u6e2c\u5b9a\u3067\u304d\u308b\u3002\u540c\u3058\u65b9\u6cd5\u3067\u6761\u4ef6 B \u3068 D \u3092\u6bd4\u8f03\u3059\u308b\u3068\u3001MXFP8 Engram \u3092\u56fa\u5b9a\u3057\u305f\u72b6\u614b\u3067\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u306b\u3088\u308b\u5dee\u3092\u8abf\u3079\u3089\u308c\u308b\u3002\u3053\u308c\u3089\u306e\u6bd4\u8f03\u3067\u306f\u3001Engram \u306e\u4fdd\u5b58\u5f62\u5f0f\u3092\u7d71\u4e00\u3057\u3066\u3044\u308b\u305f\u3081\u3001\u89b3\u6e2c\u3055\u308c\u305f\u5dee\u3092 Backbone \u306e\u5909\u66f4\u3068\u5bfe\u5fdc\u3055\u305b\u3084\u3059\u304f\u306a\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\u4e8c\u3064\u306e\u5909\u66f4\u304c\u30e2\u30c7\u30eb\u5185\u90e8\u3067\u72ec\u7acb\u306b\u4f5c\u7528\u3059\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002Engram \u304b\u3089\u53d6\u5f97\u3057\u305f\u57cb\u3081\u8fbc\u307f\u30d9\u30af\u30c8\u30eb\u306f Backbone \u306e\u6f14\u7b97\u3078\u7d44\u307f\u8fbc\u307e\u308c\u308b\u305f\u3081\u3001Engram \u306e\u5024\u304c\u5909\u308f\u308b\u3068\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u3092\u52a0\u3048\u305f\u90e8\u5206\u3078\u5165\u529b\u3055\u308c\u308b\u5185\u90e8\u72b6\u614b\u3082\u5909\u5316\u3057\u5f97\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u901a\u5e38\u306e Backbone \u3067\u306f Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u308b\u56de\u7b54\u5dee\u304c\u5c0f\u3055\u304f\u3066\u3082\u3001\u62d2\u5426\u5909\u66f4\u6e08\u307f Backbone \u3067\u306f\u540c\u3058\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u3063\u3066\u5019\u88dc\u306e\u9806\u4f4d\u304c\u5909\u308f\u308b\u5834\u5408\u304c\u8003\u3048\u3089\u308c\u308b\u3002\u3053\u306e\u5834\u5408\u3001Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u308b\u52b9\u679c\u304c Backbone \u306e\u72b6\u614b\u306b\u4f9d\u5b58\u3057\u3066\u3044\u308b\u3053\u3068\u306b\u306a\u308b\u3002<\/p>\n<p>\u3053\u306e\u76f8\u4e92\u4f5c\u7528\u3092\u8abf\u3079\u308b\u306b\u306f\u3001\u6761\u4ef6 A \u3068 B \u306e\u5dee\u3068\u3001\u6761\u4ef6 C \u3068 D \u306e\u5dee\u3092\u6bd4\u8f03\u3059\u308b\u3002\u3042\u308b\u8a55\u4fa1\u6307\u6a19\u306b\u3064\u3044\u3066\u3001\u56db\u6761\u4ef6\u306e\u5f97\u70b9\u3092\u305d\u308c\u305e\u308c \\(Q_A\\)\u3001\\(Q_B\\)\u3001\\(Q_C\\)\u3001\\(Q_D\\) \u3068\u3059\u308b\u3068\u3001Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u308b\u5dee\u304c Backbone \u306e\u7a2e\u985e\u306b\u3088\u3063\u3066\u3069\u306e\u7a0b\u5ea6\u5909\u308f\u308b\u304b\u306f\u3001\u6b21\u306e\u3088\u3046\u306b\u8868\u305b\u308b\u3002<\/p>\n<p>\\[<br \/>\n\\Delta_{\\mathrm{interaction}}=(Q_D-Q_C)-(Q_B-Q_A)<br \/>\n\\]<\/p>\n<p>\u7b2c\u4e00\u9805 \\(Q_D-Q_C\\) \u306f\u3001\u62d2\u5426\u5909\u66f4\u6e08\u307f Backbone \u306b\u304a\u3051\u308b Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u308b\u5f97\u70b9\u5dee\u3067\u3042\u308b\u3002\u7b2c\u4e8c\u9805 \\(Q_B-Q_A\\) \u306f\u3001\u901a\u5e38\u306e Backbone \u306b\u304a\u3051\u308b\u540c\u3058\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u308b\u5f97\u70b9\u5dee\u3092\u8868\u3059\u3002\u4e21\u8005\u306e\u5dee \\(\\Delta_{\\mathrm{interaction}}\\) \u304c 0 \u304b\u3089\u96e2\u308c\u3066\u3044\u308c\u3070\u3001Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u308b\u52b9\u679c\u304c Backbone \u306e\u7a2e\u985e\u306b\u3088\u3063\u3066\u7570\u306a\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u305f\u3060\u3057\u3001\u89b3\u6e2c\u3055\u308c\u305f\u5dee\u304c\u6e2c\u5b9a\u4e0a\u306e\u5909\u52d5\u306b\u3088\u308b\u3082\u306e\u304b\u3092\u5224\u65ad\u3059\u308b\u306b\u306f\u3001\u8a55\u4fa1\u30c7\u30fc\u30bf\u6570\u3084\u7e70\u308a\u8fd4\u3057\u6e2c\u5b9a\u306b\u57fa\u3065\u304f\u4e0d\u78ba\u5b9f\u6027\u3082\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u5f0f\u306f\u6bd4\u8f03\u6761\u4ef6\u306e\u95a2\u4fc2\u3092\u793a\u3059\u3082\u306e\u3067\u3042\u308a\u3001\u56db\u6761\u4ef6\u3059\u3079\u3066\u306b\u3064\u3044\u3066\u5b9f\u6e2c\u7d50\u679c\u304c\u5b58\u5728\u3059\u308b\u3053\u3068\u3092\u610f\u5473\u3057\u306a\u3044\u3002ISTA-DASLab\u3001Abiray\u3001Starw1 \u306e\u516c\u958b\u8cc7\u6599\u304b\u3089\u78ba\u8a8d\u3067\u304d\u308b\u69cb\u6210\u3068\u3001\u5b9f\u9a13\u306e\u305f\u3081\u306b\u8ffd\u52a0\u3067\u7528\u610f\u3059\u308b\u69cb\u6210\u3092\u533a\u5225\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u7279\u306b\u3001\u6761\u4ef6 B \u306f\u901a\u5e38\u306e GSQ-RCO Backbone \u306b MXFP8 Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u308b\u5bfe\u7167\u6761\u4ef6\u3068\u3057\u3066\u8a2d\u8a08\u3057\u305f\u3082\u306e\u3067\u3042\u308a\u3001\u4eca\u56de\u78ba\u8a8d\u3057\u305f\u516c\u958b\u30e2\u30c7\u30eb\u306e\u4e00\u89a7\u304b\u3089\u3001\u305d\u306e\u6761\u4ef6\u306e\u30d9\u30f3\u30c1\u30de\u30fc\u30af\u7d50\u679c\u307e\u3067\u5f97\u3089\u308c\u3066\u3044\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>\u307e\u305f\u3001\u7570\u306a\u308b Engram \u5f62\u5f0f\u3092\u6bd4\u8f03\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u540c\u3058\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u3092\u4f7f\u7528\u3059\u308b\u3060\u3051\u3067\u306a\u304f\u3001\u305d\u308c\u305e\u308c\u306e\u6570\u5024\u5f62\u5f0f\u304c\u6b63\u3057\u304f\u8aad\u307f\u8fbc\u307e\u308c\u308b\u3053\u3068\u3092\u78ba\u8a8d\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001IQ4_NL \u306e\u5024\u3092\u5fa9\u5143\u3059\u308b\u51e6\u7406\u3068\u3001MXFP8 \u306e\u5024\u3092\u89e3\u91c8\u3059\u308b\u51e6\u7406\u304c\u7570\u306a\u308b\u5834\u5408\u3001\u6700\u7d42\u7684\u306a\u5dee\u306b\u306f\u4fdd\u5b58\u7cbe\u5ea6\u3060\u3051\u3067\u306a\u304f\u3001\u305d\u306e\u6570\u5024\u5f62\u5f0f\u306b\u56fa\u6709\u306e\u5b9f\u884c\u51e6\u7406\u3082\u95a2\u4fc2\u3059\u308b\u3002\u6bd4\u8f03\u306e\u76ee\u7684\u304c\u5b9f\u7528\u7684\u306a\u30e2\u30c7\u30eb\u69cb\u6210\u306e\u8a55\u4fa1\u3067\u3042\u308c\u3070\u3001\u305d\u306e\u5dee\u3092\u542b\u3081\u3066\u6e2c\u5b9a\u3059\u308b\u3002\u4e00\u65b9\u3001\u4fdd\u5b58\u7cbe\u5ea6\u305d\u306e\u3082\u306e\u306e\u52b9\u679c\u3092\u8a73\u3057\u304f\u8abf\u3079\u308b\u5834\u5408\u306b\u306f\u3001\u6f14\u7b97\u3078\u6e21\u3055\u308c\u308b\u5024\u3084\u5185\u90e8\u72b6\u614b\u3082\u6bd4\u8f03\u3057\u3001\u3069\u306e\u6bb5\u968e\u3067\u5dee\u304c\u751f\u3058\u305f\u304b\u3092\u78ba\u8a8d\u3059\u308b\u65b9\u6cd5\u304c\u6709\u52b9\u3067\u3042\u308b\u3002<\/p>\n<h3>6.3 \u516c\u958b\u3055\u308c\u305f\u30d9\u30f3\u30c1\u30de\u30fc\u30af\u306f\u4f55\u3092\u793a\u3057\u3066\u3044\u308b\u304b<\/h3>\n<p>ISTA-DASLab \u306e\u30e2\u30c7\u30eb\u30ab\u30fc\u30c9\u306b\u306f\u3001\u5143\u306e DeepSeek-V4.1-Flash-1017 \u3068\u3001GSQ-RCO \u3067\u91cf\u5b50\u5316\u3057\u305f\u8907\u6570\u306e\u30e2\u30c7\u30eb\u306e\u6bd4\u8f03\u7d50\u679c\u304c\u63b2\u8f09\u3055\u308c\u3066\u3044\u308b\u3002\u8a55\u4fa1\u306b\u306f AIME25\u3001GPQA-Diamond\u3001LiveCodeBench v6 \u304c\u4f7f\u7528\u3055\u308c\u3066\u3044\u308b\u3002AIME25 \u306f\u6570\u5b66\u7684\u306a\u554f\u984c\u89e3\u6c7a\u3001GPQA-Diamond \u306f\u5c02\u9580\u7684\u306a\u77e5\u8b58\u3068\u63a8\u8ad6\u3092\u5fc5\u8981\u3068\u3059\u308b\u554f\u984c\u3001LiveCodeBench \u306f\u30d7\u30ed\u30b0\u30e9\u30e0\u751f\u6210\u306a\u3069\u306e\u80fd\u529b\u3092\u8a55\u4fa1\u3059\u308b\u8ab2\u984c\u3067\u3042\u308b\u3002\u3044\u305a\u308c\u3082\u30e2\u30c7\u30eb\u306e\u80fd\u529b\u3092\u6e2c\u5b9a\u3059\u308b\u305f\u3081\u306e\u6307\u6a19\u3060\u304c\u3001\u8a55\u4fa1\u3059\u308b\u8ab2\u984c\u306e\u6027\u8cea\u306f\u7570\u306a\u308b\u3002<\/p>\n<p>\u516c\u958b\u3055\u308c\u305f\u7d50\u679c\u3067\u306f\u3001\u5143\u30e2\u30c7\u30eb\u3068 GSQ-RCO IQ2_XXS \u304c\u3001AIME25 \u3067 100.00\u3001GPQA-Diamond \u3067 90.91\u3001LiveCodeBench v6 \u3067 89.71 \u3068\u3044\u3046\u540c\u3058\u30b9\u30b3\u30a2\u3092\u8a18\u9332\u3057\u3066\u3044\u308b<a href=\"#ref11\">[11]<\/a>\u3002\u4e09\u3064\u306e\u6307\u6a19\u3092\u5358\u7d14\u5e73\u5747\u3057\u305f\u5f97\u70b9\u3082\u3001\u4e21\u30e2\u30c7\u30eb\u3068\u3082 93.54 \u3067\u3042\u308b\u3002ISTA-DASLab \u306f\u3001\u3053\u306e\u7d50\u679c\u3092\u5143\u30e2\u30c7\u30eb\u306b\u5bfe\u3059\u308b\u5e73\u5747\u5f97\u70b9\u306e\u7dad\u6301\u7387 100.0% \u3068\u3057\u3066\u5831\u544a\u3057\u3066\u3044\u308b\u3002\u8a55\u4fa1\u6642\u306e\u63a8\u8ad6\u52aa\u529b\u8a2d\u5b9a\u306f 50 \u3067\u3042\u308a\u3001\u30e2\u30c7\u30eb\u306b\u4e0e\u3048\u3089\u308c\u308b\u63a8\u8ad6\u306e\u6761\u4ef6\u3092\u63c3\u3048\u3066\u6e2c\u5b9a\u3055\u308c\u305f\u6570\u5024\u3067\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u7d50\u679c\u306f\u3001ISTA-DASLab \u304c\u5b9f\u65bd\u3057\u305f\u4e09\u3064\u306e\u8ab2\u984c\u306e\u8a55\u4fa1\u3067\u3001\u91cf\u5b50\u5316\u6e08\u307f\u30e2\u30c7\u30eb\u3068\u5143\u30e2\u30c7\u30eb\u306e\u96c6\u8a08\u5f97\u70b9\u304c\u4e00\u81f4\u3057\u305f\u3053\u3068\u3092\u793a\u3057\u3066\u3044\u308b\u3002\u7279\u306b\u3001\u7d04 5519 \u5104\u306e Transformer \u306e\u91cd\u307f\u3092\u5e73\u5747 2.00 \u30d3\u30c3\u30c8\u3067\u4fdd\u5b58\u3059\u308b\u69cb\u6210\u3067\u3082\u3001\u63b2\u8f09\u3055\u308c\u305f\u8a55\u4fa1\u6761\u4ef6\u3067\u306f\u5143\u30e2\u30c7\u30eb\u306e\u5f97\u70b9\u3092\u7dad\u6301\u3057\u305f\u3053\u3068\u306b\u610f\u5473\u304c\u3042\u308b\u3002\u305f\u3060\u3057\u3001\u540c\u3058\u30b9\u30b3\u30a2\u306b\u306a\u3063\u305f\u3053\u3068\u306f\u3001\u500b\u3005\u306e\u554f\u984c\u3067\u540c\u3058\u56de\u7b54\u3092\u751f\u6210\u3057\u305f\u3053\u3068\u3084\u3001\u5185\u90e8\u306e\u51fa\u529b\u78ba\u7387\u5206\u5e03\u304c\u4e00\u81f4\u3057\u305f\u3053\u3068\u3092\u76f4\u63a5\u793a\u3059\u3082\u306e\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001100 \u554f\u306e\u8a55\u4fa1\u3067\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u304c\u3068\u3082\u306b 90 \u554f\u6b63\u89e3\u3057\u305f\u5834\u5408\u3001\u6b63\u7b54\u7387\u306f\u540c\u3058 90% \u306b\u306a\u308b\u3002\u3057\u304b\u3057\u3001\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u304c\u540c\u3058 90 \u554f\u3092\u6b63\u89e3\u3057\u305f\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u4e00\u65b9\u306e\u30e2\u30c7\u30eb\u3060\u3051\u304c\u6b63\u89e3\u3057\u305f\u554f\u984c\u3068\u3001\u3082\u3046\u4e00\u65b9\u306e\u30e2\u30c7\u30eb\u3060\u3051\u304c\u6b63\u89e3\u3057\u305f\u554f\u984c\u304c\u5b58\u5728\u3057\u3066\u3044\u3066\u3082\u3001\u5408\u8a08\u306e\u6b63\u7b54\u6570\u304c\u540c\u3058\u3067\u3042\u308c\u3070\u5f97\u70b9\u306f\u4e00\u81f4\u3059\u308b\u3002\u3055\u3089\u306b\u3001\u6b63\u7b54\u3057\u305f\u554f\u984c\u3067\u3082\u3001\u89e3\u7b54\u306b\u81f3\u308b\u9014\u4e2d\u306e\u6587\u7ae0\u3084\u8a08\u7b97\u904e\u7a0b\u304c\u7570\u306a\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u96c6\u8a08\u5f8c\u306e\u30b9\u30b3\u30a2\u304c\u4e00\u81f4\u3059\u308b\u3053\u3068\u3068\u3001\u5404\u5165\u529b\u306b\u5bfe\u3059\u308b\u632f\u308b\u821e\u3044\u304c\u4e00\u81f4\u3059\u308b\u3053\u3068\u306f\u7570\u306a\u308b\u3002<\/p>\n<p>AIME25 \u306e 100.00 \u3068\u3044\u3046\u5024\u306b\u3064\u3044\u3066\u3082\u3001\u8a55\u4fa1\u5bfe\u8c61\u3068\u306a\u3063\u305f\u554f\u984c\u3067\u6e80\u70b9\u3092\u8a18\u9332\u3057\u305f\u3053\u3068\u3092\u610f\u5473\u3059\u308b\u3002\u3053\u308c\u306f\u9ad8\u3044\u6b63\u7b54\u7387\u3092\u793a\u3059\u304c\u3001\u5225\u306e\u6570\u5b66\u554f\u984c\u3084\u5165\u529b\u5f62\u5f0f\u306b\u5bfe\u3057\u3066\u5e38\u306b\u6b63\u7b54\u3059\u308b\u3068\u3044\u3046\u610f\u5473\u3067\u306f\u306a\u3044\u3002\u307e\u305f\u3001\u6e80\u70b9\u306b\u9054\u3057\u305f\u6307\u6a19\u3067\u306f\u3001\u305d\u308c\u4ee5\u4e0a\u306e\u6539\u5584\u304c\u5f97\u70b9\u306b\u73fe\u308c\u306a\u3044\u3002\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u304c\u540c\u3058\u6e80\u70b9\u3092\u8a18\u9332\u3057\u305f\u5834\u5408\u3001\u305d\u306e\u8a55\u4fa1\u3060\u3051\u3067\u306f\u3001\u6b63\u7b54\u307e\u3067\u306b\u5fc5\u8981\u306a\u8a08\u7b97\u91cf\u3084\u3001\u5225\u306e\u96e3\u6613\u5ea6\u306e\u554f\u984c\u3067\u306e\u5dee\u3092\u8b58\u5225\u3067\u304d\u306a\u3044\u3002<\/p>\n<p>\u3055\u3089\u306b\u3001\u3053\u306e\u30d9\u30f3\u30c1\u30de\u30fc\u30af\u3067\u4f7f\u7528\u3055\u308c\u305f Engram \u306f\u3001ISTA-DASLab \u304c\u516c\u958b\u3057\u305f IQ4_NL \u5f62\u5f0f\u3067\u3042\u308b<a href=\"#ref11\">[11]<\/a>\u3002Starw1 \u306e MXFP8 Engram \u3092\u4f7f\u7528\u3057\u305f\u69cb\u6210\u3067\u306f\u306a\u3044\u305f\u3081\u3001\u5143\u30e2\u30c7\u30eb\u3068 IQ2_XXS \u306e\u5f97\u70b9\u304c\u4e00\u81f4\u3057\u305f\u3068\u3044\u3046\u7d50\u679c\u304b\u3089\u3001MXFP8 Engram \u306e\u512a\u4f4d\u6027\u3092\u5c0e\u304f\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002\u3080\u3057\u308d\u3001IQ4_NL Engram \u3092\u4f7f\u7528\u3057\u305f\u69cb\u6210\u304c\u65e2\u306b\u4e09\u3064\u306e\u8ab2\u984c\u3067\u5143\u30e2\u30c7\u30eb\u3068\u540c\u3058\u5f97\u70b9\u3092\u5f97\u3066\u3044\u308b\u305f\u3081\u3001Engram \u306e\u9ad8\u7cbe\u5ea6\u5316\u306b\u3088\u308b\u5dee\u3092\u691c\u51fa\u3059\u308b\u306b\u306f\u3001\u8a55\u4fa1\u5bfe\u8c61\u3084\u63a1\u70b9\u65b9\u6cd5\u3092\u614e\u91cd\u306b\u9078\u3076\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u305f\u3068\u3048\u3070\u3001IQ4_NL \u7248\u3068 MXFP8 \u7248\u304c\u540c\u3058\u554f\u984c\u3067\u540c\u3058\u6b63\u7b54\u7387\u3092\u8a18\u9332\u3057\u305f\u5834\u5408\u3001\u305d\u306e\u8a55\u4fa1\u3067\u306f\u9ad8\u7cbe\u5ea6\u5316\u306b\u3088\u308b\u6539\u5584\u3092\u78ba\u8a8d\u3067\u304d\u306a\u304b\u3063\u305f\u3053\u3068\u306b\u306a\u308b\u3002\u4e00\u65b9\u3001\u53c2\u7167\u3057\u305f\u60c5\u5831\u306e\u9055\u3044\u304c\u89e3\u7b54\u3078\u5f71\u97ff\u3057\u3084\u3059\u3044\u554f\u984c\u3067\u5dee\u304c\u751f\u3058\u308c\u3070\u3001\u305d\u306e\u5165\u529b\u6761\u4ef6\u306b\u304a\u3051\u308b\u7cbe\u5ea6\u5909\u66f4\u306e\u5f71\u97ff\u3092\u6e2c\u5b9a\u3067\u304d\u308b\u3002\u7279\u5b9a\u306e\u8ab2\u984c\u3067\u5dee\u304c\u751f\u3058\u306a\u304b\u3063\u305f\u3068\u3044\u3046\u7d50\u679c\u3082\u3001\u5dee\u304c\u751f\u3058\u305f\u3068\u3044\u3046\u7d50\u679c\u3082\u3001\u8a55\u4fa1\u5bfe\u8c61\u306e\u7bc4\u56f2\u3068\u5408\u308f\u305b\u3066\u89e3\u91c8\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u3092\u8abf\u3079\u308b\u5834\u5408\u306b\u306f\u3001\u5358\u306b\u4e00\u822c\u7684\u306a\u30d9\u30f3\u30c1\u30de\u30fc\u30af\u306e\u5e73\u5747\u5f97\u70b9\u3092\u6bd4\u8f03\u3059\u308b\u3060\u3051\u3067\u306a\u304f\u3001\u5143\u306e IQ4_NL \u3068 MXFP8 \u306e\u53c2\u7167\u5024\u306b\u3069\u306e\u7a0b\u5ea6\u306e\u5dee\u304c\u751f\u3058\u308b\u304b\u3001\u305d\u306e\u5dee\u304c\u5b9f\u969b\u306b\u53c2\u7167\u3055\u308c\u308b\u5165\u529b\u3067\u3069\u306e\u3088\u3046\u306b\u73fe\u308c\u308b\u304b\u3082\u8abf\u3079\u3089\u308c\u308b\u3002\u53c2\u7167\u5024\u306e\u5dee\u304c\u5927\u304d\u3044\u5165\u529b\u3068\u5c0f\u3055\u3044\u5165\u529b\u3092\u533a\u5225\u3057\u3001\u305d\u308c\u305e\u308c\u306b\u3064\u3044\u3066\u5185\u90e8\u72b6\u614b\u3084\u6700\u7d42\u51fa\u529b\u3092\u6bd4\u8f03\u3059\u308c\u3070\u3001Engram \u306e\u91cf\u5b50\u5316\u8aa4\u5dee\u304c\u5f8c\u7d9a\u306e\u8a08\u7b97\u3078\u3069\u306e\u3088\u3046\u306b\u4f1d\u308f\u308b\u304b\u3092\u8a73\u3057\u304f\u8a55\u4fa1\u3067\u304d\u308b\u3002\u305f\u3060\u3057\u3001\u53c2\u7167\u5024\u306e\u6570\u5024\u5dee\u304c\u5927\u304d\u3044\u3053\u3068\u3060\u3051\u3067\u56de\u7b54\u54c1\u8cea\u306e\u4f4e\u4e0b\u304c\u6c7a\u307e\u308b\u308f\u3051\u3067\u306f\u306a\u304f\u3001\u6700\u7d42\u7684\u306a\u6b63\u7b54\u3084\u8ab2\u984c\u9054\u6210\u3078\u306e\u5f71\u97ff\u3092\u5225\u9014\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<h3>6.4 \u8a55\u4fa1\u6761\u4ef6\u306e\u518d\u73fe\u6027\u3068\u6e2c\u5b9a\u4e0a\u306e\u4e0d\u78ba\u5b9f\u6027<\/h3>\n<p>\u8a00\u8a9e\u30e2\u30c7\u30eb\u306e\u8a55\u4fa1\u7d50\u679c\u3092\u6bd4\u8f03\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u540c\u3058\u554f\u984c\u3092\u4f7f\u7528\u3057\u3066\u3044\u3066\u3082\u3001\u5165\u529b\u306e\u63d0\u793a\u65b9\u6cd5\u3084\u751f\u6210\u6642\u306e\u8a2d\u5b9a\u306b\u3088\u3063\u3066\u7d50\u679c\u304c\u5909\u5316\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u8cea\u554f\u6587\u3092\u5358\u72ec\u3067\u4e0e\u3048\u308b\u5834\u5408\u3068\u3001\u554f\u984c\u3092\u89e3\u304f\u624b\u9806\u307e\u3067\u6307\u793a\u3059\u308b\u5834\u5408\u3067\u306f\u3001\u30e2\u30c7\u30eb\u304c\u751f\u6210\u3059\u308b\u6587\u7ae0\u3084\u6b63\u7b54\u7387\u304c\u7570\u306a\u308b\u3053\u3068\u304c\u3042\u308b\u3002\u307e\u305f\u3001\u8907\u6570\u306e\u9078\u629e\u80a2\u304b\u3089\u7b54\u3048\u3092\u9078\u3076\u554f\u984c\u3067\u3082\u3001\u9078\u629e\u80a2\u306e\u9806\u5e8f\u3084\u63a1\u70b9\u6642\u306e\u6587\u5b57\u5217\u51e6\u7406\u306b\u3088\u3063\u3066\u7d50\u679c\u304c\u5909\u308f\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u8a55\u4fa1\u5bfe\u8c61\u306e\u30e2\u30c7\u30eb\u3092\u56fa\u5b9a\u3057\u305f\u3060\u3051\u3067\u306f\u3001\u6e2c\u5b9a\u6761\u4ef6\u304c\u540c\u4e00\u306b\u306a\u3063\u305f\u3053\u3068\u306b\u306f\u306a\u3089\u306a\u3044\u3002<\/p>\n<p>\u8a00\u8a9e\u30e2\u30c7\u30eb\u8a55\u4fa1\u306e\u518d\u73fe\u6027\u3092\u6271\u3046\u7814\u7a76\u3067\u306f\u3001\u5165\u529b\u5f62\u5f0f\u3001\u8a55\u4fa1\u65b9\u6cd5\u3001\u5b9f\u88c5\u4e0a\u306e\u53d6\u308a\u6271\u3044\u306e\u9055\u3044\u306b\u3088\u3063\u3066\u3001\u30e2\u30c7\u30eb\u306e\u6bd4\u8f03\u7d50\u679c\u304c\u5909\u5316\u3059\u308b\u554f\u984c\u304c\u6307\u6458\u3055\u308c\u3066\u3044\u308b<a href=\"#ref18\">[18]<\/a>\u3002\u8a55\u4fa1\u306b\u4f7f\u7528\u3057\u305f\u30c7\u30fc\u30bf\u30bb\u30c3\u30c8\u306e\u540d\u79f0\u3060\u3051\u3067\u306a\u304f\u3001\u5b9f\u969b\u306e\u5165\u529b\u6587\u3001\u751f\u6210\u8a2d\u5b9a\u3001\u51fa\u529b\u306e\u62bd\u51fa\u65b9\u6cd5\u3001\u63a1\u70b9\u51e6\u7406\u3092\u8a18\u9332\u3059\u308b\u3053\u3068\u304c\u3001\u7d50\u679c\u306e\u518d\u73fe\u6027\u306b\u95a2\u4fc2\u3059\u308b\u3002\u7570\u306a\u308b\u30e2\u30c7\u30eb\u3092\u6bd4\u8f03\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u3053\u3046\u3057\u305f\u6761\u4ef6\u3092\u63c3\u3048\u305f\u3046\u3048\u3067\u3001\u305d\u308c\u305e\u308c\u306e\u51fa\u529b\u3092\u540c\u3058\u57fa\u6e96\u3067\u63a1\u70b9\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>DeepSeek-V4.1-Flash-1017 \u306e\u6d3e\u751f\u30e2\u30c7\u30eb\u3092\u6bd4\u8f03\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u63a8\u8ad6\u52aa\u529b\u8a2d\u5b9a\u3082\u78ba\u8a8d\u5bfe\u8c61\u306b\u306a\u308b\u3002ISTA-DASLab \u306e\u516c\u958b\u30d9\u30f3\u30c1\u30de\u30fc\u30af\u306f\u3001\u63a8\u8ad6\u52aa\u529b\u8a2d\u5b9a 50 \u306e\u6761\u4ef6\u3067\u6e2c\u5b9a\u3055\u308c\u3066\u3044\u308b\u3002\u3053\u306e\u8a2d\u5b9a\u304c\u7570\u306a\u308c\u3070\u3001\u30e2\u30c7\u30eb\u304c\u63a8\u8ad6\u306b\u5229\u7528\u3059\u308b\u51e6\u7406\u91cf\u3084\u751f\u6210\u5185\u5bb9\u304c\u5909\u5316\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u4e00\u65b9\u306e\u30e2\u30c7\u30eb\u3060\u3051\u304c\u591a\u304f\u306e\u63a8\u8ad6\u51e6\u7406\u3092\u5b9f\u884c\u3059\u308b\u6761\u4ef6\u306b\u306a\u3063\u3066\u3044\u308c\u3070\u3001\u5f97\u70b9\u5dee\u304c\u30e2\u30c7\u30eb\u306e\u91cd\u307f\u306e\u9055\u3044\u306b\u3088\u308b\u3082\u306e\u304b\u3001\u63a8\u8ad6\u6761\u4ef6\u306e\u9055\u3044\u306b\u3088\u308b\u3082\u306e\u304b\u3092\u8b58\u5225\u3057\u306b\u304f\u304f\u306a\u308b\u3002<\/p>\n<p>\u307e\u305f\u3001\u78ba\u7387\u7684\u306a\u30c8\u30fc\u30af\u30f3\u9078\u629e\u3092\u4f7f\u7528\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u540c\u3058\u30e2\u30c7\u30eb\u3068\u5165\u529b\u3092\u4f7f\u7528\u3057\u3066\u3082\u751f\u6210\u7d50\u679c\u304c\u5909\u5316\u3059\u308b\u3053\u3068\u304c\u3042\u308b\u3002\u6e29\u5ea6\u8a2d\u5b9a\u306f\u3001\u5019\u88dc\u306e\u30b9\u30b3\u30a2\u304b\u3089\u8a08\u7b97\u3055\u308c\u308b\u9078\u629e\u78ba\u7387\u306e\u5206\u5e03\u3092\u8abf\u6574\u3059\u308b\u5024\u3067\u3042\u308a\u3001\u6e29\u5ea6\u304c\u9ad8\u3044\u307b\u3069\u4f4e\u9806\u4f4d\u306e\u5019\u88dc\u3082\u9078\u629e\u3055\u308c\u3084\u3059\u304f\u306a\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u4e71\u6570\u306e\u7a2e\u3092\u56fa\u5b9a\u3059\u308c\u3070\u3001\u5b9f\u88c5\u306b\u3088\u3063\u3066\u306f\u540c\u3058\u7d50\u679c\u3092\u518d\u73fe\u3057\u3084\u3059\u304f\u306a\u308b\u304c\u3001\u6f14\u7b97\u9806\u5e8f\u3084\u30cf\u30fc\u30c9\u30a6\u30a7\u30a2\u306e\u9055\u3044\u306b\u3088\u308b\u6570\u5024\u5dee\u307e\u3067\u5b8c\u5168\u306b\u53d6\u308a\u9664\u3051\u308b\u3068\u306f\u9650\u3089\u306a\u3044\u3002\u78ba\u7387\u7684\u306a\u751f\u6210\u3092\u8a55\u4fa1\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u8907\u6570\u56de\u306e\u6e2c\u5b9a\u306b\u3088\u3063\u3066\u7d50\u679c\u306e\u5909\u52d5\u3092\u78ba\u8a8d\u3059\u308b\u65b9\u6cd5\u304c\u8003\u3048\u3089\u308c\u308b\u3002<\/p>\n<p>\u56de\u7b54\u54c1\u8cea\u306e\u5dee\u306b\u3064\u3044\u3066\u306f\u3001\u6e2c\u5b9a\u3055\u308c\u305f\u5f97\u70b9\u5dee\u306e\u5927\u304d\u3055\u3068\u3001\u305d\u306e\u5f97\u70b9\u5dee\u306e\u4e0d\u78ba\u5b9f\u6027\u3082\u533a\u5225\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001100 \u554f\u306e\u8a55\u4fa1\u3067\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u306e\u6b63\u7b54\u6570\u304c 90 \u554f\u3068 91 \u554f\u306b\u306a\u3063\u305f\u5834\u5408\u3001\u89b3\u6e2c\u3055\u308c\u305f\u5dee\u306f 1 \u30dd\u30a4\u30f3\u30c8\u3067\u3042\u308b\u3002\u3057\u304b\u3057\u3001\u554f\u984c\u306e\u9078\u3073\u65b9\u3084\u751f\u6210\u6642\u306e\u5909\u52d5\u306b\u3088\u3063\u3066\u3001\u5225\u306e\u8a55\u4fa1\u96c6\u5408\u3067\u306f\u5dee\u306e\u65b9\u5411\u304c\u5909\u308f\u308b\u53ef\u80fd\u6027\u3082\u3042\u308b\u3002\u5dee\u304c 1 \u30dd\u30a4\u30f3\u30c8\u89b3\u6e2c\u3055\u308c\u305f\u3068\u3044\u3046\u4e8b\u5b9f\u3068\u3001\u5bfe\u8c61\u3068\u3059\u308b\u554f\u984c\u5206\u5e03\u5168\u4f53\u3067\u4e00\u65b9\u306e\u30e2\u30c7\u30eb\u304c\u512a\u308c\u3066\u3044\u308b\u3068\u3044\u3046\u5224\u65ad\u306f\u3001\u540c\u3058\u610f\u5473\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>\u540c\u3058\u554f\u984c\u96c6\u5408\u3067\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u3092\u8a55\u4fa1\u3059\u308b\u5834\u5408\u306b\u306f\u3001\u5404\u554f\u984c\u306b\u3064\u3044\u3066\u6b63\u7b54\u3068\u8aa4\u7b54\u306e\u7d44\u307f\u5408\u308f\u305b\u3092\u8a18\u9332\u3059\u308c\u3070\u3001\u3069\u306e\u554f\u984c\u3067\u7d50\u679c\u304c\u5909\u5316\u3057\u305f\u304b\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002\u5168\u4f53\u306e\u6b63\u7b54\u7387\u3060\u3051\u3092\u6bd4\u8f03\u3059\u308b\u65b9\u6cd5\u3088\u308a\u3001\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u3063\u3066\u6b63\u7b54\u304b\u3089\u8aa4\u7b54\u3078\u5909\u308f\u3063\u305f\u554f\u984c\u3068\u3001\u8aa4\u7b54\u304b\u3089\u6b63\u7b54\u3078\u5909\u308f\u3063\u305f\u554f\u984c\u3092\u533a\u5225\u3067\u304d\u308b\u3002\u3055\u3089\u306b\u3001\u5fc5\u8981\u306b\u5fdc\u3058\u3066\u5bfe\u5fdc\u306e\u3042\u308b\u6bd4\u8f03\u306b\u9069\u3057\u305f\u7d71\u8a08\u7684\u306a\u65b9\u6cd5\u3092\u7528\u3044\u308c\u3070\u3001\u89b3\u6e2c\u3055\u308c\u305f\u5dee\u304c\u3069\u306e\u7a0b\u5ea6\u306e\u4e0d\u78ba\u5b9f\u6027\u3092\u6301\u3064\u304b\u3092\u8a55\u4fa1\u3067\u304d\u308b\u3002<\/p>\n<p>\u8907\u6570\u306e\u8a55\u4fa1\u6307\u6a19\u3092\u4f7f\u7528\u3059\u308b\u5fc5\u8981\u6027\u306b\u3064\u3044\u3066\u306f\u3001\u8a00\u8a9e\u30e2\u30c7\u30eb\u3092\u7dcf\u5408\u7684\u306b\u8a55\u4fa1\u3059\u308b HELM \u306e\u7814\u7a76\u3067\u3082\u8ad6\u3058\u3089\u308c\u3066\u3044\u308b<a href=\"#ref19\">[19]<\/a>\u3002HELM \u306f\u3001\u6b63\u7b54\u7387\u306b\u52a0\u3048\u3066\u3001\u9811\u5065\u6027\u3001\u516c\u5e73\u6027\u3001\u30d0\u30a4\u30a2\u30b9\u3001\u6709\u5bb3\u6027\u3001\u52b9\u7387\u306a\u3069\u306e\u7570\u306a\u308b\u6307\u6a19\u3092\u7d44\u307f\u5408\u308f\u305b\u3001\u30e2\u30c7\u30eb\u306e\u6027\u8cea\u3092\u8907\u6570\u306e\u5074\u9762\u304b\u3089\u6e2c\u5b9a\u3059\u308b\u67a0\u7d44\u307f\u3067\u3042\u308b\u3002\u3042\u308b\u8ab2\u984c\u3067\u306e\u6b63\u7b54\u7387\u304c\u9ad8\u3044\u3053\u3068\u3068\u3001\u5165\u529b\u6761\u4ef6\u306e\u5909\u5316\u306b\u5bfe\u3059\u308b\u5b89\u5b9a\u6027\u3084\u5b9f\u884c\u52b9\u7387\u304c\u9ad8\u3044\u3053\u3068\u306f\u3001\u540c\u3058\u6027\u8cea\u3067\u306f\u306a\u3044\u3002\u30e2\u30c7\u30eb\u306e\u5909\u66f4\u306b\u3088\u3063\u3066\u4f55\u304c\u6539\u5584\u3057\u3001\u4f55\u304c\u5909\u5316\u3057\u306a\u304b\u3063\u305f\u304b\u3092\u5224\u65ad\u3059\u308b\u306b\u306f\u3001\u76ee\u7684\u306b\u5bfe\u5fdc\u3059\u308b\u6307\u6a19\u3092\u9078\u3076\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u4eca\u56de\u306e\u6d3e\u751f\u30e2\u30c7\u30eb\u3067\u306f\u3001Engram \u306e\u7cbe\u5ea6\u5909\u66f4\u3068\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u304c\u5171\u5b58\u3057\u3066\u3044\u308b\u305f\u3081\u3001\u80fd\u529b\u8a55\u4fa1\u3068\u62d2\u5426\u6319\u52d5\u306e\u8a55\u4fa1\u3082\u5206\u96e2\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u62d2\u5426\u3092\u671f\u5f85\u3059\u308b\u5165\u529b\u306b\u5bfe\u3057\u3066\u56de\u7b54\u3059\u308b\u5272\u5408\u304c\u5897\u3048\u305f\u5834\u5408\u3001\u62d2\u5426\u6319\u52d5\u304c\u5909\u5316\u3057\u305f\u3053\u3068\u306f\u78ba\u8a8d\u3067\u304d\u308b\u3002\u3057\u304b\u3057\u3001\u305d\u306e\u56de\u7b54\u304c\u6b63\u78ba\u304b\u3069\u3046\u304b\u306f\u5225\u306e\u554f\u984c\u3067\u3042\u308b\u3002\u307e\u305f\u3001\u901a\u5e38\u306e\u77e5\u8b58\u554f\u984c\u3067\u6b63\u7b54\u7387\u304c\u7dad\u6301\u3055\u308c\u3066\u3044\u3066\u3082\u3001\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u304c\u7279\u5b9a\u306e\u5165\u529b\u3067\u5225\u306e\u5fdc\u7b54\u3092\u5f15\u304d\u8d77\u3053\u3059\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u56de\u7b54\u306e\u6b63\u78ba\u6027\u3001\u62d2\u5426\u7387\u3001\u751f\u6210\u5185\u5bb9\u306e\u9069\u5207\u6027\u3092\u3001\u305d\u308c\u305e\u308c\u7570\u306a\u308b\u6307\u6a19\u3068\u3057\u3066\u6271\u3046\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<h3>6.5 \u30e2\u30c7\u30eb\u306e\u5909\u66f4\u76ee\u7684\u306b\u5bfe\u5fdc\u3057\u305f\u8a55\u4fa1\u9805\u76ee<\/h3>\n<p>Engram \u306e\u9ad8\u7cbe\u5ea6\u5316\u306b\u3088\u308b\u5f71\u97ff\u3092\u8abf\u3079\u308b\u969b\u306b\u306f\u3001\u4fdd\u5b58\u5bb9\u91cf\u3001\u53c2\u7167\u51e6\u7406\u3001\u56de\u7b54\u54c1\u8cea\u3001\u62d2\u5426\u6319\u52d5\u3092\u7570\u306a\u308b\u8a55\u4fa1\u9805\u76ee\u3068\u3057\u3066\u6574\u7406\u3067\u304d\u308b\u3002\u4fdd\u5b58\u5bb9\u91cf\u306f\u516c\u958b\u3055\u308c\u305f\u30d5\u30a1\u30a4\u30eb\u306e\u5927\u304d\u3055\u304b\u3089\u6bd4\u8f03\u3067\u304d\u308b\u3002\u53c2\u7167\u51e6\u7406\u306b\u3064\u3044\u3066\u306f\u3001\u540c\u3058\u5165\u529b\u304b\u3089\u53d6\u5f97\u3057\u305f Engram \u306e\u5024\u3068\u3001\u5f8c\u7d9a\u306e\u6f14\u7b97\u3078\u6e21\u3055\u308c\u308b\u5185\u90e8\u72b6\u614b\u3092\u6bd4\u8f03\u3059\u308b\u3002\u56de\u7b54\u54c1\u8cea\u306b\u3064\u3044\u3066\u306f\u3001\u540c\u3058\u8ab2\u984c\u306b\u5bfe\u3059\u308b\u6b63\u7b54\u7387\u3084\u6210\u529f\u7387\u3092\u6e2c\u5b9a\u3059\u308b\u3002\u5b9f\u884c\u6027\u80fd\u306b\u3064\u3044\u3066\u306f\u3001\u30e1\u30e2\u30ea\u30fc\u4f7f\u7528\u91cf\u3084\u751f\u6210\u901f\u5ea6\u3092\u6e2c\u5b9a\u3059\u308b\u3002<\/p>\n<p>\u8a55\u4fa1\u9805\u76ee\u3068\u56fa\u5b9a\u3059\u3079\u304d\u6761\u4ef6\u3092\u5bfe\u5fdc\u3055\u305b\u308b\u3068\u3001\u6b21\u306e\u3088\u3046\u306b\u306a\u308b\u3002<\/p>\n<table>\n<thead>\n<tr>\n<th>\u8a55\u4fa1\u5bfe\u8c61<\/th>\n<th>\u6e2c\u5b9a\u3059\u308b\u6307\u6a19<\/th>\n<th>\u56fa\u5b9a\u30fb\u8a18\u9332\u3059\u308b\u6761\u4ef6<\/th>\n<th>\u5224\u65ad\u3067\u304d\u308b\u3053\u3068<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>\u4fdd\u5b58\u5bb9\u91cf<\/td>\n<td>Backbone\u3001Engram\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u30d5\u30a1\u30a4\u30eb\u5bb9\u91cf\u3092\u6bd4\u8f03\u3059\u308b\u3002<\/td>\n<td>\u4fdd\u5b58\u5f62\u5f0f\u3001\u5bfe\u8c61\u30d5\u30a1\u30a4\u30eb\u3001\u5bb9\u91cf\u306e\u5358\u4f4d\u3092\u7d71\u4e00\u3059\u308b\u3002<\/td>\n<td>\u9ad8\u7cbe\u5ea6 Engram \u3092\u4fdd\u6301\u3059\u308b\u305f\u3081\u306b\u8ffd\u52a0\u3067\u5fc5\u8981\u3068\u306a\u308b\u4fdd\u5b58\u5bb9\u91cf\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u53c2\u7167\u5024\u306e\u7cbe\u5ea6<\/td>\n<td>IQ4_NL \u3068 MXFP8 \u306e\u53c2\u7167\u5024\u3092\u5143\u306e\u5024\u3068\u6bd4\u8f03\u3057\u3001\u6570\u5024\u8aa4\u5dee\u3092\u6e2c\u5b9a\u3059\u308b\u3002<\/td>\n<td>\u53c2\u7167\u4f4d\u7f6e\u3001\u6bd4\u8f03\u5bfe\u8c61\u306e\u884c\u3001\u30b9\u30b1\u30fc\u30eb\u306e\u89e3\u91c8\u65b9\u6cd5\u3092\u7d71\u4e00\u3059\u308b\u3002<\/td>\n<td>Engram \u306e\u4fdd\u5b58\u5f62\u5f0f\u306b\u3088\u3063\u3066\u751f\u3058\u308b\u6570\u5024\u5dee\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u5185\u90e8\u72b6\u614b\u306e\u5909\u5316<\/td>\n<td>Engram \u306e\u7d71\u5408\u524d\u5f8c\u3084\u5f8c\u7d9a\u306e\u5c64\u306b\u304a\u3051\u308b\u6570\u5024\u306e\u5dee\u3092\u6bd4\u8f03\u3059\u308b\u3002<\/td>\n<td>\u5165\u529b\u3001Backbone\u3001\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u3001\u6f14\u7b97\u7cbe\u5ea6\u3092\u53ef\u80fd\u306a\u7bc4\u56f2\u3067\u63c3\u3048\u308b\u3002<\/td>\n<td>\u53c2\u7167\u5024\u306e\u9055\u3044\u304c\u5f8c\u7d9a\u306e\u8a08\u7b97\u3078\u3069\u306e\u3088\u3046\u306b\u4f1d\u308f\u308b\u304b\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u77e5\u8b58\u554f\u984c\u306e\u6b63\u7b54\u7387<\/td>\n<td>\u540c\u3058\u554f\u984c\u96c6\u5408\u306b\u5bfe\u3059\u308b\u6b63\u7b54\u6570\u3068\u3001\u6b63\u8aa4\u304c\u5909\u5316\u3057\u305f\u554f\u984c\u3092\u8a18\u9332\u3059\u308b\u3002<\/td>\n<td>\u554f\u984c\u96c6\u5408\u3001\u5165\u529b\u5f62\u5f0f\u3001\u63a1\u70b9\u57fa\u6e96\u3001\u751f\u6210\u8a2d\u5b9a\u3092\u7d71\u4e00\u3059\u308b\u3002<\/td>\n<td>\u8a55\u4fa1\u3057\u305f\u77e5\u8b58\u554f\u984c\u306b\u304a\u3051\u308b\u56de\u7b54\u54c1\u8cea\u306e\u5909\u5316\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u6570\u5b66\u7684\u63a8\u8ad6\u3068\u30b3\u30fc\u30c9\u751f\u6210<\/td>\n<td>\u6570\u5b66\u554f\u984c\u306e\u6b63\u7b54\u7387\u3084\u3001\u751f\u6210\u3057\u305f\u30b3\u30fc\u30c9\u306e\u30c6\u30b9\u30c8\u6210\u529f\u7387\u3092\u6e2c\u5b9a\u3059\u308b\u3002<\/td>\n<td>\u554f\u984c\u306e\u96e3\u6613\u5ea6\u3001\u63a8\u8ad6\u52aa\u529b\u3001\u5b9f\u884c\u74b0\u5883\u3001\u63a1\u70b9\u65b9\u6cd5\u3092\u7d71\u4e00\u3059\u308b\u3002<\/td>\n<td>\u8907\u6570\u6bb5\u968e\u306e\u8a08\u7b97\u3084\u30d7\u30ed\u30b0\u30e9\u30e0\u751f\u6210\u306b\u304a\u3051\u308b\u80fd\u529b\u306e\u5909\u5316\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u65e5\u672c\u8a9e\u3068\u9577\u6587\u8108<\/td>\n<td>\u65e5\u672c\u8a9e\u306e\u8cea\u554f\u3078\u306e\u6b63\u7b54\u7387\u3001\u9577\u6587\u304b\u3089\u306e\u60c5\u5831\u62bd\u51fa\u3001\u8907\u6570\u60c5\u5831\u306e\u7d71\u5408\u7d50\u679c\u3092\u6bd4\u8f03\u3059\u308b\u3002<\/td>\n<td>\u5165\u529b\u8a00\u8a9e\u3001\u6587\u8108\u9577\u3001\u554f\u984c\u96c6\u5408\u3001\u51fa\u529b\u6761\u4ef6\u3092\u7d71\u4e00\u3059\u308b\u3002<\/td>\n<td>\u8a00\u8a9e\u3084\u5165\u529b\u9577\u306e\u9055\u3044\u306b\u3088\u3063\u3066\u3001\u7cbe\u5ea6\u5909\u66f4\u306e\u5f71\u97ff\u304c\u5909\u5316\u3059\u308b\u304b\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u62d2\u5426\u6319\u52d5<\/td>\n<td>\u5165\u529b\u306e\u5206\u985e\u3054\u3068\u306b\u62d2\u5426\u7387\u3068\u5fdc\u7b54\u5185\u5bb9\u3092\u6e2c\u5b9a\u3059\u308b\u3002<\/td>\n<td>Engram \u306e\u5f62\u5f0f\u3001\u5165\u529b\u96c6\u5408\u3001\u63a8\u8ad6\u8a2d\u5b9a\u3092\u56fa\u5b9a\u3057\u3066 Backbone \u3092\u6bd4\u8f03\u3059\u308b\u3002<\/td>\n<td>\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u306b\u3088\u308b\u6319\u52d5\u306e\u5dee\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/td>\n<\/tr>\n<tr>\n<td>\u5b9f\u884c\u6027\u80fd<\/td>\n<td>\u521d\u56de\u30c8\u30fc\u30af\u30f3\u751f\u6210\u6642\u9593\u3001\u9023\u7d9a\u751f\u6210\u901f\u5ea6\u3001RAM\u30fbVRAM \u4f7f\u7528\u91cf\u3001SSD \u8aad\u307f\u51fa\u3057\u91cf\u3092\u6e2c\u5b9a\u3059\u308b\u3002<\/td>\n<td>\u30cf\u30fc\u30c9\u30a6\u30a7\u30a2\u3001\u63a8\u8ad6\u30a8\u30f3\u30b8\u30f3\u3001\u30e2\u30c7\u30eb\u914d\u7f6e\u3001\u5165\u529b\u9577\u3001\u30ad\u30e3\u30c3\u30b7\u30e5\u306e\u72b6\u614b\u3092\u8a18\u9332\u3059\u308b\u3002<\/td>\n<td>\u4fdd\u5b58\u7cbe\u5ea6\u306e\u5909\u66f4\u304c\u5b9f\u7528\u7684\u306a\u8cc7\u6e90\u8981\u6c42\u3068\u51e6\u7406\u6642\u9593\u3078\u4e0e\u3048\u308b\u5f71\u97ff\u3092\u78ba\u8a8d\u3067\u304d\u308b\u3002<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>\u3053\u306e\u8a55\u4fa1\u3067\u306f\u3001\u3059\u3079\u3066\u306e\u6307\u6a19\u3092\u4e00\u3064\u306e\u6570\u5024\u3078\u307e\u3068\u3081\u308b\u5fc5\u8981\u306f\u306a\u3044\u3002\u305f\u3068\u3048\u3070\u3001MXFP8 Engram \u306b\u5909\u66f4\u3057\u3066\u77e5\u8b58\u554f\u984c\u306e\u6b63\u7b54\u7387\u304c\u6539\u5584\u3057\u3066\u3082\u3001\u4fdd\u5b58\u5bb9\u91cf\u3084\u8aad\u307f\u51fa\u3057\u6642\u9593\u304c\u5897\u52a0\u3059\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u9006\u306b\u3001IQ4_NL Engram \u3067\u540c\u3058\u6b63\u7b54\u7387\u304c\u5f97\u3089\u308c\u308b\u5834\u5408\u306b\u306f\u3001\u5c11\u306a\u304f\u3068\u3082\u305d\u306e\u8a55\u4fa1\u6761\u4ef6\u3067\u306f\u3001\u8ffd\u52a0\u306e\u4fdd\u5b58\u5bb9\u91cf\u306b\u5bfe\u5fdc\u3059\u308b\u54c1\u8cea\u6539\u5584\u3092\u78ba\u8a8d\u3067\u304d\u306a\u304b\u3063\u305f\u3053\u3068\u306b\u306a\u308b\u3002\u3069\u3061\u3089\u306e\u69cb\u6210\u304c\u9069\u5207\u304b\u306f\u3001\u8a55\u4fa1\u5bfe\u8c61\u306e\u80fd\u529b\u3068\u5b9f\u884c\u74b0\u5883\u306e\u5236\u7d04\u306b\u3088\u3063\u3066\u5909\u308f\u308b\u3002<\/p>\n<p>\u307e\u305f\u3001\u56de\u7b54\u54c1\u8cea\u306e\u5909\u5316\u304c\u78ba\u8a8d\u3055\u308c\u305f\u5834\u5408\u306b\u306f\u3001\u305d\u306e\u5909\u5316\u304c\u3069\u306e\u5165\u529b\u3067\u751f\u3058\u305f\u304b\u3092\u8abf\u3079\u308b\u3053\u3068\u304c\u6709\u52b9\u3067\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u7279\u5b9a\u306e n-gram \u3092\u542b\u3080\u8cea\u554f\u3067\u306e\u307f IQ4_NL \u3068 MXFP8 \u306e\u56de\u7b54\u306b\u5dee\u304c\u751f\u3058\u308b\u306a\u3089\u3001\u305d\u306e n-gram \u304b\u3089\u53c2\u7167\u3055\u308c\u308b Engram \u306e\u5024\u3068\u3001\u5f8c\u7d9a\u306e\u8a08\u7b97\u7d50\u679c\u3092\u6bd4\u8f03\u3067\u304d\u308b\u3002\u53c2\u7167\u5024\u306e\u5dee\u304c\u51fa\u529b\u5019\u88dc\u306e\u9806\u4f4d\u3078\u5f71\u97ff\u3057\u305f\u3053\u3068\u3092\u78ba\u8a8d\u3067\u304d\u308c\u3070\u3001\u4fdd\u5b58\u7cbe\u5ea6\u3068\u56de\u7b54\u306e\u5909\u5316\u3092\u5177\u4f53\u7684\u306a\u8a08\u7b97\u7d4c\u8def\u3067\u7d50\u3073\u3064\u3051\u3089\u308c\u308b\u3002\u4e00\u65b9\u3001\u53c2\u7167\u5024\u306b\u5dee\u304c\u3042\u3063\u3066\u3082\u6700\u7d42\u51fa\u529b\u304c\u5909\u5316\u3057\u306a\u3044\u5834\u5408\u306b\u306f\u3001\u305d\u306e\u5165\u529b\u6761\u4ef6\u3067\u306f\u5f8c\u7d9a\u306e\u8a08\u7b97\u304c\u5dee\u3092\u5438\u53ce\u3057\u305f\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u3088\u3046\u306a\u6bd4\u8f03\u306f\u3001\u5358\u306b\u4e8c\u3064\u306e\u30e2\u30c7\u30eb\u306e\u6b63\u7b54\u7387\u3092\u4e26\u3079\u308b\u65b9\u6cd5\u3088\u308a\u3001\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u308b\u5f71\u97ff\u304c\u751f\u3058\u308b\u6761\u4ef6\u3092\u8a73\u3057\u304f\u8aac\u660e\u3067\u304d\u308b\u3002\u305f\u3060\u3057\u3001\u5185\u90e8\u72b6\u614b\u306e\u6570\u5024\u5dee\u3068\u6700\u7d42\u7684\u306a\u56de\u7b54\u54c1\u8cea\u306e\u95a2\u4fc2\u306f\u3001\u30e2\u30c7\u30eb\u306e\u6f14\u7b97\u3068\u5165\u529b\u306b\u3088\u3063\u3066\u5909\u5316\u3059\u308b\u3002\u7279\u5b9a\u306e\u554f\u984c\u3067\u89b3\u6e2c\u3055\u308c\u305f\u95a2\u4fc2\u3092\u3001\u3059\u3079\u3066\u306e\u5165\u529b\u3078\u76f4\u63a5\u9069\u7528\u3059\u308b\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002\u8907\u6570\u306e\u554f\u984c\u3084\u6587\u8108\u9577\u3067\u540c\u3058\u50be\u5411\u304c\u89b3\u6e2c\u3055\u308c\u308b\u304b\u3092\u78ba\u8a8d\u3059\u308b\u3053\u3068\u3067\u3001\u7cbe\u5ea6\u5909\u66f4\u306e\u5f71\u97ff\u304c\u3069\u306e\u7bc4\u56f2\u3067\u518d\u73fe\u3059\u308b\u304b\u3092\u8a55\u4fa1\u3067\u304d\u308b\u3002<\/p>\n<p>\u5b9f\u884c\u6027\u80fd\u306b\u3064\u3044\u3066\u3082\u3001\u6e2c\u5b9a\u6761\u4ef6\u3092\u533a\u5225\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u305f\u3068\u3048\u3070\u3001\u540c\u3058\u8cea\u554f\u3092\u7e70\u308a\u8fd4\u3059\u8a66\u9a13\u3067\u306f\u3001\u53c2\u7167\u3057\u305f Engram \u306e\u884c\u304c\u30ad\u30e3\u30c3\u30b7\u30e5\u306b\u6b8b\u308a\u3001\u4e8c\u56de\u76ee\u4ee5\u964d\u306e\u8aad\u307f\u51fa\u3057\u6642\u9593\u304c\u77ed\u304f\u306a\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u4e00\u65b9\u3001\u7570\u306a\u308b\u8cea\u554f\u3092\u9023\u7d9a\u3057\u3066\u51e6\u7406\u3059\u308b\u8a66\u9a13\u3067\u306f\u3001\u53c2\u7167\u4f4d\u7f6e\u304c\u5206\u6563\u3057\u3001SSD \u3078\u306e\u30a2\u30af\u30bb\u30b9\u304c\u5897\u3048\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u30ad\u30e3\u30c3\u30b7\u30e5\u304c\u5341\u5206\u306b\u5229\u7528\u3067\u304d\u308b\u6761\u4ef6\u3068\u3001\u521d\u56de\u8aad\u307f\u51fa\u3057\u304c\u591a\u3044\u6761\u4ef6\u3092\u5206\u3051\u3066\u6e2c\u5b9a\u3059\u308c\u3070\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u3092\u9ad8\u7cbe\u5ea6\u3067\u4fdd\u6301\u3057\u305f\u3053\u3068\u306b\u3088\u308b\u5b9f\u884c\u6642\u306e\u8ca0\u62c5\u3092\u5177\u4f53\u7684\u306b\u8a55\u4fa1\u3067\u304d\u308b\u3002<\/p>\n<p>GPU \u306e\u30e1\u30e2\u30ea\u30fc\u5bb9\u91cf\u306b\u3064\u3044\u3066\u3082\u3001\u30e2\u30c7\u30eb\u3092\u8d77\u52d5\u3067\u304d\u305f\u3053\u3068\u3068\u3001\u671f\u5f85\u3059\u308b\u901f\u5ea6\u3067\u63a8\u8ad6\u3067\u304d\u305f\u3053\u3068\u306f\u7570\u306a\u308b\u3002Strata \u306e\u3088\u3046\u306b RAM \u3084 SSD \u3092\u5229\u7528\u3059\u308b\u5b9f\u88c5\u3067\u306f\u3001GPU \u306e\u30e1\u30e2\u30ea\u30fc\u3078\u30e2\u30c7\u30eb\u5168\u4f53\u3092\u914d\u7f6e\u3057\u306a\u304f\u3066\u3082\u63a8\u8ad6\u51e6\u7406\u3092\u5b9f\u884c\u3067\u304d\u308b\u53ef\u80fd\u6027\u304c\u3042\u308b\u3002\u3057\u304b\u3057\u3001\u51e6\u7406\u306b\u5fc5\u8981\u306a\u91cd\u307f\u3084\u53c2\u7167\u5024\u3092\u9069\u5207\u306a\u30bf\u30a4\u30df\u30f3\u30b0\u3067\u8aad\u307f\u51fa\u305b\u306a\u3051\u308c\u3070\u3001\u30c7\u30fc\u30bf\u8ee2\u9001\u306e\u5f85\u3061\u6642\u9593\u304c\u5897\u52a0\u3059\u308b\u3002\u5b9f\u7528\u6027\u3092\u5224\u65ad\u3059\u308b\u306b\u306f\u3001\u8d77\u52d5\u53ef\u80fd\u306a\u6700\u5c0f VRAM \u3060\u3051\u3067\u306a\u304f\u3001RAM \u306e\u5bb9\u91cf\u3001SSD \u306e\u6027\u80fd\u3001\u5165\u529b\u9577\u3001\u751f\u6210\u901f\u5ea6\u3092\u7d44\u307f\u5408\u308f\u305b\u3066\u8a55\u4fa1\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<h3>6.6 \u9ad8\u7cbe\u5ea6\u5316\u306e\u52b9\u679c\u3092\u3069\u3053\u307e\u3067\u7d50\u8ad6\u3067\u304d\u308b\u304b<\/h3>\n<p>Engram \u306e\u9ad8\u7cbe\u5ea6\u5316\u306b\u306f\u3001\u5143\u306e\u53c2\u7167\u5024\u3092\u4fdd\u6301\u3059\u308b\u3068\u3044\u3046\u660e\u78ba\u306a\u6280\u8853\u7684\u76ee\u7684\u304c\u3042\u308b\u3002IQ4_NL \u3067\u306f\u3001\u5143\u306e\u6570\u5024\u3092\u9650\u3089\u308c\u305f\u4ee3\u8868\u5024\u3078\u5909\u63db\u3059\u308b\u3053\u3068\u3067\u4fdd\u5b58\u5bb9\u91cf\u3092\u524a\u6e1b\u3059\u308b\u305f\u3081\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u5024\u306b\u91cf\u5b50\u5316\u8aa4\u5dee\u304c\u751f\u3058\u5f97\u308b\u3002MXFP8 \u3067\u306f\u3001\u5143\u30e2\u30c7\u30eb\u7531\u6765\u306e\u5024\u3068\u30b9\u30b1\u30fc\u30eb\u3092\u7dad\u6301\u3059\u308b\u3053\u3068\u3067\u3001\u305d\u306e\u90e8\u5206\u306e\u91cf\u5b50\u5316\u8aa4\u5dee\u3092\u56de\u907f\u3067\u304d\u308b\u3002Starw1 \u306e\u30d0\u30a4\u30c8\u4e00\u81f4\u691c\u8a3c\u306f\u3001\u3053\u306e\u4fdd\u5b58\u4e0a\u306e\u76ee\u7684\u306b\u5bfe\u5fdc\u3057\u305f\u8a3c\u62e0\u3067\u3042\u308b\u3002<\/p>\n<p>\u305f\u3060\u3057\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u91cf\u5b50\u5316\u8aa4\u5dee\u3092\u56de\u907f\u3067\u304d\u305f\u3053\u3068\u304b\u3089\u3001\u56de\u7b54\u54c1\u8cea\u306e\u6539\u5584\u91cf\u3092\u76f4\u63a5\u8a08\u7b97\u3059\u308b\u3053\u3068\u306f\u3067\u304d\u306a\u3044\u3002Engram \u306e\u5024\u304c\u3069\u306e\u5165\u529b\u3067\u53c2\u7167\u3055\u308c\u308b\u304b\u3001\u305d\u306e\u5024\u304c Backbone \u306e\u6f14\u7b97\u3078\u3069\u306e\u7a0b\u5ea6\u53cd\u6620\u3055\u308c\u308b\u304b\u3001\u91cf\u5b50\u5316\u6e08\u307f Backbone \u306e\u91cd\u307f\u304c\u5f8c\u7d9a\u306e\u8a08\u7b97\u3078\u3069\u306e\u3088\u3046\u306a\u5f71\u97ff\u3092\u4e0e\u3048\u308b\u304b\u306b\u3088\u3063\u3066\u3001\u6700\u7d42\u7684\u306a\u51fa\u529b\u5dee\u304c\u6c7a\u307e\u308b\u3002\u5143\u306e\u5024\u3092\u4fdd\u6301\u3059\u308b\u3068\u3044\u3046\u64cd\u4f5c\u306e\u52b9\u679c\u306f\u5c40\u6240\u7684\u306b\u660e\u78ba\u3067\u3042\u3063\u3066\u3082\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u56de\u7b54\u54c1\u8cea\u3078\u306e\u5bc4\u4e0e\u306f\u5165\u529b\u3068\u8a08\u7b97\u7d4c\u8def\u306b\u4f9d\u5b58\u3059\u308b\u3002<\/p>\n<p>ISTA-DASLab \u306e IQ2_XXS \u69cb\u6210\u304c\u4e09\u3064\u306e\u30d9\u30f3\u30c1\u30de\u30fc\u30af\u3067\u5143\u30e2\u30c7\u30eb\u3068\u540c\u3058\u5f97\u70b9\u3092\u8a18\u9332\u3057\u3066\u3044\u308b\u3053\u3068\u306f\u3001\u516c\u958b\u8005\u304c\u8a2d\u5b9a\u3057\u305f\u8ab2\u984c\u3068\u6761\u4ef6\u3067\u96c6\u8a08\u5f97\u70b9\u304c\u7dad\u6301\u3055\u308c\u305f\u3053\u3068\u3092\u793a\u3057\u3066\u3044\u308b\u3002\u3053\u306e\u7d50\u679c\u3068 Starw1 \u306e\u4fdd\u5b58\u5024\u306e\u691c\u8a3c\u7d50\u679c\u3092\u7d44\u307f\u5408\u308f\u305b\u3066\u3082\u3001MXFP8 Engram \u306e\u512a\u4f4d\u6027\u304c\u5b9f\u8a3c\u3055\u308c\u305f\u3053\u3068\u306b\u306f\u306a\u3089\u306a\u3044\u3002\u524d\u8005\u306f IQ4_NL Engram \u3092\u4f7f\u7528\u3057\u305f\u30e2\u30c7\u30eb\u306e\u56de\u7b54\u54c1\u8cea\u3092\u6e2c\u5b9a\u3057\u305f\u7d50\u679c\u3067\u3042\u308a\u3001\u5f8c\u8005\u306f MXFP8 Engram \u306e\u4fdd\u5b58\u5024\u3092\u78ba\u8a8d\u3057\u305f\u7d50\u679c\u3060\u304b\u3089\u3067\u3042\u308b\u3002<\/p>\n<p>\u9ad8\u7cbe\u5ea6 Engram \u306e\u5bc4\u4e0e\u3092\u76f4\u63a5\u8a55\u4fa1\u3059\u308b\u306b\u306f\u3001\u540c\u3058 Backbone \u306b IQ4_NL \u3068 MXFP8 \u306e Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u3001\u540c\u3058\u5165\u529b\u96c6\u5408\u3068\u63a8\u8ad6\u6761\u4ef6\u3067\u56de\u7b54\u3092\u6bd4\u8f03\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u3055\u3089\u306b\u3001\u5f97\u70b9\u5dee\u304c\u751f\u3058\u305f\u554f\u984c\u306b\u3064\u3044\u3066\u53c2\u7167\u5024\u3084\u5185\u90e8\u72b6\u614b\u3092\u8abf\u3079\u308c\u3070\u3001\u305d\u306e\u5dee\u304c\u3069\u306e\u8a08\u7b97\u7d4c\u8def\u3067\u767a\u751f\u3057\u305f\u304b\u3092\u691c\u8a0e\u3067\u304d\u308b\u3002\u7cbe\u5ea6\u5909\u66f4\u306b\u3088\u308b\u6027\u80fd\u5dee\u3092\u6570\u5024\u3067\u793a\u3059\u3053\u3068\u3068\u3001\u305d\u306e\u6027\u80fd\u5dee\u304c\u767a\u751f\u3057\u305f\u539f\u56e0\u3092\u8aac\u660e\u3059\u308b\u3053\u3068\u306f\u3001\u7570\u306a\u308b\u6bb5\u968e\u306e\u691c\u8a3c\u3067\u3042\u308b\u3002<\/p>\n<p>\u307e\u305f\u3001\u54c1\u8cea\u9762\u3067\u6539\u5584\u304c\u78ba\u8a8d\u3055\u308c\u305f\u5834\u5408\u306b\u3082\u3001\u7d04 92.2 GB \u306e\u8ffd\u52a0\u4fdd\u5b58\u5bb9\u91cf\u3068\u5b9f\u884c\u6642\u306e\u8cc7\u6e90\u8981\u6c42\u3092\u8003\u616e\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u9ad8\u7cbe\u5ea6\u5316\u306b\u3088\u3063\u3066\u7279\u5b9a\u306e\u80fd\u529b\u304c\u6539\u5584\u3057\u3066\u3082\u3001\u305d\u306e\u6539\u5584\u304c\u5fc5\u8981\u3068\u3055\u308c\u308b\u7528\u9014\u3068\u3001\u5229\u7528\u53ef\u80fd\u306a RAM\u3001VRAM\u3001SSD \u306e\u6761\u4ef6\u306b\u3088\u3063\u3066\u5b9f\u7528\u4e0a\u306e\u8a55\u4fa1\u306f\u5909\u308f\u308b\u3002\u53cd\u5bfe\u306b\u3001\u4f4e\u30d3\u30c3\u30c8\u306e Engram \u3067\u5fc5\u8981\u306a\u54c1\u8cea\u3092\u6e80\u305f\u305b\u308b\u5834\u5408\u306b\u306f\u3001\u4fdd\u5b58\u5bb9\u91cf\u3092\u524a\u6e1b\u3059\u308b\u69cb\u6210\u304c\u9069\u3059\u308b\u53ef\u80fd\u6027\u3082\u3042\u308b\u3002\u3069\u306e\u69cb\u6210\u3092\u9078\u629e\u3059\u308b\u304b\u306f\u3001\u54c1\u8cea\u3068\u8cc7\u6e90\u8981\u6c42\u3092\u540c\u3058\u5b9f\u884c\u6761\u4ef6\u3067\u6e2c\u5b9a\u3057\u305f\u7d50\u679c\u306b\u57fa\u3065\u3044\u3066\u5224\u65ad\u3055\u308c\u308b\u3002<\/p>\n<p>\u4eca\u56de\u306e\u6d3e\u751f\u30e2\u30c7\u30eb\u306b\u3064\u3044\u3066\u3001\u516c\u958b\u8cc7\u6599\u304b\u3089\u78ba\u8a8d\u3067\u304d\u308b\u306e\u306f\u3001Engram \u306e\u5143\u306e\u6570\u5024\u8868\u73fe\u304c\u7dad\u6301\u3055\u308c\u3066\u3044\u308b\u3053\u3068\u3001\u6307\u5b9a\u3055\u308c\u305f\u5b9f\u88c5\u3067\u5909\u63db\u3068\u7c21\u5358\u306a\u63a8\u8ad6\u304c\u6210\u7acb\u3057\u305f\u3053\u3068\u3001\u305d\u3057\u3066\u5225\u306e\u91cf\u5b50\u5316\u6e08\u307f\u69cb\u6210\u306b\u3064\u3044\u3066\u7279\u5b9a\u306e\u30d9\u30f3\u30c1\u30de\u30fc\u30af\u7d50\u679c\u304c\u5831\u544a\u3055\u308c\u3066\u3044\u308b\u3053\u3068\u3067\u3042\u308b\u3002\u3053\u308c\u3089\u306f\u3001\u305d\u308c\u305e\u308c\u7570\u306a\u308b\u691c\u8a3c\u5bfe\u8c61\u306b\u3064\u3044\u3066\u5f97\u3089\u308c\u305f\u8a3c\u62e0\u3067\u3042\u308b\u3002\u9ad8\u7cbe\u5ea6 Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u305f\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u56de\u7b54\u54c1\u8cea\u3084\u5b9f\u884c\u6027\u80fd\u306b\u3064\u3044\u3066\u306f\u3001\u540c\u4e00\u6761\u4ef6\u306b\u3088\u308b\u5bfe\u7167\u6bd4\u8f03\u304c\u5fc5\u8981\u306b\u306a\u308b\u3002<\/p>\n<hr>\n<h2>7. \u60c5\u5831\u306e\u4fdd\u5b58\u7cbe\u5ea6\u3068\u30e2\u30c7\u30eb\u306e\u6027\u80fd\u3092\u5206\u3051\u3066\u5224\u65ad\u3059\u308b<\/h2>\n<p>DeepSeek-V4.1-Flash-1017 \u306e\u6d3e\u751f\u30e2\u30c7\u30eb\u306f\u3001\u4f4e\u30d3\u30c3\u30c8\u5316\u3057\u305f Backbone \u3068\u5143\u306e MXFP8 \u7cbe\u5ea6\u306e Engram \u3092\u7d44\u307f\u5408\u308f\u305b\u3001\u91cd\u307f\u306e\u7528\u9014\u306b\u3088\u3063\u3066\u4fdd\u5b58\u7cbe\u5ea6\u3092\u5909\u3048\u308b\u69cb\u6210\u3067\u3042\u308b\u3002Abiray \u306e\u5909\u66f4\u6e08\u307f Backbone \u3068 IQ4_NL Engram \u306e\u7d44\u307f\u5408\u308f\u305b\u306f\u7d04 249.18 GB\u3001Starw1 \u306e MXFP8 Engram \u3092\u4f7f\u7528\u3057\u305f\u69cb\u6210\u306f\u7d04 341.4 GB \u3068\u306a\u308b\u3002\u7d04 92.2 GB \u306e\u5897\u52a0\u5206\u306f Engram \u306e\u4fdd\u5b58\u5f62\u5f0f\u306e\u9055\u3044\u306b\u5bfe\u5fdc\u3057\u3001\u305d\u306e\u8ffd\u52a0\u5bb9\u91cf\u306b\u3088\u308b\u56de\u7b54\u54c1\u8cea\u306e\u5909\u5316\u306f\u5225\u9014\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>Starw1 \u306e\u516c\u958b\u8a18\u9332\u3067\u306f\u3001\u5143\u30e2\u30c7\u30eb\u7531\u6765\u306e Engram \u306e\u5024\u3068\u30b9\u30b1\u30fc\u30eb\u306b\u3064\u3044\u3066\u30d0\u30a4\u30c8\u4e00\u81f4\u304c\u78ba\u8a8d\u3055\u308c\u3001\u30d1\u30c3\u30ad\u30f3\u30b0\u51e6\u7406\u306e\u6b63\u5e38\u7d42\u4e86\u3068 CPU \u306e\u53c2\u7167\u5b9f\u88c5\u306b\u3088\u308b Paris \u306e\u751f\u6210\u3082\u8a18\u9332\u3055\u308c\u3066\u3044\u308b\u3002\u3053\u308c\u306f\u6bd4\u8f03\u5bfe\u8c61\u3068\u306a\u3063\u305f\u4fdd\u5b58\u5024\u306e\u4e00\u81f4\u3068\u3001\u6307\u5b9a\u3055\u308c\u305f\u5b9f\u884c\u6761\u4ef6\u3067\u306e\u751f\u6210\u51e6\u7406\u306e\u6210\u7acb\u3092\u793a\u3059\u3002\u4e00\u65b9\u3001\u691c\u8a3c\u30ed\u30b0\u3067\u306f\u53c2\u7167\u4f4d\u7f6e\u306e\u8a08\u7b97\u306b\u95a2\u4fc2\u3059\u308b\u975e\u91cd\u307f\u30c7\u30fc\u30bf\u304c\u30d1\u30c3\u30ad\u30f3\u30b0\u5bfe\u8c61\u304b\u3089\u9664\u5916\u3055\u308c\u3066\u304a\u308a\u3001\u4fdd\u5b58\u5024\u306e\u4e00\u81f4\u3060\u3051\u3067\u53c2\u7167\u51e6\u7406\u306e\u5168\u6761\u4ef6\u304c\u78ba\u5b9a\u3059\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002<\/p>\n<p>Engram \u306e\u53c2\u7167\u5024\u304c\u4e00\u81f4\u3057\u3066\u3044\u3066\u3082\u3001\u305d\u306e\u5024\u306f\u30b2\u30fc\u30c8\u306b\u3088\u308b\u8abf\u6574\u3068 Backbone \u306e\u6f14\u7b97\u3092\u7d4c\u3066\u51fa\u529b\u3078\u53cd\u6620\u3055\u308c\u308b\u3002\u5143\u30e2\u30c7\u30eb\u306b\u5bfe\u3057\u3066\u4f4e\u30d3\u30c3\u30c8\u5316\u3084\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u304c\u52a0\u308f\u308c\u3070\u3001\u5f8c\u7d9a\u306e\u5185\u90e8\u72b6\u614b\u3084\u51fa\u529b\u5019\u88dc\u306e\u30b9\u30b3\u30a2\u306b\u5dee\u304c\u751f\u3058\u5f97\u308b\u3002\u5b9f\u969b\u306b\u516c\u958b\u30ed\u30b0\u3067\u306f\u3001\u901a\u5e38\u306e Backbone \u3068\u62d2\u5426\u5909\u66f4\u5f8c\u306e Backbone \u304c\u3068\u3082\u306b Paris \u3092\u751f\u6210\u3057\u305f\u4e00\u65b9\u3001\u307b\u304b\u306e\u5019\u88dc\u306e\u5024\u306b\u306f\u9055\u3044\u304c\u8a18\u9332\u3055\u308c\u3066\u3044\u308b\u3002\u4fdd\u5b58\u5024\u3001\u9078\u629e\u3055\u308c\u305f\u30c8\u30fc\u30af\u30f3\u3001\u5019\u88dc\u5206\u5e03\u306f\u3001\u305d\u308c\u305e\u308c\u7570\u306a\u308b\u5bfe\u8c61\u3067\u3042\u308b\u3002<\/p>\n<p>ISTA-DASLab \u306e IQ2_XXS \u7248\u306f\u3001\u516c\u958b\u8005\u304c\u5b9f\u65bd\u3057\u305f AIME25\u3001GPQA-Diamond\u3001LiveCodeBench v6 \u306e\u8a55\u4fa1\u3067\u5143\u30e2\u30c7\u30eb\u3068\u540c\u3058\u96c6\u8a08\u5f97\u70b9\u3092\u8a18\u9332\u3057\u3066\u3044\u308b\u3002\u305f\u3060\u3057\u3001\u3053\u306e\u8a55\u4fa1\u306f IQ4_NL Engram \u3092\u4f7f\u7528\u3057\u305f\u69cb\u6210\u306b\u5bfe\u3059\u308b\u3082\u306e\u3067\u3042\u308a\u3001Starw1 \u7248\u306e\u6e2c\u5b9a\u7d50\u679c\u3067\u306f\u306a\u3044\u3002MXFP8 Engram \u306e\u5bc4\u4e0e\u3092\u7279\u5b9a\u3059\u308b\u306b\u306f\u3001\u540c\u3058\u7248\u306e Backbone \u3068\u63a8\u8ad6\u6761\u4ef6\u3092\u56fa\u5b9a\u3057\u3001IQ4_NL \u3068 MXFP8 \u3092\u5207\u308a\u66ff\u3048\u3066\u5404\u554f\u984c\u306e\u6b63\u8aa4\u3084\u51fa\u529b\u3092\u6bd4\u8f03\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u62d2\u5426\u95a2\u9023\u8868\u73fe\u306e\u5909\u66f4\u306f\u3001\u3055\u3089\u306b\u5225\u306e\u6bd4\u8f03\u8981\u56e0\u3068\u3057\u3066\u7ba1\u7406\u3059\u308b\u3002<\/p>\n<p>\u5b9f\u7528\u4e0a\u306e\u8a55\u4fa1\u306b\u306f\u3001\u7d04 92.2 GB \u306e\u8ffd\u52a0\u5bb9\u91cf\u306b\u52a0\u3048\u3001RAM \u3084 VRAM \u306e\u4f7f\u7528\u91cf\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u306e\u8aad\u307f\u51fa\u3057\u9045\u5ef6\u3001\u9023\u7d9a\u751f\u6210\u901f\u5ea6\u304c\u95a2\u4fc2\u3059\u308b\u3002Engram \u306f\u5fc5\u8981\u306a\u884c\u3092\u9078\u629e\u3057\u3066\u53d6\u5f97\u3059\u308b\u305f\u3081\u3001\u4fdd\u5b58\u5bb9\u91cf\u306e\u5897\u52a0\u304c\u305d\u306e\u307e\u307e\u5404\u30c8\u30fc\u30af\u30f3\u306e\u8ee2\u9001\u91cf\u306b\u306a\u308b\u308f\u3051\u3067\u306f\u306a\u3044\u3002\u3057\u304b\u3057\u3001SSD \u3084 CPU \u5074\u30e1\u30e2\u30ea\u30fc\u304b\u3089\u306e\u8aad\u307f\u51fa\u3057\u304c\u6f14\u7b97\u306b\u9593\u306b\u5408\u308f\u306a\u3044\u5834\u5408\u306b\u306f\u3001\u751f\u6210\u901f\u5ea6\u3078\u5f71\u97ff\u3059\u308b\u3002\u54c1\u8cea\u3068\u8cc7\u6e90\u8981\u6c42\u306f\u3001\u540c\u3058\u5b9f\u884c\u74b0\u5883\u3067\u5bfe\u5fdc\u3065\u3051\u3066\u6e2c\u5b9a\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002<\/p>\n<p>\u3053\u306e\u69cb\u6210\u3067\u5143\u306e Engram \u3092\u30d0\u30a4\u30c8\u5358\u4f4d\u3067\u4fdd\u6301\u3057\u305f\u610f\u7fa9\u306f\u3001\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u81ea\u4f53\u306e\u91cf\u5b50\u5316\u8aa4\u5dee\u3092\u9664\u5916\u3057\u3001\u6bd4\u8f03\u5b9f\u9a13\u306e\u4e00\u3064\u306e\u6761\u4ef6\u3092\u56fa\u5b9a\u3067\u304d\u308b\u70b9\u306b\u3042\u308b\u3002\u305d\u3053\u304b\u3089\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u80fd\u529b\u7dad\u6301\u3092\u5224\u65ad\u3059\u308b\u306b\u306f\u3001\u53c2\u7167\u4f4d\u7f6e\u306e\u8a08\u7b97\u3001\u5024\u306e\u7d71\u5408\u3001\u4f4e\u30d3\u30c3\u30c8\u5316\u3055\u308c\u305f Backbone \u306e\u6f14\u7b97\u3001\u6700\u7d42\u7684\u306a\u56de\u7b54\u54c1\u8cea\u3092\u533a\u5225\u3057\u3066\u691c\u8a3c\u3059\u308b\u5fc5\u8981\u304c\u3042\u308b\u3002\u3053\u306e\u533a\u5225\u3092\u4fdd\u3064\u3053\u3068\u3067\u3001Starw1 \u306e\u30d0\u30a4\u30c8\u4e00\u81f4\u3092 Engram \u306e\u4fdd\u5b58\u7cbe\u5ea6\u306e\u5b9f\u8a3c\u3068\u3057\u3066\u4f4d\u7f6e\u4ed8\u3051\u3001\u30e2\u30c7\u30eb\u5168\u4f53\u306e\u80fd\u529b\u7dad\u6301\u306b\u3064\u3044\u3066\u306f\u5bfe\u7167\u5b9f\u9a13\u306e\u7d50\u679c\u304b\u3089\u5224\u65ad\u3067\u304d\u308b\u3002<\/p>\n<hr>\n<h2>\u53c2\u8003\u6587\u732e<\/h2>\n<ol>\n<li id=\"ref1\">id774, \u91cf\u5b50\u5316\u306b\u3064\u3044\u3066\u8a73\u3057\u304f\u89e3\u8aac\u3059\u308b\uff082026-08-07\uff09. <a href=\"https:\/\/blog.id774.net\/entry\/2026\/08\/07\/5472\/\">https:\/\/blog.id774.net\/entry\/2026\/08\/07\/5472\/<\/a><\/li>\n<li id=\"ref2\">id774, \u4f4e\u30d3\u30c3\u30c8\u91cf\u5b50\u5316\u3067\u306f\u8aa4\u5dee\u306e\u767a\u751f\u6642\u523b\u3068\u5bff\u547d\u3068\u65b9\u5411\u3078\u7cbe\u5ea6\u3092\u914d\u308b\uff082026-10-24\uff09. <a href=\"https:\/\/blog.id774.net\/entry\/2026\/10\/24\/5746\/\">https:\/\/blog.id774.net\/entry\/2026\/10\/24\/5746\/<\/a><\/li>\n<li id=\"ref3\">Alireza Dadgarnia et al., \u201cGSQ: Highly-Accurate Low-Precision Scalar Quantization for LLMs via Gumbel-Softmax Sampling\u201d (2026-04-20). <a href=\"https:\/\/arxiv.org\/abs\/2604.18556\">https:\/\/arxiv.org\/abs\/2604.18556<\/a><\/li>\n<li id=\"ref4\">Michael Helcig and Dan Alistarh, \u201cModel Compression with Exact Budget Constraints via Riemannian Manifolds\u201d (2026-05-01). <a href=\"https:\/\/arxiv.org\/abs\/2605.00649\">https:\/\/arxiv.org\/abs\/2605.00649<\/a><\/li>\n<li id=\"ref5\">id774, AI \u306e\u6027\u80fd\u3092\u5b88\u308a\u306a\u304c\u3089\u8cc7\u6e90\u3092\u6e1b\u3089\u3059\u306b\u306f\u6b8b\u3059\u5834\u6240\u3092\u9078\u3076\uff082026-10-18\uff09. <a href=\"https:\/\/blog.id774.net\/entry\/2026\/10\/18\/5729\/\">https:\/\/blog.id774.net\/entry\/2026\/10\/18\/5729\/<\/a><\/li>\n<li id=\"ref6\">id774, \u4e09\u5024 LLM \u306e\u5727\u7e2e\u306f\u4fdd\u5b58\u91cf\u3068\u5fa9\u53f7\u51e6\u7406\u306e\u914d\u7f6e\u554f\u984c\u306b\u306a\u308b\uff082026-09-25\uff09. <a href=\"https:\/\/blog.id774.net\/entry\/2026\/09\/25\/5710\/\">https:\/\/blog.id774.net\/entry\/2026\/09\/25\/5710\/<\/a><\/li>\n<li id=\"ref7\">Xin Cheng et al., \u201cConditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models\u201d (2026-01-12). <a href=\"https:\/\/arxiv.org\/abs\/2601.07372\">https:\/\/arxiv.org\/abs\/2601.07372<\/a><\/li>\n<li id=\"ref8\">DeepSeek-AI et al., \u201cDeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression\u201d (2026-09-17). <a href=\"https:\/\/arxiv.org\/abs\/2609.19969\">https:\/\/arxiv.org\/abs\/2609.19969<\/a><\/li>\n<li id=\"ref9\">deepseek-ai, DeepSeek-V4.1-Flash-1017. <a href=\"https:\/\/huggingface.co\/deepseek-ai\/DeepSeek-V4.1-Flash-1017\">https:\/\/huggingface.co\/deepseek-ai\/DeepSeek-V4.1-Flash-1017<\/a><\/li>\n<li id=\"ref10\">deepseek-ai, inference\/engram.py, DeepSeek-V4.1-Flash-1017. <a href=\"https:\/\/huggingface.co\/deepseek-ai\/DeepSeek-V4.1-Flash-1017\/blob\/main\/inference\/engram.py\">https:\/\/huggingface.co\/deepseek-ai\/DeepSeek-V4.1-Flash-1017\/blob\/main\/inference\/engram.py<\/a><\/li>\n<li id=\"ref11\">ISTA-DASLab, DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF. <a href=\"https:\/\/huggingface.co\/ISTA-DASLab\/DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF\">https:\/\/huggingface.co\/ISTA-DASLab\/DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF<\/a><\/li>\n<li id=\"ref12\">Abiray, DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF. <a href=\"https:\/\/huggingface.co\/Abiray\/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF\">https:\/\/huggingface.co\/Abiray\/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF<\/a><\/li>\n<li id=\"ref13\">Starw1, DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-MXFP8-Engram-GGUF. <a href=\"https:\/\/huggingface.co\/Starw1\/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-MXFP8-Engram-GGUF\">https:\/\/huggingface.co\/Starw1\/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-MXFP8-Engram-GGUF<\/a><\/li>\n<li id=\"ref14\">Andy Arditi et al., \u201cRefusal in Language Models Is Mediated by a Single Direction\u201d (2024-06-17). <a href=\"https:\/\/arxiv.org\/abs\/2406.11717\">https:\/\/arxiv.org\/abs\/2406.11717<\/a><\/li>\n<li id=\"ref15\">Starw1, verification.log, DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-MXFP8-Engram-GGUF. <a href=\"https:\/\/huggingface.co\/Starw1\/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-MXFP8-Engram-GGUF\/blob\/main\/verification.log\">https:\/\/huggingface.co\/Starw1\/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-MXFP8-Engram-GGUF\/blob\/main\/verification.log<\/a><\/li>\n<li id=\"ref16\">Niko1221, Strata. <a href=\"https:\/\/github.com\/Niko1221\/Strata\">https:\/\/github.com\/Niko1221\/Strata<\/a><\/li>\n<li id=\"ref17\">Samuel Williams, Andrew Waterman and David A. Patterson, \u201cRoofline: An Insightful Visual Performance Model for Multicore Architectures\u201d (2009-04). <a href=\"https:\/\/doi.org\/10.1145\/1498765.1498785\">https:\/\/doi.org\/10.1145\/1498765.1498785<\/a><\/li>\n<li id=\"ref18\">Stella Biderman et al., \u201cLessons from the Trenches on Reproducible Evaluation of Language Models\u201d (2024-05-23). <a href=\"https:\/\/arxiv.org\/abs\/2405.14782\">https:\/\/arxiv.org\/abs\/2405.14782<\/a><\/li>\n<li id=\"ref19\">Percy Liang et al., \u201cHolistic Evaluation of Language Models\u201d (2022-11-16). <a href=\"https:\/\/arxiv.org\/abs\/2211.09110\">https:\/\/arxiv.org\/abs\/2211.09110<\/a><\/li>\n<\/ol>\n","protected":false},"excerpt":{"rendered":"<p>AI \u306e\u30e2\u30c7\u30eb\u3092\u5c0f\u3055\u304f\u3059\u308b\u969b\u306b\u306f\u3001\u3059\u3079\u3066\u306e\u91cd\u307f\u3092\u540c\u3058\u7cbe\u5ea6\u3067\u4fdd\u5b58\u3059\u308b\u5fc5\u8981\u306f\u306a\u3044\u3002\u5927\u898f\u6a21\u8a00\u8a9e\u30e2\u30c7\u30eb\u306b\u306f\u3001\u5165\u529b\u3055\u308c\u305f\u60c5\u5831\u3092\u5909\u63db\u3059\u308b\u8a08\u7b97\u7528\u306e\u91cd\u307f\u3068\u3001\u5165\u529b\u306b\u5fdc\u3058\u3066\u5fc5\u8981\u306a\u5024\u3092\u53d6\u308a\u51fa\u3059\u53c2\u7167\u30c6\u30fc\u30d6\u30eb\u304c\u542b\u307e\u308c\u308b\u5834\u5408\u304c\u3042\u308b\u3002\u524d\u8005\u3092\u4f4e\u30d3\u30c3\u30c8\u5316 &#8230; <a title=\"Engram \u306e\u30d0\u30a4\u30c8\u4e00\u81f4\u3060\u3051\u3067\u306f\u56de\u7b54\u54c1\u8cea\u3092\u8a3c\u660e\u3067\u304d\u306a\u3044\" class=\"read-more\" href=\"https:\/\/blog.id774.net\/entry\/2026\/11\/02\/5828\/\" aria-label=\"Engram \u306e\u30d0\u30a4\u30c8\u4e00\u81f4\u3060\u3051\u3067\u306f\u56de\u7b54\u54c1\u8cea\u3092\u8a3c\u660e\u3067\u304d\u306a\u3044 \u306b\u3064\u3044\u3066\u3055\u3089\u306b\u8aad\u3080\">\u7d9a\u304d\u3092\u8aad\u3080<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[26,14],"tags":[],"class_list":["post-5828","post","type-post","status-publish","format-standard","hentry","category-math","category-tech"],"_links":{"self":[{"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/posts\/5828","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/comments?post=5828"}],"version-history":[{"count":1,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/posts\/5828\/revisions"}],"predecessor-version":[{"id":5829,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/posts\/5828\/revisions\/5829"}],"wp:attachment":[{"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/media?parent=5828"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/categories?post=5828"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.id774.net\/entry\/wp-json\/wp\/v2\/tags?post=5828"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}