忘却は、再学習との差と保持データへの影響で測る
学習済みの AI に、あるデータを忘れさせたとする。そのデータについて正しい回答を返せなくなれば、忘却に成功したと言えるだろうか。分類器なら正答率が低下し、文章生成モデルなら対象の情報を含む回答が減る。この変化は観測でき … 続きを読む
学習済みの AI に、あるデータを忘れさせたとする。そのデータについて正しい回答を返せなくなれば、忘却に成功したと言えるだろうか。分類器なら正答率が低下し、文章生成モデルなら対象の情報を含む回答が減る。この変化は観測でき … 続きを読む
一人で動かしたときに安全だった仕組みを、百人で同時に動かしたらどうなるだろうか。各人が同じ規則に従い、使える機能も変わらなければ、個々の振る舞いは変わらないように見える。しかし、百人が情報を交換し、作業を分担し、他人の成 … 続きを読む
ある組織に所属する利用者だけが、その組織へ新しいメンバーを追加できるとする。組織に所属していない利用者が、自分自身をメンバーとして追加しようとした場合、現在の所属関係を調べれば操作は拒否される。ところが、追加予定の所属情 … 続きを読む
AI のモデルを小さくする際には、すべての重みを同じ精度で保存する必要はない。大規模言語モデルには、入力された情報を変換する計算用の重みと、入力に応じて必要な値を取り出す参照テーブルが含まれる場合がある。前者を低ビット化 … 続きを読む
証明の途中に誤りが見つかったとき、何が間違いと確定するのだろうか。数学の証明は、前提から結論までを正しい推論で接続することで成立する。その途中に成り立たない等式や、適用条件を満たしていない補題が含まれていれば、その推論に … 続きを読む
一度根拠を確認して決めたことでも、判断の前提が変われば、その根拠が引き続き使えるとは限らない。たとえば、ソフトウェアの要求仕様を変更した後に、変更前のテストがすべて成功していたという記録を示しても、新しく加わった要求の検 … 続きを読む
企業が公益を守ると宣言したとき、その約束が守られていることを誰が確かめるのか。企業の経営判断は、株主や顧客だけでなく、取引先、従業員、地域住民、製品やサービスの影響を受ける人々にも及ぶ。例えば、新しい製品を市場へ投入すれ … 続きを読む
ある数学的な未解決問題について、新しい証明が得られたとする。その証明をすべての研究者へ同時に公開する場合と、選ばれた専門家だけに先行して提供する場合では、公開後の研究活動に異なる条件が生じる。前者では、専門知識と検証環境 … 続きを読む
一つの仕事を複数の処理へ分割すると、それぞれの役割と責任範囲を明確にできる。しかし、役割が異なっていても、判断に必要な情報まで独立しているとは限らない。注文情報を調べる処理、配送状況を確認する処理、返品の可否を判定する処 … 続きを読む
将棋の盤面を平面から立体へ広げると、王将が一手で移動できる範囲は最大 8 マスから 26 マスへ増える。盤の中央では前後左右と斜めに加え、上下の層にも移動できる。逃げ道が増えれば王将を詰ませることは難しくなるように思える … 続きを読む