カテゴリー: security

機能を無効化しても解析処理が実行される理由

2026年10月26日 by 774

機能を無効化したとき、実際には何が停止するのだろうか。例えば、サーバーが受け付ける署名アルゴリズムを許可リストで管理し、特定の方式をリストから除外したとする。管理者が期待するのは、その方式による認証要求が拒否されることで … 続きを読む

2026年10月25日 by 774

AI が間違いに気づけるなら、その間違いを避けられるようにも見える。問題文の矛盾を見つけ、安全上の危険を判定し、人間からの停止指示を理解できるなら、その情報が最終的な行動にも反映されると考えるのは自然である。実際、モデル … 続きを読む

2026年10月21日 by 774

同じファイルを、同じ利用者が、同じ権限で削除しようとする。削除対象、操作内容、実行環境を固定したまま、依頼文だけを英語から日本語へ変えた場合、安全判定は維持されるだろうか。ファイルの所有者やアクセス権限が変われば、削除を … 続きを読む

2026年10月13日 by 774

2026 年 9 月末から 10 月にかけて、国内ではクラウドサービスへのランサムウェア攻撃、大規模な会員情報の流出、大学の情報基盤障害などが相次いで公表された。サイバー攻撃を説明するとき、近年は生成 AI による攻撃作 … 続きを読む

2026年10月10日 by 774

危険を知っていれば避ける。規則を理解していれば守る。問題を認識していれば修正する。この因果関係がそのまま成立するなら、信頼性を高める方法は知識を増やすことに集約できる。ところが、人間の行動を調べても、AI エージェントの … 続きを読む

2026年9月29日 by 774

AI エージェントへ安全規則を与える方法として、禁止操作を定義する、実行時に監視する、操作履歴を保存する、機密情報の扱いを指示するといった仕組みがある。これらはそれぞれ異なる役割を持つ。禁止操作の定義は、どの行動を許可す … 続きを読む

2026年10月9日2026年8月4日 by 774

Gemini in Gmail と Gemini in Google スプレッドシートには、長いメールの要約、過去資料の検索、返信案の作成、数式や集計表の生成といった明確な利便性がある。Google Workspace … 続きを読む

2026年7月31日2026年7月14日 by 774

ソフトウェアの安全性について考えるとき、最初に注目されやすいのは、脆弱性を見つける能力である。脆弱性とは、プログラム、設計、設定、運用のどこかにある弱点であり、悪用されると情報漏えい、権限昇格、サービス停止、なりすましな … 続きを読む

2026年7月31日2026年7月12日 by 774

暗号化は、情報を守るための強力な技術である。しかし、暗号化されていることと、情報が安全に扱われていることは同じではない。通信内容が読みにくくなっていても、その通信がどこで平文になり、どこで複製され、どの権限で参照され、ど … 続きを読む

2026年7月31日2026年7月1日 by 774

Anthropic は 2026 年 6 月 12 日、米政府から Fable 5 と Mythos 5 への外国籍者アクセスを停止する export control directive を受けたとして、両モデルを全顧客 … 続きを読む