2026年3月19日 (木)
人工知能システムは、実質のスカルチニーを得ています: オートノマイズエージェントのためのライフサイクルのセキュリティに関する作業が加速され、企業はより現実的な計画ベンチマークを構築し、生産性スイートは、埋め込まれたアシスタントを正規化保ちます。
人工知能システムは、実質のスカルチニーを得ています: オートノマイズエージェントのためのライフサイクルのセキュリティに関する作業が加速され、企業はより現実的な計画ベンチマークを構築し、生産性スイートは、埋め込まれたアシスタントを正規化保ちます。
研究者は、自動LMエージェントのライフサイクルセキュリティフレームワークを提案
研究書込みは、自律LMエージェントにおける脆弱性の緩和を目的とした5層、ライフサイクル指向のセキュリティフレームワーク(LLMエージェントのOpenClawで動機付け例)を記述しています。
エージェントは、高優先アクセス(ファイル、ブラウザ、メッセージング、コードの実行)を得るため、誤ったテキストから実際の操作に失敗します。 セキュリティは、完全なライフサイクルをカバーする必要があります。設計、ツーリング、実行、および監視。
- 01 Agent security is increasingly a systems problem (permissions, plugins, tool boundaries), not just model alignment; expect more focus on minimal trusted computing bases and sandboxing.
- 02 Lifecycle framing matters: an agent can be safe at deploy time but drift into unsafe states through plugin updates, prompt injection, or accumulated memory/config changes.
- 03 If your agent can execute tools, treat every external input (web pages, emails, tickets) as untrusted and design for containment, audit logs, and rapid revocation.
- 04 Security research on agent architectures is likely to translate into enterprise requirements around auditability, policy controls, and reproducibility.
Run an agent threat model for your top workflows: list tools and privileges, move to deny-by-default allowlists, record tool calls with tamper-resistant logs, and implement a kill switch that revokes credentials immediately.
ServiceNow は、エンタープライズ グレードのエージェント プランニングの評価のための EnterpriseOps-Gym を導入
ServiceNow Researchは、持続的な状態、アクセス制御、および長期にわたるタスクを使用して、現実的な企業設定で有能な企業設定で有能な計画を評価するように設計された、EnterpriseOps-Gymを導入しました。
Benchmarksは最適化されたものを駆動します。 評価が短いチャットタスクから企業の制約に移動する場合、チームは会話の質だけでなく、信頼性、ポリシーの遵守、および運用安全を優先します。
- 01 Enterprise benchmarks emphasize statefulness and access protocols; expect more investment in memory management, policy engines, and rollback-safe execution.
- 02 Long-horizon planning exposes failure modes that single-turn tests miss (compounding errors, tool misfires, partial completion).
- 03 If you deploy agents internally, you can mirror this style of evaluation by creating a staging environment with realistic permissions and measuring end-to-end task success, not prompt quality.
- 04 Benchmarks like this can become de facto procurement criteria (audit trails, permission proofs, change tracking).
Build a small internal ops-gym: 20–50 representative tasks, a staging system with real role-based access control, and metrics for success rate, time-to-complete, and policy violations. Gate releases on those metrics.
Gemini は Google Workspace の機能で、ワークフローネイティブアシスタントへのシフトを強調しています。
GoogleのワークスペースでGeminiを搭載した機能で、ワークフローのまとめ、ドラフト、整理、ミーティングを行います。
アシスタントの採用は現在、毎日のユーティリティについてです。 より多くのユーザーが埋め込まれたコパイロットに依存しているため、競争上の優位性はワークフローの統合、許可されたコンテキスト、および測定可能な生産性向上にシフトします。
- 01 The most defensible assistant features live inside workflows (mail, docs, sheets, meetings), not in standalone chat interfaces.
- 02 Workflow AI raises the risk of silent errors (wrong recipients, incorrect summaries); organizations need review steps and human-in-the-loop defaults for high-impact actions.
- 03 If you evaluate productivity AI, measure outcomes (time saved, rework rate, customer impact) rather than feature checklists.
- 04 Data access and governance (who can summarize what, retention, redaction) will often be the main blocker or enabler of adoption.
If you enable Workspace assistants org-wide, define a policy tier list: allowed use cases (drafting, summarization) vs restricted (sending externally, contract language). Add sampling audits and require attribution links back to original threads/docs for critical work.
世界がAIショッピングエージェントの検証ツールを拡大
世界は、人工知能のショッピングエージェントの背後にある、実際の人間を検証することを目的としたツールを立ち上げました。
VisBrowse-Bench は、ブラウジングエージェントのビジュアルネイティブ検索をベンチマークします。
新しいベンチマークは、ブラウジングエージェントは、テキストだけでなく、実際の閲覧を反映するために、ネイティブビジュアルページ情報で評価する必要があります。
Verge は、過剰な医療-AI クレームをレビュー
実際のチェックピースは、犬のがんを治すChatGPTと、医学AIの物語に対するアトリビューションとエビデンス規格の問題について、ウイルスのストーリーを調べます。