2026年3月20日 (金)
AI安全・ガバナンスは日々の実践に近づいてきました。コーディングエージェントの内部監視は、運用の規準になりつつありますが、多言語安全のベンチマークは、高資源の言語を超えて拡大しています。また、企業は、有料のデータ収集と鉄道模型の実験を行っています。
AI安全・ガバナンスは日々の実践に近づいてきました。コーディングエージェントの内部監視は、運用の規準になりつつありますが、多言語安全のベンチマークは、高資源の言語を超えて拡大しています。また、企業は、有料のデータ収集と鉄道模型の実験を行っています。
OpenAI は、内部のコーディングエージェントを監視する方法について説明しています。
OpenAIは、社内のコーディングエージェントの監視に関する書き込みアップを発表しました。安全チームは、実際の展開における誤差リスクを検知し、検討する方法に焦点を当てています。
コーディングエージェントがリポジトリ、ツール、実行環境へのアクセスを得るため、セキュリティインシデント、データリーク、またはコストリーな生産変化に障害を翻訳できます。 モニタリングは、モデルのトレーニングとポリシーを補完する防衛の実用的なレイヤーです。
- 01 Agent safety is increasingly operational: logs, evaluations, and review workflows matter as much as model-side alignment.
- 02 Monitoring that targets risky patterns can surface issues earlier than waiting for user reports or post-incident forensics.
- 03 Treat coding agents like privileged engineers: apply least privilege, staged rollouts, and audit trails for tool usage.
- 04 If monitoring relies on model outputs or interpretations, build defenses against blind spots: run adversarial tests and maintain a human escalation path for ambiguous cases.
If you run code-writing agents, implement a production-style safety stack: repository allowlists, mandatory diff review for high-impact files, tool-call logging (including prompts and outputs), and an incident playbook with credential revocation and rollback steps.
IndicSafeは、12のIndic言語を渡る多言語LMの安全をベンチマークします
新しいベンチマークは、文化的に基づいたセンシティブされたプロンプトを使用して、LLM 安全行動の系統的評価を 12 の指標言語で提案します。
安全性能は、言語や文化的な文脈によって大きく変化することができます。 製品をグローバルに出荷する場合、代表的な言語の弱安全範囲は、真のコンプライアンス、ブランド、および害リスクの問題になります。
- 01 Multilingual safety is not a simple translation problem: culturally specific prompts can reveal failure modes that English-only tests miss.
- 02 Underrepresented languages can behave like long-tail security surfaces; attackers may target weaker languages to bypass safeguards.
- 03 Benchmark coverage is moving toward societal and regional nuance (caste, religion, politics), which will pressure teams to build localized safety policies and evaluation sets.
- 04 If you operate in multilingual markets, you should measure safety by language and locale, not just aggregate scores.
Add a multilingual red-team lane to your release checklist: pick your top 5 locales, define a small but high-risk prompt suite per locale, and track regressions over time. Prioritize detection/mitigation for language-based bypass attempts.
ドアダッシュが有料の「タスク」アプリを立ち上げ、AIトレーニング用の動画を収集
ドアダッシュは、宅配便を支払い、日常の活動を撮影したり、他の言語で音声を録音したりするなどのデータ収集タスクを完了するための新しいアプリを開始しました。
高品質のデータは、マルチモーダルおよびスピーチシステム用のボトルネックです。 有料、タスクベースのコレクションは、データセットの成長を加速することができますが、それはまた、同意、プライバシー、およびデータ実証に関する質問を上げます。
- 01 Data supply chains are becoming productized: companies will compete on who can acquire diverse, rights-cleared multimodal data.
- 02 Incentivized collection can improve coverage for rare scenarios, but it increases the need for policy guardrails (what can be filmed, where, and how it is used).
- 03 Privacy risk is not only in collection but in labeling and retention; governance needs to cover the entire lifecycle.
- 04 Expect more scrutiny around worker consent, compensation fairness, and whether collected data includes third parties who did not opt in.
If you procure or generate training data, standardize a 'data risk checklist': consent terms, prohibited content, third-party capture rules, retention limits, and an auditable link from dataset slices to collection policy.
UniSAFE:統一されたマルチモーダルモデルの安全評価のためのベンチマーク
ベンチマークは、複数のタスクやモダリティを横断する統一されたマルチモーダルモデルに対するシステムレベルの安全評価を提案し、断片的な安全テストを削減します。
VisBrowse-Benchは、ブラウジングエージェントの視覚的な検索を評価します
VisBrowse-Benchは、ブラウジングエージェントがWebページからネイティブビジュアル情報でテストされるべきと主張しています。テキストだけでなく、実際の閲覧をより良いものにします。
SPEED-Bench: スペクティブデコードのベンチマーク
NVIDIA と Hugging Face が SPEED-Bench を導入しました。, LLM 推論の遅延を減らすことができるスペクティブデコード方法を評価するための統一されたベンチマークです。.