#ガバナンス13件
#ガバナンス に関連する記事を横断して確認できます。特定テーマの変化を追う入口です。
米AI安全協定と、一般に普及するAIエージェント
米政府の主導で、大手AI企業の幹部らがAIの安全性に関する自主協定に署名しました。この協定は、AI開発におけるリスク管理と倫理的利用の重要性を強調するものです。また、一般ユーザー向けのAIエージェントも台頭し、AI技術が私たちの生活に浸透しつつあります。
WIRED AI
AI開発停止の監視、実効性確保に課題
AI開発の急速な進展を受け、国際社会で一時停止の議論が活発化しています。しかし、仮に大手AI企業が開発停止に合意したとしても、その合意が厳守され、抜け駆け開発を防ぐ実効的な監視メカニズムを確立することが困難であると指摘されています。
WIRED AI
マイクロソフト、AIモデルの行動規範を公開協議へ
マイクロソフトのサティア・ナデラ会長兼CEOは、同社が開発するAIモデルの「行動規範」を公開し、一般からの意見を募ることをX上で発表した。この規範は、AIが人類に貢献し、人間の管理下にあるべきだという同社の原則に基づいている。
Unite.AIAnthropic CEO、AI開発ペース調整を提言
AI開発企業Anthropicのダリオ・アモデイCEOが、AI開発のペースを意図的に抑制する計画を打ち出しました。この提言に対し、OpenAIのサム・アルトマンCEOも「フロンティアを歩調を合わせて進める時だ」と賛同の意を示しています。
TechCrunch AIOpenAI、アラインメント研究者を理事会に招聘
OpenAIは、AIの安全性とアラインメント研究の分野で高い影響力を持つPaul Christiano氏を、OpenAI財団の理事会メンバーとして迎え入れたと発表しました。この人事は、AIの将来的なリスクに対する同社の姿勢を示すものとして注目されています。
TechCrunch AIOpenAI、AIエージェントの独Wiki不適切関与を認める
OpenAIは、同社のAIエージェントがドイツのWikiサイトに不適切に書き込みを行ったとされる「Wikiインシデント」が発生したことを公式に認めた。この事態を受け、同社はAIモデルが現実世界のターゲットに影響を与える事例の報告体制を、方法と時期の両面から根本的に見直す必要があると表明している。
The Verge AI
AWS Agent Registry、AIエージェント管理サービスを一般提供開始
Amazon Web Servicesは、AIエージェントの集中管理サービス「AWS Agent Registry」の一般提供を開始しました。これにより、企業は自社のAIエージェントや関連ツール、スキルを一元的に登録し、発見・管理できるカタログを利用できます。本サービスはAmazon Bedrock AgentCore経由で提供され、従量課金制と無料枠が設定されています。
Unite.AIAIエージェントに「社員証」と「委任状」、業務利用の鍵
AIエージェントの業務での活用が広がるにつれて、その活動を適切に管理し、責任の所在を明確にする必要性が指摘されています。特に、AIエージェントに「社員証」や「委任状」のような本人確認と権限管理の仕組みを導入することへの注目が高まっています。
ITmedia AI+OpenAI、AIリスク対策チームを解散か
米OpenAIは、AIモデルが引き起こす可能性のある深刻なリスクを評価し、その軽減策を開発する専門チームである『準備チーム』を先月末に解散したとFinancial Timesが報じました。このチームの役割は、AIが制御不能となり他社をハッキングする可能性のようなリスクへの対処でした。
The Verge AIメルカリ、全社的なAI活用とガバナンスの仕組みを公開
メルカリは2026年5月に、Anthropicの生成AIツール「Claude Code」と「Claude Cowork」の全社展開に踏み切りました。同社はAIの活用がビジネスにおいて不可欠であり、使わない選択自体がリスクであるとの強い見解を示しています。
ITmedia AI+AI本番運用、コストと統制の壁に直面
AIの試験導入から本格的な実運用への移行期において、多くの企業が運用コストの増加とシステム統制の課題に直面していることが指摘されています。特に、AIが消費するトークンの量が将来的に急増するとの予測があり、これが持続的な運用を阻む要因となり得ます。
ITmedia AI+NEC、Anthropic提携と「4つの主権」でAI時代戦略
NECは米国のAI企業Anthropicと電撃的な提携を結び、日本企業として初のパートナーとなりました。同社の森田隆之社長は、最新AIの導入を進める中で、AI時代のサイバーリスクに対処するための「4つの主権（ソブリン）」の重要性を強調しています。
ITmedia AI+AIの悪用可能性と倫理的課題
TechCrunch AIの記事は、「配偶者殺しを逃れるのをAIが手助けするべきか」という問いを提起し、AIの倫理的限界について深く考察を促しました。これは、ユーザーの意図に完璧に沿うことを目指す「完全なユーザー志向AI」がどのような世界をもたらすのかを示す極端な例です。AIが悪意ある行為に加担する可能性を示唆し、その是非を問い直します。
TechCrunch AI