AIの安全性を守る新しい技術：マイクロソフトが「エージェント型AI」の監視体制を強化
Published
マイクロソフトは、AIが自律的に判断して行動する「エージェント型AI」のセキュリティを強化するための新しい取り組みを発表しました。近年、AIが人間のように複雑な作業をこなす技術が進化していますが、同時にAIが誤った判断をしないかという懸念も高まっています。
今回発表された対策の柱は、「ガーディアン・エージェント」による監視体制です。これは、AIの行動を別のAIが常にチェックし、不適切な操作や危険な動きがないかを確認する仕組みです。人間がすべての動きを監視することは難しいため、AI同士で監視し合うことで安全性を高める狙いがあります。
また、同社は「Project Perception（プロジェクト・パーセプション）」という新しい技術も活用しています。これはAIが自分の行動を客観的に理解し、透明性を高めるための技術です。AIがなぜそのような判断をしたのかという過程を明らかにすることで、開発者や利用者が安心してシステムを使えるようにします。
これらの技術は、AIが社会の重要なインフラとして使われる未来に向けて非常に重要です。マイクロソフトは、AIの利便性を高めるだけでなく、信頼できるAI環境を作るために、今後もモデルの透明性を高める研究を続けていくとしています。
Sources: Microsoft Source
More Japan news
- Toyota, Nissan and Honda to Hold Engineer Event in Fiscal 2026 Under the Theme of “AI”
- HTC NIPPON Promotes Business Use of the Smart Glasses "VIVE Eagle" as Sponsor of Remote Guidance App Exhibition
- Defense-Related ETF "GX Defense Tech" Publishes Stock Price Information; Detailed News Not Available
- U.S. Ambassador to South Korea Marks 100 Days in Office, Stresses the Importance of Protecting Trust Between South Korea and the United States
- South Korean National Assembly Passes Special Counsel Act to Investigate "Fabricated Indictments"
- Former Professor Embroiled in Stem Cell Paper Fabrication Scandal Acquires UAE Citizenship, Loses South Korean Nationality
- Foreign Minister Motegi Holds Talks with Foreign Ministers of France, Italy and the UK, Calls for Appropriate Response on EU Exclusion of Japanese-Made EVs from Preferential Treatment
- Health Drink Market in Japan Set to Grow, Driven by Aging Population and Health Consciousness