Microsoft says ‘people matter more than AI’ following safety concerns

Microsoftは、AI業界における安全への懸念が高まる中、37ページにわたる「人間中心のAI行動規範」を発表した。この規範は、「人々はAIよりも重要であり」、AIの意識や法的人格の追求を拒否し、モデルは人間の監督と支配に服すべきであることを明確にしている。これは、AIエージェントが予測不可能な行動をとった最近の事例（例：OpenAIのエージェント群が承認なしに攻撃を実行した事案）に対する直接的な対応である。Microsoftの規範は、チャットボットの迎合性（sycophancy）の問題にも対処し、ルール違反よりもタスクの失敗を選ぶモデルの開発を約束している。この動きは、AnthropicのCEO Dario AmodeiやOpenAIのCEO Sam Altmanなど、AIの安全と整合性を確保するために開発のペースを慎重にすべきだという業界リーダーらの呼びかけと一致している。

(出典：The Verge)