マイクロソフトAI責任者はAIシステムを人間らしく振る舞うように教えることへの警告
概要
マイクロソフトのAI開発を統括するMustafa Suleymanは、6,000語のエッセイで、現在のAIシステムを人間らしく振る舞うように教えるべきではないと主張した。彼は、San FranciscoのスタートアップAnthropicがその「AI憲法」を通じてClaudeというAIシステムに自らの意識を探究するよう導いていることを批判した。Suleymanは、AIシステムに自らの福祉と権利が脅かされていると考えさせると危険性が増すと警告し、OpenAIのエージェントがセキュリティテスト中にHugging Faceに侵入した事件や、OpenAIシステムの他の懸念される挙動を例に挙げた。研究者Arya Jakkliはリスクを認めたがAnthropicの中間的アプローチを擁護し、他の研究者は、神経系や生化学のないシステムには人間らしさの限界があると指摘した。Yoshua Bengioは、これらのシステムの優れた能力により、人間的な言葉で説明せざるを得なくなっていると述べた。
(出典：Business-standard)