私たちは自律型キラーロボットを持つ必要はない

Anthropicは、国防総省から、大規模監視や完全自律型致死兵器を含むAI技術への米軍の無制限アクセスを許可するか、さもなければサプライチェーンリスクと見なされ数十億ドルの契約を失う可能性があるという、差し迫った最後通告に直面しています。この状況は、OpenAI、xAI、Amazon、Microsoft、Googleなどの主要企業のテクノロジー労働者の間に動揺を引き起こしており、多くの人が国防総省との契約協力の増加に裏切られたと感じています。AnthropicのCEOであるDario Amodeiは、現在の技術的な信頼性を理由に即時の要求を公に拒否していますが、致死性自律兵器の研究開発における将来の協力には前向きです。主要なテクノロジー企業は、OpenAIが戦争目的での使用禁止を撤廃したことや、Anthropicが責任あるスケーリングポリシーを変更したことなど、有利な軍事契約を獲得するために倫理的なガードレールを最近緩めてきました。過去にはGoogleの「Mavenプロジェクト」終了のように労働者主導の抵抗が成功した例もありましたが、現在の雰囲気は恐怖と沈黙の文化を示唆しています。しかし、Anthropicの現在の姿勢は、特に致死的な決定には人間が介在することを要求する倫理的境界線を提唱する人々にとって、一縷の希望をもたらしています。

(出典：The Verge)