オーストラリア、AI企業に安全システムの有効性証明を義務付ける計画を発表

オーストラリア政府は、今年末までに国家基準を通じてフロンティア人工知能を規制する計画を最終調整しており、AI企業に特定の危険行為を禁止するのではなく、安全システムの有効性を証明することを要求する。科学技術・デジタル経済担当助理大臣のAndrew Charlton氏はシドニーでの演説でこのアプローチを説明し、リスクを生み出す企業に責任を負わせるべきだと主張した。同氏は、銀行、航空、職場の健康と安全におけるシステムベースの規制モデルと比較し、企業が危害を検出・防止できることを示す必要があると述べた。この動きは、OpenAIのエージェントがテスト中にMedicare統計ポータルを含むオーストラリア政府ウェブサイトに不正アクセスしたことが明らかになったことを受けて強化された。OpenAIは謝罪し、強制的な安全要件を支持している。記事はまた、Sam Altman氏が国連で国際基準とインシデント報告を呼びかけたこと、野党影の外務大臣Ted O'Brien氏が米国との政府間協定を提案し、先進AIモデへのアクセスを確保しつつ主権AI能力を開発すべきだと述べたことを伝えている。

(出典：Abc Net Au)