OpenAIとポーランドのNASKが提携し、AIの安全性とセキュリティを推進

OpenAIとポーランドのNASK国立研究所は、AIの安全性、セキュリティ、技術研究における協力を探る協定に署名した。この提携は、両組織の専門知識を結集し、新たなリスクをよりよく理解し、安全対策を強化し、高度なAIがより安全で回復力のあるデジタルエコシステムにどのように貢献できるかを探るものである。AIシステムがより高性能になるにつれ、開発者と公的研究機関の間の国際協力は、リスクを理解し、より強固な安全対策を構築するために不可欠である。OpenAIの米国CAISSI、英国AISI、その他の公的研究機関との既存の取り組みは、すでに安全対策の強化、AIエージェントのセキュリティ脆弱性の特定と修正、フロンティアAIの安全性の向上に貢献している。この協定を通じて、NASKのAI安全研究センター（ポーランド人工知能安全研究所（AISI）として機能）とOpenAIは、AI安全研究で協力し、ますます高性能になるAIシステムを評価し、潜在的な脆弱性を特定し、安全対策を強化する方法を探る。OpenAIは、米国が世界各国と協力してフロンティアAIの国際技術標準に取り組むよう呼びかけており、AI安全研究所や標準機関の専門知識を活用している。能力の評価、リスクの評価、安全対策のテスト、インシデントの報告に関する共通のアプローチは、各国が証拠を比較し、国境を越えるリスクに対応するのに役立つ。NASKとの協力は、この広範な取り組みに国家的専門知識を組み込む価値を反映している。NASKの場合、この専門知識はAIの安全性に関する広範な研究に基づいており、公共サービスとポーランドのデジタル情報エコシステムの保護に直接応用されている。NASKのような国内パートナーがいなければ、グローバルなAI安全基準は、AIが実際に使用される現実からかけ離れたままになる可能性がある。この協定はまた、OpenAIのポーランドのサイバー防御者との既存の取り組みに基づいている。7月、NASK内で運営されているCERT Polskaは、Daybreakを通じてOpenAIのサイバー能力モデルへのアクセスを獲得した。チームはOpenAIモデルを使用して、MikroTik RouterOSの6つの脆弱性を発見するのに役立てた。これには、認証なしで影響を受けるデバイスを制御するために組み合わせることができる欠陥が含まれていた。ベンダーは修正プログラムをリリースし、CERT Polskaはそれが観察された攻撃を防いだことを確認した。

(出典：OpenAI)