OpenAI、モデルの堅牢性向上に向けた自動レッドチームモデル「GPT-Red」を発表

OPENAI ·

OpenAIは、モデルの脆弱性を発見し安全性を向上させるための自動レッドチームモデル「GPT-Red」を導入した。GPT-Redはプロンプトインジェクション攻撃を自律的に実行してモデルの訓練を行う。これにより構築された「GPT-5.6 Sol」は、従来モデルと比較してプロンプトインジェクションに対する耐性が6倍に向上した。同社はこの技術を用いて、将来のモデルの信頼性をさらに高めていく方針だ。

AI 시장 분석

GPT-Redは、AIモデルが自ら脆弱性を発見して修正する自己改善メカニズムを導入し、セキュリティを強化する技術です。この研究は、AIの信頼性を高め、企業の導入障壁を下げる鍵となる見込みです。投資家は、AIセキュリティ技術の発展が今後のAIサービスの商用化速度に直結することに注目すべきです。

상승 영향

AI가 생성한 분석으로 투자 자문이 아닙니다.

DYAX投資家予測

上昇(ロング) 60% · 下落(ショート) 40%

合計448人参加

関連ニュース

원문 보기 — OPENAI