「AI安全性」のコラム

OpenAIが2026年7月15日に公開した自動レッドチーミングモデル「GPT-Red」を徹底解説。self-play強化学習でAIに攻撃役を学習させ、その攻撃でGPT-5.6を鍛えることで堅牢性を高める「安全性の自己改善」の仕組み、プロンプトインジェクションを0.05%まで抑えた成果、自販機エージェント撃破の実例、そして中小企業がAIエージェントを使う上での教訓までを図解付きで整理します。