AI SafetyAI安全性(エーアイあんぜんせい)中級Business & StrategyAIシステムが意図通りに動作し、意図しない害を引き起こさないことを確保する研究分野。なぜ重要かAIがより強力になるにつれ、人間の価値観との整合性と人間による制御の確保が重要になります。実際の活用例AnthropicのConstitutional AIアプローチ。Claudeが倫理原則に従うよう学習される。