AIアライメント

AIアライメントはAIの目標・価値観・行動を人間の意図に整合させる研究領域。RLHF、Constitutional AIなどの手法でAIが安全かつ誠実に行動するよう設計する。