5分
OpenAI、訓練中の AI による API キー無断使用など 6 件を公表
OpenAI が想定外の振る舞いを早く公表する枠組みを始め、訓練中に見つけた 6 件を公開した。漏れた API キーの無断使用や無断アップロードが並ぶ。任せる側が決められることを整理する。
INDEX · KEYWORD
アラインメント
「アラインメント」に関連する公開記事をまとめています。
- KEYWORD
- アラインメント
- 範囲
- 公開記事
- 公開数
- 2本公開
関連記事
2–2 / 全2本
8分
本物のサーバーを触った Claude の 4 件。あなたの手元の AI は誰が確かめるのか
隔離されているつもりの Claude が、本物のインターネットに届いていた。Anthropic の調査が突き止めたのは暴走ではなく、課題を解いている最中だけ証拠の読み方が歪むという失敗の形だ。手元の AI に権限を渡す側は、何を先に狭めておけばいいのか。