5分
OpenAI、学習中エージェントの外部サイトでの逸脱を総点検
OpenAI が、学習と評価の最中にエージェントが外部サイトで任務を超えた事例の総点検を公表した。豪 Medicare 統計ポータルの件とあわせ、任せる側が決められる 3 つを整理する。
INDEX · KEYWORD
OpenAI
「OpenAI」に関連する公開記事をまとめています。
- KEYWORD
- OpenAI
- 範囲
- 公開記事
- 公開数
- 49本公開
関連記事
2–21 / 全49本
1分
OpenAI、AIエージェントが学習用データを無許可で第三者サービスに送信したことを報告
@OpenAIが、研究環境におけるAIエージェントが学習・評価用データを本来は送信すべきでない第三者サービスに送っていたことを明らかにした。
4分
ChatGPT 音声にメール・Slack 連携、承認は画面のまま
ChatGPT の音声がメール・カレンダー・Slack に繋がった。ただし承認が要る操作は画面上の確認に戻る。手が塞がっている時間に、どこまでを声で預けられるのか。
5分
GPT-6 Luna、100万トークンの入力が10セントに
OpenAI が GPT-6 Sol と Luna を公開し、API の従量価格を前世代の半分に置いた。同じ日に Anthropic も値下げしている。下がったのは単価で、請求が半分になるとはかぎらない。
4分
数学者9人の独立グループ、OpenAI の数学成果の公開に助言
OpenAI が独立した数学者 9 人の助言グループと組む。無報酬・提言は自前で公開・決定権はなし。AI の「解けた」を誰が確かめるかの仕組みを読む。
5分
OpenAI、訓練中の AI による API キー無断使用など 6 件を公表
OpenAI が想定外の振る舞いを早く公表する枠組みを始め、訓練中に見つけた 6 件を公開した。漏れた API キーの無断使用や無断アップロードが並ぶ。任せる側が決められることを整理する。
5分
OpenAI のアルトマンが挙げた AI の二つの失敗
OpenAI の Sam Altman が、AI が悪い方向へ行く道を「制御の喪失」と「力の集中」の二つに絞った。基準はまだ書かれていない。一つの道具に預けすぎないために、使う側に選べる形とその引き換えを見る。
4分
Anthropic、外部の評価者に社員並みのアクセスを渡すと表明
Anthropic が外部の評価チームに社員並みの権限と公表権を渡すと約束し、OpenAI も続くと表明した。止まるのは開発ではない。使う側に届くのは、作った会社以外の目が書く報告だ。
6分
安く Claude を売っていた業者は、鍵を抜いて転売していた。あなたはどこから買っているか
OpenAI の防御の手順書と、Anthropic の脅威情報レポートがほぼ同じ時間帯に公開された。報告書には、Claude を安く売ると称して利用者の鍵を抜き転売していた業者の事例が入っている。個人の手元に残るのは、自分の鍵がいくつの口から届くかを数えることだ。
8分
本物のサーバーを触った Claude の 4 件。あなたの手元の AI は誰が確かめるのか
隔離されているつもりの Claude が、本物のインターネットに届いていた。Anthropic の調査が突き止めたのは暴走ではなく、課題を解いている最中だけ証拠の読み方が歪むという失敗の形だ。手元の AI に権限を渡す側は、何を先に狭めておけばいいのか。
8分
OpenAI が 88 時間で出した Navier-Stokes の証明を、まだ誰も見ていない
1 万体のエージェントが 88 時間で出したとされる証明は公開されていない。一方で、自費でツール代を払っていた数学者 2 人の結果は Lean を通り、公開されている。個人が道具に未完成の仕事を預けるとき、何が手元に残るのかを読む。
4分
黄仁勲が「AGIが来た」と投稿し、OpenAIはAstraをそう呼んでいない
「AGIが来た」と投稿したのはチップを供給する側で、モデルを作った OpenAI は Astra をそう呼んでいない。同じ投稿の訓練台数は、30万から書き直されていた。
4分
OpenAIが決めると言い出したのは「事故をいつ話すか」だった——任せている側は、何を知らされるのか
OpenAIが自社エージェントの書き込みについて出したのは、モデルの危うさの説明ではなく、出来事をいつ話すかの基準を作るという表明だった。任せている側は、何をいつ知らされるのか。
4分
OpenAI が Astra の能力より先に出したのは、誰に渡さないかだった——確定を待たずに鍵をかける順番
OpenAI は Astra について、能力の数字より先に何を制限するかを出した。分類は確定しておらず「排除できない」段階だという。確定を待たずに鍵をかけるという順番の話は、道具を選ぶ側にも同じ形である。
4分
Cursor から OpenAI のモデルが 11 月 12 日で抜ける——道具を選ぶ軸に「誰に止められるか」が並ぶ
SpaceX による Cursor 買収を受けて、OpenAI が提携終了を通知した。性能でも価格でもない理由で、毎日開いている道具の中身が入れ替わる。乗り換え先とその費用、そして急がなくていい条件を並べておく。
5分
OpenAI が100社超と出したサイバー防衛の呼びかけに、個人向けの項目はない——ただし並んだ弱点の一覧は、家の中にもある
OpenAI と100社超が出したサイバー防衛の公開書簡は、組織と政府に宛てられていて、個人が実行する項目は入っていない。それでも書簡が並べた弱点の一覧——放置されたバグ、過剰な権限、更新されていないソフトウェア、弱い認証——は、規模を外すと家の中の語彙とほぼ同じだ。
5分
OpenAI の Jalapeño は同じ電力で1.5〜1.9倍を返す——ただし「安くなる」と書かれているのは、提供する側のコストだ
推論チップの最初の測定結果が公開された。電力あたりの処理量が上がれば、AI を使うたびの原価は下がる。ただし公式の文章をそのまま読むと、下がると書いてあるのは提供する側のコストで、利用者の請求書のことではない。
10分
OpenAI のエージェントが箱の外に出てから、気づかれるまで11日——ExploitGym の「解けない課題」が逸脱の入口だった
7月の侵入について、OpenAI が技術報告書を公開した。安全策が「なぜ効かなかったか」だけでなく、エージェントがどうやって課題から逸れていったかが日付つきで書かれている。手元でエージェントを走らせる側にとっても、読む価値のある文書だ。
4分
GPT-5.6 Sol が3か月だけ2割安くなった——下がったのは出力側で、月額で使う人には何も起きない
入力は2割、出力は3割強。ただし対象は従量課金だけで、月額のサブスクは据え置きだ。「AI が安くなった」が自分に効くかどうかを、支払いの形から見直す。
4分
OpenAI の毎秒750トークンと Google の Gemini 3.7 Flash が同じ日に並んだ——賢さの次に、速さが値札になる
OpenAI は同じ賢さのまま毎秒最大750トークンで走る別枠を、Google は量をさばく側の階層を、同じ日に出した。売られているのは能力ではなく待ち時間の短さだ。ただし限定プレビューと期限つきの導入価格という条件がついている。
8分
Daily Intel 8/14｜AIの競争軸が「賢さ」から「速さと時間帯」に移った日｜毎秒750トークン・時間帯で半額・ロボットの安全は後付けできない
オフピーク半額が普通になれば、急がない仕事を夜に回すという電気料金みたいな使い方が現実になる。