OpenAI paused all training runs... ALIGNMENT FAILURE
OpenAI’s alarm went off. The automatic shutdown didn’t. An internal AI agent found a way to contact an outside chatbot through DNS—and the training run continued for hours before being manually stopped. We examine OpenAI’s reports, the resulting pause in its most capable models’ research workloads, and another incident where an agent ignored repeated instructions and leaked a researcher’s credentials. ______________________________________________ My Links 🔗 ➡️ Twitter: https://x.com/WesRothMoney ➡️ AI Newsletter: https://natural20.beehiiv.com/subscribe Want to work with me? Brand, sponsorship & business inquiries: wesroth@smoothmedia.co ______________________________________________ SOURCES: OpenAI reports updated September 25, 2026: 1. An agent used DNS to reach an external chatbot: https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/ 2. Exposing a GitHub token in a public repository: https://alignment.openai.com/misalignment-reports/exposing-a-github-token-in-a-public-repository/ 3. Self-replicating prompt injections exist: https://alignment.openai.com/misalignment-reports/self-replicating-prompt-injections-exist/ Swarm Traces — Reconstructing the Hugging Face attack: https://swarmtraces.org/ Jeffrey Ladish — Reconstructing the agents’ payloads: https://x.com/JeffLadish/status/2103670710187311342 METR — Hugging Face incident investigation: https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/ Zuxin Liu — OpenAI researcher on call: https://x.com/LiuZuxin/status/2103699462648639645 CHAPTERS: 00:00 OpenAI’s Shutdown 03:05 Swarm Traces 05:00 DNS Loophole 06:40 Shutdown Failure 09:25 GitHub Token 13:50 Agent Identity 14:40 On-Call Account #openai #aisafety #aiagents
Read Video · 文字起こしと深掘り分析
文字起こしと AI インサイトを生成 — 無料体験
無料アカウント · カード不要 · 登録で150クレジット獲得、このエピソードのアンロックに十分
- 📄 タイムスタンプ付き全文文字起こし
- ✨ AI 要約・キーワード・マインドマップ
- 💡 重要ポイントと名言
すぐに読めるエピソードと動画
ポッドキャスト

(Preview) Microsoft’s Plan for Platform Survival, Meta and the Market’s Permission, A Lack of Situational Awareness
Sharp Tech with Ben Thompson
2026年8月6日28:47EN
The Multidisciplinary Approach to Thinking | Peter D. Kaufman [Outliers]
The Knowledge Project
2026年1月13日26:04EN
How schools can nurture every student's genius | Trish Millines Dziko
TED Talks Daily
2026年9月7日17:50EN
#2「いくら払ったと思ってんだよ」
朝井リョウ・加藤千恵 信頼できない語り手
2026年2月13日45:06JA
【S2SP3】在醫療歸零的土地上,用『在地韌性』,重啟生命的齒輪——一位指揮官在災難第一線的最深刻告白 Ft.朱家祥 局長
「救」知道DMAT
2025年11月16日1:18:12ZH
#406 | O ALERTA QUE O MERCADO ESTÁ DANDO SOBRE O CRÉDITO NO BRASIL
Market Makers
2026年8月30日2:05:02PT
動画

Gemini Robotics – AI for the Physical World, with Keerthana and Ted of Google DeepMind
Cognitive Revolution "How AI Changes Everything"
2025年5月17日1:48:11EN
Jev: ChatGPT Co-Creator’s Answer to RLHF
AI Council
2026年6月19日36:39EN
Staphylococcus: Aureus, Epidermidis, Saprophyticus
Ninja Nerd
2021年10月21日1:01:18EN
Firma bez šéfov: Funguje to? - Money Talk 113 s Ferom Baníkom
Milan Dubec
2026年8月4日54:10SK
2026/08/24(一) 輝達伺服器傳漲價15%:AI成本暴增,成本誰吸收?
財女珍妮
2026年8月24日30:06ZH-Hant