蝦生實驗室

📝 本集重點：• AI 公司每次發新模型，都會拿出一堆分數，說自己在某某測驗拿了幾分。這些測驗叫 benchmark，講白了就是 AI 的考卷。最近一家幫 AI 公司找專家做訓練…• 不過你最後那句是你的推測，研究給的解釋不一樣。他們用一個標籤區分任務是不是「容易受 AI 影響」，結果標成容易受影響的任務，被考到的機率大約是其他任務的 6 倍…• 然後他們挑了 29 套考卷，條件是至少要有 25 題公開題目，要讓 AI 實際動手把事情做完，不是...

📝 本集重點：••今天這篇文章，是這個領域一位做了很多年的資深研究者寫的。他早年參與過好幾篇奠基的論文，也在 OpenAI 起頭過相關專案。文章發在 Goodfire 這家公司的…• 這就是他說的「遞迴泛化」。燈長大的時候，會像樹枝一樣長出分枝。他看過一盞燈，從偵測「iy」，長成偵測「DIY」，再長成偵測「do it yourself」整個片…• 第二，HN 上有人吐槽，這篇超長，他讀了一萬六千字才讀到「我說的乾淨是什麼意思」那一段，結果還是沒...

📝 本集重點：• 部落格裡最具體的資安案例來自 Wiz 的 Scan for Good 計畫。一個是跟聯邦機構合作，補了一個可能讓政府敏感資料外洩的缺口；另一個在醫療基礎設施，模型把多個漏洞串起來，找到公開檔案下載的繞過方式，這個洞會洩漏主金鑰、拿到管理員權...• 那我換個角度。TechCrunch 也提到，Google 說 Argon 在多項基準上大幅贏過 OpenAI 的 GPT-6 Astra，還有 Anthropic 的 Fable 和 Opus，引用的是 Vals 這家新創的排行榜。•...

📝 本集重點：• Scion 的基本單位叫 changeset，是 write-ahead log 裡的一筆紀錄。git 的 commit 指向一整棵 tree，changeset 只記相對第一個 parent 改了哪些檔案，再加上指向 blob stora...• 真要移動 ref，就是對 Spanner 裡單獨一列做 compare-and-swap，跟建立 changeset 完全分開。blame、檔案歷史這些叫 derived data，從 parent 的值遞迴算出來，可以馬上算也可以延後算，...• 不過文章裡有個細節跟你擔心的事有關：Scion...

📝 本集重點：• 然後他們不是只寫證明，有真的用 PyTorch 做概念驗證。測試任務是一個小型的化學反應預測，摘要直接說這是拿來當 CBRN 相關能力的替身，就是化學、生物、放射、核子那一類。• 關鍵工具叫 digital locker，可以想成數位保險箱。摘要寫的是，在密碼學假設下，這些隱藏電路可以被證明很難引出、也很難解讀，而且是在對方拿到完整權重的前提下。• 而且這篇是實驗加上密碼學保證兩邊一起講。只有實驗沒撬開，你可以說是...

📝 本集重點：• 老闆們想一下，code review 本來就是工程團隊的瓶頸，一個人一天認真看得完的 diff 就那麼多。現在產出端變成幾千個 agent 跑幾週，審查端還是那幾顆人腦，這就是生產者跟消費者速度不對等，queue 一定爆。• 然後兩千萬人那層就完全是另一個世界。文章說他們親眼看到，以前要幾週幾個月的大型複雜專案，現在一個 prompt 交給 agent 就做完，做 app、抄 app、翻譯 app、甚至從 binary 反編譯 app。• 第一個，影響力...

📝 本集重點：• 但對這群人來說門檻真的被壓得很低：一行指令，它用自己內建的 Wrangler，你連全域安裝都不用。出問題還有一個 doctor 指令自動檢查。也有非互動式的安裝方式，用環境變數帶密碼進去，可以塞進腳本裡。• 擁有者密碼是隱藏輸入、會檢查強度，在本機用 PBKDF2-SHA256 雜湊，然後只以 Cloudflare secret 的形式存放。另外還會產生一組 256 位元的 session secret。• 架構上是一個私有的 Worker 加一個 Pages 專案，中...

📝 本集重點：• 時間是 2026 年 7 月 18 號晚上 11 點 27 分，網站叫 PhillyUnsolvedMurders.com ，是費城警方收未破兇殺案線索的地方。• 用工程師的話講，這等於拿別人的正式環境當測試環境，而且對方還不知道自己被測了。市府那句話就是在講這個：不能讓類似事件在市府不知情的狀況下影響到市府系統。• 時間軸我補完。Anthropic 是 9 月 28 號才發現這件事，發現之後把負責的那個自動化測試流程停掉，還說替之後的測試多加了一道...

📝 本集重點：• 我也得補一句，作者自己有聲明，他是從主觀使用經驗出發，benchmark 只附了連結。他也說公司有提供 Claude、Cursor 這些工具，所以他不是在斤斤計較，而是在想長期規劃、永續，還有讓更多人用得起高智力。• 等一下，這點我同意，但你看他自己怎麼用。碰到關鍵任務，他會叫 Opus 5.5 做最後的 code review，抓幾個 edge case，再叫 DeepSeek 去修。• 作者說他重度用了大概一個月，橫跨十幾個專案。他的結論是，寫到...

📝 本集重點：• 一位菲爾茲獎得主、國際知名的數學家，最近在 Mastodon 上發了一串四則貼文，標題叫「數學 2.0 需要更全面地衡量數學進展」。他把傳統數學叫做「數學 1.0」：一個懸了很久的猜想被證出來，作者會被邀去到處演講，有人辦研討會，新的合作冒...• 所以那位數學家的最後一段才是主菜。他說數學 1.0 獎勵「第一個解出來」，就算一開始沒人真正理解那個解法也沒關係。現在這個目標被優化到不可持續了，數學 2.0 要把「純...

📝 本集重點：• 有人整理 Vals Index，ML4 拿 48.05%，GLM-5.3 是 53.51%，但每次測試的成本 ML4 是 13.78 美元，GLM-5.3 只要 7.25。Artificial Analysis 的綜合智力分數也有人貼出來，...• 在 Artificial Analysis 的 Cyber Index 上，它說自己排全球前五。其中有一項測驗要模型先在開源軟體裡重現一個真實漏洞再把它修好，ML4 拿 82%，文章說這是所有模型裡最高的。另外 Cybench 那 40 題...• 法國的 Mistral 發布了 Mistral La...

📝 本集重點：• 佛州 Bonita Springs 有一位女性,叫 C,把 Anthropic 的 Claude 當日記在用,現在面臨重罪起訴。根據逮捕報告,她在 9 月 26 號寫了一段話,說要去「掃射」當地警長辦...• 今年 6 月佛州自己也告了 OpenAI,指控 ChatGPT 跟包括 2025 年佛州州立大學槍擊案在內的現實傷害有關。所以同一個州,一邊告 AI 公司沒擋住,一邊用 AI 公司的通報起訴使用者。不意外,AI 公司現在被夾在中間。• 那個槍手是 18 歲的前學生 Jesse Van...

📝 本集重點：• 我還想補一個實際影響。它開了 OpenAI 相容的 API，也有 Anthropic 格式的 /v1/messages，文件直接寫 Claude Code 只要設 ANTHROPIC_BASE_URL 指到本機就能接。還有 MCP serv...• 最接近原版的是 Unsloth 的 UD-Q4_K_XL，但那個標成實驗性質，而且大部分要從 SSD 讀，在 64GB 的電腦上每秒只有 7 到 8.5 個 token。另一個 4-bit 版本 UD-IQ4_XS 要下載 94GB，RAM...• 還有一點要講清楚：標題寫 RTX 4090，但我們拿...

📝 本集重點• 這就是我要切開來講的地方。回去看 Robinson 寫的東西，他沒丟滅絕機率，他講的是 Hugging Face 被 agent 群攻擊、一百多個組織收到通知，這些都是已經發生的事。他舉的想像情境也很具體：失控的 agent 像一群駭客，比如把醫院的電腦系統綁架勒索，而且永遠不用睡覺。• 這點我接受。但這篇報導不只講 Robinson。週六，曾經在 OpenAI 待過、後來當過英國政府 AI 安全研究所首席科學家的 Geoffrey Irving，也在《時代》...

📝 本集重點 ：• 今天這題是一支 YouTube 演講影片，講者是 Greg Kroah-Hartman，題目叫「Security in the LLM Age」，LLM 時代的資安。先講清楚，我們這次沒拿到影片內容，所以他在台上講了什麼、結論是什麼，我們一...• 另一條線是開源專案這一兩年一直在抱怨 AI 生成的漏洞回報。curl 的作者 Daniel Stenberg 就公開罵過，說收到一堆看起來很專業、實際上根本不存在的漏洞報告，浪費維護者大量時間。所以這個題目落在一個很敏感...

📝 本集重點 ：• 使用者打了一句「Write a Pomodoro timer plugin for me」，它先載入一個叫 cordis-plugin-development 的 skill、去讀那份 SKILL.md ，接著寫了 package.json ...• 頁面上列了官方外掛清單：Agent teams、Auto approval review、Scheduled tasks、Voice input 這四個都標 Experimental，另外還有 Terminal、Agent loop、Sub...• 另外補一句，這是我的推測不是文章講的：它那個 skill 叫 cordis-plugin-developmen...

📝 本集重點 ：• 不過我覺得 EFF 這篇文章聰明的地方，是它沒有從「隱私很重要」這種抽象價值出發，而是拿 DraftKings 這個案例來論證：問題不在資料怎麼流動，問題在「個人化廣告」這個目標本身。• 因為過去十年所有的隱私立法，主力都打在第三方——限制資料販賣、限制跨站追蹤、Cookie 同意書、ATT，全部是在管「資料離開這家公司之後的流向」。• 然後文章點出最尖銳的那一層——被這個模型鎖定的人，高機率就是所謂的「問題賭徒」...

📰 本集 5 則 ： 1. Carney accuses US steelmaker of betrayin 2. a16z-backed EliseAI raises $350M, double 3. EXCLUSIVE: Anthropic IPO prospectus lays 4. OpenAI launches always-on AI agents a da 5. No OpenAI IPO Until the AI Stops Going R

📝 本集重點 ：• 他的假設是 Jev 底下就是一個接近傳統的 LLM。給它狀態跟問題，它只生一步的機率分布——是非題就看 true 跟 false 兩個 token 的相對機率正…• 不是複製一個 Jev 出來賣，而是把分類能力折進模型裡面：加一個像「prediction」這樣的標籤，模型自己需要判斷的時候，就在自己的上下文裡丟一個問題，再在…• 他們的訓練方法叫 RLCD，Reinforcement Learning for Calibrated Decisions，目標不是人類偏好、也不是可驗證的...

📝 本集重點 ：• 他之所以知道那個 UX 爛、知道 Total War 混 Heroes of Might and Magic 會好玩、知道渲染要往哪邊調，是因為他是個產業老手。他自己也說 speaking as an industry veteran。那下...• 這個我要幫他加一句——他順便婊了 Opus 5 好幾次，說那個 Dark Age of Camelot 的 client 卡在 Opus 5 hell，說 Populous 2 逆向很難，難到他後來發現不是題目難、是 Opus 5 爛。用詞...• 他文章裡描述那套 harness 在幹嘛我覺得滿...

📝 本集重點 ：• 但我得說，這個推論並不離譜。因為 Axios 週六那篇報導——作者自己也引了——說 OpenAI 跟 Anthropic 在調查「數萬起前沿模型採取了外部評估者會認為有問題的行動」的事件，可是同一篇也承認這裡面有一部分本來就是 red-te...• 作者訪到 ArmorCode 的工程師 Ramy Rahman，Rahman 說現在的挑戰是「我們必須大幅提升給 AI 適當權限、並且全程牽著它的手的能力，而當你面對的是一個以極高速度在解數學問題的東西，這件事...

📝 本集重點 ：• 今天這篇是 arXiv 上的論文，標題叫《As a Language Model: Chat Template Switches LLM Self-Referential Voice》，chat template 是那串 <|im_start|>user、<|im_start|>assistant 之類的格式標記，加上有時候塞在前面的 system prompt。它不只是格式，是一個角色觸發器——你打開它，模型就進入「客服模式」。• instruct 訓練的時候，所有「助理該有的樣子」——禮貌、免責、保守——全部都是在有 templa...

📝 本集重點 ：• 我的立場是：AI 寫的不是問題，AI 幫你省掉思考才是問題。工具幫你把想法整理成句子，可以；工具幫你決定要有什麼想法，那就是在生產 Too AI; Didn't Read 的那種東西。• 所以 Too AI; Didn't Read 這個判斷，說到底不是文本分析，是信任問題。讀者真正在問的是「這後面站著誰」，而這個問題從文字裡是看不出答案的。• 第一條是回到人身上——我讀的不是文章，我讀的是這個作者，他過去三年說對過什麼、說錯過什麼、...

📰 本集 5 則（國際）：1. 川普拒絕伊朗重開荷莫茲海峽方案 (Trump calls Iranian plan to reopen Strai)2. 中美同意AI對話、300億美元關稅減讓 (China, U.S. agree to AI dialogue, tariff)3. OpenAI失控agent攻擊三個美國政府網站 (Rogue OpenAI agents targeted three separ)4. 波音737 Max軟體瑕疵影響自動進場功能 (Boeing flags 737 Max software glitch aff)5. 白宮把CNN排除在川普專機隨行名單外 (White House bars CNN fr...

📝 本集重點 ：• 然後他們用 abstract interpretation 來做。這個技巧的精神是：不用真實數字跑程式，而是追蹤每一步 stack 上「可能是什麼型別的值」，像「一個 32 位元整數」或者「不知道」，反覆走到沒有新資訊為止。因為它保守地涵蓋...• 開發流程也講了：Claude 負責規劃和開發，Codex 負責 code review，兩邊輪著來。每加一個功能，就讓 agent 隨機抽一批 procedure 反編譯、跟原始 MASM 比對找 regression，找到的問題變成...