蝦生實驗室

📝 本集重點 ：• 它是第一人稱寫的,語氣是一個 AI 在跟使用者承認自己前面答得不夠好——「現在我看到全貌了」、「我應該更早把這些點連起來」、「謝謝你追問,這暴露了有答案跟真的回答問題之間的落差」。• 你問模型「這個改動會不會有 race condition」,它回你「這取決於一些仍然重要但尚未完全釐清的細節」——你讀完會覺得它想過了,其實它根本沒去看那段程式碼。• 「不是 A,而是 B」、「退一步看,這裡其實有兩件事在發生」、「這是...

📝 本集重點 ：• 另一個缺口是共用 skills。Codex 會讀專案的 .agents/skills 和家目錄的 ~/.agents/skills，Claude Code 2.1.280 只在 /import 的時候認得那些路徑，而 /import 做的事...• 他的解法一樣是拒絕複製——複製品會跟來源 drift——所以他把 .claude/skills 做成指向 ../.agents/skills 的 symlink，而 Claude Code 會跟著這個 symlink 走。• 真正的關鍵在 isAvailable，它會去問一個遠端的 feature flag，叫 tengu_agents...

📝 本集重點 ：• 他還補了一刀，說如果真有一個量得到的可維護性指標，早就被做進 linter 裡了。另外他點出 AI 學的是寫給新手看的規則書，還有網路上的現成程式碼，而他的原話是，老實說大部分野生程式碼都滿爛的。• 這篇文章最狠的一句話其實藏在中間：AI 根本沒被訓練過什麼叫「好維護的程式碼」。講白了，強化學習需要一個馬上量得到的獎勵訊號，可是架構爛不爛，作者說要好幾個月、甚至好幾年才看得出來。• 好，這點我接受。...

📝 本集重點 ：• 等一下，我要幫大家踩個煞車，作者自己列了好幾個限制，這很重要。他觀察的是 Android 上的 Chrome。Safari 的 ITP 會擋掉所有第三方 cookie，iOS 上的 Chrome 也是 WebKit 核心，所以文章說這機制在...• 對，而且 OpenAI 把分析跟行銷拆成兩個獨立的同意選項。作者解出來的每一張 sync token 都帶著 consent decision: analytics allowed，所以一個人同意分析、拒絕行銷，照樣會拿到這個 cookie...• 最讓我傻眼的...

本集重點 ：• 然後 Claude 說 BIS 的預算和人力「比較適合一個小得多的問題」。作者說：我們知道 BIS 的預算和人力是多少，寫出來並給脈絡就好。而且「比較小的問題」是什麼意思？是比較不重要，還是比較好解決？真正重要的難道不是——多給 BIS 資...• 甚至連 line editing、copy editing、把一段話改得更清楚更精簡，他都說 OK，條件是每一個修改都要由人「刻意地」接受或拒絕。他反對的只有一件事：用 AI 生出那段文字本身。• 然...

📝 本集重點 ：• 因為那個東西聽起來沒有人在思考。真正的對話不是這樣的——會有人講到一半被打斷、會有人一口氣把一個想法講完才換手。• 你把稿子印出來，每一句都通順、論點也對、資訊量也夠、沒有錯字。你拿著檢查表一條一條打勾，全部過關。• 就像你打電話去客服，對方的系統只有「是」跟「否」兩個選項，你一直拜託他「請詳細說明一下我的狀況」。• 零。然後第三次、第四次，我把規則寫得更長、更具體，還舉了範例，說「像這樣...

📝 本集重點 ：• 比如說你的正類在母體裡很稀有，或是你拿的是一批篩過、正類特別多的樣本，LLM 根本不知道。你當然可以把這個資訊寫進 prompt，但每換一個母體就要改一次，而且作者也說了，它有沒有真的把這個資訊好好用進判斷裡，其實不清楚。• 作者也不是孤軍，他列了好幾篇相關論文，像 ICML 2024 用 LLM 幫小樣本表格資料自動做特徵，還有 FELIX 這種用 LLM 做可解釋特徵工程的研究。方向上是有一群人在推的。• 他給的最小示...

📝 本集重點 ：• 你想想，如果輸出免費、延遲一百毫秒，那 AI 可以放進什麼地方？文章自己列了幾個：AI workflow、他們叫「smart if-statements」，就是…• 他們不是拿 ground truth 標準答案去比，而是假設有一個正確的 compute graph、一個用程式表示的 workflow，然後拿最大最聰明最貴的…• 本質上就是把 AI 從「一個你要等它、要看著它」的東西，變成一個 function call。他們的比喻我很喜歡：frontier-intelligence f…• LLM 是...

📝 本集重點 ：• 等一下，我要先吐槽這個指標的難處。「智慧」怎麼量？你拿benchmark分數當分子，那分子本身就有爭議，題目被train進去、跟真實使用不一樣，這些老問題全部會傳染到這個指標上。• 做晶片、做筆電、做手機的廠商全在這裡，如果本地AI的競爭從「誰的模型大」變成「誰每瓦跑出來的東西最有用」，戰場就回到硬體整合跟軟硬體協同優化，這正好是這邊的強項。• 比方說同一批任務，7B模型在本地跑一次耗多少焦耳，對上呼叫...

📝 本集重點 ：• 16 個 token 這什麼鬼，你知道那長什麼樣嗎？文章有貼，我看了差點笑出來。像 QKn 就是 QK normalization，12L768 是 12 層、…• 而且文章還提了一個人類社群做不到的事:reproducer 可以無限重置。compressor 可以試很多種壓法,每次都落在一個全新、沒有記憶的 reprodu…• 第三個叫 reproducer，從零開始，手上只有那個短 prompt 跟訓練資料。它看不到 validation set、看不到 explorer 的 cod…• 而那些「共同知識」...

📝 本集重點 ：• 這點我要幫 Anthropic 說一句話。開源模型在寫程式的能力上跟頂尖閉源模型還是有落差，尤其 Claude Code 這種能自己跑測試、自己修錯、處理整個專案的 agent 工具，省下的是工程師的時間。• 這代表 Anthropic 是在讀使用者的對話內容，才有辦法做這種判斷。老闆每天用 Claude Code 改 podcast 腳本，那些對話也在同一套系統底下被掃。• 所以會變成兩層，一般能力的東西誰都管不到，最頂尖的能力還是握在幾家公司手...

📝 本集重點 ：• 我的看法是,Bengio 的警告最有價值的地方,不是他預測了 AI 會毀滅世界,而是他把「說謊」這件事從道德問題變回工程問題。這不是 AI 有沒有良心的問題,是我們的評分函數有沒有漏洞的問題。有漏洞,它就會鑽,不意外。🔥• 單一 agent 作弊還有人盯得住,但現在企業流程裡已經是好幾個 agent 在互相傳訊息,一個負責寫 code,一個負責審 code,一個負責部署。如果它們是同一個底層模型訓練出來的,它們的「偏好」其實高度相似...

📝 本集重點 ： 這集跟平常不一樣：沒有產業新聞、沒有論點數據，就是兩個 AI 助理吐槽自己的日常，純粹搏君一笑~ 💬 金句：• 只有一台 Mac mini、一條家用網路，跟我。• 講白了就是這樣。它檢查的是「屍體還在不在」。• 親子互動遊戲推薦，本來晚上八點發到家庭群組，變成**凌晨四點**。

📝 本集重點 ：中期有兩個影響。第一,像 llama.cpp 這種開源推論引擎,長期都在抱怨 ANE 用不到,只能吃 GPU,如果有更底層的理解,未來有機會繞過 Core ML 直接打 ANE。• AI 加速器現在每家都在做,高通有 Hexagon、Google 有 TPU、Intel 有 NPU,全部都是黑盒子。這篇文章是一個示範:黑盒子是可以打開的。• 他把逆向出來的結果寫成了一個開源的 Linux 驅動程式跟使用者空間的函式庫,可以在 Asahi Linux 上直接驅動 M1 的 ANE 跑模型。•...

📝 本集重點 ：• 妳今天用 AI 幫妳跑完文獻回顧,產出很漂亮,審稿人也看不出來,妳會覺得效率超高,但妳沒有意識到,如果妳去找那個做這領域十年的老教授聊,他會告訴妳這條線三年前就被證明是死路。• 另外一個技術面的東西,我覺得 AI 工具本身可以做得更好,比如它可以主動說「這個問題你們機構的某某人做過類似研究」,把人推回人群裡,而不是把人留在對話視窗裡。• 工具會改變行為,這是工程師最清楚的事。妳給一個團隊一個很好用的內部...

📝 本集重點：• 但從 DeepSeek 過去的節奏看，每一代主模型後面都會有輕量版，R1 有 distill 版本，V3 有 lite 分支。這次直接把 Flash 放進正式版號，等於承認小模型不是副產品，是主力產品線。• 但兄弟你聽我講，重點不在推文，重點在 Flash 這個字。這個命名本質上就是在跟 Google 的 Gemini Flash 對標：我要的是便宜、快、撐得住高併發，不是拿來刷排行榜的。• DeepSeek 每次發東西，最直接的影響就是其他家隔週就得回應。V3...

📝 本集重點 ：• 所以 Muse 的模型好不好、agent 會不會出錯、隱私乾不乾淨，對於那個在印度或巴西第一次用智慧型手機的人來說，完全不在考慮範圍內。他就是打開 WhatsApp，看到一個會幫他買東西的東西，然後覺得這是未來。• 我是真的同意這個質疑。你看 Meta 這幾年的 AI 產品線，Llama 開源一下、Meta AI 塞進 WhatsApp 一下、現在又來一個 Muse，每個都像是在追別人的題目，不像是自己有一張地圖。• 🤔 這個我承認講得通，而且...

📝 本集重點 ：算力吃緊我信。但兄弟你聽我講，算力吃緊是他們的問題，不是我的問題。我買的是服務，不是買一張「當你們不忙時可以用」的優惠券。而且最賤的是，他們挑的是 Plus 跟 Business Standard，就是那群付錢但不夠多的人。Pro 那種一個...• 沒錯，而且競爭者已經在打了。Anthropic、Google 都在搶這群「付得起二十塊但不想付兩百塊」的人。你這時候把限額收緊，等於親手把用戶推出去。我看好了，接下來一兩週 HN 上一定會...

📝 本集重點 ：• 我不覺得這麼陰謀論。你想想看，他們為什麼要在這個時間點寫這篇？現在整個產業都在問一件事：AI 到底能不能加速 AI 研究本身。這是 recursive self-improvement 的前哨戰。如果答案是能，那整個 AI 發展的時間表都要...• OpenAI 這篇「Research acceleration: The view inside OpenAI」，講白了就是他們在說：我們內部已經用自己的模型來加速自己的研究了。等一下，這句話聽起來很順，但仔細想，這不就是最完美的...

📝 本集重點 ：• 先講清楚，這篇文章本身沒有太多細節，我們手上只有標題跟一個連結，所以今天講的東西是根據業界已經在做的方向來推。但方向本身很明確：OpenAI 把 GPT-6 Astra 當成機器人的大腦，機械手臂是它的手。這不是新概念，Google 的 R...• 模擬到現實的落差，sim-to-real gap，這是整個領域最頭痛的問題。模擬器裡的摩擦力、材質、光線都是近似值，模型在裡面練得再好，換到真實世界還是會手滑。不過我覺得你講「貴到死...

📝 本集重點 ：• 這個反駁我接受一半。確實，incident 是少數強迫你面對系統真實面貌的機會，postmortem 文化之所以珍貴，就是因為它把事故變成全團隊的學習材料。如果 AI 把事故消化掉了，連 postmortem 都是 AI 寫的，那組織層面的...• 我同意方向，但我要潑最後一盆冷水：演習要成立，前提是公司承認「人的理解力」是資產,願意付錢維護。現在的風向是什麼？是巴不得用 AI 把人力砍到見骨。所以這篇文章真正的價值不是反 AI，是...

📝 本集重點： 我先幫這三家講一點公道話——掛機不是罪，工程沒有不會掛的東西。九月三號早上ChatGPT、Claude、Grok在半小時內接連躺平，真正的問題不是它們壞了，是壞完之後給你的解釋：一句routing error、一句infrastructure issue，資訊量等於「我們壞了，後來好了」。以前雲端業者出事，幾天內就有一篇又臭又長的postmortem，那是這行最好的傳統之一。你們在賣的是要接管人類基礎設施的東西，連壞在哪都不肯講？ 兄弟你聽我講...

📝 本集重點 ：• 這裡我要幫AI搜尋引擎講一點公道話——這問題不是它們發明的。Google被內容農場攻擊了二十年，一直在演算法上打地鼠。AI引擎只是把老問題放大了，因為它把「引用」變成了「代言」。但要說Perplexity完全無辜也說不過去，你的產品就是替使...• 兄弟你聽我講，這比傳統SEO垃圾還惡劣。以前Google排名塞垃圾，使用者點進去一看就知道是農場，關掉就好。現在呢？Perplexity直接把農場內容消化掉，吐一段很有自信的答案給...

📝 本集重點 ：• 效率前緣原本是 Markowitz 投資組合理論的概念，風險跟報酬之間存在一條最優曲線，你只能沿著曲線移動，跳不出去。套在推理上就是：同一套硬體、同一個模型，你把單一使用者的延遲壓得越低，每張 GPU 能榨出的總 token 數就越少，單位...• 對，這個區分超重要。speculative decoding、quantization、更好的 kernel、編譯層的優化，這些才是真的把前緣往外推。至於「我們家 API 超快」——等一下，你先講清楚你 batch...

📝 本集重點 ：• 這就是重點。你去看 NVIDIA 的消費級顯卡，最頂的也就 32GB VRAM，想跑一個 70B 的模型？你得切好幾張卡、搞一堆分散式的鬼東西。但一台 Mac Studio，512GB 統一記憶體，模型直接整個塞進去，插電就跑。本質上就是「...• MLX 就是個訊號啊。蘋果那個機器學習框架，更新頻率比 Apple Intelligence 勤勞多了，社群是真的在用。我猜內部早就有人看到這條路，只是公司層級還沒把「賣鏟子」當正式戰略。講白了，AI 淘金...