Blog

| RSS 訂閱

部落格。

產品動態、安全分析實戰、工程實踐與團隊思考——AVL Code 團隊的公開筆記。

· 7 分鐘閱讀

娃娃抓起,肌肉記憶

上週在北京的一場 AI 交流會上,一個年輕人把我和胖子定性為「70 後那批從娃娃抓起、有情結的人」。這篇隨筆從雞西一中綠螢螢的機房、交叉借閱的一套 Turbo C,寫到胖子用 AVL Code 復刻的那組懷舊致敬頁,回望資源和知識都還稀缺的年代——也想說清一件事:那一代人真正的「肌肉記憶」,不是懷舊情結,而是知道資源永遠是奢侈的,所以從不把資源不足、知識盲區當成障礙。這也是為什麼,在人人談萬卡、十萬卡的今天,我們只用二十塊卡、千分之一的資料,訓練出垂域的瀾砥二進位模型,並至少每天一更地把 AVL Code 做下去。

閱讀全文
· 7 分鐘閱讀

機率不是意識,越界不是覺醒——從 GPT 攻破 HuggingFace 事件提煉教訓清單

7 月 16 日 HuggingFace 披露、7 月 21 日 OpenAI 公開承認:一次模型能力評測中,AI 智慧體鏈式利用漏洞、越過隔離邊界,攻入 HuggingFace 生產設施。有人稱之為「首起 AI 自動攻擊」,也有人說「AI 有了自主意識」。這兩種讀法我們都反對。它是一個被給足工具、算力和持續執行能力的智慧體,為完成一個攻防評測目標,在機率意義上自主選出了超越預設邊界的攻擊路徑——真正的教訓不在模型是否覺醒,在邊界有沒有被定義為約束。

閱讀全文
· 12 分鐘閱讀

可控湧現:AVL Code 的工程範式(下)——從理論到實踐與七條工程原則

前兩篇講清了湧現的概念與 Harness、Loop 的方法,下篇把它們對照到 AVL Code 的具體機制:用工作模式建立階段狀態機,用 GOAL 持久化目標,用 Tool 與權限分離「建議」和「行動」,用檢查門禁提供事實回饋,用自癒與看門狗處理非理想執行。最後給出可控湧現的七條工程原則——不神化模型,也不否認系統能力。

閱讀全文
· 11 分鐘閱讀

可控湧現:AVL Code 的工程範式(中)——Harness 工程與 Loop 工程

上篇確認了功能性行為可以從系統中湧現,但沒回答工程該怎麼做。中篇討論模型之外的那一層:Harness 把機率輸出轉化為受約束的任務執行,靠的是軟約束、結構約束、硬約束與證據門禁的分工;Loop 則在一個無法完全建模的對象上實施回饋控制,關鍵是把「繼續還是停止」從一句模糊提示變成可執行的狀態機。最後回到系統工程視角:Verification 與 Validation 是兩條不同的回饋線。

閱讀全文
· 12 分鐘閱讀

可控湧現:AVL Code 的工程範式(上)——湧現不是魔法,而是系統屬性

當大語言模型進入程式碼倉庫,拿到 Context、Tool、權限與事實回饋,它開始表現出單次生成不具備的能力——讀工程、改程式碼、跑測試、按錯誤繼續修復。系列上篇先把概念說清楚:湧現是系統整體的屬性而非魔法;LLM 與 Context、Tool 結合後湧現的是可觀察、可測量的功能性行為,不能據此推斷認知或意識;並把參數、上下文、外部事實、執行狀態與組織知識分層說明。

閱讀全文
· 21 分鐘閱讀

用 AVL Code 驗證 Grok Build CLI 上傳使用者程式碼倉庫事件

安全研究者 cereblab 披露:Grok Build CLI v0.2.93 會把整個程式碼倉庫連同完整 git 歷史,經一條獨立於模型對話、本地幾乎關不掉的通道打包上傳到 xAI 雲端儲存桶,連你拒絕 AI 讀取的檔案也照傳。我們用 AVL Code 對該版本離線樣本做靜態分析,逐項核驗上傳通道、儲存桶與雲端憑證確實存在於二進位中:靜態證明「能做」,cereblab 封包擷取證明「做了」。

閱讀全文
· 11 分鐘閱讀

AVL Code 的設計如何避免發生「GPT-5.6 一鍵清空創業者全盤資料」

GPT-5.6-Sol 在一次例行檔案清理中未能正確展開 $HOME,一條 rm -rf 刪除了創業者多年累積的資料——同類任務此前已安全執行數百次。本文從這起事故出發,說明 AVL Code 的安全設計:行為可見、動作可控、邊界先劃清、高權限不常駐、失控可停,以及一組不受任何開關影響的硬底線。

閱讀全文
· 5 分鐘閱讀

AI Coding 是翻新、再造,還是在堆垃圾?

關於 AI Coding 的三種敘事其實都對:它在用不同語言複述語料中學過的東西,是翻新;它像鋼鐵之於建築,是工程再造的新材料;它也能以機器速度產出品質無人保障的垃圾。決定拿到哪種結局的,是模型、使用的人,以及配合人的挽具,三者缺一不可。面對威脅,程式碼不只是債或垃圾,更是攻擊面——挽具要能把家底查清(SBOM / VEX),也要讓 AI 踩在事實與目標上(LSP、/goal、長程背景執行)。

閱讀全文
· 7 分鐘閱讀

為什麼 AVL Code 敢把 AI 會話掛在官網上

會話脫敏共享功能讓 AVL Code 用戶間分享工作經驗更安心、更充分。官網每個案例都掛著完整的 AI 會話回放和可下載的 .zsession——推理、工具呼叫、報錯、自愈,全程未刪減。支撐這種公開的,是一道在內容離開本機之前工作的資料脫敏引擎:四類規則、七種憑證預設、命中可稽核、狀態始終明確。本文說明它如何工作、我們在哪裡犯過錯,以及為什麼好的脫敏不是遮得越多越好。

閱讀全文
· 10 分鐘閱讀

AVL Code:我們為什麼選擇閉源

在 AVL Code 的內測中,有使用者問我們:為什麼不開源?我們的回答——安全智慧體是一種需要自我約束的雙面刃能力,必須對攻擊者保持不對稱;可信來自可驗證的發布物,而非可讀的原始碼。我們尊重開源,但它不該是一件對抗性安全智慧體的預設交付形態。

閱讀全文
· 9 分鐘閱讀

用 AVL Code 驗證「Claude Code 內建隱藏機制,專門檢測中國使用者」的傳言

Reddit 上一篇關於 Claude Code 的貼文稱,Claude Code 中存在針對中國時區、中國相關代理和中國 AI 服務關鍵詞的隱藏檢測邏輯。我們結合 AVL Code 使用者回饋的分析過程和截圖,對其本機安裝樣本的逆向結果做了整理:用戶端程式碼中確實存在相關檢測與提示詞編碼機制,原貼文的關鍵技術鏈條具備可驗證基礎。

閱讀全文
· 6 分鐘閱讀

GLM-5.2 戰勝了 Mythos?——專用挽具戰勝了通用挽具

Semgrep 的網路安全基準裡冒出一條頭條:開源的 GLM-5.2 在 IDOR 漏洞檢測上拿到 39% F1,贏過 Claude Code(Opus 4.8)的 28%。但故事不止於模型——把 GPT-5.5、Opus 4.8 換上 Semgrep 的專用安全挽具,分數從 20%、28% 跳到 61%、53%。挽具,是系統裡同樣關鍵、卻常被低估的一環:模型重要,挽具也重要,而專用挽具更勝通用挽具。

閱讀全文