提示詞描述
以 16:9 比例的示意圖，白色背景，風格仿照常見的 SCI 論文示意圖。資訊流向為從左至右，分為三個水平功能層：語義層、中間表示層和聲學層。語義層和 T2U 模組位於圖表中心，其大小和視覺權重明顯高於其他模組，以強調它們在模型中的重要性。 ──────────────────────── 語義層（頂部，核心組件） 核心模組： 「中文 BERT 編碼器 + Adapter + LoRA」 內部文字描述（學術，簡潔）： 輸入：中文文本序列 X 輸出：上下文感知的語義表示 H′ 使用 Adapter 和 LoRA 進行參數高效的微調。 視覺設計亮點： 該模組具有稍粗的邊框和更大的面積，強調其作為語義建模核心的作用。該模組僅關注抽象的語義表示，不涉及音素、發音或目標語言文本。 連接（關鍵）： 從該模組發出一個單一的實線箭頭，直接指向下方的 T2U 模組，標記為： 「語義表示 → 離散語音單元預測空間」 代表推理期間的主要資訊流。 ──────────────────────── T2U 模組（語義層和聲學層之間的中心樞紐，視覺中心） 模組名稱： 「T2U：文本到單元 & 時長映射」 模組定位描述（模組內的小字或註釋）： 「連接語義空間和語音空間的中間介面」 功能描述（不劃分為子模組，以文字表達）： 輸入：語義表示 H′ 輸出 1：離散語音單元序列 Ũ 輸出 2：語音單元時長序列 D̂ 建模意義（SCI 風格）： T2U 模組學習從中文語義空間到與語言無關的離散語音單元空間的穩定映射，在推理期間不依賴於目標語言文本或手動語音規則。 連接（重點回答「中間連接是什麼？」）： 1) 向下實線箭頭 → 聲學層（指示在推理期間使用預測的單元和時長） 2) 從中間表示層到 T2U 的灰色虛線箭頭（指示訓練期間的監督信號） ──────────────────────── 中間表示層（中間，輔助但關鍵） 模組鏈（水平排列）： 「原始語音 → HuBERT（自監督語音編碼）→ k-means 聚類 → 離散語音單元 + 時間對齊」 功能定位描述（註釋）： 「此層僅在訓練期間使用。」
![請生成一張清晰的方塊圖，說明以下神經網路模型的架構：模型名稱：SAT-MoE。左側有兩個輸入區塊：1) 製程特徵 `opes`，形狀為 [batch, num_opes, in_size_ope]；2) 機器特徵 `mas`，形狀為 [batch, num_mas, in_size_ma]。首先，應用兩個線性投影以獲得相同維度的隱藏表示，然後添加類型嵌入（製程類型 = 0，機器類型 = 1），並額外將位置編碼添加到製程序列。隨後，分別對兩個路徑應用 LayerNorm，然後沿序列維度將它們連接成一個長序列，該序列被饋送到堆疊的 Transformer 編碼器（自注意力、多頭注意力、前饋網路）。可以在中間連接一個混合專家（MoE）模組：一個閘控網路輸出多個 MLP 專家的權重，並且每個 token 的專家輸出被加權和求和，然後進行殘差連接和 LayerNorm。Transformer 的輸出然後根據原始的製程和機器數量拆分回兩個路徑：製程表示和機器表示。然後，依次通過兩個交叉注意力層：第一個「製程 → 機器」注意力：製程特徵用作 Query，機器特徵用作 Key/Value，以獲得更新的製程表示；第二個「機器 → 製程」注意力：機器特徵用作 Query，製程特徵用作 Key/Value，以獲得更新的機器表示。最終輸出是更新的製程特徵 `out_opes` 和機器特徵 `out_mas`。請使用從左到右的資料流佈局，用箭頭連接模組，標記每個模組的名稱（例如，輸入投影、類型嵌入、位置編碼、Transformer 編碼器、MoE、製程到機器注意力、機器到製程注意力等），並使圖表風格簡潔且適合論文展示。](/_next/image?url=https%3A%2F%2Fpub-8c0ddfa5c0454d40822bc9944fe6f303.r2.dev%2Fai-drawings%2FQrRrIgUwJnufqN4Havc2b4pFYV84PSTW%2F763c7d61-fe20-46a0-af4e-ddec53f57135%2F26fdf95b-f6f5-47a1-bf67-976f398ab221.png&w=3840&q=75)