用 DeepMind 做出小型語言模型
這篇帶你在 Google Skills 依序完成 DeepMind 的 AI Research Foundations，建立小型語言模型的基礎流程。
這篇帶你在 Google Skills 依序完成 DeepMind 的 AI Research Foundations，建立小型語言模型的基礎流程。
這篇給已會 Python 的大學生、社群學習者與技術開發者看。照做完，你會知道要去哪裡進入 Google DeepMind 的學習路徑、三門課怎麼排、以及如何把課程概念轉成可執行的 Python 練習。
開始之前
訂閱 AI 趨勢週報
每週精選模型發布、工具應用與深度分析，直送信箱。不定期，不騷擾。
不會寄垃圾信，隨時可取消。
- Google 帳號，可登入 Google Skills
- Python 3.10+
- 能使用瀏覽器開啟 DeepMind collection
- 具備基礎電腦科學、數學或物理課程背景
- 可選：Google Cloud Console 帳號，方便延伸到雲端工作流
先確認可以登入，因為這條學習路徑會用登入狀態保存進度與課程完成度。
Step 1: 開啟 DeepMind 學習路徑
目的：先進到官方課程集合，確保你走的是 DeepMind 設計好的順序。
打開 Google Skills 的 DeepMind collection，查看路徑名稱、簡介與課程清單。
你應該看到 Google DeepMind AI Research Foundations 路徑，以及 Start path 入口。
Step 2: 啟動 AI Research Foundations
目的：把學習進度綁到你的帳號，讓三門課的完成狀態可追蹤。
點選 Start path，若系統要求就先登入。這條路徑會帶你理解 AI 技術背後的基礎，並建立模型製作能力。
你應該看到路徑頁面展開，第一門課已可直接進入。
Step 3: 依序完成三門課
目的：按官方建議順序學習，讓每個概念都接在前一個基礎上。
請依序完成這三門課：01 Build Your Own Small Language Model、02 Represent Your Language Data、03 Design And Train Neural Networks。
你應該看到每門課在進度列上顯示 started 或 completed，之後再進下一門。
Step 4: 在 Python 重做核心概念
目的：把理論轉成可操作的程式練習，建立你自己的小型實驗環境。
在你的 Python 環境裡，先用 tokenization、資料表示與簡單訓練迴圈重做課程概念。範例要小，重點放在語言模型的機制，不要先碰複雜基礎設施。
import torch
import torch.nn as nn
vocab_size = 1000
embed_dim = 128
model = nn.Sequential(
nn.Embedding(vocab_size, embed_dim),
nn.Linear(embed_dim, vocab_size)
)
print(model)你應該看到終端機或 Notebook 印出一個最小模型定義，代表你的環境已可做小規模實驗。
Step 5: 檢查成果並安排下一個專案
目的：把完成課程變成下一個可執行計畫，而不只是拿到徽章。
回到 Google Skills 檢視你的學習成果，接著決定要重看課程、把概念套到 Google Cloud，或把練習延伸成更完整的訓練流程。
你應該看到已完成的路徑，以及對語言資料、神經網路與模型訓練如何串起來的更清楚理解。
| 指標 | 基準／優化前 | 結果／優化後 |
|---|---|---|
| 課程順序 | 零散自學 | 三門 DeepMind 課程按序完成 |
| 學習焦點 | 泛用 AI 興趣 | 語言模型、資料表示、神經網路設計 |
| 適用對象 | 任何學習者 | 會 Python 的學生與技術社群學習者 |
常見錯誤
- 跳過登入。 修法：先用 Google 帳號登入，才能保存路徑與成就。
- 先開第 03 課。 修法：照清單順序學，因為後面的內容會預設你已懂前面的概念。
- 一開始就做大模型。 修法：先用小型 Python 範例與簡單訓練迴圈，先看懂核心機制再擴大。
接下來可以看什麼
完成這條路徑後，可以再找 Google Skills 上的 responsible AI、雲端部署與模型評估主題，把基礎延伸成可上線的工作流。