重大实施：加入多workers以支援并发

Author: Mag1cFall

README.md

@@ -23,6 +23,7 @@
 ## 🚀 特性
 
 - **OpenAI 兼容 API**: 完全兼容 OpenAI 格式的 `/v1/chat/completions` 端点
+- **多 Worker 并发**: 支持多账号并发处理，提升吞吐量和稳定性
 - **TTS 语音生成**: 支持 Gemini 2.5 TTS 模型的单/多说话人音频生成
 - **图片生成**: 支持 Imagen 3 和 Gemini 2.5 Flash (Nano Banana) 图片生成
 - **视频生成**: 支持 Veo 2 视频生成，包含图片转视频功能
@@ -323,6 +324,8 @@ AIStudio2API/
 │   ├── tts/                     # TTS 语音生成模块
 │   ├── media/                   # 媒体生成模块 (Imagen/Veo/Nano)
 │   ├── proxy/                   # 流式代理
+│   ├── worker/                  # 多Worker管理模块
+│   ├── gateway.py               # 多Worker负载均衡网关
 │   └── static/                  # 静态资源
 ├── data/                        # 运行时数据目录
 │   ├── auth_profiles/           # 认证文件
@@ -379,6 +382,7 @@ cp .env.example .env
 - [环境变量配置](docs/environment-configuration.md)
 - [认证设置](docs/authentication-setup.md)
 - [API 使用指南](docs/api-usage.md)
+- [多Worker并发模式](docs/multi-worker-guide.md)
 - [故障排除](docs/troubleshooting.md)
 
 ## ⚠️ 重要提示
@@ -408,4 +412,4 @@ cp .env.example .env
 - **Go 语言重构**: 将核心代理服务迁移至 Go 以提升并发性能与降低资源占用
 - **CI/CD 流水线**: 建立 GitHub Actions 自动化测试与构建发布流程
 - **单元测试**: 增加核心模块（特别是浏览器自动化部分）的测试覆盖率
-- **负载均衡**: 支持多 Google 账号轮询池，以提高并发限额与稳定性 (这项或许不可能实现)
+- ✅ **多Worker负载均衡**: 支持多 Google 账号轮询池，提高并发限额与稳定性 (这项或许不可能实现) (fix:2025/12/09 这项已实现)

README_en.md

@@ -23,6 +23,7 @@
 ## 🚀 Features
 
 - **OpenAI Compatible API**: Fully compatible with OpenAI format `/v1/chat/completions` endpoint
+- **Multi-Worker Concurrency**: Supports multi-account concurrent processing for improved throughput and stability
 - **TTS Speech Generation**: Supports Gemini 2.5 TTS models for single/multi-speaker audio generation
 - **Image Generation**: Supports Imagen 3 and Gemini 2.5 Flash (Nano Banana) image generation
 - **Video Generation**: Supports Veo 2 video generation, including image-to-video
@@ -317,6 +318,8 @@ AIStudio2API/
 │   ├── tts/                     # TTS Speech Generation modules
 │   ├── media/                   # Media Generation modules (Imagen/Veo/Nano)
 │   ├── proxy/                   # Streaming proxy
+│   ├── worker/                  # Multi-Worker management module
+│   ├── gateway.py               # Multi-Worker load balancing gateway
 │   └── static/                  # Static resources
 ├── data/                        # Runtime data directory
 │   ├── auth_profiles/           # Authentication files
@@ -373,6 +376,7 @@ Supports accessing AI Studio through proxy:
 - [Environment Configuration](docs/environment-configuration.md)
 - [Authentication Setup](docs/authentication-setup.md)
 - [API Usage Guide](docs/api-usage.md)
+- [Multi-Worker Concurrency Mode](docs/multi-worker-guide.md)
 - [Troubleshooting](docs/troubleshooting.md)
 
 ## ⚠️ Important Notes
@@ -402,5 +406,5 @@ Issues and Pull Requests are welcome!
 - **Go Refactoring**: Migrate core proxy service to Go for improved concurrency and reduced resource usage
 - **CI/CD Pipeline**: Establish GitHub Actions automated testing and build release process
 - **Unit Testing**: Increase test coverage for core modules (especially browser automation)
-- **Load Balancing**: Support multi-Google account rotation pool for higher concurrency limits
+- ✅ **Multi-Worker Load Balancing**: Support multi-Google account rotation pool for higher concurrency limits
 

data/workers.json

@@ -0,0 +1,31 @@
+{
+  "workers": [
+    {
+      "id": "w1",
+      "profile": "auth_auto_1764657832.json",
+      "port": 3001,
+      "camoufox_port": 9222
+    },
+    {
+      "id": "w2",
+      "profile": "auth_auto_1764657915.json",
+      "port": 3002,
+      "camoufox_port": 9223
+    },
+    {
+      "id": "w3",
+      "profile": "auth_auto_1764658826.json",
+      "port": 3003,
+      "camoufox_port": 9224
+    },
+    {
+      "id": "w4",
+      "profile": "auth_auto_1765180693.json",
+      "port": 3004,
+      "camoufox_port": 9225
+    }
+  ],
+  "settings": {
+    "recovery_hours": 6.0
+  }
+}

docs/development-guide.md

@@ -73,12 +73,16 @@ AIStudio2API/
 │   │   ├── server.py           # 代理服务器
 │   │   ├── handler.py          # 请求处理器
 │   │   └── connection.py       # 连接/证书管理
+│   ├── worker/                 # 多Worker管理模块
+│   │   ├── models.py           # Worker数据模型
+│   │   └── pool.py             # Worker池管理
 │   ├── logger/                 # 日志工具
 │   │   └── config.py           # 日志配置
 │   ├── static/                 # 静态资源
 │   ├── app_launcher.py         # GUI 启动器
 │   ├── launch_camoufox.py      # 命令行启动器
 │   ├── manager.py              # WebUI 管理器
+│   ├── gateway.py              # 多Worker负载均衡网关
 │   └── server.py               # 主服务器
 ├── data/                       # 运行时数据目录
 │   ├── auth_profiles/          # 认证文件存储

docs/multi-worker-guide.md

@@ -0,0 +1,101 @@
+# 多 Worker 并发模式
+
+多 Worker 模式允许您使用多个 Google 账号同时处理 API 请求，显著提升系统吞吐量和稳定性。
+
+## 概述
+
+在多 Worker 模式下：
+- 每个 Worker 对应一个独立的 Google 账号（认证文件）
+- Gateway 网关自动将请求分发到可用的 Worker
+- 所有 Worker 共享同一个外部 API 端口（默认 2048）
+- 支持流式响应和完整的思考过程透传
+
+## 快速开始
+
+### 1. 添加多个认证文件
+
+首先需要为每个 Google 账号创建认证文件：
+
+1. 启动有头模式，完成第一个账号的登录认证
+2. 认证文件自动保存到 `data/auth_profiles/saved/` 目录
+3. 重复上述步骤为其他账号创建认证文件
+
+### 2. 配置 Workers
+
+1. 打开 Web 管理界面 `http://127.0.0.1:9000`
+2. 进入「认证文件」标签页（现在称为「Worker 管理」）
+3. 从已保存的认证文件列表中，点击「添加为 Worker」
+4. 确认 Worker 列表中显示所有要使用的账号
+5. **点击「保存配置」按钮**保存 Worker 池配置
+
+### 3. 启用 Worker 模式
+
+1. 在 Worker 管理页面，开启「Worker 模式」开关
+2. 点击「保存配置」
+3. 返回主页，点击「启动服务」
+
+### 4. 使用 API
+
+与单 Worker 模式完全相同，所有请求发送到同一端口：
+
+```bash
+curl -X POST http://localhost:2048/v1/chat/completions \
+  -H "Content-Type: application/json" \
+  -d '{
+    "model": "gemini-2.5-pro",
+    "messages": [{"role": "user", "content": "Hello!"}],
+    "stream": true
+  }'
+```
+
+## 架构说明
+
+```
+客户端请求
+    ↓
+Gateway (端口 2048)
+    ↓ 轮询分发
++----+----+----+----+
+| W1 | W2 | W3 | W4 |  (各自独立端口 3001, 3002, ...)
++----+----+----+----+
+    ↓
+Google AI Studio
+```
+
+## 配置文件
+
+Worker 配置保存在 `data/workers.json`：
+
+```json
+{
+  "workers": [
+    {"id": "w1", "profile": "account1.json", "port": 3001, "camoufox_port": 9223},
+    {"id": "w2", "profile": "account2.json", "port": 3002, "camoufox_port": 9224}
+  ],
+  "settings": {"recovery_hours": 6}
+}
+```
+
+## 日志过滤
+
+多 Worker 模式下日志量较大，可使用主页的日志过滤功能：
+
+- **来源筛选**: 选择 Gateway / Worker-w1 / Worker-w2 等单独查看
+
+## 注意事项
+
+1. **端口分配**: 每个 Worker 自动分配独立端口，避免冲突
+2. **流式代理端口**: Worker-w1 使用 3120，Worker-w2 使用 3121，以此类推
+3. **账号安全**: 确保每个账号的认证文件独立，不要共用
+4. **资源占用**: 每个 Worker 运行独立的浏览器实例，注意内存占用
+
+## 常见问题
+
+### Q: 为什么某些请求没有响应？
+检查目标 Worker 的日志，确认浏览器实例正常运行。
+
+### Q: 如何扩展更多 Worker？
+添加更多认证文件，然后在 Worker 管理中添加即可。重启服务生效。
+
+### Q: 认证文件过期怎么办？
+需要重新进入有头模式登录对应账号，更新认证文件。

src/browser/__init__.py

@@ -1,5 +1,5 @@
 from .initialization import _initialize_page_logic, _close_page_logic, signal_camoufox_shutdown
-from .operations import _handle_model_list_response, detect_and_extract_page_error, save_error_snapshot, get_response_via_edit_button, get_response_via_copy_button, _wait_for_response_completion, _get_final_response_content, get_raw_text_content
+from .operations import _handle_model_list_response, detect_and_extract_page_error, detect_rate_limit, save_error_snapshot, get_response_via_edit_button, get_response_via_copy_button, _wait_for_response_completion, _get_final_response_content, get_raw_text_content
 from .model_management import switch_ai_studio_model, load_excluded_models, _handle_initial_model_state_and_storage, _set_model_from_page_display, _verify_ui_state_settings, _force_ui_state_settings, _force_ui_state_with_retry, _verify_and_apply_ui_state
 from .script_manager import ScriptManager, script_manager
 __all__ = ['_initialize_page_logic', '_close_page_logic', 'signal_camoufox_shutdown', '_handle_model_list_response', 'detect_and_extract_page_error', 'save_error_snapshot', 'get_response_via_edit_button', 'get_response_via_copy_button', '_wait_for_response_completion', '_get_final_response_content', 'get_raw_text_content', 'switch_ai_studio_model', 'load_excluded_models', '_handle_initial_model_state_and_storage', '_set_model_from_page_display', '_verify_ui_state_settings', '_force_ui_state_settings', '_force_ui_state_with_retry', '_verify_and_apply_ui_state', 'ScriptManager', 'script_manager']

src/browser/operations.py

@@ -362,6 +362,20 @@ async def detect_and_extract_page_error(page: AsyncPage, req_id: str) -> Optiona
         logger.warning(f'[{req_id}]    检查页面错误时出错: {e}')
         return None
 
+async def detect_rate_limit(page: AsyncPage, req_id: str) -> tuple:
+    try:
+        locator = page.locator(RATE_LIMIT_CALLOUT_SELECTOR).last
+        if await locator.count() > 0:
+            text = await locator.text_content(timeout=500)
+            if text:
+                for kw in RATE_LIMIT_KEYWORDS:
+                    if kw in text.lower():
+                        logger.warning(f'[{req_id}] ⚠️ Rate Limit detected: {text.strip()}')
+                        return True, text.strip()
+    except:
+        pass
+    return False, ""
+
 async def save_error_snapshot(error_name: str='error'):
     import server
     name_parts = error_name.split('_')

src/config/selectors.py

@@ -43,3 +43,6 @@
 THINKING_LEVEL_OPTION_HIGH_SELECTOR = 'mat-option:has-text("High")'
 THINKING_LEVEL_OPTION_LOW_SELECTOR = 'mat-option:has-text("Low")'
 DEFAULT_THINKING_LEVEL = "high"
+
+RATE_LIMIT_CALLOUT_SELECTOR = 'ms-callout.error-callout .message, ms-callout.warning-callout .message'
+RATE_LIMIT_KEYWORDS = ["exceeded quota", "out of free generations"]