feday2025-Chrome Built-in AI：装在浏览器里的智能引擎.pdf

1、装在浏览器的智能引擎 FEDAY 2025 沙钱俊颖(寨可是Jax)前端架构师WebGDE沙GDG组织者关于我什么是浏览器内置AI？02为何要它？怎样好它？03它能来做什么？04它的实战表现如何？录概念解读价值&最佳实践能&应场景应案例拆解01Server-sideAINative按部署位置分类Client-sideAIWebAIBuilt-in AISelf-hostedAIWebAILLMsExpertModels内置运时Self-hostedAILLMs定义运时：Transformers.js/WebLLM/.Built-inAIMLModelsWebAI分类CPUAIRuntimeGP

2、UNPU/TPUExpertModelsLLMsWebAppsBrowserExtensionsJavaScriptAPIsBrowserBuilt-inAI?GeminiNanoPhi-4-mini桌端浏览器持情况浏览器要求操作系统要求设备要求MacOS13+Windows10+Linux最新版ChromeCanary最佳，开发版、正式版亦可桌端yes移动端no（DetectorAPI除iOS外全持）CPU:4核+16GB内存磁盘空间：22GBGPU：4GBVRAMChrome内置模型的运要求什么是浏览器内置AI？02为何要它？怎样好它？03它能来做什么？04它的实战表现如何？录概念解读价值

3、&最佳实践能&应场景应案例拆解0188%12%0%25%58.33%16.67%0%16.67%81.82%云端-本地混合纯云端纯本地https:/arxiv.org/pdf/2401.05459部署策略满意度Llama17BChatGLM6BMPT7B20232024Llama27BBaichuan7BQwen17BQwenVL9.6BLLaVA1.56.7BGeminiNano1.8BLLaVA1.013BYiVL6BPhi3vision4.2BMiniCPMV2.02.8BFalcon7BChatGLM6BPhi11.3BPhi1.51.3BBaichuan27BMistral7.3BC

4、hatGLM36BQwen11.8BYi6BPhi22.7BMistral8x7BMiniCPM2BOLMo1B、7BGemma12B、8BOctopusV20.5B、2BLlama38BPhi3mini3.8BPhi3small7BOpenELM1.1BFalcon211BYi1.56BOcto-planner3BGLM49BDCLM0.46.9BSmolLM135M1.7BInternLM2.57BInternLM27BMapNeo7BQwen1.50.57BOctopusV31BFalcon2VLM11BGLM4V9BLLaVANeXT7BGeminiNano3.25Bhttps:/ar

5、xiv.org/pdf/2409.00088端侧模型发布时间线Qwen20.57BGemma29BLlama3V2.58B减少模型冗余管理简单开发体验舒适免安装跨平台形态灵活私密安全低延迟低成本Built-inAIWebAIClient-sideAI优势字塔设备的局限算能耗模型的局限上下多模态局限性Hybrid模式：端云协同什么是浏览器内置AI？02为何要它？怎样好它？03它能来做什么？04它的实战表现如何？录概念解读价值&最佳实践能&应场景应案例拆解01EXPERIMENTALPromptAPILanguageDetectorAPITranslatorAPIWriterAPIRewriter

6、APIProofreaderAPISummarizerAPIhttps:/ icon 打开或关闭侧边栏 chrome.sidePanel.setPanelBehavior(openPanelOnActionClick:true )background.js代码拆解1.1：启动侧边栏输 输出 side-panel/index.htmlside-panel/index.jsconst inputArea=document.getElementById(input-area);const outputArea=document.getElementById(output-area);代码拆解1.2：