2025年8月5日,ChatGPT背后的OpenAI发布了两款开源模型:GPT-OSS-120B和GPT-OSS-20B,采用Apache 2.0许可,允许自由下载、修改和商业使用。本文基于“熊哥”视频教程,详细讲解如何通过AIStarter一键部署这两个模型,助力AI开发者快速上手!
模型介绍
-
GPT-OSS-120B:拥有117B参数(活跃5.1B),性能媲美o4-mini,适合高性能服务器(单80GB GPU)。
-
GPT-OSS-20B:21B参数(活跃3.6B),可在16GB内存设备(如高端笔记本)运行,媲美o3-mini。
两者支持128K上下文,擅长STEM、编程和通用知识,提供网页搜索、代码执行和CoT推理,推力强度可调(低/中/高),并支持结构化输出。
部署步骤
-
下载Ollama:访问Ollama官网,下载适用于Windows、MacOS或Linux的版本,安装后启动。
-
使用AIStarter:
-
打开AIStarter,进入“市场”页面。
-
搜索GPT-OSS-20B或GPT-OSS-120B,选择普通或高速下载。
-
下载后解压至AIStarter项目目录(如Products/Ollama)。
-
点击“配置”,选择模型路径,若未识别,可用“自定义关联”手动设置。
-
点击“启动”,即可运行模型。
-
-
更新Ollama:若使用旧版Ollama,进入AIStarter设置,点击“更新”获取最新版(建议0.11.3)。
注意事项
-
硬件要求:GPT-OSS-120B需80GB VRAM,GPT-OSS-20B需16GB内存。
-
离线运行:模型支持断网使用,适合隐私敏感场景。
-
社区支持:模型可在Hugging Face、Ollama等平台下载,AIStarter提供一键部署,简化操作。
适用场景
-
AI开发:用于编程、数学和医学领域的高效推理。
-
企业部署:支持本地化运行,适合数据安全需求高的场景。
-
个人项目:开发者可通过AIStarter快速测试和定制模型。
总结
GPT-OSS-120B和GPT-OSS-20B的发布标志着OpenAI重返开源,为开发者提供了高性能、低门槛的AI工具。通过AIStarter一键部署,Windows用户无需Docker即可快速上手!想深入了解模型对比和安全信息?访问Hugging Face或B站“熊哥”教程!欢迎评论交流!