La mayoría de los chatbots de inteligencia artificial más populares en la actualidad, como Claude, Gemini o ChatGPT, pueden utilizarse de forma gratuita. No obstante, te mantienen sujeto a límites de uso cada vez más restrictivos. A esto hay que añadirle que requieres una conexión permanente a internet para poder acceder a ellos. Sin embargo, hay una opción para desarrollar tu propio ChatGPT de código abierto, empleando los modelos oficiales de OpenAI, que puede ejecutarse de manera sencilla, sin costo ni necesidad de conexión, directamente desde tu PC o Mac.
Esto es factible gracias a GPT-OSS, los modelos de pesos abiertos que OpenAI lanzó el año pasado. Nos referimos a las primeras versiones abiertas que la compañía presentó desde GPT-2, y uno de los aspectos más destacados es que pueden ejecutarse en hardware comercial. Por lo tanto, no es necesario gastar miles de dólares para contar con un ChatGPT de código abierto.
Los modelos GPT-OSS están basados en GPT-4, por lo que no son las inteligencias artificiales más avanzadas de OpenAI. Aun así, son sumamente competentes y pueden realizar una amplia gama de tareas relacionadas con la programación, la escritura creativa, el análisis de imágenes y muchos otros ámbitos. La variante más pequeña incluso puede ejecutarse en equipos con solo 16 GB de memoria RAM, así que cualquier PC o Mac relativamente moderno es un buen punto de partida.
Pero si crees que ejecutar modelos de IA locales para obtener tu ChatGPT de código abierto es una tarea extremadamente compleja o reservada solo para programadores, estás equivocado. Lo único que necesitas para comenzar es una aplicación gratuita llamada LM Studio. A partir de ahí, puedes realizar los pasos restantes directamente desde ese software.
Crea tu propio ChatGPT de código abierto y local con GPT-OSS y LM Studio
LM Studio es un programa que te permite descargar y ejecutar una amplia variedad de modelos de inteligencia artificial en tu computadora. Puedes instalarlo de forma gratuita desde su sitio web oficial y cuenta con versiones tanto para Windows como para macOS y Linux. Una vez que tengas el software listo, puedes empezar a construir tu ChatGPT de código abierto.
Lo primero que debes hacer es ir a la sección Model Search, el último de los íconos en el borde izquierdo de la ventana. Allí solo tienes que buscar GPT-OSS, y verás en la parte superior de los resultados la versión oficial de OpenAI. En este caso, el catálogo ofrece acceso a la variante de 20 mil millones de parámetros, que es lo suficientemente eficiente para ejecutarse en computadoras con un mínimo de 16 GB de RAM.
Descarga el modelo de lenguaje y espera a que se complete el proceso. Una vez que la IA esté disponible, podrás cargarla en LM Studio para contar con tu propio ChatGPT de código abierto y ejecución local.
Para interactuar con el chatbot, solo debes iniciar un nuevo chat y seleccionar GPT-OSS en el selector de modelos. A partir de ahí, podrás usar la versión de código abierto de ChatGPT sin necesidad de una conexión a internet. Tampoco tienes que preocuparte por el consumo de tokens ni nada por el estilo.
En este caso, las limitaciones son las propias del hardware que utilizas y del modelo que has descargado. A diferencia del ChatGPT que OpenAI ofrece en sus aplicaciones o en la web, esta variante de código abierto y ejecución local no puede realizar búsquedas en internet y sus capacidades se limitan a las de GPT-4. Además, su base de conocimiento está actualizada hasta 2023, por lo que no tiene acceso a información más reciente.
Aun así, es una opción excelente para quienes están comenzando a experimentar con las IA locales. O para aquellos que desean crear un bot o asistente que se adapte a sus necesidades y posibilidades. Además, desde los ajustes de LM Studio puedes modificar cómo se utilizan los recursos de tu computadora. Por ejemplo, la cantidad de RAM que puede consumir o cuánto puede ocupar de la capacidad de tu CPU y GPU.