Chrome está ocultando un chatbot de IA local gratuito en tu computadora, y aquí te mostramos cómo usarlo.

Google Chrome tiene un modelo Gemini Nano integrado en tu computadora, y la mayoría de las personas no tienen idea de que está allí. Un desarrollador llamado Arnav Gupta demostró recientemente que es posible exponer la inteligencia artificial en el dispositivo de Chrome a través de su API de Prompt integrada y servirla como un punto final de chat local compatible con OpenAI. Sin clave de API, sin llamadas a la nube, sin necesidad de Ollama.

Chrome viene con un modelo Gemini Nano 4B con una ventana de contexto de 9,216 tokens. Funciona completamente en tu dispositivo, lo que significa que tus conversaciones no salen de tu máquina.

Lo probé yo mismo en un MacBook Air M2, y las cosas no salieron exactamente como estaba planeado. El modelo Gemma funcionó bien, pero cuando seguí los pasos para habilitar específicamente Gemini Nano, Chrome lanzó un error diciendo que el dispositivo no cumplía con los requisitos de hardware. Puedes ver eso en la captura de pantalla a continuación.

chrome-local-ai-chat-gemini-nano

Gemini Nano a través de la API de Prompt de Chrome parece necesitar hardware más capaz, y ni siquiera un Mac M2 cumple con ese estándar. Sin embargo, si tu máquina cumple con los requisitos, funciona prácticamente como cualquier otro chatbot de IA local que podrías ejecutar en tu máquina.

Escribes un mensaje, responde, y todo funciona dentro de tu navegador en localhost. Aquí tienes una captura de pantalla de la interfaz de chat con el modelo Gemma que funcionó para mí a continuación:

Así es como puedes usarlo en tu máquina

Nota: Antes de continuar, quiero destacar que el modelo de IA predeterminado que se descargó en mis pruebas fue Gemma antes de habilitar específicamente Gemini Nano.

chrome-local-ai-chat-gemma-model

Por lo tanto, incluso si deseas un modelo más pequeño, puedes omitir los pasos para habilitar Gemini Nano. Simplemente ingresa a la interfaz de chat y deja que el modelo predeterminado Gemma se descargue y ejecute. Ahora, sumergámonos en los pasos:

  1. Asegúrate de estar en una versión reciente de Chrome para escritorio.
  2. Abre una nueva pestaña y ve a chrome://flags. Busca “API de Prompt para Gemini Nano” y habilítalo. También habilita “Optimización Guía en el Modelo del Dispositivo”. Reinicia Chrome.
  3. Después de reiniciar, ve a chrome://components y encuentra “Optimización Guía en el Modelo del Dispositivo”. Haz clic en “Comprobar actualización” para activar la descarga del modelo.
  4. Clona el repositorio de GitHub utilizando el comando git clone https://github.com/Ar9av/gemini-nano-chrome.git, luego pega cd gemini-nano-chrome en la terminal, seguido de npm start.
  5. Abre tu navegador y ve a localhost:8123/index.html.

La descarga del modelo puede tardar un poco dependiendo de tu conexión, y la interfaz muestra una barra de progreso con el porcentaje a medida que se descarga, como en la captura de pantalla a continuación.

gemini-nano-chat-chrome-local-downloading-model

Una vez que llegue al 100%, el estado cambia a “listo” y puedes comenzar a chatear. Si obtienes el error de requisitos de hardware como yo, probablemente significa que tu máquina no tiene la capacidad de GPU que Gemini Nano necesita para funcionar. Inténtalo de todos modos y ve qué dice Chrome. Solo ten en cuenta que tus resultados pueden variar dependiendo de la configuración de tu hardware.

Nos destacamos entre la multitud de medios tecnológicos porque rompemos noticias; principalmente te traemos cosas que no encontrarás en los medios tecnológicos convencionales. Nuestras historias han sido recogidas por algunos de los sitios web y medios de comunicación más populares del mundo; más información está disponible aquí.

Preguntas Frecuentes

¿Qué es Gemini Nano?
Gemini Nano es un modelo de inteligencia artificial integrado en Google Chrome que permite la interacción a través de una API local.
¿Necesito una clave de API para usar Gemini Nano?
No, no necesitas una clave de API ni realizar llamadas a la nube para usar Gemini Nano.
¿Qué tipo de hardware necesito para utilizar Gemini Nano?
Se necesita un hardware capaz, y algunas máquinas, como el Mac M2, pueden no cumplir con los requisitos necesarios.
¿Cómo puedo habilitar Gemini Nano en mi Chrome?
Debes ir a chrome://flags, buscar «API de Prompt para Gemini Nano» y habilitarlo, además de

Share This

What's your reaction?
0Smile0Lol0Wow0Love0Sad0Angry

Leave a comment