Desarrollador, sabemos que estás deseando crear apps con inteligencia artificial que impacten a tus usuarios, pero, crear desde 0 un modelo es largo y complejo y acceder a los existentes puede resultar costoso. Por ello, la IA de código abierto se convierte en una pieza clave y fundamental para el desarrollo y la democratización de esta tecnología.

La inteligencia artificial de código abierto, al ser accesible para todos, nos permite explorar, modificar y mejorar algoritmos y modelos de IA sin barreras económicas o técnicas, fomentando la innovación y el intercambio de conocimientos que, además, impulsa y acelera el avance de esta tecnología.

Para los desarrolladores hay múltiples ventajas a la hora de utilizar IA de código abierto, como por ejemplo:

• Acceso a bibliotecas y herramientas que permiten trabajar con tecnologías de vanguardia sin costes prohibitivos.
• Gran apoyo en forma de foros, tutoriales y documentación, facilitando el aprendizaje y la resolución de problemas.
• Enriquecimiento del portafolio del desarrollador, abriendo oportunidades profesionales al demostrar habilidades prácticas, así como su contribución a la comunidad global de la IA.

Gemma 2: modelo abierto para lanzarse a la IA

Gemma 2 es el nuevo integrante de la familia de modelos abiertos Gemma que ha sido desarrollado a partir de la misma investigación y tecnología que se utilizó en Gemini, la IA desarrollada por Google. Se trata de un modelo versátil que puede aplicarse a diversas tareas pudiendo ser ajustado para casos de uso específicos.

Esta nueva incorporación es un modelo de languaje de gran tamaño (o LLM, Large Language Model) de texto a texto solo con decodificador, abierto tanto para variantes previamente entrenadas como para variantes ajustadas para seguir instrucciones específicas, siendo ideal para una amplia variedad de tareas de generación de texto, como responder preguntas, resumir información y realizar razonamientos. Gracias a su tamaño, relativamente compacto y reducido, puede ser incorporado en entornos con recursos limitados, como un portátil, un PC de escritorio o una infraestructura de nube propia.

En resumen, y teniendo en cuenta sus múltiples capacidades y aplicaciones, Gemma 2 ofrece las siguientes ventajas:

• Modelo abierto que permite el uso comercial responsable, pudiendo ajustarlo e implementarlo en tus propios proyectos y aplicaciones.
• Alto rendimiento en comparación con otros modelos abiertos de tamaño similar.
• Compatible con una amplia variedad de herramientas y sistemas.

¿Cómo se ha entrenado el modelo?

Gemma 2 ha sido entrenado con la última generación de hardware de unidad de procesamiento tensorial (TPUv5p) con datos de una extensa variedad de fuentes, pudiendo manejar una amplia variedad de tareas y formatos de texto diferentes.

Estas fuentes están formadas por:

• Documentos web: ofreciendo al modelo una amplia variedad de estilos, temáticas y vocabulario.
• Código: aprendiendo la sintaxis y los patrones de los lenguajes de programación, permitiéndole generar código o comprender preguntas relacionadas con este.
• Matemáticas: conociendo el razonamiento lógico y la representación simbólica para abordar temas matemáticos.

Ética y seguridad del modelo

Para conseguir entrenar correctamente al modelo y que este cumpla unos requisitos éticos y de seguridad, se ha trabajado la responsabilidad desde el diseño aplicando métodos clave de limpieza y filtrado de datos usados en el mantenimiento.

Con ello se busca garantizar la exclusión de contenido ilegal y dañino, que no se utilicen datos sensibles, asegurando la seguridad y confiabilidad del modelo, y filtrando además el contenido, teniendo en cuenta la calidad y seguridad del mismo según sus propios estándares internos.

Tras esto, se evaluó el modelo en función de una serie de categorías:

• Seguridad del contenido texto a texto: evaluación humana de instrucciones sobre políticas de seguridad.
• Perjuicios representacionales de texto a texto: comparaciones con conjuntos de datos académicos relevantes.
• Memorización: evaluación automatizada de la memorización de los datos de entrenamiento, incluyendo el riesgo de exposición de información de identificación personal.
• Daños a gran escala: pruebas de capacidades peligrosas.

¿En qué puedo usar este modelo?

Estamos seguros, desarrollador, de que se te ocurren múltiples ideas para utilizar este modelo. Por nuestra parte, aquí te dejamos algunas ideas para comenzar:

• App de IA conversacional y chatbot: potencia la atención al cliente con un asistente de IA adaptado y entrenado para tus necesidades.
• App aprendizaje: utiliza la IA para crear una app de aprendizaje, ya sea de geografía o de idiomas. Será como tener un profesor entrenado en tu dispositivo.
• App amigo virtual: crea un amigo virtual que acompañe y ayude a los usuarios en sus tareas diarias.

Imagines lo que imagines, puedes crearlo. Tan sólo debes tener en cuenta los siguientes puntos a la hora de comenzar a trabajar en tus proyectos:

• Datos de entrenamiento: su calidad y diversidad influyen en la capacidad del momento. Las brechas o sesgos en estos datos pueden limitarlo.
• Contexto y complejidad de la tarea: recuerda que los LLM funcionan mejor con instrucciones claras y con una cantidad de contexto suficiente.
• Ambigüedad y matices: el modelo puede tener problemas para captar matices sutiles, sarcasmo o lenguaje figurado.
• Precisión: genera respuestas en función de la información que obtuvieron de sus conjuntos de datos de entrenamiento, por lo que pueden generar declaraciones erróneas o desactualizadas.

Pero si aún no quieres lanzarte a crear, también puedes utilizar este modelo a través de Google AI Studio para resolver dudas de código, ya que Gemma 2 ha sido entrenado y puede realizar una amplia variedad de tareas de programación como completar código, generar código o detectar errores.

¿Cómo comienzo a usar Gemma 2?

Anteriormente te hemos hablado de Gemini, el modelo de IA de Google. Pues bien, Gemma 2 está basado en este, pero es más compacto y eficiente haciendo que funcione en ordenadores con menor potencia de cálculo, por lo que puedes utilizarlo en tus proyectos sin problema.

Comenzar a utilizar este modelo en tus aplicaciones es muy sencillo, teniendo en tus manos dos opciones: utilizarlo directamente en tu aplicación o ajustarlo para una tarea específica y luego implementarlo en tu app.

Pero, antes de comenzar deberás elegir entre dos modelos, según tus necesidades y herramientas disponibles:

• Gemma 2 (2B) – 2.000 millones: el más liviano, para dispositivos móviles y ordenadores portátiles.
• Gemma 2 (9B) - 9.000 millones: para ordenadores más potentes y servidores.
• Gemma 2 (27B) – 27.000 millones: para servidores o clústeres de servidores de gran tamaño.

Una vez elegido el modelo, si quieres ajustarlo a tus necesidades, necesitarás un conjunto de datos de entradas y respuestas esperadas de tamaño y variación suficiente para guiar el comportamiento del modelo, siendo necesario más recursos de procesamiento y memoria para completar la tarea. Todo esto deberás hacerlo con Phyton usando uno de sus notebooks: Keras y LoRA, JAX o entrenamiento distribuido.

Pero antes de lanzarte, te aconsejamos que pruebes el modelo directamente desde Google AI Studio. Para ello:

1. Abre AI Studio.
2. En el panel Run settings del lado derecho, en el campo Model, selecciona un modelo Gemma 2.
3. En la parte inferior del panel central, escribe una instrucción y selecciona Ejecutar.

Con esto, ya tienes la información suficiente para comenzar a probar este modelo de IA abierto y pensar en todas las posibilidades que se abren frente a ti. Pierde el miedo a la inteligencia artificial y comienza a crear apps con esta nueva tecnología que te permita atraer y fidelizar a los usuarios.

Samsung Dev Spain es la comunidad oficial de Samsung para desarrolladores españoles. Si te das de alta, puedes conseguir entrar en nuestro programa de préstamos -y conseguir dispositivos para desarrollar apps para nuestro ecosistema-, acceder a material gratuito como la Guía de optimización de apps para foldables, participar en promociones como dispositivos por apps o acudir gratis a eventos formativos como Samsung Dev Day o disfrutar de ventajas exclusivas en Samsung PLUS.