La competencia en el mundo de la inteligencia artificial sigue en aumento, y Meta Platforms no se queda atrás. La compañía matriz de Facebook ha presentado su nuevo modelo de lenguaje generativo, LIMA (Less Is More for Alignment), que promete competir con los modelos de OpenAI (ChatGPT) y Google (Bard).
El modelo de inteligencia artificial LIMA se basa en el anunciado modelo LLaMA (Large Language Model Meta AI), que fue entrenado con más de 65 mil millones de parámetros. En comparación, ChatGPT en su tercera versión tiene más de 175 millones de parámetros estructurados en su base de datos; aunque no ha sido revelado, pero se estima que la cuarta versión tiene hasta 1 billón (millón de millones) de parámetros.
LEE TAMBIÉN: Google Bard vs ChatGPT: ¿Cuáles son sus principales diferencias?
¿Qué características tiene LIMA?
Según la investigación prepublicada por Chunting Zhou, científica de investigación de Meta AI, LIMA demuestra “un rendimiento notablemente sólido” y el modelo tiende a presentar –en general– resultados adecuados incluso cuando no cuenta con los datos en su entrenamiento.
En un estudio humano controlado, sin usuarios, las respuestas de LIMA son iguales o estrictamente preferidas en el 43% de los casos en relación a GPT-4. Esta estadística llega al 58% en comparación con Bard, y al 65% en comparación con DaVinci003, que se entrenó con la retroalimentación humana. También fue comparado con otros modelos como Alpaca 65B y Claude.
“Probar un chatbot sin usuarios reales es difícil y ruidoso. Creamos indicaciones de prueba a partir de una distribución ligeramente diferente y evaluamos qué tan bien las responde LIMA. Si bien no sorprende que GPT-4 sea mejor en general, es bastante sorprendente la frecuencia con la que LIMA está a la par o tiene respuestas preferibles (frente al resto)”, señaló Chunting Zhou en Twitter.
How do you turn a language model into a chatbot without any user interactions?
— Chunting Zhou (@violet_zct) May 22, 2023
We introduce LIMA: a LLaMa-based model fine-tuned on only 1,000 curated prompts and responses, which produces shockingly good responses.
* No user data
* No mode distillation
* No RLHF pic.twitter.com/TssOVLv959
LEE TAMBIÉN: Inteligencia Artificial reemplazaría trabajos ocupados mayormente por mujeres
Un modelo a prueba
Aún así, la investigadora recuerda que LIMA sigue siendo un modelo a prueba debido a que también ha revelado algunas fallas, por ejemplo, en matemáticas. También ha demostrado potencial ante indicaciones nuevas.
Entre las fuentes de entrenamiento está WikiHow, autores de papers, webs comunitarias de preguntas y respuestas, así como otros recursos. El modelo de inteligencia artificial LIMA fue probado con parámetros relacionados a todo tipo de temas, desde preguntas sobre recetas, recomendaciones de la vida diaria o incluso hechos que ponen a prueba la ética.
Además, LIMA no solo ha sido entrenada por el equipo de Meta AI, también por investigadores de la Universidad de Carnegie Mellon, la Universidad del Sur de California y la Universidad de Tel Aviv. Solo es cuestión de tiempo para su lanzamiento oficial, que podría incluirse dentro de las aplicaciones de la compañía, como Facebook, Instagram y WhatsApp.
