Stanford retira el chatbot IA «Alpaca» porque sufría «alucinaciones»

La tecnología avanza a pasos agigantados y cada vez tenemos procesadores y gráficas más potentes. Pero eso es solo una parte de nuestro avance, pues en materia de IA vamos desarrollando unas herramientas capaces de hacer hasta el trabajo por nosotros. Ya hemos conocido el éxito de ChatGPT y como otras empresas han querido seguir sus pasos. Entre estas tenemos a Alpaca, un chatbot desarrollado basado en la IA LLaMA de Meta, el cual acaba de ser retirado por la Universidad de Stanford porque sufría alucinaciones.

ChatGPT se ha convertido en un tal éxito que en cuestión de meses todos hablan de él. Este chatbot IA ha demostrado cumplir con creces su función de respondernos cualquier pregunta. Además, lo hace con gran velocidad y con respuestas muy elaboradas. Desde el momento en el que Microsoft empezó a probar con su integración en Bing, ya vimos que dejaba a la búsqueda de Google a un nivel muy inferior. Recientemente, hemos visto como Google ha lanzado su IA Bard, para competir directamente contra ChatGPT.

Stanford crea el chatbot IA Alpaca y lo retira tras ver su comportamiento

Google Bard no es el único chatbot IA que quiere enfrentarse a ChatGPT, pues Meta ya anunció su IA LLaMA hace unas semanas. Fue a finales de febrero cuando se dio a conocer y resultaba ser un modelo lingüístico de gran tamaño y estaría disponible para trabajos de investigación con licencia no comercial. Esto lo hacía perfecto para poder usarlo en universidades, ONG o empresas. Meta aseguraba que obtendría mejores resultados que el modelo de lenguaje GPT-3, el cual ya hemos visto siendo empleado en IA como ChatGPT.

Esto llamó la atención de universidades como Stanford, los cuales crearon su propia versión de un chatbot basado en la IA LLaMA de Meta, al que apodaron Alpaca. Por desgracia no podemos hablar de cosas positivas sobre Alpaca, ya que Stanford tuvo que retirarlo al poco tiempo, ya que sufría "alucinaciones". Con este término hacen referencia a que el chatbot IA Alpaca se ponía a escribir información falsa como si fuera real.

Alpaca costó 600 dólares de desarrollar y ya está en GitHub

Además del problema con la divulgación de falsa información, esta IA aumentaba los costes de alojamiento y aseguran que no tenían forma de controlarla. Según la universidad, el chatbot Alpaca tenía bastantes deficiencias a la hora de comunicarse. Esto incluye hablar utilizando estereotipos y toxicidad en las respuestas. Stanford considera que si mantenían al chatbot IA Alpaca, este tendría riesgos a largo plazo, pues este acabaría difundiendo información falsa y generando desinformación.

Si bien es cierto que la han eliminado de la web de Stanford, los usuarios han podido recuperar a Alpaca y la han alojado en GitHub. Al darse a conocer esto, Stanford anima a los usuarios a que experimenten y den a conocer sus fallos. Alpaca es realmente un modelo relativamente pequeño desarrollado con 7.000 millones de parámetros (Alpaca 7B) y entrenado con 52.000 instrucciones.

Este ha costado de desarrollar unos 600 dólares, nada que ver con los 3.000 millones de dólares que invirtió Microsoft para crear su propia IA a partir de ChatGPT y cientos de miles de millones de parámetros. Curiosamente, desde que está en GitHub, Alpaca ya se ha implementado en Raspberry Pi y en smartphones Google Pixel para experimentar con ellos.