Problema difícil

Google se apresura a corregir las extrañas respuestas de búsqueda de IA

Solo si se obtienen los conceptos básicos correctos, la compañía podrá recuperar la confianza del usuario y mantener su ventaja competitiva

Google está en modo de control de daños después de que su nueva función de búsqueda de IA, AI Overviews, comenzara a generar respuestas sin sentido. Las redes sociales están inundadas de ejemplos de la herramienta que recomienda a los usuarios poner pegamento en la pizza o comer piedras.

Esta caótica situación se produce a pesar de que Google probó AI Overviews durante un año y atendió a más de mil millones de consultas. Sin embargo, los rápidos esfuerzos de la compañía para reducir costos, con el objetivo de reducir los costos de entrega en un 80%, parecen haber fracasado. Los expertos creen que esta prisa por la optimización podría haber comprometido la precisión de la tecnología.

Si bien Google sostiene que AI Overviews generalmente brinda información de alta calidad, reconocen la presencia de "consultas inusuales" y la posible manipulación de las respuestas. La compañía está eliminando activamente las salidas engañosas y trabajando en mejoras más amplias del sistema.

Los expertos en IA señalan los desafíos inherentes para lograr una precisión casi perfecta. Gary Marcus, un reconocido investigador en IA, argumenta que el 20% final para obtener resultados impecables requiere capacidades de razonamiento y verificación de hechos que van más allá de las limitaciones actuales de los modelos de lenguaje grande como Gemini de Google.

Este incidente pone de relieve la presión que enfrenta Google dentro del panorama de búsqueda competitivo. El impulso anterior de IA de Bing, el desarrollo rumoreado del motor de búsqueda de OpenAI, una startup de búsqueda de IA de mil millones de dólares en ascenso y la creciente popularidad de TikTok entre los usuarios más jóvenes son todos factores que se suman a la urgencia.

Google visualiza a AI Overviews como la piedra angular de una experiencia de búsqueda impulsada por IA mucho más grande, que incluye razonamiento multipaso, páginas de resultados seleccionadas por IA y búsqueda de video mejorada. Sin embargo, el mal funcionamiento actual ensombrece estos ambiciosos planes. La incapacidad de estos modelos para realizar autocomprobaciones de cordura es una vulnerabilidad crítica, según Marcus. Google necesita priorizar la precisión antes de revelar grandes ambiciones de IA.

Fuente: The Verge

Sigue a Gaceta Peru TV en

Google

News