Cuando el motor de respuestas dijo que comieras piedras
Actualizado estructuralmente para los motores de respuesta actuales; análisis original conservado tal cual.
En mayo de 2024, días después de que Google pusiera los AI Overviews frente a quienes buscaban en EE.UU., les decía que añadieran pegamento a la salsa de la pizza y comieran una piedra pequeña al día. Internet se rió, pero el momento importa: es cuando el público vio, con claridad, que una IA puede equivocarse con confianza y fluidez.
la respuesta corta
En mayo de 2024, los AI Overviews de Google aconsejaron pegamento en la pizza y comer piedras, tomando un chiste sarcástico de Reddit y un artículo satírico como hechos. La lección es que alucinar es la naturaleza de los sistemas que generan texto plausible, no un bug a parchear, y que un tono confiado no es corrección. No puedes controlar lo que la IA dice de tu categoría, pero la calidad de las fuentes sobre tu tema mueve si acierta.
claves
- En mayo de 2024, los AI Overviews de Google le dijeron a la gente que pusiera pegamento no tóxico en la pizza y comiera una piedra pequeña al día: el momento en que el público vio a la IA inventar con total confianza.
- Los errores vinieron de que la IA tomó fuentes sarcásticas y satíricas como factuales: el consejo del pegamento venía de un chiste de Reddit de hace 11 años; el de la piedra, de un artículo de The Onion.
- Alucinar no es un fallo raro sino la naturaleza de un sistema que genera texto plausible en vez de recuperar verdad verificada: un tono confiado no significa una respuesta correcta.
- Google añadió salvaguardas y los peores casos se volvieron más raros, pero la fiabilidad es un riesgo permanente a gestionar, no un problema cerrado por ti.
- No puedes controlar lo que la IA dice de tu categoría, pero la claridad y calidad de las fuentes sobre tu tema mueven si acierta o rellena el hueco con disparates.
lo que produce el entorno de fuentes
Es el mismo modelo en ambas filas. Lo que difiere es con qué tuvo que trabajar. Dado material escaso o sarcástico, rellena el hueco e inventa con confianza; dadas fuentes claras y creíbles, tiene algo sólido sobre lo que fundamentar la respuesta. No editas el motor: cambias en qué fila se sienta tu categoría.
Por qué esto cambia cómo sopesas la visibilidad en IA
El episodio del pegamento en la pizza es fácil de archivar como comedia, pero para cualquiera que piense en la IA y su marca carga un mensaje más agudo. El mismo sistema que puede ser el lugar donde los compradores te descubren es un sistema que puede enunciar falsedades sobre tu categoría sin pestañear. Ambas cosas son ciertas a la vez, y un enfoque serio las sostiene juntas en vez de elegir la conveniente. Significa no sobreprometer —ningún practicante honesto puede garantizar lo que una IA dirá de ti— y significa tampoco retirarse, porque la ausencia no hace que el riesgo desaparezca; solo quita tu relato correcto del conjunto del que el modelo se nutre. La postura madura trata la visibilidad en IA como valiosa e imperfecta: vale perseguirla porque el modelo responderá sobre ti de todos modos, imperfecta porque la respuesta puede estar equivocada por bien que te prepares.
También reencuadra qué te compra el «buen contenido». El valor no es una garantía de exactitud, que nadie puede ofrecer; es un cambio en las probabilidades. Una categoría donde las fuentes más claras y creíbles enuncian los hechos con sencillez es una categoría donde el modelo tiene el menor espacio para improvisar algo equivocado. Eso es una cobertura probabilística, y nombrarla como tal es parte de ser confiable sobre el trabajo. Los proveedores que prometen «controlar» lo que la IA dice, o garantizar exactitud, venden una certeza que la tecnología no sostiene. La oferta honesta es más estrecha y más durable: ayudar a volver la verdad sobre tu campo lo más disponible y mejor estructurado que una IA pueda hallar, bajar la probabilidad de error confiado, y tratar la fiabilidad como un riesgo que gestionas de continuo en vez de una casilla que marcas una vez.
La lección, en tres partes
Por qué la invención confiada es la naturaleza del sistema, por qué las fuentes pobres lo empeoran, y qué puede hacer de verdad una marca al respecto. Abre cada capa para la parte que cambia cómo piensas en la IA como fuente.
01 Por qué alucinar es lo normal, no el fallo
El instinto, viendo a una IA sugerir pegamento en la pizza, es llamarlo un bug —un defecto en una máquina que por lo demás dice la verdad—. Eso lo invierte. Un modelo generativo no almacena hechos y los consulta; produce texto que es estadísticamente probable dadas sus entradas. La mayoría de las veces, lo plausible y lo verdadero coinciden, y la salida es correcta. Pero el modelo no tiene sentido interno de cuál es cuál: una falsedad confiada se genera por exactamente el mismo proceso que una verdad confiada, con el mismo tono fluido y seguro. Por eso las respuestas equivocadas no fueron vacilantes ni matizadas: se entregaron con la misma autoridad que todo lo demás. La lección que el público absorbió en mayo de 2024 vale guardarla: la confianza de una respuesta de IA no carga información sobre su corrección. Alucinar no es que el sistema falle en funcionar; es el sistema funcionando como está diseñado, sobre una entrada donde lo plausible y lo verdadero resultaron separarse.
02 Por qué las fuentes pobres lo empeoran
Los fallos específicos fueron reveladores por de dónde venían. El consejo del pegamento en la pizza se remontaba a un comentario sarcástico de Reddit de más de una década antes; la sugerencia de comer una piedra venía de la sátira publicada por The Onion. El modelo no funcionaba mal al azar: hacía lo posible por responder preguntas donde el material disponible era un chiste, y no podía distinguir el chiste del consejo sincero. Eso apunta a un patrón real: un motor generativo es más peligroso donde las fuentes genuinas sobre un tema son escasas, de baja calidad, o difíciles de distinguir del sarcasmo, porque igual producirá una respuesta confiada, ensamblada con lo que haya. La propia Google, explicando el episodio, señaló contenido de foros interpretado sin su contexto. La implicación para cualquier tema es directa: donde las fuentes buenas, claras e inequívocas escasean, el modelo no tiene nada sólido donde pararse, y las probabilidades de una invención confiada suben. La calidad del entorno de fuentes no es un asunto lateral; es la variable principal.
03 Qué puede hacer de verdad una marca
La respuesta honesta es estrecha pero real: no puedes controlar el modelo, pero puedes mejorar con qué tiene que trabajar. Para tu propia categoría, eso significa ser una fuente clara, correcta y bien estructurada —enunciar los hechos sobre tu campo con sencillez, para que cuando el modelo ensamble una respuesta, lo más fácil y mejor sustentado de decir sea lo correcto—. También significa resistir la tentación de tratar esto como resuelto cuando una plataforma anuncia salvaguardas; esas reducen la tasa de fallos obvios sin cambiar el comportamiento subyacente, así que el trabajo de ser una fuente fiable es continuo, no de una sola vez. Nada de esto garantiza una respuesta correcta en una consulta dada —la generación es probabilística, y una cobertura no es una promesa—. Pero mover un tema de «las únicas fuentes disponibles son escasas y sarcásticas» a «la voz más clara y creíble lo dice con sencillez» baja de forma medible la probabilidad de que el modelo improvise algo equivocado. Esa es la meta realista: no control, sino volver la verdad lo más disponible que se pueda hallar, que es la disciplina que el AC Group ha practicado por 27 años.
Leer con escepticismo lo que la IA dice de tu categoría
Un hábito práctico se sigue directamente de todo esto: revisa qué dicen hoy los modelos sobre tu campo, y léelo como leerías a un desconocido confiado y no a un oráculo. Hazle las mismas preguntas que haría un prospecto —qué haces, cómo comparas, si una afirmación sobre tu categoría es cierta— y mira no solo si la respuesta es halagadora sino si es correcta. Donde esté equivocada, pregunta por qué: ¿se nutre de un hilo sarcástico, de una página desactualizada, del encuadre de un competidor, o simplemente de un hueco donde no existe una fuente clara? Los errores son diagnósticos. Una respuesta confiada y equivocada sobre tu categoría suele estar señalando un lugar donde la fuente creíble e inequívoca que el modelo necesitaba no estaba ahí para que la hallara.
Eso convierte el riesgo en una lista de tareas. Donde el modelo inventa porque las fuentes son escasas, la respuesta es publicar la versión clara y correcta que faltaba. Donde se apoya en algo sarcástico o desactualizado, la respuesta es volver el relato exacto más prominente y actual que el malo. Donde simplemente se equivoca de forma sutil sobre tu categoría, la respuesta es enunciar la versión correcta con la sencillez suficiente para que se vuelva lo más fácil de ensamblar. Nada de esto es un arreglo de una sola vez, porque el modelo y sus fuentes siguen moviéndose, así que la cadencia sensata es revisar de forma periódica. Trata la respuesta de la IA como una lectura en vivo de qué tan bien está representada la verdad sobre ti allá afuera, y trata cada error confiado como un hueco específico y reparable más que como un veredicto al que estás atado.
Una pregunta que separa al honesto del que sobrevende
Si te llevas una cosa práctica del episodio del pegamento en la pizza para cómo eliges con quién trabajar, que sea esta pregunta: ¿pueden garantizar lo que la IA dirá de nosotros? Quien responda que sí o malentiende la tecnología o espera que tú lo hagas. Ningún ajuste, markup o relación con una plataforma le permite a un proveedor prometer una salida concreta de un sistema que genera de forma probabilística y puede equivocarse con confianza incluso con buenas entradas. La respuesta honesta es la menos cómoda: no, no podemos garantizarlo, pero podemos mejorar de forma medible las probabilidades volviendo la información más clara y creíble sobre ti lo más fácil de hallar para el modelo.
Esa distinción no es pedantería; es la ética de hacer esto con responsabilidad. Un proveedor que promete control, en el mejor caso, se atribuirá el mérito de respuestas que iban a salir bien igual y callará si el modelo dice algo raro. Un proveedor que es claro en que el trabajo es influencia sobre las entradas y gestión de un riesgo permanente es uno cuyas afirmaciones puedes creer, porque coinciden con cómo se comportan los sistemas. El episodio que le enseñó al público que la IA puede equivocarse con confianza debería también enseñarles a los compradores a desconfiar de quien afirme haberla domado, y a valorar al socio que trata la fiabilidad como algo en lo que seguir trabajando en vez de algo ya resuelto.
Fiabilidad de la IA: respuestas rápidas
¿Puedo evitar que la IA diga cosas equivocadas sobre mi categoría?
No directamente, y quien te prometa control está sobrevendiendo, pero tampoco estás indefenso, y la distinción importa. No puedes meterte en un modelo y editar lo que dice, ni garantizar una respuesta concreta. Lo que sí puedes influir es de qué tiene que nutrirse. Un motor generativo construye su respuesta a partir de las fuentes disponibles sobre un tema, y cuando esas fuentes son escasas, contradictorias, o están salpicadas de chistes y sarcasmo, rellena el hueco con lo que suene plausible, que es exactamente cómo un chiste de Reddit de hace una década se volvió consejo culinario. Así que la palanca es el entorno de fuentes alrededor de tu categoría: información clara, correcta y bien estructurada publicada por fuentes creíbles, incluido tú, le da al modelo terreno sólido donde pararse en vez de adivinanza desde la que improvisar. Es influencia sobre las entradas, no control sobre las salidas. Es menos de lo que quisieras, pero es real, y es la única versión honesta de gestionar este riesgo.
¿No es solo un bug temporal que Google va a arreglar?
Google sí añadió salvaguardas tras el episodio de mayo de 2024, y los resultados más absurdos se volvieron más raros, pero tratar la alucinación como un bug puntual malinterpreta lo que es. Las respuestas extrañas no fueron un fallo en una máquina por lo demás veraz; fueron el borde visible de cómo funcionan normalmente estos sistemas. Un modelo generativo produce texto que es estadísticamente plausible dadas sus entradas, no texto que ha verificado como verdadero, así que una respuesta confiada y equivocada es el mismo tipo de salida que una confiada y correcta: el modelo no puede distinguirlas desde dentro. Los parches pueden reducir la tasa y atrapar los fallos más obvios, y lo han hecho. Pero la propiedad subyacente —generación fluida y confiada que puede estar equivocada— no se "arregla", porque no es un defecto atornillado al sistema; es el sistema. La postura responsable es tratar la fiabilidad como un riesgo permanente a gestionar, no como un problema que otro ha cerrado por ti.
¿El buen contenido garantiza que la IA acierte?
No, y es importante ser honestos sobre eso en vez de vender certeza. Incluso con fuentes excelentes y claras disponibles, un modelo puede malinterpretar, atribuir mal, o mezclarlas en algo equivocado, porque la generación es probabilística y el motor está resumiendo, no citando. Lo que el buen contenido hace es mover las probabilidades: vuelve la respuesta correcta lo más fácil y mejor sustentado que el modelo puede ensamblar, y reduce el espacio para que el modelo eche mano de un chiste o una mala fuente para rellenar un hueco. Piénsalo como bajar la probabilidad y la gravedad del error, no eliminarlo. Eso vale de verdad la pena —pasar de «las únicas fuentes sobre esto son escasas y sarcásticas» a «la fuente más clara y creíble lo dice con sencillez» mejora de forma medible lo que la IA tiende a producir—. Pero es una cobertura, no una garantía, y el momento en que un proveedor promete exactitud garantizada es el momento de desconfiar.
¿Debería evitar la visibilidad en IA por este riesgo?
Esa sería la lección equivocada, y cara. El riesgo de que la IA se equivoque es real, pero apartarte no lo elimina: la IA seguirá respondiendo preguntas sobre tu categoría estés o no como fuente clara en la mezcla; solo lo hará contigo ausente, nutriéndose de lo demás que encuentre. La ausencia no te protege; cede el terreno. Los episodios que se volvieron virales son un argumento para participar, no para retirarse: cuanto mejor y más clara sea la información creíble disponible sobre ti y tu tema, menos espacio hay para que el modelo improvise algo equivocado, y más probable es que tu relato correcto sea en el que se apoye. La respuesta correcta a un sistema que puede inventar con confianza es asegurarte de que la verdad sea lo más disponible y mejor estructurado que pueda hallar, que es el mismo trabajo que ganar visibilidad, abordado con los ojos abiertos sobre sus límites. Llevamos 27 años ayudando a clientes a hacer justo eso.
Una nota sobre fuentes y momento
Esto se escribe en junio de 2024, semanas después de que los AI Overviews de Google se lanzaran a quienes buscaban en EE.UU. y produjeran de inmediato las respuestas del pegamento en la pizza y de comer piedras que se esparcieron por las redes. Hemos descrito lo que estaba documentado entonces: los errores específicos, su origen en publicaciones sarcásticas de foros y sátira, y la respuesta de Google, en la que Liz Reid reconoció que algunos resultados extraños eran genuinos y anunció salvaguardas contra tratar el humor y el contenido generado por usuarios como hechos. Deliberadamente no hemos citado los estudios posteriores que pusieron números a las tasas de alucinación, ni afirmaciones de que los sistemas más nuevos alucinan más, porque vinieron después y fecharían mal una vista de junio de 2024. Lo sólido ahora es el punto estructural que el episodio dejó claro: estos sistemas generan texto confiado que puede estar equivocado, la calidad de las fuentes disponibles moldea el resultado, y la fiabilidad es un riesgo a gestionar más que un problema resuelto, una postura que el AC Group ha sostenido sobre todo sistema de información por 27 años.