¿Podemos confiar en las búsquedas web con Inteligencia Artificial?
<https://urldefense.com/v3/__https://universoabierto.org/2024/11/04/podemos-confiar-en-las-busquedas-web-con-inteligencia-artificial/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7ghwms2WWg$ >




Bains, Callum. «*The Chatbot Optimisation Game: Can We Trust AI Web
Searches?*» *The Guardian*, 3 de noviembre de 2024.
https://urldefense.com/v3/__https://www.theguardian.com/technology/2024/nov/03/the-chatbot-optimisation-game-can-we-trust-ai-web-searches__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7ghPYiLimA$ 
.


*El artículo «The Chatbot Optimisation Game: Can We Trust AI Web Searches?»
publicado en The Guardian, analiza cómo los chatbots de inteligencia
artificial (IA) eligen y presentan la información en las búsquedas en línea
y cuestiona la confiabilidad de estas respuestas.*


Investigadores de la Universidad de California en Berkeley encontraron que
los chatbots actuales dependen excesivamente de la relevancia superficial
de la información <https://urldefense.com/v3/__https://arxiv.org/pdf/2402.11782__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7ggciv80gA$ >, priorizando textos
con lenguaje técnico o palabras clave sin evaluar su confiabilidad. Esto
significa que tienden a pasar por alto aspectos que normalmente
consideraríamos para verificar la veracidad, como referencias científicas o
lenguaje imparcial.

El concepto de «optimización de motores generativos
<https://urldefense.com/v3/__https://arxiv.org/pdf/2311.09735__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7gi0p24IHA$ >» fue introducido el año pasado,
indicando que el uso de un lenguaje autoritativo y referencias (incluso si
son incorrectas o irrelevantes) podría aumentar la visibilidad en las
respuestas de los chatbots hasta en un 40%. Sin embargo, estas conclusiones
son tentativas y los algoritmos de selección de los chatbots aún son
difíciles de manipular con reglas claras.

El uso de chatbots también plantea un dilema existencial en internet: a
diferencia de los motores de búsqueda tradicionales, los chatbots solo
mencionan unas pocas fuentes en sus respuestas, lo que beneficia a un grupo
reducido de sitios y deja prácticamente invisibles a otros, afectando su
tráfico significativamente.

Además, los investigadores de Harvard han demostrado que, más allá de la
GEO, es posible manipular directamente las respuestas de los chatbots con
“secuencias de texto estratégicas”. Estas secuencias, que parecen cadenas
de caracteres sin sentido, en realidad están diseñadas mediante algoritmos
que hacen que los chatbots generen respuestas específicas. Esto podría
permitir que ciertos productos o contenidos logren más visibilidad en las
respuestas de los chatbots, independientemente de su calidad o
confiabilidad.

Este tipo de manipulación plantea riesgos evidentes para los usuarios,
quienes podrían ver productos o información en el chatbot sin saber que
fueron posicionados mediante técnicas de manipulación. Aunque en el futuro
los LLMs (modelos de lenguaje de IA) podrían fortalecerse contra estos
ataques, los investigadores señalan que los métodos de manipulación también
están en constante evolución, por lo que los desafíos de control seguirán
presentes.

Otro problema que el artículo resalta es el llamado “dilema de la respuesta
directa <https://urldefense.com/v3/__https://downloads.webis.de/publications/papers/potthast_2020j.pdf__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7gjuH72ztQ$ >”,
un concepto desarrollado por el investigador Martin Potthast y su equipo.
Este dilema surge cuando los chatbots presentan una única respuesta a una
pregunta, lo cual puede llevar a que los usuarios acepten esa respuesta sin
buscar otros puntos de vista o fuentes. Esto plantea el riesgo de que los
usuarios perciban la respuesta del chatbot como la verdad única, sin
considerar otras perspectivas o matices que podrían ser importantes en
temas complejos.

Con la introducción de resúmenes de IA en los motores de búsqueda, Google
lanzó la campaña «Let Google do the searching for you»
<https://urldefense.com/v3/__https://blog.google/products/search/generative-ai-google-search-may-2024/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7giWApFDaA$ >
(«Deja
que Google haga la búsqueda por ti»), lo cual sugiere que estos resúmenes
optimizan el proceso de búsqueda. Sin embargo, este tipo de automatización
podría perjudicar a aquellos usuarios que buscan información imparcial y
precisa, ya que los chatbots, al ser susceptibles a manipulaciones, no
siempre pueden garantizar que la información proporcionada sea confiable.

En resumen, el artículo advierte sobre los desafíos éticos y prácticos que
implica la creciente dependencia de chatbots generativos para obtener
información en línea. Si bien pueden hacer las búsquedas más rápidas y
cómodas, los riesgos de manipulación y la falta de una supervisión clara en
la selección de información hacen que esta tecnología aún esté lejos de ser
una fuente autoritativa y confiable para temas complejos.
Esta entrada se publicó en Alfabetización informacional
<https://urldefense.com/v3/__https://universoabierto.org/category/alfabetizacion-informacional/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7ggsTJuCMw$ >,
Tecnologías
de la información
<https://urldefense.com/v3/__https://universoabierto.org/category/tecnologias-de-la-informacion/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7gisYv7SDQ$ > y
está etiquetada con Confiabilidad
<https://urldefense.com/v3/__https://universoabierto.org/tag/confiabilidad/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7gguMmEoyQ$ >, Fiabllidad
<https://urldefense.com/v3/__https://universoabierto.org/tag/fiabllidad/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7gi1q7B9PA$ >, Inteligencia artificial
<https://urldefense.com/v3/__https://universoabierto.org/tag/inteligencia-artificial/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7gguhncEKg$ >, Motores de
búsqueda <https://urldefense.com/v3/__https://universoabierto.org/tag/motores-de-busqueda/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7gjXuNZy_A$ > en noviembre
4, 2024
<https://urldefense.com/v3/__https://universoabierto.org/2024/11/04/podemos-confiar-en-las-busquedas-web-con-inteligencia-artificial/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7ghwms2WWg$ >
.


Últimos post

   - Evaluación de la equidad y la inclusión en la concesión de
   subvenciones al patrimonio cultural
   <https://urldefense.com/v3/__https://universoabierto.org/2024/11/02/evaluacion-de-la-equidad-y-la-inclusion-en-la-concesion-de-subvenciones-al-patrimonio-cultural/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7gguVTm7uw$ >
   - Aumento del 200 % en la censura de libros en escuelas públicas de EE.UU
   <https://urldefense.com/v3/__https://universoabierto.org/2024/11/02/aumento-del-200-en-la-censura-de-libros-en-escuelas-publicas-de-ee-uu/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7gjmfFKwqw$ >
   - Creative Commons lanza la Coalición TAROCH para el Acceso Abierto al
   Patrimonio Cultural
   <https://urldefense.com/v3/__https://universoabierto.org/2024/11/02/creative-commons-lanza-la-coalicion-taroch-para-el-acceso-abierto-al-patrimonio-cultural/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7gip85A9ng$ >
   - La IA generativa y la publicación científica. ¿Una
   tercera transformación?
   <https://urldefense.com/v3/__https://universoabierto.org/2024/10/31/la-ia-generativa-y-la-publicacion-cientifica-una-tercera-transformacion/__;!!D9dNQwwGXtA!V4OKD_mDAGGWNidL3-WE5rohIaqxX2KVjmf2Mb5s8CRFQvVGoyUW6zjx3Ue4Ci_LltcwfnRd7gi9fAVqcA$ >

ResponderReenviar