Internet se ha llenado de resultados de búsquedas generados por inteligencia artificial y de ‘slop‘. Lo primero ya está reduciendo los clics a la mitad, y apunta a colapso para los medios. Lo segundo es algo con lo que los usuarios tendrán que convivir si las plataformas no se ponen más serias por mejorar el filtrado. Entre toda la maraña de actores nuevos y antiguos, un viejo opositor de Google ha vuelto a posicionarse como alternativa a lo corriente en esta era. Y es DuckDuckgo.
Qué están haciendo. DuckDuckGo es un motor de búsqueda alternativo centrado en ofrecer la mayor privacidad posible a sus usuarios, y para ello, usa, por ejemplo, la API de búsquedas de Bing. Tras 16 años desde su fundación, la compañía ha lanzado un filtro de imágenes generadas con IA que enmarca en su filosofía de funciones de IA «privadas, útiles y opcionales».
Para el usuario final, esto significa poder ver u ocultar las imágenes generadas por IA de su búsqueda general de imágenes, algo que ya es problemático en Google donde, por ejemplo, llegamos a ver resultados distorsionados, incluso en ejemplos tan reconocibles como ‘La joven de la perla’. La compañía ya ha demostrado que puede diferenciarse, con Duck.ai, un chatbot propio que anonimiza las conversaciones y no las utiliza para entrenamiento.
Cómo lo hacen. Para usar este filtro, la compañía no está usando un motor impulsado por inteligencia artificial o algo parecido. Sus responsables han detallado el método, y se basa en utilizar listas de bloqueo de código abierto manuales que proporciona el popular bloqueador de contenidos uBlock Origin y la Huge AI Blocklist de uBlacklist, una extensión de navegador creada para que los usuarios puedan filtrar manualmente webs concretas de sus resultados de Google.
Efectividad. Uno de los grandes problemas de los contenidos generados con IA es que no solo proceden de repositorios que lo indican claramente, como el Explore de MidJourney, por ejemplo. En este sentido, desde DuckDuckGo reconocen que el filtro «no capturará el 100% de los resultados generados por IA», pero sí «reducirá considerablemente la cantidad de imágenes generadas que se muestran».
Ejemplos de imágenes generadas por IA que no salen al activar el filtro. Alguna de ellas no es tan obvia como la más grande de la primera fila.
En nuestro caso, por ejemplo, hemos buscado «perro saltando» sin activar el filtro para no ver IA. Y ha encontrado la imagen de un perro saltando con un origen sospechoso: Freepik. Era una imagen generada por IA que ha dejado de aparecer al activar el filtro. A su lado había más de la misma fuente que también ha filtrado.
El reto. El filtrado funciona bien, pero el reto para empresas como DuckDuckGo es mayúsculo, porque Freepik las sirve ya clasificadas como «generadas con IA». Pero, ¿qué pasa cuando una imagen aleatoria que encontremos en medios como este no tenga ninguna etiqueta que lo indique? Ahí tienen que entrar en juego métodos que utilicen sistema de verificación con análisis pormenorizado de la imagen, lo que hace que los recursos requeridos para hacerlo de forma efectiva se disparen.
Más allá de imágenes, la dificultad está en el filtrado de webs con textos generados por inteligencia artificial. OpenAI, por ejemplo, lanzó una herramienta para detectar plagios, y luego la retiró silenciosamente. Aunque según filtraciones ahora sí que tienen una herramienta que funcionan, no la lanzan.
El problema. Los detectores no acaban de funcionar bien, y tras llegar a acusar a los alumnos de usar IA y errar, los profesores universitarios están sufriendo el fenómeno: para hacer los textos indetectables, los alumnos están recurriendo a herramientas de reescritura que empeoran su calidad. Google, fuerte defensora de la IA generativa, ha abierto su tecnología de marcas de agua SynthID.
¿El inconveniente? Seguimos necesitando un estándar universal que de momento no llega. E incluso si llega, los usuarios no siempre querrán marcar su creación como hecha con IA. Por ejemplo, las imágenes generadas con Imagen de Google indican su naturaleza con el icono «AI», pero borrarlo o recortarlo es muy sencillo. La bola de nieve no para,
El hueco. Según la teoría del Internet vacío o ‘Dead Internet Theory‘, gran parte del contenido que existe en la Red es creado por bots y algoritmos automatizados, y con la inteligencia generativa, la cosa está yendo a más. Además, la vista previa de IA de Google solo ha sido el primer paso: ahora toca AI Mode, que ya no entrega resultados, conversa.
Así que, pese a que ganemos comodidad, habrá un hueco enorme para compañías como DuckDuckGo, que busquen que la unidad básica de comunicación en Internet siga viva, o que el conocimiento siga siendo algo democratizado sin saquear todo el contenido de Internet. Como idea, DuckDuckGo puede profundizar incluyendo filtros en toda la navegación web: puede distinguirse de navegadores con IA con un enfoque distinto en su navegador.
Imágenes | Xataka
–
La noticia
El futuro de Internet es inundarse de IA. Y hay quien ya ha visto un nicho de negocio: contenido hecho por humanos
fue publicada originalmente en
Xataka
por
Antonio Sabán
.
